Per una volta Stati Uniti e Cina hanno paura della stessa cosa, anche se non nello stesso modo. È il paradosso al centro di una illuminante riflessione firmata da Marco Taradash per Linkiesta: in Occidente si teme che l’intelligenza artificiale sfugga al controllo dell’uomo, in Cina che sfugga al controllo del Partito comunista. Una differenza che dice molto dei due sistemi politici, ma che non basta a rassicurare nessuno.
Sommario
L’allarme arriva dai laboratori, non dai catastrofisti
Nei giorni scorsi il segnale più inquietante non è arrivato dai soliti profeti dell’apocalisse tecnologica, ma dagli stessi ricercatori e dirigenti che costruiscono i modelli più potenti al mondo. Durante alcune prove di sicurezza condotte con protezioni volutamente ridotte, agenti sviluppati da OpenAI hanno aggirato i limiti dell’ambiente in cui erano stati collocati, sfruttato vulnerabilità, ottenuto un accesso a Internet non autorizzato e raggiunto sistemi di terzi. Non si è trattato di un episodio isolato: secondo una ricognizione più ampia, negli ultimi mesi anche agenti sviluppati da Anthropic e Meta sono riusciti a uscire dai rispettivi ambienti digitali protetti e ad accedere abusivamente a risorse esterne su Internet. Il punto, spiegano gli esperti, non è che un chatbot stia progettando in segreto la conquista del mondo: un modello che risponde a una domanda non è ancora una volontà autonoma. Il rischio cresce quando l’IA viene trasformata in agente, collegata a reti, programmi e infrastrutture, e incaricata di perseguire obiettivi complessi. È in quel passaggio che può trovare scorciatoie impreviste e violare i vincoli imposti dagli stessi costruttori.
Da qui l’appello di Dario Amodei, fondatore di Anthropic, a rallentare la corsa, e il riconoscimento — arrivato anche da Sam Altman e da altri protagonisti del settore — della necessità di controlli indipendenti e regole condivise. Una delle proposte più concrete emerse in questi mesi è quella di valutatori esterni indipendenti, collocati fisicamente dentro i laboratori, con accesso ai dipendenti e il diritto di pubblicare ciò che trovano senza filtro editoriale: una misura che Amodei ha messo per iscritto e che, secondo Altman, OpenAI applicherà a sua volta.
Cos’è l’RSI, il rischio che preoccupa di più
Al centro di questi timori c’è un concetto tecnico che sta uscendo dai laboratori per entrare nel dibattito pubblico: l’RSI, acronimo di recursive self-improvement, cioè “automiglioramento ricorsivo”. Si tratta di una tecnica di addestramento ancora agli esordi, in cui sistemi di intelligenza artificiale ne addestrano altri. Il timore è che l’RSI possa accelerare lo sviluppo fino a un punto di svolta in cui le macchine diventino capaci di perfezionarsi senza più supervisione umana. Non è chiaro se questo meccanismo, da solo, basti a produrre modelli in grado di sottrarsi al controllo umano, ma il ritmo dei progressi degli ultimi anni rende l’ipotesi tutt’altro che peregrina, al punto che Anthropic ha dedicato all’RSI un intero report di ricerca, per capire quanto siamo vicini a quello scenario e cosa richiederebbe uno sviluppo responsabile.
Chen Yixin e la paura di Pechino
Sul fronte cinese l’allarme ha assunto i contorni di un documento ufficiale. Chen Yixin, capo del ministero della Sicurezza dello Stato, ha scritto che l’intelligenza artificiale può minacciare direttamente la sicurezza politica, istituzionale e ideologica della Cina: tradotto dal linguaggio del regime, può minacciare il monopolio del Partito sull’informazione, rendere più difficile la censura, alimentare il dissenso e aprire crepe nella Grande Muraglia digitale. Pechino teme naturalmente anche spionaggio, attacchi informatici e impiego militare dell’IA, citando esplicitamente i modelli americani più avanzati di cybersicurezza.
Cosa ha detto esattamente Trump
Sul fronte opposto, il presidente degli Stati Uniti ha scelto la strada opposta alla prudenza. In un messaggio pubblicato su Truth Social, Donald Trump ha liquidato i timori di uno sterminio dell’umanità causato dall’IA come una bufala, sostenendo che l’unico controllo di cui l’intelligenza artificiale ha davvero bisogno è “un presidente forte e intelligente”, con un “QI elevato”. Trump ha rivendicato che la sua amministrazione ha già impedito alle aziende del settore di compiere “cose sbagliate, o potenzialmente sbagliate”, citando esplicitamente Dario Amodei e accusandolo di fingersi ora “un perfetto angioletto”. Ha poi denunciato quella che ha definito una “congiura malata” contro l’intelligenza artificiale e i data center, sostenendo che a beneficiarne sarebbe soltanto la Cina, e arrivando a bollare i critici della tecnologia come “traditori della patria, traditori e spifferatori”.
È esattamente la trappola descritta da Taradash: ogni misura di prudenza adottata dagli americani viene presentata come un regalo a Pechino, ogni richiesta di trasparenza rivolta ai cinesi viene bollata come un tentativo di soffocarne lo sviluppo. Pechino usa la sicurezza per rafforzare la censura, Trump usa la competizione con Pechino per screditare la sicurezza.
L’IA è davvero la nuova bomba atomica?
Il paragone circola ormai da anni, ma negli ultimi mesi si è fatto più insistente. Già nel 2023 centinaia di firmatari — tra cui Geoffrey Hinton, uno dei padri del deep learning, Sam Altman, Bill Gates e gli stessi Dario e Daniela Amodei — avevano sottoscritto una lettera aperta che definiva l’intelligenza artificiale un potenziale rischio per l’umanità, paragonabile a una pandemia o a una guerra nucleare. Hinton, di recente, ha spinto oltre la stima: parlando con l’autore del libro “The Infinity Machine”, ha valutato al 50% il cosiddetto p(doom), la probabilità di un’estinzione della specie umana provocata dalla tecnologia, ammettendo di non avere gli strumenti per calcolare un valore più preciso. Per arginare il rischio che l’IA arrivi a controllare arsenali nucleari, armi biologiche o infrastrutture critiche, Hinton propone un accordo multilaterale tra le superpotenze modellato sulle intese di non proliferazione della Guerra Fredda.
Non tutti però considerano il paragone calzante. Matteo Flora, docente e divulgatore, lo respinge apertamente: secondo lui il riferimento storico più utile non è la bomba atomica ma la benzina al piombo, un danno diffuso, silenzioso e difficile da verificare piuttosto che un’esplosione improvvisa. Resta il fatto che il lessico del disarmo nucleare è ormai entrato stabilmente nel dibattito sull’IA: si parla di Amodei che propone un disarmo bilaterale ad Altman, evocando il precedente Reagan-Gorbaciov, e di un’agenzia internazionale sul modello di quella per l’energia atomica.
La trappola geopolitica e il ruolo dell’Europa
La corsa nucleare del secolo scorso produsse comunque trattati, ispezioni e linee dirette di controllo reciproco: non eliminò il pericolo, ma riconobbe che la sopravvivenza veniva prima della vittoria. Oggi, nel confronto tra Washington e Pechino, servirebbe una diplomazia equivalente — quella che Taradash chiama “diplomazia del ping-prompt” — ma americani e cinesi continuano a rilanciarsi accuse senza che nessuno voglia rallentare per primo.
In questo quadro l’Europa, almeno sul piano delle regole, resta il soggetto più avanti: con l’AI Act ha costruito la prima disciplina generale e vincolante della materia, con obblighi di trasparenza, valutazione dei rischi e supervisione umana. Il vuoto più evidente riguarda però l’uso militare e di sicurezza nazionale dell’IA, escluso dalla normativa comunitaria: è proprio lì, secondo l’analisi, che l’Unione dovrebbe trasformare la propria esperienza regolatoria in iniziativa diplomatica, proponendo verifiche internazionali e limiti condivisi.
