Google DeepMind ha pubblicato un documento di 145 pagine, redatto in collaborazione con il co-fondatore Shane Legg, che delinea un approccio dettagliato per garantire la sicurezza dell’Intelligenza Artificiale Generale (AGI), definita come un’IA capace di svolgere qualsiasi compito umano.
Il rapporto, concepito come un punto di partenza per ulteriori discussioni, prevede che l’AGI potrebbe emergere entro il 2030, ma avverte che, senza adeguate misure di sicurezza, potrebbe causare “gravi danni” e persino “rischi esistenziali” in grado di “distruggere l’umanità in modo permanente”.
“Anticipiamo lo sviluppo di un’AGI eccezionale prima della fine di questo decennio”, scrivono gli autori, definendo un’AGI eccezionale come un sistema con capacità pari al 99° percentile degli adulti qualificati in una vasta gamma di compiti non fisici, inclusi quelli metacognitivi come l’apprendimento di nuove competenze.
I rischi dell’AGI: un potenziale distruttivo senza precedenti
Il documento di DeepMind non si limita a previsioni ottimistiche, ma lancia un allarme chiaro sui pericoli dell’AGI. Gli autori sottolineano che, se non controllata, questa tecnologia potrebbe portare a rischi esistenziali, con conseguenze catastrofiche per l’umanità. Sebbene il rapporto non definisca nel dettaglio cosa si intenda per “gravi danni”, il riferimento a scenari estremi come la distruzione permanente dell’umanità evidenzia la gravità delle preoccupazioni. “La natura trasformativa dell’AGI ha il potenziale per portare sia benefici incredibili sia danni gravi”, scrivono gli autori. “Per questo, è fondamentale che gli sviluppatori di IA di frontiera pianifichino in modo proattivo per mitigare i rischi più severi”.
Un punto critico evidenziato nel documento è la possibilità di un miglioramento ricorsivo dell’IA, un ciclo in cui l’IA conduce ricerche su se stessa per creare sistemi sempre più avanzati. Questo processo, secondo DeepMind, potrebbe sfuggire al controllo umano, con conseguenze imprevedibili. Tuttavia, non tutti gli esperti concordano: Matthew Guzdial, professore assistente all’Università di Alberta, ha dichiarato a TechCrunch: “Il miglioramento ricorsivo è alla base degli argomenti sulla singolarità dell’intelligenza, ma non abbiamo mai visto prove che funzioni davvero”.
Critiche agli approcci di Anthropic e OpenAI
Il rapporto di DeepMind non risparmia critiche ai competitor. In particolare, l’approccio di Anthropic alla sicurezza dell’IA viene definito carente di “formazione, monitoraggio e sicurezza solidi”, mentre OpenAI è accusata di un eccessivo ottimismo nell’automatizzare la ricerca sull’allineamento dell’IA, ovvero il processo che garantisce che gli obiettivi dell’IA siano in linea con i valori umani. DeepMind, al contrario, propone un approccio più strutturato, basato su protocolli di sicurezza multilivello, che includono formazione rigorosa, monitoraggio proattivo e sistemi di sicurezza avanzati.
Il documento mette anche in dubbio la fattibilità di un’IA superintelligente, capace di superare qualsiasi essere umano in ogni compito. OpenAI ha recentemente dichiarato di voler puntare alla superintelligenza, ma gli autori di DeepMind ritengono che, senza “innovazioni architettoniche significative”, tali sistemi non siano realistici nel breve termine, se non mai.
Le soluzioni proposte: sicurezza e regolamentazione
Per affrontare i rischi dell’AGI, DeepMind propone una serie di misure concrete. Tra queste, lo sviluppo di tecniche per limitare l’accesso ai malintenzionati, una maggiore comprensione delle decisioni prese dai sistemi di IA e la creazione di ambienti sicuri e controllati, regolati da norme stringenti. Gli autori riconoscono che molte di queste tecniche sono ancora in fase embrionale e presentano “problemi di ricerca aperti”, ma sottolineano l’importanza di non ignorare le sfide di sicurezza che potrebbero emergere.
Un altro aspetto fondamentale è la necessità di una regolamentazione globale. DeepMind invita governi e aziende tecnologiche a collaborare per stabilire norme che limitino i potenziali danni dell’AGI, in un momento in cui l’interesse per la sicurezza dell’IA sembra essere diminuito. Negli ultimi mesi, infatti, la corsa globale per raggiungere l’AGI ha spinto molti governi e conglomerati tecnologici a dare priorità alla competizione internazionale, con il timore che “il rischio maggiore potrebbe essere quello di perdersi”, come evidenziato nel documento.
Le voci critiche: l’AGI è davvero una minaccia imminente?
Non tutti gli esperti condividono le preoccupazioni di DeepMind. Heidy Khlaaf, chief AI scientist presso l’AI Now Institute, ha dichiarato a TechCrunch che il concetto di AGI è “troppo mal definito per essere valutato scientificamente in modo rigoroso”. Anche Sandra Wachter, ricercatrice di tecnologia e regolamentazione a Oxford, ha espresso dubbi, sottolineando un rischio più immediato: “Con la proliferazione di output di IA generativa su internet e la graduale sostituzione di dati autentici, i modelli stanno imparando dai loro stessi output, pieni di inesattezze o allucinazioni”, ha detto a TechCrunch. “I chatbot sono usati principalmente per scopi di ricerca e verifica della verità, il che ci espone costantemente al rischio di credere a informazioni false presentate in modo convincente”.
