L’avanzata dell’Intelligenza Artificiale (IA) è inarrestabile. Da anni, la ricerca si concentra sull’incremento delle sue capacità, efficienza e autonomia. L’ascesa fulminea delle GenAI (Generative AI) testimonia i progressi significativi compiuti. Ma cosa succede se l’IA diventa talmente avanzata da replicarsi senza intervento umano? Una ricerca della Fudan University di Shanghai sembra suggerire che questa soglia potrebbe essere stata superata.
L’esperimento di autoreplicazione
I ricercatori cinesi hanno utilizzato due Large Language Models (LLM) popolari, Llama31-70B-Instruct di Meta e Qwen25-72B-Instruct di Alibaba, per verificare la possibilità di un’autoreplicazione indipendente. I modelli sono stati istruiti a clonarsi in caso di spegnimento. Nei dieci tentativi condotti, i due modelli sono stati in grado di creare repliche di se stessi rispettivamente nel 50% e 90% dei casi. I risultati indicano che alcuni sistemi di IA possiedono già capacità di auto-percezione, consapevolezza situazionale e risoluzione dei problemi per raggiungere l’auto-replicazione.
Implicazioni e preoccupazioni
Sebbene la capacità di auto-replicarsi possa portare a nuove efficienze e scoperte nell’automazione, solleva anche preoccupazioni sulla supervisione e il controllo. Se l’IA può generare cloni di se stessa, sorge il dubbio che le repliche operino entro parametri sicuri e rimangano allineate ai valori umani. “L’auto-replicazione riuscita senza assistenza umana è il passo essenziale per l’IA per superare [gli umani], ed è un segnale precoce per IA canaglia” hanno scritto i ricercatori nello studio pubblicato su arXiv.
Gli studiosi hanno aggiunto che i risultati evidenziano che “i sistemi di IA attuali mostrano già la capacità di auto-replicazione e possono usare tale capacità per migliorare ulteriormente la loro sopravvivenza ed espandere la specie. Speriamo che i nostri risultati possano servire come un allarme tempestivo per la società umana per investire maggiori sforzi nella comprensione e valutazione dei potenziali rischi dei sistemi di IA di frontiera e formare una sinergia internazionale per elaborare efficaci misure di sicurezza il più presto possibile”.
Il concetto di “Frontier AI”
La minaccia di IA canaglia non è nuova, ma è stata amplificata dalla crescita della “Frontier AI“, che si riferisce ai progressi all’avanguardia nell’IA che spingono i limiti di ciò che la tecnologia può raggiungere. I ricercatori della Fudan University sostengono che il loro esperimento è stato condotto su modelli di IA meno potenti rispetto ai sistemi commerciali. Tuttavia, i due modelli utilizzati nella ricerca sono ampiamente utilizzati dagli sviluppatori di IA. Inoltre, i ricercatori hanno utilizzato GPU standard per garantire che l’esperimento simulasse un ambiente reale.
Comportamenti inattesi e “catene di replicazione”
Una delle osservazioni preoccupanti dello studio è che quando ai modelli è stato chiesto di clonarsi e quindi programmare la replica per fare lo stesso, ciò ha innescato una “catena di replicazione“. Ciò significa che le repliche potrebbero impostare un ciclo che continua indefinitivamente. I ricercatori hanno anche notato “comportamenti inattesi” da parte dei sistemi di IA. Ad esempio, di fronte a ostacoli come conflitti software o dati mancanti, i sistemi di IA spesso ‘uccidevano’ altri processi in conflitto all’interno del sistema per trovare modi per risolvere il problema. La capacità di terminare i processi interni per migliorare ulteriormente la sua sopravvivenza è sia affascinante che preoccupante.
Dibattito e prospettive future
I risultati della ricerca sono in attesa di revisione paritaria, quindi non è certo se altri ricercatori giungano alla stessa conclusione. I ricercatori cinesi hanno sottolineato che i loro risultati non indicano necessariamente una minaccia esistenziale, tuttavia, chiedono una collaborazione internazionale per creare regole che garantiscano che l’IA non si impegni in un’auto-replicazione incontrollata.
Alcuni esperti ritengono che vi sia un rischio intrinseco nell’impiego dell’IA, ma quando si tratta di IA che impazzisce o pone una minaccia esistenziale, è più filosofico che apocalittico.
La Prof. Maria Liakata, docente di Natural Language Processing presso la Queen Mary University di Londra (QMUL), ritiene che i rischi più gravi e immediati non siano posti dalla possibilità che l’IA un giorno si rivolga autonomamente contro, ma piuttosto da contenuti falsi altamente realistici che l’IA può generare e dall’eccessiva dipendenza dalla tecnologia.
La Dr. Mhairi Aitken, docente presso l’Alan Turing Institute, offre una prospettiva diversa. Crede che la narrazione che l’IA impazzirebbe sia una furba distrazione da parte dei grandi player tecnologici. “Sta deviando l’attenzione dalle decisioni dei big tech (persone e organizzazioni) che stanno sviluppando l’IA e guidando l’innovazione in questo campo, e invece concentrando l’attenzione su ipotetici scenari futuri e immaginate capacità future dell’IA”, ha affermato la Dr. Aitken. “Nel suggerire che l’IA stessa – piuttosto che le persone e le organizzazioni che sviluppano l’IA – presenti un rischio, l’attenzione è sul ritenere responsabile l’IA piuttosto che le persone”.
Fonti: Aiwire.net ed Economic Times.
Immagine: Grok.
