Apple ha deciso di ritirare temporaneamente la sua nuova funzione di intelligenza artificiale che riassume le notifiche di notizie. La funzione, introdotta a ottobre, ha suscitato numerose critiche a causa di riassunti fuorvianti o completamente falsi, quasi indistinguibili dalle normali notifiche push.
La BBC e altri segnalano errori gravi
La BBC, ad esempio, ha lamentato che la funzione ha creato titoli falsi. Esempio: Luigi Mangione, accusato dell’omicidio del CEO di UnitedHealthcare, si era ucciso, quando in realtà non era vero. In un altro caso, tre articoli del New York Times sono stati riassunti in un’unica notifica push, affermando erroneamente che il Primo Ministro israeliano Benjamin Netanyahu era stato arrestato.
Un portavoce della BBC ha dichiarato alla CNN a dicembre: “È fondamentale che Apple affronti urgentemente questi problemi, poiché l’accuratezza delle nostre notizie è essenziale per mantenere la fiducia. Questi riassunti AI di Apple non riflettono – e in alcuni casi contraddicono completamente – il contenuto originale della BBC”.
Apple sospende la funzione e promette miglioramenti
Ieri, giovedì 16 gennaio, di conseguenza, Apple ha rilasciato un aggiornamento software beta per gli sviluppatori che disabilita la funzione AI per i titoli di notizie e intrattenimento. L’azienda prevede di estendere l’aggiornamento a tutti gli utenti. lavorando per migliorare la funzione e reintrodurla in futuro.
Maggiore trasparenza sull’utilizzo dell’AI
Come parte dell’aggiornamento, Apple ha dichiarato che i riassunti di Apple Intelligence, che gli utenti devono scegliere di attivare, indicheranno più chiaramente che le informazioni sono state prodotte dall’AI, segnalando che a volte potrebbero produrre risultati imprecisi.
Le “allucinazioni” dell’AI: un problema diffuso
I problemi di Apple con l’AI non sono un caso isolato. Modelli popolari come ChatGPT spesso producono “allucinazioni”, ovvero informazioni inventate. I modelli linguistici di grandi dimensioni, la tecnologia alla base degli strumenti di AI, sono addestrati a rispondere agli input con “una risposta plausibile”, come ha spiegato Suresh Venkatasubramanian, professore alla Brown University e coautore del Blueprint for an AI Bill of Rights della Casa Bianca, in un’intervista alla CNN.
“Quindi, in questo senso, qualsiasi risposta plausibile, che sia accurata, fattuale, inventata o meno, è una risposta ragionevole, ed è quello che produce”, ha detto Venkatasubramanian. “Non c’è l’ alcuna conoscenza della verità”.
Il problema delle allucinazioni persiste
A due anni dal lancio di ChatGPT, le allucinazioni dell’AI rimangono un problema diffuso. Uno studio del luglio 2024 condotto da Cornell, l’Università di Washington e l’Università di Waterloo ha rilevato che i principali modelli di AI non sono ancora completamente affidabili, data la loro propensione a inventare informazioni.
Fonti: The Ai Report e CNN.
