Il Garante per la protezione dei dati personali ha sanzionato per 158mila euro Character Technologies Inc., la società statunitense che gestisce Character.AI, il servizio di intelligenza artificiale generativa che permette agli utenti — anche minorenni — di creare e chattare con personaggi virtuali. Il provvedimento, datato 3 luglio 2026, arriva al termine di un’istruttoria avviata d’ufficio dall’Autorità.

Le violazioni accertate

Secondo la nota diffusa dal Garante, l’indagine ha portato alla luce diverse violazioni della disciplina sulla protezione dei dati, tra cui carenze nell’informativa fornita agli utenti, oltre a una tardiva predisposizione della valutazione d’impatto sulla protezione dei dati (Dpia) e della designazione del rappresentante nell’Unione Europea.

Le criticità più gravi, però, riguardano proprio il fronte più delicato: le garanzie a tutela dei minori e le procedure di verifica dell’età degli utenti.

Cosa dovrà fare ora Character.AI

Pur avendo preso atto degli interventi correttivi già messi in campo dall’azienda nel corso del procedimento, il Garante ha imposto misure aggiuntive, ritenute necessarie vista la delicatezza di un servizio di intrattenimento aperto anche ai minorenni.

Considerati i rischi derivanti dall’impiego dell’intelligenza artificiale generativa in un servizio di intrattenimento accessibile anche ai minorenni, il Garante privacy – pur prendendo atto degli interventi adottati dalla società nel corso dell’istruttoria – ha prescritto ulteriori misure. 

Nello specifico, Character Technologies dovrà garantire il corretto funzionamento dei sistemi di verifica dell’età, rendere davvero efficace il cosiddetto “periodo di raffreddamento” — cioè il meccanismo che dovrebbe impedire ai minori bloccati di registrarsi nuovamente con un nuovo account — e impostare di default i profili dei minorenni in modalità privata.

L’azienda avrà 120 giorni di tempo dalla notifica del provvedimento per comunicare all’Autorità le misure effettivamente adottate.

Dagli atti del procedimento emerge inoltre che la società, nel tentativo di rimediare ad alcune delle contestazioni, ha aggiornato la propria informativa privacy per gli utenti italiani, con una versione entrata in vigore dal 1° luglio 2026, pensata per fornire informazioni più chiare sulle basi giuridiche dei trattamenti effettuati.

Creator digitale nei guai col Fisco: non dichiarati 700mila euro di guadagni online

Cos’è Character.AI e quanto è diffusa

Character.AI è una piattaforma di intelligenza artificiale generativa che consente di conversare con personaggi virtuali — reali, storici, immaginari o creati dagli stessi utenti — attraverso un sistema di chat testuale evoluto. Nata nel 2022 dagli ex ingegneri Google Noam Shazeer e Daniel De Freitas, oggi rientra tra le piattaforme più utilizzate al mondo nel settore degli “AI companion”: conta circa 20 milioni di utenti attivi mensili, con stime che in alcuni periodi hanno toccato anche i 28 milioni, e oltre 18 milioni di chatbot creati dalla community. 

Gli Stati Uniti restano il mercato di riferimento, ma la diffusione è ormai globale, con una quota significativa di utenza under 25: più della metà degli utenti ha tra 18 e 24 anni, mentre diverse ricerche internazionali segnalano un uso crescente anche tra gli adolescenti, con sessioni che in media superano l’ora di utilizzo giornaliero. È proprio questa combinazione — piattaforma di intrattenimento fortemente immersiva e pubblico che include in modo consistente i minorenni — ad aver attirato negli ultimi mesi l’attenzione delle autorità di controllo di diversi Paesi, non solo in Italia.

I rischi concreti per gli utenti

Il nodo centrale sollevato dal Garante riguarda l’efficacia reale dei sistemi di age verification: se un minore riesce ad aggirare i controlli d’accesso, si trova esposto a conversazioni con personaggi virtuali capaci di simulare empatia, affetto o relazioni intime, senza le tutele previste per un pubblico vulnerabile. A questo si aggiungono i rischi legati alla scarsa trasparenza informativa, che rende difficile per gli utenti — e ancor più per i genitori — comprendere quali dati vengano raccolti, come vengano trattati e per quali finalità, incluso l’eventuale utilizzo delle conversazioni per addestrare i modelli linguistici della piattaforma. 

Non meno rilevante è il rischio legato alla profilazione: un servizio che raccoglie enormi quantità di dati conversazionali, spesso di natura personale e talvolta intima, senza adeguate garanzie rischia di esporre gli utenti — soprattutto i più giovani — a trattamenti non pienamente conformi al Regolamento europeo sulla protezione dei dati (Gdpr).

Cosa potrebbe (e dovrebbe) fare ora l’azienda

Al di là degli obblighi imposti dal provvedimento italiano, la sanzione del Garante si inserisce in un contesto internazionale di crescente attenzione verso le piattaforme di AI companion rivolte anche ai minori, con numerosi Stati Uniti che stanno discutendo normative specifiche sui chatbot e con altre autorità di protezione dati europee che seguono con attenzione il fenomeno. Per Character.AI questo significa, con ogni probabilità, dover investire in modo più strutturale — e non solo reattivo alle contestazioni — su tre fronti: sistemi di verifica dell’età realmente efficaci e non aggirabili, un’informativa privacy trasparente e comprensibile fin dal primo accesso, e controlli più rigidi sui contenuti a cui i minorenni possono essere esposti durante le conversazioni. Il rischio, in caso contrario, è quello di nuove istruttorie e sanzioni, in un settore — quello dei companion AI — che si trova ormai stabilmente sotto la lente dei regolatori di tutto il mondo, proprio per l’ambiguità tra intrattenimento e relazione simulata che caratterizza questi servizi.