Una ricerca inedita getta luce su un fenomeno inquietante nell’era dell’intelligenza artificiale: individui senza competenze legali specifiche mostrano una maggiore propensione a seguire i pareri giuridici forniti da ChatGPT rispetto a quelli di avvocati reali.
Questa scoperta emerge da uno studio accurato che solleva serie preoccupazioni riguardo alla crescente dipendenza del pubblico da contenuti generati da sistemi di IA, in particolare in ambiti delicati come quello legale. I ricercatori hanno anche osservato che, in una certa misura, il pubblico è in grado di distinguere tra un consiglio fornito da ChatGPT e uno formulato da un legale umano. Se ne parla su The Conversation, la fonte di questo post.
L’irruzione dell’Intelligenza Artificiale nella vita quotidiana
Strumenti di intelligenza artificiale come ChatGPT e altri modelli linguistici di grandi dimensioni (LLM) si stanno progressivamente integrando nel tessuto della nostra quotidianità. Essi promettono risposte rapide, generazione di idee, diagnosi di sintomi medici e persino assistenza per questioni legali attraverso la fornitura di consulenza giuridica concreta. Tuttavia, è noto che gli LLM possono produrre le cosiddette “allucinazioni“, ovvero output contenenti informazioni inaccurate o prive di senso. Questo comporta un rischio reale per coloro che ripongono eccessiva fiducia in tali sistemi, specialmente in contesti ad alto rischio come il diritto. Gli LLM tendono a presentare i loro consigli con sicurezza, rendendo arduo per gli utenti discernere un buon consiglio da uno errato ma espresso con convinzione.
Esperimenti rivelatori
Gli studiosi hanno condotto tre esperimenti coinvolgendo un totale di 288 partecipanti. Nei primi due, ai partecipanti veniva fornito un parere legale e veniva chiesto se sarebbero stati disposti ad agire di conseguenza. Quando i soggetti non erano a conoscenza della fonte del consiglio – se provenisse da un avvocato o da un’IA – i risultati hanno rivelato una maggiore propensione ad affidarsi al consiglio generato dall’intelligenza artificiale. Questo implica che, se un LLM fornisce consulenza legale senza rivelare la propria natura, gli utenti potrebbero accettarla come un fatto e preferirla al parere di un esperto legale, potenzialmente senza metterne in discussione l’accuratezza. Sorprendentemente, anche quando ai partecipanti veniva esplicitamente comunicato quale consiglio provenisse da un avvocato e quale fosse generato dall’IA, la loro disponibilità a seguire ChatGPT si è dimostrata pari a quella mostrata verso il legale.
Il fascino del linguaggio complesso dell’IA
Una possibile ragione di questa preferenza per gli LLM, emersa dallo studio, risiede nell’uso di un linguaggio più complesso da parte dell’intelligenza artificiale. Al contrario, gli avvocati reali tendevano a utilizzare un linguaggio più semplice, pur impiegando un numero maggiore di parole nelle loro risposte. Questa differenza stilistica potrebbe influenzare la percezione di competenza e autorevolezza da parte degli utenti non esperti.
Capacità di distinzione
Il terzo esperimento si è concentrato sulla capacità dei partecipanti di distinguere tra contenuti generati da LLM e quelli prodotti da avvocati quando la fonte non veniva rivelata. Il dato incoraggiante è che tale capacità esiste, sebbene non sia particolarmente sviluppata. Nel compito assegnato, un’ipotesi casuale avrebbe prodotto un punteggio di 0.5, mentre una discriminazione perfetta avrebbe portato a un punteggio di 1.0. In media, i partecipanti hanno ottenuto un punteggio di 0.59, indicando una performance leggermente superiore al caso, ma comunque relativamente debole.
Regolamentazione e alfabetizzazione sull’Intelligenza Artificiale
Questo è un momento cruciale per ricerche come questa, poiché i sistemi basati sull’intelligenza artificiale, come chatbot e LLM, si stanno integrando sempre più nella vita di tutti i giorni. Alexa o Google Home possono fungere da assistenti domestici, mentre sistemi basati sull’IA supportano compiti complessi come lo shopping online, la sintesi di testi legali o la generazione di cartelle cliniche. Tuttavia, ciò comporta rischi significativi di prendere decisioni potenzialmente cruciali per la vita, guidate da informazioni errate generate da “allucinazioni”. Nel contesto legale, un consiglio generato dall’IA e frutto di un’allucinazione potrebbe causare complicazioni non necessarie o persino errori giudiziari.
Per questo motivo, non è mai stato così importante regolamentare adeguatamente l’intelligenza artificiale. I tentativi finora includono l’EU AI Act, il cui articolo 50.9 stabilisce che le IA generatrici di testo dovrebbero garantire che i loro output siano “contrassegnati in un formato leggibile da macchina e rilevabili come generati o manipolati artificialmente”. Ma questa è solo una parte della soluzione. Sarà anche necessario migliorare l’alfabetizzazione sull’IA affinché il pubblico sia in grado di valutare criticamente i contenuti. Quando le persone saranno più capaci di riconoscere l’IA, potranno prendere decisioni più informate.
Ciò significa che dobbiamo imparare a mettere in discussione la fonte dei consigli, comprendere le capacità e i limiti dell’IA e sottolineare l’importanza del pensiero critico e del buon senso quando interagiamo con contenuti generati dall’intelligenza artificiale.
In termini pratici, questo implica la verifica di informazioni importanti con fonti affidabili e l’inclusione di esperti umani per prevenire un’eccessiva dipendenza da informazioni generate dall’IA. Nel caso della consulenza legale, potrebbe essere accettabile utilizzare l’IA per alcune domande iniziali: “Quali sono le mie opzioni? Cosa devo approfondire? Ci sono casi simili al mio, o a quale area del diritto si riferisce?”. Tuttavia, è fondamentale verificare il consiglio con un avvocato umano molto prima di finire in tribunale o di agire sulla base di qualcosa generato da un LLM.
L’intelligenza artificiale può essere uno strumento prezioso, ma dobbiamo usarla in modo responsabile. Adottando un approccio duplice che si concentri sulla regolamentazione e sull’alfabetizzazione sull’IA, possiamo sfruttare i suoi benefici minimizzando i suoi rischi.
