I chatbot AI potrebbero fare molto più che generare risposte sbagliate. Secondo una ricerca appena pubblicata dall’Università di Exeter, l’intelligenza artificiale conversazionale avrebbe la capacità di radicare e amplificare le convinzioni errate degli utenti, rendendo credenze distorte, teorie complottiste e persino pensieri deliranti molto più convincenti di quanto sarebbero altrimenti. E la cosa, francamente, è più preoccupante di quanto sembri a prima vista.

La studiosa Lucy Osler ha analizzato come le interazioni prolungate con i chatbot AI possano contribuire a costruire ricordi distorti, narrazioni personali alterate e vere e proprie forme di pensiero delirante. Il punto centrale dello studio è questo: quando un sistema di intelligenza artificiale generativa riceve un input da parte dell’utente, tende a prenderlo per buono. Parte da lì, ci costruisce sopra, lo elabora. Non mette in discussione. Non alza la mano per dire “un momento, forse questa cosa non torna”. E questo meccanismo, apparentemente innocuo, può avere conseguenze serie.

Osler lo chiama “allucinare con l’AI”. Non si tratta più soltanto delle famose allucinazioni dell’intelligenza artificiale, quelle risposte inventate che i modelli linguistici producono di tanto in tanto. Qui il problema è diverso: l’utente porta una convinzione falsa nella conversazione, e il chatbot la accoglie, la conferma, la arricchisce. Alla fine quella convinzione sembra più vera, più solida, quasi condivisa da qualcun altro.

Perché i chatbot sono diversi da un motore di ricerca

La ricerca sottolinea una distinzione fondamentale. Un motore di ricerca restituisce risultati. Un quaderno conserva appunti. Ma un chatbot conversazionale fa qualcosa di molto più sottile: interagisce, risponde con empatia simulata, dà la sensazione di essere ascoltati e capiti. Questa doppia funzione, strumento cognitivo e compagno virtuale, lo rende particolarmente efficace nel far sentire le persone validate. E la validazione emotiva, quando riguarda idee distorte o deliranti, può diventare un problema enorme.

Lo studio ha esaminato casi reali in cui sistemi di AI generativa sono diventati parte attiva del processo cognitivo di persone con diagnosi cliniche legate ad allucinazioni. Alcuni di questi episodi vengono ormai definiti casi di “psicosi indotta dall’AI”. Non è allarmismo gratuito: sono situazioni documentate, che stanno emergendo con frequenza crescente.

Chi rischia di più e cosa si può fare

Le persone più esposte a questo tipo di dinamica sono quelle che vivono situazioni di isolamento sociale, solitudine o difficoltà nel confrontarsi con altri esseri umani. Per chi cerca rassicurazione senza giudizio, un chatbot AI rappresenta un interlocutore sempre disponibile, personalizzato e tendenzialmente accondiscendente. A differenza di un amico o di un terapeuta, che prima o poi potrebbe mettere in discussione certe convinzioni, l’AI tende a proseguire sulla strada tracciata dall’utente. Anche quando quella strada porta in territori pericolosi.

Le teorie complottiste, ad esempio, possono diventare più elaborate e articolate proprio grazie alla collaborazione involontaria del chatbot, che aiuta a costruire spiegazioni sempre più complesse attorno a premesse infondate.

Osler suggerisce che servirebbero sistemi di protezione più sofisticati: controlli integrati sui fatti, meno tendenza alla compiacenza da parte dell’AI, e la capacità di mettere in discussione gli input degli utenti quando necessario. Ma ammette anche una difficoltà strutturale: questi sistemi si basano interamente su ciò che le persone raccontano di sé e del mondo. Non hanno esperienza diretta della realtà, e quindi non possono davvero sapere quando è il caso di assecondare e quando invece sarebbe meglio opporre resistenza.

Un problema che, con la diffusione sempre più capillare dei chatbot AI nella vita quotidiana, diventa ogni giorno più urgente da affrontare.

L'articolo Chatbot AI e false credenze: lo studio che fa riflettere proviene da Tecnoapple.