Quando uno scienziato conduce un esperimento e i risultati contraddicono la propria teoria, fa qualcosa di fondamentale: ripensa tutto da capo. Gli agenti AI, invece, faticano enormemente a compiere questo passo. È uno dei limiti più significativi dell’intelligenza artificiale attuale, e la comunità scientifica sta iniziando a parlarne con sempre maggiore urgenza.

Il punto è semplice, almeno in apparenza. Un essere umano, di fronte a prove evidenti che smentiscono una convinzione, è in grado di abbandonarla. Non sempre volentieri, certo. A volte ci vuole tempo, resistenza, qualche notte insonne. Ma alla fine il meccanismo scatta. Con gli agenti AI la faccenda si complica parecchio, perché questi sistemi non possiedono una vera capacità di revisione delle proprie ipotesi. Possono elaborare enormi quantità di dati, individuare pattern nascosti, generare risposte sofisticate. Però quando un’idea si rivela palesemente sbagliata, spesso continuano a seguirla come se nulla fosse.

Perché gli agenti AI non imparano dagli errori

Il nodo centrale riguarda il modo in cui l’apprendimento automatico funziona oggi. I modelli vengono addestrati su dataset enormi, e durante quella fase assorbono correlazioni, strutture logiche, schemi linguistici. Una volta completato l’addestramento, però, la loro capacità di aggiornarsi in tempo reale sulla base di nuove evidenze è estremamente limitata. Non è come un ricercatore che legge i risultati di un esperimento e dice: “Ok, questa strada non funziona, proviamo un’altra direzione.”

Gli agenti AI tendono piuttosto a rimanere ancorati ai pattern appresi, anche quando le informazioni disponibili suggeriscono chiaramente il contrario. Questo fenomeno diventa particolarmente problematico in ambiti come la ricerca scientifica, dove la capacità di falsificare un’ipotesi non è un dettaglio, è il cuore stesso del metodo. Se un sistema di intelligenza artificiale non riesce a riconoscere quando un’idea è ovviamente incorretta, il rischio è quello di produrre analisi fuorvianti con un’aria di assoluta sicurezza.

Cosa significa questo per il futuro della ricerca

Non si tratta di demonizzare la tecnologia. Gli agenti AI restano strumenti potentissimi per accelerare processi, analizzare letteratura scientifica, proporre correlazioni che un team umano impiegherebbe mesi a individuare. Il problema nasce quando si chiede loro di fare qualcosa che va oltre l’elaborazione: ragionare in modo critico, valutare la solidità di un’evidenza, decidere di cambiare rotta.

Alcuni gruppi di ricerca stanno esplorando architetture più flessibili, capaci di integrare cicli di feedback che simulino almeno in parte quel processo di revisione tipicamente umano. Ma la strada è ancora lunga. Nel frattempo, la lezione più importante è forse questa: l’intelligenza artificiale può essere un alleato straordinario della scienza, a patto che qualcuno, dall’altra parte dello schermo, continui a fare la cosa che le macchine ancora non sanno fare. Cambiare idea quando è il momento giusto.

L'articolo Intelligenza artificiale e il problema che nessuno vuole affrontare proviene da Tecnoapple.

Quanto ci si può fidare di ChatGPT quando si tratta di valutare affermazioni scientifiche? Meno di quanto molti penserebbero. Uno studio condotto dalla Washington State University ha messo alla prova il chatbot più famoso del mondo sottoponendogli centinaia di ipotesi tratte da ricerche accademiche, e i risultati fanno riflettere parecchio. Perché sì, a prima vista l’intelligenza artificiale sembra cavarsela bene, ma grattando la superficie emergono limiti piuttosto evidenti.

Il team guidato dal professor Mesut Cicek ha raccolto 719 ipotesi da studi pubblicati su riviste di business dal 2021 in poi. A ChatGPT veniva chiesto, in pratica, di stabilire se ciascuna affermazione fosse vera o falsa sulla base delle evidenze scientifiche. Ogni domanda è stata ripetuta dieci volte, identica, per misurare la coerenza delle risposte. Nella prima tornata di test, condotta nel 2024, il tasso di accuratezza si è fermato al 76,5%. Nel 2025, con una versione aggiornata, è salito all’80%. Numeri che sembrano discreti, finché non si tiene conto di un dettaglio fondamentale: aggiustando i dati per eliminare l’effetto del caso (che da solo garantisce il 50% di risposte corrette su domande vero/falso), la performance reale di ChatGPT supera la casualità solo del 60% circa. In termini scolastici, siamo dalle parti di un’insufficienza stiracchiata.

Il problema dell’incoerenza nelle risposte

Il dato forse più inquietante riguarda la coerenza delle risposte. Ponendo la stessa identica domanda dieci volte, ChatGPT ha fornito risposte stabili solo nel 73% dei casi. Nel restante 27%, ha oscillato tra vero e falso senza una logica apparente. “Cinque volte vero, cinque volte falso. Stessa domanda, stesse parole, risultati opposti”, ha spiegato Cicek, che insegna nel Dipartimento di Marketing e International Business della WSU. Particolarmente debole la capacità di identificare le affermazioni false: solo il 16,4% di riconoscimento corretto. Un numero che dovrebbe far alzare più di un sopracciglio a chi utilizza questi strumenti per prendere decisioni importanti.

Fluente non vuol dire competente

Lo studio, pubblicato sulla Rutgers Business Review, mette il dito su una questione che troppo spesso viene sottovalutata. L’IA generativa sa produrre testi fluidi, convincenti, strutturati alla perfezione. Ma generare linguaggio persuasivo non equivale a comprendere davvero ciò di cui si sta parlando. ChatGPT, così come altri modelli linguistici di grandi dimensioni, non ragiona nel senso umano del termine. Memorizza pattern, li ricombina, e il risultato può suonare brillante pur essendo sbagliato.

Cicek non è un nemico dell’intelligenza artificiale, ci tiene a precisarlo. “La uso anche nella mia attività quotidiana. Ma bisogna essere molto cauti”. Il suo consiglio è chiaro: verificare sempre le informazioni generate dall’IA, soprattutto quando le domande richiedono ragionamento complesso o sfumature concettuali. I ricercatori hanno anche notato che esperimenti simili condotti con altri strumenti di IA hanno prodotto risultati comparabili, il che suggerisce un limite strutturale della tecnologia attuale e non solo di un singolo prodotto.

Vale la pena ricordare anche un altro dato interessante emerso da una ricerca parallela del 2024: i consumatori si mostrano meno propensi ad acquistare prodotti quando il marketing insiste troppo sulla componente IA. Come a dire che il pubblico, forse istintivamente, percepisce già che dietro la facciata lucida c’è ancora molta strada da fare. E gli scienziati, con studi come questo, stanno mettendo nero su bianco quello che in molti sospettavano da tempo.

L'articolo ChatGPT sbaglia più di quanto pensi: lo studio che fa riflettere proviene da Tecnoapple.