La peer review, il meccanismo che da decenni rappresenta il pilastro della validazione scientifica, sta attraversando un momento di seria difficoltà. Per chi non lo sapesse, si tratta di quel processo in cui un articolo scientifico viene esaminato da altri ricercatori esperti nello stesso campo prima di essere pubblicato. Un filtro fondamentale, in teoria. Nella pratica, però, le cose si stanno complicando parecchio.

Il volume delle pubblicazioni scientifiche è esploso negli ultimi anni. I revisori, che svolgono questo lavoro quasi sempre gratuitamente e nel tempo libero, non riescono più a stare dietro alla mole di manoscritti da valutare. I tempi di revisione si allungano, la qualità delle valutazioni cala, e sempre più ricercatori rifiutano gli incarichi di revisione perché semplicemente non hanno le ore per farlo. Il risultato? Articoli che restano in attesa per mesi, a volte oltre un anno, prima di ricevere un feedback. E quando arriva, non sempre è all’altezza di quello che ci si aspetterebbe dal cosiddetto gold standard della scienza.

L’intelligenza artificiale come possibile alleata

Ed è qui che entra in gioco l’intelligenza artificiale. Alcuni editori e piattaforme accademiche hanno iniziato a sperimentare strumenti basati su modelli di linguaggio avanzati per supportare il processo di revisione. L’idea non è sostituire i revisori umani, almeno non del tutto, ma alleggerire il carico. Un sistema di IA può verificare la coerenza statistica, segnalare potenziali errori metodologici, controllare la struttura di un articolo e persino individuare problemi di plagio o manipolazione dei dati.

Sulla carta sembra una soluzione sensata. Eppure porta con sé una serie di problemi etici e pratici che non si possono ignorare. I modelli di IA, per quanto sofisticati, tendono a generare valutazioni che suonano convincenti anche quando sono sbagliate. Le cosiddette “allucinazioni” dei sistemi generativi rappresentano un rischio concreto: un commento di revisione che sembra autorevole ma si basa su informazioni inventate potrebbe fare danni enormi alla qualità della ricerca scientifica.

C’è poi la questione della trasparenza. Se un articolo viene valutato, anche solo parzialmente, da un algoritmo, chi ne risponde? Il revisore che ha firmato la valutazione? L’editore che ha implementato lo strumento? La responsabilità accademica diventa sfumata, e questo è un problema serio in un ambito dove la fiducia è tutto.

Un equilibrio ancora da trovare

Va detto che non tutti nella comunità scientifica vedono l’IA come una minaccia. Alcuni ricercatori accolgono con favore l’idea di avere un supporto tecnologico che li aiuti a svolgere meglio e più velocemente il lavoro di revisione tra pari. Soprattutto nelle discipline dove il numero di sottomissioni è diventato ingestibile, qualsiasi aiuto è benvenuto.

Il punto, però, è che la peer review non è solo un controllo tecnico. È un atto di giudizio, di esperienza, di intuizione maturata in anni di lavoro sul campo. Capire se un esperimento ha senso, se un’interpretazione regge, se una conclusione è davvero supportata dai dati: queste sono competenze profondamente umane. L’intelligenza artificiale può affiancare, suggerire, velocizzare. Ma il giudizio finale, almeno per ora, deve restare nelle mani di chi la scienza la fa davvero. La sfida è trovare quel punto di equilibrio in cui la tecnologia aiuta senza sostituire ciò che rende la revisione scientifica credibile.

L'articolo IA e peer review: può davvero salvare la scienza dalla crisi? proviene da Tecnoapple.

Il punto centrale è questo: la frode scientifica si è trasformata in un business. E un business molto redditizio. Il team guidato da Luís A. N. Amaral, docente di scienze ingegneristiche e matematica applicata alla McCormick School of Engineering, ha analizzato enormi quantità di dati provenienti da database come Web of Science, Scopus, PubMed e OpenAlex. Ne è emerso un quadro che fa riflettere parecchio. Reti di persone e organizzazioni lavorano insieme, nell’ombra, per sfruttare ogni punto debole del processo editoriale accademico. “Sono essenzialmente organizzazioni criminali che simulano il processo scientifico”, ha dichiarato Amaral. “Sono coinvolti milioni di dollari.”

Come funzionano le fabbriche di studi falsi

Al centro di tutto ci sono le cosiddette paper mill, vere e proprie catene di montaggio per manoscritti accademici. Funzionano così: producono articoli scientifici in serie, spesso con dati inventati, immagini manipolate o rubate, testi plagiati e, in alcuni casi, affermazioni scientificamente impossibili. Questi articoli vengono poi venduti a ricercatori che vogliono gonfiare il proprio curriculum in fretta. Non solo: è possibile comprare anche citazioni e posizioni autoriali. Vuoi il primo nome nell’elenco degli autori? Costa di più. Il quarto posto? Un po’ meno. Come in un listino prezzi.

Reese Richardson, primo autore dello studio e ricercatore post dottorale nel laboratorio di Amaral, ha spiegato che le paper mill operano con modelli diversi, il che rende ancora più complicato individuarle tutte. “Vendono sostanzialmente qualsiasi cosa possa essere usata per riciclare una reputazione accademica“, ha detto. Il gruppo di ricerca ha anche lanciato un progetto parallelo, accettato per la pubblicazione su PLOS ONE, che utilizza un sistema automatizzato per scansionare gli studi nel campo della scienza dei materiali e dell’ingegneria, cercando errori sospetti nell’identificazione degli strumenti sperimentali.

Intermediari, riviste compromesse e il dirottamento delle testate

Ma le paper mill sono solo un pezzo del puzzle. Lo studio ha individuato anche il ruolo cruciale dei broker, intermediari che mettono in contatto chi scrive gli articoli falsi, chi paga per figurare come autore e le riviste disposte a pubblicare senza troppi controlli. “Servono persone che scrivano l’articolo, persone disposte a pagare per risultare autori, una rivista dove pubblicare il tutto e redattori in quella rivista pronti ad accettare il lavoro”, ha spiegato Amaral. Un sistema rodato, con ruoli ben definiti.

C’è poi un fenomeno particolarmente subdolo: il dirottamento di riviste scientifiche. Quando una pubblicazione legittima smette di operare e il suo dominio web scade, gruppi fraudolenti lo acquistano e lo riattivano, trasformandolo in un veicolo per la pubblicazione di studi falsi. È successo, ad esempio, con la rivista HIV Nursing, che era il giornale di un’organizzazione professionale infermieristica nel Regno Unito. Dopo la cessazione delle attività, qualcuno ha comprato il dominio e ha iniziato a pubblicarci migliaia di articoli su argomenti che non avevano nulla a che fare con l’infermieristica, tutti indicizzati in Scopus.

Lo studio ha anche rilevato che la frode scientifica tende a concentrarsi in specifici settori disciplinari, quelli più vulnerabili alla manipolazione. E quando le riviste coinvolte vengono rimosse dagli indici dei database, le reti fraudolente trovano comunque il modo di aggirare i controlli e ripartire.

Perché bisogna agire adesso, prima che sia troppo tardi

Amaral e Richardson non si limitano a descrivere il problema. Lanciano un appello chiaro: servono strategie ampie e coordinate. Monitoraggio più stretto delle pratiche editoriali, strumenti più efficaci per individuare gli studi fraudolenti, una comprensione più profonda delle reti che alimentano la frode e, soprattutto, un ripensamento degli incentivi che governano il mondo delle pubblicazioni scientifiche. Perché se il sistema premia chi pubblica tanto e in fretta, senza badare troppo alla qualità, il terreno per queste operazioni resta fertile.

E poi c’è l’elefante nella stanza: l’intelligenza artificiale generativa. Richardson ha messo in guardia: se la comunità scientifica non è in grado di gestire la frode che già esiste, figurarsi cosa succederà quando gli strumenti di IA diventeranno ancora più sofisticati e pervasivi. “Non abbiamo idea di cosa finirà nella letteratura scientifica, di cosa verrà considerato fatto scientifico e di cosa verrà usato per addestrare i futuri modelli di IA, che a loro volta scriveranno altri articoli”, ha avvertito.

Amaral ha ammesso che questo è stato il progetto più deprimente della sua carriera. “Fin da bambino ero entusiasta della scienza. Vedere altri impegnarsi nella frode e nell’inganno è angosciante.” Ma poi ha aggiunto qualcosa di importante: “Se credi che la scienza sia utile e importante per l’umanità, allora devi combattere per essa.” La scienza, insomma, deve imparare a difendersi. E deve farlo in fretta, perché la frode scientifica organizzata non sta aspettando nessuno.

L'articolo Frode scientifica è diventata un business: lo studio che svela tutto proviene da Tecnoapple.