La fretta è cattiva consigliera. E vale anche per l’uso sconsiderato delle intelligenze artificiali nella valutazione e selezione degli articoli scientifici da pubblicare su riviste indicizzate, ma pure di progetti di ricerca suscettibili di ricevere finanziamenti.
Si tratta del processo che tra gli addetti ai lavori è chiamato di “peer review” (revisione tra pari), vale a dire che tale valutazione e selezione viene fatta da specialisti di quel determinato settore scientifico.
Ebbene, come lamenta sull’ultimo numero della rivista “Nature” James Zou professore associato di biomedical data science alla californiana Stanford University, almeno il 17% di tali valutazioni e selezioni sono scritte dall’intelligenza artificiale. Questa tendenza si rileva soprattutto in coloro che mandano le loro recensioni all’ultimo momento prima della scadenza. Come dire: “mi sono ridotto all’ultimo, ormai non ho più tempo, la valutazione me la faccio scrivere dalla IA”.
Tuttavia tali recensioni sono generalizzate, superficiali e tendono a ripetere vocaboli come “encomiabile” e “meticoloso” che sono ora dieci volte più comuni nelle revisioni paritarie rispetto a prima del 2022, cioè prima del lancio di ChatGPT. Ma si stanno già perfezionando IA che sgamano i testi generati dalle IA, cioè IA che risolvono i problemi generati dalle IA.
Come scrive James Zou: “È essenziale riconoscere che l’attuale generazione di LLM (large language model, grandi modelli linguistici) non può sostituire i revisori umani esperti. Nonostante le loro capacità, gli LLM non possono esibire un ragionamento scientifico approfondito. A volte generano anche risposte senza senso, note come allucinazioni”.
James Zou, ChatGPT is transforming peer review — how can we use it responsibly?, Nature, 05 November 2024.
Filed under: IA, Intelligenza Artificiale | Tagged: IA e peer review |
Neurobioblog # connessioni cervello mente corpo 
Lascia un commento