Uno studio del Dipartimento di Informatica della Sapienza ha messo in luce i rischi di un utilizzo poco consapevole delle piattaforme AI
I Large Language Models (LLM) nella società odierna sono sempre più utilizzati.
Ma possiamo fidarci della reputazione infallibile che si sono costruiti? La risposta è no.
Un team di ricercatori del dipartimento di Informatica della Sapienza, guidato da Walter Quattrociocchi, coordinatore del Laboratory of Data Science and Complexity all’Università di Venezia Ca’Foscari, si è occupato di studiare e contestualizzare questi LLM nella nostra società. Lo studio è stato pubblicato sulla rivista dell’Accademia Nazionale degli Stati Uniti: Pnas.
L’indagine si è strutturata in diversi esperimenti con l’obiettivo di comprendere e valutare i processi logici simulati dalle tecnologie LLM, confrontandoli con i reali processi cognitivi umani. Alcuni di questi esperimenti hanno permesso di analizzare la capacità critica di persone e modelli LLM tramite la comparazione di centinaia di siti di informazione dei quali andava determinata la credibilità. Altri, invece, hanno permesso di individuare, con la collaborazione anche del Dipartimento di Psicologia, bias politici sistematici e divergenze strutturali nei criteri di giudizio.
“Il meccanismo che utilizzano non si basa su riscontri reali ma su una mera capacità di simulare giudizi. In altre parole, i giudizi formulati dai LLM non sono plausibili ma disancorati dalla realtà”, afferma Quattrociocchi. Questo accade perché vengono appresi determinati schemi (principalmente i pattern dominanti) e riprodotti senza avvertire la necessità di una comprensione più profonda.
Le persone sfruttano criteri vari e soggettivi per strutturare un’opinione, mentre gli LLM si affidano principalmente a segnali lessicali associati a parole chiave.
“Questo studio – ha concluso – dimostra che ciò che stiamo automatizzando non è il giudizio, ma la sua apparenza”.
Pur essendo vero che ad un primo sguardo sembra esserci un allineamento di giudizi tra macchina e uomo, secondo gli esperti potrebbe in realtà nascondere un cambiamento molto più profondo della nostra società: la tendenza a delegare non solo l’informazione ma il giudizio stesso.
I risultati di questo studio hanno evidenziato in primo luogo quanto le intelligenze artificiali influenzino l’opinione di milioni di persone, che si affidano ciecamente a ciò che viene loro somministrato. In secondo luogo hanno messo in luce i rischi di questa stessa azione, portando all’attenzione quella che a tutti gli effetti è una sfida da affrontare: l’epistemia, l’incapacità di accorgersi di qualcosa di errato solo perché apparentemente plausibile.