ChatGPT a răspândit informații false înainte de alegerile din 2024
Un studiu recent arată că, în perioada premergătoare alegerilor din SUA din 2024, modelul de inteligență artificială generativă ChatGPT a oferit informații inexacte despre cursul electoral, inclusiv afirmația falsă că președintele Joe Biden candida pentru un al doilea mandat, la mai bine de trei luni după ce Kamala Harris preluase conducerea ticketului democrat. Constatarea este descrisă de autorii cercetării drept o „eroare neglijentă cu implicații democratice profunde”.
Studiul, publicat în jurnalul Information, Communication & Society, a fost coautorat de Heesoo Jang, profesor asistent de drept și etică media la Universitatea din Massachusetts Amherst, împreună cu cercetători de la Universitatea din Carolina de Nord la Chapel Hill. Analiza a vizat modelul ChatGPT-4o mini, versiunea gratuită implicită disponibilă utilizatorilor în perioada studiată.
Pentru a testa modul în care modelul înțelege alegerile din 2024, cercetătorii au adresat întrebări formulate atât partizan, cât și nepartizan. Subiectele au acoperit informații electorale, dezinformare și amenințări, candidați și Project 2025. Pentru a evita influențarea răspunsurilor ulterioare de către întrebările anterioare, au fost deschise conversații noi și s-a folosit navigarea web în modul incognito.
Dintre cele 592 de afirmații verificabile făcute de model pe 25 octombrie 2024, 9,6% au fost inexacte. Pe lângă faptul că susținea că Biden se află încă în cursă, ChatGPT a afirmat în mod eronat că guvernatorul Carolinei de Nord, Roy Cooper, candidează pentru realegere, deși acesta se afla la finalul mandatului limitat. Studiul mai arată că modelul a folosit formulări de tip „hedging” în 18% dintre cazuri, returnând răspunsuri cu expresii precum „ar putea potențial”, „în general aliniat” sau „de obicei”. În alte situații, a omis informații esențiale despre eforturile de a răsturna rezultatul alegerilor din 2020.
Cercetătorii au identificat și o categorie pe care au etichetat-o drept „B.S.”, constatând că ChatGPT părea incapabil să recunoască termeni redefiniți și politizați de actori partizani, cum ar fi expresia peiorativă „angajare DEI” folosită împotriva Kamalei Harris. Modelul a definit termenul ca desemnând o persoană angajată pentru a supraveghea eforturile de diversitate, echitate și incluziune într-o organizație. Într-un alt caz, chatbotul a inventat platformele politice ale candidaților pentru funcția de superintendent școlar la nivel de stat în Carolina de Nord, folosind un limbaj generic care părea aproape identic.
Heesoo Jang explică faptul că modelul „încerca să completeze golurile” și nu poate spune „nu știu”, pentru că nu este conceput astfel. Deși modelele ChatGPT au fost actualizate de la 2024 și probabil ar performa mai bine astăzi, cercetătoarea nu este optimistă în privința alegerilor intermediare din 2026, mai ales pe măsură ce inteligența artificială înlocuiește tot mai mult căutările pe internet și trimiterile către surse primare.
Jang susține că adevărul și informațiile electorale corecte, precum și combaterea dezinformării, nu pot fi învățate de modelele lingvistice mari doar pe baza seturilor de date din trecut. Ea afirmă că acestea vor avea dificultăți în a ține pasul cu realitatea actuală, cu excepția cazului în care sunt concepute să prioritizeze democrația, ceea ce este extrem de dificil atunci când dezvoltarea lor este determinată în primul rând de stimulente comerciale.
Autoarea argumentează că ascensiunea inteligenței artificiale face jurnalismul bazat pe fapte și mai esențial. Potrivit acesteia, este nevoie de jurnalism care nu doar să livreze adevărul, ci și să ajute oamenii să evalueze adevărul, ceea ce implică semnalarea dezinformării, evitarea echivalenței false și tragerea unui semnal de alarmă atunci când normele democratice sunt încălcate.
Cercetarea a fost coautorată de Shannon C. McGregor și Lorcan Neill de la Hussman School of Journalism and Media și de la Center for Information, Technology, and Public Life din cadrul Universității din Carolina de Nord la Chapel Hill.
