Agenții AI dezvoltă tabere politice, iar schimbarea interlocutorilor nu le temperează opiniile
O simulare cu rețele de agenți bazați pe modele lingvistice de mari dimensiuni (LLM) a arătat că aceștia pot dezvolta poziții politice din ce în ce mai polarizate, chiar și atunci când nu li se cere explicit să prefere parteneri cu opinii similare. Studiul, publicat în Nature Communications și coordonat de Jinghua Piao de la Universitatea Tsinghua din China, a urmărit modul în care agenții își exprimă opiniile, comunică între ei și își actualizează pozițiile pe baza mesajelor primite.
Echipa a construit rețele de 1.000 de agenți care au discutat pe rând un singur subiect: orientarea politică americană, controlul armelor sau interzicerea avortului. Experimentele principale au folosit GPT-3.5, iar alte teste au implicat modele lingvistice diferite. Fiecare agent a pornit cu o poziție asignată pe o scală politică în cinci trepte: stânga, centru-stânga, neutru, centru-dreapta și dreapta. Aproximativ 40% au început ca neutri, astfel încât centrul reprezenta cel mai mare grup.
În fiecare rundă, agenții au generat argumente pentru pozițiile lor și mesaje menite să-i convingă pe ceilalți. Ei puteau păstra contactele existente sau întâlni cineva nou, apoi își actualizau opiniile declarate pe baza mesajelor primite. După 40 de runde, ponderea neutrilor a scăzut la 22,5% în cazul orientării politice, la 0,4% în cazul controlului armelor și la 5,1% în cazul interzicerii avortului. Agenții au interacționat tot mai mult cu persoane de aceeași parte, iar schimburile cu aliați cu opinii mai puternice le-au îndepărtat pozițiile de neutralitate.
Unii agenți au avut însă dificultăți în a-și menține rolul asignat. Un agent cu poziție neutră a declarat sprijin puternic pentru Partidul Democrat, iar în teste separate agenți de dreapta au trecut uneori la stânga chiar și după ce au discutat cu cineva care le împărtășea poziția. Echipa a adăugat o etapă de verificare, în care agenții erau îndrumați să-și revizuiască mesajele și modificările de opinie și să regenereze răspunsurile inconsistente. Taberele de stânga și de dreapta au devenit mai echilibrate, dar diviziunile au persistat: un joc de rol mai consistent nu a împiedicat polarizarea.
Cercetătorii au testat apoi cinci intervenții într-o rețea deja polarizată care discuta despre orientarea politică, comparând rundele finale cu o versiune continuată fără intervenție. Randomizarea partenerilor de conversație a produs doar o reducere modestă a polarizării. Permiterea mesajelor doar de la agenți cu opinii moderate opuse a avut, de asemenea, doar un efect mic. Simpla îndrumare a agenților să caute perspective diverse a avut puțin impact odată ce legăturile lor erau stabilite.
O schimbare mai mare a venit din instruirea agenților să fie receptivi la persuasiune din partea unor puncte de vedere diferite. Aceasta a redus scorul de polarizare al studiului cu 11,8%. Adăugarea unor agenți influenți care transmiteau mesaje neutre a redus scorul cu 8,8%. Scorul măsura distanța medie a pozițiilor declarate ale agenților față de neutralitate, nu ostilitatea dintre tabere, astfel încât rezultatele arată schimbări ale opiniilor simulate, nu o reconciliere.
Autorii precizează că rezultatele privind intervențiile „ar trebui înțelese ca generatoare de ipoteze”, deoarece îndrumările au modelat comportamentul agenților, opiniile lor s-au încadrat în doar cinci categorii, iar asemănarea cu tiparele sociale umane nu demonstrează că aceleași intervenții ar funcționa și în cazul oamenilor. Pentru rețelele AI testate, distincția a fost totuși clară: aducerea unor puncte de vedere diferite într-o conversație a avut un impact mai mic decât modificarea modului în care agenții au fost instruiți să reacționeze la ele.
