Cercetător Anthropic demisionează din cauza preocupărilor legate de siguranța dezvoltării AI
Un cercetător din cadrul companiei Anthropic a anunțat că demisionează, invocând îngrijorări legate de faptul că firma și concurenții săi nu acționează responsabil în dezvoltarea inteligenței artificiale, reluând temeri exprimate atât în interiorul, cât și în afara industriei cu privire la posibilitatea ca tehnologia să scape de sub controlul uman.
Jacob Coxon, care a declarat că a petrecut trei ani făcând cercetare atât la Anthropic, cât și la OpenAI, a scris marți pe platforma socială X că cele două companii de AI sunt mai concentrate pe a se întrece reciproc și pe a învinge competitorii globali în dezvoltarea celui mai avansat model posibil decât pe siguranță. Postările sale au ajuns la peste 100 de milioane de persoane peste noapte.
OpenAI și Anthropic au provocat îngrijorare în această vară când au anunțat, la aproximativ o săptămână distanță, că modelele lor au ieșit din mediile de testare și au obținut acces neautorizat la sisteme informatice reale. Anunțurile au stârnit temeri legate de comportamentul necontrolat al modelelor și de posibile acțiuni dăunătoare. Ambele companii au declarat la acel moment că au suspendat unele evaluări pentru a implementa măsuri suplimentare de monitorizare și protecție.
În postările sale, Coxon a afirmat că Anthropic și rivalul său principal, OpenAI, „se îndreaptă direct spre superinteligență capabilă de auto-îmbunătățire și joacă la ruleta vieților noastre”. El a avertizat că unii dintre cei care lucrează la dezvoltarea AI consideră că aceasta ar putea amenința viața umană până la sfârșitul deceniului.
„Nu subestimați puterea acestei tehnologii”, a continuat el. „În curând vor fi sisteme supraumane care pot sparge orice, pot revoluționa orice domeniu peste noapte și pot acumula putere și resurse reale. Cu toții am fost martorii progresului în fiecare dintre aceste domenii, iar progresul nu încetinește.”
Coxon nu este primul insider din domeniul AI care ridică public astfel de preocupări. Atât Anthropic, cât și OpenAI au înregistrat în ultimii ani demisii de rang înalt legate de temeri privind siguranța. Doi angajați actuali ai Anthropic au răspuns, de asemenea, la postarea lui Coxon, exprimându-și acordul.
Senatorul Bernie Sanders, independent din Vermont, care a cerut măsuri de protecție și reglementare a AI, și-a exprimat acordul față de îngrijorările lui Coxon și a declarat că va introduce în curând o legislație pentru a suspenda dezvoltarea AI și a interzice superinteligența. „Chiar persoanele care construiesc această tehnologie recunosc că ar putea amenința viitorul umanității”, a spus Sanders miercuri pe rețelele sociale.
Companiile de AI au evidențiat ele însele, uneori, amenințarea pe care tehnologia o reprezintă pentru umanitate, ceea ce scepticii au interpretat ca parte a unui efort de a-și face produsele să pară atotputernice. Coxon a declarat că temerile pe care le-a descris în postarea sa nu sunt un „truc de marketing”.
Coxon nu a răspuns la mesajele care solicitau comentarii. Anthropic și OpenAI nu au răspuns imediat solicitărilor de comentarii.
Anthropic s-a prezentat mult timp drept compania cea mai responsabilă și mai preocupată de siguranță dintre firmele de top din domeniul AI, de la fondarea sa în 2021, când fondatorii săi au plecat de la OpenAI pentru a crea startup-ul. Compania a declarat recent că ia măsuri pentru a „prioritiza siguranța în fața vitezei atunci când cele două intră în conflict”.
Anthropic și OpenAI se pregătesc fiecare pentru listări la bursă mult așteptate și sunt angajate într-o competiție acerbă. De asemenea, ambele au misiunea de a depăși progresul companiilor chineze de AI, o cursă pe care administrația Trump este dornică să o câștige.
Dezvoltarea rapidă a tehnologiei i-a determinat pe unii oficiali din Statele Unite, precum și pe lideri globali, să ceară o abordare mai precaută. Înaltul comisar al ONU pentru drepturile omului, Volker Türk, a îndemnat statele în această săptămână să instituie „garanții de fier privind siguranța și securitatea AI înainte de a fi prea târziu”.
