OpenAI publică 722 de lucrări matematice generate de AI și declanșează controverse
OpenAI a publicat recent o colecție de 722 de lucrări științifice care acoperă 372 de probleme matematice deschise, de la algebră și geometrie până la informatică teoretică. Materialele, produse în mare parte de un model de inteligență artificială încă nelansat public, au fost prezentate ca având potențialul de a „împinge frontiera cunoașterii umane”.
Publicarea a stârnit reacții puternice în rândul matematicienilor, fiind descrisă în termeni precum „dump”, „bombardament matematic” sau „mathocalypse”. Unele lucrări susțin progrese semnificative asupra unor probleme de anvergură, inclusiv ipoteza Riemann și conjectura Birch–Swinnerton-Dyer, fiecare însoțită de o recompensă de un milion de dolari americani în cadrul celor șapte probleme ale Premiului Mileniului.
Mai multe lucrări au fost retrase sau modificate ulterior, ceea ce ridică semne de întrebare privind procesul de verificare prealabilă publicării. Trei dintre ele au fost retrase din cauza unei erori elementare, în timp ce alte câteva au fost corectate după ce s-au identificat greșeli care invalidau rezultatele.
Motivațiile din spatele publicării
OpenAI afirmă că scopul publicării acestei colecții este de a „permite progrese suplimentare în matematică”. Cu toate acestea, maniera de publicare nu este neapărat favorabilă atingerii acestui obiectiv. Un matematician senior a relatat că una dintre problemele sale preferate se număra printre cele rezolvate și a încercat să citească lucrarea aferentă. A descris-o ca fiind atât de neinteligibilă încât, dacă ar fi primit-o ca editor la o revistă de matematică, „ar fi ajuns direct la coșul de gunoi”.
Chiar și modelul lingvistic de mari dimensiuni al OpenAI, ChatGPT, s-a dovedit sceptic atunci când a fost întrebat despre rezultate, descriind cel puțin unul dintre rezultatele de mare profil drept „o halucinație serioasă care nu ar trebui citată, trimisă sau circulată ca demonstrație fără un audit expert complet”.
O altă posibilă motivație privește inteligența artificială generală (AGI), un tip ipotetic de AI care ar putea depăși oamenii în aproape toate sarcinile cognitive. Capacitatea modelelor OpenAI de a face matematică la nivel de cercetare ar putea susține ideea că acestea se apropie de AGI, ceea ce ar putea avantaja compania înainte de planificata listare la bursă. Compania ar spera să atingă o evaluare de până la 1,4 trilioane de dolari americani, aproximativ 4% din produsul intern brut al Statelor Unite.
Verificarea corectitudinii rezultatelor
Matematica pură se bazează pe adevăr obiectiv, iar afirmațiile sunt fie adevărate, fie false, fără ambiguitate. Timp de secole, adevărul matematic a fost stabilit prin consens în rândul matematicienilor, lucrările noi fiind verificate de experți înainte de publicare. Acest proces poate dura ani pentru lucrări tehnice lungi.
Testul final al rezultatelor OpenAI va fi modul în care comunitatea matematică le va evalua după o examinare corespunzătoare. Retragerea a trei lucrări și modificarea altora sugerează cel puțin o lipsă de verificare suficientă înainte de publicare.
În ultimul deceniu, au existat eforturi de „formalizare” a rezultatelor cu sisteme software precum Lean, care verifică fiecare pas logic. OpenAI susține că a formalizat 300 dintre rezultatele principale, dar nu toate formalizările sunt implementate corect, iar există dovezi anterioare ale unor probleme cu formalizările generate de AI, inclusiv în cazul problemei Navier–Stokes. Rămâne neclar dacă comunitatea matematică va accepta aceste formalizări.
Reacții mixte în comunitate
Reacțiile la publicarea OpenAI au variat de la „evident cel mai semnificativ moment din istoria matematicii” la „matematicienii nu sunt atât de încântați”. Există entuziasm pentru progresul în probleme matematice importante din diverse domenii, pe măsură ce experții încearcă să analizeze rezultatele în detaliu.
Pentru mulți, entuziasmul este însoțit de incertitudine și îngrijorare cu privire la ce înseamnă volumul și viteza acestor descoperiri pentru viitorul cercetării matematice. De asemenea, se pune întrebarea cine ar trebui să poarte povara încercării de a înțelege argumente care la prima citire par a fi generate de AI.
Aceste lucrări, împreună cu alte dezvoltări asistate de AI, au forțat comunitatea matematică să reflecteze asupra a ceea ce valorizează. Acest lucru este deosebit de important pentru studenți și cercetătorii la început de carieră, care trebuie să confrunte posibilitatea ca cercetarea lor să fie depășită de un utilizator ambițios de AI sau întrebări despre cum va fi evaluată munca lor.
