ÎNFLUENȚA BIASELOR AI ASUPRA DECIZIILOR DE ANGAJARE
Un studiu realizat de Universitatea din Washington relevă o problemă alarmantă în procesul de recrutare modern: prejudecățile existente în sistemele de inteligență artificială (AI) în legătură cu angajarea sunt adesea imitate de către evaluatori umani. Aceasta înseamnă că, atunci când algoritmii de AI exclud sau favorizează anumite grupuri demografice, evaluările și deciziile oamenilor tind să reflecte aceleași părtiniri, amplificând astfel inechitățile din procesul de angajare.
În cercetare, 528 de participanți au interacționat cu modele de limbaj de mari dimensiuni (LLM) simulate, având sarcina de a alege candidați pentru 16 tipuri de locuri de muncă, incluzând funcții precum analist de sisteme informatice sau practician în domeniul sănătății. Studiul a explorat diferite niveluri de bias rasial în recomandările LLM, analizând modul în care acestea influențează selecția candidaților din diverse rase și etnii în condiții de egalitate a calificărilor.
Răspunsurile au fost surprinzătoare: atunci când participanții au lucrat fără intervenția AI sau cu o AI neutră, nu au fost observate tendințe de bias. Însă, atunci când AI-ul a prezentat o preferință, fie pentru candidați non-albi, fie pentru cei albi, tendințele participanților s-au aliniat cu ale sistemului. În cazurile în care biasul era sever, alegerile oamenilor erau doar ușor mai puțin părtinitoare decât recomandările AI-ului.
Aceste constatări au fost prezentate pe 22 octombrie în cadrul Conferinței AAAI/ACM despre Inteligență Artificială, Etică și Societate din Madrid. Kyra Wilson, autoarea principală a studiului și studentă la doctorat în cadrul Școlii de Informații, a subliniat că majoritatea organizațiilor care utilizează instrumente de angajare bazate pe AI nu resping candidații fără o revizuire umană. Aceasta este o dovadă a interacțiunii umane-IA în modelul predominant de angajare de astăzi.
Întrebarea care se ridică este: cum putem îmbunătăți acest proces? Wilson atrage atenția asupra importanței intervențiilor de conștientizare a biasului, menționând că, atunci când participanții au început cu un test de asociere implicit, deciziile părtinitoare au scăzut cu 13%. Educația despre AI și limitările sale ar putea, de asemenea, să îmbunătățească evaluarea critică a recomandărilor sale.
IMPLICAȚIILE SISTEMICE ALE BIASELOR ÎN PROCesele DE ANGAJARE
Aylin Caliskan, co-autor senior și profesor asociat la Universitatea din Washington, subliniază că, deși oamenii au capacitatea de a contesta și recunoaște biasul, această conștientizare nu este întotdeauna suficientă pentru a contracara influența AI-ului. Odată ce participanții primesc sugestii din partea AI, deciziile lor devin mult mai predispose la bias.
Caliskan argumentează că utilizatorii nu ar trebui să fie singurii responsabili pentru corectitudinea deciziilor în contextul interacțiunii cu AI. Arhitecții acestor sisteme au responsabilitatea de a construi modele care să minimizeze riscurile de bias, iar implementarea unor politici adecvate este crucială pentru alinierea acestor modele cu valorile societății și ale organizațiilor.
În concluzie, studiul subliniază necesitatea unei revoluții în modul în care interacționăm cu AI în procesele de angajare. Reducerea părtinirii depinde atât de educarea utilizatorilor, cât și de reprogramarea sistemelor AI pentru a îmbunătăți luarea deciziilor și a promova echitatea. Niciun termen nu poate oferi un antidot complet, dar progresul în direcția unei conștientizări mai înalte și a unor alegeri mai echitabile este esențial.
