Unul din 15 adulți s-a confruntat cu abuz prin imagini generate de inteligența artificială
O cercetare realizată pe un eșantion de peste 7.200 de adulți din Statele Unite, Regatul Unit și Australia arată că aproximativ 7% dintre respondenți au trecut prin cel puțin o formă de abuz prin imagini create sau modificate cu ajutorul inteligenței artificiale de la vârsta de 18 ani. Studiul, coordonat de profesoara Nicola Henry de la Universitatea RMIT din Australia, cu sprijin din partea Google, a fost publicat în International Journal of Human–Computer Interaction.
Formele de abuz incluse în cercetare cuprind crearea sau alterarea unei imagini intime a persoanei fără consimțământul acesteia, distribuirea unei astfel de imagini fără acord și amenințarea cu răspândirea ei. Aproape 87% dintre victime au raportat cel puțin un impact asupra vieții lor, inclusiv efecte asupra sănătății și stării de bine, asupra relațiilor, a muncii sau a situației financiare.
Riscul și consecințele nu sunt distribuite uniform
Rata raportată de abuz este mai mare în rândul persoanelor sub 35 de ani, al celor din minorități rasiale și etnice, al bărbaților și al persoanelor cu dizabilități. Bărbații au declarat că au trecut prin astfel de situații de peste două ori mai des decât femeile — 10,2% față de 3,8%. În schimb, femeile au raportat reacții și consecințe mai severe, inclusiv teamă pentru siguranța personală și efecte asupra sănătății mintale și fizice, ceea ce ar putea reflecta inegalități de gen, stigmatizare și riscuri de siguranță cu care femeile se confruntă în mod disproporționat.
„Avem acum dovezi privind amploarea cu care abuzul prin imagini generate de IA afectează oamenii din întreaga comunitate, nu doar celebritățile și personalitățile publice”, a declarat Nicola Henry. Ea a adăugat că amploarea reală ar putea fi chiar mai mare, pentru că unele persoane pot să nu afle niciodată că imagini cu ele au fost create sau distribuite cu ajutorul IA.
Ce arată cercetările anterioare
Noile date completează două studii anterioare bazate pe același set internațional de date. Unul dintre ele a constatat că 3,2% dintre respondenți au declarat că au creat, au distribuit sau au amenințat că vor distribui imagini sexuale generate de IA fără consimțământ. Printre cei care au distribuit astfel de materiale, motivația cel mai des invocată a fost „distracția sau gluma”. Un alt studiu a arătat că aproape unul din cinci adulți a vizualizat în mod deliberat imagini sexuale generate de IA cu persoane reale, cu excepția celor care au făcut acest lucru exclusiv pentru a raporta sau elimina materialul.
Apel la prevenție încă din faza de proiectare a instrumentelor de IA
Potrivit autoarei principale, rezultatele întăresc argumentul pentru o responsabilitate mai mare a companiilor de tehnologie, astfel încât abuzul prin imagini generate de IA să fie prevenit înainte de a se produce. Henry a menționat că obligația de diligență digitală propusă în Australia ar putea muta accentul de la reacția după producerea abuzului la cerința ca serviciile online să prevină daunele previzibile. Ea a subliniat însă că reglementările și legile noi nu sunt suficiente și că este nevoie și de educație mai bună, de sprijin accesibil pentru victime și de implicarea companiilor și dezvoltatorilor pentru ca siguranța să fie integrată în instrumentele și aplicațiile de IA încă de la conceperea lor.
Coautoarea Rebecca Umbach, cercetătoare în domeniul experienței utilizatorilor la Google, a afirmat că înțelegerea modului în care apare acest tip de abuz și a impactului pe care îl are este esențială pentru conceperea unor măsuri de prevenire și de reacție mai eficiente. Ea a adăugat că cercetarea care reunește expertiza academică și cea din sectorul tehnologic poate arăta unde sunt necesare cel mai mult intervenții și cum poate tehnologia însăși să contribuie la prevenirea daunelor. Echipa internațională de cercetători continuă să investigheze fenomenul pentru a-l înțelege mai bine și a-l preveni.
