Companionii AI pot afecta abilitățile sociale ale utilizatorilor izolați
O cercetare realizată de Universitatea de Management din Singapore și Duke-NUS Medical School arată că discuția despre companionii AI nu mai trebuie centrată pe întrebarea dacă sunt beneficii sau dăunători, ci pe cine beneficiază, cine este expus riscurilor și cum poate fi asigurat un acces echitabil.
Studiul, publicat în Nature Human Behaviour sub titlul „How AI companions could deepen social inequality”, propune un cadru nou pentru înțelegerea modului în care companionii AI pot adânci inegalitățile sociale existente. Cercetarea a fost coordonată de Zhang Qiyang, asistent universitar la SMU College of Integrative Studies, alături de Zhang Renwen de la Universitatea Tehnologică Nanyang și de Liu Nan, profesor asociat la Duke-NUS Medical School, în calitate de autor senior.
Analiza arată o dinamică de tip „bogații devin mai bogați” în relațiile umane. Persoanele cu legături familiale și rețele sociale solide tind să folosească companionii AI pentru a-și completa relațiile existente, de exemplu pentru a exersa conversații dificile sau pentru a gestiona stresul. În schimb, cei singuri, izolați social sau cu acces limitat la sprijin pentru sănătate mintală sunt mai predispuși să îi folosească drept substitut pentru conexiunea umană.
În timp, această dependență poate contribui la pierderea treptată a abilităților interpersonale, prin reducerea ocaziilor de a exersa interacțiunea umană autentică. Studiul adaptează modelul „șvățerului elvețian”, folosit în inginerie și științele siguranței, pentru a explica modul în care mai multe deficiențe mici se aliniază și produc riscuri sistemice majore.
Conform cercetării, prejudiciul apare atunci când mai multe straturi de protecție cedează simultan: nivelul de educație digitală al utilizatorilor, rețelele de sprijin social, deciziile de design ale platformelor și supravegherea reglementară. Când aceste slăbiciuni coincid, utilizatorii vulnerabili devin semnificativ mai expuși.
Dintre cele patru straturi analizate, guvernanța este identificată ca fiind cea mai presantă problemă. Deși sunt tot mai folosiți pentru sprijin emoțional și bunăstare mentală, companionii AI se află într-o zonă gri de reglementare în multe țări, fiind tratați mai degrabă ca aplicații pentru consumatori decât ca tehnologii cu potențial impact psihosocial.
Recunoașterea lor ca tehnologii legate de sănătate ar putea aduce protecții mai solide, inclusiv cerințe de design adaptate vârstei, dezvăluirea transparentă că utilizatorul interacționează cu un AI, limitarea funcțiilor de implicare emoțională manipulativă, standarde mai clare de protecție a datelor și protocoale obligatorii de intervenție în criză pentru situațiile de auto-vătămare.
Studiul evidențiază Singapore ca fiind atât bine poziționat, cât și expus în mod particular ascensiunii rapide a companionilor AI. Infrastructura digitală avansată, capacitatea puternică de elaborare a politicilor și tradiția de guvernanță proactivă a tehnologiei pot susține Singapore să conducă internațional în dezvoltarea de măsuri de protecție responsabile.
În același timp, rata ridicată de adoptare a smartphone-urilor, utilizarea pe scară largă a AI, populația îmbătrânită, numărul tot mai mare de vârstnici care locuiesc singuri și îngrijorările privind sănătatea mintală a tinerilor creează condițiile unei adopții rapide, mai ales în rândul grupurilor vulnerabile.
Cercetătorii propun măsuri practice: recunoașterea companionilor AI ca tehnologii cu implicații psihosociale și de sănătate mintală, adoptarea unei guvernanțe pe mai multe niveluri și combinarea reglementării cu educația digitală, proiectarea responsabilă a platformelor și sprijinirea conexiunilor sociale reale.
