Inteligența artificială și realitatea mixtă în munca poliției: oportunități și riscuri etice
Un proiect de cercetare interdisciplinar de la Universitatea Umeå a explorat modul în care inteligența artificială și realitatea mixtă pot sprijini luarea deciziilor în timp real în intervențiile polițienești. Rezultatele, publicate în Journal of Artificial Intelligence Research, arată un potențial semnificativ, dar cercetătorii subliniază că autonomia umană și considerațiile etice trebuie să rămână centrale.
Studiul a folosit casca Microsoft HoloLens, care proiectează informații digitale direct în câmpul vizual al polițistului și poate fi controlată prin mișcări ale ochilor și comenzi vocale, pentru identificarea obiectelor și a riscurilor potențiale. Proiectul a început când Juan-Carlos Nieves, cercetător la Departamentul de Știința Calculatoarelor, i-a contactat pe Jonas Hansson și Anders Schogster de la Unitatea de Activitate Polițienească.
Colaborarea dintre cele două unități a fost crucială. Cercetătorii în știința calculatoarelor au contribuit cu expertiză în AI, realitate mixtă și cadre de evaluare etică, în timp ce cercetătorii în activitatea polițienească și polițiștii practicieni au adus experiență operațională și cunoștințe tactice.
„Nu suntem întotdeauna conștienți de posibilitățile oferite de știința calculatoarelor, iar oamenii de știință din calculatoare nu sunt întotdeauna conștienți de nevoile din activitatea polițienească. Colaborarea a fost o parte foarte importantă a proiectului. Trebuie să înțelegi munca poliției pentru a implementa schimbarea”, spune Hansson, cercetător la Unitatea de Activitate Polițienească.
Un studiu în mai multe etape a fost realizat în colaborare cu programe de educație polițienească și agenții de aplicare a legii din Suedia și Catalonia. Înainte de testele practice, participanții au luat parte la două ateliere: primul a introdus principiile fundamentale ale AI demne de încredere, iar al doilea le-a oferit experiență practică cu realitatea mixtă și HoloLens.
În total, 39 de polițiști și instructori au participat la studiu. În timpul unui exercițiu tactic, participanții au efectuat o oprire de vehicul cu risc ridicat folosind HoloLens ca instrument de sprijin. Rezultatele au arătat o atitudine foarte pozitivă față de utilitatea, ușurința de utilizare și credibilitatea sistemului.
„Rezultatele au fost mai bune decât mă așteptam. Polițiștii au fost foarte interesați de tehnologie și au văzut multe posibilități”, spune Schogster, polițist și profesor la Unitatea de Activitate Polițienească.
Tehnologia oferă oportunități considerabile pentru sprijinirea deciziilor și creșterea siguranței în timpul intervențiilor polițienești, dar ridică și întrebări etice. Nieves subliniază importanța asigurării că sistemele sunt demne de încredere, transparente și concepute etic. Riscurile potențiale includ probleme legate de confidențialitate, stocarea datelor și transparență, precum și riscul de bias algoritmic.
Cercetătorii au analizat funcțiile conform a trei niveluri de risc, de la scăzut la ridicat. Studiul a arătat că pe măsură ce sistemul devine mai automatizat, riscurile etice legate de confidențialitate, transparență și bias algoritmic cresc. O concluzie cheie este că tehnologia nu trebuie să preia niciodată decizia polițistului.
„Este important ca acest lucru să nu devină complet autonom. Ar trebui să sprijine polițiștii în luarea deciziilor, dar deciziile trebuie luate în cele din urmă de oameni”, spune Hansson.
Cercetătorii concluzionează că simpla introducere a noii tehnologii nu este suficientă. Polițiștii trebuie să fie instruiți să îi evalueze critic implicațiile.
Echipa lucrează acum la noi aplicații de proiect pentru a continua explorarea AI responsabile, a relației dintre criminalitatea digitală și cea fizică și a modului în care sistemele AI viitoare pot fi introduse în operațiunile polițienești. Pe termen lung, cercetătorii văd nevoia de a dezvolta instrumente care să ajute factorii de decizie și poliția să evalueze riscurile la achiziționarea și implementarea sistemelor AI.
Hansson subliniază că munca polițienească tradițională se bazează în mare măsură pe ceea ce polițiștii văd, aud, simt și percep într-o situație dată. Provocarea este de a găsi modalități prin care informațiile digitale să completeze aceste impresii fără a le prelua. Cercetătorii văd un potențial considerabil pentru integrarea acestui tip de tehnologie direct în formarea polițienească de bază.
