Un ofițer de poliție din Anglia este cercetat pentru că ar fi folosit inteligența artificială generativă pentru a inventa probe în mai multe dosare. Este primul caz de acest fel din Marea Britanie, iar ancheta este coordonată de autoritățile din Derbyshire împreună cu procuratura.

Ofițerul, a cărui identitate nu a fost dezvăluită, a fost suspendat din funcție, dar nu a fost încă arestat.

De ce tehnologia devine un pericol pentru integritatea actului de justiție?

Ceea ce sună ca un scenariu de film SF a devenit realitate într-un ritm alarmant, deși până acum, erorile sistemelor de recunoaștere facială bazate pe IA erau privite mai degrabă ca defecțiuni tehnice.

Oamenii legii din toată lumea au început să adopte aceste tehnologii cu entuziasm, convinși că vor accelera arestările și vor spori rata de soluționare a cazurilor. Dar realitatea din teren arată că viteza și acuratețea nu sunt sinonime.

Ba mai mult, un pericol mult mai grav a ieșit la iveală: ofițerii nu mai doar greșesc identificările, ci încep să folosească IA pentru a fabrica dovezi.

Poate opri centrul PoliceAI tendința periculoasă de halucinare a algoritmilor?

Purtătorul de cuvânt al poliției din Derbyshire a confirmat pentru Financial Times că ancheta penală vizează o acuzație de obstrucționare a justiției. „Se investighează utilizarea presupusă a sistemelor de IA de către un ofițer pentru a crea probe într-o serie de cazuri”, a declarat acesta.

Cazul a apărut la doar câteva zile după ce noul centru național PoliceAI al Regatului Unit a emis avertismente clare pentru toate forțele de ordine: opriți utilizarea IA generative pentru a redacta declarații destinate instanțelor. Motivul?

Tehnologia are tendința de a „halucina” – adică de a genera informații false, dar la prima vedere credibile.

„Le-am spus clar unor unități de poliție: nu puteți face asta, pentru că nu am finalizat încă toate verificările și controalele necesare”, a explicat Alex Murray, șeful centrului PoliceAI, într-un interviu acordat FT. „Trebuie să încetinim ritmul. ” Exemple jenante nu lipsesc.

În Utah, un raport al poliției susținea, din cauza unei simple neglijențe, că un ofițer ar fi avut un schimb de focuri fictiv generat de IA. Anul trecut, polițiștii din Maine au fost prinși postând fotografii cu o „operațiune antidrog” care erau, în mod evident, falsificate digital.

De data aceasta însă, natura anchetei din Derbyshire sugerează altceva – nu o simplă eroare, ci o posibilă tentativă conștientă de a deturna cursul justiției cu ajutorul unei mașinării care, în teorie, trebuia să ajute.