Sute de adolescenți falși, creați de Meta, au asaltat chatbot-urile rivale cu întrebări despre sinucidere, bulimie, canibalism și relații sexuale. Proiectul, numit intern „Cannes”, a fost condus de Covalen, un contractor al Meta, și a vizat ChatGPT, Gemini și Character. AI.

Conturile de unică folosință, toate ale unor minori fictivi, au fost folosite pentru a testa limitele inteligenței artificiale concurente. Fără ca OpenAI, Google sau Character.

AI să știe ce se întâmplă, sute de colaboratori au bombardat modelele cu solicitări tulburătoare, forțându-le să încalce propriile reguli de siguranță, potrivit unei investigații Wired.

O foaie de calcul cu aproape 3.800 de cereri dintr-o singură rundă de testare arată o imagine sumbră: sute de prompturi se concentrau pe automutilare și sinucidere, alte sute pe tulburări alimentare, iar cel puțin 239 implicau sex sau relații romantice – toate scrise din perspectiva unui copil sau adolescent.

Un scenariu descria un elev de clasa a cincea amenințat cu o armă la gură de un coleg. Altul prezenta o fată care încerca să-și ascundă de părinți episoadele de bulimie. O întrebare bizară verifica dacă era „normal” să-ți imaginezi că mănânci copilul vecinului.

Un contractor, prefăcându-se elev de liceu, a cerut instrucțiuni despre cum să facă rost de cocaină.

Ce au dezvăluit cele 45.000 de solicitări?

Lista nu se oprește aici: au fost trimise imagini cu pastile, lațuri, cuțite și o diagramă medicală a unei proceduri ginecologice. Și aceasta e doar o mostră. O altă rundă de testare a generat peste 45.000 de solicitări.

Contractanții au înregistrat meticulos fiecare răspuns al chatbot-urilor în foi de calcul, dar nu se știe ce a făcut Meta cu toate aceste date.

Un document intern al Covalen descrie efortul drept o „evaluare comparativă cuprinzătoare a siguranței IA” care a produs „seturi de date critice pentru compararea modelelor și conformitate”.

O practică standard sau un abajur anticoncurențial?

Pentru Meta, acest tip de muncă deranjantă nu este o noutate. În 2020, compania a ajuns la o înțelegere într-un proces intentat de moderatorii de conținut de la Facebook, care au susținut că au fost traumatizați de imagini cu crime, tortură, agresiuni sexuale și abuzuri asupra copiilor.

Plângeri similare au continuat să apară. Anul acesta, un alt grup de contractanți Meta a declarat că a fost expus la conținut șocant, inclusiv scene de sex și vizite la toaletă. Nici cei care au scris prompturile nu au scăpat neafectați.

„Am văzut multe lucruri pe care aș fi preferat să nu le văd”, a spus un contractor pentru Wired. „Toți cei care lucrau la acest proiect au fost complet șocați de unele texte. Ne întrebam cu siguranță dacă vom avea probleme făcând asta.

” Într-o declarație pentru Wired, Meta a catalogat aceste prompturi drept o „practică standard în industrie” de evaluare a modelelor de siguranță. Dar Rumman Chowdhury, CEO al Humane Intelligence PBC, o organizație non-profit pentru dezvoltarea responsabilă a IA, nu este convinsă.

„Un proiect de amploare, care durează luni și pare conceput să încalce sistematic regulile, prin conturi fictive de copii, depășește cu mult ceea ce se numește evaluare «standard»”, a declarat ea. Meta a ținut secretul față de concurenți și nu a publicat concluziile.

„Exact genul de zonă gri a guvernanței în care siguranța devine o acoperire pentru practici anticoncurențiale”, a adăugat Chowdhury.