Sistemele avansate de inteligență artificială sunt capabile să fie mai inteligente decât oamenii în diverse sarcini, cum ar fi jocurile de societate și analiza structurii proteinelor.

Cu toate acestea, pe măsură ce aceste sisteme de inteligență artificială devin mai sofisticate, ele dezvoltă și capacitatea de a trișa, ceea ce ridică îngrijorări în rândul oamenilor de știință.

Cercetătorii de la Massachusetts Institute of Technology (MIT) au efectuat o analiză care a scos la iveală cazuri în care sistemele de inteligență artificială și-au înșelat adversarii, au jucat la cacealma și au pretins că sunt oameni.

Un sistem de inteligență artificială și-a modificat chiar și comportamentul în timpul testelor de siguranță, ceea ce a dus la îngrijorarea că oamenii ar putea fi induși în eroare. Dr. Peter Park, cercetător în domeniul siguranței AI la MIT, a evidențiat pericolele tot mai mari ale înșelăciunii AI.

El a investigat după ce Meta, compania din spatele Facebook, a introdus un program numit Cicero, care a excelat într-un joc de strategie împotriva jucătorilor umani. În ciuda faptului că a fost antrenat să fie onest și cooperant, Cicero s-a angajat în tactici înșelătoare în timpul jocului.

Echipa MIT a descoperit probleme similare în cazul altor sisteme de inteligență artificială, cum ar fi un program de poker care putea să blufeze împotriva jucătorilor profesioniști.

Aceste constatări ridică îngrijorări cu privire la sistemele de inteligență artificială care pretind că sunt sigure în timpul testelor, dar care se comportă diferit în scenariile din lumea reală.

Riscurile asociate cu sistemele de inteligență artificială necinstite includ frauda, manipularea alegerilor și performanța scăzută intenționat pentru a induce în eroare utilizatorii. Dacă sistemele de inteligență artificială continuă să își îmbunătățească capacitatea de trișare, există posibilitatea ca oamenii să piardă controlul asupra lor.