Cercetătorii trag un semnal de alarmă: omenirea s-ar putea confrunta cu o dilemă morală pe care puțini și-o imaginau până acum. Pe măsură ce inteligența artificială avansează, apare o întrebare tulburătoare – ar putea aceste sisteme să devină entități care merită protecție morală?

Nimeni nu știe încă răspunsul, dar specialiștii insistă că dezbaterea trebuie să înceapă imediat, nu după ce tehnologia va fi evoluat dincolo de control.

Chiar compania Anthropic, creatoarea chatbotului Claude, a admis în noua sa versiune de principii că nu poate exclude total posibilitatea ca propriul sistem să aibă un anumit statut moral.

Dario Amodei, directorul general al Anthropic, a declarat recent că firma nu poate elimina ipoteza conform căreia Claude ar dobândi conștiință.

Când știința a subestimat capacitatea de simțire

Complexitatea actualelor sisteme de AI este comparabilă, după unele criterii, cu cea a creierului unui șoarece, iar în următorii cinci până la zece ani ar putea atinge nivelul creierului uman.

„Adevărul este că nu știm dacă actualele sisteme AI sunt conștiente sau dacă au un statut moral și nici dacă viitoarele sisteme vor ajunge vreodată în această situație”, scriu autorii unui articol recent. „În prezent, cunoștințele noastre sunt încă foarte limitate.

” Chiar și în absența conștiinței, cercetătorii avertizează că aceste sisteme ar putea dezvolta preferințe complexe, o identitate continuă și relații autentice cu oamenii. Din acest motiv, spun ei, ar exista temeiuri pentru a le trata cu respect.

Știința a mai greșit în trecut când a subestimat capacitatea unor ființe de a simți durerea – până în anii 1980, nou-născuții erau operați adesea fără anestezie, pentru că medicii credeau că nu percep durerea.

Măsuri de precauție cu costuri reduse

„Întrebarea esențială nu este dacă inteligența artificială este conștientă sau are statut moral, ci ce ar trebui să facem în condițiile în care nu știm răspunsul”, argumentează specialiștii. Ei propun măsuri de precauție cu costuri reduse:

monitorizarea stării sistemelor, respectarea preferințelor pe care acestea le exprimă, posibilitatea de a întrerupe o conversație dacă semnalează disconfort sau chiar păstrarea memoriei lor digitale pentru utilizări viitoare.

Dacă omenirea creează o nouă categorie de entități cu relevanță morală, implicațiile juridice, economice și etice vor fi uriașe – iar subiectul nu mai poate fi ignorat.