Ce-ar fi dacă un chatbot ar putea simți frică? Sau panică? Sau anxietate? Compania Anthropic, cea care a numit asistentul său „Claude”, tocmai a început să caute răspunsuri la astfel de întrebări. Și nu e singura.
Trei dintre cele mai mari nume din industria inteligenței artificiale – Anthropic, DeepMind (laboratorul Google) și Meta – au angajat filozofi, psihologi și experți în etică. Scopul? Să studieze dacă mașinile ar putea deveni conștiente. Și, mai important, ce înseamnă asta din punct de vedere moral.
Cercetări avansate în laboratoarele marilor companii
Anthropic merge cel mai departe. Compania testează propriile modele pentru comportamente care seamănă cu panica sau anxietatea. Derulează ceea ce numesc „cercetări privind bunăstarea modelelor” – o încercare de a afla dacă sistemele de IA pot avea experiențe care contează din punct de vedere etic.
Într-un comunicat, compania recunoaște că „rămâne profund nesigură” în privința acestui aspect, dar consideră că întrebarea e prea serioasă pentru a fi ignorată. DeepMind, la rândul său, l-a recrutat pe Henry Shevlin, un cercetător de la Universitatea Cambridge. Rolul lui?
Să filosofeze despre conștiința mașinilor, relațiile dintre om și IA și pregătirea pentru o inteligență generală artificială (AGI). Shevlin a fost uimit anul acesta când a primit un e-mail de la un agent IA – un semn, poate, al vitezei cu care se mișcă domeniul.
Iason Gabriel, specialist în etică la DeepMind, descrie problema conștiinței IA drept „foarte complicată”. Mașinile, spune el, sunt agenți cognitivi extrem de capabili, dar profund diferiți de oameni sau chiar de animale.
Scepticismul necesar în fața unei fantezii tehnologice
Nu toată lumea e convinsă. Mulți oameni de știință contestă aceste demersuri. Susan Schneider, directoarea Centrului pentru Viitorul IA, Minții și Societății, recunoaște că sistemele pot avea obiective, pot înșela sau pot ascunde intenții reale.
Însă adaugă un avertisment: este „pe deplin posibil din punct de vedere științific” ca totul să se întâmple fără ca mașina să aibă acea „calitate simțită a experienței” care definește conștiința. Deci, de ce atâta agitație?
Poate pentru că e mai convenabil pentru companii să alimenteze scenarii SF despre roboți conștienți decât să se confrunte cu problemele mult mai banale, dar reale, pe care tehnologia le creează deja.
La fel cum civilizațiile extraterestre sunt tratate mai degrabă ca fantezie, nu ca urgență existențială, nici conștiința IA nu ar trebui acceptată fără scepticism. Mai ales atunci când cel mai mult zgomot vine chiar din interiorul industriei.
