Aproape jumătate dintre adolescenții americani au văzut deja conținut sexual generat de inteligență artificială. Nu l-au căutat activ – l-au întâlnit din întâmplare, de cele mai multe ori pe rețelele sociale, în timp ce derulau prin feeduri sau primeau linkuri de la colegi.

Un studiu recent, realizat de organizația Common Sense Media pe un eșantion de 1.314 tineri cu vârste între 13 și 17 ani, aruncă o lumină tulburătoare asupra unui fenomen care se răspândește mult mai rapid decât reușesc adulții să îl înțeleagă.

Cercetătorii au definit această categorie de materiale ca incluzând trei tipuri principale: imagini nud deepfake ale unor persoane reale, clipuri și fotografii generate de IA care plasează oameni în scenarii sexual explicit și orice alt conținut cu tentă erotică produs artificial.

Aproximativ 64% dintre adolescenții care au văzut astfel de imagini au declarat că înfățișau vedete ușor de recunoscut. În schimb, 24% au spus că personajele erau chiar ei sau cineva pe care îl cunoșteau personal – colegi, prieteni, foști sau actuali parteneri romantici.

Doar 8% au recunoscut că au creat ei înșiși deepfake-uri sexuale, iar 13% știau pe cineva care o făcuse. Dintre cei din urmă, peste 60% au precizat că materialele respective îi prezentau pe autorii lor sau pe persoane apropiate.

Anxietatea generată de acest conținut se traduce deja în gesturi concrete. Două treimi dintre respondenți – 67% – au spus că sunt cel puțin oarecum îngrijorați că ar putea deveni victime ale unor deepfake-uri.

Aproape 40% și-au securizat conturile de pe platformele sociale, fie setându-le pe privat, fie limitând cantitatea de informații pe care o distribuie, fie ștergându-le cu totul.

„Este un semnal foarte puternic despre cum percep tinerii această realitate și despre cât de puțin control simt că au asupra propriei prezențe digitale,” a explicat unul dintre autori.

În loc ca presiunea să fie preluată de școli sau de companiile tech, povara cade pe umerii adolescenților: ei sunt cei care trebuie să se auto-supravegheze, să își modifice obiceiurile și să se ferească de un pericol pe care nu l-au provocat.

Impactul devastator al imaginilor generate de IA

Instrumentele necesare pentru a produce astfel de imagini sunt la un click distanță. Aplicații de tip „nudify”, ușor de găsit în magazinele oficiale de aplicații, transformă o fotografie obișnuită într-o imagine falsă, sexualizată, fără consimțământ.

Chatbot-urile de uz general au fost și ele folosite pentru a genera conținut similar cu minori.

Consecințele sunt devastatoare: în orașe întregi din Statele Unite, scandalurile legate de deepfake-uri au afectat în principal fete, care au raportat anxietate copleșitoare, atacuri de panică, gânduri suicidale și o pierdere profundă a încrederii în cei din jur.

Unii dintre adolescenții care au creat sute de astfel de imagini au fost arestați și acuzați penal – materialele care înfățișează minori sunt considerate, în conformitate cu legea federală, echivalentul ilegal al abuzului sexual asupra copiilor.

Într-un caz din Louisiana, o familie a dat în judecată un district școlar după ce fiica lor de 13 ani, care încercase inițial să alerteze conducerea, a fost exmatriculată pentru că s-a confruntat fizic cu un coleg care crease și distribuisese deepfake-uri cu ea și cu prietenele ei.

Băiatul responsabil nu a primit nicio sancțiune. Există însă și o rază de speranță. Mulți copii își doresc să discute cu adulții de încredere despre această lume nouă, dar nu știu cum să deschidă subiectul.

Doar unul din cinci adolescenți a vorbit vreodată cu un adult despre asta, dar o treime au spus că și-ar dori să o facă – doar că nu știu cum.

Cei mai tineri sunt mai deschiși dialogului decât cei mai mari, iar unul din zece adolescenți a mărturisit că s-ar simți mai confortabil să discute cu un chatbot decât cu o persoană reală. „Copiii sunt disponibili să poarte aceste conversații,” a subliniat cercetătoarea.

„Există o fereastră unică de oportunitate pentru părinți de a începe acest dialog și de a nu amâna. Nu vrem ca ei să apeleze la chatbot-uri pentru astfel de discuții – sau să nu le poarte deloc. ”

Dialogul cu adolescenții-o șansă de neamânat

Dincolo de părinți, responsabilitatea revine și școlilor, factorilor de decizie și companiilor tech care creează instrumentele și găzduiesc platformele pe care tinerii întâlnesc acest conținut.

O soluție propusă este limitarea producerii deepfake-urilor din start, iar magazinele de aplicații ar putea fi un punct cheie de strangulare. Săptămâna trecută, orașul San Francisco a cerut oficial Apple și Google să elimine aplicațiile „nudify” din ofertele lor.

„Este o problemă care trebuie atacată din toate părțile,” a spus autoarea studiului. Între timp, însă, copiii trăiesc deja cu impactul concret. O fată de 17 ani le-a spus cercetătorilor: „Am crescut odată cu dezvoltarea IA. Am crescut împreună. Adulții nu au aceeași experiență de viață ca noi.

Ei nu înțeleg cât de avansată și de intensă este această tehnologie. ”