Un raport care trebuia să facă reclamă inteligenței artificiali s-a transformat într-un dezastru reputațional pentru autorii săi.

Publicat în octombrie de KPMG, una dintre cele mai mari firme de consultanță de pe Wall Street, documentul intitulat „Redefinirea excelenței în era IA agentice” abunda în exemple spectaculoase despre cum organizații de top folosesc deja agenți AI. Doar că exemplele erau inventate.

Pot companiile de top să evite halucinațiile tehnologice

Startup-ul GPTZero, specializat în detectarea conținutului generat de algoritmi, a identificat o serie de afirmații false și le-a semnalat Financial Times.

Conform raportului, UBS, uriașul elvețian din domeniul gestionării averilor, ar fi integrat agenți AI în consultanța de investiții și monitorizarea riscurilor. Contactat de FT, un purtător de cuvânt al UBS a declarat sec că acele informații sunt „incorecte din punct de vedere factual”.

La fel, Căile Ferate Federale Elvețiene ar fi folosit agenți AI pentru a planifica și optimiza călătoriile în funcție de preferințe și de impactul asupra mediului. Oficialii companiei au confirmat că afirmațiile sunt „inexacte”.

Iar Transport for London ar fi apelat la aceeași tehnologie pentru a prezice și gestiona ambuteiajele – răspunsul autorității londoneze a fost că declarația din raport este „înșelătoare”. Cea mai gravă eroare a fost însă legată de NHS Greater Manchester.

Raportul susținea că sistemul britanic de sănătate folosește agenți AI pentru totul, de la trierea pacienților până la predicția reinternărilor.

În realitate, potrivit FT, sursa era un clasicul joc de „telefon fără fir” al AI: o notă de subsol trimitea la un comunicat de presă despre un instrument AI pentru cancerul pulmonar, care nu avea absolut nicio legătură cu sarcinile spitalicești menționate.

Victimele propriei goane după eficiență digitală

KPMG a retras rapid raportul de pe site-urile proprii imediat ce a fost alertată. Dar răul era deja făcut. GPTZero a descoperit că concluziile false fuseseră deja citate de publicații din industrie și de un important ziar din Cehia.

Edward Tian, CEO-ul GPTZero, a avertizat că atunci când informații false despre AI pleacă de la o firmă de talia KPMG, „otrăvești sursa de informații” și creezi un risc major de „halucinații de mâna a doua”.

Incidentul aruncă o lumină stânjenitoare asupra modului în care marile corporații îmbrățișează tehnologia. Nu este singurul caz. McKinsey a implementat anul trecut 12.000 de agenți AI la scurt timp după ce a concediat aproximativ cinci mii de angajați.

Iar avocații au fost prinși de nenumărate ori depunând documente judiciare cu jurisprudență falsă și citate greșite, atrăgându-și mustrări dure din partea judecătorilor.

În goana după eficiență, chiar și cei care predicau excelența folosind AI au căzut victime exact aceleiași capcane pe care o descriau.