O fostă directoare de cercetare de la Mayo Clinic a dat în judecată unul dintre cele mai respectate spitale din lume, susținând că instrumentele sale cu inteligență artificială pun în pericol viețile pacienților.
Traci Tamiko Eto, care a condus și departamentul de conformitate în IA, afirmă că a fost concediată după ce a tras semnale de alarmă. Povestea ei, relatată de Minnesota Public Radio, începe în 2023, când s-a alăturat echipei.
La scurt timp, a descoperit probleme grave de confidențialitate în „Mayo Clinic Platform” – un sistem de date care rulează algoritmi de IA.
Rata de eroare de 67% ascunsă intenționat
Când Eto a cerut soluții, șeful ei i-a respins îngrijorările. I-a spus, conform procesului, că remedierea ar încetini ritmul cercetării și ar distruge avantajul competitiv al clinicii. Ea nu s-a oprit. A continuat să semnaleze nereguli legate de MAYA, asistentul digital inteligent al spitalului.
Aici, lucrurile s-au agravat. Echipa care dezvolta MAYA ar fi șters rezultatele nefavorabile ale testelor, ar fi mințit cu privire la capacitățile reale ale produsului și ar fi ignorat protocoalele de securitate. Cea mai șocantă cifră: instrumentul avea o rată de eroare de până la 67%.
În loc să facă public acest eșec catastrofal, angajații ar fi încercat să îl ascundă.
Risc profesional uriaș pentru denunțătoare
Eto a depus zece plângeri separate în calitate de denunțătoare. Răspunsul conducerii a venit la începutul anului 2025: a fost exclusă din ședințe, apoi i s-a spus că nu se „integrează cultural”. Opțiunile?
Să demisioneze sau să accepte modificări în dosarul personal care ar fi făcut-o imposibil de angajat oriunde în domeniu, inclusiv în afara Mayo. Avocatul ei, Artur Davis, avertizează că un astfel de proces reprezintă un risc profesional uriaș: „Își riscă literalmente cariera, reputația.
Faptul că face asta spune cât de convinsă este că are dreptate. ” Reacția clinicii a fost rezervată. Printr-un purtător de cuvânt, conducerea a declarat că respectă legile și reglementările și că nu comentează litigiile în curs. Dar cazul Eto nu este doar despre concedierea abuzivă.
Este un test pentru întregul sector medical. Dacă un gigant precum Mayo Clinic ascunde eșecurile IA, ce se întâmplă în spitale mai puțin supravegheate? „Dacă vă pasă că IA trebuie gestionată cu integritate, acesta este un caz care ar trebui să vă preocupe”, spune Davis.
