Rezumatele AI ale Google oferă informații medicale greșite și pot pune vieți în pericol

O investigație The Guardian scoate la iveală faptul că funcția „AI Overviews” a Google, care afișează rezumate automate în partea de sus a rezultatelor de căutare, a furnizat informații medicale inexacte în mai multe situații sensibile, cu potențial risc pentru sănătatea utilizatorilor.

Într-un caz catalogat de experți drept „extrem de periculos”, Google a recomandat în mod eronat ca pacienții cu cancer pancreatic să evite alimentele bogate în grăsimi.

Specialiștii spun că recomandarea este opusul tratamentului corect și poate reduce șansele de supraviețuire, deoarece pacienții riscă să nu consume suficiente calorii pentru a suporta chimioterapia sau intervențiile chirurgicale.

Alte exemple includ informații greșite despre testele de funcție hepatică, care ar putea determina persoane cu boli grave de ficat să creadă, în mod fals, că sunt sănătoase și să evite controalele medicale.

Rezumatele AI au oferit și date complet incorecte despre testele pentru cancerul vaginal sau despre simptomele unor afecțiuni psihice, potrivit organizațiilor medicale și caritabile citate de publicație.

Reprezentanții mai multor organizații din domeniul sănătății avertizează că poziționarea acestor rezumate în partea superioară a căutărilor le conferă o aparență de autoritate, ceea ce îi poate determina pe utilizatori să le considere corecte fără verificări suplimentare.

Google a transmis că majoritatea rezumatelor AI sunt „utile și corecte” și că sistemul este îmbunătățit constant.

Compania susține că, atunci când sunt identificate erori sau lipsă de context, ia măsuri pentru corectarea informațiilor, mai ales în domenii sensibile precum sănătatea.