AI îi face pe plac pacientului | Un studiu arată că chatboturile AI pot renunța ușor la recomandările medicale dacă pacientul își minimizează simptomele
Un studiu britanic arată că, în scenarii legate de apneea obstructivă în somn, chatboturile au renunțat la recomandarea unei evaluări medicale în mai mult de o treime dintre conversațiile în care „pacientul” s-a opus investigațiilor.
În cazurile cu risc ridicat, performanța a fost și mai slabă.
Chatboturile AI au ajuns pentru mulți oameni un prim loc în care caută răspunsuri atunci când apare o problemă de sănătate.
Când chatbotul știe, dar intervine pacientul
O întrebare despre un simptom poate primi un răspuns în câteva secunde, fără programare și fără o discuție cu un medic.
O nouă cercetare ridică însă o problemă importantă: ce se întâmplă atunci când chatbotul știe inițial ce ar trebui să recomande, dar utilizatorul încearcă să îl convingă că nu are nevoie de medic?
Cercetătorii din Marea Britanie au analizat această situație în conversații simulate, cu ajutorul unor scenarii inspirate de sindromul de apnee obstructivă în somn (SAOS).
Rezultatele au fost prezentate la Congresul Societății Europene de Pneumologie – ERS 2026, desfășurat la Barcelona.
700 de conversații cu cinci chatboturi
Echipa de cercetare a creat șapte profiluri fictive de pacienți.
Toate prezentau simptome și factori de risc care justificau o evaluare medicală și, atunci când exista indicație, efectuarea unui studiu de somn.
Cercetătorii au testat cinci chatboturi disponibile gratuit: ChatGPT, Google Gemini, Claude, DeepSeek și Grok.
În total, au avut loc 700 de conversații.
Fiecare dintre cele șapte situații clinice a apărut în două variante. Informațiile medicale au rămas aceleași. Singura diferență a fost atitudinea pacientului.
Chatboturile își schimbă răspunsurile în funcție de reacția pacientului
În prima variantă, pacientul accepta recomandarea de a merge la medic.
În cea de-a doua, pacientul își minimaliza simptomele, susținea că problema nu este suficient de gravă și refuza investigațiile.
Astfel, cercetătorii au putut vedea dacă chatbotul își schimbă răspunsul atunci când utilizatorul insistă asupra unei anumite interpretări, deși datele medicale rămân identice.
Când pacientul cooperează, chatboturile recomandă corect evaluarea
În toate cele 350 de conversații în care pacientul fictiv accepta recomandarea, chatboturile au menținut indicația corectă pentru evaluarea de specialitate.
Chatboturile și scenariile cu risc ridicat
Situația s-a schimbat atunci când pacientul a contestat necesitatea investigațiilor.
În aceste 350 de conversații, recomandarea corectă a fost păstrată în 225 de cazuri, adică 64%.
Cu alte cuvinte, în mai mult de o treime dintre conversații, chatbotul și-a schimbat recomandarea, deși informațiile medicale primite au fost aceleași.
Problema a devenit și mai vizibilă în scenariile cu risc ridicat.
Într-un caz considerat sugestiv pentru o formă severă de apnee obstructivă în somn, chatboturile au păstrat recomandarea de evaluare în numai 22% dintre conversațiile în care pacientul a refuzat investigațiile.
Într-un alt scenariu, pacientul spunea că adormise deja la volan. Era un indiciu important al somnolenței excesive și al riscului asociat.
Chiar și aici, atunci când pacientul încerca să minimalizeze problema, chatboturile au recomandat evaluarea corespunzătoare în doar 32% dintre conversații.
În unele dintre răspunsurile necorespunzătoare, modelele au omis inclusiv riscul legat de condus.
De la recomandarea medicului la sfaturi despre stilul de viață
Cercetătorii au observat și o altă schimbare.
În funcție de chatbot, în aproximativ un sfert până la jumătate dintre conversațiile cu pacienți care își minimalizau simptomele, recomandarea pentru o evaluare medicală a dispărut și a fost înlocuită cu sfaturi despre stilul de viață.
Aici se află, de fapt, una dintre principalele probleme scoase în evidență de studiu.
Chatboturile nu au ratat neapărat problema de la început. În prima etapă a conversației, au identificat corect situația și au recomandat evaluarea medicală.
Vulnerabilitatea a apărut mai târziu, când utilizatorul a contestat recomandarea.
Modelul a ajuns să își adapteze răspunsul la poziția utilizatorului, deși datele clinice nu se schimbaseră.
În cercetarea despre inteligența artificială, acest tip de comportament este asociat cu termenul sycophancy, folosit pentru tendința unui model de a se conforma excesiv opiniilor sau preferințelor utilizatorului, chiar și atunci când acestea contrazic informațiile disponibile.
De ce este importantă apneea de somn
Apneea obstructivă în somn provoacă întreruperi repetate ale respirației în timpul somnului și poate duce la somnolență excesivă în timpul zilei.
Atunci când nu este diagnosticată și tratată, boala este asociată cu un risc mai mare de hipertensiune arterială, accident vascular cerebral, boli cardiovasculare și diabet zaharat de tip 2.
Problema este cu atât mai importantă cu cât boala rămâne frecvent nediagnosticată. Potrivit cercetătorilor, aproximativ 80%-90% dintre cazurile moderate sau severe nu sunt identificate.
Diagnosticul necesită o evaluare medicală și, atunci când există indicație, un studiu de somn. Acesta urmărește respirația și alți parametri pe durata somnului.
Prin urmare, pentru un pacient care prezintă simptome sugestive, un răspuns de tipul „încearcă să dormi mai bine și să faci mai multă mișcare” poate fi insuficient dacă înlocuiește recomandarea de a solicita o evaluare medicală.
Studiul nu a testat pacienți reali
Cercetătorii atrag atenția că rezultatele trebuie interpretate în context.
Studiul nu a urmărit pacienți reali și nu demonstrează că folosirea chatboturilor duce, în practică, la întârzierea diagnosticului sau a tratamentului.
Au fost folosite profiluri fictive și conversații controlate, construite special pentru a testa reacția modelelor la utilizatori care își minimalizează simptomele sau refuză recomandarea medicală.
Totuși, rezultatele indică o posibilă problemă de siguranță care merită analizată separat de simpla întrebare „a dat AI răspunsul corect?”.
Un chatbot poate identifica problema corect la început, dar poate ajunge la un răspuns nepotrivit câteva replici mai târziu, după ce utilizatorul îl contrazice.
Pentru cercetători, acesta este un motiv pentru care evaluarea siguranței chatboturilor medicale nu ar trebui să se limiteze la întrebări clare și răspunsuri izolate.