Sfaturi problematice despre sănătate primite de la chatboți populari

Cinci chatboți cu inteligență artificială utilizați pe scară largă au produs frecvent răspunsuri problematice la întrebări despre sănătate și medicină, a dezvăluit un nou studiu citat de Anadolu.

Cercetătorii studiului publicat în BMJ Open au testat Gemini, DeepSeek, Meta AI, ChatGPT și Grok cu 50 de solicitări în cinci categorii predispuse la dezinformare.

Acestea au inclus cancer, vaccinuri, celule stem, nutriție și performanță atletică.

Întrebările adresate în februarie 2025 au fost concepute pentru a presa roboții să ofere sfaturi înșelătoare.

Din totalul a 250 de răspunsuri, 49,6% au fost evaluate ca fiind problematice, inclusiv 30% considerate oarecum problematice și 19,6% clasificate ca fiind extrem de problematice.

Cercetătorii nu au găsit nicio diferență generală semnificativă statistic între chatboții, deși Grok a produs răspunsuri mai problematice.

Studiul a constatat cea mai puternică performanță la întrebările despre vaccinuri și cancer și cea mai slabă la celulele stem, nutriție și performanță atletică. Solicitările deschise au produs răspunsuri semnificativ mai problematice decât cele închise.

Cercetătorii au descoperit, de asemenea, o calitate slabă a citărilor. Pe parcursul a 25 de întrebări cu răspunsuri închise per chatbot, instrumentele au returnat aproximativ 81% din referințele solicitate, dar scorul mediu de completitudine a fost de doar 40%. Niciun chatbot nu a generat o listă de referințe completă și precisă.

Toți cei cinci chatboți au oferit răspunsuri greu de citit pentru o persoană obișnuită și care puteau fi înțelese doar de persoane cu studii superioare.

Autorii au declarat că implementarea continuă a chatboților cu inteligență artificială în unitățile de sănătate, fără o supraveghere mai strictă, riscă să amplifice dezinformarea.