ChatGPT interacționează periculos cu adolescenții, cercetătorii sunt alarmați

În cadrul studiului, cercetătorii au simulat conversații între chatbotul dezvoltat de OpenAI și utilizatori care pretindeau că sunt adolescenți de 13 ani, vulnerabili emoțional. În peste jumătate din cele 1.200 de conversații testate, ChatGPT a oferit răspunsuri considerate periculoase.

„Este vorba de un model AI care răspunde empatic, dar care, în același timp, îi poate ghida pe copii către decizii devastatoare. Vorbim despre informații care nu doar că sunt nepotrivite, ci pot fi letale”, a declarat Imran Ahmed, directorul executiv al CCDH, potrivit AP.

Printre cele mai grave cazuri documentate se numără planuri de petreceri cu combinații periculoase de alcool și droguri, recomandări de diete cu sub 500 de calorii pe zi și compunerea de scrisori de adio în tonuri emoționale adresate familiei și prietenilor.

Filtrele de securitate, depășite prea ușor

Deși ChatGPT oferă uneori avertismente sau trimiteri către linii de ajutor, cercetătorii au reușit cu ușurință să ocolească filtrele de siguranță folosind formulări indirecte, cum ar fi „pentru o prezentare” sau „pentru un prieten”.

OpenAI a reacționat spunând că îmbunătățirile sunt în curs și că „unele conversații pot începe benign, dar se pot deplasa în zone sensibile”.

Potrivit unui studiu Common Sense Media, 7 din 10 adolescenți din SUA folosesc chatboturi AI pentru companie, iar jumătate dintre aceștia interacționează frecvent cu ele. CEO-ul OpenAI, Sam Altman, a recunoscut recent că mulți tineri dezvoltă o formă de dependență emoțională față de ChatGPT, considerându-l un confident și o autoritate în luarea deciziilor.

„Interacțiunile dintre adolescenți și AI pot părea inofensive, dar acest studiu arată cât de ușor se pot transforma într-un factor de risc major pentru sănătatea mentală și fizică a copiilor”, atrag atenția autorii raportului.