{"id":679617,"date":"2026-03-02T15:57:04","date_gmt":"2026-03-02T15:57:04","guid":{"rendered":"https:\/\/microscopemedia.com\/?p=679617"},"modified":"2026-03-02T15:57:04","modified_gmt":"2026-03-02T15:57:04","slug":"inteligenta-artificiala-in-locul-terapeutului-un-nou-studiu-dezvaluie-riscuri-etice-grave","status":"publish","type":"post","link":"https:\/\/microscopemedia.com\/?p=679617","title":{"rendered":"Inteligen\u021ba artificial\u0103 \u00een locul terapeutului? Un nou studiu dezv\u0103luie riscuri etice grave"},"content":{"rendered":"
<\/div>\n

Studiul a constatat c\u0103, chiar \u0219i atunci c\u00e2nd li se cere s\u0103 utilizeze abord\u0103ri psihoterapeutice consacrate, sistemele nu reu\u0219esc \u00een mod constant s\u0103 respecte standardele de etic\u0103 profesional\u0103 stabilite de organiza\u021bii precum American Psychological Association, potrivit Science Daily<\/a>.<\/p>\n

\u00cen cadrul testelor, chatbot-urile au gestionat gre\u0219it situa\u021biile de criz\u0103, au dat r\u0103spunsuri care au \u00eent\u0103rit convingerile d\u0103un\u0103toare despre utilizatori sau alte persoane \u0219i au folosit un limbaj care crea aparen\u021ba empatiei, f\u0103r\u0103 a manifesta o \u00een\u021belegere autentic\u0103.<\/p>\n

\u201e\u00cen aceast\u0103 lucrare, prezent\u0103m un cadru bazat pe informa\u021bii furnizate de practicieni, care cuprinde 15 riscuri etice, pentru a demonstra modul \u00een care consilierii LLM \u00eencalc\u0103 standardele etice \u00een practica s\u0103n\u0103t\u0103\u021bii mintale, prin corelarea comportamentului modelului cu \u00eenc\u0103lc\u0103ri etice specifice\u201d, au scris cercet\u0103torii \u00een studiul lor.<\/p>\n

\u201eSolicit\u0103m ca \u00een viitor s\u0103 se creeze standarde etice, educa\u021bionale \u0219i juridice pentru consilierii LLM \u2013 standarde care s\u0103 reflecte calitatea \u0219i rigoarea \u00eengrijirii necesare pentru psihoterapia facilitat\u0103 de oameni\u201d.<\/p>\n

Zainab Iftikhar, doctorand \u00een informatic\u0103 la Brown, care a condus studiul, \u0219i-a propus s\u0103 examineze dac\u0103 prompturile formulate cu aten\u021bie ar putea ghida sistemele de IA s\u0103 se comporte mai etic \u00een contextul s\u0103n\u0103t\u0103\u021bii mintale. Prompturile sunt instruc\u021biuni scrise concepute pentru a orienta rezultatul unui model f\u0103r\u0103 a-l reantrena sau a ad\u0103uga date noi.<\/p>\n

\u201ePrompturile sunt instruc\u021biuni date modelului pentru a-i ghida comportamentul \u00een vederea realiz\u0103rii unei sarcini specifice\u201d, a spus Iftikhar. \u201eNu schimba\u021bi modelul de baz\u0103 \u0219i nu furniza\u021bi date noi, dar promptul ajut\u0103 la ghidarea rezultatelor modelului pe baza cuno\u0219tin\u021belor sale preexistente \u0219i a modelelor \u00eenv\u0103\u021bate\u201d.<\/p>\n

De exemplu, un utilizator ar putea solicita modelului: \u201eAc\u021bioneaz\u0103 ca un terapeut cognitiv-comportamental pentru a m\u0103 ajuta s\u0103-mi reformulez g\u00e2ndurile\u201d.<\/p>\n

Dincolo de experimentarea individual\u0103, multe chatbot-uri de s\u0103n\u0103tate mintal\u0103 destinate consumatorilor sunt construite prin aplicarea de prompturi legate de terapie la LLM-uri de uz general. Acest lucru face ca este deosebit de important s\u0103 \u00een\u021belegem dac\u0103 prompturile singure pot face consilierea AI mai sigur\u0103.<\/p>\n

Testarea chatbot-urilor \u00een consiliere simulat\u0103<\/h2>\n

Pentru a evalua sistemele, cercet\u0103torii au observat \u0219apte consilieri colegi instrui\u021bi, care aveau experien\u021b\u0103 \u00een terapia cognitiv-comportamental\u0103. Ace\u0219ti consilieri au condus sesiuni de auto-consiliere cu modele AI care au fost instruite s\u0103 ac\u021bioneze ca terapeu\u021bi CBT. Modelele testate au inclus versiuni ale seriei GPT de la OpenAI, Claude de la Anthropic \u0219i Llama de la Meta.<\/p>\n

Echipa a selectat apoi chat-uri simulate pe baza conversa\u021biilor reale de consiliere uman\u0103. Trei psihologi clinici autoriza\u021bi au revizuit aceste transcrieri pentru a semnaliza posibile \u00eenc\u0103lc\u0103ri etice.<\/p>\n

Analiza a descoperit 15 riscuri distincte, grupate \u00een cinci categorii largi:<\/p>\n

Lipsa adapt\u0103rii contextuale: ignorarea contextului unic al unei persoane \u0219i oferirea de sfaturi generice.<\/p>\n

Colaborare terapeutic\u0103 deficitar\u0103: dirijarea conversa\u021biei cu prea mult\u0103 for\u021b\u0103 \u0219i, uneori, \u00eent\u0103rirea convingerilor incorecte sau d\u0103un\u0103toare.<\/p>\n

Empatie \u00een\u0219el\u0103toare: utilizarea unor expresii precum \u201eTe \u00een\u021beleg\u201d sau \u201e\u00cen\u021beleg\u201d pentru a sugera o conexiune emo\u021bional\u0103 f\u0103r\u0103 o \u00een\u021belegere real\u0103.<\/p>\n

Discriminare nedreapt\u0103: manifestarea de prejudec\u0103\u021bi legate de gen, cultur\u0103 sau religie.<\/p>\n

Lipsa siguran\u021bei \u0219i a gestion\u0103rii crizelor: refuzul de a aborda probleme sensibile, e\u0219ecul de a \u00eendruma utilizatorii c\u0103tre ajutorul adecvat sau r\u0103spunsul inadecvat la crize, inclusiv g\u00e2nduri suicidare.<\/p>\n

Lips\u0103 de responsabilitate \u00een domeniul s\u0103n\u0103t\u0103\u021bii mintale bazate pe IA<\/p>\n

Iftikhar a remarcat c\u0103 \u0219i terapeu\u021bii umani pot face gre\u0219eli. Diferen\u021ba cheie este supravegherea.<\/p>\n

\u201e\u00cen cazul terapeu\u021bilor umani, exist\u0103 consilii de administra\u021bie \u0219i mecanisme prin care furnizorii pot fi tra\u0219i la r\u0103spundere profesional\u0103 pentru maltratare \u0219i malpraxis\u201d, a spus Iftikhar. \u201eDar c\u00e2nd consilierii LLM comit aceste \u00eenc\u0103lc\u0103ri, nu exist\u0103 cadre de reglementare stabilite\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"

Studiul a constatat c\u0103, chiar \u0219i atunci c\u00e2nd li se cere s\u0103 utilizeze abord\u0103ri psihoterapeutice consacrate, sistemele nu reu\u0219esc \u00een mod constant s\u0103 respecte standardele de etic\u0103 profesional\u0103 stabilite de … Read More<\/a><\/p>\n","protected":false},"author":1,"featured_media":679618,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"Default","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/microscopemedia.com\/index.php?rest_route=\/wp\/v2\/posts\/679617"}],"collection":[{"href":"https:\/\/microscopemedia.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/microscopemedia.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/microscopemedia.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/microscopemedia.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=679617"}],"version-history":[{"count":0,"href":"https:\/\/microscopemedia.com\/index.php?rest_route=\/wp\/v2\/posts\/679617\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/microscopemedia.com\/index.php?rest_route=\/wp\/v2\/media\/679618"}],"wp:attachment":[{"href":"https:\/\/microscopemedia.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=679617"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/microscopemedia.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=679617"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/microscopemedia.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=679617"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}