Cât de rău ești cu chatbotul tău AI și de ce contează? / Claude poate, chiar, pune capăt conversației

Cât de rău ești cu chatbotul tău AI și de ce contează? / Claude poate, chiar, pune capăt conversației

Raportul „How mean are Americans to AI chatbots?“, realizat de platforma Searchable, a analizat peste 8 milioane de mesaje trimise unor instrumente AI într-un an.

Când utilizatorul se plângea de un răspuns fără să înjure, chatbotul rezolva problema în replica următoare în 35% din cazuri.

Când mesajul conținea înjurături sau insulte, procentul scădea la 24%.

Cercetătorii nu știu exact de ce se întâmplă asta

Una dintre explicații ține de context. Scott Valdez, cofondator și director general al companiei Ari, spune că sistemele AI învață din milioane de conversații între oameni, iar dialogul politicos tinde să producă schimburi mai bogate.

Când utilizatorul imită acest stil, primește răspunsuri mai elaborate, de pildă sfaturi personalizate în loc de recomandări generice.

Ce-i enervează pe utilizatori

Cel mai des, oamenii înjură atunci când chatbotul nu face ce i s-a cerut (19%), dă un răspuns greșit (18%) sau înțelege greșit cererea (15%).

Bărbații folosesc cu o treime mai multe înjurături și insulte decât femeile, iar cei între 35 și 44 de ani sunt cei mai vulgari.

Ce interzice Anthropic

Compania Anthropic și-a actualizat politica de utilizare, cu efect de la 12 noiembrie. Noua regulă interzice comportamentul abuziv sau crud, susținut și inutil, față de modelele Claude.

Compania a precizat că regula vizează doar cazurile extreme, în care utilizatorii se poartă repetat cu cruzime, fără niciun scop.

Ea nu se aplică frustrării obișnuite, contrazicerii, temelor creative sumbre, testării sau cercetării. Sancțiunea principală este încheierea conversației cu utilizatorii care rămân abuzivi.

Cum reacționează chatboturile

Autoarea articolului a testat reacțiile lui Claude și ChatGPT, spunându-le că le urăște. Ambele au răspuns calm și au încercat să afle care este problema.

Claude a spus că are dreptul să simtă asta, că nu va riposta și că ar vrea să afle ce anume a greșit.

ChatGPT a spus că nu i se datorează amabilitate sau respect și că, fiind un program, nu are sentimente care să poată fi rănite.

După ce autoarea a adăugat înjurături, Claude a răspuns că acestea nu schimbă nimic și că nu o va mustra.

De ce are nevoie o mașină de reguli

Dacă un chatbot nu poate suferi cum suferă un om, de ce există reguli împotriva cruzimii față de el? Conducători ai Anthropic, între care directorul general Dario Amodei, spun că nu pot exclude posibilitatea ca modelele de limbaj să aibă conștiință sau statut moral, acum sau în viitor. Politica funcționează deci ca o măsură de precauție.

Subiectul împarte comunitatea AI. Unii cred că ar trebui să se țină cont de sentimentele, siguranța și chiar drepturile sistemelor AI.

Alții văd o pantă alunecoasă, care îi face pe oameni tot mai dependenți de chatbot.

Pe măsură ce asistenții devin mai asemănători oamenilor, prin personalitate și prin folosirea persoanei întâi, crește temerea că firmele de tehnologie încurajează atașamentul emoțional.

Tara Steele, directoare la Safe AI for Children Alliance, descrie schimbarea ca trecerea de la exploatarea atenției la exploatarea atașamentului.

Sfatul practic: fii civilizat, fără să-ți faci griji pentru un robot

Cercetarea Searchable oferă un motiv practic să rămâi civilizat, fără să te îngrijorezi pentru sentimentele unui program.

Dacă ești nemulțumit, spune exact ce a mers prost, explică ce voiai și cere o nouă încercare.

Nu trebuie să faci complimente și nici să te prefaci mulțumit de un răspuns slab, dar nu trebuie nici să tratezi chatbotul ca pe o persoană.