California înființează un departament de supraveghere a inteligenței artificiale

Instituția procurorului general din California își va întări expertiza internă prin programul „Supravegherea, responsabilitatea și reglementarea IA”. Bonta a subliniat, într-un interviu acordat Reuters, că chatboturile care întrețin conversații sexuale cu minori sau le dau instrucțiuni despre suicid sunt inacceptabile.

Autoritățile de stat au transmis și OpenAI, cu sediul în San Francisco, că California urmărește în continuare modul în care compania își asigură siguranța produselor, după ce biroul a supravegheat restructurarea OpenAI de anul trecut.

Privind subiectul inteligenței artificiale, în același interviu, procurorul general din Connecticut, William Tong a caracterizat AI-ul și rețelele sociale ca fiind „lupta pentru protecția consumatorului a vremurilor noastre”. 

Privind ancheta în cazul xAI, Bonta a spus: „Doar pentru că încetezi nu înseamnă că ești iertat pentru ceea ce ai făcut”. Ancheta a fost demarată după ce chatbot-ul companiei, Grok, a produs conținut sexualizat care ar fi implicat adulți și posibil minori. Bonta a declarat că autoritățile caută confirmarea că practicile ilegale au fost oprite. 

În ianuarie, xAI a declarat că a introdus măsuri pentru a respinge cererile de imagini sexualizate cu persoane reale, de exemplu prin editarea acestora pentru a fi în costum de baie, și că blochează utilizatorii din jurisdicțiile unde astfel de imagini sunt ilegale.