Zuckerberg se opune ideii de a încetini dezvoltarea AI: „Companiile au suficiente motive să construiască în siguranță”
Uncategorized

Zuckerberg se opune ideii de a încetini dezvoltarea AI: „Companiile au suficiente motive să construiască în siguranță”

Declarația șefului Meta vine într-un moment în care liderii mai multor companii din industrie cer tocmai o abordare comună pentru reducerea riscurilor asociate dezvoltării rapide a inteligenței artificiale, transmite Reuters.

Zuckerberg: concurența și responsabilitatea sunt suficiente

Directorul general al Meta a susținut că fiecare laborator AI are atât responsabilitatea, cât și interesul de a-și dezvolta modelele într-un ritm compatibil cu măsurile de siguranță. În opinia sa, companiile care nu acordă suficientă atenție alinierii modelelor la obiectivele și valorile oamenilor riscă să rămână în urmă.

„Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a transmis Zuckerberg. El a adăugat că orice laborator care nu se concentrează pe această zonă va pierde teren în fața competitorilor.

Zuckerberg consideră și că riscul unor consecințe juridice reprezintă un stimulent important pentru companii. Dacă un sistem AI provoacă prejudicii, compania care l-a dezvoltat ar putea suporta consecințe financiare și juridice semnificative.

Meta spune că a amânat deja un produs AI

Zuckerberg a indicat drept exemplu chiar compania pe care o conduce. Meta ar fi amânat lansarea agentului AI Muse la începutul acestui an pentru a consolida măsurile de securitate.

Decizia nu a fost luată pentru a aștepta o acțiune comună a industriei. „Nu am cerut tuturor celorlalți să facă asta înaintea noastră. Pur și simplu am făcut-o ca parte a activității noastre de zi cu zi”, a explicat acesta.

Meta susține, de asemenea, că utilizează evaluatori independenți pentru mai multe componente ale sistemelor sale AI. Zuckerberg a descris această practică drept un standard pe care și celelalte laboratoare îl pot adopta.

Declarațiile vin după apelul pentru încetinirea AI

Poziția lui Zuckerberg apare la doar câteva zile după ce Dario Amodei, directorul general al Anthropic, a cerut companiilor AI să încetinească ritmul de îmbunătățire a capacităților modelelor.

Amodei s-a referit în special la dezvoltarea capacității AI de a contribui la propria îmbunătățire, cunoscută drept „recursive self-improvement”. Șeful OpenAI, Sam Altman, și Elon Musk, fondatorul xAI, au susținut public apelul lui Amodei la scurt timp după declarațiile acestuia.

Meta spune că nu urmărește AI care se îmbunătățește singur

Zuckerberg a mai afirmat că „majoritatea semnificativă” a resurselor de calcul ale Meta este direcționată către dezvoltarea unor produse care răspund nevoilor imediate ale utilizatorilor.

Compania nu ar concentra aceste resurse în principal asupra dezvoltării unor sisteme AI capabile de autoîmbunătățire. Declarația este importantă deoarece tocmai acest tip de dezvoltare se află în centrul îngrijorărilor exprimate de Amodei și de alți cercetători.

SUA nu susțin o încetinire coordonată

Dezbaterea are loc și pe fondul unei poziții prudente a administrației americane față de noi restricții asupra industriei AI. Președintele Donald Trump a minimalizat luni temerile privind potențialele efecte negative ale inteligenței artificiale și a susținut că Statele Unite au deja mecanisme de protecție pentru această tehnologie.

Argumentul potrivit căruia reglementarea excesivă ar putea afecta competitivitatea SUA în raport cu China este împărtășit și de lideri din industria tehnologică, inclusiv CEO-ul Nvidia, Jensen Huang.

În același timp, președintele Comisiei Federale pentru Comerț din SUA, Andrew Ferguson, a avertizat că publicul ar trebui să fie „profund suspicios” față de companiile AI care solicită excepții de la legislația antitrust în timp ce cer noi reguli pentru industrie. Ferguson nu a nominalizat Anthropic, însă compania ceruse anterior permisiunea de a colabora cu rivalii pentru a încetini anumite direcții de dezvoltare AI din motive de siguranță.