Anthropic blochează o posibilă încercare de a utiliza inteligența artificială pentru fabricarea armelor biologice
Această afirmație a fost făcută într-un raport recent de informații despre amenințări al firmei.
Este cea mai recentă dintr-o serie tot mai mare de avertismente din partea cercetătorilor în domeniul inteligenței artificiale și a experților din industrie, cu privire la potențialele riscuri ale tehnologiei pentru umanitate.
Avertismentul a determinat apeluri la acțiune. Senatorul american Bernie Sanders a cerut o pauză a dezvoltării inteligenței artificiale avansate și o interzicere a superinteligenței artificiale, potrivit BBC.
Trump vrea în continuare ca industria IA să evolueze
Președintele american Donald Trump a respins până acum astfel de temeri. El a declarat joi că este îngrijorat că „dacă nu câștigăm în domeniul inteligenței artificiale, vom fi puși într-o poziție foarte proastă”.
Alte companii de inteligență artificială publică rapoarte similare cu cele ale Anthropic.
Google a transmis marți că o persoană a încercat să utilizeze instrumentul său de inteligență artificială Gemini pentru a „completa un ghid tehnic pas cu pas pentru sintetizarea agenților biologici transformați în arme”.
Modelul de inteligență artificială Claude al Anthropic a fost folosit și într-o campanie de spionaj cibernetic legată de Rusia și de o instituție de propagandă iraniană, potrivit raportului Anthropic citat de BBC.
Cazuri diverse de atacuri cibernetice
Cazurile îngrijorătoare detectate în ultimele opt luni au variat de la aplicații false de dating și escrocherii cu Wi-Fi în hoteluri, până la sisteme de supraveghere concepute pentru a identifica disidenții.
Anthropic a acuzat, de asemenea, firmele chineze de inteligență artificială că încearcă să reproducă capacitățile lui Claude, potrivit aceleiași surse.
IA, folosită pentru posibila dezvoltare a armelor biologice
Pe lângă detectarea utilizării modelelor sale pentru operațiuni cibernetice și de influență, supraveghere, escrocherii și fraude și dezvoltarea de arme, Anthropic a declarat că a blocat oamenii de știință care au folosit inteligența artificială în moduri care ar putea sprijini dezvoltarea de arme biologice.
Raportul a evidențiat „cinci studii de caz ale unor actori care utilizează modelele noastre în moduri care ar putea sprijini dezvoltarea armelor biologice”.
Utilizarea biologică abuzivă, a afirmat acesta, este „unul dintre cele mai grave riscuri ale modelului de inteligență artificială de frontieră”. Fără măsurile de siguranță corecte, astfel de capabilități „ar putea avea consecințe catastrofale”, a precizat Anthropic.