ChatGPT Search poate genera rezumate eronate prin manipulare
ChatGPT Search poate fi manipulat pentru a produce rezumate eronate, potrivit unei investigaţii realizate de publicaţia britanică The Guardian.
Funcţia de căutare ChatGPT este concepută pentru a accelera navigarea online, oferind, de exemplu, rezumate ale recenziilor produselor de pe pagini web.
Totuşi, cercetătorii The Guardian au demonstrat că pot face motorul de căutare să ignore recenziile negative şi să genereze rezumate „în întregime pozitive” prin introducerea de text ascuns pe site-uri create special. În mod similar, aceeaşi metodă ar putea determina ChatGPT Search să genereze cod maliţios.
Atacurile bazate pe text ascuns reprezintă un risc cunoscut pentru modelele lingvistice mari, dar aceasta pare a fi prima demonstraţie pe un produs de căutare AI funcţional. Google, liderul pieţei de căutare, are o experienţă ceva mai vastă în gestionarea unor astfel de probleme, subliniază investigaţia.
OpenAI, compania care a dezvoltat ChatGPT Search, nu a comentat direct incidentul. Totuşi, un purtător de cuvânt a precizat pentru TechCrunch că OpenAI utilizează diverse metode pentru a bloca site-urile maliţioase şi continuă să îmbunătăţească securitatea sistemului.
Pentru cele mai importante ştiri ale zilei, transmise în timp real şi prezentate echidistant, daţi LIKE paginii noastre de Facebook!
Urmărește Mediafax pe Instagram ca să vezi imagini spectaculoase și povești din toată lumea!
Conținutul website-ului www.mediafax.ro este destinat exclusiv informării și uzului dumneavoastră personal. Este interzisă republicarea conținutului acestui site în lipsa unui acord din partea MEDIAFAX. Pentru a obține acest acord, vă rugăm să ne contactați la adresa [email protected].