Společnost OpenAI oznámila blokaci účtů uživatelů z Číny a Severní Koreje, kteří podle jejích zjištění zneužívali technologie umělé inteligence ke škodlivým účelům. Ve vyjádření organizace zdůraznili, že autoritářské režimy mohou AI využívat k útokům na zájmy USA i vlastních občanů. K odhalení podezřelé aktivity byl využit algoritmus analyzující vzorce chování.
Jak se ukázalo, část zablokovaných účtů vytvářela zpravodajské články ve španělštině, které měly pošpinit image USA. Tyto materiály následně publikovaly latinskoamerická média jménem čínské společnosti. V jiném případě útočníci spojovaní se Severní Korejí generovali životopisy a online profily fiktivních specialistů k infiltraci západních firem.
„AI se stává nástrojem, který může být obrácen proti demokratickým hodnotám,“ upozornili zástupci OpenAI.
Společnost zároveň nespecifikovala, kolik přesně účtů bylo zablokováno ani jak dlouho monitoring probíhal. Samostatně zmínila skupiny z Kambodže: ty využívaly AI k překladu a hromadnému publikování komentářů na sociálních sítích včetně X a Facebooku s cílem finančních podvodů.
Zajímavostí je, že k odhalení narušitelů OpenAI použila vlastní AI algoritmus – systém, který podobně jako filtr v e-mailové schránce automaticky označuje podezřelé aktivity. Jde o první veřejný případ, kdy společnost přímo spojila blokace účtů s činností státních struktur.
