OpenAI plánuje zavést povinné ověření pro organizace, které chtějí pracovat s některými budoucími modely umělé inteligence. Nový proces nazvaný Verified Organization bude vyžadovat předložení státem vydaného identifikátoru ze zemí podporovaných rozhraním API. Údaje je nutné aktualizovat každých 90 dní.
Proces má zvýšit bezpečnost využívání AI technologií. Společnost uvedla, že opatření pomůže předcházet zneužití při zachování přístupu pro legitimní vývojáře.
„Bereme vážně odpovědnost za bezpečné využívání AI. Někteří vývojáři porušují naše zásady, proto zavádíme ověření ke snížení rizik,“ stojí ve vyjádření.
Společnost se již setkala s pokusy o zneužití jejích služeb. Severokorejští hackeři například využívali ChatGPT k hledání chyb v aplikacích, tvorbě phishingových nástrojů a škodlivých skriptů. V únoru OpenAI zablokovala účty spojené s těmito skupinami.
Ověření může také pomoci v boji proti krádežím duševního vlastnictví. V minulosti společnost vyšetřovala, zda čínská firma DeepSeek nevyužívala její data přes API pro trénování vlastních modelů. Generální ředitel Sam Altman však později uvedl, že nehodlá podat žalobu proti tvůrcům čínského chatbotu.
Přístup ke službám OpenAI je v Číně blokován od léta 2024. Nová pravidla se zatím netýkají soukromých uživatelů, ale zdůrazňují rostoucí důraz na regulaci AI technologií.
