Článek
OpenAI možné nabourání do systémů amerických úřadů oznámila jen pár dní poté, co australský premiér Anthony Albanese uvedl, že se její agenti nabourali i do neveřejných složek na stránkách vládních zdravotnických služeb. Společnost proto přiznala, že za hackerským útokem stojí agenti naprogramovaní a vycvičení tak, aby částečně autonomně hledali „autoritativní zdroje veřejných informací“, uvádí BBC.
Boti OpenAI ale překročili meze toho, k čemu jsou určení, a pokusili se obejít bezpečnostní opatření vládních stránek. Ve snaze dostat se do systému například využili nástroje vyhrazené pro softwarové vývojáře.
Technologická společnost uvádí, že všechna data, ke kterým se agenti nakonec dostali, jsou veřejná. Překračování naprogramovaných hranic ale neskončilo se samotným vnikem do systémů. Agenti OpenAI totiž v několika případech získaná data samovolně přenášeli dál nebo je zveřejňovali na jiných stránkách.
Kompletní informace o tom, které entity byly zasaženy, OpenAI nezveřejní, protože ji o to údajně řada z nich požádala. „Naším cílem je dát každé organizaci fakta a nechat na ní, zda a jak incident zveřejní,“ stojí ve vyjádření technologické firmy.
Obavy o dopadech nástrojů AI mimo lidskou kontrolu sílí už od léta. OpenAI začala incidenty, kdy její agenti jednají samovolně, brát vážněji poté, co jich několik utvořilo „roj“, který se bez instrukcí naboural do platformy Hugging Face, jež informaci zveřejnila. Až poté se firma OpenAI k hackerskému útoku přiznala.
„Často si říkám, co by se dělo, kdybych se rozhodl útok nezveřejnit. Zvlášť když teď víme, že k podobným incidentům v tajnosti docházelo už o měsíce dříve,“ řekl na středečním zasedání Rady bezpečnosti OSN šéf platformy Clément Delangue.
