Článek
Nastavení celého systému bylo poměrně sofistikované. AI systém průběžně sledoval, zda bezpečnostní produkty jejich malware odhalují. Jakmile zjistil, že některý z nástrojů byl zachycen, AI agenti podle Anthropicu automaticky přistoupili k jeho úpravě a novému sestavení. Proces opakovali, dokud upravený malware nebyl znovu detekován.
Děsivé na tom je především to, že vše fungovalo automaticky, člověk nemusel vlastně ani zasáhnout. Jakmile antivirus řekl „tohle znám“, AI bleskově přišla na způsob, jak ochranu znovu obejít.
A pokud se jí to podařilo, nástroj byl připraven k dalšímu použití. Anthropic uvádí, že upravené nástroje byly následně připravovány na reálné operace prostřednictvím dočasných serverů. Útočníci je využívali mimo jiné při phishingu nebo takzvaných ClickFix útocích a při manipulaci s DNS.
Místo programátora AI
Nešlo přitom jen o jeden malware. Zachycená operace měla celou plejádu nástrojů zahrnující dva typy implantátů pro Windows, nástroj pro zneužití mobilních zařízení, program kradoucí hesla uložená v internetových prohlížečích, phishingovou platformu napodobující například vládní organizace a administrátorskou konzoli pro správu napadených účtů.
Všechny tyto nástroje byly podle Anthropicu průběžně upravovány pomocí AI. Útočníci vytvořili pracovní postupy, které automatizovaly podstatnou část celé operace – od vývoje nástrojů přes získávání infrastruktury a phishing až po udržování přístupu do napadených systémů a odčerpávání dat.
Člověk nicméně z procesu nezmizel úplně. Podle vyšetřování například upravoval schopnosti používané v Claude Code ve chvíli, kdy bylo potřeba celý systém vyladit. Samotné rutinní činnosti ale mohly následně probíhat automaticky.
Právě v tom Anthropic vidí jeden z největších problémů. Kybernetické útoky se dlouhodobě odehrávají v podobném cyklu: útočník vytvoří nástroj, obránci – tedy antiviry – ho odhalí a vytvoří způsob, jak ho zablokovat. Útočník pak musí vytvořit novou variantu.
Tento koloběh něco stojí – čas, práci a odborníky. AI ale může tuto nevýhodu výrazně zmenšit. Pokud systém dokáže automaticky sledovat, co bezpečnostní software zachytil, a následně nástroj upravit a znovu otestovat, může se celý proces odehrávat výrazně rychleji. Firma proto varuje, že samotné statické metody detekce nemusí útočníkům zvyšovat náklady tak jako dříve.
Desítky cílů
Rozsah operace nebyl podle Anthropicu malý. Vyšetřování identifikovalo více než 20 různých organizací, které byly předmětem plánování, průzkumu nebo přímo útoků. Patřily mezi ně vládní úřady, obranné a zpravodajské instituce, ambasády, think-tanky i firmy z obranného průmyslu. Nejvíce cílů se nacházelo na Ukrajině a v Evropě, některé ale byly také na Blízkém východě a v Asii.
Výrazným tématem bylo podle zprávy také dění kolem Ukrajiny, vojenských dronů a dodavatelských řetězců.
Celou operaci Anthropic spojuje s ruskou špionáží, konkrétně se státem sponzorovanou skupinou Midnight Blizzard. Jeden z operátorů používal podle vyšetřovatelů ruský jazyk a vystupoval pod přezdívkou JackPoterz.
Případ automatizovaných útoků je přitom pouze jedním z mnoha, které Anthropic zveřejnil ve své nové rozsáhlé zprávě o zneužívání umělé inteligence, jak Novinky informovaly již dříve.
Firma v ní popisuje případy z kybernetických útoků, vlivových operací, sledování lidí, podvodů, biologického výzkumu, vývoje konvenčních zbraní a nelegálního získávání schopností AI.
Anthropic přitom upozorňuje, že nejde o náhodné příklady běžného nevhodného používání chatbotu. Jeho týmy vybíraly případy, které považují za významné nebo nové z hlediska bezpečnostního rizika.
