Článek
Na nový trend upozornili bezpečnostní experti z FortiGuard Labs společnosti Fortinet. Technika dostala označení LLMjacking a ve veřejném prostoru se o ní začalo mluvit už před dvěma lety. Podle výzkumníků je ale nyní na vzestupu.
Princip je vlastně překvapivě jednoduchý. Útočníci se zmocní přístupových údajů ke cloudovému účtu a místo hledání citlivých dokumentů se zaměří na to, co jim může okamžitě vydělávat – přístup k výkonným modelům umělé inteligence.
„Generativní umělá inteligence se rychle stává jedním z nejvýnosnějších způsobů využití odcizených přihlašovacích údajů do cloudu,“ upozornil Ondřej Šťáhlavský, regionální senior ředitel společnosti Fortinet pro střední a východní Evropu.
Účet může narůst závratnou rychlostí
Podle Šťáhlavského už kyberzločinci nemusejí na napadených účtech spouštět těžbu kryptoměn ani z nich sbírat data. „Místo toho mohou zneužít přístup k legitimním cloudovým AI službám a pomocí účtu oběti spotřebovávat nákladné zdroje umělé inteligence nebo tento přístup případně dále prodávat třetím osobám,“ doplnil Šťáhlavský.
Pro útočníky je tento způsob podvodu lákavý především kvůli jednoduché ekonomice. Náklady na provedení útoku jsou podle Fortinetu nízké, potenciální výnos naopak vysoký.
Stačit může uniklý přístupový klíč nebo odcizené přihlašovací údaje. Jakmile se hackeři k funkční cloudové identitě dostanou, nemusejí otálet. Podle bezpečnostních expertů mohou začít jednat během několika minut.
A právě rychlost může být pro oběť bolestivá. Používání nejvýkonnějších AI modelů ve velkém totiž rozhodně není levná záležitost. Podle výzkumu citovaného Fortinetem se při zneužití modelu Claude 3 Opus může škoda vyšplhat na více než 100 tisíc dolarů za jediný den.
Nejde přitom primárně o krádež samotného modelu nebo jeho trénovacích dat. Cíl je mnohem přímočařejší: nechat cizí cloudový účet zaplatit za používání drahého AI modelu. Získaný výkon pak útočníci využijí sami, nebo jej mohou přeprodávat dál.
Vytvořil si vlastní účet
Bezpečnostní experti popsali také konkrétní případ, který ukazuje, jak takový útok může vypadat v praxi. Útočník získal dlouhodobý přístupový klíč AWS IAM s administrátorskými oprávněními.