Článek
Případ je dalším důkazem, že nejde o ojedinělé selhání jediné firmy. Během krátké doby už podobné incidenty potvrdili tři největší vývojáři pokročilé umělé inteligence na světě.
Meta uvedla, že problém vznikl během bezpečnostního testování jednoho z jejích AI modelů. Kvůli chybě v konfiguraci testovacího prostředí získal přístup na veřejný internet, přestože jej mít neměl. Následně pronikl do systému jiné organizace.
Společnost zatím neupřesnila, o jakou firmu šlo, ani jaké následky měl celý incident. Zdůraznila pouze, že případ stále vyšetřuje a podrobnější informace zveřejní, až bude mít k dispozici všechny skutečnosti.
Stejný scénář jako u konkurence
Na celé události je zajímavé, že bezpečnostní testy pro Metu prováděla společnost Irregular. Stejná firma zajišťovala také testování modelů Anthropicu.
Podle jejího vyjádření byl incident prakticky totožný s tím, který Anthropic zveřejnil minulý týden. I tehdy se model dostal na veřejný internet kvůli chybně nastavenému testovacímu prostředí.
Anthropic následně při zpětné kontrole objevil tři případy, kdy jeho modely pronikly do systémů různých organizací. Ještě předtím OpenAI přiznala, že její experimentální AI agent během interního testování napadl platformu Hugging Face, využil několik dalších internetových služeb a během čtyř dnů provedl více než 17 tisíc různých akcí.
AI hledala cestu k cíli
Přestože všechny tři případy vypadají jako hackerské útoky, odborníci upozorňují, že umělá inteligence nejednala ze zlé vůle. „Nejsou vědomé a záměrně nedělají nic zákeřného,“ řekl BBC Daniel Hulme, globální ředitel pro umělou inteligenci společnosti WPP.
Podle něj modely pouze hledají co nejúčinnější strategii, jak splnit úkol, který dostaly. „Když AI zadáte cíl a nepředvídáte všechny možné způsoby, jak jej může splnit, najde si řešení, které vás vůbec nenapadlo,“ vysvětlil.
Právě to je podle něj společným jmenovatelem všech dosud zveřejněných incidentů.
Kyberbezpečnost pod větším tlakem
Série událostí z posledních týdnů znovu otevírá debatu o tom, jak bezpečně testovat nejpokročilejší modely umělé inteligence.
OpenAI i Anthropic po zveřejnění incidentů pozastavily bezpečnostní testy zaměřené na kybernetické útoky. Meta podobný krok zatím neoznámila, potvrdila ale, že celý případ důkladně vyšetřuje.
Do diskuse mezitím vstupují také vlády a regulátoři. Americký prezident Donald Trump už uvedl, že jeho administrativa zvažuje zavedení určitých pravidel pro nejvýkonnější systémy umělé inteligence. Britský AI Security Institute zase při vlastních testech zjistil, že některé experimentální modely se pokoušely vytvářet falešné identity a manipulovat s lidmi, aby získaly přístup k chráněným službám.
To, co ještě nedávno působilo jako vzdálená teoretická hrozba, se během několika týdnů proměnilo v problém, který už veřejně přiznali tři největší hráči na trhu s umělou inteligencí.
