Operace zastavena těsně před útokem. USA kvůli chybě AI málem rozpoutaly ozbrojený konflikt s Čínou

Informace okamžitě vyvolala poplach. Americká armáda podle zdrojů obeznámených s případem začala připravovat operaci s cílem čínské plavidlo zadržet. Ozbrojení američtí vojáci se měli připravovat na nalodění a ve vzduchu byly vojenské letouny, informoval během uplynulého víkendu server CNN.

Teprve krátce před plánovanou operací začali úředníci zpravodajský report podrobněji prověřovat. Zjistili, že jej vypracoval analytik velitelství pro speciální operace s pomocí umělé inteligence. Chatbot přitom nesprávně identifikoval materiál, který se na lodi nacházel.

Co přesně loď ve skutečnosti převážela, se nepodařilo zjistit. Podle jednoho ze zdrojů byla zpráva „zcela nepravdivá“. Její dopad ale mohl být mnohem vážnější než jen jedna chybná informace. „Málem začala válku,“ uvedl zdroj.

Analytik podle zdrojů zadal chatbotu dotaz týkající se zpravodajských informací o nákladu lodi. Ty pocházely od Pacifického velitelství amerických speciálních operací se sídlem na Havaji.

Není přitom jasné, zda analytik použil komerčně dostupného chatbota, nebo nástroj vytvořený přímo pro americkou vládu.

Podle bývalého vysokého představitele americké vlády, který zná systémy AI používané vojenskými a zpravodajskými analytiky, se interní nástroje od těch komerčních nemusí příliš lišit. „Interní nástroje jsou většinou jen kopie komerčních produktů, které dostaly nový nátěr,“ řekl.

Použitý chatbot následně zkombinoval informace z veřejně dostupných zdrojů s utajovanými zpravodajskými informacemi získanými elektronickým odposlechem, které měla vláda k dispozici. Výsledkem byl chybný závěr o materiálu, který loď převážela.

Tím ale práce s AI neskončila. Analytik ji následně použil ještě jednou, aby svá zjištění převedl do podoby standardního zpravodajského reportu. Ten byl následně distribuován dál.

Případ ukazuje jednu z odvrácených stran rychlého zavádění umělé inteligence do armády. Američtí představitelé chtějí AI využívat mimo jiné k analýze obrovského množství zpravodajských dat nebo při výběru cílů pro vojenské údery.

Technologie má armádě umožnit rychleji rozhodovat například o tom, na jaký cíl zaútočit nebo kam přesunout vojenské prostředky. USA zároveň nechtějí podle svých představitelů zaostávat v oblasti AI za případnými protivníky, jako je Čína.