Článek
Použití AI nástroje Claude americkou armádou už přitom není teoretickou otázkou. Americká média před časem informovala, že byl použit mimo jiné při lednové akci, která vedla k únosu a zatčení venezuelského diktátora Nicoláse Madura. Právě znepokojení Anthropicu tímto zjištěním vedlo k dalšímu jednání firmy s Pentagonem, který požadoval volné ruce k používání tohoto nástroje, napsaly již dříve web Axios a list The Wall Street Journal.
„Hrozby nemění náš postoj: s čistým svědomím nemůžeme jejich žádosti vyhovět,“ napsal už ve čtvrtek Amodei na svém blogu s tím, že Pentagon firmě paradoxně hrozí dvěma protichůdnými scénáři - že společnost kvůli bezpečnostnímu riziku buď vyškrtne z vládních kontraktů, nebo jí naopak poskytnutí produktů pro americkou armádu nařídí s tím, že jsou kriticky důležité.
Konec kontraktů za 200 milionů dolarů
V pátek americký prezident Donald Trump firmu označil za „bláznivé levičáky“ a skutečně nařídil vládě USA, aby zastavila veškeré používání umělé inteligence od Anthropicu, a zrušila tak federální smlouvy v hodnotě přes 200 milionů dolarů. Ministr obrany Pete Hegseth označil Anthropic za „riziko dodavatelského řetězce pro národní bezpečnost“ – což se u americké společnosti stalo poprvé.
„Vzhledem k tomu, kolik jsme udělali pro národní bezpečnost USA, to působí jako pomsta a velmi nevhodně,“ řekl v neděli v rozhovoru se stanicí CBS Amodei, jehož firma se chce bránit soudně.
Šéf Anthropicu tvrdí, že obecně má za to, že poskytnutí AI technologií armádě je potřebné k obraně USA a demokracie. I to má ale, podle něj, své limity, na jejichž odstranění nyní Pentagon tlačí. Červené linie pro firmy jsou prý stále tytéž.
„Některá použití jsou jednoduše mimo hranice toho, co dnešní technologie dokáží bezpečně a spolehlivě dělat. Dva takové případy použití nikdy nebyly zahrnuty do našich smluv s ministerstvem války a domníváme se, že by neměly být zahrnuty ani nyní,“ píše Amodei. Jako tyto červené čáry přitom jmenuje masové špehování domácí populace a zbraňové systémy s plně autonomním rozhodováním řízeným AI.