Hlavní obsah

S plánováním násilných útoků pomáhala AI. Potvrzeno přes 70 mrtvých

Londýn

Osm měsíců před střelbou v kanadském Tumbler Ridge zablokovala společnost OpenAI účet pozdější útočnice Jesse Van Rootselaarové. Policii tehdy neupozornila. Případ, při němž zahynulo osm lidí, se v pondělí probíral při veřejném slyšení v Británii. Organizace Tech Against Terrorism eviduje přes 30 veřejně známých případů, v nichž podle ní lidé využili umělou inteligenci při přípravě nebo provádění násilných činů. Celkem s nimi spojuje přes 70 úmrtí.

Foto: Dado Ruvic, Reuters

Umělá inteligence neboli AI

Článek

Účet v červnu 2025 zachytil automatický systém OpenAI a předal ho zaměstnancům k prověření. Ti zjistili, že uživatelka porušila pravidla ChatGPT, a účet zablokovali. Podle firmy tehdy dostupné informace nesplňovaly její kritéria pro oznámení věrohodné a bezprostřední hrozby policii.

Dne 10. února 2026 našli policisté v Tumbler Ridge šest obětí ve škole a další dvě v nedalekém domě. Ve škole zemřela i útočnice. Až po zveřejnění její totožnosti OpenAI zjistila, že používala ještě druhý účet na ChatGPT. Informace o něm firma po jeho odhalení předala policii.

Při britském slyšení se právník komise zeptal Briana Fishmana z OpenAI, jak by firma reagovala dnes, kdyby podobné chování zaznamenala u uživatele ve Spojeném království. „Pokud by se choval podobně jako v případu Tumbler Ridge, podle našich současných pravidel bychom ho policii nahlásili,“ odpověděl Fishman.

Nejméně 11 nástrojů AI

Southport Inquiry je nezávislé veřejné vyšetřování, které britská ministryně vnitra zřídila po útoku na dětském tanečním kurzu v anglickém Southportu. V červenci 2024 tam útočník ubodal tři dívky. Komise v první fázi zkoumala, co útoku předcházelo a jak na varovné signály reagovaly úřady. Dospěla mimo jiné k závěru, že násilný obsah, který pachatel sledoval na internetu, prohluboval jeho fascinaci násilím.

Ve druhé fázi komise zkoumá, jak podobným útokům předcházet a jak včas rozpoznat hrozbu i podle chování lidí na internetu. Proto při londýnském slyšení přišli na řadu také chatboti. Kanadská střelba posloužila jako příklad toho, jak se provozovatel takové služby rozhoduje, kdy už má varovat policii. Podle listu The Times nejsou důkazy, že by sám útočník ze Southportu použil AI k plánování.

Právě při listopadovém slyšení zazněla bilance, kterou Tech Against Terrorism zveřejnila už v červenci. Organizace ve více než 30 případech zaznamenala nejméně 11 nástrojů AI. Její přehled zahrnuje terorismus, násilný extremismus i další případy hromadného násilí. Jak velkou roli měla AI u jednotlivých činů, ze souhrnného počtu úmrtí vyčíst nelze.

Výběr článků

Načítám