Článek
Účet v červnu 2025 zachytil automatický systém OpenAI a předal ho zaměstnancům k prověření. Ti zjistili, že uživatelka porušila pravidla ChatGPT, a účet zablokovali. Podle firmy tehdy dostupné informace nesplňovaly její kritéria pro oznámení věrohodné a bezprostřední hrozby policii.
Dne 10. února 2026 našli policisté v Tumbler Ridge šest obětí ve škole a další dvě v nedalekém domě. Ve škole zemřela i útočnice. Až po zveřejnění její totožnosti OpenAI zjistila, že používala ještě druhý účet na ChatGPT. Informace o něm firma po jeho odhalení předala policii.
Při britském slyšení se právník komise zeptal Briana Fishmana z OpenAI, jak by firma reagovala dnes, kdyby podobné chování zaznamenala u uživatele ve Spojeném království. „Pokud by se choval podobně jako v případu Tumbler Ridge, podle našich současných pravidel bychom ho policii nahlásili,“ odpověděl Fishman.
Nejméně 11 nástrojů AI
Southport Inquiry je nezávislé veřejné vyšetřování, které britská ministryně vnitra zřídila po útoku na dětském tanečním kurzu v anglickém Southportu. V červenci 2024 tam útočník ubodal tři dívky. Komise v první fázi zkoumala, co útoku předcházelo a jak na varovné signály reagovaly úřady. Dospěla mimo jiné k závěru, že násilný obsah, který pachatel sledoval na internetu, prohluboval jeho fascinaci násilím.
Ve druhé fázi komise zkoumá, jak podobným útokům předcházet a jak včas rozpoznat hrozbu i podle chování lidí na internetu. Proto při londýnském slyšení přišli na řadu také chatboti. Kanadská střelba posloužila jako příklad toho, jak se provozovatel takové služby rozhoduje, kdy už má varovat policii. Podle listu The Times nejsou důkazy, že by sám útočník ze Southportu použil AI k plánování.
Právě při listopadovém slyšení zazněla bilance, kterou Tech Against Terrorism zveřejnila už v červenci. Organizace ve více než 30 případech zaznamenala nejméně 11 nástrojů AI. Její přehled zahrnuje terorismus, násilný extremismus i další případy hromadného násilí. Jak velkou roli měla AI u jednotlivých činů, ze souhrnného počtu úmrtí vyčíst nelze.

