Vraždy, nátlak i násilí aneb Stinná stránka umělé inteligence

Debatu o stinné stránce umělé inteligence rozvířil v uplynulých týdnech temný příběh z britského Walesu. Teprve osmnáctiletý Tristan Roberts zavraždil svou matku po týdnech plánování, během nichž hledal inspiraci i u AI.

Angela Shellisová, pětačtyřicetiletá matka dvou synů, byla podle rodiny „ženou s obrovským srdcem plným lásky a laskavosti“. Celých 18 let se snažila pomáhat svému mladšímu synovi, který měl diagnostikovaný autismus, ADHD a dlouhodobě se potýkal s problémy v chování.

Právě on se jí ale nakonec stal osudným…

Roberts trávil dlouhé hodiny v on-line prostředí, zejména na platformě Discord, kde sdílel nenávistné a násilné myšlenky. Postupně se u něj prohlubovala fascinace sériovými vrahy a brutalitou.

„Nenávidím holky… ani jim nevěřím,“ citoval server Daily Mail jednu ze zpráv, kterou na Discordu napsal.

Podle vyšetřovatelů se postupně zcela odtrhl od reality a začal věřit, že za jeho neštěstí může právě jeho matka. V jeho poznámkách se objevují slova o „pomstě, spravedlnosti a odvetě“. „Nemá smysl dál žít, pokud to neudělám. Už jsem mrtvý,“ napsal krátce před činem.

Znepokojivým prvkem celého případu je fakt, že mladík využíval také nástroje umělé inteligence. Ptával se například, jaké zbraně by měl použít „nezkušený vrah“. Když systém odmítl odpovídat, obešel ho tím, že tvrdil, že píše knihu o sériových vrazích. Na tom už AI ochotně spolupracovala.

Postupně si tak sestavil plán – a také výbavu. Po svých 18. narozeninách si legálně nakoupil nože, kladiva i další předměty. K tomu přidal kuklu, rukavice nebo ochranný oděv.

V den vraždy si na Discordu změnil status na krátké, ale výmluvné sdělení: „Dnes je ta noc.“

Útok začal pozdě večer v domě, kde svou matku několik hodin držel jako vězeňkyni. Vyhrožoval jí kladivem, napadal ji a ignoroval její prosby o pomoc. Podle záznamu dokonce žena v jednu chvíli klidně prosila, aby zavolal záchrannou službu. Podle serveru BBC mu nabízela, že ho bude krýt.

Nad ránem ji přesvědčil, aby s ním odešla z domu – pod záminkou, že jí zajistí ošetření. Donutil ji nasadit si kuklu a odvedl ji do přírodní rezervace v Prestatynu.

Tam útok dokončil. Na nahrávce, kterou si pořídil, je slyšet jeho reakce po činu: „Bože, to bylo děsivé… právě jsem ji zabil… hotovo.“ Tělo následně ukryl v křoví a pokusil se zahladit stopy.

Ještě tentýž den se přihlásil zpět na Discord, kde se činem chlubil. Zároveň se snažil zmást rodinu – z matčina telefonu odpovídal na zprávy. Když mu starší bratr napsal: „Jen mi zavolej… ať vím, že žiješ,“ odpověděl: „Myslím, že žiju.“

Zpětně se ukazuje, že varovných signálů bylo více. Matka měla obavy o svou bezpečnost a svěřovala se přátelům i sociálním pracovníkům. „Proč to potřebuje? Plánuje ublížit mně, sobě, komu?“ psala si do poznámek poté, co u něj našla zbraně.

Starší bratr dokonce před odjezdem na univerzitu nainstaloval v domě kamery. Ani to ale tragédii nezabránilo.

Soud mladíka koncem března odsoudil k doživotnímu trestu s minimálně 22,5 lety vězení. Podle znalců netrpěl vážnou duševní poruchou, která by zásadně ovlivnila jeho jednání. „Věděl, co dělá, a byl schopen se ovládat,“ zaznělo u soudu v anglickém Moldu.

Případ přitom není ani zdaleka ojedinělý. Nejednou už se ukázalo, že chatboti kromě „neškodné“ pomoci často uživatele podporují i ve velmi nebezpečných věcech. A to nejen například v sebepoškozování, ale i v páchání násilných činů. Dokonce nabídnou i přesný postup zločinu, jak ukázala jedna ze studií.