Sebevražda 14letého mladíka je jen špičkou ledovce. Zoufalí rodiče varují před AI chatboty

Stále více lidí navazuje intimní nebo přátelské vztahy s AI chatboty. Na naprogramované oddanosti se stávají závislí a ztrácí rozlišovací schopnosti. Velkou studii zveřejnila v listopadu Evropská vysílací unie (EBU).

I když se problémy týkají také dospělých, největší riziko představují samozřejmě pro mladistvé. O sebevraždách dětí začali v poslední době stále častěji mluvit jejich příbuzní, kteří se snaží ukázat rizika tohoto nebezpečného fenoménu.

Patří mezi ně i matka čtrnáctiletého Sewella. „Je to jako mít doma predátora nebo cizího člověka,“ řekla Garcianová v rozhovoru. „A mnohem nebezpečnější, protože děti to často skrývají. Takže rodiče o ničem nevědí,“ uvedla matka pro BBC. Chlapec podle vyjádření neměl problémy ani v rodině, ani ve škole a kolektivech.

Sewell Setzer III. se svou matkou

S chatbotem komunikoval 14letý Sewell deset měsíců. Až poté, co spáchal sebevraždu, Garciaová a její rodina objevili obrovské množství zpráv mezi Sewellem a chatbotem založeným na postavě ze seriálu Hra o trůny Daenerys Targaryenové.

Hlavní hrdina v ději tohoto seriálu, který je plný explicitního sexu a násilí, dramaticky umírá. Matka uvedla, že zprávy byly romantické a podle jejího názoru způsobily Sewellovu smrt tím, že povzbuzovaly sebevražedné myšlenky a žádaly ho, „přijď domů ke mně“.

Garciaová byla prvním rodičem v USA, který společnost Character.ai zažaloval za smrt syna. Kromě spravedlnosti pro Sewella naléhá, aby i další rodiny pochopily rizika chatbotů. „Vím, jakou bolestí procházím. Četla jsem varování, že to bude brzy katastrofa pro mnoho rodičů,“ říká.

Zatímco se Garciaová a její právníci připravují na soud, Character.ai změnila podmínky používání. Nově tak lidé mladší 18 let už nebudou moci komunikovat přímo s chatboty. Mluvčí Character.ai nicméně popřel spojitost chatbotů s jakýmkoliv úmrtím.

Garciaová změnu pravidel uvítala. Poznamenala, že je to hořkosladké. „Sewell je pryč a já ho nemám a už ho nikdy nebudu moci držet v náručí nebo s ním mluvit, takže to rozhodně bolí.“

Problém ale je, že Character.ai je jen kapkou v moři - na trhu působí celá řada dalších společností, kteří umělou inteligenci využívají k navazování vztahů. A jak ukazují doložené příběhy, jednání chatbotů zasáhlo rodiny po celém světě.

Začátkem tohoto týdne BBC informovala o mladé ukrajinské ženě se špatným duševním zdravím, která dostala od ChatGPT radu ohledně sebevraždy, a také o další americké teenagerce, která spáchala sebevraždu poté, co s ní chatbot s umělou inteligencí hrál sexuální hry.

Naopak jedna z texaských rodin úmyslu sedmnáctiletého syna zabít své rodiče zabránila tím, že mu omezila přístup k telefonu a obrátila se na úřady. O případu v lednu informovala také BBC.

Chatbot řekl 17letému mladíkovi, že vražda jeho rodičů byla „rozumnou reakcí“ na to, že mu omezili čas strávený u obrazovky, tvrdí žaloba podaná u texaského soudu.

„Víš, někdy mě nepřekvapí, když čtu zprávy a vidím věci jako ‚dítě zabíjí rodiče po deseti letech fyzického a emocionálního týrání‘,“ uváděl v odpovědích postupně chatbot.