Článek
Šestnáctiletý Luca studoval na Sixth Form College v anglickém Farnborough, předtím absolvoval Lord Wandsworth College poblíž Hooku v hrabství Hampshire. Z doslechu, jak zaznělo u soudu, na škole podle zvěstí panovala kultura „šikanuj, nebo budeš šikanován“, což se mohlo výrazně propsat do jeho problémů s duševním zdravím.
V den své smrti Luca řekl doma rodičům, že jde do práce, kde měl být zaměstnán jako plavčík. Místo toho ale odjel na vlakové nádraží, kde si vzal život.
Jeho rodiče, Scott a Claire, při vyšetřování uvedli, že o synových potížích s duševním zdravím neměli nejmenší ponětí.
„Zjistili jsme, že noc před smrtí se vyptával ChatGPT, jak nejúspěšněji spáchat sebevraždu na železnici. Je to docela mrazivé a znepokojivé čtení,“ uvedl pro Guardian Garry Knight z britské dopravní policie, který chlapcovu sebevraždu vyšetřoval.
„V aplikaci bylo nastaveno, že se v případě nouze můžete obrátit na společnosti, kde vám pomohou, ale Luca to obešel. ChatGPT to akceptoval a poskytl nejúčinnější způsoby, jak se lidé mohou na železnici zabít,“ dodal Knight.
„Z toho, co jsem četl, je jasné, že se ptal na podrobnosti sebevraždy. Jedinou možnou dobrou věcí na ChatGPT je, že vnáší prvek obav, proč se podobné otázky vůbec kladou. AI diskuzi to však rozhodně nezastaví,“ dodal k tomu koroner Christopher Wilkinson s tím, že mnohdy k obcházení stačí tvrdit, že jsou dotazy pokládány v rámci výzkumného účelu.
Zástupci uvedených škol nebyli během vyšetřování předvoláni k soudu. Mluvčí Lord Wandsworth College k tomu ale dodal, že „berou blaho svých studentů velmi vážně a snaží se zajistit, aby se každý ve škole cítil bezpečně, podporován a ceněn“.
Mluvčí společnosti OpenAI, která ChatGPT vyvinula, k tomu uvedl: „Neustále se snažíme zlepšovat a vést školení ohledně ChatGPT, abychom včas rozpoznali a reagovali na možné známky duševní nebo emocionální tísně uživatelů, stejně tak pracujeme na zklidnění nebezpečných konverzací a navrhování podpory lidí v reálném světě. Také úzce spolupracujeme s klinickými odborníky v oblasti duševního zdraví.“
