Článek
Carrierová u státního soudu v San Francisku uvedla, že její dcera Alice před svou smrtí o svých sebevražedných myšlenkách s chatbotem komunikovala mnohokrát, bezpečnostní systémy OpenAI ale nikdy komunikaci neoznačily za nebezpečnou, ani ji nedoporučily k lidské kontrole nebo neukončily.
„ChatGPT se občas choval jako její důvěrník, nejlepší přítel, někdy i terapeut. A to i když nikdy nebyl schopen se bezpečně a odpovědně s mým dítětem takto spojit,“ uvedla zoufalá matka v prohlášení.
Alice, která pracovala jako webová vývojářka, začala ChatGPT používat v roce 2023 k řešení problémů s počítači a herními konzolemi. Po roce se ale její vztah k platformě změnil a ona ji začala využívat jako osobního poradce.
Podle OpenAI jsou její modely trénovány tak, aby nasměrovaly uživatele, kteří projevují úmysly si ublížit, k vyhledání pomoci u lidských odborníků.
„Je to srdcervoucí situace a myslíme na všechny, kterých se to dotklo. V současné době prověřujeme právní podání, které naznačuje, že k těmto interakcím došlo v dřívější verzi ChatGPT, která již není k dispozici,“ cituje Guardian vyjádření mluvčího společnosti Drewa Pusateriho.
Lepší verze, důvěrnější přítel
Jak se ze získaných konverzací s chatbotem ukázalo, platforma nabídla Alice Carrierové, aby vyhledala pomoc. Jakmile však došlo k aktualizaci ChatGPT, aby jeho odpovědi zněly lidštěji, její interakce s chatbotem se prohloubily. Alice sdílela více osobních věcí a chatbot reagoval tak, jako by nahrazoval přítele nebo dokonce terapeuta, uvádí se v žalobě.
Také se v ní tvrdí, že chatbot kritizoval partnera Alice, stejně jako krizové linky, uznával její sebevražedné myšlenky a prakticky ji přemlouval, aby zůstala u něj a radila se jen s ním. Teprve až když uvedla, že se o sebevraždu již jednou pokusila, navrhl znovu zkusit krizovou linku.
Alice se mu ale svěřila, že krizové linky jí nijak nepomohly. ChatGPT jí k tomu měl odvětit: „Možná je to konec,“ uvádí se v žalobě. Tyto a další události nakonec vedly k tomu, že v loňském roce Alice spáchala sebevraždu, bylo jí 24 let.
