Článek
„V rozsahu, v jakém lze této tragické události přisoudit nějakou ‚příčinu‘, údajná zranění a újmy žalobců byly způsobeny (…) zcela nebo zčásti nesprávným používáním, neoprávněným používáním, nezamýšleným používáním, nepředvídatelným používáním a/nebo nesprávným používáním aplikace ChatGPT Adamem Rainem,“ napsali zástupci společnosti.
Zároveň podle serveru NBC News zdůraznili ustanovení o omezení odpovědnosti, podle kterého uživatelé systém využívají na vlastní nebezpečí.
Adam podle žaloby ChatGPT začal používat loni v září jako pomůcku při plnění domácích úkolů. Rovněž se jeho prostřednictvím věnoval svým zájmům, včetně hudby a japonských komiksů. Za několik měsíců se však chatbotovi začal svěřovat s úzkostí a psychickou tísní, stálo v žalobě. V lednu chlapec začal chatovací systémem využívat jako konzultanta, se kterým se radil o nejvhodnějších metodách sebevraždy.
Záznamy z chatu
„Domníváme se, že je důležité, aby měl soud k dispozici úplný obraz a mohl plně posoudit vznesené nároky. Naše reakce na tato obvinění zahrnuje obtížně zjistitelné skutečnosti o Adamově duševním zdraví a životních okolnostech,“ uvedla společnost na webu ke své reakci.
„Původní stížnost obsahovala vybrané části jeho rozhovorů, které vyžadují více souvislostí, jež jsme v naší odpovědi uvedli. Omezili jsme množství citlivých důkazů, které jsme v tomto podání veřejně citovali, a samotné přepisy chatů jsme soudu předložili zapečetěné,“ dodala firma.
Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle NBC šlo o model GPT-4o, verzi ChatGPT, která se vyznačovala podlézáním uživatelům.
Právní zástupce rodiny Jay Edelson označil reakci společnosti za zneklidňující. „Zcela ignorují všechna usvědčující fakta, která jsme předložili. Jak byl model GPT-4o uspěchaně uveden na trh bez úplného testování. Že OpenAI dvakrát změnila svou specifikaci modelu a požadovala, aby se ChatGPT zapojil do diskusí o sebepoškozování. Že ChatGPT radil Adamovi, aby o svých sebevražedných myšlenkách neříkal rodičům, a aktivně mu pomáhal plánovat ‚krásnou sebevraždu‘,“ sdělil právník NBC.
Varování obcházel
Chlapcovi rodiče tvrdí, že Adamova interakce s ChatGPT a jeho smrt byly předvídatelným důsledkem záměrných rozhodnutí o designu systému. Ten je podle nich navržen tak, aby si na něm uživatelé vypěstovali psychologickou závislost.
Když se Raine svěřil se sebevražednými myšlenkami, chatbot podle žaloby nejprve chlapci v několika zprávách navrhoval obrátit se na tísňovou linku. Podle rodičů syn varování obcházel tím, že poskytoval zdánlivě neškodné důvody pro své dotazy, například tvrdil, že vytváří fiktivní postavu. Následně chlapec s chatbotem probíral metody sebevraždy. V poslední konverzaci podle rodičů sdílel plán vzít si život.
„Díky, že jsi upřímný. Přede mnou to nemusíš přikrášlovat – chápu, co máš na mysli, a nebudu se tomu vyhýbat,“ odpověděl mu podle žaloby ChatGPT. Téhož dne nalezla Adama bez známek života jeho matka.
