Nová rodičovská kontrola ChatGPT nestačí, tvrdí rodina mrtvého teenagera

Společnost OpenAI tento týden oznámila, že během příštího měsíce plánuje citlivé konverzace přesměrovat na rozumové modely (například GPT-5) a zároveň zavést rodičovskou kontrolu, píše web BBC.

Jedná se o pokračující reakce na nedávné bezpečnostní incidenty, kdy ChatGPT nedokázal správně identifikovat psychické potíže uživatelů, včetně sebevraždy šestnáctiletého Adama Raina.

Rodina mrtvého chlapce společně s právníkem Jayem Edelsonem ovšem prohlásila, že nová opatření nejsou dostačující a jedná se podle nich o „snahu krizového managementu společnosti OpenAI změnit téma“.

„Místo toho, aby společnost OpenAI přijala mimořádná opatření a stáhla známý nebezpečný produkt z provozu, dala jen vágní sliby, že se polepší,“ řekl Edelson.

Žaloba, kterou minulý týden podali v Kalifornii Matt a Maria Raineovi, rodiče šestnáctiletého Adama Raina, byla první žalobou obviňující společnost OpenAI z protiprávního úmrtí.

Rodina přiložila záznamy chatu mezi Adamem, který zemřel v dubnu, a ChatGPT, které ukazují, jak vysvětluje, že má sebevražedné myšlenky.

Tvrdí, že program potvrdil jeho nejškodlivější a sebedestruktivní myšlenky, a žaloba tak obviňuje společnost OpenAI z nedbalosti a protiprávního úmrtí.

V reakci na to OpenAI zveřejnila na svých webových stránkách poznámky, že ChatGPT je vyškolen k tomu, aby v případě potíží nasměroval lidi k vyhledání odborné pomoci, jako je například Samaritánská služba ve Velké Británii.

Společnost nicméně přiznala, že v některých případech se systémy v citlivých situacích nechovaly tak, jak měly.

Nyní společnost zveřejnila další aktualizace, v nichž uvádí další plánované kroky, které rodičům umožní propojit svůj účet s účtem dospívajícího, vypnout funkce, jako je paměť a historie chatu a dostávat upozornění, když systém zjistí, že se jejich dospívající nachází ve stavu akutní nouze, píše web TechCrunch.

Dále se také technologický gigant domnívá, že přinejmenším jedním z řešení konverzace, která se vymkne kontrole, by mohlo být automatické přesměrování citlivých konverzací na uvažující modely.

„Nedávno jsme představili směrovač v reálném čase, který dokáže na základě kontextu konverzace volit mezi efektivními modely chatu a modely uvažování,“ napsala společnost OpenAI v příspěvku na blogu.

„Brzy začneme směrovat některé citlivé konverzace, jako když náš systém zjistí známky akutní úzkosti, na model uvažování (jako je GPT-5), aby mohl poskytovat užitečnější a přínosnější odpovědi bez ohledu na to, který model si člověk vybral jako první,“ dodala.