Článek
Takzvaný mód pro dospělé přitom OpenAI neodložila poprvé. Už dříve se jeho spuštění posouvalo kvůli interním debatám o tom, zda takový model vůbec uvést na trh. Podle zdrojů listu The Financial Times narážel projekt v rámci firmy na stále silnější odpor.
Kritici upozorňovali hlavně na dvě rizika, a to, že podobný produkt může podporovat nezdravou citovou vazbu lidí k systémům umělé inteligence a zároveň otevřít cestu k sexuálnímu obsahu, který by byl dostupný i mladistvým.
Rozhodnutí zapadá do širší změny priorit. OpenAI omezuje vedlejší projekty a více tlačí na produkty, které přináší finance jako nástroje pro práci, programování a samotný ChatGPT, které chce společnost dál spojovat do jedné silné platformy. Ve středu firma oznámila, že utlumí model na tvorbu videí Sora.
Technologické firmy čelí podle britského listu silnějšímu tlaku kvůli tomu, jak jejich služby působí na děti a dospívající. OpenAI se ocitla na tenkém ledě, kdy je na jedné straně v oblasti umělé inteligence velký tlak na růst, vyšší zapojení uživatelů a nové zdroje příjmů, a na druhé straně hrozí reputační i etické škody, pokud by se produkt začal spojovat se selháním ochrany nezletilých. I někteří investoři dávali najevo, že přínos erotického chatbota by byl pro byznys spíš omezený, zatímco reputační riziko mimořádně vysoké.
Projekt navíc narážel i na technické limity. OpenAI měla problém přeškolit modely, které byly dlouhodobě nastavené tak, aby se explicitním tématům vyhýbaly, na generování sexuálního obsahu s potřebnými omezeními. Komplikované bylo i samotné trénování na datech obsahujících sexuální materiál, protože bylo nutné oddělit nelegální nebo nepřípustné kategorie, například incest či sex se zvířaty.
