Článek
Výkonný ředitel OpenAI Sam Altman v rozhovoru s moderátorem Tuckerem Carlsonem uvedl, že rozhodnutí vycvičit systém tak, aby v takových krizových situacích upozorňoval úřady, zatím není definitivní, píše web The Guardian.
Dodal však, že je velmi rozumné uvažovat o tom, že pokud mladí lidé vážně hovoří o sebevraždě a není možné kontaktovat jejich rodiče, systém by měl zavolat příslušné úřady.
„Jednalo by se o výraznou změnu v politice společnosti zabývající se umělou inteligencí. Soukromí uživatelů je pro nás na prvním místě,“ řekl Altman. „V současné době, pokud uživatel projeví sebevražedné myšlenky, ChatGPT ho vyzve, aby zavolal na linku pro sebevrahy,“ doplnil.
Sam Altman on God, Elon and the mysterious death of his former employee.
— Tucker Carlson (@TuckerCarlson) September 10, 2025
(0:00) Is AI Alive? Is It Lying to Us?
(3:37) Does Sam Altman Believe in God?
(6:37) What Is Morally Right and Wrong According to ChatGPT?
(19:08) ChatGPT Users Committing Suicide
(27:21) Will Altman Allow… pic.twitter.com/ZQSbSCMgCp
Sebevražda kvůli ChatGPT
Altman přišel do rozhovoru poté, co OpenAI zažalovala rodina šestnáctiletého chlapce Adama Rainea, který po konverzacích s ChatGPT v dubnu spáchal sebevraždu. Podle právního tvrzení mu chatbot poskytoval rady ohledně jeho způsobu, jak si vzít život, a dokonce mu nabízel pomoc při sepsání dopisu na rozloučenou.
„Týdně spáchá sebevraždu kolem 15 000 lidí. Asi deset procent lidí na světě komunikuje s ChatGPT. To znamená zhruba 1500 lidí týdně, kteří si s ním povídají, a přesto nakonec spáchají sebevraždu. Raine byl jeden z nich,“ uvedl Altman.
„Možná bychom mohli reagovat lépe, být aktivnější a nabídnout lepší rady. To je teď náš cíl,“ dodal.
Po Raineově smrti tak společnost oznámila, že u uživatelů mladších 18 let zavede přísnější ochranná opatření proti citlivému obsahu a rizikovému chování. Současně plánuje rodičovskou kontrolu, která rodičům umožní lépe sledovat a ovlivňovat, jak jejich dospívající používají ChatGPT.
