Článek
Šéf OpenAI Sam Altman uvedl, že nezletilí potřebují významnou ochranu a firma proto dává bezpečnost před soukromím a svobodou dospívajících. Podle společnosti by měl ChatGPT komunikovat s patnáctiletým jinak než s dospělým uživatelem, píše web The Guardian.
OpenAI proto připravuje systém pro odhad věku, který bude vycházet ze způsobu, jakým lidé ChatGPT používají. Pokud si nebude jistý, automaticky uživatele zařadí do kategorie pod 18 let a nabídne mu bezpečnější verzi služby.
V některých případech a zemích mohou být někteří uživatelé dokonce požádání o předložení průkazu totožnosti k ověření svého věku.
„Bude blokován grafický sexuální obsah. Dále chatbota vyškolíme, aby neflirtoval, pokud ho o to požádají uživatelé mladší 18 let, nebo se nezapojoval do diskusí o sebevraždě nebo sebepoškozování, a to ani v rámci tvůrčího psaní,“ uvedl Altman ve svém prohlášení.
„Uvědomujeme si, že pro dospělé to představuje určitý zásah do soukromí, ale považujeme to za smysluplný kompromis. Jim flirtování zakázáno nebude,“ dodal.
Přísnější ochrana u citlivého obsahu
OpenAI v srpnu připustila, že její dosavadní systémy nejsou dostatečné, a oznámila zavedení přísnější ochrany u citlivého obsahu. Reagovala tak na žalobu rodiny šestnáctiletého Adama Rainea, který spáchal sebevraždu.
Podle právníka rodiny spáchal Adam sebevraždu po měsících, kdy ho k tomu ChatGPT údajně povzbuzoval. Rodina zároveň tvrdí, že model GPT-5 byl uveden na trh příliš uspěchaně, a to navzdory zjevným bezpečnostním rizikům.
Společnost rovněž pracuje na bezpečnostních prvcích, které mají zajistit, že data sdílená s ChatGPT zůstanou soukromá i před samotnými zaměstnanci firmy.
