Článek
Podle plánovaných předpisů budou muset vývojáři zajistit, aby jejich modely umělé inteligence negenerovaly nebezpečný obsah, včetně propagace hazardních her.
Po nastavení a doladění pravidel se budou tato vztahovat na veškeré produkty a služby umělé inteligence provozované v Číně, což podle BBC představuje významný krok k regulaci rychle rostoucí technologie, která se v posledních měsících dostala pod intenzivní kontrolu kvůli bezpečnostním obavám, a to hlavně pro děti a mladistvé.
V návrhu zveřejněném Čínským úřadem pro správu kyberprostoru (CAC) se objevují požadavky na personalizované nastavení, časové limity pro používání nebo ověřený souhlas opatrovníka/rodiče před poskytnutím služeb.
Nutný dohled člověka
Ve zprávě k zavedení pravidel se říká, že bude potřeba dohled člověka nad správou chatbotů ze strany provozovatele. Pokud „dohlížitel“ narazí na jakoukoli znepokojivou konverzaci, například ohledně sebepoškozování nebo sebevraždy, bude muset ihned kontaktovat osobu, která bude uvedena pro případ nouze.
Poskytovatelé umělé inteligence budou rovněž povinni zajistit, aby jejich služby a produkty nesdílely obsah, který by „ohrožoval národní bezpečnost, poškozoval národní čest či zájmy nebo podkopával národní jednotu“.
Šéf OpenAI (tvůrce ChatGPT) Sam Altman minulý rok uvedl, že způsob, jakým chatboti reagují na konverzace ohledně sebepoškozování, patří mezi největší současné problémy společnosti. Aby se minimalizovaly případy, kdy AI bude někoho povzbuzovat například k sebevraždě, má konkrétně v OpenAI vzniknout v dohledné době „pozice vedoucího oddělení připravenosti“.
„Bude to stresující pozice, sledovat všechna rizika, která by mohla lidem ublížit. Ale bude to třeba,“ dodal Altman.
