Nejčastějším terčem jsou dívky. Komisařka chce zakázat AI aplikace vytvářející snímky nahých dětí

Komisařka uvedla, že je třeba zcela zakázat aplikace, které umožňují tzv. nudifikaci – úpravu fotografií skutečných lidí pomocí AI tak, aby vypadali nazí.

„Technologie, kterou tyto nástroje používají k vytváření sexuálně explicitních snímků, je složitá. Je navržena tak, aby zkreslovala realitu, fixovala a fascinovala uživatele. Navíc konfrontuje děti s pojmy, kterým ještě nerozumějí,“ napsala komisařka ve zprávě na stránkách organizace Children’s Commissioner.

„Vývoj těchto nástrojů probíhá v takovém měřítku a takovou rychlostí, že je velmi těžké porozumět nebezpečí, které představují,“ dodala.

Podle ní se tato technologie neúměrně zaměřuje hlavně na dívky a mladé ženy, přičemž mnoho aplikací na míru funguje pouze na ženských tělech, píše web BBC.

„Předmětem těchto sexuálně explicitních deepfakes jsou téměř výhradně ženy a dívky. Důkazy naznačují, že mnohé nástroje určené k jejich vytváření pracují pouze s obrázky žen, protože k tomu byly vyškoleny,“ vysvětluje komisařka.

I kvůli tomu se dívky aktivně vyhýbají zveřejňování obrázků nebo aktivitám na internetu, aby snížily riziko, že se stanou terčem. Stejně jako dodržují jiná pravidla, aby se ochránily v offline světě – například nechodí v noci samy domů.

Rizika pro chlapce jsou sice jiná, ale stejně škodlivá. Studie ukázaly, že dospívající chlapci jsou ohroženi převážně vlivem umělé inteligence a online komunit s extremistickým materiálem, včetně sexuálního.

Podle zákona o bezpečnosti online je sdílení nebo vyhrožování sdílením explicitních deepfake obrázků nezákonné. Anglická vláda v únoru schválila zákony na boj proti hrozbě vytváření obrázků sexuálního zneužívání dětí generovaných umělou inteligencí.

Zákony zahrnují zákaz držení, vytváření nebo distribuce nástrojů umělé inteligence určených k vytváření takového materiálu.

„Šíření materiálu zobrazujícího sexuální zneužívání dětí, včetně obrázků generovaných umělou inteligencí, je odporné a nelegální. Podle zákona o bezpečnosti online musí nyní platformy všech velikostí tento druh obsahu odstranit, jinak jim hrozí vysoké pokuty,“ uvedl mluvčí ministerstva pro vědu, inovace a technologie.

Podle něj je Spojené království první zemí na světě, která zavedla další trestné činy v oblasti sexuálního zneužívání dětí pomocí umělé inteligence. Komisařka ale tvrdí, že to není dostatečné.

„Tyto zákony nejsou dostatečné. Neměly by existovat žádné aplikace na nahotu, nejen aplikace klasifikované jako generátory sexuálního zneužívání dětí,“ uvedla.

Dále vyzvala vládu, aby uložila vývojářům generativních nástrojů umělé inteligence zákonnou povinnost identifikovat a řešit rizika, která jejich produkty představují pro děti, a přijala opatření k těmto rizikům.

Také aby zavedla systémový proces k odstranění sexuálně explicitních deepfake obrázků dětí z internetu a uznala deepfake sexuální zneužívání jako formu násilí na ženách a dívkách.

Kritika zákonů a AI aplikací je reakcí na mnohá varování, včetně těch od nadace Internet Watch Foundation (IWF) – což je britská charitativní organizace částečně financovaná technologickými firmami.

Ta potvrdila, že využívání nástrojů umělé inteligence při vytváření snímků sexuálního zneužívání dětí se během jednoho roku více než zčtyřnásobilo.

Organizace během loňského výzkumu během 30 dnů našla na jediné dark webové stránce 3512 snímků pořízených umělou inteligencí. Ve srovnání se stejným měsícem v předchozím roce se počet snímků nejzávažnější kategorie (kategorie A) zvýšil o 10 %, píše web The Guardian.

Ačkoliv pachatelé většinou vytvářejí snímky pomocí AI na základě nereálných lidí, vyskytly se i případy, kdy byly použity reálné tváře dětí nebo jejich skutečné hlasy. Tyto snímky pak použili k vydírání dětí a jejich nucení do dalších zneužívajících situací.

„Víme, že tyto aplikace jsou zneužívány například i ve školách a že se tyto obrázky rychle vymknou kontrole,“ dodal prozatímní výkonný ředitel IWF Derek Ray-Hill.

„Jedná se o oblast, kterou je třeba naléhavě přezkoumat, protože hrozí, že technologie předběhne zákony a vzdělávání v této oblasti,“ uzavřel.