Na internetu rapidně přibývá dětských pornografických materiálů vytvořených AI

V letošním roce dosud analytici IWF zaznamenali 6310 AI záběrů splňujících definici sexuálního zneužívání dětí, píše deník The Guardian. Oproti loňskému roku, kdy jich zaznamenali přes 4500, to představuje nárůst o 40 procent. Tato statistika se vztahuje jen na fotografické záběry a neeviduje videa, která přitom přibývají nejrychlejším tempem.

Případů dětského pornografického materiálu vytvořeného umělou inteligencí každoročně přibývá už několik let. Většina zaznamenaných záběrů ukazovala děti, především dívky, ve věku od sedmi do třinácti let.

Podle IWF tato data podtrhují potřebu zákonné regulace umělé inteligence. Současná britská vláda takovou legislativu nevylučuje, ale zároveň nic nenaznačuje tomu, že by aktuálně byla na stole.

Pornografické materiály zobrazující sexuální zneužívání dětí jsou v Británii stejně jako zneužívání AI modelů k jejich vytváření ilegální. Za vytvoření AI modelu určeného k vytváření takových záběrů pachatelům hrozí až pět let.

Vedoucí oddělení veřejné politiky IWF Hannah Swirskyová ale tvrdí, že je potřeba zodpovědnost novou legislativou přenést na technologické firmy, aby zajistily, že jsou jejich modely bezpečnější. „Je na technologických společnostech, aby vytvořily nástroje, které nemohou být takto zneužity. Tento problém vytvořila technologie,“ řekla Swirskyová.

IWF a britská Národní kriminální agentura rovněž nabádají rodiče, aby zabránili zneužití fotek jejich dětí predátory tím, že je nebudou dávat na sociální sítě. Pokud chtějí fotky svých dětí sdílet, mají tak učinit přes uzavřenou skupinu blízkých nebo na soukromém účtu.