Článek
Internet Watch Foundation se sídlem v Histonu nedaleko Cambridge se zaměřuje na vyhledávání, označování a odstraňování materiálů zobrazujících sexuální zneužívání dětí z internetu, píše web BBC.
Její práci však výrazně komplikuje rostoucí výskyt obrazového materiálu generovaného umělou inteligencí – podle BBC došlo v roce 2024 k nárůstu těchto případů o 300 % oproti předchozímu roku.
Podle technologického ředitele IWF Dana Sextona vyvolává velké obavy, zda policie dokáže rozeznat, jestli jde o skutečné dítě v nebezpečí, nebo o výtvor umělé inteligence.
„Hrozí, že orgány činné v trestním řízení začnou chránit děti, které ve skutečnosti neexistují, zatímco skutečné oběti sexuálního zneužívání zůstanou bez pomoci. To mě velice trápí,“ řekl Sexton.
„Ještě před dvěma lety byly tyto materiály snadno rozeznatelné. Dnes jsou deepfake obrázky natolik realistické, že je téměř nemožné je odlišit od skutečných,“ dodal.
Tempo vývoje AI technologií je znepokojivé
Natalia (její skutečné jméno bylo z důvodu ochrany identity změněno) působí v organizaci IWF jako analytička už téměř pět let a specializuje se mimo jiné na oblast umělé inteligence. Podle ní je tempo, jakým se AI technologie vyvíjí, znepokojivé.
„Dnešní obsah je neuvěřitelně realistický. A rychlost vývoje těchto technologií je skutečně alarmující,“ uvedla.
Svou obavu ilustrovala příběhem jedné z obětí dětského zneužívání, jejíž fotografie kolují po internetu už od roku 2011. Ačkoli byl pachatel dopaden a dívka se později rozhodla svůj příběh zveřejnit, tyto snímky jsou stále dostupné online – a nově se objevují i jejich verze vytvořené umělou inteligencí.
„Některé nové snímky generované umělou inteligencí jsou dokonce ještě brutálnější než ty skutečné,“ upozornila s tím, že nejde o zločin bez oběti. „Existuje skutečná osoba, která tím trpí, a tento typ obsahu jí způsobuje opravdovou újmu.“
Nadace také sleduje, kde a jak tento obsah vzniká, a aktivně pracuje na využití umělé inteligence k jeho odhalování. „Rozsah problému a jeho možný další růst znamenají, že nikdy nebylo důležitější mít k dispozici AI nástroje, které nám s tím pomohou,“ vysvětlil Sexton.
„Přál bych si, aby jednoho dne bylo možné zveřejnit zprávu, která by ukazovala pokles výskytu materiálů se sexuálním zneužíváním dětí. Bohužel k tomu zatím nedošlo,“ uzavřel.
