Hlavní obsah

AI zneužita proti spolužačkám. Mladý Španěl čelí vyšetřování kvůli falešným nahým fotkám

3:14
3:14

Poslechněte si tento článek

Policie ve východním Španělsku vyšetřuje 17letého chlapce pro podezření, že pomocí umělé inteligence vytvářel a sdílel falešné snímky nahých spolužaček na svých sociálních sítích. Ty také hodlal prodávat na internetu.

Foto: Profimedia.cz

Ilustrační obrázek

Článek

Policisté civilní stráže v oblasti Ribera Alta ve Valencii zahájili vyšetřování v prosinci loňského roku poté, co jedna ze studentek nahlásila vytvoření účtu na sociální síti jejím jménem, na kterém se objevilo deepfake video vytvořené pomocí umělé inteligence, píše web The Guardian.

„Na tomto účtu se objevily i fotografie různých osob, vesměs nezletilých. Všechny tyto fotografie byly upraveny z originálů, které byly zmanipulovány tak, že osoby na nich vypadaly zcela nahé,“ uvedla policie ve svém prohlášení.

Stejná dívka poté nahlásila i druhý účet na sociálních sítích na své jméno, stejně jako další účty, které zobrazovaly nahá videa generovaná umělou inteligencí, a webovou stránku věnovanou reklamě na tyto snímky pro komerční účely.

Poté, co se s podobnými stížnostmi přihlásilo dalších 15 nezletilých, policisté pojali podezření, že za falešnými snímky a videy stojí jeden z dívčiných spolužáků.

Procházením příspěvků na sociálních sítích, kontaktováním hostingových společností a zkoumáním webové stránky inzerující služby úpravy obrázků umělé inteligence se policie dostala na stopu podezřelého.

„Policisté získali informace o uživatelích a přístupových údajích používaných na těchto platformách (včetně IP adres). Ty vedly do domu spolužáka jednoho ze stěžovatelů. Potvrdili také, že e-maily použité k vytvoření účtů patřily stejné osobě,“ dodali policisté.

Dále také uvedli, že sedmnáctiletý chlapec je vyšetřován pro podezření z korupce. Navíc na případ dohlíží soud pro mládež ve Valencii.

Co je to deepfake?

Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video. Na pravdě se ovšem tento materiál nezakládá.

Technologie deepfake, složenina ze slov deep learning (hluboké učení, disciplína v rámci strojového učení) a fake, využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.

Případů je ve Španělsku víc

V loňském roce bylo 15 nezletilých v jihozápadním španělském regionu Extremadura odsouzeno k ročnímu podmíněnému trestu poté, co byli usvědčeni z použití umělé inteligence k výrobě falešných nahých snímků svých spolužáků. Ty také sdíleli ve skupinách aplikace WhatsApp.

Obžalovaným bylo rovněž nařízeno navštěvovat kurzy zaměřené na osvětu v oblasti genderu a rovnosti a na zodpovědné používání technologií.

„Bylo prokázáno, že nezletilí použili aplikace umělé inteligence k získání zmanipulovaných snímků jiných nezletilých tím, že vzali původní obličeje dívek z jejich profilů na sociálních sítích a tyto snímky umístili na těla nahých žen. Zmanipulované fotografie pak sdíleli ve dvou skupinách na WhatsAppu,“ uvedl tenkrát soud v prohlášení.

Sdružení Malvaluna, které jednalo jménem postižených rodin, uvedlo, že případ má důsledky pro celou španělskou společnost. „Kromě tohoto konkrétního soudního procesu by nás tyto skutečnosti měly přimět k zamyšlení nad potřebou vzdělávat lidi v oblasti rovnosti mezi muži a ženami,“ uvedlo sdružení v té době pro internetové noviny ElDiario.es.

„Je nutné, aby byla řádná sexuální výchova ve školách. Děti by se neměly učit o sexu z pornografie, která generuje více sexismu a násilí,“ dodalo sdružení.

Od letošního března španělská vláda pracuje na návrhu zákona, jehož cílem je posílit ochranu mladých lidí na internetu. Nová legislativa by měla kriminalizovat internetový grooming i používání sexuálních snímků vytvořených umělou inteligencí bez souhlasu dotčených osob.

Výběr článků

Načítám