Článek
Vše začalo poté, co v říjnu roku 2023 jeden ze spolužáků vzal neškodnou fotku z Instagramu Berryové a pomocí AI vygeneroval snímky, na nichž je dívka svlečená. Nahé fotky pak s dalšími spolužáky rozeslali všem ve škole.
I když šlo o velmi nepříjemnou zkušenost, rozhodla se Elliston bojovat nejen za sebe, ale i za další možné oběti.
S pomocí rodiny a přátel se zkontaktovala s úřadem texaského senátora Teda Cruze, kde byl později sepsán tzv. Take It Down Act. Ten od loňského roku chrání americké děti – ale pochopitelně i starší jedince – před podobnými nepříjemnostmi. Berryová se na něm významně podílela.
První dáma Melania Trumpová uprostřed, Elliston Berryová vpravo
Jako nový zákon, který kriminalizuje nedobrovolné sdílení sexuálně explicitního obsahu, tento akt následně podepsal americký prezident Donald Trump. Berryová se díky tomu setkala osobně nejen s ním, ale i s první dámou Melanií Trumpovou, která jí vyjádřila velkou podporu.
S rozvojem umělé inteligence počet deepfaků výrazně narůstá. Podle průzkumu z minulého roku zná každý osmý americký teenager osobně někoho, kdo se stal obětí deepfaku.
Co je to deepfake?
Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video. Jde o podvrh, tento materiál se nezakládá na pravdě.
Technologie deepfake (složenina slov „deep learning“ – hluboké učení; disciplína v rámci strojového učení a „fake“ – anglický výraz pro podvrh, falzifikát), využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.
Škola jí nedokázala pomoci
Tím ale aktivita Berryové rozhodně nekončí. Ve spolupráci s experty na kybernetickou bezpečnost spoluvytvořila kurz (trvá zhruba 17 minut a cílí především na rozpoznání deepfaků, včetně sexuálního vydírání), který má pomoci studentům, ale i rodičům, učitelům a dalším zaměstnancům škol nejen sdělovat podrobné informace o zneužívání deepfake obrázků, ale umět problém i řešit.
„Jednou ze situací, se kterou jsme se setkali, byl nedostatek povědomí o celém problému a také osvěty,“ uvedla Berryová pro CNN o situaci na škole, kam chodila.
„Byli zmatenější než já a moje rodina, takže nám nedokázali poskytnout potřebnou podporu a pomoc. Proto je nový kurz tolik potřebný – zaměřuje se i na vzdělávání pedagogů, aby byli schopni zasáhnout, pokud se to stane někomu dalšímu,“ doplnila.
„Nový zákon není jen ochranou obětí, ale i varováním pro potenciální pachatele těchto činů. Musejí pochopit, že to není žert. Je to protizákonné a velmi nebezpečné,“ dodal k tomu Brian Long, generální ředitel společnosti Adaptive Security. Ta se podílela na spoluvytváření kurzu, který zpřístupňuje zdarma školám i rodičům.
Jak Berryová dodala, odstranění jejích falešných nahých fotografií ze sociálních sítí trvalo dlouhých devět měsíců. Nový zákon nyní platformám nařizuje, aby ke stažení došlo do 48 hodin po nahlášení, jinak jim hrozí postih.
Elliston Berryová byla zařazena časopisem Time mezi 100 nejvlivnějších osob roku 2025.
