Článek
Pětadvacetiletý Callum Brooks z Glasgow se stal jedním z prvních, kdo byl odsouzen za využití umělé inteligence k tvorbě a šíření falešných nahých snímků (deepfake) své kamarádky. Minulý měsíc se k činu u soudu přiznal a soud mu uložil pokutu 335 liber (9 334 korun), píše web BBC.
Oběť s tímto verdiktem ale nesouhlasí. Pro BBC Scotland News řekla, že trestné činy využívající umělou inteligenci by měly mít vlastní legislativu a tresty by měly být vyšší.
„Cítím se ponížená a zrazená. Chtěl bych, aby se k tomu přistupovalo přísněji. Mám pocit, že by se měla vytvořit nová legislativa týkající se trestných činů souvisejících s umělou inteligencí,“ řekla žena, kterou BBC pojmenovalo jako Sophie. Skotská vláda nyní zvažuje potřebu samostatného zákona.
Sophie uvedla, že byla zděšena, když zjistila, že její tvář byla použita na dvou nahých snímcích. Okamžitě nahlásila svého známého ze střední školy Brookse policii.
„Hnusí se mi, že něco takového může udělat člověk, kterého považujete za přítele,“ řekla žena. „Několik dní mi to vrtalo hlavou, až jsem se mámě přiznal, že se cítím trapně. Bála jsem se, jestli ty obrázky nejsou na nějaké webové stránce,“ doplnila.
Co je to deepfake?
Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video. Na pravdě se ovšem tento materiál nezakládá.
Technologie deepfake, složenina ze slov deep learning (hluboké učení, disciplína v rámci strojového učení) a fake, využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.
Dlouhodobé řešení problematiky deepfake
Ačkoli je sdílení takových snímků bez souhlasu už nyní trestné, britská vláda loni přislíbila zavedení samostatného trestného činu zaměřeného přímo na tvorbu sexuálně explicitních deepfakes.
Premiér Skotska John Swinney uvedl, že vláda pečlivě zvažuje potřebu zvláštní legislativy a plánuje spolupráci s Westminsterem, aby bylo možné nové zákony vztáhnout i na Skotsko.
Odborníci z Univerzity Abertay také pracují na účinnějších metodách boje proti deepfakes. Příští měsíc univerzita spustí nový doktorandský program, jehož cílem bude zlepšit identifikaci falešných snímků a zvýšit povědomí o problematice mezi policií i širokou veřejností.
„Proti aplikacím, které dokážou vytvářet falešné akty, se bránit téměř nedá, protože cokoliv může být použito jako zdrojový obrázek. Tyto nástroje navíc nabízejí různé funkce, které manipulaci usnadňují. Je to velmi znepokojující a zároveň snadno proveditelné,“ vysvětlila odbornice na kybernetickou bezpečnost na univerzitě Abertay Lynsay Shepherdová.
Podle ní je třeba vyvinout společné úsilí k dlouhodobému řešení problematiky deepfakes. „Přísnější zákony jsou potřeba. Orgány činné v trestním řízení to samy nezvládnou. Akademická obec to sama nezvládne. Je zcela zásadní, abychom všichni spolupracovali spolu se zúčastněnými stranami z průmyslu,“ uzavřela.
