Jen třetina Čechů ví, co je deepfake. Přesto si věří, že by ho dokázali odhalit

V době, kdy lze hlas, podobu i identitu člověka pomocí AI napodobit během krátké chvíle, je ochrana před podobnými podvody důležitější než kdy jindy.

Doba, kdy se dalo třeba falešné video rozpoznat podle řady vizuálních chyb (například šest prstů apod.), je ale dávno pryč. S novými AI nástroji jsou i podvody stále propracovanější a jejich odhalení náročnější. Povědomí Čechů o nich by tak mělo být prioritou. Jak ale ukázal nový průzkum agentury Ipsos na vzorku 1050 respondentů ve věku 18–65 let, informovanost není nijak velká.

Pouhá třetina podrobněji ví, co to deepfaky jsou. Další třetina pak pojem deepfake už někdy zaslechla, ale moc o něm neví. Zbylá třetina se s ním nikdy nesetkala.

Obeznámení se zmíněnými podvody je samozřejmě výrazně ovlivněno věkem. Nejvyšší povědomí o problému má skupina 18–26 let, s rostoucím věkem křivka klesá. Ve skupině 54–65 let o pojmu deepfake neslyšelo 48 procent Čechů. Obecně jsou s problematikou více obeznámeni muži než ženy. Přesto si lidé věří, že deepfaky dokážou spolehlivě odhalit. Celých 86 procent dotázaných pak věří, že během příštích dvou let AI podvodů přibude.

Vodafone reaguje na rostoucí výzvy spojené s digitální důvěrou spuštěním služby Vodafone Verify, kterou vyvinul ve spolupráci se společností Synhawk. Mobilní aplikace pomáhá běžným uživatelům, firmám i institucím ověřovat podezřelé fotografie, videa, hlasové zprávy nebo dokumenty ještě před tím, než na jejich základě učiní důležité rozhodnutí.

Cílem není pouze pomoci odhalovat potenciální podvody, ale také podpořit nový návyk ověřování v situacích, kdy je důvěra klíčová. Mottem je – zastav, ověř, jednej.

„Největším rizikem, které umělá inteligence přináší, nejsou jen sofistikovanější podvody. Je jím narušování důvěry v digitální komunikaci. Ve světě, kde lze přesvědčivě zmanipulovat hlas, obraz i dokument, potřebují lidé i organizace nové způsoby, jak ověřovat, co je skutečné. S Vodafone Verify děláme další krok v našem závazku přispívat k bezpečnějšímu a důvěryhodnějšímu digitálnímu světu pro všechny,“ říká Violeta Luca, generální ředitelka Vodafonu.

Uživatel jednoduše nahraje soubor nebo odkaz, například příspěvek sdílený na sociálních sítích. Služba následně analyzuje širokou škálu rizikových signálů a poskytne uživateli pravděpodobnostní vyhodnocení společně s vysvětlením. Cílem není nahradit lidský úsudek, ale poskytnout další vrstvu informací, která podpoří informovanější rozhodování.

Aplikace bude dostupná pro zařízení s operačními systémy Android a iOS od 22. října a bude určena jednotlivcům, firmám i institucím. U mobilních tarifů kategorie Black a u velké části firemních tarifů bude součástí balíčku, ostatní zákazníci si ji mohou aktivovat jako doplňkovou službu za 59 Kč měsíčně bez DPH.

Co se týče samotné schopnosti odhalení falešného videa, fotky, zvuku či dokumentů, lidé si nejvíc věří u videa. Mezi mladými do 26 let to je celých 80 %, ve skupině 36–44 let už jen 58 %. V generaci nad 64 let pak jen 42 %.

Podobně si věří mladí i u odhalování podvržených fotek, rozpoznat by je dle vlastního vyjádření dokázaly ¾ lidí ve věku do 26 let. Nad 54 let je to už ale jen třetina.

Rozpoznávání upraveného hlasu už je v populaci mnohem horší. Mezi mladými do 26 let by to dokázalo něco přes 60 procent dotázaných (64 %), celá pětina starších 54 let už by nedokázala zhodnotit, zda jde o skutečnou nahrávku, nebo podvrh.

Nejmenší míru sebevědomí v odhalování deepfaků se pak ukazuje u dokumentů typu faktur a podobně. V nejmladší věkové skupině si v tom věří jen 37 % (11 % by to určitě dokázalo, 26 % by to spíše dokázalo), nad 54 let jen 25 %.

Podle čeho poznat, že jde skutečně o podvržené video, zvuk či dokument? Jak z průzkumu vyplynulo, lidé často spoléhají na vizuální chyby a detaily (34 %). Jako již zmíněný nesprávný počet prstů, zvukové odchylky nebo přílišná dokonalost u videa.

Podobný postup ale například u dokumentů praktikovat nelze. Tam šlo dříve „spoléhat“ na jazykové a textové chyby. S vývojem AI ale ani to už neplatí, čeština už není ani pro podobné podvody problém.

I když si lidé věří, že by uměli deepfake odhalit, vizuální vodítka, která k tomu využívají, jim ubývají. A jak se ukazuje, právě na ně a svou schopnost najít podvod spoléhali nejvíce. Různé detekční nástroje nebo metadata k odhalení totiž používají jen dvě procenta dotázaných.

„Lidé se dnes při rozpoznávání podvodů často spoléhají na vlastní intuici nebo na známky nepřirozenosti v obrazu a zvuku. Jenže právě v tom se umělá inteligence zlepšuje nejrychleji. Ověřování na úrovni platforem a infrastruktury se proto postupně stává stejně důležitým bezpečnostním návykem, jako jsou silná hesla nebo dvoufázové ověřování,“ vysvětluje Maty Boháček, výzkumník v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatel společnosti Synhawk.

Podobným rizikům jako jednotlivci čelí i firmy. Devět z deseti odborníků na IT nebo kyberbezpečnost v průzkumu potvrdilo, že s rostoucím objemem generovaného AI obsahu je stále obtížnější rozpoznat, čemu lze důvěřovat.

Přestože 89 % firem očekává další nárůst AI podvodů, pouze 31 % se považuje za dobře připravené jim čelit.

Pouze 6 % společností využívá specializované AI detektory nebo software určený k rozpoznávání deepfake obsahu. 90 % firemních expertů přitom věří, že ověřování obsahu by mohlo významně snížit finanční škody.