Článek
„Zjištění naznačují, že bychom měli pokračovat se dvěma volitelnými ikonami EU, konkrétně AI modified (upraveno) a AI generated (generováno),“ uvedla Anja Bechmanová z univerzity v dánském Aarhusu.
Označení by mělo být jednotné a mělo by poskytnout podrobnější informace o úpravě obsahu pomocí AI.
AI dokáže vytvořit obsah, který je od obsahu vytvořeného člověkem a klasickými metodami často téměř nerozpoznatelný. Regulace proto zavádí princip, že lidé mají právo vědět, kdy byl obsah vytvořen umělou inteligencí nebo kdy komunikují s AI namísto člověka.
Takzvaný kodex praxe Evropská komise zveřejnila 10. června. Cílem opatření je omezit šíření manipulativního či klamavého obsahu, zvýšit důvěru v digitální prostředí a chránit uživatele.
Od 2. srpna bude unijní Akt o AI vyžadovat jasné označování takzvaných deepfakes a textů generovaných nebo upravených umělou inteligencí, které se zveřejňují ve veřejném zájmu. Uživatelé budou muset být rovněž informováni o tom, že komunikují s interaktivním systémem AI, například chatbotem. Cílem je snížit riziko podvodu a manipulace, a to i v případě uměleckých děl.
Jde o to, aby uživatelé nenabyli falešného dojmu, že obsah je autentický, ačkoli ho vytvořila nebo pozměnila AI. „Evropané mají právo vědět, zda to, co vidí, slyší nebo čtou, bylo vytvořeno nebo pozměněno umělou inteligencí, zejména pokud takový obsah může ovlivňovat veřejnou debatu,“ řekla při zveřejnění kodexu místopředsedkyně Evropské komise a eurokomisařka pro technickou suverenitu Henna Virkkunenová.
Opatření se budou od srpna týkat i mimoevropských systémů používaných na území Evropské unie. Vztahuje se jak na poskytovatele systémů generativní AI, tak na jejich provozovatele.
Podle aktuálního průzkumu Centra pro výzkum veřejného mínění (CVVM) AI používají aspoň občas skoro tři čtvrtiny Čechů. Lidé v umělé inteligenci vidí pomoc při rutinních pracích, ale i možnou hrozbu.
Co je to deepfake?
Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video. Jde o podvrh, tento materiál se nezakládá na pravdě.
Technologie deepfake (složenina slov „deep learning“ – hluboké učení; disciplína v rámci strojového učení a „fake“ – anglický výraz pro podvrh, falzifikát), využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.
