Italové omezili umělou inteligenci. ChatGPT hrozí pokuta 470 milionů

„Omezíme ChatGPT do doby, než bude respektovat nařízení o ochraně osobních údajů,“ stojí v prohlášení italského úřadu pro ochranu osobních údajů. Doplnili nicméně, že provozovatel má nyní možnost se proti rozhodnutí odvolat, řízení tedy ještě není ukončeno.

Italský úřad pro ochranu osobních údajů tvrdí, že společnost „OpenAI shromažďuje osobní údaje, aniž by k tomu měla nějaký právní základ“. Provozovatel ChatGPT shromažďování a uchovávání osobních údajů odůvodňuje pouze tím, že je to nezbytné pro trénování algoritmů, které jsou základem provozu platformy.

Uživatelé navíc údajně ani nejsou informováni o tom, že jsou jejich data uchovávána.

Italský úřad upozornil, že z ChatGPT unikly koncem března informace o jeho uživatelích. Otázka shromažďování dat je tedy více než ožehavá.

Není to přitom jediná věc, která úředníkům v Itálii vadí. Navzdory tvrzení zástupců společnosti OpenAI, že chatovacího robota mohou používat lidé starší 13 let, není na webu služby věk uživatelů nijak kontrolován, což je v rozporu se současnou legislativou.

Úřad nařídil, že robot ChatGPT nesmí používat osobní údaje italských uživatelů až do konce řízení. Nyní má tedy firma OpenAI 20 dní na to, aby zavedla opatření, která vyhovují výtkám italského úřadu. Pokud tak neučiní, hrozí společnosti vysoká pokuta. Pokuty navíc mohou být udělovány opakovaně, což může být pro provozovatele likvidační.

Samotný úřad ale poukazuje na to, že vymáhat podmínky nebude vůbec jednoduché. OpenAI totiž nemá kanceláře v žádné ze zemí Evropské unie, od roku 2015 působí v americkém San Francisku.

Evropská policejní organizace Europol zase tento týden varovala, že by zločinci mohli využít ChatGPT a další chatovací roboty k podvodům a dalším kriminálním aktivitám. Na to poukázala již dříve kyberbezpečnostní společnost Check Point, podle které už hackeři ChatGPT zneužívají.

„Umělá inteligence bude zcela jistě jedním z hlavních témat roku 2023. AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT,“ varoval Petr Kadrmas, bezpečnostní expert Check Pointu.

Podle něj „hackeři zkoušejí tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny“.

Například už koncem loňského roku se na jednom populárním hackerském fóru objevilo vlákno s názvem „ChatGPT – výhody malwaru“. Autor příspěvku se s ostatními počítačovými piráty dělil o své zkušenosti, jak vytváří malwarové kmenty právě prostřednictvím populárního chatovacího robota.

„Podařilo se mu například vygenerovat základní nástroj pro krádeže, který v systému vyhledává 12 běžných typů souborů – například dokumenty MS Office, PDF a obrázky. Pokud jsou nalezeny zajímavé soubory, malware je zkopíruje do dočasného adresáře, zazipuje a odešle přes web. Soubory jsou ovšem odesílané v nezašifrované podobě, takže se mohou dostat do rukou i třetím stranám. Další skript by bylo možné snadno upravit tak, aby stáhl a spustil jakýkoli program včetně běžného malwaru,“ uvedl Kadrmas.

To je podle bezpečnostních expertů alarmující. Umělá inteligence totiž evidentně může posloužit méně technicky zdatným jedincům, aby vytvořili stejně sofistikované škodlivé kódy, jaké běžně používají ostřílení hackeři při svých útocích.