EK představila nový kodex pro AI

Kodex má mimo jiné upravovat zacházení s rozsáhlými jazykovými modely (tzv. GPAI), mezi něž patří například ChatGPT od společnosti OpenAI či modely firem Google nebo Mistral.

„Kodex je důležitý kvůli tomu, aby byly ty nejpokročilejší modely AI v Evropě nejen inovativní, ale i bezpečné a transparentní,“ uvedla eurokomisařka Henna Virkkunenová.

Právě absence tohoto dokumentu vedla některé klíčové hráče v technologickém sektoru – včetně amerických gigantů Google a Meta Platforms, ale i evropských firem jako Mistral či ASML – k výzvám, aby se zavedení nové legislativy v oblasti AI, známé jako Akt o umělé inteligenci, pozdrželo.

Kodex měl být podle původních plánů zveřejněn již 2. května.

Připojení se ke kodexu je dobrovolné, avšak firmy, které se rozhodnou zůstat mimo, se mohou připravit o výhody právní jistoty, kterou signatářům přináší. Některé technologické společnosti už naznačily, že se ke kodexu nemusí přihlásit.

Signatáři se podle návrhu kodexu mimo jiné zavazují k zavedení technických opatření, která zabrání generování obsahu porušujícího autorská práva, a k průběžnému testování modelů podle kritérií stanovených v aktu o AI.

U nejpokročilejších modelů bude nutné zajistit i monitoring po jejich nasazení, včetně umožnění přístupu externím hodnotitelům. Komise v kodexu ale zároveň ponechala určitou míru pružnosti při vyhodnocování možných rizik.

Akt o AI, jehož části vstoupí v platnost již 2. srpna, byl přijat v srpnu loňského roku jako první ucelená regulace AI na světě. U nových modelů bude úřad pro umělou inteligenci pravidla moci vymáhat o rok později v srpnu 2026, u stávajících modelů v srpnu 2027. Součástí legislativy jsou i zvláštní pravidla pro vysoce rizikové systémy jako rozpoznávání obličeje nebo biometrické sledování.

Nová pravidla mají v budoucnu zajistit, aby vývoj a nasazení umělé inteligence v Evropě probíhalo bezpečně a transparentně. Kodex by měl vývojářům a provozovatelům AI systémů nabídnout praktické návody, jak normy naplňovat.