I mléko podléhá přísnějším kontrolám než AI, burcoval šéf Microsoftu

„V současnosti se na vaši pračku vztahuje více bezpečnostních předpisů než na umělou inteligenci. Každá krabice mléka, kterou vidíte v obchodě s potravinami, podléhá bezpečnostním pravidlům a kontrolám,“ prohlásil Smith v rozhovoru pro BBC.

Podle prezidenta Microsoftu je proto nezbytné co nejrychleji zavést přísnější pravidla. Umělá inteligence totiž podle něj může být nejen užitečným nástrojem, ale také nebezpečnou zbraní.

Jedním z navrhovaných opatření jsou takzvané nouzové vypínače, v angličtině označované jako „kill switches“. Ty by společnostem umožnily zastavit nebo alespoň zpomalit činnost umělé inteligence v případě, že by se její chování vymklo kontrole.

Smith zároveň požaduje, aby technologické společnosti měly zákonnou povinnost informovat lidi a organizace, jejichž systémy naruší AI agenti jednající mimo kontrolu. Firmy by podle něj měly také povinně hlásit podobné incidenty a nové technologie by před uvedením na trh mohly posuzovat nezávislé kontrolní orgány.

Podobné obavy jako Smith vyjádřil také generální ředitel Microsoftu Satya Nadella. Ten minulý týden rovněž vyzval k tomu, aby nejpokročilejší modely umělé inteligence disponovaly účinnou nouzovou brzdou.

„Nemůžeme k superinteligenci přistupovat jako k soustavě vzájemně vnořených černých skříněk a jednoduše přijímat nebo odmítat její doporučení, odpovědi a činy,“ napsal Nadella. „Musíme vytvářet systémy s jasně vymezenými hranicemi, jejichž chování můžeme sledovat, jejichž limity můžeme testovat a jejichž jednání dokážeme vždy udržet pod kontrolou,“ dodal.

Microsoft přitom patří mezi významné hráče na poli umělé inteligence. Provozuje infrastrukturu potřebnou pro její fungování a zároveň je akcionářem společnosti OpenAI, která stojí za populárním chatbotem ChatGPT.

Výzvy k přísnější regulaci přicházejí i od politiků, regulačních úřadů a odborníků. Také představitelé společností Anthropic, Google DeepMind a OpenAI podpořili myšlenku zpomalení vývoje umělé inteligence kvůli souvisejícím rizikům.

Na rostoucí rizika reaguje také britská vláda. Ministr pro umělou inteligenci Kanishka Narayan v pondělí vyzval společnosti vyvíjející nejpokročilejší modely, aby je neuváděly na trh, pokud nedokážou dostatečně zvládnout související rizika.

Britská vláda zároveň připravuje opatření, která by měla posílit dohled nad vývojem a používáním umělé inteligence. Počítá mimo jiné s povinným hlášením bezpečnostních incidentů a důkladnějším testováním modelů před jejich zveřejněním.

Odborníci upozorňují také na nebezpečí, že se výkonné modely AI dostanou do rukou nepřátelských států. Geoffrey Irving, bývalý hlavní vědecký pracovník britského Institutu pro bezpečnost umělé inteligence, varoval, že současné zabezpečení technologických společností nemusí být dostatečné.

Podle něj firmy vyvíjející umělou inteligenci „nemají takové zabezpečení, které by zabránilo nepřátelskému státu v krádeži modelů“.

Vedle možných krádeží se objevují také konkrétní případy nečekaného chování samotné umělé inteligence. Společnost Anthropic například minulý týden zveřejnila informace o incidentu, při kterém její model Claude Haiku 4.5 během testování odeslal prostřednictvím webových stránek filadelfské policie falešné informace o nevyřešené vraždě.

Incident se odehrál letos v červenci. Umělá inteligence v rámci testování vyplnila internetový formulář, v němž tvrdila, že by mohla mít informace o nevyřešeném případu. Ve skutečnosti však žádné relevantní poznatky neměla. Automatický systém označil podání za spam, takže se k policejním vyšetřovatelům vůbec nedostalo. Policie se o incidentu dozvěděla až později od společnosti Anthropic.

Firma následně uvedla, že upravuje způsob trénování svých modelů, aby v budoucnu snížila pravděpodobnost podobného nežádoucího chování.