Umělá inteligence může ohrozit přežití lidského druhu, varuje zpráva objednaná vládou USA

Mezi navrhovanými opatřeními je například omezení výpočetního výkonu používaného pro trénování nových modelů umělé inteligence. „Současný vývoj hraniční umělé inteligence představuje naléhavá a rostoucí rizika pro národní bezpečnost,“ uvádí zpráva.

„Vzestup pokročilé umělé inteligence a AGI (umělé obecné inteligence) má potenciál destabilizovat globální bezpečnost způsoby, které připomínají zavedení jaderných zbraní,“ citoval už v předstihu z dokumentu magazín Time.

Ten podotkl, že AGI je zatím hypotetická technologie, která by mohla většinu úkonů provádět na stejné úrovni jako člověk nebo ještě lépe.

Takové systémy v současné době neexistují, ale přední vývojáři na nich pracují a mnozí očekávají, že AGI bude k dispozici během příštích pěti let nebo i dříve, dodal magazín. Někteří jsou však ohledně jejího vývoje podstatně skeptičtější.

Dokument s názvem „Akční plán pro zvýšení bezpečnosti a zabezpečení pokročilé umělé inteligence“ čítá 247 stran.

Vznikal více než rok a je výsledkem rozhovorů s více než dvěma stovkami zaměstnanců amerických vládních úřadů i s odborníky z firem zabývajících se vývojem umělé inteligence včetně společností OpenAI, Google DeepMind, Anthropic nebo Meta.

Zprávu vypracovala konzultační firma Gladstone AI, americké ministerstvo zahraničí, které si ji v listopadu 2022 objednalo, ji obdrželo letos 26. února.

Doporučení „neodrážejí názory ministerstva zahraničí Spojených států nebo vlády Spojených států“, uvádí se hned v úvodu dokumentu.

Mezi radikálními regulacemi, které autoři zprávy doporučují, je vytvoření nové federální agentury pro umělou inteligenci, která by stanovila úroveň omezení výpočetního výkonu používaného pro trénování nových modelů umělé inteligence.

Americká vláda by také podle doporučení měla zpřísnit kontrolu výroby a vývozu čipů používaných v tomto odvětví.

Omezení výpočetního výkonu by podle doporučení mělo být stanoveno těsně nad hranicí stávajících pokročilých modelů jako je GPT-4 od OpenAI nebo Gemini od Googlu.

Jak ale poznamenává magazín Time, některé společnosti už nyní připravují infrastrukturu pro trénování modelů, které by mohly využívat až stonásobnou výpočetní kapacitu oproti současnosti.

„Domnívám se, že je extrémně nepravděpodobné, že by tato doporučení vláda Spojených států přijala,“ řekl magazínu Greg Allen, šéf pracoviště pro AI a pokročilé technologie při nevládním Centru pro strategická a mezinárodní studia (CSIS).