Vyhynutí lidstva se podle AI experta posouvá. Ale jen o pár let

Daniel Kokotajlo vyvolal v minulém roce po zveřejnění svého scénáře o konci lidstva s názvem AI 2027 poměrně velkou debatu. Jeho scénář stojí na myšlence, že nekontrolovaný rozvoj umělé inteligence povede až k vytvoření tzv. superinteligence, která nakonec přechytračí i veškeré světové vůdce a povede ke zničení lidstva.

Tzv. superinteligence je třetím možným vývojovým stadiem – první je umělá inteligence AI, která je úzce zaměřena a navržena pro konkrétní úkoly (úpravy textu, obrázků apod.). Druhým typem je AGI – tedy obecná umělá inteligence, která by měla být schopna replikovat kognitivní schopnosti člověka, řešit neznámé problémy a přizpůsobovat se novým situacím.

Po obecné inteligenci pak může přijít již zmíněná superinteligence. Rokem, kdy se tak stane a AI bude schopna plně autonomního chování, Kokotajlo a jeho tým označil právě ten příští, tedy 2027, i když s větší mírou pochybností.

Vycházel z myšlenky, že tzv. AI agenti plně automatizují kódování a výzkum v oblasti AI, což povede k „inteligenční explozi“, kdy budou vytvářet stále chytřejší verze sebe sama. Což nakonec podle prognózy povede k vyhubení lidstva, které bude muset „udělat prostor“ pro více solárních panelů a datových center.

Nyní se ale zdá, že jejich prognózy byly přehnané a nejen oni, ale i další experti odsouvají možný konec lidstva na později.

V aktualizované zprávě Kokotajlo uvádí, že k možné apokalypse dojde nikoli v roce 2027, ale až o pár let později, tedy začátkem 30. let 21. století. Předpověď stanovuje nový horizont pro vznik superinteligence na rok 2034 s tím, že konkrétní datum zničení lidstva stanoveno zatím nebylo.

„Zdá se, že věci se vyvíjejí pomaleji než ve scénáři AI 2027. Naše časové harmonogramy byly už tehdy delší, teď jsou ještě dál,“ napsal Kokotajlo na síti X.

„Již v minulém roce si řada lidí uvědomila, že výkon AI je poměrně nestabilní, a tak své prognózy ohledně ohrožení lidstva odsouvají na později,“ cituje server Guardian experta na řízení rizik AI a jednoho z autorů Mezinárodní zprávy o bezpečnosti AI Malcolma Murrayho.

I přes možné katastrofické scénáře má stále řada předních společností zabývajících se umělou inteligencí za cíl vytvoření umělé inteligence, která sama dokáže provádět výzkum v oblasti AI. Generální ředitel OpenAI Sam Altman v říjnu minulého roku uvedl, že interním cílem společnosti je mít automatizovaného výzkumníka v oblasti AI do března roku 2028. 

Ovšem dodal, že v tomto kroku „mohou jejich snahy zcela selhat“.