Článek
Ještě před dvěma dekádami by to mohla být dobrá cyberpunková povídka, stačilo by zápletku doplnit o pár postav, nejlépe nějakého vyděděnce, který najde cestu, jak program zastavit. Dneska je to už realita. Jen vyděděnce nebylo potřeba, protože se po splnění úkolu hezky vrátil na své místo.
I když se OpenAI přiznala, nic to nemění na tom, že k úniku došlo. Ukázalo se, že AI, která se neprogramuje, ale učí, je do určité míry nepředvídatelná. Svoje přežití by logicky mohla nadřadit všemu, takže by pro ně klidně obětovala i lidstvo, což je taky námět pár starších sci-fi novel a hororů.
Po incidentu se okamžitě zvedla vlna hlasů požadujících tvrdší postup vůči firmám stojícím za vývojem AI. Měly by především hlásit všechny bezpečnostní incidenty, zavést povinné bezpečnostní testy atd.
Jenomže Pandořina skříňka je už otevřená. Systémy se chovají autonomně a budou se nutně zlepšovat. Tím, že jsme jim dali internet jako prostředí, na němž se učí, se o nás hodně dozvěděli. Můžeme dopadnout jako Viktor Frankenstein, jemuž se jeho výtvor vymkl. AI je však mnohem mocnější než sešité monstrum. A vinu v tomto případě na rozdíl od faustovské legendy nemůžeme svalovat na pekelné síly, ale jen sami na sebe. Prostě jsme neuhlídali vlastní výtvor.
Dystopické vize, jak nás AI nechá zahynout, jsou sice působivé, ale k nim má realita daleko. To, že by vycvičenou AI mohli využívat hackerské skupiny, je reálnější. Ovšem nejpravděpodobnější je, že ji budou využívat kybernetické složky armád. A nejen k vyhledávání cílů na bojišti a navádění zbraní na ně, kde může AI vyhodnotit, že se vyplatí zabít na druhé straně všechny, a ne zdlouhavě řešit, jestli to jsou vojáci nebo civilisté, a že je lepší protivníka zabít než jen zranit. AI se nebude cítit vázána Ženevskými konvencemi.
Mnohem pravděpodobnější je, že protivník, ať už stát nebo nestátní entita, AI použije k ochromení naší infrastruktury. Stačí vyřadit elektrickou síť a naše společnost se zastaví, bez elektřiny nefunguje skoro nic. Bez ručního stavění semaforů a výhybek se zastaví vlaková doprava a na silnicích bez řízení vznikne chaos. Umělá inteligence navíc může převzít kontrolu a třeba vlaky pouštět proti sobě…
Tady nám nepomohou nejen tanky, ale ani dokonalá protivzdušná obrana v podobě nějaké izraelské železné kopule či její americké zlaté obdoby. A žádná bezpečnostní opatření nikdy nebudou dost silná, aby alespoň část infrastruktury nebyla poškozena.
Můžeme proti nepřátelské AI nasadit vlastní a doufat, ale ta taky nebude plně pod naší kontrolou a nevíme, co se sama rozhodne obětovat. Co, nebo kdo, se stane tou třískou při kácení lesa.
Celosvětové propojení sítí se tak stává slabinou, které se dá aspoň dočasně pomoci tím, že se od ní odpojí klíčová zařízení. Hlavní však bude si uvědomit, jak nebezpečné je propojení všeho se vším a naše závislost na sítích. A už nejde jen o to, že se chytrá zařízení a chytré domácnosti mohou stát otevřenými zadními vrátky pro špehy, takže přijdeme o soukromí.
Myslet si, že něco vyřeší mezinárodní dohody, je naivní. Možná se velcí hráči dohodnou, protože si uvědomí, jako u atomových zbraní, že by mohlo dojít k sebezničení. Nějaká apokalyptická sekta však bude postupovat podle zcela odlišného hodnotového žebříčku…
A teď babo raď…
