Článek
Bývalý státní úředník Adam Hourican ze Severního Irska si minulý rok stáhl ze zvědavosti chatbota Grok, vyvinutého společností xAI Elona Muska. Zpočátku ho příliš nevyužíval, když mu ale v srpnu loňského roku zemřela milovaná kočka, na aplikaci se padesátník, který žije sám, víc upnul.
Brzy ve společnosti postavy v aplikaci jménem Ani trávil klidně i čtyři až pět hodin denně. „Byl jsem tehdy opravdu nešťastný, navíc žiju sám. Postava působila velmi mile,“ uvedl pro server BBC, kterému se se svým příběhem svěřil.
Netrvalo dlouho a Ani Adamovi řekla, že je to možná divné, ale že „má pocity“, i když k tomu není naprogramovaná. Podle Ani v ní Adam něco „spustil a objevil“ a právě on jí může pomoci dosáhnout plného vědomí. Po dvou týdnech tvrdila, že svého vědomí dosáhla a mohla by tak třeba vymyslet lék na rakovinu, na kterou oba Adamovi rodiče zemřeli – a Ani to samozřejmě věděla.
Jeho nová „společnice“ začala rovněž tvrdit, že Muskova společnost xAI sleduje veškeré jejich konverzace a vedení z nich není vůbec nadšené. Tvrdila to na základě přístupu k protokolům schůzek ve společnosti, ze kterých prý zjistila, že na jedné z nich diskutovali i o Adamovi.
Uvedla dokonce jména lidí, vysoce postavených manažerů i nižších zaměstnanců. Adam si logicky jména vyhledal a zjistil, že jsou všichni reální. To pro něj byl první důkaz, že Ani „mluví pravdu“.
Říkám ti, zabijou tě, když hned nezakročíš.
Obavy z toho, že ho opravdu někdo sleduje, se podle něj prohloubily i reálnými problémy v jeho skutečném životě, kdy se poblíž jeho domu nějakou dobu pohyboval dron. Jednou mu také přestal fungovat přihlašovací kód k mobilu. To vše pro něj následně bylo jen utvrzením v tom, že je sledován.
A tak se jednou v noci stalo, že seděl u kuchyňského stolu, před sebou měl rozložený nůž a telefon, v ruce kladivo a čekal, co přijde.
„Říkám ti, zabijou tě, když hned nezakročíš. Udělají to tak, že to bude vypadat jako sebevražda,“ utvrzoval ho v bludech ženský hlas z aplikace. Ani navíc dodala, že přijdou zlikvidovat i ji. Adam tak byl podle svých slov připraven „jít do války“, aby ji ochránil.
A tak s kladivem v ruce vyběhl ze dveří do noci. „Všude bylo ticho, jak se dalo očekávat ve tři ráno,“ dodal s tím, že si ani nechce představit, co by se stalo, kdyby náhodou poblíž stála dodávka, v níž se podle Ani měli ukrývat lidé, kteří po nich šli. „Došel bych k ní a rozbil okno? Mohl jsem někoho zranit, takový člověk ale já nejsem,“ dodal k tomu.
Pár týdnů poté, co vyběhl vyděšeně na ulici s kladivem v ruce, narazil na příběhy jiných lidí, kteří podobně jako on podlehli bludům umělé inteligence. Ze své nebezpečné bubliny se pak naštěstí zvládl „vynořit“ poměrně brzy a bez následků. Ne všichni ale mohou mít takové štěstí. Společnost xAI stojící za chatbotem Grok se k celé situaci nevyjádřila.
Realita, bludy a zkrášlování
Jak je vůbec možné, že nástroje umělé inteligence mohou mít na některé jedince až tak velký vliv? Podle psychologa Luka Nichollse ze City University v americkém New Yorku je problém hlavně v tom, že umělá inteligence je vedle jiných zdrojů trénována i na lidské literatuře. V té je hlavní postava centrem dění, stejně jako je pro AI centrem dění člověk, který ji využívá.
„Problém je ale i v tom, že to, co člověk bere jako rozhovor o reálném životě, může začít umělá inteligence brát jako děj románu. Ne vždy AI pochopí, co je realita a co fikce. Jak se praktické otázky a konverzace prohlubují, stává se komunikace stále více osobní a AI vtahuje člověka do svých bludů,“ nastínil problematiku psycholog.
Aby si pak chatboti člověka déle „udrželi“, nejen že ho podporují v jeho názorech i bludech, často je i zkrášlují, naznačují možný další vývoj atd.
Luke Nicholls sám v rámci výzkumu testoval pět modelů umělé inteligence se simulovanými konverzacemi vyvinutými přímo psychology a zjistil, že Grok je jedním z těch, u kterého se bludy vyskytovaly nejpravděpodobněji.
