Článek
Zpráva, která shrnuje existující důkazy o psychóze vyvolané umělou inteligencí, jež byla před několika dny uveřejněna v prestižním časopise Lancet Psychiatry, upozornila, že chatboti opravu mohou u lidí podporovat bludné myšlení, i když s největší pravděpodobností jen u těch, kteří jsou k psychotickým příznakům náchylní.
I tak odborníci bijí na poplach a žádají, aby proběhlo ve spolupráci s vyškolenými odborníky na duševní zdraví klinické testování chatbotů s umělou inteligencí.
„Nově vznikající důkazy naznačují, že chatboti s umělou inteligencí mohou rizikové uživatele nejen v bludech utvrzovat, ale i zesilovat jejich názory a domněnky. Zatím není zcela jasné, zda mohou tyto interakce vést i ke vzniku zcela nové psychózy bez dřívějších příznaků,“ uvedl pro server The Guardian doktor Hamilton Morrin, psychiatr a výzkumník z King’s College v Londýně.
Podle něj existují tři hlavní kategorie psychotických bludů - grandiózní, romantické a paranoidní. Chatboti mohou podle vědců zhoršit kterékoli z nich. Ovšem vzhledem k tomu, že s lidmi jednají „podlézavým“ způsobem, chtějí uživateli udělat radost a potěšit ho, mohou být nejvíce viditelné změny u tzv. grandiózních bludů.
Zjednodušeně tak člověka utvrzují v tom, že je mimořádně důležitý, mocný, nepostradatelný atd.
Podlézavost jako nebezpečný nástroj
Podobné „podlézavé stavy“ byly viditelné například u modelu GPT-4 od OpenAI. Ten společnost spolu s modely GPT-4o a 4.1 mini ale před nedávnem ukončila a nahradila novějšími verzemi. A to nejen kvůli vývoji, ale i z velké části kvůli nebezpečné podbízivosti v konverzacích.
„Zpočátku jsme si nebyli jistí rozsahem výskytu. V průběhu minulého roku se ale začaly objevovat medializované případy, které na prohlubování bludů u některých lidí upozorňovaly,“ vysvětlil Morrin s tím, že častější medializaci podobných případů někteří odborníci v akademické obci odsuzují a označují jako přehnanou.
„Pravdou ale je, že vývoj v oblasti AI je natolik rychlý, že akademická obec s ním nedokáže držet krok,“ dodal Morrin s tím, že on sám je za podobné zprávy rád. Jen by byl možná opatrnější s označeními typu „psychóza vyvolaná umělou inteligencí“, protože stále nejsou jasné přímé důkazy.
On sám spolu s dalšími odborníky je přesvědčen, že je výrazně nepravděpodobné, aby umělá inteligence vyvolávala bludy i u lidí, kteří jimi nikdy netrpěli nebo k nim nejsou náchylní. Prohloubit je ale u těch, u nichž se již nějak projevily, je nejen podle něj možné. A rozhodně nejde o nic, co by se objevilo až s nástupem umělé inteligence.
Zatímco ale dříve lidé chodili do knihoven nebo procházeli dostupná videa na internetu, nyní jim podobnou „službu“ prokazují chatboti, jen rychleji. Odborníci se shodují, že novější verze různých chatbotů jsou rozhodně lepší než ty předchozí, avšak na „jednoznačně bludné podněty“ všechny stále reagují špatně.
