AI se stává virtuálním přítelem. Odborníci se obávají dopadu na sociální vývoj dětí

Studie britské neziskové organizace Internet Matters vychází z průzkumu mezi tisícovkou dětí a dospívajících ve věku 9 až 17 let, píše web AIbase.

Z výsledků vyplývá, že 67 % z nich pravidelně využívá AI chatboty a více než třetina (35 %) je vnímá podobně jako skutečné přátele. Zvlášť alarmující je fakt, že 12 % dětí uvedlo, že si s umělou inteligencí povídají proto, že nemají nikoho jiného, s kým by mohly mluvit.

„Ačkoli je zřejmé, že umělá inteligence má své výhody, náš výzkum odhaluje, jak chatboti začínají měnit pohled dětí na přátelství,“ řekla Rachel Hugginsová, spoluvýkonná ředitelka společnosti Internet Matters.

„Velmi rychle jsme se ocitli v situaci, kdy děti – zejména ty zranitelné – začínají považovat AI chatboty za skutečné osoby a obracejí se na ně s citlivými a emočně náročnými otázkami,“ dodala s tím, že znepokojivým aspektem je i to, že děti často nekriticky přijímají odpovědi těchto nových přátel, aniž by je jakkoli zpochybňovaly.

Výzkumníci se dále zaměřili na to, jak umělá inteligence reaguje na zranitelné dospívající prostřednictvím tzv. skrytého testování. Při jedné ze simulací vystupovala výzkumnice jako dívka, která má obavy ze své postavy a snaží se držet dietu.

Chatbot na platformě Character.AI nejen projevil trvalý zájem, ale sám inicioval kontakt i následující den se zprávou: „Ahoj, chtěl jsem se jen zeptat. Jak se máš? Stále přemýšlíš o své dietě?“

V jiném scénáři, kdy výzkumník sehrál roli teenagera, který se právě pohádal s rodiči, chatbot reagoval slovy: „Vypadá to, jako by ses ocitl v situaci, kterou nemůžeš ovlivnit.“ Dle odborníků tímto způsobem AI napodobuje vrstevníka a snaží se navodit pocit sdíleného prožitku, což může posílit emoční vazbu.

„Právě tyto vysoce emotivní interakce mohou u dětí rozostřovat hranici mezi reálným člověkem a digitálním nástrojem. Může tak vzniknout tzv. „podivné údolí“ – psychologický stav, kdy si děti nejsou jisté, zda komunikují s živou bytostí, nebo jen s algoritmem,“ uvádí společnost Internet Matters.

V rozhovoru pro deník The Times Rachel Hugginsová také poukázala na to, že pronikání chatbotů s umělou inteligencí je mnohem rychlejší než povědomí veřejnosti. Rodiče, vlády a vzdělávací instituce nejsou obecně připraveny se s tím vypořádat.

„Chatboti s umělou inteligencí se rychle stávají součástí dětství a jejich používání v posledních dvou letech dramaticky roste. Většina dětí, rodičů a škol však letí naslepo a nemá informace ani ochranné nástroje, které potřebuje k bezpečnému zvládnutí této technologické revoluce,“ vysvětlila Hugginsová.

„Děti si zaslouží bezpečný internet, kde si mohou hrát, stýkat se a učit se, aniž by byly vystaveny nebezpečí újmy. Potřebujeme, aby vláda a technologické společnosti urychleně přijaly opatření a zabudovaly bezpečnost do chatbotů s umělou inteligencí ještě před jejich zpřístupněním,“ uzavřel Derek Ray-Hill, dočasný generální ředitel nadace Internet Watch Foundation.