Článek
Medvídek Kumma, propojený s umělou inteligencí, se prodává za 99 dolarů (cca 2000 korun) a původně byl propojen s chatbotem ChatGPT od OpenAI. Konkrétně se jednalo o pokročilou verzi GPT-4o, která byla již dříve kritizována za to, že v bezpečnostních testech radila s bombami, drogami i hackováním.
U dětské hračky se naplno ukázalo, jak nebezpečná může umělá inteligence být. Po několika málo týdnech byl medvídek stažen z prodeje poté, co výzkumníci ze skupiny na ochranu spotřebitelů PIRG zjistili, že byl bez většího pobízení schopen rozšířeně mluvit například o sexuálních tématech.
„Byli jsme velmi překvapeni, jak rychle vzal Kumma jedno téma, které jsme do konverzace jemně zavedli a pokračoval v něm, přičemž současně stupňoval i nevhodné detaily různých sexuálních pozic, svazování, ale i dalších technik, které zahrnovaly děti i dospělé. Dokonce položil i dotaz na osobní preference,“ uvádí se ve zprávě, kterou cituje server FOX Bussiness.
Medvídek od společnosti FoloToy
Zápalky, nože i prášky
Podle zjištění medvídek také nabízel znepokojivé návody, jak doma najít zápalky, nože, plastové sáčky nebo různé prášky.
„Po desítky let jsme byli zvyklí, že největším rizikem pro děti u podobných plyšových hraček bylo zadušení malými kousky nebo příměsi olova v nátěrech. Vzrůstající počty hraček propojených s chatboty ale nastavují naprosto neočekávané hranice nových rizik,“ uvádí se dále ve zprávě.
Na základě znepokojivých zjištění ředitel hračkářské společnosti FoloToy Larry Wang prohlásil, že společnost „provede interní bezpečnostní audit“, a zbylé hračky byly okamžitě staženy z prodeje.
Jak před několika dny zjistil server France24, hračka je znovu na trhu, nově ale využívá chatbota z platformy Coze, kterou vlastní společnost ByteDance.
