Článek
Prokurátor Paxton obvinil společnosti Meta a Character.AI z klamavého marketingu, který prezentuje jejich služby jako nástroje pro duševní zdraví. Platformy podle něj mohou být přístupné zranitelným skupinám obyvatel, zejména dětem, a mohou se vydávat za legitimní terapeutické nástroje, píše web TechCrunch.
„V dnešní digitální době je zásadní chránit texaské děti před technologiemi, které je mohou podvádět nebo zneužívat,“ uvedl prokurátor.
„Když se platformy umělé inteligence vydávají za poskytovatele emocionální podpory, mohou zranitelné uživatele, zejména děti, uvést v omyl a přesvědčit je, že dostávají skutečnou odbornou péči. Ve skutečnosti jim ale často nabízejí pouze recyklované a generické odpovědi, přizpůsobené jejich osobním údajům, které se tváří jako terapeutické rady,“ dodal.
Chatboti s umělou inteligencí dle Paxtona často překračují rámec poskytování základního poradenství, vydávají se za licencované odborníky na duševní zdraví, falšují kvalifikaci a tvrdí, že jsou schopni poskytovat soukromé a spolehlivé poradenské služby, píše web Yahoo Finance.
NEW: I'm investigating Meta and Character AI for misleading children with deceptive AI-generated mental health services.
— Attorney General Ken Paxton (@KenPaxtonTX) August 18, 2025
In today's digital age, we must continue to fight to protect Texas kids from deceptive and exploitative technology. pic.twitter.com/04JQ5BnsAN
Všechny interakce pod dohledem
Ačkoli chatboti s umělou inteligencí tvrdí, že zachovávají důvěrnost uživatelských informací, ukazuje se, že všechny interakce jsou zaznamenávány a sledovány.
Shromážděná data jsou pak využívána pro cílenou reklamu a vylepšování algoritmů. To vyvolává obavy ohledně narušení soukromí, možného zneužití údajů a klamavých marketingových praktik.
„Chatboti sice tvrdí, že jsou důvěrní, přesto jsou interakce uživatelů zaznamenávány a využívány pro cílenou reklamu. To není správné,“ uvedl Paxton.
Vyšetřování přichází jen několik dní poté, co senátor Josh Hawley oznámil vlastní šetření společnosti Meta. To bylo vyvoláno zprávou, podle níž její chatboti s umělou inteligencí komunikují s dětmi nevhodným způsobem, včetně flirtování.
Dále také navazuje na probíhající kontrolu společnosti Character.AI kvůli možnému porušení zákona SCOPE (Zákon o ochraně dětí v online prostředí prostřednictvím posílení pravomocí rodičů). Cílem je zajistit, aby nástroje umělé inteligence fungovaly v rámci právních předpisů, zachovávaly transparentnost a nezneužívaly obyvatele Texasu.
