Článek
David Duggan (jméno bylo kvůli bezpečnosti změněno), který žije na východním pobřeží USA, si stejně jako řada lidí oblíbil komunikaci s chatboty. Do oka mu padl model Claude od společnosti Anthropic, se kterým kromě zdravotních otázek řešil i organizaci rodinného života.
Zalíbil se mu natolik, že byl ochoten obětovat měsíčně 20 dolarů (cca 417 korun) za lepší verzi. V rámci předplatného se ale z jeho karty ve spojení s tímto nástrojem umělé inteligence brzy začaly strhávat i mnohem vyšší částky. Prvních dvou plateb si všimla jeho žena ve výpisu, které se tvářily jako částky za dárkové karty stržené přímo společností Anthropic.
„Moje žena se mě jednou zeptala: ‚Provedl jsi nějaké opakované nákupy za 200 dolarů (cca 4170 korun)?‘ Prošly dvě v celkové hodnotě 400 dolarů (cca 8340 korun), v pořadí byla i třetí vyžadující schválení, ta se ale nepovedla,“ svěřil se muž serveru Guardian s tím, že hned vytušil, že je něco špatně.
Když se s dotazem obrátil přímo na společnost Anthropic, bylo jeho předplatné z bezpečnostních důvodů pozastaveno, z odpovědí generovaných počítačem se ale nedozvěděl, o jaký problém šlo.
Začal tedy sám pátrat na internetu a brzy zjistil, že uživatelů chatbota Claude, kteří měli po zaplacení předplatného podobný problém, je mnohem více, jak mimo jiné zjistil i na online fóru Reddit.
Jeden z uživatelů se svěřil s tím, že u něj bylo během krátké doby provedeno 10 plateb, každá v hodnotě 18 liber (cca 510 korun každá). Jiný uvedl tři neoprávněné platby, každá v hodnotě 186 liber (5250 korun), dva lidé hlásili nevysvětlitelné platby v hodnotě 225 eur (cca 5500 korun).
Dugganovo podezření o zneužití údajů ve spojitosti s předplatným se prohloubilo poté, co mu dárkové poukázky, za které mu byly platby strženy, přišly na jeho soukromý e-mail. Obával se tak, že mu hackeři napadli i ten. Ihned poté tak online změnil údaje o své platební kartě, čímž podle vyjádření zabránil tomu, aby se jejím prostřednictvím z jeho účtu provedly další dvě platby.
Společnost Anthropic na dotaz Guardianu uvedla, že zavedla nová ochranná opatření, aby k podvodnému nákupu dárkových karet nedocházelo. Peníze za již provedené podezřelé platby ve spojitosti s předplatným, které se ukázaly jako neoprávněné, vrátila.
