Hrají na city a na falešných obrázcích z Osvětimi vydělávají velké peníze

Z koncentračního tábora Osvětim z období druhé světové války existuje jen několik autentických fotografií, píše web BBC.

V posledních měsících se však na sociálních sítích objevují falešné snímky generované umělou inteligencí, které mají údajně zachycovat scénky z tábora – například vězně hrajícího na housle nebo milenecké páry u hranic plotů. Tyto příspěvky přitahují desítky tisíc lajků a sdílení.

„Někdo si tu vymýšlí příběhy pro jakousi podivnou hru na city na sociálních sítích,“ řekl mluvčí Památníku Osvětim v Polsku Pawel Sawicki.

„Tohle ale není hra. Jde o skutečný svět, skutečné utrpení a skutečné lidi, na jejichž památku chceme upozorňovat,“ dodal.

BBC zjistilo, že mnoho těchto obrázků pochází z účtů pákistánských tvůrců obsahu, kteří spolu úzce spolupracují, aby na Facebooku vydělávali peníze. Využívají přitom program monetizace obsahu (CM) společnosti Meta. Jde o uzavřený systém pouze na pozvání, jenž platí uživatelům za obsah s vysokou sledovaností a výkonností.

Jeden účet s názvem Abdul Mughees, jehož majitel žije v Pákistánu, zveřejnil snímky obrazovky, na nichž uvádí, že díky monetizačním programům sociálních médií, včetně Meta, vydělal 20 000 dolarů (420 000 korun). Jiný příspěvek údajně ukazuje, že jeho účet během čtyř měsíců nasbíral více než 1,2 miliardy zobrazení obsahu.

Samotné výdělky tvůrců se ale BBC nepodařilo nezávisle ověřit.

Mezi mnoha příspěvky na Facebooku účtu Abdula Mugheese se objevují fotografie fiktivních obětí holocaustu vytvořené umělou inteligencí a nepravdivé příběhy, například o dítěti ukrytém pod prkny nebo dítěti ponechaném na kolejích před koncentračním táborem.

Z analýzy online aktivit tohoto účtu a desítek podobných účtů, kterou provedla BBC, vyplývá, že téměř všechny jejich příspěvky tvoří takzvaný AI slop. +Tento pojem označuje obrázky a texty generované umělou inteligencí nízké kvality, které jsou obvykle vytvářeny ve velkém množství a šířeny jako spam na sociálních sítích.

Osvětim se také stala oblíbeným tématem stránek a skupin s historickou tematikou. Některé s názvy jako Timeless Tales a History Haven zveřejňovaly příspěvky více než 50krát denně.

„Podobné účty vykrádají naše příspěvky, zpracovávají je pomocí modelů umělé inteligence a často překrucují historické detaily nebo zcela falšují příběhy a oběti,“ uvedlo muzeum Osvětim. „Tyto snímky představují nebezpečné zkreslení, které znevažuje oběti a jejich památku,“ dodalo v příspěvku na Facebooku.

Podle organizace podporující vzdělávání a výzkum holocaustu jsou přeživší a jejich rodiny především znepokojeni nárůstem špatné informovanosti o holocaustu. „Nechápou, co vidí. Přeživší pociťují smutek, že takové věci existují,“ řekl doktor Robert Williams z Mezinárodní aliance pro připomínání holocaustu.

„Mají pocit, že jejich úsilí není dostatečné. To je velmi smutné, protože poslední přeživší nás brzy opustí,“ upozornil.

BBC oslovilo společnost Meta ohledně několika dalších profilů, které sdílely obsah generovaný umělou inteligencí s tematikou holocaustu a zřejmě se také dopouštěly klamavých praktik.

Několik těchto profilů a skupin bylo odstraněno, včetně těch, které muzeum Osvětim původně označilo v červnu.

Mluvčí společnosti uvedl, že i když tyto falešné snímky samotné neporušovaly zásady týkající se obsahu, při prověření se zjistilo, že porušují pravidla o vydávání se za jiné stránky nebo obchodování s nimi.

„Odstranili jsme sdílené stránky a skupiny a zablokovali účty, které za nimi stály, protože porušovaly naše zásady týkající se spamu a neautentického chování,“ uvedl mluvčí Mety.