Vrátit džina zpět do lahve však nelze a dopady neschopnosti provozovatelů sociálních sítí zakročit proti dezinformacím a šíření nenávisti se v posledních dnech jasně ukázaly. Muže podezřelého z rozesílání zásilek s výbušninou představitelům americké Demokratické strany, jak se zdá, radikalizovala politická propaganda na Facebooku a Twitteru. Jiný Američan, který o víkendu zastřelil 11 věřících v synagoze v Pittsburghu, o své nenávisti k židům psal na relativně mladé sociální síti Gab.

Někteří pozorovatelé víkendových prezidentských voleb v Brazílii pak popularitu nakonec úspěšného kandidáta Jaira Bolsonara do značné míry připisují předvolebnímu dění na sociálních médiích. Například komunikační aplikaci WhatsApp vlastněnou Facebookem zaplavil politický obsah mimo jiné s falešnými informacemi o čase či místě konání voleb.

Provozovatelé sociálních sítí uvádějí, že boj proti dezinformacím a projevům nenávisti je složitý, nehledě na to, že ani není snadné takový obsah definovat. Facebook, YouTube i Twitter oznámily plány významných investic do automatických nástrojů, které by problematický obsah identifikovaly a odstranily. První dvě jmenované společnosti uvedly, že kvůli řešení bezpečnostních problémů a kontrole obsahu budou nabírat tisíce nových zaměstnanců.

Zatím boj proti nepravdivým zprávám a nenávistným příspěvkům příliš úspěšný není. Facebook letos informoval, že jeho interní systémy upozornily jen na 38 procent projevů nesnášenlivosti. Algoritmy oproti tomu údajně rozpoznaly a smazaly 96 procent příspěvků porušujících pravidla o zobrazování nahoty a 99,5 procenta "teroristického" obsahu.

Střelba v pittsburské synagoze

V pondělí, tedy dva dny po střelbě v pittsburské synagoze, se při vyhledávání slova "Židé" na zmiňovaném Instagramu objevilo 11 696 příspěvků pod heslem #jewsdid911, které propagují teorii, že židé stojí za útoky z 11. září 2001. Video pod jiným heslem publikované v neděli tvrdí, že stát Izrael vytvořila bohatá židovská rodina Rothschildů.

V pondělí mělo přes 1500 zhlédnutí a bylo sdíleno na dalších stránkách včetně Facebooku a Twitteru. Další "heštegy" na Instagramu pak odkazují na nacistickou ideologii například číslem 88, které se používá jako zkratka pro nacistický pozdrav "Heil Hitler".

"Sociální sítě dodávají lidem odvahu, aby překračovali hranice a tlačili na pilu, když přijde na to, co jsou schopni říct ve snaze provokovat a podněcovat," řekl ředitel výzkumných aktivit při centru digitální žurnalistiky na Kolumbijské univerzitě v New Yorku Jonathan Albright. "Ten problém zcela zjevně narůstá," dodal.

Po upozornění od NYT Facebook uvedl, že antisemitská hesla na Instagramu prošetřuje. Podle mluvčí Sarah Pollackové Instagram zaregistroval příspěvky týkající se sobotní střelby, přičemž "aktivně kontroluje heštegy a obsah spojený s těmito událostmi a obsah porušující jejich pravidla maže".