Článek
Na problém upozornili novináři britského deníku The Guardian. Ti vyzkoušeli samostatnou verzi nástroje s názvem Grok Imagine, která z běžných fotografií plně oblečených žen dokáže vytvořit krátká videa naznačující svlékání.
Výsledky pak bylo možné bez větších potíží sdílet přímo na platformě X, kde se k nim mohli dostat další uživatelé.
Společnost X přitom tvrdí, že zavedla technologické bariéry, které mají zabránit úpravám snímků skutečných osob do podoby s odhalujícím oblečením, a to i u platících uživatelů. Zároveň zdůrazňuje nulovou toleranci vůči sexuálnímu vykořisťování dětí, nevyžádané nahotě a dalším formám nechtěného sexuálního obsahu.
Jen síť X?
Podle zjištění reportérů ale stále existuje cesta, jak se vyhnout omezením, která platforma X nedávno oznámila. Přes Grok Imagine je totiž problematický obsah možné stále vytvářet a následně ho sdílet na síti X.
Zda omezení platí jen na síti X, nebo i přímo v nástroji Grok Imagine, zástupci společnosti neupřesnili. Vše ale nasvědčuje tomu, že nástroj je možné výše popsaným způsobem zneužívat i nadále.
Testy novinářů ukázaly, že veřejně dostupná verze nástroje Grok Imagine na podobné pokyny stále reaguje. V některých případech dokonce generuje výraznější obsah, než jaký uživatel původně požadoval, včetně videí s provokativním svlékáním.
Organizace, které se dlouhodobě věnují ochraně žen před násilím, upozorňují, že takto snadné obcházení pravidel je alarmující. Podle nich to naznačuje, že otázka bezpečí a důstojnosti uživatelů zatím není pro platformu X dostatečnou prioritou.