Článek
Zpráva společnosti Aura, která se zabývá digitální bezpečností, zjistila, že významné procento dětí, které se obracejí na umělou inteligenci kvůli společnosti, se zapojuje do hraní násilných rolí, a to včetně sexuálního násilí. Právě tato oblast mezi dětmi vzbudila velký zájem, uvádí server futurism.com.
Na základě anonymizovaných dat shromážděných z online aktivity dětí ve věku od pěti do sedmnácti let, jejichž rodiče využívají nástroje rodičovské kontroly Aura, a výsledků firmy Talker Research bylo zjištěno, že celých 42 procent nezletilých se zapojuje do konverzací navržených tak, aby napodobovaly realistické sociální interakce nebo různé scénáře rolí. Z uvedených 42 procent se 37 procent zapojilo do takových, které zahrnovaly témata fyzického násilí, agrese, ubližování nebo nátlaku.
To podle odborníků zahrnuje sexuální i nesexuální násilí, ale také třeba popisy bojů, zabíjení, mučení nebo nedobrovolných činů.
Je to velký problém
„Máme před sebou poměrně velký problém, jehož nebezpečnému rozsahu stále nerozumíme,“ upozornil klinický psycholog Scott Kollins nejen na obsah, do kterého se děti zapojují, ale i na celkový objem a rozšířenost různých platforem.
„Tyto věci poutají mnohem větší pozornost našich dětí, než si uvědomujeme. Musíme to bedlivě sledovat a být připraveni zasáhnout,“ dodal Kollins, podle něhož by mělo být největším varováním, že případy násilnických konverzací s různými chatboty byly sledovány i u dětí v nízkém věku. Nejohroženější skupinou byli jedenáctiletí účastníci, u kterých podle výsledků až 44 procent konverzací nabralo násilný směr.
Sexuální a romantické hraní rolí bylo nejčastější u mladých na druhém stupni základních škol, přičemž 63 procent konverzací třináctiletých žáků obsahovalo flirtování stejně jako explicitní hraní sexuálních rolí. Jak uvádí samotná společnost Aura, výzkum se zaměřil jen na některé platformy a k tomu dodává, že existuje celá řada takových, kde dětem mnohdy stačí jen zaškrtnout políčko, že jsou starší 13 let, aby se na ně bez jakékoli další kontroly dostaly.
Sledovat veškeré je poměrně nereálné. Při rychlém vývoji umělé inteligence a různých komunikačních nástrojů s ní spojených je navíc při věkovém omezení vstupu více než pravděpodobné, že se brzy objeví jiné, kde podobná omezení nebudou.
Odborníci tak nabádají nejen vývojáře, ale i rodiče, aby věnovali pozornost tomu, co jejich děti kde dělají, a učili je, kde jsou v komunikaci s umělou inteligencí hranice, které není dobré překračovat.