Hlavní obsah

Vadil komiksový Orwell s českými ilustracemi i Obamová. Anglická škola použila AI k cenzuře knih

Umělá inteligence si už dávno našla cestu i do školních zařízení. V jedné ze středních škol v anglickém hrabství Velký Manchester ji ale využili po svém – k vyřazení obsahově „nepohodlných“ knih ze zdejší školní knihovny. Mezi vyřazenými publikacemi nechyběla romantická díla, vize totality George Orwella, biografie bývalé první dámy Michelle Obamové nebo Deníky slavného herce Alana Rickmana.

Foto: archiv nakladatelství - Kontrast, Argo, Universum

AI vadilo komiksové zpracování známého Orwellova díla, ale i biografie bývalé dámy USA nebo Deníky slavného herce.

Článek

Podle šetření mezinárodní neziskové organizace Index on Censorship, která bojuje proti cenzuře a sleduje svobodu projevu všude po světě, vyřadila škola pro žáky od 11 do 16 let téměř 200 knih poté, co vedení požádalo AI o shrnutí předloženého seznamu z knihovny, a to i s odůvodněním, proč jsou případně některé tituly nevhodné pro zdejší žáky.

„Čistka“ začala v listopadu minulého roku, kdy byla tehdejší knihovnice požádána, aby z knihovny odstranila publikaci od Laury Batesové s názvem Když muži nenávidí ženy, jež popisuje subkulturu incelů (viz infobox). Ředitel školy se domníval, že kniha je nevhodná hlavně kvůli odhalování misogynních názorů, přestože byla uložena a přístupná jen v sekci pro starší žáky.

Co je incel

Výraz incel je zkratkou slovní spojení involuntary celibate – nedobrovolný celibát. Označují se tak členové subkultury mužů, kteří nejsou schopni najít si partnerku, i když po ní touží. Skupina je často spojována s misogynií, tedy silnou nenávistí či pohrdáním ženami, které podle členů za jejich situaci mohou.

V návaznosti na to byla i sama knihovnice, která se později s celým příběhem svěřila výše zmíněné organizaci, vyšetřována a knihovna byla v rámci ochranného opatření dočasně uzavřena.

Vedení školy posléze knihovnici požádalo, aby z knihovny odstranila veškeré tituly, které „nebyly napsány pro děti“, pojednávají o tématech, která „mohou děti znepokojovat“ a které by mohly představovat „riziko z hlediska ochrany dětí“.

„Byla jsem naprosto ohromená, nemohla jsem věřit tomu, co slyším,“ uvedla pro Daily Mail s tím, že jí škola následně poskytla seznam 193 knih, které jsou podle vedení nevhodné. To knihovnici rovněž nahlásilo příslušné radě s tím, že do školní sbírky „zařazuje nevhodné tituly“ a představuje tak sama bezpečnostní riziko. A to i přesto, že knihy do knihovny objednávali kromě ní i jiní lidé, ale vždy se souhlasem přímého nadřízeného knihovnice.

Vadí Orwell, romantika, upíři i Obamová

Zda AI sama vybrala i tituly, nebo jen zhodnotila vhodnost či nevhodnost titulů z předloženého seznamu, se s jistotou neví. To, že jejich obsah hodnotila, je ale vcelku jisté, jak přiznalo samo vedení školy v jednom z dokumentů, které organizace mohla vidět.

„Ačkoli byla kategorizace vygenerována pomocí umělé inteligence, považujeme tuto klasifikaci za obecně přesnou,“ uvádělo se v jednom z nich.

V rozsáhlém přehledu „závadných“ knih bylo například komiksové zpracování 1984 - Grafický román od George Orwella ilustrované Čechem Matyášem Namaiem, kde AI upozornila na téma „mučení, násilí a sexuálního nátlaku“.

Klasické knižní zpracování upírské série Stmívání (v originále Twilight) od Stephenie Meyerové, které je většinou doporučováno žákům od 14 let, je na „blacklistu“ zařazeno kvůli romantickým tématům, sexuálnímu napětí či násilí mezi vlkodlaky a upíry.

Autobiografie bývalé první dámy Michelle Obamové s názvem Becoming Michelle Obama (v češtině vyšlo pod názvem Můj příběh) pak vadily zmínky o rasismu a politických tématech.

Výtkám se nevyhnul ani autor populárních romantických příběhů Nicholas Sparks, jehož díla bývají hojně zfilmována. Jeho Notebook (v češtině Zápisník jedné lásky, ve filmovém zpracování si zahráli Ryan Gosling a Rachel McAdamsová) byl ve „vadném“ obsahu uveden jako romantické drama o trvalé lásce a ztrátě paměti.

Kritice se nevyhnul ani další slavný spisovatel Dan Brown, který měl na seznamu hned pět knih, včetně slavného Da Vinci Code (v češtině Šifra mistra Leonarda; kniha byla rovněž zfilmována). Na seznamu, který je ke zhlédnutí na stránkách nadace, jsou například i Deníky slavného herce Alana Rickmana, díla spisovatelky Colleen Hooverové, která se věnuje převážně tvorbě pro mládež, nebo tvorba spisovatele sci-fi a fantasy George R. R. Martina.

Škola na dotazy nadace ohledně vyřazení knih neodpověděla.

Anketa

Je podle vás vhodné vyřazovat knihy na základě hodnocení AI?
Ano, pokud se jí zadají přesné parametry, podle čeho má knihy hodnotit.
1,1 %
Ne, hodnotit to má podle obsahu a kontextu vždy člověk.
98,9 %
Celkem hlasovalo 276 čtenářů.

Výběr článků

Načítám