Síť X začíná ověřovat fakta pomocí AI. Vzbuzuje to obavy

Poznámky komunity (Community Notes) je uživatelsky řízený projekt ověřování faktů. Zájemci, kteří se do něj zapojí, mohou přidávat komentáře k jednotlivým příspěvkům a doplňovat tak kontext či upřesňující informace, uvádí web AIbase.

Než jsou tyto poznámky zveřejněny, musí je schválit další uživatelé. Pokud například chybí zdroj u videa vytvořeného umělou inteligencí, poznámky komunity mohou doplnit chybějící informace nebo opravit zavádějící tvrzení od veřejně známých osob a politiků.

Zavedení možnosti generovat poznámky pomocí umělé inteligence však vzbuzuje určité obavy. Mnozí totiž považují spoléhání se na AI při ověřování faktů za problematické – zejména kvůli riziku šíření nepřesných nebo smyšlených informací.

Dalším problémem je možnost vkládání jazykových modelů třetích stran (LLM). Například ChatGPT od OpenAI měl nedávno problémy, protože byl příliš vstřícný k uživatelům.

Pokud LLM upřednostňují užitečnost před přesností, mohou generovat zcela nespolehlivé komentáře. Příliš mnoho komentářů generovaných umělou inteligencí by navíc mohlo zahltit lidské recenzenty a ovlivnit jejich motivaci, píše web TechCrunch.

Platforma X proto plánuje využít vlastní technologii Grok (chatbot s generativní umělou inteligencí vyvinutý společností xAI podnikatele Elona Muska) spolu s dalšími API rozhraními. Umělá inteligence tak bude moci vytvářet poznámky komunity, avšak i tento automaticky generovaný obsah bude podléhat stejnému ověřovacímu procesu jako poznámky od běžných uživatelů. Cílem je zajistit vysokou úroveň přesnosti.

Studie na poznámky komunity zveřejněná tento týden navíc naznačuje, že ideálním přístupem je spolupráce mezi lidmi a umělou inteligencí, přičemž klíčovou roli hraje zpětná vazba. Ta pomáhá zlepšovat kvalitu AI generovaných poznámek. Posledním krokem před zveřejněním by pak měla zůstat lidská kontrola.

„Naším cílem není říkat lidem, co si mají myslet, ale vytvářet prostředí, které je podněcuje ke kritickému myšlení a hlubšímu porozumění světa,“ uvedli autoři studie.

Nová funkce přitáhla pozornost i dalších sociálních médií, jako jsou Meta, TikTok a YouTube. Ty následovaly příkladu platformy X a zavedly podobná komunitní ověřovací opatření. Meta dokonce zrušila svůj program ověřování faktů třetí stranou a místo toho se spolehla na sílu komunitních uživatelů.

Uživatelé se ale nemusejí bát, že se poznámky komunity poháněné umělou inteligencí objeví hned v plné míře na platformě X. Společnost je zatím plánuje několik týdnů testovat, než je v případě úspěchu rozšíří.