Sociální sítě působí kvůli botům falešně, prohlásil šéf OpenAI

„Boti znemožňují zjistit, zda příspěvky na sociálních sítích skutečně napsali lidé,“ napsal Sam Altman na platformě X tento týden.

Uvědomil si to při čtení některých příspěvků na subredditu r/Claudecode, kde uživatelé chválili službu OpenAI Codex (spuštěnou v květnu jako nástroj pro programování, který navazuje na Claudův kód od Anthropicu), píše web TechCrunch.

V poslední době se zde objevuje řada příspěvků od údajných uživatelů Codexu, kteří oznamují přechod z Claude. Jeden z diskutujících dokonce s nadsázkou poznamenal: „Dá se na Codex přejít, aniž bych o tom na Redditu založil vlákno?“.

Altman si proto kladl otázku, kolik z těchto příspěvků bylo od skutečných lidí. „Při čtení jsem měl zvláštní pocit – automaticky předpokládám, že jde o falešné účty nebo boty. Přitom vím, že růst Codexu je skutečně výrazný a trend je reálný,“ přiznal na platformě X.

Ředitel OpenAI si rovněž neodpustil kritiku systému, v němž sociální sítě i jejich tvůrci staví svůj zisk na co největší míře uživatelské angažovanosti.

Zároveň však přiznal, že jeho podezření na původ příspěvků podporujících OpenAI na zmíněném subredditu posiluje i skutečnost, že sama OpenAI se stává terčem tzv. „astroturfingu“. Ten obvykle zahrnuje příspěvky od lidí či botů najatých konkurencí nebo zprostředkovatelem, což dává konkurentům možnost vše popřít a zachovat si zdání věrohodnosti.

Podle webu TechCrunch nejsou sice žádné přímé důkazy o astroturfingu, ale po vydání GPT-5 se subreddity věnované OpenAI obrátily proti společnosti. Namísto očekávané vlny chvály zaplavily diskuse rozhořčené příspěvky. Uživatelé na Redditu i X si stěžovali na různé problémy – od osobnosti GPT až po rychlé vyčerpávání kreditů bez dokončení úkolů.

„Celkový dojem je, že X a Reddit dnes působí výrazně falešně. Před rokem či dvěma to tak vůbec nepůsobilo,“ uvedl Altman.

Ačkoli tedy není jasné, kolik příspěvků na Redditu skutečně pochází od botů či falešných účtů spravovaných lidmi, kteří využívají velké jazykové modely, jejich podíl bude zřejmě značný.

Dle společnosti Imperva, specializující se na zabezpečení dat, tvořil v roce 2024 více než polovinu veškerého internetového provozu nelidský obsah, a to převážně díky jazykovým modelům. I bot Grok, provozovaný platformou X, uvedl, že přesná čísla nejsou veřejná, ale odhady pro rok 2024 mluví o stovkách milionů botů.