Článek
V prosinci minulého roku byly uveřejněny výsledky studie, která podle provádějícího amerického týmu z Kalifornské univerzity v San Diegu ukazuje, jaký vliv má umělá inteligence a její halucinování na lidské chování.
Přestože se podle různých statistik ukazuje, že většina Američanů umělé inteligenci nedůvěřuje, podle nedávných výsledků je realita poněkud jiná. Lidé si s větší pravděpodobností koupí nějaké zboží po přečtení shrnutí, které bylo vytvořeno AI, než po shrnutí napsaném člověkem.
A to i přesto, že při různém vyhledávání nebo nabízení produktů umělá inteligence zkreslovala původní hodnocení a halucinovala ve více než 60 % případů, kdy se uživatelé ptali na produktové recenze, uvádí server LiveScience.
Autoři studie uvádějí, že jde o první významnější projekt svého druhu, který jasně poukazuje na kvantitativní dopad vlivu umělé inteligence na lidské rozhodování.
Vliv umělé inteligence na rozhodování lidí
Studie zahrnovala několik částí. Vědci nejprve vyzvali umělou inteligenci, aby shrnula recenze produktů a jejich hodnocení v médiích. V další části byly umělé inteligenci předloženy jak popisy produktů z médií, tak i popisy smyšlené, u kterých měla ověřovat fakta. Jak se ukázalo, AI byla v hodnocení velmi nepřesná a nedokázala rozlišit, co je pravda a co ne. Výsledné souhrny tak byly velmi nepřesné.
Podle odborníků existuje několik důvodů, proč velké jazykové modely vytvářely chaotické hodnocení a smyšlené recenze. Jedním z nich je, že mají tendenci se soustředit především na začátek vstupního textu. Čím delší je, o to víc se v něm ztrácejí a špatně ho posuzují.
Nesprávnost při zpracování informací také může spočívat v tom, že některé z informací, na které se měla ve výsledku AI soustředit, nebyly obsaženy v trénovacích datech. AI tak nevěděla, jak s nimi naložit, a proto halucinovala.
Nejpřekvapivější ale bylo, jak se k výsledkům zpracovaným AI stavěli uživatelé. V projektu byly zahrnuty jak výrazně kladné, tak i záporné recenze. Dobrovolníkům bylo přiděleno, aby si buď přečetli původní originální hodnocení, nebo shrnutí recenzí vytvořené AI.
Ti, kteří četli původní kladné recenze, by si produkt zakoupili v 52 % případů. U shrnutí tvořených AI to ale bylo neuvěřitelných 84 procent.
Podle vědců to tak jasně ukazuje, že vliv umělé inteligence na lidi a jejich rozhodování je velký, a to i přes její celkovou nedokonalost. Proto doporučují, aby se provedla důkladná analýza a našly postupy, které by vedly ke zmírnění zkreslování výstupních informací od umělé inteligence. Jedině tak je podle nich pravděpodobné, že nebude docházet k negativním dopadům na lidské životy.
