Článek
Jedno se umělé inteligenci ve spojitosti s různými souhrny musí nechat – udělá je v porovnání s člověkem mnohem rychleji. Ovšem kvalita výsledných výstupů, to je už něco jiného. Přitom právě finální výsledek, který lidé berou mnohdy jako bezchybný, může mít na jejich hodnocení konkrétní situace velký vliv.
První věc, na kterou se v této souvislosti zaměřili odborníci zkoumající vliv AI na lidské chování, byla pravdivost a faktická správnost souhrnů tvořených umělou inteligencí. A ukázalo se, že mnohá shrnutí obsahovala chybné informace nebo vysloveně dezinformace.
Zásadním problémem je, že modely AI při vytváření souhrnů často vynechají „detaily“, které jsou podstatné pro celkové pochopení problému. Podle zjištění odborníků byly zásadní detaily opomíjeny ve více než polovině testovaných souhrnů (51,6 %).
Po zhodnocení kvality výstupů se odborníci zaměřili na to, jak tyto informace ovlivňují paměť lidí, kteří se na uvedené souhrny spoléhají.
Jak se ukázalo, informace od AI mohou zkreslovat výsledné vnímání akce či určité činnosti. Pokud AI souhrn zavádějícím způsobem informoval o něčem, co lidé dříve sami viděli, nebyli si vždy schopni přesně vybavit, co se vlastně v reálu stalo, uvádí server Independent.
Odborníci svá tvrzení zakládali na konkrétním videu, které ukázali 331 dobrovolníkům. Zachycovalo auto, které se blížilo ke křižovatce, na které byla buď značka vyzývající k zastavení, nebo naopak povolující jízdu. Auto se následně na křižovatce otáčelo, přičemž srazilo chodce.
V rozmezí dne a dvou po zhlédnutí videozáznamu byl účastníkům předložen souhrn vytvořený AI – v jednom případě byl vytvořen správně, se všemi podstatnými údaji, ve druhém byl uveden chybný detail. Účastníci pak dostali jasný úkol – vybavit si obsah videa a ve spojitosti se souhrnem určit, kdo nesl vinu na nehodě. Přitom se ukázalo, že poté, co se lidé seznámili se zavádějící verzí AI souhrnu, byla mnohem menší šance, že si vybaví situaci správně - tak, jak ji viděli.
Odborníci proto varují, že i vzhledem k narůstajícímu počtu situací, kde se souhrny vytvářejí (včetně například kontroly policejních záběrů), může být jejich časté využívání zavádějící a zkreslující realitu, aniž by se o to někdo cíleně snažil.
