Hlavní obsah

Kvůli chybě umělé inteligence strávila žena 6 měsíců ve vězení

O tom, že umělá inteligence (AI) nemusí mít vždy pravdu, přestože na to mnozí spoléhají, se přesvědčila padesátiletá Angela Lippsová z amerického Tennessee. AI využitá při rozpoznávání obličejů ji totiž vyhodnotila jako osobu, která se podílela na bankovním podvodu v jiném státě. Nehledě na to, že tam nikdy podle svých slov nebyla.

Foto: Shutterstock

AI systém na rozpoznávání obličejů ženu mylně vyhodnotil jako možnou pachatelku (ilustrační foto).

Článek

Angela Lippsová byla loni v létě zatčena ve svém domě, když hlídala děti. Byla převezena do místní věznice v Tennessee, kde strávila téměř 4 měsíce po dobu, kdy se řešilo její vydání do Severní Dakoty. Tam se měla podle obvinění podílet na čtyřech případech neoprávněného použití osobních údajů a krádeže.

„Bylo to děsivé, vidím to před sebou znovu a znovu,“ uvedla pro server Independent s tím, že byla zadržována celou dobu bez možnosti dočasného propuštění na kauci, jelikož byla vyhodnocena jako uprchlík.

„Nikdy jsem v Severní Dakotě nebyla ani tam nikoho neznám,“ uvedla dále s tím, že ani nikdy neseděla v letadle. Její cestování se omezilo na sousední státy v krátké dojezdové vzdálenosti.

Aby nakonec vůbec mohla své alibi obhajovat, musela odcestovat do 1200 mil (přes 1900 km) vzdáleného města Fargo v Severní Dakotě.

Systém s AI jako dostačující důkaz

Vše začalo tím, že policie v Severní Dakotě vyšetřovala sérii bankovních podvodů. Při těch byly neznámými osobami vybírány tisíce dolarů z účtů pomocí falešného průkazu americké armády. Při zajišťování snímků byly identifikovány osoby s tím spojené, a to díky programu na rozpoznávání obličejů umělou inteligencí.

AI podle typu postavy, obličejových rysů či účesu ukázala na podezřelou – Angelu Lippsovou. Koncem října, 108 dní po svém zatčení, stanula před soudem v Severní Dakotě, kde její přidělený právník argumentoval, že v době, kdy mělo docházet k podvodům, byla prokazatelně podle prováděných plateb ve státě Tennessee.

Devatenáctého prosince byla vyslechnuta a na Štědrý den byl její případ zamítnut. Zůstala ale v cizím státě bez peněz, v letním oblečení, bez kontaktů. Místní obhájci jí poskytli peníze na ubytování v hotelu a následně cestu domů.

Jelikož ale během několika měsíců nebyla schopna řádně platit účty, přišla postupně o dům, auto i psa.

Její zatčení je podle IBS Times osmým zdokumentovaným případem neoprávněného zatčení v USA spojeným se systémem rozpoznávání obličejů. Kritici varují, že bez dalšího ověřování a jenom spoléháním na tento systém, může mít i jedna algoritmická shoda závažné dopady na životy mnoha lidí.

Anketa

Vyhodnotila vám někdy umělá inteligence něco chybně?
Ano, mnohokrát
81,5 %
Jednou
1,1 %
Naštěstí ještě ne
2 %
Umělou inteligenci nepoužívám.
15,4 %
Celkem hlasovalo 4014 čtenářů.

Výběr článků

Načítám