Článek
Fotky černošských žen, které systém nedokázal rozpoznat, označil ve dvaadvaceti případech za „snímky ve špatné kvalitě“. U bělošských mužů tak učinil pouze v devíti procentech. Dvaadvacetileté studentce Elaine Owusuové například systém pětkrát chybně zahlásil, že má na pasové fotografii otevřenou pusu. „Pokud algoritmus neumí přečíst mé rty, je to systémový problém, ne můj,“ řekla BBC.
Cat Hallamová s nahráváním fotky uspěla až podesáté. „Zabývám se vzdělávacími technologiemi, takže rozumím předpojatosti umělé inteligence,” vysvětlila. Podle ní si většina lidí vůbec neuvědomuje, jaké dopady na etnické menšiny má takové chování automatických systémů.
Černé vlasy jsou poničené, světlé hebké. Údajně rasistická reklama v JAR zvedla vlnu nevole
Systém využívá britské ministerstvo vnitra v rámci přihlášky pro nový pas. BBC pro svou studii použila přes tisíc fotek politiků a političek z celého světa. Vyšlo najevo, že ženy s nejtmavším tónem pleti měly až čtyřnásobně větší pravděpodobnost, že systém jejich fotku odmítne, než jejich kolegyně se světlejší barvou pleti.
Ministerstvo vnitra začalo algoritmus používat před čtyřmi lety i přesto, že si bylo chyb vědomo. Službu doposud využilo přes devět milionů lidí a podle mluvčí ministerstva vnitra je systém v lepším stavu než kdysi. „Budeme se ho snažit vylepšit tak, aby byla přihláška pro nový pas jednoduchá a dostupná pro všechny,“ uvedla.