Falešné právní citace z AI stály advokáta samostatnou praxi

Deník The Guardian loni v říjnu informoval, že při jednání 19. července 2024 anonymní advokát zastupující muže v manželském sporu předložil soudu seznam předchozích případů, o který požádala soudkyně Amanda Humphreysová v souvislosti s žádostí o výkon rozhodnutí, píše web The Guardian.

Po návratu do své kanceláře soudkyně uvedla, že ani ona, ani její spolupracovníci nedokázali dohledat případy uvedené v seznamu. Později advokát přiznal, že seznam připravil s pomocí právního softwaru, který využívá umělou inteligenci. Správnost informací si před jejich předložením neověřil.

Advokát se u soudu bezpodmínečně omluvil, prohlásil, že si vezme ponaučení k srdci a požádal, aby jeho případ nebyl předán k dalšímu vyšetřování.

Přiznal, že plně nerozumí tomu, jak software funguje. Uznal, že je nezbytné ověřovat přesnost výzkumu prováděného s pomocí umělé inteligence. Navíc uhradil právním zástupcům druhé strany náklady spojené se zmařeným jednáním.

Ačkoliv soudkyně Humphreysová omluvu přijala, případ byl předán k vyšetřování Viktoriánské radě pro právní služby. Ta minulý týden potvrdila, že právníkovi byla v důsledku vyšetřování upravena osvědčení k výkonu praxe – nesmí působit jako hlavní právník, nemá oprávnění spravovat cizí peníze, nebude provozovat vlastní advokátní kancelář a bude moci vykonávat praxi pouze jako zaměstnanec jiné právnické firmy.

„Regulační opatření rady v tomto případě ukazuje náš závazek zajistit, aby právníci, kteří využívají umělou inteligenci ve své praxi, činili tak odpovědně a v souladu se svými profesními povinnostmi,“ uvedl mluvčí rady.

Od tohoto případu bylo u australských soudů zaznamenáno více než 20 dalších případů, kdy právníci nebo osoby zastupující soudce při přípravě soudních dokumentů využili umělou inteligenci, což vedlo k tomu, že dokumenty obsahovaly falešné citace.

Právníci v západní Austrálii a Novém Jižním Walesu byli kvůli podobnému jednání rovněž předáni svým státním regulačním orgánům.

Soudy a právnické organizace uznávají, že umělá inteligence bude hrát určitou roli v právních procesech, zároveň však varují, aby nikdy nenahrazovala odborný úsudek právníků.

„Pokud tyto nástroje využívají právníci, musí se tak dít s maximální opatrností,“ řekla minulý měsíc prezidentka australské právnické rady Juliana Warnerová deníku The Guardian.

„Právníci musí mít vždy na paměti své profesní a etické povinnosti vůči soudu a svým klientům,“ dodala.