Článek
Generativní AI se v advokacii i jiných právních oborech využívá stále častěji, existují i specializované nástroje určené třeba k rešerším judikatury. V posledních dvou letech se však zároveň ve světě objevují případy, kdy AI takzvaně halucinovala, tedy si například vymyslela neexistující precedenty, ale právní profesionál to nerozpoznal a podklady využil.
Příklady shromažďuje francouzský výzkumník Damien Charlotin, v databázi jich má stovky, nejvíce z USA, ale také třeba ze Zimbabwe.
Jediný český záznam v databázi se týká rozhodování Nejvyššího správního soudu. Obdržel obsáhlá vyjádření ke kasační stížnosti, ovšem těžce uchopitelná, s mimoběžnou argumentací, včetně „absolutně irelevantních“ bodů. Hlavní problém spočíval v odkazech na starší rozsudky. Část vůbec neexistovala, případně neobsahovaly uvedené citace. „Ať již daná vyjádření psal kdokoliv či cokoliv, soud tyto ve svém souhrnu nepovažoval pro danou věc za jakkoliv přínosné, a náklady na jejich vznik proto nemohl posoudit jako důvodně vynaložené,“ stojí v rozhodnutí.
Řízení se prodlužuje
Vypořádat se s takovým podáním je náročné a zbytečně to prodlužuje řízení, plyne z rozhodnutí NSS. Podobně argumentoval také Ústavní soud, který uložil pořádkovou pokutu pražskému advokátovi, neboť při psaní stížnosti využil AI a výsledek nezkontroloval.
„Stížnost odkazovala na neexistující judikaturu. Uvedl soud v omyl a zbytečně komplikoval a zdržoval jeho postup,“ napsal v usnesení soudce Tomáš Langášek. Zdůraznil, že advokát může použít různé nástroje, ale jako profesionál přebírá za podání plnou odpovědnost. Ústavní soud ocenil následný přístup advokáta, který pokutu obratem uhradil a zaslal omluvu.
Na podobný případ nově upozornil spolek Šalamoun. V trestní věci, kterou monitoruje, prostudoval odeslanou ústavní stížnost o 91 stranách. Podle spolku je zjevné, že text tvořila generativní AI. Část citovaných nálezů neexistuje, některé citace nemají obsahovou souvislost s případem. Podle spolku takový advokátův postup poškozuje klienta, protože snižuje jeho šanci na úspěch.
„Ústavní stížnost běžně stojí vyšší desítky tisíc korun. Pokud má klient za tyto peníze dostat dokument, kde advokát nekontroluje realitu citací a spoléhá na systém, který má vrozenou tendenci halucinovat, je to nejdražší vstupenka do právního sci-fi žánru, jaká je na českém trhu k dispozici,“ napsal na webu spolku Václav Peričevič.
Spolek ve výzvě advokátům uvedl, že AI může být nanejvýš pomocný nástroj, nikoli autor textu, a že jakýkoli výstup musí advokát osobně ověřit. Advokátní komora by se podle spolku měla systematicky zabývat případy, kdy jsou klienti vystaveni riziku jen proto, že se jejich zástupce spolehne na „černou skříňku“ bez elementární kontroly.