Právnické triky s umělou inteligencí: Soudci přitvrzují, padají první pokuty

Sdílet

Umělá inteligence zasahuje do práva, ale ne vždy v dobrém. Soudy po celém světě řeší případy falešných citací v právních dokumentech, přičemž právníci opakovaně používají tytéž výmluvy – a soudci jim to přestávají tolerovat.

Zdroj: Photo by Tingey Injury Law Firm

Vzestup umělé inteligence vedl k tomu, že využívání nástrojů založených na umělé inteligenci ovlivnilo i jiné oblasti než jen technologický sektor. Příkladem je právo a advokacie, protože se množí stále více příběhů souvisejících například se zneužitím AI při soudním procesu. Překvapivě 23 případů souvisejících s touto situací ukazuje, že existuje 15 výmluv, které zúčastněné strany často opakují.

V posledních měsících se soudy potýkají s „epidemií“ falešných citací generovaných umělou inteligencí, ale jen velmi málo odborníků svou chybu přizná. Od roku 2023 je tak nejčastější výmluvou „nevěděl jsem, že byla použita umělá inteligence“, což je výmluva, která zbavuje viny tím, že činí odpovědnými asistenty, jiné odborníky nebo samotné klienty. Jak se dalo očekávat, soudci ji nepovažují za příliš důvěryhodnou a udělují přísnější sankce, ale není jediná, která se neustále opakuje:

Mohlo by vás zajímat: Sankce jako katalyzátor: Jak Čína proměnila omezení v technologickou výhodu

„Nevěděl jsem, že jsem použil umělou inteligenci.“
„Spletl jsem si AI přehledy Googlu s normálními výsledky vyhledávání.“
„Byla to chyba podřízeného.“
„Byla to chyba klienta, pomohl mi napsat návrh.“
„Nevěděl jsem, že chatboti umí vymýšlet citáty.“
„Požádal jsem ChatGPT pouze o to, aby text udělal přesvědčivější, nečekal jsem, že bude přidávat nové citáty.“
„Dokument jsem prohnal přes jiné umělé inteligence, aby zkontrolovaly, zda v něm nejsou chyby, takže jsem ho nakonec sám nečetl.“
„Byl jsem hacknut/měl jsem v počítači malware a ten soubor změnil.“
„Omylem jsem poslal koncept místo konečné verze.“
„Ztratil jsem přístup/měl jsem problémy s přihlášením, takže jsem se uchýlil k AI.“
„Měl jsem příliš málo času a příliš velký tlak.“
„Přepínání oken/programů na notebooku je zdlouhavé, takže jsem použil doplněk Wordu, který se objevil po ruce.“
„Na vině byly funkce AI.“
„Neměl jsem k dispozici své obvyklé výzkumné nástroje a nechal jsem se zlákat AI.“
„Neměl bych tomu věnovat tolik hodin, AI kontroluje schůzky rychleji.“

AI není regulérní

Podle soudců zapojených do těchto případů je nejpraktičtější okamžitě rozpoznat používání AI a být pokorný, v tomto okamžiku by měli zahájit nápravné školení a zároveň informovat profesní orgány. Pokud tak učiní, může to snížit pokuty a disciplinární opatření, ale právníci se raději vymlouvají, než aby uznali svou vinu. Proto chodí kolem horké kaše a odvolávají se na hacky, malware nebo instalaci zásuvných modulů, které zúčastněné nepřesvědčí.

Pokuty se zpravidla pohybují kolem 1 000 eur (asi 25 000 korun), ale objevují se i vyšší tresty a nepeněžní opatření, jako je povinné školení nebo postoupení případu etické komisi. Pokud je však vina uznána a je zaujat pokorný postoj, bývají soudci shovívavější a volí pokuty ve výši 150 eur (asi 3 750 Kč) a dvouhodinové kurzy zaměřené na etické používání nástrojů umělé inteligence.

Comment
byu/chrisdh79 from discussion
inFuturology

Zdá se tedy, že postoj, který je třeba zaujmout, je zřejmý: pokud při své práci používáte umělou inteligenci, měli byste tak v ideálním případě činit kontrolovaně, jinak se můžete stát obětí halucinací umělé inteligence. Pro soudce je vlastně ideální, když uznáte svou vinu a nevymlouváte se, zejména v případech, které se týkají falešných citací. Jejich ověření tedy spočívá na podepisující osobě, nikoli na asistentech, klientech nebo komukoliv jiném, kdo se na nich podílí.

Dopad umělé inteligence v oblasti práva

Využití umělé inteligence v právní oblasti s sebou přineslo nejen problémy s falešnými citacemi, ale vyvolalo také debatu o etice a profesní odpovědnosti. Podle zprávy Americké advokátní komory může být umělá inteligence mocným nástrojem pro zvýšení efektivity a přesnosti v právní praxi, ale při nesprávném používání představuje také značná rizika. Právníci si musí být vědomi omezení těchto technologií a musí být připraveni převzít odpovědnost za případné chyby, které mohou vzniknout.

Právnické triky s umělou inteligencí: Soudci přitvrzují, padají první pokuty

Cesta zpět vyjde na 200 tisíc. Brána do Asie je zavřená, na východě uvízly tisíce Čechů

Píšťalka z Básníků slaví 57. Herectví dala Eva Vejmělková sbohem, dnes v Havířově zachraňuje manželství

Dojemná zpověď české biatlonistky. Léta ji trápil smutek, po pohádce končí s kariérou

Místo maturity zvolili kariéru. Geislerová, Burešová, David a další české hvězdy, co mají jen základku

CENTRUM o páté: Němec nakoupí bez počítání, Čech s kalkulačkou. Jaká je naše realita?