Dommer Bøder Advokater for Brug af Falsk AI-Genereret Juridisk Forskning

En amerikansk dommer har skarpt kritiseret to advokatfirmaer for at inkludere falsk juridisk information genereret af AI i en retsdokument, hvilket hun kalder en stor fejl i juridisk ansvar.

Dommer Michael Wilner, baseret i Californien, idømte firmaerne en bøde på $31,000 efter at have opdaget, at indlægget var fyldt med “falske, unøjagtige og vildledende juridiske henvisninger og citater”, som først blev rapporteret af WIRED.

“Ingen rimeligt kompetent advokat bør outsource research og skrivning” til AI, skrev Wilner i sin afgørelse, idet han advarede om, at han var tæt på at inkludere de falske sager i en retslig ordre.

“Jeg læste deres indlæg, blev overbevist (eller i det mindste interesseret) af de autoriteter, de citerede, og slog afgørelserne op for at lære mere om dem – kun for at finde ud af, at de ikke eksisterede,” sagde han, som rapporteret af WIRED. “Det er skræmmende,” tilføjede han.

Situationen opstod under en civil retssag mod State Farm. En advokat brugte AI-værktøjer til at udarbejde en juridisk skitse. Dette dokument, som indeholdt falsk forskning, blev overdraget til det større advokatfirma K&L Gates, som tilføjede det til en officiel indlevering.

“Ingen advokat eller medarbejder i nogen af firmaerne har åbenbart kontrolleret eller på anden måde gennemgået den forskning, før indleveringen af resuméet,” bemærkede Wilner, som rapporteret af WIRED.

Efter at have opdaget, at mindst to af de citerede sager var fuldstændig opdigtede, bad dommer Wilner K&L Gates om afklaring. Da de indsendte en ny version, viste det sig at indeholde endnu flere falske citater. Dommeren krævede en forklaring, hvilket afslørede indrømmende erklæringer om brugen af AI værktøjer, som rapporteret af WIRED..

Wilner konkluderede: “Den indledende, ikke-offentliggjorte brug af AI produkter til at generere det første udkast til indlægget var fladt ud forkert […] Og at sende det materiale til andre advokater uden at afsløre dets tvivlsomme AI oprindelse satte realistisk set disse professionelle i fare,” som rapporteret af WIRED.

Dette er ikke første gang, AI har forårsaget problemer i retssale. Faktisk indrømmede to advokater fra Wyoming for nylig, at de brugte falske AI-genererede sager i en retssagsindgivelse mod Walmart. En føderal dommer truede også med at sanktionere dem.

I dette scenarie bliver AI “hallucinationer” – opdigtede informationer genereret af AI-værktøjer – en voksende bekymring i retssystemet.