New York. Hvis du troede, at det var risikabelt at bruge AI i retsdokumenter, så forestil dig at blive fanget og derefter bruge AI igen til at forklare, at du ikke havde brugt det i første omgang. Og så blive fanget igen. Det er præcis, hvad der skete for Michael Fourte, en advokat fra New York.
Sagaen (først rapporteret af 404 Media) begyndte, da Fourte blev taget i at indsende retsdokumenter fyldt med hallucinationer, alle genereret af... AI. I stedet for at indrømme sin fejltagelse forsøgte Fourte at forklare sig. Eneste problem? Forklaringen blev også udarbejdet af AI.
Dommer Joel Cohen var ikke imponeret. I sin afgørelse påpegede Cohen det indlysende: Fourte stolede på ukontrolleret AI for at forsvare sin brug af ukontrolleret AI. Han forsøgte at bruge en robot til at forklare, hvorfor robotten overhovedet lavede rod.
Dramaet stoppede ikke der. Efter at sagsøgerne havde markeret fejlene, insisterede Fourte på, at AI ikke engang var involveret, krævede beviser og hævdede, at sagerne ikke var opdigtede. "Sagerne er slet ikke opdigtede," sagde han, på trods af at de selvfølgelig er meget opdigtede.
Til sidst indrømmede han, at han brugte AI, påtog sig "det fulde ansvar" og forsøgte samtidig at skyde skylden på sit team. I sidste ende tildelte retten sanktioner mod Fourte, hvilket beviser, at der faktisk er en grænse for, hvor langt AI-undskyldninger kan strække sig i retten. En advarende fortælling til advokater...