Er is inmiddels al vastgesteld dat AI misschien niet zo geschikt is om advocaat te spelen, maar ook menselijke advocaten moeten oppassen wanneer ze zelf kunstmatige intelligentie inzetten om hun punt te maken. Een advocaat in Amerika zag de rechtszaak zo de prullenbak in verdwijnen omdat hij AI zou hebben gebruikt. Of eigenlijk: omdat hij het werk van de AI-tools niet goed had gecontroleerd.
Rechter Katherine Polk Faila besloot dat advocaat Steven Feldman maar bleef komen met documenten waarin nepcitaten stonden, dat ze de hele rechtszaak besloot te schrappen. Toen Feldman met papieren op de proppen kwam waar volgens de rechter een lange quote in zat uit Ray Bradbury’s Fahrenheit 451 met metaforen waarin de advocatuur werd vergeleken met tuinieren en het achterblijven van afdrukken in de klei, was ze er klaar mee. Er was zelfs een quote uit de Bijbel toegevoegd.
AI-dvocaat
Volgens de advocaat kwam er helemaal geen AI bij kijken, maar de rechter vond het zulke poëtische proza, dat ze toch echt besloot dat ze dat niet geloofde. De advocaat zei dat hij het boek van Bradbury veel jaren geleden had gelezen en dat hij wat persoonlijke zaken aan de rechtbankpapieren wilde toevoegen. Wel zei hij dat hij op AI had geleund om de eindredactie over de stukken te doen. Hij zou hiervoor Paxton AI, vLex Vincent AI en Google NotebookLM hebben gebruikt. Misschien wat veel om alleen maar stukken na te kijken, maar hij zei dat hij het goed gecheckt wilde hebben.
Hierdoor zouden er hallucinaties in de teksten terecht zijn gekomen, stelt hij. De rechter besloot: “Het Hof ziet het anders: AI heeft deze stukken vanaf het begin gegenereerd, en de beslissing van de heer Feldman om de meeste verwijzingen te verwijderen en ‘meer een persoonlijke brief’ te schrijven” is “niets anders dan een rechtvaardiging achteraf die bedoeld is om zijn misbruik van AI en zijn standvastige weigering om zijn inzendingen op juistheid te controleren te verdoezelen.” De rechter raadde de advocaat aan om aan andere advocaten te vragen zijn stukken te controleren en niet meer op AI te leunen. Gebruik AI maar helemaal niet, zo luidt het advies.
Het is lullig voor de winkelier waar de rechtszaak om draaide. Een speelgoedbedrijf had winkeliers aangeklaagd die gestolen goederen bleven verkopen, ondanks dat ze was opgelegd om dat niet te doen. Ook wil de advocaat van de speelgoedfabrikant geld zien: hij heeft immers veel tijd verdaan met het lezen van onzinnige stukken, zo stelt hij.
Over de auteur
