AI rechters en het juridische novum

| AE 10674 | Innovatie | 10 reacties

“De doker begraaft zijn vergissingen; die van de rechter worden tot wet”. Met die tekst opende Coen Drion een blog over de koersvastheid van de rechter. Dat is namelijk een dingetje in het recht: mag een rechter afwijken van eerdere uitspraken van collega’s of zelfs hogere rechtbanken? In het Engelse en Amerikaanse common law systeem is dat een doodzonde, het principe van “stare decisis” vereist daar dat de rechtbank doet wat hoger is bepaald, en dat alleen hogere rechtbanken “om” kunnen gaan. Nu steeds meer stemmen opgaan om rechtspraak door AI of robots te laten doen, is het goed daar nog eens over na te denken want AI-gevoede rechtspraak gaat heel anders om met precedenten dan mensenrechtspraak.

Artificial Intelligence wordt binnen de juridische wereld nu vooral ingezet voor analyse en adviseren. Maar in theorie is er weinig technisch bezwaar tegen een AI systeem dat uitspraken gaat doen over daadwerkelijke zaken. Het infameuze E-court heeft al een robotrechter, die op basis van een hele stapel eerdere uitspraken analyseert hoe kansrijk een geldvordering is, en deze dan toe- of afwijst.

Dat is ook precies hoe AI werkt. Een robotrechter leert geen rechtsregels zoals menselijke juristen doen, en leert zelfs niet het analyseren van eerdere jurisprudentie wat belangrijke factoren zijn. AI’s zijn goed in het vergelijken: gegeven een dataset waarin elk item (elk vonnis dus) in een zit, bepaal welke factoren per item essentieel zijn om in een bepaald bakje te horen. Dat is een beetje hoe een ervaren menselijke rechter ook werkt: oké, een standaard-incassozaakje of daar heb je weer een fotoclaim met het bekende verhaal over citaatrecht. Maar niet helemaal: een AI kijkt blind naar alle factoren die hij ziet, en dat kunnen ook onbedoelde factoren zijn (als advocaat X pleit of de eiser in Amstelveen woont, dan is dat een indicatie dat de zaak niet sterk is).

Uiteindelijk is de kern echter wel dat een AI alléén afgaat op de eerdere dataset. Hij leert immers alleen daaruit hoe er recht gesproken moet worden. Een afwijking van die dataset is daarbij niet te verwachten. Computers zijn immers niet creatief, en niet gevoelig voor ongewone omstandigheden, nieuwe feiten of het overtuigendste pleidooi. Dat is ook de reden waarom robotrechters alleen voor standaardwerk ingezet moeten kunnen worden, én dat er altijd ruimte moet zijn om die ongewone omstandigheden te kunnen stellen waarna een mensenrechter en aar kijkt.

Complex daarbij vind ik wel dat je robotrechters inzet om standaardwerk te doen, en dat je wilt voorkomen dat iedereen alsnog naar de mensenrechter wil. Maar hoe toets je of iemands beroep op bijzondere omstandigheden legitiem is en dus naar de mensenrechter mag? Per definitie kan een robotrechter dat niet bepalen.

Arnoud

Deel dit artikel

  1. Duidelijk verhaal. AI kan met al z’n beperkingen best gebruikt worden vooral in combinatie met het doorgeven van de kostenvoordelen. Misschien kan dat ook helpen bij het tegengaan van een beroep op bijzondere omstandigheden. Jammer dat alleeen de rechtbanken de data om dergelijke AI te ontwikkellen (grotendeels) onder zich houden. Dat is een enorme drempel op innovatieve oplossingen.

  2. In denk dat een AI rechter het beste op zijn plaats is in een adviesfunctie voor een rechtsgang. Ik maak bij mijn werk regelmatig inschattingen hoe groot de kans is dat ik een rechtszaak er over kan winnen. Op basis daarvan bepaal ik hoe hard ik onderhandelingen inga of op welk compromis ik aanstuur. AI kan helpen om een betere inschatting te maken, vooral als ‘ie niet alleen ja/nee antwoord, maar ook vertelt welke factoren daarbij het zwaarste wogen. Dat zou mij helpen om niet voor de rechter te belanden. Als het dan toch tot een zaak komt, dan wil ik een mens.

  3. Een goede AI kan wel het bereik (in wiskundige zin) van de eerdere uitspraken ontstijgen. Stel je eens voor dat een model leert over een scheve kansverdeling en voldoende herkent dat deze scheef is. Zo’n model kan dus voorspellingen doen die buiten alle eerdere waarnemingen vallen. Terug naar de casus is er dus niet noodzakelijk sprake van ‘stare decisis’ in een juridisch AI. Geen reductie naar common law dus. Eea wel afhandeling van de formulering van het model achter de AI. Veel beperktere modellen kennen wél dat fenomeen van voorspellingen binnen het domein. Ouderwetse statistiek geeft ook als standaard les mee heel voorzichtig te zijn met voorspellingen buiten het bereik. (Bereik is de range van inputs, domein van outputs.)

  4. Ik zou de robotrechter een uitspraak laten doen met een bodemprocedure als beroep. Er kan van het innen van griffiegeld worden afgezien. Dit kan de rechter ontlasten omdat een gedeelte met de uitspraak van de robotrechter genoegen zal nemen.

  5. en dat je wilt voorkomen dat iedereen alsnog naar de mensenrechter wil. Maar hoe toets je of iemands beroep op bijzondere omstandigheden legitiem is en dus naar de mensenrechter mag?
    Ik zou het recht om naar een mensenrechter te gaan, een MENSENRECHT willen noemen in een rechtsstaat.

    Ja maar dan gaat iedereen dat doen die in eerste instantie verliest? Dat moet dan maar …

  6. Een robot rechter kan in redelijke mate nog best bepalen of hij in staat is een case te bepalen. Hij kan namelijk inschatten hoe ver een argument lijkt op een argument dat hij eerder gezien heeft. Morderne AI algoritmes kunnen niet alleen classificeren, maar ook zeggen hoe zeker ze zijn over hun inschatting (met onderbouwing en referentie waarom die inschatting gemaakt is). Ook kan je zeker wel aangeven welke factoren wel of niet mee genomen mogen worden (zoals woonplaats van een verdachte)

    Op het moment dat de zekerheid lager word zou hij dus al zelf aan kunnen geven dat deze zaak kandidaat is voor doorverwijzing.

    De vraag is ook of het erg is als iedereen toch door wilt naar een echte mensen rechter. Deze zal namelijk al een uitspraak hebben van de robot rechter, met alle relevante eerdere zaken. De belasting voor een echte rechter is daardoor minder want je hoeft het alleen nog maar te hebben over de punten waarin je het oneens bent met de robot rechter. (En ook hierin zou de robot rechter al bij voorbaat kunnen aangeven welke tegenargumenten op zijn uitspraak nooit tot een ander resultaat lijden)

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS