AI rechters en het juridische novum

| AE 10674 | Innovatie | 10 reacties

“De doker begraaft zijn vergissingen; die van de rechter worden tot wet”. Met die tekst opende Coen Drion een blog over de koersvastheid van de rechter. Dat is namelijk een dingetje in het recht: mag een rechter afwijken van eerdere uitspraken van collega’s of zelfs hogere rechtbanken? In het Engelse en Amerikaanse common law systeem is dat een doodzonde, het principe van “stare decisis” vereist daar dat de rechtbank doet wat hoger is bepaald, en dat alleen hogere rechtbanken “om” kunnen gaan. Nu steeds meer stemmen opgaan om rechtspraak door AI of robots te laten doen, is het goed daar nog eens over na te denken want AI-gevoede rechtspraak gaat heel anders om met precedenten dan mensenrechtspraak.

Artificial Intelligence wordt binnen de juridische wereld nu vooral ingezet voor analyse en adviseren. Maar in theorie is er weinig technisch bezwaar tegen een AI systeem dat uitspraken gaat doen over daadwerkelijke zaken. Het infameuze E-court heeft al een robotrechter, die op basis van een hele stapel eerdere uitspraken analyseert hoe kansrijk een geldvordering is, en deze dan toe- of afwijst.

Dat is ook precies hoe AI werkt. Een robotrechter leert geen rechtsregels zoals menselijke juristen doen, en leert zelfs niet het analyseren van eerdere jurisprudentie wat belangrijke factoren zijn. AI’s zijn goed in het vergelijken: gegeven een dataset waarin elk item (elk vonnis dus) in een zit, bepaal welke factoren per item essentieel zijn om in een bepaald bakje te horen. Dat is een beetje hoe een ervaren menselijke rechter ook werkt: oké, een standaard-incassozaakje of daar heb je weer een fotoclaim met het bekende verhaal over citaatrecht. Maar niet helemaal: een AI kijkt blind naar alle factoren die hij ziet, en dat kunnen ook onbedoelde factoren zijn (als advocaat X pleit of de eiser in Amstelveen woont, dan is dat een indicatie dat de zaak niet sterk is).

Uiteindelijk is de kern echter wel dat een AI alléén afgaat op de eerdere dataset. Hij leert immers alleen daaruit hoe er recht gesproken moet worden. Een afwijking van die dataset is daarbij niet te verwachten. Computers zijn immers niet creatief, en niet gevoelig voor ongewone omstandigheden, nieuwe feiten of het overtuigendste pleidooi. Dat is ook de reden waarom robotrechters alleen voor standaardwerk ingezet moeten kunnen worden, én dat er altijd ruimte moet zijn om die ongewone omstandigheden te kunnen stellen waarna een mensenrechter en aar kijkt.

Complex daarbij vind ik wel dat je robotrechters inzet om standaardwerk te doen, en dat je wilt voorkomen dat iedereen alsnog naar de mensenrechter wil. Maar hoe toets je of iemands beroep op bijzondere omstandigheden legitiem is en dus naar de mensenrechter mag? Per definitie kan een robotrechter dat niet bepalen.

Arnoud

Noors gerecht verbiedt publicatie van rechtspraak

| AE 10665 | Intellectuele rechten, Ondernemingsvrijheid | 9 reacties

Een Noorse rechtbank heeft de site rettspraksis.no verboden om nog langer vonnissen te publiceren, bij BoingBoing. Maar nee, het is geen aanval op de onafhankelijkheid of transparantie van de rechtspraak: het gaat om vonnissen die het bedrijf Lovdata had verzameld en op CD-ROM had gepubliceerd. Lovdata meent dat ze een databankrecht bezit op deze publicatie, en verbiedt op die grond de gratis herpublicatie door Rettspraksis. Dat is opmerkelijk, en voor mij vooral omdat ik zou denken dat moderne landen al lang eigen openbare databanken met rechtspraak hebben.

De site is een initiatief van Håkon Wium Lie, die onder meer de Cascading Style Sheets (CSS) uitvond waardoor het web visueel is geworden wat het is en ook eerder zorgde voor gratis toegang tot de Noorse wetgeving. Ook dit kreeg hij voor elkaar door te beginnen met data dat Lovdata publiceerde, en zo te lezen ook ondanks het databankrecht dat Lovdata meende te hebben. Nu lijkt Lovdata er scherper in te zitten:

Lovdata has dropped their $1-per minute fee for laws, but they have built a lucrative business model selling web access to non-copyrighted court decisions. They even use CSS for this. (I don’t charge them.) Individuals must pay $1,500 per year for access to court decisions. So when a new website comes along and offers free access, Lovdata has a huge economic incentive to try shut it down. And this is exactly what Lovdata did when they sued me and the founder of the rettspraksis.no project. On Thursday the 31st of May, the lawsuit was sent to the Oslo courts and in less than 24 hours the judge had issued a verdict (PDF, in Norwegian) which closed down our site.

Zo te lezen gaat het hier om een ex parte verbod, het juridisch onding dat wij ook kennen bij evidente gevallen van IE-inbreuk waarbij je geen lastige vragen wilt van inbreukmakers. Lie kan er natuurlijk tegen in beroep, en zal dat zo te lezen zeker ook doen nu hij de advocaat van “DVD Jon” in de arm heeft genomen. Ondertussen moet hij wel zo’n twaalfduizend Euro betalen voor de proceskosten van Lovdata – net als bij ons, waar de verliezer de hele rekening betaalt. Wel zuur, omdat ze vrijwillig de site al offline hadden gehaald voordat de ex parte werd aangespannen.

Mij deed de zaak denken aan de zaak Vermande/Bojkovski uit 1998, waarbij de laatste wetsteksten online zette van een CD-ROM van de uitgever Vermande. Die claimde auteursrecht op de tussenkoppen, maar de rechtbank wees de claim af omdat Bojkovski alleen de wetsteksten zelf had overgenomen. Voor rechtspraak hebben wij zo’n geschil dacht ik nooit gehad. Al vanaf 1999 worden op Rechtspraak.nl vonnissen gratis gepubliceerd door de Raad voor de Rechtspraak. Lang niet alles – en of dat zou moeten daar ben ik nog niet over uit.

Arnoud

Nee, kunstmatige intelligentie zal nooit gaan rechtspreken (of pleiten)

| AE 10195 | Innovatie | 21 reacties

Een computer kan rechtspreken, als wij met zijn allen denken en willen dat hij het kan. Dat las ik bij Sargasso in een gastbijdrage van strafrechtadvocaat Vasco Groeneveld. AI komt eraan, ook in de rechtspraktijk. Die lijn doortrekkend betekent dat er over tien, twintig jaar robotrechters aan het werk zijn, niet gehinderd door emotie, hoofdpijn, vooroordelen of gewoon vrijdagmiddagmoeheid. Klinkt goed, maar ik zie het niet gebeuren.

Groeneveld begint met de stelling dat rechtspraak de “testcase bij uitstek” is:

Dat draait immers om het verwerken van datastromen en het onderbrengen van specifieke gegevens onder algemene wetmatigheden, en als ik het goed begrijp is dat zo’n beetje de definitie van een algoritme.

Het is inderdaad zo dat een algoritme een gestructureerd stappenplan is waarbij je algemene regels toepast op specifieke invoer. Ook het recht kent algemene regels, en juridisch werk bestaat vaak uit het vertalen van die regels naar een concrete casus: hier werd te hard gereden, dit is doodslag en dat contract is rechtsgeldig ontbonden.

Ik zie het zeker wel gebeuren dat computers die regels gaan toepassen, en zo juridisch-inhoudelijk werk gaan verrichten. Ik blogde daar medio december nog over: AI kan prima besluitvorming ondersteunen, en heeft dan inderdaad geen last van al die menselijke karaktertrekjes waar foute beslissingen op worden gebaseerd. (Tenzij de dataset waar de AI op gebouwd is die fouten introduceert, zoals bij een bevooroordeelde selectie.)

Ik zie rechtspraak alleen als uitzondering, speciaal geval. Ik noem het hier wel eens de exception handler van het recht: als we niet meer weten wat te doen, dan vragen we het aan de rechter. Haast per definitie krijgt de rechter dus de gevallen waar de wetmatigheden niet in voorzien of waar meerdere uitkomsten mogelijk zijn. En juist daar kunnen computers heel moeilijk mee omgaan. Daarom zie ik AI niet snel in de rechtszaal opduiken en uitspraken doen over die moeilijke gevallen.

Mijn visie is dat AI en computers de simpele gevallen zullen gaan doen, zeg maar de OM afdoening en de boetes op straat van oom agent. Wie daartegen bezwaar maakt, zal dan bij de menselijke rechter uitkomen die er een gewogen oordeel over moet doen. Daar kunnen dan ook bijzondere omstandigheden meegenomen worden, zoals een beroep op overmacht of noodweer waar haast per definitie geen regels over zijn.

Misschien dat een AI wel ondersteunende diensten kan leveren. Denk aan het analyseren van eerdere uitspraken over juist de minder wetmatige aspecten, zoals de strafmaat of de keuze tussen vrijspraak en veroordeling. Een AI kan daar patronen in ontdekken en zo aangeven of deze verdachte een lage straf moet krijgen of juist een hoge, zodat je een meer objectieve beoordeling daarvan krijgt. De rechter kan dat dan meenemen maar heeft het laatste woord en kan dus afwijken.

Arnoud

Wanneer is een gerechtelijke uitspraak nu jurisprudentie?

| AE 5191 | Informatiemaatschappij | 11 reacties

Met enige regelmaat krijg ik vragen over wanneer iets nu jurisprudentie is. Daarmee bedoelen ze dan meestal, wanneer is een vonnis bindend en mag ik erop vertrouwen dat de uitspraak ook voor mij geldt. Dat is een moeilijke vraag, maar dat komt met name omdat in vonnissen zelden zúlke harde lijnen staan dat ze eenvoudig… Lees verder

“Internetrechtbank” e-court: goed idee, maar hm die uitwerking

| AE 1944 | Informatiemaatschappij | 46 reacties

Nederlands eerste online rechtbank, moet de procesgang versnellen en daarmee ook goedkoper maken, las ik bij Emerce. De stichting E-Court wil rechtspraak weer betaalbaar maken door een snelle en efficiënte online procedure te bieden waar men binnen 8 weken voor 375 euro (of 1000 euro met zitting) tot een uitspraak kan komen. Een goed idee… Lees verder