In Estland denken ze dat AI een eerlijke rechter kan zijn

| AE 11279 | Innovatie | 9 reacties

De Baltische staat Estland timmert al geruime tijd fors aan de weg met wat wij e-government zouden noemen: innovatief en digitaal diensten aan de burger aanbieden, van een elektronische identiteitskaart tot een compleet online loket. Veilig, snel en goedkoop. En AI oftewel machine learning speelt daarbij een steeds grotere rol. Mede gedreven vanuit de behoefte aan een kleinere overheid reduceert men het aantal ambtenaren continu, om daar AI-gedreven diensten voor in de plaats te zetten. De laatste kandidaat: de rechtspraak. Zou dat wel goed gaan?

Het Estse ministerie van Justitie heeft onlangs chief data officer Ott Velsberg gevraagd een digitale rechtbank te ontwikkelen die volautomatisch kantonzaken – tot 7.000 euro – kan vonnissen. Velsberg is geen nieuwkomer: zijn team ontwikkelde eerder een hooiveldscanner waarmee subsidies voor braakliggend land konden worden gecontroleerd, en een banenmatcher voor de uitkeringsinstantie zodat gerechtigden eerder passend werk konden vinden. En nu dus de rechtspraak.

Een groot voordeel voor Estland is dat nu zo veel al geautomatiseerd is, het maar een kleine stap voelt om ook je juridische claims online in te dienen en te laten behandelen. Al dan niet met advocaat natuurlijk. Wel een grote stap verder is het automatisch laten behandelen – en dus een vonnis krijgen – van zo’n claim, zonder menselijke tussenkomst.

Helaas is er nog weinig in detail gepubliceerd over hoe het systeem moet gaan werken, maar het lijkt het bekende stramien van AI oftewel machine learning te zullen volgen. Voed het systeem met zo veel mogelijk oude zaakdossiers, koppel daaraan de uitspraak en laat het systeem ‘kauwen’ op die gegevens om lijnen en voorspellers te ontdekken. Vervolgens kun je nieuwe dossiers in het systeem plaatsen, die dan langs die lijnen worden gehouden om te zien of ze wel dan niet moeten worden toegepast.

Dit lijkt enigszins op hoe rechters nu ook werken: op basis van ervaring prik je snel door argumenten heen, zie je wat ontbreekt in het dossier of wat opmerkelijk is. En daar kun je dan een conclusie op bouwen. Maar een belangrijk verschil is natuurlijk dat een AI totaal niet de inhoud van het dossier analyseert, maar afgaat op rekensommetjes met die inhoud.

Een risico is dan ook dat een AI-rechtbank op basis van de verkeerde soort informatie conclusies trekt. Zo zou het kunnen gebeuren dat de meeste winnende eisers in de Estse hoofdstad Tallinn gevestigd zijn. Toeval, maar voor een AI significant. Die zou dan in een twijfelzaak deze vestigingsplaats de doorslag laten geven.

Natuurlijk kun je dat soort zaken proberen te filteren, bijvoorbeeld door NAW-gegevens te anonimiseren, maar dingen kunnen door blijven schemeren. Het Amerikaanse bedrijf Amazon ontdekte bijvoorbeeld dat hun sollicitatie-AI sterk de voorkeur gaf aan mannen, ook nadat men het geslacht van de kandidaat had geblokkeerd voor de brievenlezende robot. Het geslacht kon immers worden afgeleid uit hobby’s als vrouwentennis, waar natuurlijk maar weinig mannen aan meedoen. En als je ook dat verwijdert, zijn er misschien factoren als veel deeltijdbanen hebben bekleed.

Het onderliggende probleem is uiteindelijk altijd bij dit soort systemen dat zij alle data als even relevant behandelt. Dit terwijl mensen hoofd- en bijzaken kunnen scheiden, en weten dat de aanschaf van een bankstel dezelfde soort geldschuld geeft als de aanschaf van een auto. Dergelijke abstracties kunnen AI’s compleet niet maken.

Dat wil niet zeggen dat AI’s onmogelijk zijn in de rechtspraak. Een simpele variant zou een dossierchecker zijn: een zoektocht naar een ingebrekestelling in een dossier komt neer op tekstherkenning, iets waar computers beter in zijn dat mensen. En een claim wegens schadevergoeding zonder ingebrekestelling kan dan eenvoudig worden afgehandeld. AI helpt dan bij het zoeken naar feiten, naar invoer waarmee juridische regels worden ingezet. En dat lijkt me een betere verdeling van de respectieve krachten.

Arnoud

Deel dit artikel

  1. Ik geloof dat er ook al langer wordt gekeken naar AI bij simpele zaken, waar de AI dan een suggestie doet op basis van soortgelijke dossiers. Deze kan de rechter dan gebruiken om tot een conclusie te trekken. Ik weet niet of dat ook al daadwerkelijk wordt gebruikt, maar dat was een toepassing die men ~8 jaar geleden beoogde bij de studie AI in Nijmegen.

  2. Bepaalde simpele uitspraken zie ik niet direct een probleem. Stel je hebt een zaak waar beide partijen dezelfde uitkomst willen en die sluit aan bij eerdere zaken. Dat je dat weinig zult zien ga ik vanuit. Daarnaast kun je zeggen dat een AI alles kan behandelen tot 1 van de betrokken partijen anders wil. Op deze wijze kun je mogelijk veel zaken waarbij de weder partij niet op komt dagen omdat deze dat niet wil bij de menselijke rechter weg halen. Een AI kan bv goed controleren of bv de incassokosten tov de hoofdsom niet te hoog zijn om maar iets anders te noemen.

    Ik zie ruimte voor een AI in dit soort simpele zaken die nu tijd kosten zonder dat een rechter inhoudelijk veel toe kan voegen naar mijn idee en waar betrokken partijen er geen bezwaar tegen hebben. In die gevallen kan het denk ik ook goed in Nederland.

  3. Voed het systeem met zo veel mogelijk oude zaakdossiers

    AI’s werken alleen als je ze kan trainen met AI-onafhankelijke trainingsdata. Voor sommigen lijkt de punt op de horizon te zijn dat rechtspraak grotendeels vervangen zou kunnen worden door AI’s. Dan zijn er op een gegeven moment geen recente AI-onafhankelijke zaakdossiers meer waarmee kan worden getraind en raakt het hele systeem in een deadlock. Er kan dan geen nieuwe jurisprudentie meer worden gevormd, want dat vergt nieuwe inzichten buiten oude zaakdossiers om, en vernieuwingen in rechtsspraak stoppen daarmee.

    Problemen te over:

    1) Je kan een AI misschien leren om hoofd- van bijzaken te scheiden, maar eens te meer zal blijken dat dat ene detail toch doorslaggevend is in de argumentatie van een uitspraak, op basis van een logische vervolgredenatie. Bijvoorbeeld: je voert een alibi voor locatie A op, maar je telefoongegevens geven aan dat je op locatie B was. Hoe ga je dit soort creatieve logica in een AI-netwerk peuteren? Dat is het bijzondere van mensen, wij herkennen patronen in data waarop we niet zijn getraind omdat we op basis van waarnemingen zelf regels kunnen opstellen hoe we tot herkenning van patronen en inconsistenties over kunnen gaan. Dat zie ik een AI nog niet doen de komende tig jaar. 2) Op de gangbare manier van trainen van AI’s met oude zaakdossiers baseer je je uitspraak dus slechts op jurisprudentie. Een goede rechter zal altijd kijken welke wetsartikelen een aanknopingspunt geven voor een goede uitspraak, daar kunnen best artikelen uit voorkomen die nog niet eerder in zaken voorkwamen. Een AI die alleen op basis van training werkt zal nooit een tot nu toe ongebruikt wetsartikel kunnen gebruiken als basis van de uitspraak. 3) Hoe gaat een AI de uitspraak uitleggen door koppeling van argumentatie en bijbehorende wetsartikelen?

    Voorlopig zie ik net als Arnoud de rol van een AI louter als preprocessor: zet de zaken op een rij, probeer passende jurisprudentie te vinden, zoek er zoveel mogelijk relevante wetgeving bij en geef de boel dan door een mens.

    • Aanvulling op mezelf: je zal alle (ook bestaande) uitspraken moeten labelen, wel of niet gegenereerd door een mens omdat je anders de kans loopt dat je nieuwe AI’s gaat trainen met uitspraken van oudere AI’s. Je denkt dan misschien een representatieve set trainingsdata te hebben maar valt ongemerkt terug op een hele beperkte set onderliggende uitspraken gedaan door menselijke rechters.

  4. Ik zei het al vaker: de parallel met automatisch vertalen is sterk: vertaalrobots als DeepL, en ook het aloude Google Translate, zijn het laatste jaar of zo griezelig goed geworden, maar nog steeds maken ze soms, nee vaak, heel rare fouten. Omdat de zinnen nu meestal wel lopen, vallen die minder op, dus de BESLIST noodzakelijke menselijke controle is intensief werk.

  5. Persoonlijk vind ik het wel zinvol als de AI volautomatisch met een uitspraak komt, die je daarna bij een gewone rechter nog kunt aanvechten. In veel kwesties zullen mensen namelijk gewoon de AI-uitspraak accepteren indien deze redelijk is. Een boete voor door rood rijden kun je wel aanvechten maar de meesten betalen gewoon. (Inclusief als de boete per email binnen komt en je in bitcoins moet betalen… Zucht) Dus in de vele kleine kwesties kan de AI best een uitspraak doen waar iedereen al tevreden mee kan zijn. Zoniet, dan gaat het hogerop en mag een echte rechter erover oordelen.

    Voor eenvoudige, kleine zaken lijkt dit mij prima. Het kan al veel werkdruk verminderen en kan snel en goedkoop worden geïmplementeerd. Dit betekent dus ook dat er een strafkorting ingebouwd kan worden indien men het AI-oordeel accepteert. Dus geen 300 euro boete maar 270 euro boete, want 10% korting. Dat scheelt een hoop mensenwerk, volgens mij.

  6. Hoewel ik het eens ben de meeste bezwaren, zie ik er wel wat in voor een soort small claims court. Kleine zaken, vooral consument tegen bedrijven waar het zelfs voor een leek als ik duidelijk is wie er gelijk heeft. Op dit moment is er niet echt een mogelijkheid om je gelijk te halen.

  7. Waar veel energie in word gestoken bij AI zijn model explainers. Je traint een AI model, en vervolgens train je een 2e AI model dat aanwijst welk deel van van de data heeft geleid tot de conclusie. Op die manier kan je je model ‘verifieren’ of de conclusie die hij getrokken heeft zuiver is of niet (en daarmee kun je dus weten of het model geslacht mee neemt als groot deel van de conclusie, zoja dan gooi je het model weg.)

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS