Internetrecht door Arnoud Engelfriet

‘Robotrechter e-Court is een groot en niet transparant zwart gat’, kopte Nieuwsuur onlangs tendentieus. Stichting e-Court is al jaren actief als alternatieve geschilbeslechter en heeft verzekeraars gevonden als bereidwillige afnemers voor haar digitale arbitragedienst. Snel en gemakkelijk maar controversieel. Opmerkelijk voor mij daarin: de eerste stap is een artificial intelligence die over je zaak oordeelt. Mag dat zomaar?

Op zich is wat e-Court doet een legitieme constructie. Men biedt arbitrage aan, alternatieve geschilbeslechting buiten de rechter om. Dat mag, en kan voor beide partijen voordelig zijn: sneller en goedkoper, en je kunt de procedures optimaliseren voor jouw soort geschil in plaats zoals bij de traditionele rechtspraak een middelmaat omdat men alles aan moet kunnen. Digitale dossiers en on-line voortgang en uitwisselen van stukken lukt daar iets minder.

De controverse rond e-Court komt voornamelijk vanwege het feit dat mensen zonder het te beseffen akkoord gaan met arbitrage; dat staat namelijk zo in de algemene voorwaarden van met name zorgverzekeraars. Op zich legaal, zij het dat je bij start van een geschil bij de arbiter een maand moet krijgen om daar bezwaar tegen te maken. Daar lijkt het volgens het onderzoek vaak mis te gaan: het wordt bepaald onduidelijk uitgelegd, en ook wie dat bezwaar maakt, kan zomaar alsnog door de molen van e-Court gehaald worden en krijgt toch een arbitraal vonnis tegen zich, dat via de deurwaarder ten uitvoer kan worden gelegd. Dat klopt natuurlijk niet.

Voor mij sprong deze alinea eruit:

[Oprichtster Henriëtte Nakad] nam het heft in eigen hand, zette een bedrijf op en liet een computerprogramma bouwen dat automatisch vonnissen kan produceren. Die ‘robotrechter’ is ‘de meest objectieve rechter van Nederland’, zonder ‘misplaatste empathie’, schreef Nakad in een academisch artikel.

Dat academisch artikel laat zien dat het gaat om een Case-Based-Reasoning (CBR) kunstmatige intelligentie: nieuwe zaken worden op allerlei punten vergeleken met eerder zaken, en de uitspraak wordt bepaald aan de hand van die gelijkenis. Kort gezegd, als een zaak veel lijkt op 100 afgewezen incassozaken, dan wordt deze incassoclaim ook afgewezen. Ook wordt een heel raamwerk opgezet om de formele processtappen consequent uit te voeren.

Helaas kan ik nergens iets vinden over hoe deze AI inhoudelijk werkt. En dat is jammer want bij zo’n grote legal tech innovatie zou je toch graag willen weten hoe het werkt. Zeker omdat het hier gaat over vonnissen die mensen heel diep kunnen raken: de schuldenproblematiek in Nederland is hoog en complex, en black box uitspraken waar mensen zich door overvallen voelen, helpen daar natuurlijk niet bij. De keuze voor een AI snap ik wel, het is een hoog volume aan relatief simpele zaken en daar is met AI goede analyse op te doen.

Formeel is het overigens geen robot die beslist. Het is een voorbeeld van hoe AI een rol kan spelen in juridische besluitvorming. Vang de simpele gevallen af, en laat de rest (inclusief de gevallen waar men piept) door een mens behandelen. Alleen veronderstelt dat wel dat mensen piepen als er iets mis is, en specifiek bij consumentenrecht / schuldenincasso is dat iets dat heel vaak misgaat.

Het bedrijf reageert in een persbericht kort gezegd dat ook schuldenaars beter af zijn, omdat de procedure ook voor hen sneller en goedkoper uitpakt. Ik heb daar wel moeite mee, want juist dit onderwerp voelt voor veel schuldenaars als zeer machteloosmakend en ongrijpbaar. Dus als je dan óók nog eens alles achter een digitale procedure stopt én je hoort dat er een robot de eerste selectie maakt, dan is het argument dat je minder incassokosten krijgt en dat de deurwaarder heus luistert, niet meer relevant. Mensen vertrouwen robots niet in een dienstverlenende rol, laat staan als die over hun geld en goed beslist.

Algemeen heb ik er een dubbel gevoel bij. Het initiatief is nobel, want de rechtspraak ís verstopt en veel dingen kunnen gewoon efficiënter als je maatwerk toepast en niet alles op dezelfde manier behandelt. Maar de afwezigheid van transparantie vind ik moeilijk te verkroppen, helemaal omdat een AI in rechtspraak gewoon heel gevoelig ligt. En als je dan ook nog eens het primair opzet om schuldincasso te doen – waar notoir vaak mensen in de molen vermalen worden – dan krijg ik er een vervelend gevoel bij. Je ziet dat nu ook terug in de berichtgeving, dat het een “robotrechter” is die je blind veroordeelt. Niet goed voor de beeldvorming van legal tech en AI in de juridische sector. Dus nee, jammer.

Arnoud

De bekende Amerikaanse hogerberoepsrechter Richard Posner ergert zich dood aan het juridisch jargon waar zijn collega’s mee smijten, meldde de Wall Street Journal onlangs. “Judicial opinions are littered with stale, opaque, confusing jargon,” schreef hij in een recent arrest. “There is no need for jargon, stale or fresh. Everything judges do can be explained in straightforward language—and should be.”

De discussie over jargon is natuurlijk niet uniek voor het recht. Elk vakgebied kent jargon, en dat is logisch. Jargon helpt je sneller communiceren met vakgenoten. Als ik zeg dat je ook bij een akte gewoon kunt haviltexen, dan begrijpt iedere jurist wat ik bedoel. (Tegen een klant zou ik zeggen dat je ook bij een getekend contract nog steeds niet alleen vast zit aan de letterlijke tekst, maar dat je ook de bedoelingen van partijen mee moet nemen voor zover ze die over en weer konden weten, en dat de Hoge Raad die bedoelingen-norm ooit in het Haviltex-arrest formuleerde.)

Het probleem bij rechten is dat de producten daar direct relevant zijn voor de hele maatschappij. Een wetenschappelijk paper komt hooguit zeer indirect in de krant terecht, maar de impact merk je pas als iemand er een product van maakt of als we besluiten dingen anders te gaan doen door het nieuwe inzicht uit dat paper. Maar een vonnis of een nieuwe wet heeft direct impact.

Regelmatig wordt er dan ook gepleit voor vonnissen in gewone taal. Al in 2007 werd bijvoorbeeld in het strafrecht het Promis-vonnis geïntroduceerd: het Project Motiveringsverbetering in Strafvonnissen. Ook in civiele zaken zie je diverse rechters proberen het net even wat gewoner te doen dan de juridische frases. Een mooi streven, zoals ook Dijkstra vond.

Maar gaat het werken? Ik twijfel of het écht alleen een kwestie is van nodeloos jargon dat we uit gemakzucht copypasten zodat we ons eerste concept kunnen inleveren zonder te hoeven herschrijven (wel een goeie trouwens). Een belangrijke voor mij is dat dingen vaak zo héten. Is het jargon om te spreken van reflexwerking? Ik kan het wel metconsumentengelijkgesteldwording noemen, maar daar wordt het niet duidelijker op.

Natuurlijk zal er veel jargon worden gebruikt uit luiheid of omdat juristen niet loskomen van hun bronnen dan wel ivoren toren. Maar er zit óók wat diepers. Veel discussies worden vertroebeld zodra je juridische zaken gaat simplificeren of vertalen. Er is dan altijd een nuance of detail waar je op ‘gepakt’ kunt worden. Zo was ik daarnet bij dat Haviltex-verhaal vergeten te zeggen dat de maatschappelijke kringen en de rechtskennis van partijen meewegen. Bij een consumentencontract kun je dus met letterlijk dezelfde contractsclausule ergens anders uitkomen dan bij een grootzakelijk contract.

Om zulke discussies te vermijden, hebben mensen dan al snel de neiging gewoon maar de juridische norm te plakken. Dan heb je in ieder geval geen detail daarvan vergeten. Ik zie dat veel in politieke discussies: in een lobbygevecht eindigt men vaak met een copypaste van een wet of juridische definitie om maar te voorkomen dat een partij roept dat je afwijkt van afspraak A of verdrag B. Ditzelfde speelt ook bij vonnissen. Een belangrijke grond om in hoger beroep teruggefloten te worden, is een onjuiste norm hanteren bij het beoordelen van de zaak. Om dat te voorkomen, is een simpele truc om in ieder geval de norm even letterlijk te kopiëren. Niemand die dan kan zeggen dat je vanaf de verkeerde plek bent begonnen.

Mooi voorbeeld: ik was ooit bij een congres waarin deurwaarders discussieerden over de tekst van hun juridische stukken (zoals exploten en aanzeggingen) die de meeste mensen niet begrijpen. Ze hebben daarom nu bijsluiters ontwikkeld, maar waarom zou je dan niet de bijsluiter gebruiken in plaats van de ouderwetse officiële tekst? De conclusie was, als ik me het goed herinner, dat je dan als deurwaarder mógelijk een gaatje openliet om het stuk ongeldig verklaard te krijgen. Terwijl de ouderwetse tekst meer dan 100 jaar stresstests overleefd had.

En dat is vaak ook waar het om gaat, dat stresstesten. Je wilt niet alleen dat iedereen het begrijpt, je wil ook je gelijk halen met die tekst. En aangezien juristen getraind zijn om zwakheden te vinden in argumenten van de wederpartij, sta je met een simpele rechttoe rechtaan formulering zwakker. Je vergeet die nuances, je laat ruimte voor een uitzondering, je gaat wel kort door de bocht gezien het Weens Koopverdrag, et cetera. Net zoals bugbestendige software zelden echt móói is, is een onverslaanbare juridische tekst dat dus ook.

Arnoud

Microsoft gaat in beroep tegen een rechterlijk bevel om e-mails van Europese gebruikers te overhandigen aan de Amerikaanse overheid, las ik bij Webwereld. In april had de Amerikaanse Justitie een bevel gegeven aan de Amerikaanse moeder tot afgifte van mails opgeslagen bij Microsofts Ierse dochtermaatschappij. Het bevel wordt nu door de rechtbank bevestigd, maar Microsoft gaat dus in hoger beroep.

Wie rechtsmacht heeft in de cloud, blijft een lastige vraag. Het lijkt logisch uit te gaan van waar de servers staan, maar dan wordt het met de flexibiliteit van de cloud wel erg makkelijk om van jurisdictie naar jurisdictie te hoppen.

Kijken waar het bedrijf gevestigd is, is dan misschien beter. Maar hoe ga je dan om met buitenlandse dochters? Het doet gek aan dat je die niets zou mogen vragen terwijl ze toch net zo goed deel van het binnenlandse bedrijf zijn.

Binnen het Amerikaanse strafrecht komt deze vraag neer op de vraag hoe je een cloudmailopeising moet kwalificeren: een doorzoeking of een opvraging? Dit zijn grofweg de twee manieren om als Justitie iets te pakken te krijgenL langsgaan of het laten brengen.

Als je het ziet als een doorzoeking, dan is het bevel onterecht: Amerikaanse Justitie of politie mag geen buitenlandse panden doorzoeken, ook niet als ze eigendom zijn van een Amerikaan. Maar als je het ziet als een opeising dan mag het wel: een Amerikaan kan worden gedwongen naar zijn buitenlandse huis te gaan en daar iets op te halen als dat nodig is voor een strafrechtelijk onderzoek.

De rechtbank bevestigt nu dat ze lezing twee hanteert. Microsoft mag de mail dus gaan halen – of kan het haar dochter laten brengen, dat is om het even.

Het is goed dat Microsoft in beroep gaat, want dit maakt het wel érg makkelijk om wereldwijd dingen op te eisen die digitaal opgeslagen staan. Hoewel ik niet meteen een juridisch argument weet tegen het feit dat data geen pand is en dus wel een ding moet zijn, oftewel iets dat opeisbaar is in plaats van doorzoekbaar.

Arnoud

Een Amerikaanse rechter heeft bepaald dat Microsoft data moet afgeven aan Justitie, ondanks het feit dat die data op een server in Ierland staat en onder beheer is van Microsofts Ierse dochter. Dat meldde Slashdot gisteren. Microsoft had de search warrant aangevochten met de stelling dat de Ierse dochter buiten Amerikaanse jurisdictie valt, maar de… Lees verder

Een frustratie die me steeds vaker opvalt: mensen hebben een juridisch probleem, en hoewel de oplossing (volgens mij dan) duidelijk is, weigert de wederpartij daaraan mee te werken. Soms met argumenten, soms met “je zoekt het maar uit” of “succes bij de rechter dan”. En de frustratie is dan: ga je naar de rechter over… Lees verder

De term ‘bewijs’ en wat bewijs bewijst, kwam vorige week in de whatsappvonnisdiscussie langs. Daarbij kreeg ik een gevoel dat ik al vaker had: mensen lezen iets over “bewijs”, constateren dat wat de rechter zegt niet per se 100% altijd juist is en concluderen dat de rechter dús digibeet is, dat het vonnis geen stand… Lees verder

Ja, je moet wat tijdens de kerstdagen: ik heb het proefschrift De betere byte in de strijd om het gelijk van Maarten van Stekelenburg gelezen. Hij snijdt een zeer lastige kwestie aan: De toename in gebruik van elektronische gegevens, leidt ertoe dat deze steeds vaker ingezet worden als bewijsmiddel in rechtzaken. Elektronische gegevens staan aan… Lees verder