De eerste robotrechter van Nederland blijkt gewoon al actief

| AE 10341 | Innovatie | 12 reacties

‘Robotrechter e-Court is een groot en niet transparant zwart gat’, kopte Nieuwsuur onlangs tendentieus. Stichting e-Court is al jaren actief als alternatieve geschilbeslechter en heeft verzekeraars gevonden als bereidwillige afnemers voor haar digitale arbitragedienst. Snel en gemakkelijk maar controversieel. Opmerkelijk voor mij daarin: de eerste stap is een artificial intelligence die over je zaak oordeelt. Mag dat zomaar?

Op zich is wat e-Court doet een legitieme constructie. Men biedt arbitrage aan, alternatieve geschilbeslechting buiten de rechter om. Dat mag, en kan voor beide partijen voordelig zijn: sneller en goedkoper, en je kunt de procedures optimaliseren voor jouw soort geschil in plaats zoals bij de traditionele rechtspraak een middelmaat omdat men alles aan moet kunnen. Digitale dossiers en on-line voortgang en uitwisselen van stukken lukt daar iets minder.

De controverse rond e-Court komt voornamelijk vanwege het feit dat mensen zonder het te beseffen akkoord gaan met arbitrage; dat staat namelijk zo in de algemene voorwaarden van met name zorgverzekeraars. Op zich legaal, zij het dat je bij start van een geschil bij de arbiter een maand moet krijgen om daar bezwaar tegen te maken. Daar lijkt het volgens het onderzoek vaak mis te gaan: het wordt bepaald onduidelijk uitgelegd, en ook wie dat bezwaar maakt, kan zomaar alsnog door de molen van e-Court gehaald worden en krijgt toch een arbitraal vonnis tegen zich, dat via de deurwaarder ten uitvoer kan worden gelegd. Dat klopt natuurlijk niet.

Voor mij sprong deze alinea eruit:

[Oprichtster Henriëtte Nakad] nam het heft in eigen hand, zette een bedrijf op en liet een computerprogramma bouwen dat automatisch vonnissen kan produceren. Die ‘robotrechter’ is ‘de meest objectieve rechter van Nederland’, zonder ‘misplaatste empathie’, schreef Nakad in een academisch artikel.

Dat academisch artikel laat zien dat het gaat om een Case-Based-Reasoning (CBR) kunstmatige intelligentie: nieuwe zaken worden op allerlei punten vergeleken met eerder zaken, en de uitspraak wordt bepaald aan de hand van die gelijkenis. Kort gezegd, als een zaak veel lijkt op 100 afgewezen incassozaken, dan wordt deze incassoclaim ook afgewezen. Ook wordt een heel raamwerk opgezet om de formele processtappen consequent uit te voeren.

Helaas kan ik nergens iets vinden over hoe deze AI inhoudelijk werkt. En dat is jammer want bij zo’n grote legal tech innovatie zou je toch graag willen weten hoe het werkt. Zeker omdat het hier gaat over vonnissen die mensen heel diep kunnen raken: de schuldenproblematiek in Nederland is hoog en complex, en black box uitspraken waar mensen zich door overvallen voelen, helpen daar natuurlijk niet bij. De keuze voor een AI snap ik wel, het is een hoog volume aan relatief simpele zaken en daar is met AI goede analyse op te doen.

Formeel is het overigens geen robot die beslist. Het is een voorbeeld van hoe AI een rol kan spelen in juridische besluitvorming. Vang de simpele gevallen af, en laat de rest (inclusief de gevallen waar men piept) door een mens behandelen. Alleen veronderstelt dat wel dat mensen piepen als er iets mis is, en specifiek bij consumentenrecht / schuldenincasso is dat iets dat heel vaak misgaat.

Het bedrijf reageert in een persbericht kort gezegd dat ook schuldenaars beter af zijn, omdat de procedure ook voor hen sneller en goedkoper uitpakt. Ik heb daar wel moeite mee, want juist dit onderwerp voelt voor veel schuldenaars als zeer machteloosmakend en ongrijpbaar. Dus als je dan óók nog eens alles achter een digitale procedure stopt én je hoort dat er een robot de eerste selectie maakt, dan is het argument dat je minder incassokosten krijgt en dat de deurwaarder heus luistert, niet meer relevant. Mensen vertrouwen robots niet in een dienstverlenende rol, laat staan als die over hun geld en goed beslist.

Algemeen heb ik er een dubbel gevoel bij. Het initiatief is nobel, want de rechtspraak ís verstopt en veel dingen kunnen gewoon efficiënter als je maatwerk toepast en niet alles op dezelfde manier behandelt. Maar de afwezigheid van transparantie vind ik moeilijk te verkroppen, helemaal omdat een AI in rechtspraak gewoon heel gevoelig ligt. En als je dan ook nog eens het primair opzet om schuldincasso te doen – waar notoir vaak mensen in de molen vermalen worden – dan krijg ik er een vervelend gevoel bij. Je ziet dat nu ook terug in de berichtgeving, dat het een “robotrechter” is die je blind veroordeelt. Niet goed voor de beeldvorming van legal tech en AI in de juridische sector. Dus nee, jammer.

Arnoud

“Internetrechtbank” e-court: goed idee, maar hm die uitwerking

| AE 1944 | Informatiemaatschappij | 46 reacties

e-court-logo-rechtspraak.pngNederlands eerste online rechtbank, moet de procesgang versnellen en daarmee ook goedkoper maken, las ik bij Emerce. De stichting E-Court wil rechtspraak weer betaalbaar maken door een snelle en efficiënte online procedure te bieden waar men binnen 8 weken voor 375 euro (of 1000 euro met zitting) tot een uitspraak kan komen. Een goed idee want je recht halen bij de offline rechtbank duurt lang en is vele malen duurder – al komt dat ook door de tarieven van de advocaten die je meeneemt. Maar ondanks het loffelijk streven van de stichting krijg ik de kriebels van de manier waarop E-Court haar concept presenteert (“Zijn jullie een rechtbank?” “Ja, e-Court is een private rechtbank.”).

E-court biedt in feite arbitrage aan, een op zich legale constructie (art. 1020 Rechtsvordering, en ik snap niet waarom e-Court zegt dat ze geen arbitrage zijn.).E-court biedt bindend advies voor geschillen, met de unieke constructie van een door de notaris op te maken proces-verbaal. Dit proces-verbaal levert een executoriale titel op, zodat het ‘vonnis’ meteen ten uitvoer kan worden gelegd. (Lees ook de commentaren hieronder, waaronder die van E-court zelf.

Hierbij moeten beide partijen het er wel mee eens zijn dat e-court de zaak mag beslechten. Je kunt in je contracten een standaardzin opnemen waarin je beslechting via stichting e-court afspreekt, en als de wederpartij daarmee akkoord gaat dan kun je hem dwingen naar e-court te gaan bij een geschil. Dit is een bestaande en geaccepteerde constructie (hoewel je als consument altijd deze afspraak opzij mag zetten als je liever naar de echte rechter gaat.

Maar e-court presenteert zich wel erg nadrukkelijk als “rechtbank”. Je moet echt je best doen om het woord “arbitrage”de uitleg te vinden op die site. En het schermen met zaken als notariële akte waar “in naam der koningin boven staat” of “rechtsgeldig” geeft me geen goed gevoel. Dit wekt bij de lezende leek de indruk dat dit een echt vonnis is van een overheidsrechtbank (waar immers diezelfde tekst boven staat). Alleen, zo’n akte is niet meer dan een stuk papier waarin een notaris vertelt wie voor hem verscheen en wat die persoon tegen hem zei.

De kritiek van de Raad voor de Rechtspraak lijkt me dan ook niet meer dan terecht. Hoewel ik dan wel weer de bal terug wil kaatsen naar de Raad waarom ze zelf niet zoiets op kunnen tuigen.

Update (17 oktober 2011) een probleempje bij de tenuitvoerlegging: Rechters weigeren tenuitvoerlegging vonnissen e-Court. De bedrijven die e-Court hadden ingeschakeld, blijken niet duidelijk met hun klanten te hebben afgesproken dat zij met arbitrage via e-Court werken. Niet e-Courts fout, maar wel pijnlijk.

Arnoud