Tag: Rechtspraak

About Rechtspraak

Subscribe Feeds

Rechtspraak wil in de toekomst drie kwart van uitspraken online publiceren

Geplaatst op in Innovatie, 18 reacties

In de komende tien jaar zal de overgrote meerderheid van de circa anderhalf miljoen vonnissen die jaarlijks door Nederlandse rechters worden uitgesproken online beschikbaar moeten komen. Dat las ik bij NRC onlangs. Al decennia wordt er geklaagd dat de slechts 5% van de vonnissen die men nu online zet, veel te weinig is. Dat gaat men nu eindelijk omhoog tillen – naar 75%. Waarom geen 100? “Niet alle uitspraken zijn van belang om te publiceren, en sommige vonnissen kunnen om privacyredenen niet worden geopenbaard.” Nou ja, het is een goed begin zullen we maar zeggen.

Het verbaast veel mensen, maar dus slechts 5% van alle vonnissen komt online op Rechtspraak.nl. En daar wordt al lang tegen geprotesteerd, onder meer onvermoeibaar door Gerrit-Jan Zwenne en Laurens Mommers. Die wijzen onder meer op die selectiecriteria “niet alles is van belang”:

Uitspraken die voor de een weinig betekenis hebben, kunnen voor anderen van groot belang zijn. De gedachte dat de rechterlijke macht kan bepalen welke zaken interessant zijn, is niet meer van deze tijd. Bovendien zijn het juist de juridisch oninteressante zaken waar de meeste mensen mee te maken krijgen. … Wat betekent deze selectiviteit voor onze kennis van de rechtspraak? De waarheid is: dat weten we niet.
Wat precies de overweging is geweest tussen 2010 en nu, dat weten we ook niet. Mogelijk heeft het te maken met een hint uit het NRC artikel: er wordt onderzocht of speciale ‘anonimiseringssoftware’ de werklast kan verlichten. Want ja al dat anonimiseren gebeurt met de hand, dus alleen al praktisch gezien is meer dan 5% niet goed haalbaar.

Dat men dat met de hand doet en achteraf, daar snap ik dus hélemaal niets van. Want je krijgt dan dus dat je dertig keer in een vonnis “Wim ten Brink” moet vervangen door “[eiser]” en dat is gedoe, natuurlijk. En ik zie het ook wel eens misgaan, dat er een “Wim den Brink” is blijven staan. Of dat iemand aan z’n emailadres herleidbaar is, of “mevrouw [eiseres], eigenaar van Wilma ten Brink bv”. Als je vóóraf, dus bij het schrijven van het vonnis, al nadenkt over anonimiseren, dan gaat alles een stuk sneller.

Dat wil natuurlijk niet zeggen dat software niet goed kan helpen. Zie bijvoorbeeld deze tech demo, waarin software namen en dergelijke herkent in de tekst van een vonnis en ze kan vervangen door een neutrale aanduiding. De afgelopen tien jaar zijn grote stappen gemaakt met dit soort natural language processing en herkenning van zulke termen. Het zou grote winst opleveren als met zulke software de bulk van de vonnissen alsnog anoniem te maken is.

Zit ik er mee dat dat niet perfect is? In 2010 (het artikel van Zwenne en Mommers) was dat namelijk nog een argument: we gaan pas software inzetten als die perfect werkt. (Wie riep daar, overheid en ICT moehaha?) Ik denk dat dat hier echt niet nodig is. Natuurlijk, je wilt dat het netjes gebeurt maar bij de openbare zitting worden ook persoonsgegevens gewoon gemeld en ik zie de impact van een publicatie op rechtspraak.nl met een gemiste achternaam dan ook niet als enorm.

Daar komt bij dat juist omdat het om bulkwerk gaat, het niet zozeer gaat om dat ene vonnis maar juist om die tienduizend waarin bijvoorbeeld rechters klakkeloos het incassobureau volgen, of de analyse dat er een groei zit in ontslagen op de g-grond in een bepaalde sector. Daarvoor is een hoop data nodig, dan pas kunnen dergelijke onderzoeken worden gedaan.

Arnoud

Ga er maar aanstaan als deskundige: moet die broncode opnieuw geschreven?

Geplaatst op in Ondernemingsvrijheid, 40 reacties

Deskundige vereist voor beoordeling gebrekkige broncode, meldde ITenRecht onlangs. In een automatiseringsgeschil tussen softwareontwikkelaar Capgemini en haar klant Equihold (die de software wilde inzetten bij onder meer FC Barcelona) ontstond discussie over de kwaliteit van de tot dan toe gemaakte broncode. Een mooi voorbeeld van hoe de rechtspraak omgaat met inhoudelijk diepgaande issues. Ik las laatst weer dat rechters moeten leren programmeren omdat ze anders dit soort zaken niet kunnen doen. Onzin, wat mij betreft. Daar heb je deskundigen voor. Maar bij deze zaak denk ik dan wel, blij dat ik die deskundige niet ben.

In 2002 ontwikkelde Equihold een sportapplicatie met de naam 1-2 Focus. Deze applicatie was geschreven in de programmeeromgeving en programmeertaal VB6. In 2004 besloot men deze om te werken naar Microsoft .NET, waarna men in 2005 een raamovereenkomst sloot met Capgemini om het werk te laten doen. Ik zal u de verdere tijdlijn besparen, maar in 2010 eindigde het feest met een brief aan Capgemini met als titel “1-2Focus; developed by Capgemini A Showcase of Bad Practices”.

Wat was er nu precies aan de hand met die broncode? Helaas is dat in het arrest niet in detail te achterhalen. We moeten het doen met uitspraken als

Volgens [B] , een voormalig werknemer van Equihold, heeft de broncode niet de gewenste laagstructuur, bestaat deze uit onnodig veel regels en is deze onsamenhangend. Zijn conclusie is dat de broncode van zo bedroevende kwaliteit is dat het volledig herschrijven daarvan onvermijdelijk is. SQMI is volgens [appellant] een gerenommeerde en onafhankelijke partij die een onderzoeksmethode gebruikt die is ontwikkeld door het Institute for Software Quality (IfSQ). Het rapport SQMI concludeert dat de broncode een hoog aantal ‘defect indicators’ heeft, dat de onderhoudskosten van de software onnodig hoog zijn en dat de software ongeschikt is als platform voor verdere ontwikkeling. Graham Bolton, oprichter van IfSQ en directeur van SQMI, (verder Bolton) voegt daar in een schriftelijke verklaring aan toe dat het verbeteren van de geconstateerde gebreken meerdere jaren in beslag zou nemen, en zelfs meer tijd zou kosten dan het geheel opnieuw schrijven van de applicatie.

Capgemini kon daar echter een ander rapport tegenover stellen dat juist aantoont dat de onderhoudbaarheid marktconform is.

Dan krijg je dus de situatie dat partijen elkaar tegenspreken, en dat je als rechter dan moet vaststellen wat er nu waar is. In een geval als dit is dat erg lastig, allereerst natuurlijk omdat broncode op kwaliteit toetsen sowieso ingewikkeld is (de een z’n ***var is de ander z’n nachtmerrie) maar ten tweede omdat dit om zo’n grote codebase gaat dat er een hele partij werk in gaat zitten. Oh ja, en omdat er natuurlijk niet echt objectieve standaarden zijn om codekwaliteit vast te stellen.

Een belangrijke factor in het geschil was de onderhoudbaarheid: kun je op lange termijn hiermee door, ook (denk ik) met een andere onderhoudspartij dan Capgemini zelf. Bij grote applicaties is langdurig gebruik te verwachten, dan heb je andere verwachtingen qua onderhoud en aanpasbaarheid voor de toekomst dan bij een snelle app voor een event begin volgend jaar.

Dus, ik gooi hem eens in de groep, voor al die IT-ers die denken dat rechters meer verstand van software nodig hebben: hoe zouden jullie bij deze berg aan code objectief vaststellen of de kwaliteit voldoet aan de contractuele eis van ‘high quality software’?

Arnoud

Sinds wanneer zijn Youtube-video’s bewijs van feiten van algemene bekendheid?

Geplaatst op in Regulering, 10 reacties

Wanneer mag de rechter internetbronnen gebruiken als bewijs, en maakt het daarbij uit of ze zoeken naar feiten van algemene bekendheid? Die vraag speelt al enige tijd, en in twee recente rechtszaken kwam de vraag weer langs. Daarom even de gelegenheid om een en ander weer op te frissen. Want als de raadsheren van de Hoge Raad nu ook al gaan kijken wat “you tube” zoal in de aanbieding heeft en wat dat strafrechtelijk zegt, dan moet ik daar ook wat van vinden volgens mij.

De directe aanleiding was deze strafzaak waarin de Hoge Raad ingaat op de overweging van het Gerechtshof dat “een contactslot van een scooter/bromfiets met bouten is vastgemaakt en eerst kan worden verwijderd en/of vervangen door de plastic kap van het voertuig los te schroeven” kan worden aangemerkt als een feit van algemene bekendheid. Dit was relevant omdat het opzettelijk verwijderen van een slot bijdraagt aan het bewijs dat de scooter gestolen is. Het Gerechtshof had eerder op Youtube gekeken (en noemt dat “you tube” in het arrest).

In een strafzaak moet wettig en overtuigend bewezen zijn dat je het gedaan hebt – in dit geval heling van die scooter. Sommige feiten zijn zo duidelijk dat ze geen bewijs nodig hebben. Dat noemen we feiten of omstandigheden van algemene bekendheid (art. 339 lid 2 Strafvordering). Kort gezegd gaat het om gegevens die ieder van de rechtstreeks bij het geding betrokkenen geacht moet worden te kennen of die zonder noemenswaardige moeite uit algemeen toegankelijke bronnen te achterhalen zijn. De achterliggende gedachte is dat processen eindeloos zouden worden als je ieder detail, hoe vanzelfsprekend ook, in de volste zin van het woord zou moeten bewijzen met een bron. (Waarom doet dat me nou aan trollende forumdiscussianten denken.)

Specifiek voor internetbronnen geldt (aldus eerder de HR) dat een gegeven dat aan een internetbron is ontleend “van algemene bekendheid” is wanneer dat gegeven geen specialistische kennis veronderstelt en de juistheid daarvan redelijkerwijs niet voor betwisting vatbaar is. In die zaak had het Gerechtshof geoordeeld dat Aloë capensis niet hetzelfde is al Aloë vera en dus niet mag worden ingevoerd. Het Gerechtshof had dit gebaseerd op gegevens die het had ontleend aan “bronnen op het internet die uit dien hoofde als algemeen bekend worden verondersteld althans in elk geval in de onderhavige procedure”.

In deze zaak bijvoorbeeld had het Hof via Google Maps de plaatselijke gesteldheid op of aan de openbare weg rondom een voor de zaak relevante plaats vastgesteld. Dit was een feit van algemene bekendheid (in casu: dat de woning van de getuige recht tegenover een schuifhek was gelegen waar een verdachte overheen geklommen was). Voor deze constatering was dus geen nader bewijs nodig. Logisch ook, de situatie op de weg is wat deze is, daar is verder geen discussie over mogelijk.

Echter, de enkele omstandigheid dat een bepaald gegeven aan openbare bronnen op het internet kan worden ontleend, brengt op zichzelf nog niet mee dat zo een gegeven daarom een feit of omstandigheid van algemene bekendheid is in de hier bedoelde zin. Gezien deze uitspraak is het logisch dat het Hof in de helingzaak de fout in was gegaan. Dat een Youtubevideo laat zien dat een contactslot van een bromfiets goed vastzit, is op zich een feit. Het voelt logisch om te concluderen dat het slot er dan niet zomaar af zal breken bij een val, maar dat is bij lange na nog niet hetzelfde als dat het een feit van algemene bekendheid is.

Wat moet je nou doen als rechter als je met een “feit van algemene bekendheid zit”? In principe niets: geen rechtsregel dwingt de rechter ertoe een algemeen bekend gegeven bij het onderzoek op de terechtzitting ter sprake te brengen. Maar als er ook maar enige twijfel is, dan moet de rechter dat gegeven aan de orde te stellen bij de behandeling van de zaak op de terechtzitting. Zo kunnen de partijen daarop reageren, bijvoorbeeld met tegenbewijs waarom het niét algemeen bekend is.

Dit volgt uit de ACAB-zaak uit 2011. In die zaak oordeelde het Hof dat de betekenis van de afkorting A.C.A.B. als “All Cops Are Bastards” als een feit van algemene bekendheid heeft te gelden. Dit had het Hof vastgesteld met een zoekopdracht in Google, maar niet vooraf met partijen besproken. Omdat de zaak speelde in 2007 en het Hof in 2009 had gegoogeld, ontstond daarbij ook nog eens de complicatie dat het aantal treffers niet doorslaggevend kon zijn: wat was immers de situatie ten tijde van het feit? Nieuws over deze zaak werd zo wijdverbreid opgepakt dat in een latere zaak over die afkorting de HR oordeelde dat ondertussen de betekenis van deze term wél algemeen bekend was.

Wanneer een rechtbank zelf uitgaat van bronnen van derden, en het betreft géén feiten van algemene bekendheid, dan schendt zij het beginsel van hoor en wederhoor wanneer zij dit pas in het vonnis voor het eerst meldt. In deze zaak ontbrak het Hof het aan feiten over een softwarepakket, waarop zij zelf ging zoeken (“De bewindvoerder heeft geen informatie overgelegd over de werking van het Smart FMS systeem, maar het internet (www.smartfms.nl) biedt wel enige informatie.”). Aldus had de bewindvoerder geen enkele kans gehad te protesteren tegen deze conclusie of te proberen te bewijzen dat dit wél een nuttig systeem voor zijn cliënt was.

In de praktijk lijkt mij het verstandigste om bij op internet gevonden informatie standaard deze aan partijen voor te leggen, tenzij het gaat om echt zuiver feitelijke informatie waarover geen discussie kan zijn. Dat is natuurlijk lastig als je pas ná de zitting ontdekt dat je een stukje feitelijkheid mist, maar ik zie geen andere oplossing.

Arnoud

In Estland denken ze dat AI een eerlijke rechter kan zijn

Geplaatst op in Innovatie, 9 reacties

De Baltische staat Estland timmert al geruime tijd fors aan de weg met wat wij e-government zouden noemen: innovatief en digitaal diensten aan de burger aanbieden, van een elektronische identiteitskaart tot een compleet online loket. Veilig, snel en goedkoop. En AI oftewel machine learning speelt daarbij een steeds grotere rol. Mede gedreven vanuit de behoefte aan een kleinere overheid reduceert men het aantal ambtenaren continu, om daar AI-gedreven diensten voor in de plaats te zetten. De laatste kandidaat: de rechtspraak. Zou dat wel goed gaan?

Het Estse ministerie van Justitie heeft onlangs chief data officer Ott Velsberg gevraagd een digitale rechtbank te ontwikkelen die volautomatisch kantonzaken – tot 7.000 euro – kan vonnissen. Velsberg is geen nieuwkomer: zijn team ontwikkelde eerder een hooiveldscanner waarmee subsidies voor braakliggend land konden worden gecontroleerd, en een banenmatcher voor de uitkeringsinstantie zodat gerechtigden eerder passend werk konden vinden. En nu dus de rechtspraak.

Een groot voordeel voor Estland is dat nu zo veel al geautomatiseerd is, het maar een kleine stap voelt om ook je juridische claims online in te dienen en te laten behandelen. Al dan niet met advocaat natuurlijk. Wel een grote stap verder is het automatisch laten behandelen – en dus een vonnis krijgen – van zo’n claim, zonder menselijke tussenkomst.

Helaas is er nog weinig in detail gepubliceerd over hoe het systeem moet gaan werken, maar het lijkt het bekende stramien van AI oftewel machine learning te zullen volgen. Voed het systeem met zo veel mogelijk oude zaakdossiers, koppel daaraan de uitspraak en laat het systeem ‘kauwen’ op die gegevens om lijnen en voorspellers te ontdekken. Vervolgens kun je nieuwe dossiers in het systeem plaatsen, die dan langs die lijnen worden gehouden om te zien of ze wel dan niet moeten worden toegepast.

Dit lijkt enigszins op hoe rechters nu ook werken: op basis van ervaring prik je snel door argumenten heen, zie je wat ontbreekt in het dossier of wat opmerkelijk is. En daar kun je dan een conclusie op bouwen. Maar een belangrijk verschil is natuurlijk dat een AI totaal niet de inhoud van het dossier analyseert, maar afgaat op rekensommetjes met die inhoud.

Een risico is dan ook dat een AI-rechtbank op basis van de verkeerde soort informatie conclusies trekt. Zo zou het kunnen gebeuren dat de meeste winnende eisers in de Estse hoofdstad Tallinn gevestigd zijn. Toeval, maar voor een AI significant. Die zou dan in een twijfelzaak deze vestigingsplaats de doorslag laten geven.

Natuurlijk kun je dat soort zaken proberen te filteren, bijvoorbeeld door NAW-gegevens te anonimiseren, maar dingen kunnen door blijven schemeren. Het Amerikaanse bedrijf Amazon ontdekte bijvoorbeeld dat hun sollicitatie-AI sterk de voorkeur gaf aan mannen, ook nadat men het geslacht van de kandidaat had geblokkeerd voor de brievenlezende robot. Het geslacht kon immers worden afgeleid uit hobby’s als vrouwentennis, waar natuurlijk maar weinig mannen aan meedoen. En als je ook dat verwijdert, zijn er misschien factoren als veel deeltijdbanen hebben bekleed.

Het onderliggende probleem is uiteindelijk altijd bij dit soort systemen dat zij alle data als even relevant behandelt. Dit terwijl mensen hoofd- en bijzaken kunnen scheiden, en weten dat de aanschaf van een bankstel dezelfde soort geldschuld geeft als de aanschaf van een auto. Dergelijke abstracties kunnen AI’s compleet niet maken.

Dat wil niet zeggen dat AI’s onmogelijk zijn in de rechtspraak. Een simpele variant zou een dossierchecker zijn: een zoektocht naar een ingebrekestelling in een dossier komt neer op tekstherkenning, iets waar computers beter in zijn dat mensen. En een claim wegens schadevergoeding zonder ingebrekestelling kan dan eenvoudig worden afgehandeld. AI helpt dan bij het zoeken naar feiten, naar invoer waarmee juridische regels worden ingezet. En dat lijkt me een betere verdeling van de respectieve krachten.

Arnoud

Dus vanwege sociale media mag de krant een ophefmakende naam niet noemen?

Geplaatst op in Privacy, 50 reacties

NRC mag de naam van een ex-hoogleraar arbeidsrecht die zich schuldig maakte aan grensoverschrijdend gedrag niet publiceren, meldde de krant onlangs. Deze uitspraak in kort geding volgde op een uitgebreide en onderbouwde onthulling van de krant over dit wangedrag gedurende meerdere decennia, wat ondertussen al ontslag voor de man tot gevolg had. “[G]ezien de grote vlucht die de social media hebben genomen en alle commentaren die in de regel op uitingen van deze aard via internet te vinden zijn” vond de rechter het voldoende aannemelijk dat de man vervolgens aan de schandpaal genageld zou worden, zeker omdat NRC een kwaliteitskrant is en iedereen dus aanneemt dat het waar is wat daarin staat. Eh, wacht, die leggen we nog een keer uit.

Het recentste artikel van NRC beschrijft de gehele affaire, zo ongeveer beginnend in de studententijd van meneer B en ik kon mijn klompen bij het vuil zetten toen ik klaar was met lezen, zo vaak braken ze. Neem even de tijd en een goede kop koffie, of misschien een valium want het is niet goed voor je bloeddruk om dit zo allemaal te lezen.

De korte versie is dat NRC ontdekte dat de man al decennia grensoverschrijdend gedrag vertoonde naar studentes en vrouwelijke medewerkers toe, en dat dat gedrag breed geaccepteerd werd aan de Universiteit van Amsterdam. Vrouwen durfden geen klacht neer te leggen of konden daar nergens mee terecht, en iedereen die wat had kunnen doen, deed er het zwijgen toe. Pas naar aanleiding van de #MeToo beweging kwam daar verandering in, en toen ging het snel: neerleggen van zijn bijfunctie als raadsheer bij het gerechtshof, ontslag (pardon, bijzonder verlof) als hoogleraar et cetera. Over schuldbesef of verantwoordelijkheid nemen lees ik echter niets.

De publicatie van NRC zou ook de naam van de man noemen, wat me vrij logisch lijkt gezien zo’n schandaal van iemand in zo’n hoge positie. En dat past ook in de jurisprudentie rond journalistiek en privacy: namen noem je als ze relevant zijn, en bij een public figure zal dat al vrij snel zo zijn. “De bekende politicus Mark R. met een hoge functie in de ministerraad, maakte gisteren bekend..” nee kom nou.

De man stapte echter naar de rechter om nu juist vermelding van zijn naam te voorkomen. En het argument daarbij was de gevolgen die dat zou hebben: het verhaal gaat gekoppeld aan zijn naam rondzingen op social media, en omdat NRC zo’n kwaliteitskrant is zal niemand twijfelen aan de juistheid. Maar er is nog geen veroordeling geweest, dus is die rondzang disproportioneel. Bovendien:

Bovendien, zelfs – of juist – als hij verdachte zou zijn van een strafbaar feit, zouden de meeste media volstaan met vermelding van slechts zijn initialen en zou zijn portret in de regel onherkenbaar (moeten) worden gemaakt. Niet goed valt in te zien waarom de bescherming van de privacy van eiser in dit geval minder ver zou moeten gaan.

Met deze redenering heb ik wel de nodige moeite. NRC doet niet enkel verslag van een aanhouding en rechtszitting van een verdachte zonder verder de feiten te kennen. Dat je dan zegt, wees even terughoudend met naam en toenaam, dat kan ik ergens nog billijken. Maar dit was eigen onderzoeksjournalistiek met stevig onderbouwde feiten. Als je dan publiceert dan ben je lijkt mij behoorlijk zeker van je zaak, en dan is die naam plus verdachtmaking dus zo goed als een feit. Dat moet je toch kunnen melden bij iemand in zo’n positie?

Arnoud

De rechtspraak en de bedrijfsgeheime bewijsanalyse

Geplaatst op in Innovatie, 28 reacties

Steeds meer bedrijven leunen zwaar op de wettelijke bescherming voor bedrijfsgeheimen, en dat heeft grote impact op de strafrechtspraak. Dat las ik bij Boing Boing een tijdje terug. Het gaat om software die analyses doet op data gebruikt als bewijs, of inschattingen van vluchtgevaar of recidive. Wie als verdachte de bevindingen van die software wil aanvechten, moet eigenlijk wel de broncode en/of brondata er bij hebben. En dat mag dus niet, omdat die bedrijven zich beroepen op de bescherming van handelsgeheimen. Een erg zorgelijke ontwikkeling.

Software in de rechtspraak is de laatste paar jaar aan een forse opmars bezig. Steeds vaker wordt software daarbij ingezet die adviezen of analyses doet waar rechters, advocaten en officieren op kunnen werken. Een bekend (berucht?) voorbeeld is COMPAS, dat recidivisme voorspelt. Daarmee kan een rechter makkelijker bepalen of iemand op vrije voeten gesteld moet worden of liever toch niet.

Het grote probleem met al deze software is dat ze vaak moeilijk (of gewoon helemaal niet) aangeven hoe ze tot hun analyse komen. Steeds vaker proberen gedaagden dan ook inzage te krijgen in de broncodes en achterliggende algoritmes. En dat lukt dus niet, omdat de leveranciers zich kunnen beroepen op bescherming van handelsgeheimen. De definitie van een handelsgeheim is immers dat iets waarde heeft omdat het geheim is, en dat past goed bij zo’n algoritme.

Het wringt natuurlijk enorm met het vereiste van transparantie in de rechtspraak. Wat mij betreft zou het dus een goede zaak worden als het verboden wordt software-analyses als bewijsondersteunend middel te gebruiken tenzij de werking transparant is en er een externe analyse op eventuele bias geweest is.

Arnoud

AI rechters en het juridische novum

Geplaatst op in Innovatie, 10 reacties

“De doker begraaft zijn vergissingen; die van de rechter worden tot wet”. Met die tekst opende Coen Drion een blog over de koersvastheid van de rechter. Dat is namelijk een dingetje in het recht: mag een rechter afwijken van eerdere uitspraken van collega’s of zelfs hogere rechtbanken? In het Engelse en Amerikaanse common law systeem is dat een doodzonde, het principe van “stare decisis” vereist daar dat de rechtbank doet wat hoger is bepaald, en dat alleen hogere rechtbanken “om” kunnen gaan. Nu steeds meer stemmen opgaan om rechtspraak door AI of robots te laten doen, is het goed daar nog eens over na te denken want AI-gevoede rechtspraak gaat heel anders om met precedenten dan mensenrechtspraak.

Artificial Intelligence wordt binnen de juridische wereld nu vooral ingezet voor analyse en adviseren. Maar in theorie is er weinig technisch bezwaar tegen een AI systeem dat uitspraken gaat doen over daadwerkelijke zaken. Het infameuze E-court heeft al een robotrechter, die op basis van een hele stapel eerdere uitspraken analyseert hoe kansrijk een geldvordering is, en deze dan toe- of afwijst.

Dat is ook precies hoe AI werkt. Een robotrechter leert geen rechtsregels zoals menselijke juristen doen, en leert zelfs niet het analyseren van eerdere jurisprudentie wat belangrijke factoren zijn. AI’s zijn goed in het vergelijken: gegeven een dataset waarin elk item (elk vonnis dus) in een zit, bepaal welke factoren per item essentieel zijn om in een bepaald bakje te horen. Dat is een beetje hoe een ervaren menselijke rechter ook werkt: oké, een standaard-incassozaakje of daar heb je weer een fotoclaim met het bekende verhaal over citaatrecht. Maar niet helemaal: een AI kijkt blind naar alle factoren die hij ziet, en dat kunnen ook onbedoelde factoren zijn (als advocaat X pleit of de eiser in Amstelveen woont, dan is dat een indicatie dat de zaak niet sterk is).

Uiteindelijk is de kern echter wel dat een AI alléén afgaat op de eerdere dataset. Hij leert immers alleen daaruit hoe er recht gesproken moet worden. Een afwijking van die dataset is daarbij niet te verwachten. Computers zijn immers niet creatief, en niet gevoelig voor ongewone omstandigheden, nieuwe feiten of het overtuigendste pleidooi. Dat is ook de reden waarom robotrechters alleen voor standaardwerk ingezet moeten kunnen worden, én dat er altijd ruimte moet zijn om die ongewone omstandigheden te kunnen stellen waarna een mensenrechter en aar kijkt.

Complex daarbij vind ik wel dat je robotrechters inzet om standaardwerk te doen, en dat je wilt voorkomen dat iedereen alsnog naar de mensenrechter wil. Maar hoe toets je of iemands beroep op bijzondere omstandigheden legitiem is en dus naar de mensenrechter mag? Per definitie kan een robotrechter dat niet bepalen.

Arnoud

Noors gerecht verbiedt publicatie van rechtspraak

Geplaatst op in Intellectuele rechten, Ondernemingsvrijheid, 9 reacties

Een Noorse rechtbank heeft de site rettspraksis.no verboden om nog langer vonnissen te publiceren, bij BoingBoing. Maar nee, het is geen aanval op de onafhankelijkheid of transparantie van de rechtspraak: het gaat om vonnissen die het bedrijf Lovdata had verzameld en op CD-ROM had gepubliceerd. Lovdata meent dat ze een databankrecht bezit op deze publicatie, en verbiedt op die grond de gratis herpublicatie door Rettspraksis. Dat is opmerkelijk, en voor mij vooral omdat ik zou denken dat moderne landen al lang eigen openbare databanken met rechtspraak hebben.

De site is een initiatief van Håkon Wium Lie, die onder meer de Cascading Style Sheets (CSS) uitvond waardoor het web visueel is geworden wat het is en ook eerder zorgde voor gratis toegang tot de Noorse wetgeving. Ook dit kreeg hij voor elkaar door te beginnen met data dat Lovdata publiceerde, en zo te lezen ook ondanks het databankrecht dat Lovdata meende te hebben. Nu lijkt Lovdata er scherper in te zitten:

Lovdata has dropped their $1-per minute fee for laws, but they have built a lucrative business model selling web access to non-copyrighted court decisions. They even use CSS for this. (I don’t charge them.) Individuals must pay $1,500 per year for access to court decisions. So when a new website comes along and offers free access, Lovdata has a huge economic incentive to try shut it down. And this is exactly what Lovdata did when they sued me and the founder of the rettspraksis.no project. On Thursday the 31st of May, the lawsuit was sent to the Oslo courts and in less than 24 hours the judge had issued a verdict (PDF, in Norwegian) which closed down our site.

Zo te lezen gaat het hier om een ex parte verbod, het juridisch onding dat wij ook kennen bij evidente gevallen van IE-inbreuk waarbij je geen lastige vragen wilt van inbreukmakers. Lie kan er natuurlijk tegen in beroep, en zal dat zo te lezen zeker ook doen nu hij de advocaat van “DVD Jon” in de arm heeft genomen. Ondertussen moet hij wel zo’n twaalfduizend Euro betalen voor de proceskosten van Lovdata – net als bij ons, waar de verliezer de hele rekening betaalt. Wel zuur, omdat ze vrijwillig de site al offline hadden gehaald voordat de ex parte werd aangespannen.

Mij deed de zaak denken aan de zaak Vermande/Bojkovski uit 1998, waarbij de laatste wetsteksten online zette van een CD-ROM van de uitgever Vermande. Die claimde auteursrecht op de tussenkoppen, maar de rechtbank wees de claim af omdat Bojkovski alleen de wetsteksten zelf had overgenomen. Voor rechtspraak hebben wij zo’n geschil dacht ik nooit gehad. Al vanaf 1999 worden op Rechtspraak.nl vonnissen gratis gepubliceerd door de Raad voor de Rechtspraak. Lang niet alles – en of dat zou moeten daar ben ik nog niet over uit.

Arnoud

Nee, kunstmatige intelligentie zal nooit gaan rechtspreken (of pleiten)

Geplaatst op in Innovatie, 21 reacties

Een computer kan rechtspreken, als wij met zijn allen denken en willen dat hij het kan. Dat las ik bij Sargasso in een gastbijdrage van strafrechtadvocaat Vasco Groeneveld. AI komt eraan, ook in de rechtspraktijk. Die lijn doortrekkend betekent dat er over tien, twintig jaar robotrechters aan het werk zijn, niet gehinderd door emotie, hoofdpijn, vooroordelen of gewoon vrijdagmiddagmoeheid. Klinkt goed, maar ik zie het niet gebeuren.

Groeneveld begint met de stelling dat rechtspraak de “testcase bij uitstek” is:

Dat draait immers om het verwerken van datastromen en het onderbrengen van specifieke gegevens onder algemene wetmatigheden, en als ik het goed begrijp is dat zo’n beetje de definitie van een algoritme.

Het is inderdaad zo dat een algoritme een gestructureerd stappenplan is waarbij je algemene regels toepast op specifieke invoer. Ook het recht kent algemene regels, en juridisch werk bestaat vaak uit het vertalen van die regels naar een concrete casus: hier werd te hard gereden, dit is doodslag en dat contract is rechtsgeldig ontbonden.

Ik zie het zeker wel gebeuren dat computers die regels gaan toepassen, en zo juridisch-inhoudelijk werk gaan verrichten. Ik blogde daar medio december nog over: AI kan prima besluitvorming ondersteunen, en heeft dan inderdaad geen last van al die menselijke karaktertrekjes waar foute beslissingen op worden gebaseerd. (Tenzij de dataset waar de AI op gebouwd is die fouten introduceert, zoals bij een bevooroordeelde selectie.)

Ik zie rechtspraak alleen als uitzondering, speciaal geval. Ik noem het hier wel eens de exception handler van het recht: als we niet meer weten wat te doen, dan vragen we het aan de rechter. Haast per definitie krijgt de rechter dus de gevallen waar de wetmatigheden niet in voorzien of waar meerdere uitkomsten mogelijk zijn. En juist daar kunnen computers heel moeilijk mee omgaan. Daarom zie ik AI niet snel in de rechtszaal opduiken en uitspraken doen over die moeilijke gevallen.

Mijn visie is dat AI en computers de simpele gevallen zullen gaan doen, zeg maar de OM afdoening en de boetes op straat van oom agent. Wie daartegen bezwaar maakt, zal dan bij de menselijke rechter uitkomen die er een gewogen oordeel over moet doen. Daar kunnen dan ook bijzondere omstandigheden meegenomen worden, zoals een beroep op overmacht of noodweer waar haast per definitie geen regels over zijn.

Misschien dat een AI wel ondersteunende diensten kan leveren. Denk aan het analyseren van eerdere uitspraken over juist de minder wetmatige aspecten, zoals de strafmaat of de keuze tussen vrijspraak en veroordeling. Een AI kan daar patronen in ontdekken en zo aangeven of deze verdachte een lage straf moet krijgen of juist een hoge, zodat je een meer objectieve beoordeling daarvan krijgt. De rechter kan dat dan meenemen maar heeft het laatste woord en kan dus afwijken.

Arnoud

De wetgevende taak van de rechter

Geplaatst op in Informatiemaatschappij, 10 reacties

hoge-raadGisteren kwam het ook weer langs: hoezo mag een rechter eigenlijk regels verzinnen die algemeen gelden? Dat is toch wetgeving, en die taak ligt toch bij de Tweede en Eerste Kamer?

Westerse rechtssystemen zijn in principe opgezet volgens de trias politica: er zijn drie machten, die elkaar controleren en zo de boel in evenwicht houden. Allereerst is er de wetgevende macht, die nieuwe wetten maakt. Daarnaast staat de uitvoerende macht, die de wetten handhaaft. En als derde is er de rechterlijke macht, die de handhaving toetst. Geen van die drie staat boven de ander, en ze kunnen elkaars beslissingen achteraf corrigeren. Maak een nieuwe wet, kies voor coulante handhaving of verklaar een wet ongeldig.

Helemaal zuiver is de implementatie van dit idee echter nooit. Zo worden bij ons wetten eigenlijk altijd voorgesteld door de minister van het betreffende onderwerp, en die is toch echt lid van de uitvoerende macht. En sommige rechters zijn lid van de Eerste Kamer, en stemmen dus over wetten die ze vervolgens gaan toetsen.

Dat de rechter “de spreekbuis van de wet”, is ook een van de delen uit de trias politica-leer. Een rechter mag niet zelf wetten gaan maken, daar is de wetgevende macht voor. Maar ook hier is de praktijk anders, op diverse niveaus.

Rechters passen de wet toe op specifieke gevallen. In principe is hun toetsing dus ook specifiek. In deze zaak is een maand een redelijke termijn, in die zaak is een ontslagvergoeding van 7500 euro gepast maar in deze sluit 3000 euro schadevergoeding beter aan bij de situatie. Het probleem daarmee is dat de wet zelden specifiek de criteria geeft om die redelijkheid te toetsen. Dus dan krijg je dat rechters dat op zeker moment zelf gaan motiveren, en een goede motivatie wordt dan overgenomen door de collega’s. Soms gaat het zelfs heel formeel. Het bekendste voorbeeld is denk ik de kantonrechtersformule voor ontslag. Deze werd in 1997 door de Kring van Kantonrechters ingevoerd als algemene regel om gewoon praktisch tot een vergoeding te kunnen komen langs vaste lijn. Je zou dat rechtsvorming kunnen noemen: er worden criteria geformuleerd die niet in de wet staan, maar die wel bindend zijn voor iedereen bij de bepaling of iets redelijk, onzorgvuldig of wat dan ook is.

Ik vind dit ook niet verkeerd. De rechter kan veel beter dan de wetgever op korte termijn beslissen wat er moet gebeuren met een nieuwe ontwikkeling. Je ziet dat veel in internetrecht: eerst wat losse uitspraken die alle kanten op gaan, dan ontstaan er een paar trends en die evolueren naar een algemene rechtsregel. Of meerdere, en dan zal de Hoge Raad (of het Hof van Justitie) daar een knoop moeten doorhakken. Die rechtsregels kunnen net wat specifieker zijn dan wetten, en aangepast worden als de technologie voortschrijdt.

Uiteindelijk kan de wetgever altijd de wet aanpassen als ze het oneens is met de rechtsregel die is ontstaan. Hoewel in de praktijk dat zelden gebeurt, en dat is logisch: die rechtsregels ontstaan eigenlijk altijd door een soort van consensus binnen de rechtspraak. Dit past binnen de wet, het voelt billijk en het lost praktisch geschillen op. Dan is het prima om dat zo te laten, of zelfs om die regel in de wet op te nemen.

Arnoud