In Estland denken ze dat AI een eerlijke rechter kan zijn

| AE 11279 | Innovatie | 8 reacties

De Baltische staat Estland timmert al geruime tijd fors aan de weg met wat wij e-government zouden noemen: innovatief en digitaal diensten aan de burger aanbieden, van een elektronische identiteitskaart tot een compleet online loket. Veilig, snel en goedkoop. En AI oftewel machine learning speelt daarbij een steeds grotere rol. Mede gedreven vanuit de behoefte aan een kleinere overheid reduceert men het aantal ambtenaren continu, om daar AI-gedreven diensten voor in de plaats te zetten. De laatste kandidaat: de rechtspraak. Zou dat wel goed gaan?

Het Estse ministerie van Justitie heeft onlangs chief data officer Ott Velsberg gevraagd een digitale rechtbank te ontwikkelen die volautomatisch kantonzaken – tot 7.000 euro – kan vonnissen. Velsberg is geen nieuwkomer: zijn team ontwikkelde eerder een hooiveldscanner waarmee subsidies voor braakliggend land konden worden gecontroleerd, en een banenmatcher voor de uitkeringsinstantie zodat gerechtigden eerder passend werk konden vinden. En nu dus de rechtspraak.

Een groot voordeel voor Estland is dat nu zo veel al geautomatiseerd is, het maar een kleine stap voelt om ook je juridische claims online in te dienen en te laten behandelen. Al dan niet met advocaat natuurlijk. Wel een grote stap verder is het automatisch laten behandelen – en dus een vonnis krijgen – van zo’n claim, zonder menselijke tussenkomst.

Helaas is er nog weinig in detail gepubliceerd over hoe het systeem moet gaan werken, maar het lijkt het bekende stramien van AI oftewel machine learning te zullen volgen. Voed het systeem met zo veel mogelijk oude zaakdossiers, koppel daaraan de uitspraak en laat het systeem ‘kauwen’ op die gegevens om lijnen en voorspellers te ontdekken. Vervolgens kun je nieuwe dossiers in het systeem plaatsen, die dan langs die lijnen worden gehouden om te zien of ze wel dan niet moeten worden toegepast.

Dit lijkt enigszins op hoe rechters nu ook werken: op basis van ervaring prik je snel door argumenten heen, zie je wat ontbreekt in het dossier of wat opmerkelijk is. En daar kun je dan een conclusie op bouwen. Maar een belangrijk verschil is natuurlijk dat een AI totaal niet de inhoud van het dossier analyseert, maar afgaat op rekensommetjes met die inhoud.

Een risico is dan ook dat een AI-rechtbank op basis van de verkeerde soort informatie conclusies trekt. Zo zou het kunnen gebeuren dat de meeste winnende eisers in de Estse hoofdstad Tallinn gevestigd zijn. Toeval, maar voor een AI significant. Die zou dan in een twijfelzaak deze vestigingsplaats de doorslag laten geven.

Natuurlijk kun je dat soort zaken proberen te filteren, bijvoorbeeld door NAW-gegevens te anonimiseren, maar dingen kunnen door blijven schemeren. Het Amerikaanse bedrijf Amazon ontdekte bijvoorbeeld dat hun sollicitatie-AI sterk de voorkeur gaf aan mannen, ook nadat men het geslacht van de kandidaat had geblokkeerd voor de brievenlezende robot. Het geslacht kon immers worden afgeleid uit hobby’s als vrouwentennis, waar natuurlijk maar weinig mannen aan meedoen. En als je ook dat verwijdert, zijn er misschien factoren als veel deeltijdbanen hebben bekleed.

Het onderliggende probleem is uiteindelijk altijd bij dit soort systemen dat zij alle data als even relevant behandelt. Dit terwijl mensen hoofd- en bijzaken kunnen scheiden, en weten dat de aanschaf van een bankstel dezelfde soort geldschuld geeft als de aanschaf van een auto. Dergelijke abstracties kunnen AI’s compleet niet maken.

Dat wil niet zeggen dat AI’s onmogelijk zijn in de rechtspraak. Een simpele variant zou een dossierchecker zijn: een zoektocht naar een ingebrekestelling in een dossier komt neer op tekstherkenning, iets waar computers beter in zijn dat mensen. En een claim wegens schadevergoeding zonder ingebrekestelling kan dan eenvoudig worden afgehandeld. AI helpt dan bij het zoeken naar feiten, naar invoer waarmee juridische regels worden ingezet. En dat lijkt me een betere verdeling van de respectieve krachten.

Arnoud

Dus vanwege sociale media mag de krant een ophefmakende naam niet noemen?

| AE 11282 | Privacy | 49 reacties

NRC mag de naam van een ex-hoogleraar arbeidsrecht die zich schuldig maakte aan grensoverschrijdend gedrag niet publiceren, meldde de krant onlangs. Deze uitspraak in kort geding volgde op een uitgebreide en onderbouwde onthulling van de krant over dit wangedrag gedurende meerdere decennia, wat ondertussen al ontslag voor de man tot gevolg had. “[G]ezien de grote vlucht die de social media hebben genomen en alle commentaren die in de regel op uitingen van deze aard via internet te vinden zijn” vond de rechter het voldoende aannemelijk dat de man vervolgens aan de schandpaal genageld zou worden, zeker omdat NRC een kwaliteitskrant is en iedereen dus aanneemt dat het waar is wat daarin staat. Eh, wacht, die leggen we nog een keer uit.

Het recentste artikel van NRC beschrijft de gehele affaire, zo ongeveer beginnend in de studententijd van meneer B en ik kon mijn klompen bij het vuil zetten toen ik klaar was met lezen, zo vaak braken ze. Neem even de tijd en een goede kop koffie, of misschien een valium want het is niet goed voor je bloeddruk om dit zo allemaal te lezen.

De korte versie is dat NRC ontdekte dat de man al decennia grensoverschrijdend gedrag vertoonde naar studentes en vrouwelijke medewerkers toe, en dat dat gedrag breed geaccepteerd werd aan de Universiteit van Amsterdam. Vrouwen durfden geen klacht neer te leggen of konden daar nergens mee terecht, en iedereen die wat had kunnen doen, deed er het zwijgen toe. Pas naar aanleiding van de #MeToo beweging kwam daar verandering in, en toen ging het snel: neerleggen van zijn bijfunctie als raadsheer bij het gerechtshof, ontslag (pardon, bijzonder verlof) als hoogleraar et cetera. Over schuldbesef of verantwoordelijkheid nemen lees ik echter niets.

De publicatie van NRC zou ook de naam van de man noemen, wat me vrij logisch lijkt gezien zo’n schandaal van iemand in zo’n hoge positie. En dat past ook in de jurisprudentie rond journalistiek en privacy: namen noem je als ze relevant zijn, en bij een public figure zal dat al vrij snel zo zijn. “De bekende politicus Mark R. met een hoge functie in de ministerraad, maakte gisteren bekend..” nee kom nou.

De man stapte echter naar de rechter om nu juist vermelding van zijn naam te voorkomen. En het argument daarbij was de gevolgen die dat zou hebben: het verhaal gaat gekoppeld aan zijn naam rondzingen op social media, en omdat NRC zo’n kwaliteitskrant is zal niemand twijfelen aan de juistheid. Maar er is nog geen veroordeling geweest, dus is die rondzang disproportioneel. Bovendien:

Bovendien, zelfs – of juist – als hij verdachte zou zijn van een strafbaar feit, zouden de meeste media volstaan met vermelding van slechts zijn initialen en zou zijn portret in de regel onherkenbaar (moeten) worden gemaakt. Niet goed valt in te zien waarom de bescherming van de privacy van eiser in dit geval minder ver zou moeten gaan.

Met deze redenering heb ik wel de nodige moeite. NRC doet niet enkel verslag van een aanhouding en rechtszitting van een verdachte zonder verder de feiten te kennen. Dat je dan zegt, wees even terughoudend met naam en toenaam, dat kan ik ergens nog billijken. Maar dit was eigen onderzoeksjournalistiek met stevig onderbouwde feiten. Als je dan publiceert dan ben je lijkt mij behoorlijk zeker van je zaak, en dan is die naam plus verdachtmaking dus zo goed als een feit. Dat moet je toch kunnen melden bij iemand in zo’n positie?

Arnoud

Mag je van de AVG een foto met kenteken van een parkeerovertreder Twitteren?

| AE 11273 | Privacy, Uitingsvrijheid | 22 reacties

Via Twitter: mag je van de AVG een foto met leesbaar kenteken op Twitter plaatsen om zo een verkeersovertreding te tonen? In dit geval ging het om een persoon die parkeerde op een gehandicaptenplaats, zonder een vergunning daarvoor te hebben. “Wie kent de eigenaar van deze auto ? Hij mag onze #invalideparkeerkaart hebben als hij ook de #HuntingtonsDisease van mijn man erbij neemt.” aldus de Twitteraar, inclusief hashtags van de locatie. En dus het kenteken herkenbaar. Daar kwamen -naast vele steunbetuigingen- ook een aantal kritische noten: mag dat wel van de AVG? Een kenteken is immers een persoonsgegeven, en zo schend je die persoon zijn privacy onnodig.

Ja, onnodig, want je had ook aangifte kunnen doen. Op de foto was zelfs al een parkeerboete te zien (380 euro, zo laat ik me vertellen) dus deze eigenaar is al gestraft. Wat is dan nog de toegevoegde waarde van alles herkenbaar op Twitter zetten?

Volgens mij is “toegevoegde” hierin een foute term. Het gaat niet om iets toevoegen, iets erbij doen. Een publicatie als deze zie ik als een meningsuiting, een schandaal(tje) aan de kaak stellen dat in dit geval ongetwijfeld een veel voorkomende ergernis van de Twitteraar is. Je mening geven is niet iets dat je “bij” andere dingen doet, of alleen maar mag doen als je geen andere opties meer hebt. Je uitingsvrijheid is een grondrecht, en dat mag je inzetten wanneer je wilt.

Binnen de grenzen van de wet natuurlijk, en de AVG is een wet die ook geldt bij journalistieke uitingen. Weliswaar zijn een aantal zaken niet van toepassing (zoals het inzage- en correctierecht en het recht te worden vergeten, en de registerplicht) maar ook bij een journalistieke verwerking moet je een grondslag hebben en zorgvuldig te werk gaan, zo staat in de AVG. Effectief komen die regels neer op hetzelfde kader als waar journalistieke uitingen altijd al aan getoetst werden. Het is niet zo dat de AVG de vrijheid van meningsuiting inperkt, dat je sinds 25 mei 2018 minder mag zeggen dan voorheen.

Maar ben je wel journalistiek bezig eigenlijk? Ja, is het korte antwoord. Ook als particulier die los staat van een of ander persmedium. Dat is vaste jurisprudentie, iedereen mag zich journalist noemen. Het gaat er niet om of je een perskaart hebt, maar of het relevant om te melden is wat je doet. Feiten, meningen of ideeën aan het publiek bekend maken, dat is de definitie.

Daar staat tegenover dat de Autoriteit Persoonsgegevens heeft gezegd dat je alleen journalistiek publiceert als je aan vier eisen voldoet:

  1. Objectieve informatieverzameling
  2. Regelmatige bezigheid
  3. Maatschappelijke strekking
  4. Recht van repliek
Waar deze eisen op gebaseerd zijn, weet ik echter niet. In de AVG staan ze in ieder geval niet, noch in de jurisprudentie over wat een journalistieke verwerking is of wanneer sprake is van een legitieme meningsuiting. In Nederland kennen we bijvoorbeeld dat recht van repliek helemaal niet, het is vaste prik dat je als journalist geen weerwoord hoeft op te nemen voor een rechtmatige perspublicatie. Ik vermoed dat de AP hier het criterium “verwerking voor journalistieke doeleinden” en de uitwerking van de grondslag “legitiem belang [bij publicatie]” samenvoegt voor het gemak.

Arnoud

Help, mijn marketeers zetten klanten op de foto op Linkedin!

| AE 11271 | Ondernemingsvrijheid | 10 reacties

Een lezer vroeg me: Recent kreeg ik als commercieel directeur bij een IT-adviesbureau een klacht van een klant: die zag zichzelf terug op een groepsfoto op Linkedin, gepost door een van mijn marketing/sales-medewerkers. De foto was gemaakt op een intern event bij ons waar ongeveer 40 klanten bij aanwezig waren. Weliswaar was het event openbaar… Lees verder

Onder afwitvlakjes spieken in een PDF bestand kan juridisch problematisch zijn

| AE 11269 | Regulering | 10 reacties

De gemeente Barneveld mag ‘onzichtbaar’ gemaakte informatie van een grondverwerkingsbedrijf niet gebruiken, las ik bij Security.nl. De rechtbank bepaalde dat hoewel de witte vlakjes in de aangeleverde PDF bestanden met de informatie weg te halen waren, de intentie van het bedrijf was om die informatie niet te geven. Daarom mag de gemeente dat dan ook… Lees verder

Facebook overtreedt mogelijk AVG door medewerkers posts te laten labelen

| AE 11265 | Ondernemingsvrijheid | 13 reacties

Facebook overtreedt mogelijk de Europese privacyverordening AVG door medewerkers van daarvoor aangestelde bedrijven te laten kijken naar posts om ze te labelen. Dat las ik bij Tweakers maandag. Een team van 260 mensen uit India leest al jaren alle berichten (inclusief foto’s) om die van labels te voorzien, zo ontdekte Reuters namelijk. Die labels classificeren… Lees verder

Van wie is die met open source gebouwde website nu eigenlijk?

| AE 11263 | Intellectuele rechten | 10 reacties

Weer een regelmatig terugkerende kwestie: mensen laten een website bouwen, en dan ontstaat er gelazer over wie daar “eigenaar” van is. Recent kreeg ik er weer eentje in de mail, met ditmaal de complicatie dat de website in kwestie eigenlijk geheel met open source was gebouwd die door de bouwer voornamelijk goed was afgesteld. Dat… Lees verder

De toegevoegde waarde van een bodycam voor de politie en de maatschappij

| AE 11261 | Informatiemaatschappij, Regulering | 6 reacties

Agenten voelen zich veiliger met een bodycam, las ik in Trouw onlangs. Dat bleek uit een proef van twee jaar, die nu er voor zorgt dat er zo’n tweeduizend agenten rond gaan lopen met camera’s op hun lijf. Een op de vier agenten met een camera op het lichaam is echter niet op de hoogte… Lees verder

Welk onderhoud mag je op andermans software plegen?

| AE 11259 | Intellectuele rechten | 6 reacties

Mag je als derde andermans software onderhouden? Die vraag lijkt juridisch triviaal – nee – want voor onderhoud moet je de software wijzigen, en dat mag niet zonder toestemming (licentie) van de rechthebbende. Maar er is een wettelijke uitzondering voor een rechtmatig gebruiker, en in een recente rechtszaak kwam eindelijk de vraag eens langs hoe… Lees verder

Hoe maak je sms-berichten en appjes van ambtenaren Wob-baar?

| AE 11257 | Regulering, Uitingsvrijheid | 23 reacties

Alweer wat ouder nieuws, maar toch: sms-berichten en appjes van ambtenaren vallen onder de Wet openbaarheid van bestuur. Dat besliste de Raad van State enige tijd terug. Iets formeler gezegd: het medium waarin informatie wordt opgeslagen of verstuurd, is niet relevant. Of iets nu in een sms bericht staat of in een papieren brief: als… Lees verder