Worden advocaten ooit door robots vervangen?

| AE 10412 | Innovatie | 2 reacties

“Siri, maak een exclusieve licentieovereenkomst in dossier X.” Dat las ik bij IE-Forum als quote uit de speech van professor Bernd Hugenholtz over de opkomst van de robot-advocaat. Hij gelooft er geen bal van; een goede mens-advocaat heeft immers onmiskenbaar kwaliteiten zoals door de juridisch bomen het bos kunnen zien, goed kunnen onderhandelen en zelfs zo nu en dan fungeren als uithuilpaal. Allemaal kwaliteiten die de robo-advocaat ontbeert. Dat klopt helemaal maar het staat natuurlijk volkomen los van wat de robot-advocaat gaat doen en waarom dat het werk van de mens-advocaat (of mens-jurist, zo u wilt) gaat veranderen.

Ik heb het al vaker geschreven: robots gaan niet in de rechtbank staan pleiten, creatieve vernieuwende argumenten inbrengen om zaken te winnen of out-of-the-box oplossingen verzinnen om een geschil vlot te trekken. En al helemaal niet empathisch op de cliënt reageren zodat deze begrip krijgt voor dat nare vonnis of de beslissing niet in hoger beroep te gaan. Dat zijn zulke menselijke eigenschappen dat ze niet te automatiseren zijn.

Robotadvocaten gaan we dus niet krijgen. Maar robots gaan wel degelijk werk wegsnoepen van de mensadvocaten, namelijk het standaardwerk, de simpele checks zoals due diligence, een snelle review van standaarddocumenten of een voorselectie. En dat kan er nog best inhakken want véél van het juridische werk is dat soort standaardwerk. (En dan bedoel ik niet alleen de expertsystemen zoals Hugenholtz schetst, een AI die een voorselectie of due diligence doet is wel iets meer dan “maak even een contractje”.)

Zorgen maak ik me daar niet meteen over, want uiteindelijk is er in de juridische sector werk genoeg en zal de vrijgekomen tijd van dat standaardwerk zonder problemen met nieuwe dingen kunnen worden ingevuld. Die robotadvocaat zou je dus eigenlijk met open armen willen verwelkomen, in plaats van te brommen dat hij nooit een cliënt zal laten uithuilen om een onterecht verloren zaak of te kostbare procedure.

Toch hoor ik deze geluiden vaker, en ik blijf zoeken naar de verklaring. Is het ongeloof dat deze technologie dit kan? Of de afkeer van opgeblazen hype (die trouwens binnenkort instort)? Of gewoon de algemene moeilijkheid om verandering te accepteren?

Over die verandermoeilijkheden las ik recent een zeer interessant artikel bij de 3 Geeks and a Law blog (sowieso een dikke aanrader). Als artsen decennialang weigerden hun handen te wassen nadat onbetwistbaar vaststond dat dat de gezondheid ten goede zou komen, en een dorp steeds maar ziek blijft omdat ze hun water niet willen koken, waarom zouden wij juristen dan ineens wél besluiten iets nieuws te gaan doen enkel omdat er de belofte is dat het beter gaat worden allemaal?

The boiling water anecdote demonstrates those systems at work while also illuminating the curse of knowledge. The curse of ignorance is that we don’t know what we don’t know and therefore labor under delusions of adequacy. The curse of knowledge is that once we know something, it is hard to imagine not knowing it. The resulting mistakes about shared assumptions can be invisible barriers to change. Those unrecognized barriers are why, with boiling water, the change only occurred among a small set of outliers.

Misschien dat daar nog een speciaal stuk attitude van juristen meespeelt: wij hebben meer dan andere beroepsgroepen de overtuiging dat we keihard en foutloos moeten werken aan heel belangrijke zaken. Koppel dat aan een sterk gevoel van autonomie en korte deadlines en je krijgt een bovengemiddeld hoge weerstand tegen verandering. Dat maakt het natuurlijk niet makkelijker.

Arnoud

‘Mijn ouders krijgen een pushmelding van al mijn nieuwe cijfers’

| AE 10408 | Privacy | 23 reacties

Ouders kunnen het schoolgedrag van hun kind bijna real-time volgen via allerlei leerlingvolgsystemen als Magister of SOMtoday. Dat meldde de NOS onlangs. De leerlingvolgsystemen op middelbare scholen zijn bedoeld om ouders te informeren, maar het grijpt natuurlijk wel diep in op de privacy van de leerling die geen onvoldoende of spijbeluurtje meer kan verstoppen. Bovendien werkt het systeem ook zo voor zestienplussers en meerderjarige leerlingen, waardoor het wettelijk ook nog eens dubieus wordt.

Het basisidee is natuurlijk niet verkeerd. Het is handig dat leerlingprestaties worden bijgehouden, en omdat ouders graag willen weten hoe hun kind het doet, is het logisch om hen daar toegang toe te geven. Vroeger was dat wat ingewikkelder, bij rapporten lukte dat natuurlijk wel maar cijfers had je alleen op papier en om nou elke keer brieven te sturen, dat werkt niet.

Het gemak waarmee de informatie nu gedeeld wordt, leidt wel tot een andere manier van doen. Je signaleert als ouder veel eerder problemen, of dat nu een onvoldoende is of het feit dat je kind een les gemist heeft. Daardoor krijg je als kind veel meer controle over je heen, wat juist op de middelbareschoolleeftijd erg vervelend kan voelen.

Mag het? Dat is natuurlijk de grote vraag. Algemeen geldt dat ouders bij de opvoeding veel van hun kind mogen weten, maar wel rekening moeten houden met de privacy. Het dagboek lezen van je zeventienjarige dochter kan echt niet zomaar door de beugel, maar bij een zesjarige meekijken op de iPad is natuurlijk zeer gewenst. Bij schoolcijfers en afwezigheid geldt eigenlijk hetzelfde: is het relevant dat je dit weet en levert het geen onevenredige privacyschending op voor je kind?

Als we het onder de privacywet of AVG gaan bekijken, dan kom je eigenlijk vrijwel meteen bij dezelfde discussie uit. Wanneer een kind nog geen zestien is, geven de ouders toestemming voor verwerking van zijn persoonsgegevens. (We nemen maar even aan dat die hier netjes na afdoende uitleg specifiek is gevraagd en vrijwillig is gegeven. Niet lachen daar achterin.) Maar ook dan geldt dat de school niet meer mag doen dan redelijkerwijs nodig is voor het doel van de toestemming.

Wordt het kind zestien, dan moet het zelf die toestemming geven (artikel 5 Wbp en artikel 5 Uitvoeringswet AVG). En omdat toestemming vrijwillig gegeven moet worden, mag er dus vanuit de school noch vanuit de ouders druk worden uitgeoefend om dit te doen. Het lijkt erop dat er geen school is die dit doet. Sterker nog, in het NOS artikel is te lezen dat ook bij mensen van achttien (dus geen kind meer) deze gegevens naar hun ouders worden gestuurd. En dat kan natuurlijk écht niet door de beugel.

Wel vraag ik me nog af of je niet kunt zeggen, de verstrekking van deze informatie is gewoon nodig voor het onderwijs, een goede orde op school et cetera. Dan kom je AVG-technisch uit bij de grondslag “uitvoering overeenkomst”, alleen is voortgezet onderwijs volgens mij geen privaatrechtelijke overeenkomst. En dan houd je dus over het eigen legitiem belang van de school en/of de ouders, oftewel we kúnnen niet anders dan dit aan je ouders geven, en we menen dat dat belangrijker is dan jouw privacy. Ik denk niet dat dat snel standhoudt.

Update met dank aan Job Vos: wettelijk is vastgelegd (artikel 23b Wet voortgezet onderwijs) dat “Het bevoegd gezag rapporteert over de vorderingen van de leerlingen aan hun ouders, voogden of verzorgers, dan wel aan de leerlingen zelf indien zij meerderjarig en handelingsbekwaam zijn.” De grondslag is daarmee de wettelijke plicht, de school móet het melden. Hooguit kun je je dan nog afvragen of dat moet per pushbericht direct bij elk cijfer, of dat ook periodiek of bij zorgelijke ontwikkelingen pas gemeld wordt. Vandaar de streep door toestemming nodig.

Arnoud

AIVD en MIVD maken rechtmatig gebruik van persoonsgegevens in bulkdownloads

| AE 10401 | Strafrecht | 20 reacties

De inlichtingendiensten AIVD en MIVD gaan “rechtmatig” om met datasets met persoonsgegevens die online worden aangeboden. Dat las ik vorige week bij Nu.nl. Deze conclusie volgt uit het rapport 55 over het verwerven van op internet aangeboden bulkdatasets van de Commissie van Toezicht op de Inlichtingen- en Veiligheidsdiensten. Dat “online aangeboden” moet je met aanhalingstekens uitspreken, want het gaat eigenlijk om gelekte of gestolen gegevens die op schimmige plekken te verkrijgen zijn. Maar voor de inlichtingendiensten is dat dus geen probleem.

Het klinkt ergens gek, maar ook de AIVD en haar militaire broertje de MIVD moeten de privacy respecteren van mensen die ze bespioneren. Dat betekent dus dat het gebruiken van ‘gevonden’ datasets met persoonlijke informatie niet zomaar kan, met name omdat daar ook veel gegevens in zullen zitten van mensen die in het geheel niet in beeld zijn bij de inlichtingendiensten.

Het gebruik van die persoonsgegevens is geregeld in de Wet op de Inlichtingen- en Veiligheidsdiensten, waarvan editie 2002 van toepassing was op de vergaring. (En editie 2017 is de beruchte ‘sleepwet’.) De bevoegdheden zijn een stuk breder dan voor gewone burgers of overheidsinstanties. Kort gezegd mag er veel meer zolang het maar enigszins gedocumenteerd wordt en het gebruik netjes wordt bijgehouden.

Zo is er een openbronregeling die bepaalt hoe men informatie uit open bronnen mag betrekken, waarbij het niet uitmaakt of die bron de gegevens legaal of illegaal publiceert. Daarbij is het zelfs toegestaan om je te registreren onder een valse naam en dan te zien wat er te downloaden is; de grens ligt bij de aanbieder overhalen tot het verstrekken van de bron. Dat mag ook maar valt onder de agentregeling met net iets strengere eisen.

Aanleiding voor het onderzoek was dat de diensten bestanden hadden gekocht op het “dark web” (/insert omineuze muziek) met gegevens over meer dan honderd miljoen personen, waarvan het overgrote deel nooit en te nimmer relevant zou zijn voor het inlichtingen- en veiligheidswerk. Het ging daarbij om vertrouwelijke informatie die onrechtmatig in die bestanden terecht was gekomen en die normaal nooit zomaar bekend zou zijn.

De AIVD had die gegevens snel opgehaald omdat ze vermoedden dat die zomaar weggehaald zou kunnen worden, en deed dat onder de openbronregeling omdat ze dachten dat het dark web daaronder viel. Maar omdat het feitelijk een aankoop van een bestand was, had dit onder de agentregeling moeten gebeuren. Dat ging dus mis, maar betekent uiteindelijk weinig omdat -zo concludeert de commissie- het onder de agentregeling legaal zou zijn geweest. Belangrijk was daarbij ook dat er op hoog niveau toestemming was gegeven voor de aankoop.

Bij een tweede dataset van vergelijkbare omvang en inhoud ging het mis. Daar werd die toestemming niet op dat niveau gevraagd, en was niet duidelijk hoe men daar precies aan gekomen is. Uiteindelijk heeft dit geen gevolgen, omdat het gebruik verder netjes binnen de lijntjes blijft en het waarschijnlijk was dat er toestemming zou zijn gegeven.

De totale uitkomst verrast dus niet. Over blijven aanbevelingen om zorgvuldiger met de gegevens om te gaan, en jaarlijks te bekijken of de datasets nog nuttig zijn in de praktijk. En meer algemeen om beleid te maken over hoe om te gaan met downloaden of aankopen van datasets als deze. En dat is hoe het eigenlijk altijd gaat met zulke dingen: het mocht niet, maar de schade lijkt beperkt en als er dan beleid op komt, dan is het goed.

Arnoud

Facebook overtreedt Belgische privacywet door volgen niet-gebruikers

| AE 10406 | Privacy | 15 reacties

Facebook overtreedt de Belgische privacywet door het internetgedrag te volgen van mensen die geen account bij het sociale netwerk hebben. Dat meldde Nu.nl zaterdag. De vind-ik-leuk knopjes die alomtegenwoordig zijn, zetten cookies en gebruiken andere trackingtechnieken om internetgedrag op te slaan. Ook bij mensen die geen klant (product?) zijn van het sociaal netwerk, en dat… Lees verder

Ex-werknemer moet 500 euro betalen voor achterhouden wachtwoord

| AE 10399 | Beveiliging | 24 reacties

Een voormalige medewerkster van een Amsterdams kinderdagverblijf moet van de rechter 500 euro betalen omdat ze het wachtwoord van haar bedrijfslaptop niet aan haar directeur wilde geven. Dat las ik bij Security.nl. De vrouw wilde het wachtwoord niet afgeven omdat daarmee anderen onder haar naam zouden kunnen werken, maar het kdv gaf aan niet op… Lees verder

AI-lawyerbot visualiseert gebruiksvoorwaarden

| AE 10397 | Innovatie | 5 reacties

Onderzoekers van de Zwitserse technische Universiteit EPFL hebben een ai-bot online gezet die gebruiksvoorwaarden leest en omzet in een overzichtelijk stroomdiagram, las ik bij Tweakers. Er is ook een chatbot-interface waarmee je vragen kunt stellen, en de bot zoekt de meest relevante zinen er dan bij. Het nut van het stroomdiagram ontgaat me, maar het… Lees verder

Vergeet ik helemaal te bloggen dat browse-wrap contracten niet rechtsgeldig zijn

| AE 10393 | Contracten | 35 reacties

Wie een website bezoekt, gaat daarmee niet akkoord met de gebruiksvoorwaarden. Dat maak ik op uit een recent arrest uit Den Haag inzake de langlopende ruzie tussen luchtvaartbedrijf Ryanair en prijsvergelijker PR Aviation over het mogen overnemen van vlucht- en prijsinformatie. Nadat eerder een beroep op auteursrechten en databankrechten sneuvelde, gooide Ryanair het op de… Lees verder

Voor de klant geminede cryptovaluta moet je afgeven, met dwangsom

| AE 10375 | Innovatie | 9 reacties

Het minen van cryptovaluta zoals bitcoins of Ether wordt steeds interessanter, maar vergt ook steeds meer hardware. Dan is het logisch om de technische kant uit te besteden, maar als je dan een geschil krijgt over hoe veel Ether je moet krijgen en welke schadevergoeding je kunt eisen, dan wordt het even juridisch wat ingewikkelder…. Lees verder

Mag een trol eisen dat hij wordt vergeten op een forum?

| AE 10377 | Meningsuiting, Privacy | 30 reacties

Naar aanleiding van mijn blog van vorige week over accounts versus bewaarplicht kreeg ik via Twitter de reactie: Leerzaam! En in de comments ook: recht van betrokkene geldt ook voor een troll. Gegevens laten verwijderen na block, herinschrijven en overnieuw beginnen…. Nooit aan gedacht. Natuurlijk zullen er na 25 mei de nodige trollen zijn die… Lees verder

Hoe verboden is een spambericht van een relatie in je WhatsApp?

| AE 10379 | E-mail | 10 reacties

Een lezer vroeg me: Met enige regelmaat krijg ik van zakelijke relaties ongevraagd commerciële berichtjes in mijn WhatsApp. Dat varieert van uitnodigingen voor congressen tot gepushte nieuwe boeken, maar ook wel een verzoek eens een kop koffie te doen om te kijken wat we in 2018 voor elkaar kunnen betekenen. Valt dat eigenlijk onder het… Lees verder