Categorie: Internetrecht

Vanwege mijn zomervakantie is de gewone blog gepauzeerd. Vandaag een herpublicatie van een al wat ouder Tweakers Plus-artikel, waar ik graag met jullie op terugkijk.

“Beta-georiënteerde mensen, of techneuten, beschouwen de wet vaak als een beperking op hun vrijheid. Ze zien de wet als iets wat hen tegenhoudt om te doen wat ze willen, in plaats van iets wat hen beschermt.” Dat leverde mijn AI-schrijfassistent me toen ik vroeg om een opzet voor een artikel over hoe techneuten de wet beschouwen en wat ze zouden moeten weten. Ik vind “bèta-georiënteerde mensen” wel een mooi alternatief voor ‘techneut’ (of nog erger: nerd) maar voor de rest klopt er weinig van. Dat gezegd hebbende: ik had vorige keer beloofd te schrijven over hoe techneuten tegen de wet aankijken en waarom implementeren van wetten in technologie zo moeizaam is, dus dat gaan we doen ook.

Ethisch besef

Ik heb niet het gevoel dat techneuten, of zal ik zeggen tweakers, zo veel vaker de wet als hindernis zien. Sterker nog, de meeste tweakers die ik ken zijn méér dan gemiddeld ethisch gevormd en houden zich aan wetten waar extroverte alfa’s zonder moeite overheen lopen.

Toch zit er wel iets van een kern van waarheid in. Want juist tweakers, techneuten (ik moet een keuze maken) zijn bovengemiddeld vaak bezig met dingen die wettelijk problematisch zijn. Wie zijn koffiezetter alleen aan en uit zet, komt juridisch lang niet zo snel in de problemen als degene die er Doom op laat draaien. Want dan gaan juristen moeilijk doen over EULA’s, reverse engineering van API’s, verveelvoudiging van firmware of verval van de garantie.

Dit soort botsingen wordt ook vaak in verband gebracht met de aard van hackers, wat ook terugkomt in de hacker ethic zoals door Steven Levy samengevat:

1. Toegang tot technologie moet onbeperkt en totaal zijn.
2. Alle informatie moet vrij zijn.
3. Wantrouw autoriteit – bevorder decentralisatie.
4. Hackers moeten worden beoordeeld op hun hacking skills, niet op valse criteria zoals diploma’s, leeftijd, ras of positie.
5. Je kunt kunst en schoonheid creëren op een computer.
6. Computers kunnen het leven ten goede veranderen.

Aangezien wetten naar hun aard gericht zijn op het handhaven van de status quo, het beschermen van eigendom en het afremmen van onbesuisd gedrag, is het potentieel voor botsing zeer aanwezig. Maar dat is niet anders dan in andere maatschappelijke of beroepsgroepen, zij het dat hackers als unieke meerwaarde hebben dat ze zijn gaan bouwen wat ze bepleiten.

Gesophisticeerd denken

Oh ja, nog eentje van mijn AI: “Jouw denken over de wet mag dan gesophisticeerd zijn, maar het is niet noodzakelijk zo compleet als je denkt. De wet is namelijk Turing-compleet. Dit betekent dat de wet in principe alle berekeningen kan uitvoeren die een Turing-machine kan uitvoeren.” Dat was mijn tweede uitvoer, en toen besloot ik weer zelf te schrijven. Dit is zeg maar de sjieke versie van “kan de wet Doom draaien”.

Kan dat? Nou ja, je kunt natuurlijk instructies bij wet vastleggen. Als je kunt vaststellen dat auto’s rechts rijden (art. 3 lid 1 RVV 1990) dan kun je ook vaststellen dat een eindigetoestandsautomaat in toestand P leest wat er op een band staat en dat K noemt. En als je een Turing machine hebt, kun je er Doom op spelen. Alleen is er nog een actor nodig, laten we zeggen de Koning (art. 24 Grondwet) en dan draait de wet Doom. Dat laatste is natuurlijk waar het op misgaat, want waarom zou die dat doen?

Waarmee ik maar wil zeggen: wetten zijn gemaakt voor mensen, en daarmee ook bedoeld om door mensen geïnterpreteerd te worden. En dat is wél een puntje van aandacht, met name voor mensen die gewend zijn aan computers – die doen wat je zegt, letterlijk en bij voorkeur op zo’n manier dat je zo veel mogelijk data kwijtraakt. Daar word je wel scherp op fouten en inconsistenties van.

Wetten zijn, laten we zeggen, iets losser geformuleerd, omdat de wetgever weet dat mensen deze gaan toepassen en daarbij hun eigen interpretatievermogen toepassen. Ook in situaties die nog niet voorzien zijn, vandaar vaak de keuze voor open normen of oplossingsrichtingen. Die regel over rechts houden zegt bijvoorbeeld “Bestuurders zijn verplicht zoveel mogelijk rechts te houden” en als bestuurder word je dan geacht zelf na te denken of je echt links moet houden.

Natuurlijk zijn er soms ook harde grenzen, maar die komen pragmatisch tot stand. Zo bepaalde datzelfde RVV 1990 vroeger dat in je in een woonerf “stapvoets” moet rijden, wat zo veel discussie bleek te geven dat de Hoge Raad uiteindelijk nodig was om keihard “oké klaar, het is 15 per uur” te zeggen. Dat staat nu ook zo in de wet (art. 45 RVV). De achterliggende redenering was overigens interessant: de bedoeling was dat auto’s net zo langzaam als een voetganger zouden rijden, maar omdat ze dat technisch niet kunnen, is die 15 gekozen als de langzaamste snelheid die een auto wel zou kunnen. Interpreteren is een kunst, maar dus ook aan tijd gebonden: had er nu nog stapvoets in de wet gestaan, dan had je met je auto nu wellicht wél 5 km/uur moeten rijden omdat ze dat tegenwoordig wel kunnen. Wetten veranderen dus met de tijd.

De flexibiliteit van de wet

Wetten blijken ook anders afhankelijk van wie je het vraagt. In maart 2009 plaatste een jongen een doodsbedreiging tegen zijn school op /b/. Dat werd zeer serieus opgepakt, en hij kreeg naast bedreiging ook computervredebreuk ten laste gelegd. Dat laatste omdat hij het draadloos netwerk van de buren had gebruikt om het bericht te plaatsen. Tot veler verrassing werd hij vrijgesproken: weliswaar had hij onbevoegd het wachtwoord van het burennetwerk gebruikt, computervredebreuk is dat niet. Daarvoor was (destijds) nodig een “geautomatiseerd werk”, wat werd gedefinieerd als een inrichting die bestemd is om langs elektronische weg gegevens op te slaan, te verwerken en over te dragen. Klinkt als een typische generieke definitie van ‘computer’, maar de rechter (en het gerechtshof in hoger beroep) las het zeer specifiek: een consumentenrouter voldoet niet aan die “en”, die verwerkt en draagt over maar slaat niets op.

De Hoge Raad zag het uiteindelijk anders: het netwerk zelf, het samenstel van router en computers in iemands huis, kun je ook zien als een “geautomatiseerd werk”. De router verwerkt en draagt over, de laptop van de buurman slaat op, aan de definitie is voldaan. Gelukkig, zou je zeggen. Maar dat voelde toch wat spannend. Daarom werd mede vanwege deze zaak de wet op dit punt (art. 80sexies Strafrecht) aangepast, tegenwoordig spreken we van een geautomatiseerd werk “een apparaat of groep van onderling verbonden of samenhangende apparaten, waarvan er één of meer op basis van een programma automatisch computergegevens verwerken.”

Het recht heeft alleen geen unit tests, zodat we er pas in 2020 achter kwamen dat deze tekst toch een fout bevatte: een website valt er (kennelijk) niet onder. Dat bepaalde het Hof Den Haag in dat jaar, en dat het geen slordigheidje was bleek in 2022 toen ze dezelfde uitspraak nog eens deed. De redenering: een website is een abstractie, een verzameling bits, en geen apparaat. Valt wat voor te zeggen – mijn oude prof informatica definieerde hardware als “dat deel van de computer dat wél pijn doet als het op je voet valt” – maar wel zeer onbevredigend. En vooral: het voelt inconsistent, dat je de ene keer wél een term mag oprekken en er al dan niet aanwezige laptops bij kunt rekenen, en de andere keer de wel degelijk aanwezige serverhardware kennelijk moet negeren.

Juridische discussietechnieken

Ik blogde destijds dat deze uitspraak fout is, maar kreeg diverse juristen tegenover me die het een keurige uitspraak binnen de lijntjes vinden. Daar had een bloglezer grote moeite mee, zhij mailde me dat “het wel lijkt of de wet interpreteren alleen maar een kwestie is van wie het hardste roept dat hij gelijk heeft”. En nou ja, daar had deze persoon wel een punt. Interpreteren van wetgeving is een kwestie van discussie; wat heeft de wetgever bedoeld, hoe moet je dit binnen de context lezen, welk van deze twee artikelen is belangrijker, wat is het 2022 equivalent van deze term uit 1990. Kom je er niet uit, dan vraag je het de rechter, en zo nodig gaat men in hoger beroep.

Maar helemáál alleen maar zo hard mogelijk roepen of mensen dood copypasten met arresten, zo makkelijk gaat het niet in de juristerij. Hoofdregel is natuurlijk wat de wet zelf zegt, eventueel met een (juridisch) woordenboek erbij om te kijken wat een term betekent. Juristen noemen dit de grammaticale methode, hoewel je meestal niet echt naar de grammatica zelf kijkt. Een voorbeeld van deze methode is router-als-netwerk arrest van hierboven.

Minstens zo belangrijk is de wetsgeschiedenis: wat was de bedoeling van de wetgever toen hij dit schreef. Met die interpretatiemethode bepaalde het Gerechtshof Arnhem ooit dat bedrijven zich nooit mogen beroepen op reflexwerking bij colportage: bij invoering van de Colportagewet was expliciet bepaald dat deze alleen voor consumenten bedoeld was. Juristen kennen daarnaast ook de rechtshistorische interpretatiemethode: dan ga je niet alleen kijken naar wat er bij deze wet bedoeld was, maar ook hoe de wet binnen de maatschappij en andere wetgeving past. Virtuele goederen steelbaar verklaren is hiermee verdedigbaar, want diefstal van goederen is niet de bedoeling binnen de historie van de wetgeving rond eigendom. Dat gaat dus wat verder dan “wat was de bedoeling bij dit wetsartikel”.

Met de systematische methode ga je na wat de bedoeling is gezien de context van de wet: waar staat hij in het wetboek, wat voor functie hebben de naburige artikelen. Je kunt ook vergelijken wat de wet in andere situaties bepaalt. Zo werd het stelen van software onmogelijk verklaard in de jurisprudentie, omdat we hierover al in de Auteurswet iets geregeld hebben. Aanverwant is de de teleologische methode, waarbij je kijkt naar het doel van de wet. Daarmee kun je randgevallen er al of niet onder laten vallen. Bijvoorbeeld: moeten we anno 2022 een e-mail “schriftelijk” vinden als we het hebben over aanmaningen? Het doel van die eis is dat mensen een duidelijke, formele aanzegging hebben van hun schuld en de te verwachten stappen. E-mail is informeel en kan relatief snel kwijtraken: nee, liever niet. E-mail bereikt de ontvanger snel genoeg en wordt vaker gelezen dan post: ja, dat kan.

Uiteindelijk is er echter nooit één methode die per definitie juist is. De eiser kan menen dat de wetshistorie duidelijk in zijn voordeel is, en de gedaagde kan wijzen op de systematiek die pleit voor zijn standpunt, plus er is ondertussen een Europese richtlijn die óók zijn standpunt onderstreept. En als al het andere faalt, is er altijd nog de redelijkheid en billijkheid, oftewel “ja maar nou kom óp zeg” en zijn broertje “dit kan toch niet wáár zijn”. En dan komen we bij het aloude citaat: als de wet aan jou kant staat, dan zaag je door over de wet. Staan de feiten aan jouw kant, zaag dan door over de feiten. Staan geen van beiden aan jouw kant? Zaag dan de tafel door. De Engelse tekst is beter, sorry.)

Deze technieken zijn allemaal nogal ongrijpbaar, zeker als je er niet aan gewend bent. In de praktijk zie je dan ook dat juristen juridische debatten vaak winnen, wat ergens logisch is omdat ze ook de spelregels van die debatten bepalen. Maar de techneuten hebben hun eigen manier gevonden om het debat te winnen: ze herprogrammeren de maatschappij zodanig dat dit gebeurt.

De techneut als wetgever

De jurist Lawrence Lessig is bekend van zijn uitspraak “code is law”, of eigenlijk de visie “code as law”, de code werkt net zoals de wet. In 1998 verbreedde hij een en ander tot een bredere theorie, namelijk dat de burger onderworpen is aan vier verschillende regulerende factoren: de wet, sociale normen, architectuur en de markt. De burger is in het midden van die vier stuiterballen slechts een pathetic dot, een zielige stip die heen en weer wordt geduwd door die factoren.

Deze theorie is natuurlijk algemeen toepasbaar, en niet uniek voor internet. Ook een automobilist wordt bijvoorbeeld door deze vier factoren beïnvloed. De wet zegt hoe hard hij mag rijden en waar linksaf verboden is. Sociale normen zeggen dat men rustig rijdt naast een basisschool en oude dametjes met rollator laat oversteken. De markt zegt dat je echt een semi-zelfrijdende auto wilt, of een elektrisch voertuig. En de architectuur regelt dat je niet over het weiland of de voetgangersbrug kan – er staan paaltjes in de weg of de grond is simpelweg te zacht.

Het unieke aan informatie- en communicatietechnologie is dat hier de architectuur volledig door mensen ontworpen en gebouwd wordt. Dit in tegenstelling tot de gewone wereld, waar de architectuur volgt uit de wetten van de natuurkunde of biologie bijvoorbeeld. De factor architectuur wordt dus veel meer beïnvloedbaar. Daarnaast heeft de architectuur een veel directere invloed op het menselijk handelen: waar je best een dag kunt wandelen zonder te hoeven interacteren met elementen uit het landschap, zul je met moderne techniek op ieder moment een door architectuur beïnvloede actie moeten nemen. Ergens op klikken, iets activeren, iets downloaden, ga zo maar door.

Die ontwerpers, die programmeurs hebben dan ook een normscheppende taak: zij verzinnen wat er moet kunnen en wat niet, en dat worden automatisch regels nadat het geprogrammeerd is. En daar lopen we tegen een praktisch probleem aan: wie software wil schrijven die raakt aan wettelijk gereguleerd gedrag, die moet de benodigde normen concreet maken. Onder het auteursrecht is het bijvoorbeeld toegestaan een “kort stukje” van een werk over te nemen in het kader van een citaat (art. 15a Auteurswet). Wat kort is, kan de rechter dan beoordelen op basis van de omstandigheden van het geval. Maar wie een citaat-uitzondering wil inbouwen in een uploadfilter, die heeft een hard criterium nodig: hoe veel woorden uit dit boek zijn ‘kort’, is dat 26 woorden ongeacht de lengte van de tekst, of houden we het bij 1% van het geheel?

Je zou kunnen denken, nou prima, dat bedrijf schrijft de code, die heeft de dienst, die maakt de regels die het beste passen bij de situatie. Sectorspecifieke regels en zelfregulering kennen we ook al langer, via cao’s worden arbeidsvoorwaarden per bedrijfstak vastgelegd, is dat nu zo wezenlijk anders? Zeker wel. Het is al lang niet meer zo dat software een daadwerkelijke consensus van alle betrokkenen vertegenwoordigt. Een bedrijf schrijft de code en de gebruiker heeft deze maar te gebruiken. Veel keus is er niet, en aanpassen al helemaal niet. Dan blijft alleen nog het negeren over, wetende dat men terug kan vallen op het formele recht. Alleen: dat heeft direct negatieve consequenties – het werkt niet meer, of wat je wel wil dat kan niet – en de uitspraak van de rechter zal nog lang op zich laten wachten. Of is disproportioneel duur, zoals bij het consumentenrecht. Onze maatschappij verdient dus beter.

Een bijkomend probleem is dat code as law een hinderlijke eigenschap heeft die law as law niet heeft. Een computer doet wat je zegt, een rechter zegt wat de wet bedoelt. Zaken als redelijkheid en billijkheid wegen bij die rechter mee – maar de computer rekent uit wat het moet zijn, of dat nou redelijk is of niet. En als de programmeur iets vergeten is, dan is dat jammer maar dan staat de software het niet toe. Terwijl een rechter dan nog genoeg noodgrepen heeft: naast die interpretatiemethoden kan hij altijd terugvallen op de redelijkheid en billijkheid of zaken als overmacht. Maar dan krijg je het probleem dat je niet zomaar voor alles naar de rechter gaat, omdat je het liefst je software zo bouwt dat die doet wat de wet voorschrijft (of toelaat). En dat gaat dus fundamenteel niet.

Tijd voor een rewrite van de wet?

Wordt het niet tijd voor een rewrite vanaf nul van de wet, vroeg iemand in een eerder artikel in deze reeks. En toegeven: de structuur is een zootje. Er draaien drie verschillende besturingssystemen in dezelfde adresruimte (Europa, Nederland en het geheel aan internationale verdragen). Naast de recente updates uit 1815 hebben we nog fors wat Napoleontische legacy systemen, en zijn er delen die teruggaan tot 1792 voor Christus. Niemand controleert bij invoering van een nieuwe wet of deze overlapt of botst met een oude, bij de rechter aangetroffen fouten worden zelden gecorrigeerd met een nieuwe wet, en vaak genoeg is een nieuwe wet zo open dat we alsnog vele jaren onduidelijkheid krijgen.

Het lastige is alleen: het systeem volledig opnieuw ontwerpen is net zo min haalbaar als bij computersoftware. Er zijn vele voorbeelden van bedrijven die ten onder gingen aan version 2.0 syndrome, maar ik ken er geen die met succes een volledig herschreven pakket op de markt brachten. Bovendien kunnen we de maatschappij niet even uitzetten of rebooten.

Moet je dan als programmeur maar mr in de rechten worden, is een vraag die wellicht nu bij jullie opkomt. (Grappig genoeg hoor je dat veel minder vaker dan “moeten juristen leren programmeren”, maar dat terzijde.) Ik zie er wel wat in. Vaak zie je dat zaken juridisch nét rammelen, of naar Amerikaans voorbeeld ingericht worden. En dat is niet alleen irritant voor juristen die het toevallig zien (ik heb tegenwoordig speciale sloffen waar mijn tenen in kunnen krommen) maar ook gewoon kostbaar voor je klant of werkgever.

Tegelijk loop je dan het risico dat je al die nét anders werkende dingen tegen gaat komen, van juristen die het kromme recht praten tot situaties waarin het duidelijk links is maar niemand bereid is die stap te maken. Dat is frustrerend.

Vanwege mijn zomervakantie is de gewone blog gepauzeerd. Vandaag wederom een voorpublicatie uit mijn boek ICT & Recht.

De term big data is begin jaren tien in zwang gekomen als aanduiding voor de ondertussen immens gegroeide dataverzamelingen. Zo groot dat ze met normale tools niet meer te beheersen was. De datahonger van bedrijven had daar wel voor gezorgd: beter iets te veel vastleggen dan te weinig, cloudopslag is immers onbeperkt, en later zien we wel wat we ermee kunnen. Het ging hand in hand met de opkomst van het profileren van bezoekers, wat met name ingegeven was door de behoefte om gepersonaliseerde advertenties te tonen. Aan de basis van dit alles lag een minieme toevoeging aan het world wide web: het cookie.

Van cookies en tracking

In 1994 introduceerde Netscape het zogeheten cookie: een klein stukje informatie dat websites aan browsers konden sturen, die het vervolgens bij ieder bezoek mee terug stuurde. Dit was een enorme verandering voor website-eigenaren. Het web was namelijk ontworpen om stateless te werken: iedere opvraging van een webpagina, iedere klik op een link, stond volledig los van alle andere opvragingen. Dit is de technisch eenvoudigste oplossing maar had als nadeel dat bijvoorbeeld online winkelen niet echt mogelijk is: hoe kun je een winkelmandje beheren als bij iedere klik alles tot dan toe wordt vergeten?

Cookies boden een oplossing voor dat probleem. Iedere nieuwe bezoeker kreeg een code toegewezen, en in een database op de server werd elk uitgekozen product geregistreerd in combinatie met die code. Bij de kassa kon zo direct worden gezien wat men wilde kopen, zodat de transactie kon worden afgerond. Evenzo kon men met een cookie iemand laten inloggen en afgeschermde pagina’s laten bezoeken, zonder dat deze bij elke pagina opnieuw moest inloggen. Hiermee werden op internet ineens zaken als discussieforums maar ook betaalmuren voor archieven mogelijk.

De opkomst van reclame gaf echter aanleiding tot nog een andere toepassing van cookies: tracking. Een visuele reclameboodschap – een banner in het jargon – is technisch gezien een aanklikbare afbeelding. Een website-eigenaar plaatste die afbeeldingen niet zelf, maar liet het advertentienetwerk de afbeelding dynamisch invoegen met speciale HTML-code. Bij die afbeelding kan een cookie worden meegestuurd, net zoals bij de eigenlijke webpagina. Dit noemen we een third-party cookie, een cookie van een derde. En dat heeft een uniek effect: bij een bezoek aan iedere website waar dat advertentienetwerk reclameboodschappen plaatst, stuurt de browser braaf het cookie op bij het opvragen van de reclameboodschap. Zo krijgt het netwerk dus een beeld van al die websites die de persoon achter de browser bezoekt. Het concept van tracking, van volgen op internet, was geboren.

De groei van profileren

Het analyseren van klantinformatie en -gedrag is natuurlijk niet dankzij internet geboren. Een groot deel van de gegevensverwerking bij bedrijven was altijd al gericht op het voorspellen van wat klanten (of potentiële klanten) interessant of leuk zouden vinden. Al in 1992 werd ‘personalisatie’ als vijfde toegevoegd aan de klassieke “vier P’s” van marketing (Product, Prijs, Plaats, Promotie). En veel van de discussies over handel in data uit de jaren zeventig en tachtig – zoals het kopen van videotapehuurgedrag – kwamen voort uit precies de zorg over wat er met dergelijke analyses mogelijk zou zijn.

Iemand volgen is één ding, je moet er natuurlijk wel wat mee doen. Dat heet in het jargon ‘profileren’, het opbouwen van een profiel met bijvoorbeeld interesses (voor e-commerce) of risico’s (voor oplichting of wanbetaling). Een profiel bestaat uit simpelweg een lijstje gegevens gekoppeld aan een identificatie – en cookies zijn precies dat. Maar ook met andere middelen is tracking mogelijk, denk aan RFID tags of Bluetooth serienummers. Waar het om gaat is dat een persoon te reduceren is tot een nummer, waarna gegevens over dat nummer kunnen worden opgevraagd om zo een uitspraak over de persoon te doen: interesse in nieuwe laarsjes, betaalrisico 3%, extra bagagecontrole, salarisverhoging 2%.

De voornaamste reden voor de enorme groei van tracking was de eenvoud. Waar men voorheen vragenlijsten moest uitsturen of uitgebreid onderzoek doen, liepen de gegevens hier als vanzelf de databank binnen. En betrouwbaarder was het ook: het website-klikgedrag is echt wat mensen doen, geen sociaal wenselijk antwoord of voor de grap ingevulde vragenlijst. Het werd hierdoor steeds makkelijker om op de persoon toegesneden profielen op te bouwen, waarmee bijvoorbeeld gerichte advertenties mogelijk werden. Dit waren klassieke technieken uit de informatietechnologie, maar op veel grotere gegevensverzamelingen.

Deze enorme groei in data maakte nieuwe inzichten mogelijk, en liet een scherpe groei zien in de effectiviteit van advertenties. Het aantal trackers is dan ook explosief toegenomen vanaf begin jaren nul.Tegenwoordig gebruikt vrijwel elk marketingbedrijf of -afdeling wel een vorm van gepersonaliseerd adverteren.Tegelijk heeft gepersonaliseerd adverteren ook een keerzijde: veel mensen ervaren een stuk ongemak bij al te persoonlijke advertenties. Dat ongemak zit hem in ‘gezien worden’ wanneer men denkt privé bezig te zijn, de onthulling dat een bedrijf weet wat men wil – een inbreuk op de privacy van gedachten en gevoelens. Ook zijn er meer indirecte beperkingen, zoals ‘gestuurd worden’ door aanbevelingen en een beperkt zicht op het totaalaanbod hebben.

Dit gevoel nam alleen maar toe naarmate de grote platforms van Web 2.0 in omvang groeiden. Want die wisten nog veel meer te verzamelen dan zelfs de grootste advertentienetwerken: mensen vertellen immers zelf aan Facebook wat ze leuk vinden en wie hun vrienden zijn, en die dan weer wat zij leuk vinden. Daarmee konden deze platforms nog scherpere profielen opstellen en gericht reclame maken. Of informatie extraheren voor het beïnvloeden van het Brexit-referendum, zoals in het Cambridge Analytica-schandaal. Big Data, zoals het ondertussen was gaan heten, had dan ook altijd een dubbele ondertoon.

Van big data naar AI

De omarming van het concept big data opende de deur voor een nog verder gaande ontwikkeling, namelijk de inzet van artificial intelligence. Hierbij neemt een systeem zelf besluiten, variërend van het aanpassen van getoonde advertenties tot het goed- of afkeuren van transacties of zelfs overheidsmaatregelen zoals fraude-onderzoeken of weigeren van visa. Hierover meer in hoofdstuk 8.

Vanuit privacy- en gegevensbeschermingsoogpunt zijn AI-systemen een risicovolle ontwikkeling. Machine learning systemen, en meer algemeen AI systemen, leiden redeneerregels af uit de data en passen die vervolgens toe op nieuwe situaties. Bijvoorbeeld: de data laat zien dat een gasrekening van meer dan 150 euro vaak samengaat met fraudeurschap, net als een leeftijd hebben tussen de 18 en 32 jaar. De redeneerregel wordt dan: als de gasrekening boven de 150 euro is of de leeftijd is 18-32, dan nader onderzoeken op toeslagenfraude. In dit voorbeeld is de leeftijdscategorie een toevallige samenloop met fraudeurschap, maar het systeem heeft hier wel de regel mede op gebaseerd omdat de data dit laat zien. Zo’n afgeleide regel is dus fundamenteel anders dan de deductieve regels; zij zijn niet gebaseerd op algemene regels of beginselen maar volgen zonder context uit de data.

Dit verschil raakt aan de uitlegbaarheid van uitspraken en beslissingen van AI. Redeneerregels van menselijke beslissers zijn te motiveren, omdat de algemene regels beschikbaar zijn. Uit inductie verkregen regels zijn dat niet: het algoritme weet dat de leeftijdscategorie 18-32 relevant is, maar kan daar geen waarom aan koppelen. Hoewel wetgeving (zoals de AVG, artikel 13 lid 2 sub f) eist dat uitleg over de onderliggende logica gegeven wordt bij automatische beslissingen zoals deze, is dat in de praktijk dus zo goed als onmogelijk. Dat maakt inzet van AI fundamenteel problematisch. De AVG hanteert dan ook als hoofdregel dat zulke beoordelingen eigenlijk alleen mogen met toestemming van de betrokkene (artikel 22 AVG).

Een belangrijk probleem bij analyse van datasets is vooringenomenheid oftewel bias. Dit is het verschijnsel dat een ML systeem patronen in de data heeft gevonden die negatief uitpakken voor bepaalde groepen. Een ML systeem handelt zuiver op basis van de data, en zoekt de verdeling die het beste past bij het gestelde doel. Er is voor ML geen verschil tussen “geen” uit het veld “werkervaring” of “vrouwentennis” uit het veld hobby’s correleren aan “afgewezen sollicitant”  – bits hebben geen kleur. Voor mensen is het onderscheid tussen deze informatie-elementen echter enorm: het is niet de bedoeling dat we mensen afwijzen omdat ze vrouw zijn. Ook niet als het systeem daar niet expliciet op stuurt – ook indirecte discriminatie is immers verboden (art. 1 lid 1 sub c Algemene wet gelijke behandeling).

Vanwege de zorgen over de risico’s van AI-inzet werkt de Europese Unie op dit moment aan de AI Act, een Verordening die alle gebruik van AI moet gaan reguleren. De insteek is zuiver risicogebaseerd: het doet er niet toe of men werkt met ML, expertsystemen of met een filter in Excel, waar het om gaat is of er risico’s ontstaan voor mensen. AI met zeer hoge risico’s (zoals social credit scoring) wordt verboden, bij hoge risico’s (zoals screenen van sollicitanten) moet de leverancier zware maatregelen nemen om deze in te perken. Deze aanpak heeft het voordeel van daadwerkelijke technologie-neutraliteit: het maakt niet uit hoe het werkt, als het maar veilig is.

De AI Act is daarmee een stap voorwaarts ten opzichte van de AVG. Deze kent weliswaar een verbod tegen geautomatiseerde besluitvorming (art. 22 AVG), maar hier zijn uitzonderingen op mogelijk. Ook wordt de bal wel erg bij het individu gelegd: ga maar de uitleg lezen, maak maar bezwaar, toon maar aan waarom de AI niet eerlijk handelde jegens jou. Dat is zeker bij die kwetsbare groepen geen reële verwachting. De AI Act introduceert een verantwoordingsplicht voor exploitanten van AI-systemen, met actieve informatieplichten en de mogelijkheid van collectieve claims door betrokkenen of stichtingen die hen vertegenwoordigen. Dat zal veel eerder partijen bij de les houden.

Vanwege mijn zomervakantie is de gewone blog gepauzeerd. Vandaag wederom een voorpublicatie uit mijn boek ICT & Recht.

Het vergaren van gegevens om daarmee als overheid of bedrijf beter te handelen, is natuurlijk al millennia oud. Meestal ging het dan om getalsmatige data, die door rekenaars (computers) werden bijgehouden. Vanaf het begin van de twintigste eeuw groeide de handmatige gegevensverwerking bedrijven en vooral overheden boven het hoofd. Dit was een gevolg van de tweede industriële revolutie, waardoor grote groepen mensen naar de steden trokken om te werken in de grote fabrieken. Als overheid getalsmatige uitspraken doen – statistiek – was een manier om grip te krijgen op deze grote verandering.

Automatische gegevensverwerking

Volkstellingen zijn de grootste en zichtbaarste manier waarop overheden gegevens over hun burgers verzamelen. In Nederland werden al in de zestiende eeuw regionale volkstellingen gehouden, met de eerste landelijke in 1829.[iii] Vele Westerse landen deden hetzelfde, maar liepen allen tegen het probleem aan dat de gegevensverzameling steeds arbeidsintensiever werd en de verwerking daarna steeds complexer.

Een doorbraak was de Amerikaanse volkstelling van 1890, waarbij zoveel informatie verzameld zou worden dat iedereen inzag dat dit handmatig onmogelijk te verwerken was. Volksteller en ingenieur Herman Hollerith ontwikkelde een geautomatiseerd systeem dat werkte met ponskaarten: door met een soort typemachine op de juiste plek gaatjes te slaan in een kartonnen kaart, werd informatie vastgelegd zoals geslacht of geboortejaar. Telmachines – mechanische computers –konden dan in een stapel kaarten dan met een set pinnetjes zoeken naar alle kaarten met bijvoorbeeld het gaatje bij ‘vrouw’ en ‘1880’ om alle vrouwen geboren in dat jaar te vinden. Het systeem van Hollerith werd een groot succes, dat al snel door vele overheidsinstanties werd overgenomen. (Het bedrijf Hollerith groeide snel en veranderde haar naam in 1924 in International Business Machines of IBM.)

Ponskaarten en automatische, mechanische gegevensverwerking werd enorm populair bij overheden en grote bedrijven. Een veelgehoorde klacht in die tijd was wel dat hiermee de menselijke maat verdween: met rekenmachines kon men op grote schaal abstracte uitspraken doen zoals wie er wel of geen uitkering kon krijgen of wie moest verhuizen vanwege nieuwe gebiedsontwikkeling. De telmachines van Hollerith werden ook in Nazi-Duitsland veel gebruikt; de volkstelling van 1933 werd hiermee vastgelegd, en vandaar konden efficiënt en automatisch mensen worden geselecteerd voor de concentratiekampen.

Gegevens en informatie

In eerdere hoofdstukken is het begrip ‘informatie’ al geïntroduceerd. In de communicatietechnologie is de definitie van Shannon leidend: informatie zijn de bits die ondanks de ruis bij een ontvanger aankomen. In de informatietechnologie wordt informatie anders bekeken, en geldt een onderscheid tussen informatie en gegevens. Gegevens of data zijn de ruwe grondstoffen van de informatiemaatschappij. Hieruit wordt informatie gewonnen door betekenis aan de gegevens te geven. Hiervoor zijn niet perse computers nodig: met de hand een tabel van debiteuren doorlopen en Dit is niet perse de meest kansrijke incassozaken uitzoeken, is een vorm van informatieverwerving uit data. Mechanische en later digitale computers hebben het proces wel fors versneld.

De term informatietechnologie verwijst in brede zin naar alle technieken voor verwerking van informatie. Dit omvat zo ongeveer alle apparaten met een chip of een geheugen, waardoor eigenlijk alles IT zou zijn. Nuttiger is dan ook de beperktere definitie die Leavitt en Whisler in 1958 formuleerden: informatietechnologie is technologie voor verwerking van grote hoeveelheden informatie, voor informatiegebaseerde besluitvorming en voor simulatie van “denken van hogere orde”. Dat laatste raakte aan het net opkomende vakgebied van artificial intelligence, waarover later in dit hoofdstuk meer. Het inzicht van Leavitt en Whisler vestigde de aandacht op het belang van informatie in bedrijfsprocessen, wat goed aansloot bij een nieuwe technologische innovatie: de databank.

De relationele databank

Een databank of database is een gestructureerd geheel van gegevens, dat doorzoekbaar is op diverse criteria (vergelijk art. 4 lid 6 AVG voor het ‘bestand’). Databanken werden mogelijk in de jaren zestig na de uitvinding van de direct access opslagmedia, wat we nu harde schijven noemen. Hiermee konden opgeslagen gegevens in willekeurige volgorde worden benaderd, in plaats van alleen van begin tot einde zoals bij tapes of ponskaarten.

In 1970 ontwikkelde Edgar Codd het relationele model voor databanken. Dit model maakte het mogelijk om relaties tussen gegevens vast te leggen, zoals tussen namen, geboortedata en woonplaats van personen of tussen ingrediënten van voorverpakte maaltijden. Hiermee kon informatie op basis van die relaties worden doorzocht of geselecteerd (“alle mensen geboren op 1-1-1970” of “alle maaltijden met rucola en avocado met houdbaarheidsdatum meer dan twee dagen geleden”). Deze uitvinding maakte het organiseren en correct houden van gegevens een stuk eenvoudiger. In dit model worden gegevens gekoppeld met zogeheten sleutels. Uitgangspunt daarbij is dat gegevens slechts eenmalig worden opgeslagen, en dat men met sleutels verwijst naar overige informatie.

Het grote voordeel voor de automatische gegevensverwerking is dat vrijwel alle bewerkingen plaatsvinden op tabellen, met relatief weinig gegevens. Dat kan snel en efficiënt, ook in een beperkt werkgeheugen. Voeg daar een gestructureerde set instructies voor databasebeheer aan toe – structured query language of SQL – en de mogelijkheden zijn eindeloos.

Een explosie van databanken

Relationele databanken en SQL (en aanverwante technieken) maakten dat het aantal gegevensverzamelingen – en alle bedrijven en overheden die er gebruik van maakten – snel groeide. Dat leidde weer tot een grotere gegevenshonger, want als er zo veel kan dan is er snel behoefte aan meer. Dat gaf aanleiding tot meer zorgen en protesten over de bescherming van de burger, die zich bijvoorbeeld niet kon verweren tegen fouten in een databank. Een simpele reden was omdat hij niet wist dat hij erin stond. Maar minstens zo hardnekkig was – en is – de overtuiging dat ‘de computer gelijk heeft’, gegevens in een databank hebben een aura van juistheid.

Een tegenbeweging met meer utopische visie op dataverwerking ontstond rondom bibliotheken, die dankzij ponskaarten en mechanische rekenaars juist mogelijkheden zagen om informatie te koppelen en ontsluiten. Het idee van hypertext (zie hoofdstuk 2) is ook in deze tijd geboren. Ook de snel groeiende hobby-computerbeweging zag mogelijkheden in databases. Vanaf de jaren tachtig raakte de databank ingeburgerd in de computerwereld. Via diensten zoals CompuServe kon men online databanken raadplegen, en na de uitvinding van de cd-rom was het zelfs mogelijk een databank in huis te hebben. De opkomst van internet maakte het nog makkelijker om databanken te ontsluiten.

De populariteit van databases explodeerde in 1979 toen het obscure bedrijf Ashton Tate het pakket dBase II op de markt bracht. Hun geniale marketingstrategie was de software weggeven aan kopers van de nieuwe personal computer, in plaats van zoals iedereen te mikken op de grote computers, de mainframes. Omdat dBase II ook beschikte over een simpele programmeertaal, kon ineens een enorme groep mensen nu databases opzetten en beheren.

Maar ook de groei van spreadsheets (Lotus 1-2-3 en vooral Microsoft Excel) en hun invloed op gegevensverwerking moet niet worden genegeerd.Hoewel deze tools primair waren ontworpen voor berekeningen, was het zeer eenvoudig om ook lijsten met gegevens bij te houden en daarin te zoeken en filteren, wat voorheen alleen kon met grote databanksoftware waarvoor gespecialiseerde kennis nodig was. Voor kleine ondernemingen (of beperkte toepassingen bij grote ondernemingen) waren spreadsheets dus meer dan genoeg. Vandaag de dag zijn spreadsheets een onmisbare tool bij grote en kleine ondernemingen.

Vanwege mijn zomervakantie heb ik een blogpauze tot 7 augustus. Deze week trakteer ik dan ook op een longread afkomstig uit hoofdstuk 2 van mijn boek ICT & Recht.

Dat internet tegen een nucleaire aanval bestand is, of ongrijpbaar voor kwaadwillende overheden, is een hardnekkige mythe. Het internet is in de praktijk niet eens in staat een onoplettende eekhoorn te weerstaan. Maar het idee was goed: een volledig decentraal netwerk waarmee academische instellingen gemakkelijk informatie konden uitwisselen. Na een commercialisatieslag die begon in 1995 kon werkelijk iedereen zijn mening uiten. Het centrale thema daarbij werd toegang: wat mag je zeggen, wie mag bepalen wie wat zegt, en is er daarbij onderscheid tussen overheden en private partijen?

“Internet is de drukpers van de informatiemaatschappij”, zo formuleerde Netscape-directeur James Barksdale het in de zomer van 1996. Webstekbladeraar Netscape was in die vergelijking dan de bladwijzer, het hulpmiddel om te navigeren in die enorme explosie van informatie. Barksdale zei dat niet zomaar: in februari had de Amerikaanse overheid de Communications Decency Act aangenomen, een hele brede wet die het een ieder verbood om personen onder de 18 jaar online “obscene of onfatsoenlijke” inhoud te laten zien. De ophef was enorm: dit zou alle websites treffen, ongeacht of die zich richtten op kinderen en ongeacht de legaliteit van de inhoud – “onfatsoenlijk” is heel wat vager immers dan “onrechtmatig”.

Van drukpers naar website

Gelukkig voor Barksdale en alle andere internetters vernietigde de Supreme Court een jaar later deze fatsoensregel: ouders moeten zelf kunnen beslissen wat kinderen kunnen zien op internet, deze overheidsbemoeienis beperkt hun informatievrijheid te zeer. De uitspraak was een opsteker voor de internetgemeenschap, die al ruim tien jaar het wereldwijde communicatiemedium zag als de nieuwe, ware “marktplaats voor ideeën”, vrij van de dwang van massamedia. Net als hoe de drukpers sinds 1450 de maatschappij onherroepelijk had veranderd.

Overheden hebben sinds de opkomst van het gedrukte boek flink geworsteld met grip op dit nieuwe medium. Met allerlei regelingen en verboden op het drukken of verkopen van bepaalde werken – censuur – werd geprobeerd dingen nog enigszins binnen de perken te houden. Maar echt haalbaar bleek dat vaak niet. En waar men het al te hard probeerde, was de kritiek niet mals. De Nederlandse geleerde Dirck Coornhert formuleerde het in 1582 al als: “Goede boeken verbieden om de waarheid te onderdrukken … dat is echt tirannie”. Dat van de waarheid was trouwens nog een lastige: het begrip fake news is zeker niet uniek voor internet. Al in de 18^e eeuw werd een Nederlandse uitgever (Gerard Lodewijk van der Macht) tot vier maal toe gestraft met verbanning voor het publiceren van verzonnen berichten.

De drukpers was hét middel om informatie te verspreiden: per boek, per krant of per pamflet. Daarom kreeg de vrijheid van drukpers al sinds de Franse Revolutie (1789) in vele landen een centrale plaats tussen de grondrechten. In Nederland is eigenlijk sinds de 19^e eeuw een brede formulering gehanteerd (art. 7 Grondwet): geen voorafgaande censuur bij de drukpers, wel kan de rechter achteraf toetsen aan strafwetbepalingen zoals over smaad. De Amerikaanse Grondwet (opgesteld in 1787) kent in het First Amendment een vrijwel absolute bescherming voor free speech. Weliswaar is ook hier een achteraftoets mogelijk bij de rechter, maar de lat ligt – zeker voor Europese begrippen – buitengewoon hoog. Het is belangrijk te beseffen dat het deze norm is die zich heeft geworteld in informatiegemeenschappen zoals op internet. Ook hun oorsprong is Amerikaans, de eerste voorvechters voor online vrijheden zijn Amerikaans en alle vroege literatuur over online rechten is gebaseerd op Amerikaanse opvattingen.

De opkomst van de radio

In 1880 vond Alexander Graham Bell de telefoon uit. Kort daarna (1895) introduceerde Guglielmo Marconi de draadloze telegraaf. Beide media waren nog gericht op één-op-één communicatie tussen een specifieke zender en een ontvanger. Maar de draadloze telegraaf groeide in de dertig jaar daarna uit tot iets fundamenteel nieuws: de radio. Inherent aan draadloze communicatie is namelijk dat iedereen met de juiste ontvanger het kan opvangen, mits het signaal sterk genoeg is. Dat was een probleem met de originele telegraaf: die was alleen geschikt om Morse-codeberichten via een draad te versturen.

De introductie van de vacuümbuis in 1906 maakte veel krachtiger transmissies mogelijk. De Nederlandse uitvinder Hanso Idzerda wist als eerste in 1919 een werkend systeem te realiseren waarbij de menselijke stem en omgevingsgeluid direct van zender naar ontvanger verstuurd kon worden. In de jaren twintig werden radio-uitzendingen snel populair. Het ging met name om muziek en nieuwsberichten, die al vanaf het begin werden voorzien van reclameberichten: de commercials. Althans, door bedrijven die geld wilden verdienen met radio.

Radio zien we namelijk vandaag als een van de massamedia, maar ook dit medium begon vrijwel volledig organisch, door enthousiaste amateurs die diep in de techniek zaten en tot laat in de avond de ether vol kletsten. En ondertussen aan hun apparatuur sleutelden, want een goede ontvangst tussen al die andere zendamateurs was niet eenvoudig. (Wellicht ligt hier een analogie met de car tuning hobbygemeenschap, de zelfbouw-pc enthousiasteling of de hacker community.) Sommigen zagen zelfs een utopie ontstaan waarin individuele burgers direct contact konden leggen, afspraken konden maken of zelfs hun bestuur met elkaar konden regelen.

Het geweld van het grote geld – de commerciële radiozenders – wist aan dit alles een eind te maken. De amateurzenders verstoorden nogal eens overheids- of militaire uitzendingen, al dan niet opzettelijk, wat een goed argument gaf voor regulering: radiofrequenties zijn een schaars goed en moeten worden beschermd tegen overlast en misbruik. De amateurs werden snel verdreven naar ‘vrije’ frequentiebanden met weinig bereik, maar bleven knutselen en hun enthousiasme delen. Hier werden de zaadjes geplant voor de hacker-gemeenschappen die bbs’en en later internet groot maakten.

Arnoud

Een lezer vroeg me:

Recent oordeelde het Kifid dat een verzekeraar voldoet aan de eis voorwaarden “op een duurzame drager” aan te leveren als ze deze op een stabiele URL in haar Mijn Omgeving aanbiedt. Kun je daar je juridisch licht eens over laten schijnen?

De wet eist bij overeenkomsten op afstand (zoals via een website een verzekering afsluiten) dat je bepaalde informatie op een “duurzame gegevensdrager” krijgt (art. 6:230v lid 7 BW). Het idee is dat je het dan wel elektronisch hebt, maar er toch langdurig over kunt beschikken.

Een “duurzame gegevensdrager” is gedefinieerd als (art. 6:230g(1)(h) BW):

ieder hulpmiddel dat de consument of de handelaar in staat stelt om persoonlijk aan hem gerichte informatie op te slaan op een wijze die deze informatie toegankelijk maakt voor toekomstig gebruik gedurende een periode die is aangepast aan het doel waarvoor de informatie is bestemd, en die een ongewijzigde weergave van de opgeslagen informatie mogelijk maakt;

De eis is dus dat de informatie toegankelijk is voor gebruik gedurende de periode dat je deze nodig hebt, en dat je deze probleemloos kunt reproduceren. Dat suggereert misschien “usb-stick” (meelezende archivarissen benadrukken nu de duurzaamheid van zuurvrij papier), maar is dus breder. En ja, ik zie hoe “stabiele URL op een website” hier aan kan voldoen. Als die URL de komende tien jaar blijft werken en altijd dezelfde algemene-voorwaarden.pdf oplevert, dan klopt het.

Inderdaad: als. Want ik voorzie vele manieren waarop dit mis kan gaan. Men ziet wat kleine wijzigingen (of zelfs een typefout) en past dat even aan. De brochure moet in een nieuwe huisstijl, en vanwege de overgang naar het nieuwe CMS komt er toch een nieuwe URL maar we regelen wel een redirect.

Dat is dus niet de bedoeling: “ongewijzigde reproductie” betekent letterlijk datzelfde document, dus niet de nieuwe huisstijl, niet die taalfout gecorrigeerd, niet die herziene regeling die in het voordeel van de consument is, gewoon dát document van toen.

Een bijkomend punt is dat het “duurzame gegevensdrager”-criterium gaat over je informatieplichten. Maar specifiek bij algemene voorwaarden speelt er nog iets: die moeten ter hand worden gesteld (art. 6:234 BW) en daar geldt een andere formulering:

langs elektronische weg ter beschikking heeft gesteld op een zodanige wijze dat deze door haar kunnen worden opgeslagen en voor haar toegankelijk zijn ten behoeve van latere kennisneming

Deze formulering lijkt sterk op het “duurzame gegevensdrager”-criterium en laat op zich toe dat je algemene voorwaarden downloadbaar aanbiedt. Ik denk dus dat het zeker mogelijk is, áls je een stabiele URL aan kunt bieden die ook daadwerkelijk (zeg de komende tien jaar) niet inhoudelijk verandert.

De vraagsteller refereert naar de Uw Jouw Mijn omgeving waar je dan moet inloggen om dingen te kunnen downloaden. Op zich maakt dat niet uit voor de analyse, en het biedt de mogelijkheid van loggen of en wanneer de voorwaarden zijn opgevraagd, nieuwe versies zijn aangeboden et cetera.

Mijn enige twijfel bij zulke portalen is altijd dat je de toegang kan worden ontzegd, en dan is de URL met de voorwaarden ineens niet meer stabiel.

Arnoud

De rechtbank Overijssel heeft besloten dat Unibet een Nederlander zijn gokschulden van ongeveer 8.600 euro moet terugbetalen. Dat meldde Emerce vorige week. Het vonnis zelf is niet direct te vinden: er is alleen een persbericht van de advocaat van de gelukkige gokker. Het lijkt dus een tikje prematuur om te stellen dat iedereen nu zijn geld terug kan krijgen van een illegale goksite, maar er zit meer achter.

De betrokken advocaat doet dit vaker, en met succes. Alle zaken komen min of meer op hetzelfde neer: een Nederlandse consument ging een kansspelovereenkomst aan met een partij die in Nederland geen vergunning heeft. Naar Nederlands recht is zo’n overeenkomst dan nietig/vernietigbaar (strijd met openbare orde, 3:40 BW). Het geld is dan betaald zonder rechtsgrond en moet dan terug.

In al die zaken (lees deze of deze als voorbeeld) zie je dat rechters zich actief sterk maken voor de consument. Het is altijd duidelijk zat dat die sites zich (ook) richten op Nederland, de forumkeuzebedingen gaan linea recta de prullenbank in en ik zie zelfs “litigation bullying” als verwijst naar de goksites als die al te veel processtappen nemen.

De meeste vonnissen zijn tussenvonnissen om punten zoals bevoegdheid of gebondenheid aan Nederland uit te maken. Er zijn ook een paar uitspraken die wel eindvonnis zijn, zoals deze met als terug te betalen bedrag € 128.415,76, dus de nettoschuld die de consument nog had als je zijn winsten van de inleg afhaalt. In deze zaak ging het om € 93.210,71 en dat zijn forse bedragen.

En ja, dit is te verhalen: het casino zit op Curaçao, dat is gewoon deel van hetzelfde Koninkrijk als Nederland. Ook bij een casino in zeg Malta (waar er veel online gevestigd zijn) is dat mogelijk, vanwege Europese regels over tenuitvoerlegging. De enige vraag is of de deurwaarder een bankrekening kunt vinden waar het geld op staat.

Arnoud