Code as law, een bekende kreet in het internetrecht. Deze door professor Lawrence Lessig bedachte kreet betreft het fenomeen dat software gedrag afdwingt, en daarmee in feite reguleert net zoals in de ‘echte’ wereld de wet dat doet. In een interessante reactie stelde Sander dat “de code of law (en andere onderwerpen) niet in de categorie van het internetRECHT [hoort].” Is het wel recht, code?
Het fenomeen heet eigenlijk code is law: de software bepaalt hoe dingen gaan, wat mag en wat niet. Softwares wil is wet. En dan bedoelen we dus niet een EULA of TOS die zegt “Op dit platform geen porno”, het gaat over algoritmes en ingebouwde regels die afdwingen dat de dingen op een bepaalde manier gaan. “Uw profielfoto is afgekeurd want de beeldherkenning meende pornografie te bespeuren”. Of “Volgens uw Facebookprofiel bent u ouder dan 18, kom binnen”.
Strikt gesproken is dit inderdaad geen recht. Het recht beschrijft de regels die de samenleving reguleren. Die regels zijn door de overheid opgelegd, in ons geval door een democratisch proces bedacht en ingevoerd. En dat invoeren gebeurt door ze te publiceren in het Staatsblad of een ander officieel orgaan, waarna de verwachting is dat iedereen zich er netjes naar gaat gedragen. Code wordt niet door de overheid opgelegd, maar door private partijen. Er is geen democratisch proces, de leverancier zegt gewoon hoe het bij hem werkt en dwingt dat af met een implementatie-restrictie.
Op zich zijn private regels niet nieuw. Menig café of nachtclub heeft huisregels, variërend van “geen sneakers” tot statuten van twintig pagina’s. Die huisregels zijn bindend omdat ze een overeenkomst vormen tussen exploitant en bezoeker. Het oude Burgerlijk Wetboek formuleerde dit mooi: “Alle wettiglijk gemaakte overeenkomsten strekken dengenen die dezelve hebben aangegaan tot wet” (art. 1374, lid 1 oud BW). Een overeenkomst wordt wet (voor jou en je wederpartij). Dus vanuit dat perspectief zeg ik, code is wél recht.
Het lastige aan code as law vind ik vooral dat code tegen de wet in kan gaan. Of iets preciezer gezegd, dat code de wet beperkt zodat je minder kunt dan je eigenlijk mag. Vaak gaat dat nogal ijzerenheinig: computer says no. Je mag geen video uploaden waar meer dan 3 seconden beschermde muziek in zit, want volgens de code is dat geen citaat. Je bent geen 18 dus je mag niets aanschaffen, ook al mailt je moeder een keurige toestemming ex. art. 1:234 BW.
Daar zit denk ik het verschil tussen code en recht. Code is rechtlijnig, recht is flexibel. Recht houdt rekening met omstandigheden en uitzonderingen. Code doet dat niet, tenzij het expliciet is ingebouwd. Maar meestal kan dat niet, omdat uitzonderingen zelden in harde regels te vatten zijn. Mijn standaardvoorbeeld is artikel 6:248 BW: een wet of afspraak geldt niet als dat redelijkerwijs onaanvaardbaar is (de ultieme exception handler, zeg maar). Dus ongeacht wat de wet zegt en ongeacht wat je samen afspreekt, als dat gewoon niet mooi meer is, dan houdt het op. Implementeer dát maar eens.
Dit is meteen ook het grote bezwaar tegen juridische regels vanuit softwarebouwerperspectief. Je kunt het eigenlijk niet automatiseren, je moet wel vuistregels ervan maken en een grove benadering invoeren die te automatiseren is. Het recht schaalt niet. Je kunt niet tienduizend notice/takedownclaims per dag verwerken door ze stuk voor stuk door een jurist te laten bekijken, dat moet een algoritme doen. Code as law zal dus altijd die nuance verliezen, en de mogelijkheden tot uitzonderingen of zelfs maar reclameren zullen steeds minder worden.
Om te groeien en om steeds mooiere diensten te leveren zal het onvermijdelijk blijken om steeds meer code-recht te ontwikkelen. Maar daarmee wordt dit probleem alleen maar groter. Ik weet er alleen geen oplossing voor. Redelijkheid is niet programmeerbaar. Dus dit gaat echt een heel groot probleem worden.
Arnoud
Alleen in uitzonderingsgevallen kijkt er een mens naar, uiteindelijk een mediator of rechter. Een beroepsmogelijkheid. Als het goed is, klopt 99% van de geautomatiseerde gevallen wel, dus toch efficiënt.
Alleen, wat doe je tegen charlatans en complotdenkers die standaard tegen alles en iedereen in beroep gaan, alle rechters en wrakingskamers wraken en bij hun zelf aangespannen hoger beroep niet op komen dagen én hun advocaat altijd net hebben ontslagen? En dan gaan janken dat ze niet gehoord zijn?
(Voorbeelden bekend bij redactie van reactie.)
Een groot punt van juist ‘code as law’ is dat de code gedrag indirect afdwingt. Dan hoeft de code an sich niet tegen de wet te zijn, maar het effect van de code wel.
Een voorbeeld hiervan is het experiment van Facebookeen tijdje terug waarbij geprobeerd werd de gemoedstoestand te beïnvloeden door selectieve filtering van positieve of negatieve berichten van vrienden.
Dat is niet direct tegen de wet, maar zoiets kunnen ze ook inzetten net voor verkiezingen, om zo de uitslag te beïnvloeden.
Ik weet niet of code nog zo rechtlijnig is als je aangeeft. Als je kijkt naar bv tensorflow of alphago dan is het allemaal niet meer zo rechtlijnig wat je met “code” kan doen. Ben benieuwd of je een alphaLawFlow zou kunnen maken. Een online rijdende recher 🙂
http://googleresearch.blogspot.nl/2015/12/how-to-classify-images-with-tensorflow.html https://deepmind.com/alpha-go.html
Ik zie niet hoe de door jou genoemde algoritmes iets veranderen aan de “rechtlijnigheid” van code. Er zijn altijd al algoritmes geweest in plaats van logische regels (“je wachtwoord is onjuist, dus je mag niet naar binnen”) bepaalde heuristieken gebruiken (“deze foto wordt geweigerd, want bevat te veel huidskleur, dus is waarschijnlijk porno”). Je kunt hooguit zeggen dat deze nieuwe algoritmes veel betere heuristieken hebben dan de oude algoritmes, en dat het daardoor waarschijnlijker wordt dat ze zullen worden toegepast op een manier waarbij meer autoriteit wordt toegekend aan het algoritme.
Maar dan: als een rechter over je beslist, dan neemt ‘ie ook “fuzzy” input en komt ‘ie tot een “rechtlijnig”, boolean resultaat. Waarin zit het verschil? Dat een rechter minder fouten maakt? Dat is subject to change. Dat de rechter een mens is? Je zou ook kunnen zeggen dat een fout onrechtvaardiger voelt als ‘ie door een mens wordt gemaakt. Dat je bij een algoritme geen weerwoord hebt, en geen kans hebt om het algoritme te overtuigen? Misschien is dat het. Is dit iets om mee te nemen in de manier waarop algoritmes worden toegepast? Misschien met een soort “hoger beroep” mogelijkheid?
Het verschil is dat je bij een rechter je pleidooi kunt doen (of een advocaat dat laten doen) en dat een rechter dan een uitspraak doet op basis van alle omstandigheden. Een rechter is niet beperkt geprogrammeerd in wat hij accepteert. Als jij bij een aankoop op Bol.com wilt aantonen dat vooraf betalen in strijd is met het slavernijverbod, oké kom maar op. De kans is klein dat het je lukt, maar het is niet op voorhand onmogelijk om het argument te presenteren. Bij Facebook is bezwaar maken op zich al een hele klus, laat staan op gekke gronden of vanwege bizarre omstandigheden.
Dus het verschil is dat je bij een rechter zelf het “algoritme” aan kan dragen (je pleidooi), en dat de input-ruimte (de set door jou aangeleverde data die mogelijk significant bij draagt aan de uitspraak) onbeperkt groot is?
De onbeperkte input-ruimte lijkt me bij software een lastig probleem. Je loopt toch altijd aan tegen de beperking dat de maker van de “rechter-software” niet vooraf aan alle mogelijkheden kan denken. Je ziet dat nu vaak in de praktijk in de vorm van invulformulieren die soms zelfs niet uitgebreid genoeg zijn om goed naar waarheid in te kunnen vullen, maar zelfs bij betere, toekomstige software zie ik niet hoe je software zou kunnen maken met een werkelijk onbeperkte input-ruimte.
Maar bij menselijke rechters heb je toch iets dergelijks? De wetgever is daar in wezen een soort software-ontwikkelaar, en de wetgever kan ook niet aan alle mogelijk relevante aspecten denken. Je zou kunnen zeggen dat een rechter juist waarde toevoegt door de wet niet rücksichtlos toe te passen, of dat de wet expres subjectieve criteria bevat die ruimte laten aan een rechter om een eigen oordeel in te vullen.
Als iemand aan een computersysteem een uitspraak weet te ontlokken op een manier die niet door de programmeur was voorzien, dan noemen we dat “hacken”. Als iemand aan een rechter een uitspraak weet te ontlokken op een manier die niet door de wetgever was voorzien, is dat dan ook “hacken”? Hoezo “you can’t hack the law”? Je kunt de wet juist wel hacken, en dat is zelfs de bedoeling. Het is alleen wel zo dat menselijke rechters momenteel een stuk intelligenter om gaan met onvoorziene omstandigheden dan computers.
Lessig onderscheidt vier krachten die op de pathetic dot, wij, de burgers, invloed uitoefenen: Law Market Norms Architecture
Die laatste is waar code naar verwijst. Architectuur in meer brede zin kan disciplineren, daar is al veel over geschreven voor Lessig. Ronald Leenes had in zijn oratie een voorbeeld van een brug die over de weg naar het strand was gebouwd en zo laag was dat bussen (met overwegend “black people”) er niet onder door konden. Op die manier kon dus door architectuur een doel bereikt worden: een wit strand. Wat dit voorbeeld ook duidelijk maakt (alsmede dat Lessig zelf Law apart noemt) is dat code/architecture enkel over handhaving gaat, waar normen onder liggen maar niet de normen zelf zijn.
Dank je, goeie aanvulling. Maar de norm ís toch de code? Als de code je uit drie opties laat kiezen, dan is de norm dat je alleen op grond van die drie opties bezwaar kunt maken. Een vierde optie of een algemeen beroep op redelijkheid en billijkheid zit er dan niet in. Dat doet ‘ie gewoon niet.
Dat klopt, inderdaad, want Code is Law, althans kan dat zijn. De architecture (code) is genoemd omdat het een van de krachten is die ons gedrag beïnvloed (net als recht, markt). Ik dacht zojuist even langs de lijn dat je in beginsel elke norm via code kan afdwingen, wat op zich ook zo is. Een fietsslot bemoeilijkt stelen, een slagboom doorrijden, etc. Waar het bij Lessig echter vooral om gaat is dat mensen zich bewust worden van het feit dat in de internetarchitectuur en de internettoepassingen keuzes gemaakt kunnen zijn die normerend werken en afgedwongen worden door de technologie. Zo kun je veel mensen mailen. Dat is een keuze, het had ook beperkt kunnen zijn tot, zeg 10, of 100. Dus is spam mogelijk. Als in de architectuur de keuze was gemaakt voor beperkte verzendmogelijkheden, was de juridische norm (spam verbod) niet nodig geweest.
Interessante gedachte. Even filosoferen: architectuur verdringt daarmee normen. Wetten zijn niet meer nodig, de norm is eenvoudigweg “whatever de computer zegt dat mag”.
Blijf ik zitten met hoe om te gaan met rare uitzonderingen en niet algoritmisch uit te drukken normen die we toch graag willen hebben.
Je moet het eerst hebben over waar/wanneer normen nodig zijn. Ik zou zeggen dat normen nodig zijn bij interacties tussen mensen. Vervolgens: wie bepaalt die normen? Ik zou zeggen: die mensen die deelnemen aan de interactie waarop de normen van toepassing zijn.
Het “voluntarisme” gaat er van uit dat, als mensen het niet eens zijn over de geldende normen, er maar beter geen interactie kan zijn. Interactie tussen mensen is alleen gewenst als mensen vrijwillig akkoord zijn gegaan met die interactie en de daarbij geldende normen.
Één van de problemen daarbij is dat we hier samen op 1 planeet zitten, en interacties niet altijd uit de weg kunnen gaan. Architectuur (code) kan potentieel helpen door “muren” te bouwen tussen mensen, om ze tegen elkaar te beschermen. Omdat de meeste mensen geen kluizenaars willen zijn is het dan ook gewenst dat die muren deuren hebben, die geopend kunnen worden als beide kanten dat willen. De “rare uitzonderingen” die je noemt kunnen mensen dan zelf toepassen in hun beleid voor wanneer deuren open/dicht zijn.
En wat doe je dan met rare uitzonderingen die we vanuit het algemeen belang er door willen duwen? Bijvoorbeeld ‘we’ vinden dat jij de deur niet dicht mag houden omdat iemand vrouw is, of homoseksueel of Marokkaan. Jij wilt dat wel (om jou moverende redenen). Dan leggen ‘we’ jou een norm op. Hoe rechtvaardig je dat dan?
Ik denk dat zoiets als een verbod op discriminatie strijdig is met het voluntarisme. Echte voluntaristen zullen dan waarschijnlijk tegen een verbod op discriminatie zijn, omdat je ook de vrijheid moet hebben om op niet-rationele basis interacties te weigeren.
De omstandigheid die je dan krijgt (discriminatie door sommigen) kan verzacht worden door de andere elementen in de Pathetic dot theory: de markt (iemand die gediscrimineerd wordt kan, in een voldoende vrije markt, zijn schouders ophalen en naar anderen gaan) en normen (iemand die discrimineert kan zelf sociaal worden buitengesloten door mensen die die discriminatie afkeuren).
Er zijn twee vervelende gevolgen van discriminatie: de ene is dat je merkt dat een ander een hekel aan jou heeft om een irrationele reden, en de andere is dat die ander jou op onrechtvaardige manier benadeelt. Het eerste kan je weinig aan doen: je kunt iemand wel “met een pistool op het hoofd” dwingen om niet te discrimineren, maar er zullen waarschijnlijk nog steeds manieren zijn waarop je merkt dat die persoon het maar niets vindt. Het tweede heeft te maken met machts-uitoefening. Ik denk dat we die machts-uitoefening zo veel mogelijk moeten terugdringen, en niet alleen als het gaat om discriminatie.
In een wereld waarin mensen voldoende veilig van elkaar zijn afgeschermd zie ik maar één manier waarop mensen macht kunnen uitoefenen op anderen: doordat je, om de één of andere reden niet om ze heen kunt; als ze op een bepaald vlak een (praktisch) monopolie hebben. Zulke monopolies moeten dus afgebroken worden; geen enkele resource, infrastructuur, technologie, kennis of vaardigheid mag door een enkele partij worden beheerst. En mensen moeten interacties aan kunnen gaan met ieder ander die dat wil, ongeacht wat derden er van vinden.
Ik weet niet of dit helemaal bevredigend is. Is het radicaal toepassen van het voluntarisme voldoende aantrekkelijk om er het verbod op discriminatie voor op te geven? Ik ben zelf tegen discriminatie, maar niet alles wat verkeerd is moet verboden worden. Ik ben er zelf nog niet helemaal uit.
Dat gaat wel heel erg uit van het idee van een maakbare maatschappij. De grote vraag is inderdaad, moet je dit willen, en zo ja, wie gaat dat dan doen?
Ik denk dat we er nu met z’n allen achterkomen dat de grote spelers uit Silicon Valley met z’n allen (onbewust?) heel hard hun normen en waarden aan ons aan het opleggen zijn. Niet iedereen is het daarmee eens, maar wat doe je daartegen?
Code kan inderdaad de norm zetten door de opties aan te bieden. Maar je kunt code ook op zo’n manier inrichten dat je gebruikers in een bepaalde richting stuurt. En dat kan heel onschuldig zijn: de plek van de “akkoord” knop zit altijd rechtsonder bij het accepteren van algemene voorwaarden. Dat zorgt ervoor dat iedereen die snel kan vinden en dus ook lekker snel door klikt. Als jij dat ineens op een hele andere manier invult, heb je grote kans dat mensen het ineens wel gaan lezen en iets meer gedwongen worden om erover na te denken.
Indien de burger geen andere keuze heeft dan de regels te volgen die de technologie hem oplegt, dan is het effect van technologie op het gedrag vergelijkbaar aan dat van wet- en regelgeving. In die zin klopt de uitdrukking code as law. In de bestuurskunde noemen we dat het fysieke sturingsmodel, waarbij fysieke maatregelen genomen worden waarmee gedrag beinvloedt wordt. Denk aan het plaatsen van een betonblok op de weg om daarmee sluipverkeer tegen te gaan, of aan het plaatsen van blauw TL licht op een openbaar toilet om daarmee drugsgebruik onmogelijk te maken. Het nemen van zo’n maatregel wordt gerechtvaardigd door de autoriteit van degene die daartoe besluit. Die autoriteit is verkregen op basis van het recht (bijvoorbeeld het eigendomsrecht, of het publiekrecht) , maar dat maakt m.i. nog niet dat de maatregel zelf ook als recht moet worden beschouwd.
Nee, het is juist architectuur, net zoals de betonblokken die je noemt. De wet stuurt door te dreigen met sancties; architectuur stuurt door bepaalde handelingen onmogelijk te maken.
Code maakt meestal bepaalde handelingen onmogelijk. Is er ook software waarbij bepaalde handelingen wel mogelijk blijven, maar door de code worden afgestraft? Ik kan niet meteen een voorbeeld bedenken.
Maar zijn huisregels dan geen recht? Die zijn immers ook op basis van recht genomen (het eigendomsrecht van het gebouw) en m.i. recht omdat je er contractueel aangebonden bent (aanvaarding door binnentreden dan wel kaartje kopen). Wanneer zou jij een maatregel zélf dan recht noemen?
Niet alle regels zijn m.i. rechtsregels. De individuele bevoegdheid om huisregels vast te stellen moet berusten op een rechtsregel, omdat men anders bij de handhaving met lege handen staat, maar daarmee is het product van die bevoegdheid niet opeens ook een rechtsregel geworden. Regels die zijn opgenomen in een privaatrechtelijke overeenkomst binden weliswaar de partijen, maar zijn daarmee geen rechtsregels. Om naleving van de regels uit die overeenkomst af te dwingen zul je je uiteindelijk toch moeten beroepen op een van de rechtsbronnen die we al kennen: wet, jurisprudentie, gewoonte, of verdragen.
Bedankt voor je verwijzing naar het “Pathetic dot” model. Ook leuk om hier nog even over verder te lezen op Wikipedia.
Ik voel me toch verplicht om een analogie uit de “echte” wereld toe te voegen.
“Law” is zoiets als een bordje ophangen “je mag hier niet naar binnen” of “verboden over het gras te lopen”. “Code as law” is dan zoiets als een slot op je deur aanbrengen, of een hoog hek om het grasveld heen zetten.
Ik denk dat je je vooral moet beseffen dat het bij “code” op vooral een veel subtielere manier gaat. Dus zoiets als een brug waar een bus net niet onder door kan. Of de inrichting van NS stations of Schiphol zo ingericht zijn dat de verschillende richtingen van stromen mensen automatisch gesplitst worden.
Code of law is vooral ook een onderdeel van de kwaliteit van je dienstverlening. Een onnodig strenge regel in je software zal de kwaliteit van je dienstverlening verminderen. Op de lange duur zal zal leiden tot steeds flexibeler en beter werkende regels in software. Want als de concurrent het slimmer of makkelijker aanbiedt dan moet de rest wel volgen.
Goed punt, maar dan moet er wel ruimte zijn voor concurrerende dienstverleners; de barrier of entry moet laag zijn, en netwerk-effecten moeten geen probleem vormen.
Dit is zowel bij overheden als bij veel internet-dienstverleners wel een probleem, maar overheden laten zich tenminste nog een klein beetje democratisch sturen.
“Code as law” zou ik eerder interpreteren als natuurwet dan als juridische wet. Een juridische wet kun je overtreden. Dat zie ik nog niet zo snel gebeuren met (bijv.) de wetten van Newton. Zo kun je ook de ingebouwde algoritmes van een computerprogramma niet ontkennen of terzijde schuiven. (Tenzij je het systeem hackt. Doortrekken van deze metafoor naar de natuurwetten is onderwerp van vele SF-verhalen.)
Doet me denken aan de boeken van Isaac Asimov, zeker zijn boeken over de wetten van de robotica, maar ook de Foundation serie is voor deze discussie heel relevant.
Laten we dit eens wat verder trekken. Je schrijft, recht is flexibel. Ik maak hieruit op dat er ruimte is voor interpretatie. Wat nu als we systemen a la AlphaGO (de computer die de wereld kampioen GO versloeg) loslaten op recht. Dit soort systemen zijn ‘lerende’ systemen die in staat zijn tot interpretatie. Wat gaat dit voor gevolgen hebben als we het over recht hebben?
“Dit is meteen ook het grote bezwaar tegen juridische regels vanuit softwarebouwerperspectief. Je kunt het eigenlijk niet automatiseren, je moet wel vuistregels ervan maken en een grove benadering invoeren die te automatiseren is.” Als onderzoeker geautomatiseerde besluiten van de overheid kijk ik nogal op deze opmerking. Sinds de jaren ’80 nemen computers al besluiten in de relatie overheid-burger door middel van expertsystemen. Soms is het een beslissingondersteunend systeem, soms meer dan dat. Dit is zelfs de reden dat wetgeving wordt veranderd, juist om mogelijk te maken dat computers het van ons overnemen. Dit is digitale disciplinering genoemd. Denk maar de post die je ontvangt van het CJIB: teruggebracht tot de juridische fictie dat de kentekenhouder de overtreding heeft begaan. Nu stellen dat het niet te automatiseren is, is dan wel wat in strijd met de werkelijkheid. Het gebeurt! Natuurlijk kan er frictie ontstaan tussen het recht, vooral het ongeschreven recht en het schrijven van software. Dat maakt het een interessant onderzoeksterrein waar ik nog uren over door kan schrijven maar niet doe omdat ik weer verder ga met mn onderzoek!
Natuurlijk kun je systemen bouwen die op basis van naar software vertaalde rechtsregels output produceren. Maar dat is voor mij niet hetzelfde als “juridische regels automatisch toepassen”, vanwege die fundamentele niet-automatiseerbare softe randjes die er aan zitten. Neem inderdaad de CJIB regels. Niet alleen is daar een fictie ingebouwd dat de kentekenhouder de overtreding begaat, er zit ook de fictie in dat wie de maximumsnelheid overschrijdt, in overtreding is en conform een tabel beboet moet worden. Die fictie is te kort door de bocht: stel ik moest snel naar het ziekenhuis met op de achterbank mijn kind met open hoofdwond. Dan ben ik niet strafbaar bezig. Maar dat kan het systeem niet aan, want die inschatting is niet geautomatiseerd te maken.
Het recht is niet recht door zee. Daarom zeg ik: het blijft bij vuistregels en benaderingen verzinnen en díe automatiseren. De uitzonderingsgevallen moeten dan handmatig worden opgelost. Ik kan in bezwaar en dan aantonen dat ik uit noodweer handelde. Maar dat is eigenlijk niet hoe het systeem bedacht is: het idee is dat meneer agent op de achterbank kijkt en zegt “rijd u snel door meneer” (of zelfs “wij rijden nu voor u uit, dan zijn we er het snelste” maar dat is geen recht meer). Nu krijg ik het gedoe omdat het systeem een wettelijke uitzondering niet aankan. Dat is toch een beetje raar?
Dit nog los van systemen die niet toelaten dat je je op een uitzondering beroept. “Computer says no” zoals we dat hier noemen.
Leuk van dat onderzoek! Als je er van de zomer een gastpost over wilt schrijven, dan houd ik me zeker aanbevolen!
Ik denk dat we het wel eens zijn maar juristen hebben nog wel eens de neiging te doen alsof datgene waar zij van vinden dat het niet zou moeten kunnen, ook niet gebeurt. In het bestuursrecht weten we niet beter dan dat je in bezwaar kunt gaan om al die redenen die hier genoemd zijn. Dat was ook al zo toen ambtenaren fouten maakten. De mens is ook niet perfect. De computer zou het wel eens beter kunnen doen qua foutpercentages! Zonder kennis daarover is het lastig te concluderen dat het recht zich dus niet leent voor automatisering. Mijn punt is: het gebeurt.
“Datgene wat de wet voorschrijft is niet te automatiseren” is iets anders dan “datgene wat de wet zou moeten voorschrijven is niet te automatiseren”; de zou moeten in de tweede bewering is gebaseerd op morele overwegingen. Als we de wet aanpassen om automatisering mogelijk te maken, dan lopen we het risico dat de wet daarna niet meer overeen komt met wat de wet zou moeten zijn.
Je voorbeeld van geautomatiseerde detectie van verkeersovertredingen is een interessante. Als een flitspaal een overtreding detecteert, dan zijn er nog allerlei manieren waarop dat niet tot straf zou moeten leiden:
Om deze redenen zou het altijd mogelijk moeten zijn om in beroep te gaan bij een menselijke rechter. Zelfs dan heb je een probleem van omgekeerde bewijslast: met de gegevens van de flitspaal heb je de schijn tegen je, en als individu ben je meestal in het nadeel als het gaat om het verzamelen van bewijs.
Er bestaat een mooie methode om met code de rechtssituatie rechtstreeks te beïnvloeden. Ik heb het natuurlijk over DRM, dat wil zeggen het verbod op het omzeilen van “doeltreffende” technische maatregelen die het gebruik van een auteursrechtelijk werk controleren. Door zo’n stuk code aan mijn werk toe te voegen, beperk ik met louter code de rechten die de ontvanger over mijn werk zonder mijn code zou hebben. En ik hoef niet eens EULA/TOS/algemene te hanteren.