Is code as law eigenlijk wel recht? #vrijmorefi

| AE 8553 | Informatiemaatschappij | 32 reacties

Code as law, een bekende kreet in het internetrecht. Deze door professor Lawrence Lessig bedachte kreet betreft het fenomeen dat software gedrag afdwingt, en daarmee in feite reguleert net zoals in de ‘echte’ wereld de wet dat doet. In een interessante reactie stelde Sander dat “de code of law (en andere onderwerpen) niet in de categorie van het internetRECHT [hoort].” Is het wel recht, code?

Het fenomeen heet eigenlijk code is law: de software bepaalt hoe dingen gaan, wat mag en wat niet. Softwares wil is wet. En dan bedoelen we dus niet een EULA of TOS die zegt “Op dit platform geen porno”, het gaat over algoritmes en ingebouwde regels die afdwingen dat de dingen op een bepaalde manier gaan. “Uw profielfoto is afgekeurd want de beeldherkenning meende pornografie te bespeuren”. Of “Volgens uw Facebookprofiel bent u ouder dan 18, kom binnen”.

Strikt gesproken is dit inderdaad geen recht. Het recht beschrijft de regels die de samenleving reguleren. Die regels zijn door de overheid opgelegd, in ons geval door een democratisch proces bedacht en ingevoerd. En dat invoeren gebeurt door ze te publiceren in het Staatsblad of een ander officieel orgaan, waarna de verwachting is dat iedereen zich er netjes naar gaat gedragen. Code wordt niet door de overheid opgelegd, maar door private partijen. Er is geen democratisch proces, de leverancier zegt gewoon hoe het bij hem werkt en dwingt dat af met een implementatie-restrictie.

Op zich zijn private regels niet nieuw. Menig café of nachtclub heeft huisregels, variërend van “geen sneakers” tot statuten van twintig pagina’s. Die huisregels zijn bindend omdat ze een overeenkomst vormen tussen exploitant en bezoeker. Het oude Burgerlijk Wetboek formuleerde dit mooi: “Alle wettiglijk gemaakte overeenkomsten strekken dengenen die dezelve hebben aangegaan tot wet” (art. 1374, lid 1 oud BW). Een overeenkomst wordt wet (voor jou en je wederpartij). Dus vanuit dat perspectief zeg ik, code is wél recht.

Het lastige aan code as law vind ik vooral dat code tegen de wet in kan gaan. Of iets preciezer gezegd, dat code de wet beperkt zodat je minder kunt dan je eigenlijk mag. Vaak gaat dat nogal ijzerenheinig: computer says no. Je mag geen video uploaden waar meer dan 3 seconden beschermde muziek in zit, want volgens de code is dat geen citaat. Je bent geen 18 dus je mag niets aanschaffen, ook al mailt je moeder een keurige toestemming ex. art. 1:234 BW.

Daar zit denk ik het verschil tussen code en recht. Code is rechtlijnig, recht is flexibel. Recht houdt rekening met omstandigheden en uitzonderingen. Code doet dat niet, tenzij het expliciet is ingebouwd. Maar meestal kan dat niet, omdat uitzonderingen zelden in harde regels te vatten zijn. Mijn standaardvoorbeeld is artikel 6:248 BW: een wet of afspraak geldt niet als dat redelijkerwijs onaanvaardbaar is (de ultieme exception handler, zeg maar). Dus ongeacht wat de wet zegt en ongeacht wat je samen afspreekt, als dat gewoon niet mooi meer is, dan houdt het op. Implementeer dát maar eens.

Dit is meteen ook het grote bezwaar tegen juridische regels vanuit softwarebouwerperspectief. Je kunt het eigenlijk niet automatiseren, je moet wel vuistregels ervan maken en een grove benadering invoeren die te automatiseren is. Het recht schaalt niet. Je kunt niet tienduizend notice/takedownclaims per dag verwerken door ze stuk voor stuk door een jurist te laten bekijken, dat moet een algoritme doen. Code as law zal dus altijd die nuance verliezen, en de mogelijkheden tot uitzonderingen of zelfs maar reclameren zullen steeds minder worden.

Om te groeien en om steeds mooiere diensten te leveren zal het onvermijdelijk blijken om steeds meer code-recht te ontwikkelen. Maar daarmee wordt dit probleem alleen maar groter. Ik weet er alleen geen oplossing voor. Redelijkheid is niet programmeerbaar. Dus dit gaat echt een heel groot probleem worden.

Arnoud

Wat nou als je URL de inhoud *is*?

| AE 8025 | Ondernemingsvrijheid | 41 reacties

hash-signEen lezer wees me op dit Slashdotbericht over “unhosted data”: je kunt in een URL achter het #-teken alle data opnemen die je wilt, dus ook bijvoorbeeld een foto of tekstbestand in gecodeerde vorm. Vervolgens kun je die URL verspreiden zoals dat met alle URL’s kan, waardoor je de content verspreidt zonder dat je die ergens hoeft te hosten. Leuk idee, maar kom je er bij de rechter mee weg?

Ik noem rechters wel eens Do-What-I-Mean compilers van het recht, en dat is vanwege dit soort grappen. Het idee op zich is natuurlijk nieuw, maar uiteindelijk gaat het er bij het recht nooit echt om hoe iets nu precies technisch werkt. Wat je doet, speelt wel mee, maar het effect van wat je wilt bereiken weegt minstens zo zwaar.

Als je in feite niets anders van plan bent dan de wet omzeilen, dan heb je toch echt een probleem. Rechters hebben misschien weinig verstand van URL’s, maar ze hebben al meer dan 500 jaar ervaring met bijdehante figuren die met “ja nee maar eigenlijk doe ik alleen maar” aankomen en dan de meest fantastische verhalen ophangen terwijl duidelijk is wat er eigenlijk gebeurt. Daar wordt dus al snel doorheen geprikt.

In dit geval zegt de bedenker, ja nee maar eigenlijk stuur je dan mensen alleen een URL. Dat is niet waar: je stuurt mensen een stuk content, al dan niet in strijd met andermans rechten (of een andere wet). Juridisch gaat “het is maar een URL” hem dus niet worden – you can’t hack the law.

Het doet me denken aan oudere grappen waarbij bijvoorbeeld een film werd gecodeerd tot een heel groot priemgetal. Wie daar bezwaar tegen had, wilde in feite priemgetallen verbieden. Nee: je bent een film aan het verspreiden. Dat jij voor een manier kiest waarbij de codering een priemgetal oplevert, is dan niet meer relevant.

Natuurlijk, het is een leuke truc en het zal een stuk lastiger zijn om dit soort informatieverspreiding aan te pakken dan ‘gewoon’ een site waar dingen gepubliceerd staan. Maar dat iets lastiger aan te pakken is, betekent nog niet dat het juridisch ineens vernieuwend is.

Arnoud

In strijd met het goed fatsoen – maar wiens fatsoen?

| AE 4724 | Informatiemaatschappij | 25 reacties

cartoon-new-yorker-mick-stevensVandaag weer even een filosofisch iets, en dat mag want ik ben jarig. Ik las een intrigerend artikel in de NY Times:

Impermium, a Silicon Valley company that helps Web sites deal with unwanted reader comments, has begun marketing technology that identifies “all kinds of harmful content — such as violence, racism, flagrant profanity, and hate speech — and allows site owners to act on it in real-time, before it reaches readers.” Impermium will police the readers — but who will police Impermium?

Steeds meer handhaving van regels en normen gebeurt automatisch. En wanneer je dat wilt doen, moet je harde regels invoeren anders kan de computer er niks mee. Voor IT-ers is het dus doodnormaal dat je normen vertaalt naar criteria en die vervolgens inprogrammeert en handhaaft.

Maar juristerij werkt niet zo. Neem bijvoorbeeld het citaatrecht: je mag “niet meer dan nodig” overnemen. Hoe veel tekens dat is, hangt dus af van wat je overneemt en waarom. Dat is niet te programmeren. Vragen “hoe veel tekens mag je overnemen” is dus een juridisch niet te beantwoorden vraag. Toch komt ‘ie bij mij bijna wekelijks langs, en mensen willen dan graag gewoon horen dat het 200×150 is mits met bronvermelding. Want dan kunnen ze hun botje en plaatjesverkleinscript afronden en de site live zetten.

Een ander voorbeeld dat men noemt is de autocomplete/autosuggest functie van Google. Woorden die rieken naar seks of onwelvoeglijkheid of ongepastheid naar Amerikaanse normen en waarden, worden niet aangevuld. Wie “amateu” intypt, krijgt er geen r bij want dat kan wel eens tot porno leiden. En nou ja dat is vast meestal ook wel zo, maar hoe wéét je dat als algoritme?

Een vergelijkbaar probleem doet zich voor bij de breinbotjes – ik bedoel de auteursrechthandhavingsagents die het internet afschuimen en sites een notice & takedown sturen op basis van automatisch getrokken conclusies. Dat gaat niet per se goed, zie dit artikel waarin een volledig legale livestream van de Hugo awards offline werd gehaald door zo’n automatische actie.

Gaat dat ooit werken, met algoritmes normen handhaven? Ik zie het niet gebeuren.

En zelfs wanneer je het aan mensen overlaat, loopt het niet per se lekker. Neem het plaatje rechtsboven (tekening van Mick Stevens). Gewoon een cartoon zou je zeggen, maar deze cartoon mocht niet op Facebook vanwege aanstootgevend. Hoezo? Nou ja, het afbeelden van ontblote vrouwenborsten is tegen de normen op Facebook. En ja die zwarte stipjes dat zijn blote borsten. (Mannenborsten mogen dan weer wél bloot, kennelijk.)

Hier wringt natuurlijk ook een stuk Amerikaans versus Europees fatsoen. Waar geweld geen enkel probleem is maar naakt des te meer. Bij ons lijkt dat eerder andersom te zijn. Dus wiens normen gebruik je dan als wereldwijde dienstverlener? De grootste gemene deler van alle normen ter wereld is nogal beperkt zeg maar.

Arnoud