Hoe ver kun je gaan met antiwettelijke systemen ontwikkelen?

Coercion-resistant design, ik vertaal het maar als antiwettelijke systemen maar het is het niet helemaal. De Engelse term kwam ik vorige week tegen bij BoingBoing, hij blijkt uit 2016 te dateren en refereert naar technische tegenmaatregelen die onwelgevallige juridische eisen omzeilen of zinloos maken. Het bekendste voorbeeld is de warrant canary, een tekstje in je jaarverslag dat je géén geheim bevel hebt gehad dit jaar. Als je die volgend jaar niet opneemt, overtreed je geen geheimhoudingsbevel want je zegt niets, maar de goede verstaander weet hoe het zit. Hoe sterk is dat nou?

De continue interactie tussen recht en techniek is een van de meest fascinerende aspecten van het internetrecht. Natuurlijk heb je in elk rechtsgebied dat mensen iets doen om de wet te omzeilen (pardon, te “ontwijken”) maar in de ict gebeurt dit zo veel, zo grootschalig en zo expliciet dat ik het echt wat anders vind. Zo ook de omgang met coercie of dwang vanuit de overheid. De neiging om daar dan iets tegen in te bouwen is volgens mij specifiek voor dit rechtsgebied/vakgebied.

Kan het? Ja, er zijn zeker ’trucs’ mogelijk om wettig gegeven bevelen onmogelijk te maken of hun werking te neutraliseren. Ik zeg truc tussen aanhalingsteken omdat het vaak neerkomt op het vermijden van de jurisdictie. (Stel je krijgt een bevel in Seattle, Washington dat je data moet afgeven. Dat je dan zegt, het datacenter staat in Duitsland dus ik kan er niet bij, vind ik niet echt een truc.)

Je kunt dat in software bouwen of het organisatorisch inrichten. Een voorbeeld van BoingBoing is dat je voor bepaalde aanpassingen aan je software twee digitale handtekeningen eist van mensen in twee jurisdicties, zodat er niet één overheid is die kan verplichten tot een zekere aanpassing (zoals een achterdeur). De persoon in de andere jurisdictie zal daar niet aan meewerken en kan niet worden gedwongen.

De onderliggende aanname is vaak wel dat overheden bepaalde dingen niet kunnen of mogen. Bij die warrant canary bijvoorbeeld is de aanname dat je niet gedwongen kunt worden een leugenachtige uitspraak te doen (“Wij hebben dit jaar wederom geen geheime bevelen gehad”, terwijl je die wél hebt gehad). Als die aanname niet klopt – en ik blijf erbij dat je bij canaries gedwongen kunt worden te liegen gezien de bedoeling van de geheimhouding – dan gaat zo’n juridische hack onderuit.

De voornaamste toegevoegde waarde van dit soort ontwerpen is denk ik vooral dat je expliciet nadenkt over eventueel misbruik van je dienst. Als alle communicatie via jouw servers gaat, is het goed te beseffen dat je gedwongen zou kunnen worden bepaalde berichtuitwisseling op te nemen, af te geven of te manipuleren. Daar op voorhand in je design rekening mee houden wanneer je dat niet wilt laten gebeuren is dan alleen maar goed. En ook dat is uniek aan internetrecht: het in programmeren van ethiek, van moreel besef.

Arnoud

17 reacties

  1. Ik denk dat ik anti-wettelijk systeem een slechte vertaling vind van “Coercion-resistant design” — noem het liever “dwangbestendig ontwerp” of “malversatiebestendig systeem”. Ook zou ik het niet beschouwen als zomaar trukjes om wettelijke eisen te omzeilen, maar als mechanismes om de integriteit van systemen te beschermen. De blockchain is een typisch voorbeeld van zo’n mechanisme. Het gebruik van meerdere jurisdicties is zo’n beetje de enige optie die je hebt als overheden zich gaan gedragen als dwingelanden. Doe dan alsjeblieft niet alsof overheden altijd goed zijn: we zien om ons heen dat veel lander extreem in willen grijpen in de grondrechten van mensen, zonder dat daar effectief binnen het systeem in beroep tegen te gaan is. Dan is het opkomen voor die mensenrechten niet alleen maar een recht, maar zelfs een plicht. Overheden in democratische landen die mensenrechten en transparantie claimen te ondersteunen doen er dan ook goed aan dit soort mechanismes te ondersteunen en in een aantal gevallen zelfs te verplichten.

    1. Ik denk dat democratische landen alleen dwangbestendige systemen zullen willen ondersteunen die geen onderdak bieden voor criminelen, belastingontduikers en witwassers. De overheid gebruikt namelijk ook dwang voor het handhaven van wetten en voor het innen van belastingen.

      1. Ik denk dat democratische landen alleen dwangbestendige systemen zullen willen ondersteunen die geen onderdak bieden voor criminelen, belastingontduikers en witwassers.

        Wat feitelijk betekent dat zij geen GPL projecten willen ondersteunen. Software onder een GPL license mag voor alle doeleinden worden gebruikt door alle gebruikers.

          1. Want criminelen misbruiken software alleen als het mag van de licentie?

            Dat heb ik niet beweerd. Ik gaf alleen aan in reactie op de gedachte van Hal dat overheden dan geen GPL projecten willen ondersteunen en dat de GPL geen beperkingen oplegt in het gebruik van software onder een GPL licentie, onafhankelijk of iemand crimineel genoemd kan worden of niet.

        1. In de praktijk komen democratische overheden pas in actie als systemen speciaal worden aangepast of ontworpen zijn om criminaliteit te ondersteunen. De HEMA mag bijvoorbeeld nog steeds messen verkopen, hoewel criminelen daar gebruik van kunnen maken. Idem voor bivakmutsen en integraalhelmen. Dat er GPL software is die voor criminaliteit ingezet kan worden (encryptiesoftware bijvoorbeeld) is dus in een democratische rechtsstaat geen issue. Er kan van alles. Maar een ransomware-generator onder GPL zou wel verboden worden. De licentie doet er eigenlijk niet toe.

      2. De meeste van dit soort systemen zijn juist gericht op het verhogen van transparantie. Dat kan ook helpen bij het bestrijden van criminelen, een bepaalde categorie criminelen, en een verdere ondercategorie van de categorie. Sterker, zij beschermen ook tegen dwang door diezelfde criminelen.

      1. De praktijk laat zien dat dit in meer landen niet dan wel werkt, en dat dit soort dingen heel snel kunnen veranderen. Een stukje weerbaarheid op individueel niveau van tevoren in je maatschappij inbouwen is dan raadzaam.

        1. Wat is een grondrecht? Iets is alleen een grondrecht als een overheid zegt dat dat het is. Anders is het een fictie. En hoe onderscheidt je het tegenwerken van de overheid TER bescherming van grondrechten, van het tegenwerken van de overheid BIJ het handhaven van grondrechten?

          1. Dat is wel een heel legalistische benadering… En niet waar, omdat hier verdragen over zijn. Op een meer pragmatisch vlak: grondrechten zijn een essentieel onderdeel van de democratische rechtsstaat, en daarmee het beste middel dat we tegen oeverloos geweld hebben. Ze ondermijnen leidt uiteindelijk tot chaos en verwoesting. Overheden die dit negeren spelen met vuur.

            1. En wie zijn dan de partijen bij die verdragen? Wie handhaven die verdragen? Jij en ik kunnen wel vinden dat iets een grondrecht is maar totdat dat ergens op een vel papier staat waarmee je naar een rechter kunt is dat weinig meer dan een mening. Zonder overheid kom je niet ver. Beetje flauw verder om iemand met een juridisch argument (op een juridisch blog) van ‘legalisme’ te beschuldigen. Tenminste dat denk ik want ik heb geen idee wat het is. Klinkt een beetje vies iig.

  2. Ter reparatie van de dwang om een valse warrent canary te publiceren kun je deze steeds ondertekenen met een prive-sleutel. Op het moment dat je een bevel krijgt gooi je meteen de sleutel weg, zodat je geen valse canary meer kunt publiceren, zelfs al dreigen ze je in plakjes te snijden op een vleessnijmachine…

    Ook belangrijk is dat je duidelijk maakt wat je beperkingen zijn. Dat gebeurt helaas nog veel te weinig transparant.

      1. Wat doe je verkeerd als je die melding goedkeurt dan? Als je een backdoor in de software hebt is het een volkomen legitiem doel dit soort meldingen in te bouwen om misbruik te voorkomen. Een wettelijk veplichte backdoor kan immers ook misbruikt worden door derden. Daarom is het zo’n slecht idee om er uberhaupt één in te bouwen. Die functie is natuurlijk ingebouwd om misbruik te detecteren, een volkomen legitiem belang. En die gaat automatisch, dus er is geen leidingevende die de melding goedkeurt.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.