Kabinet wil notice/takedown van extremistische uitingen opvoeren

Het kabinet wil verspreiding van online radicaliserende, haatzaaiende, gewelddadige jihadistische informatie tegengaan, maakte men vorige week bekend. Onderdeel daarvan is een specialistisch team dat notice/takedownbevelen gaat geven aan tussenpersonen zoals Facebook. “Ook maakt het team afspraken met internetbedrijven over effectieve blokkeringen.”

Onder de huidige wet is het mogelijk een bevel tot verwijdering te geven van een strafbare uiting (art. 54a Strafrecht). Wel vereist dit een machtiging van de onafhankelijke rechter-commissaris – de Nederlandse variant op wat in de VS een “gerechtelijk bevel” heet. Er is dus géén rechtszaak nodig waarin de tussenpersoon of de plaatser gehoord hoeft te worden.

Het persbericht lijkt te suggereren dat men het eerst vrijwillig wil vragen. Er is immers een notice/takedown gedragscode waar diverse internetbedrijven zich aan hebben gecommitteerd (al kan ik geen lijst vinden) en via die code mag iedereen vragen of iets weggehaald kan worden als het evident onrechtmatig is.

Iedereen? Nou ja bijna iedereen: volgens mij mag de politie echt niet vrijwillig vragen. Bevoegdheden van politie en Justitie zijn wettelijk geregeld, en alles dat men doet moet te herleiden zijn tot een bevoegdheid. En omgekeerd, als iets te herleiden is tot zo’n bevoegdheid dan móet men die gebruiken.

Inclusief de bij die bevoegdheid opgenomen grenzen. Dat is namelijk het punt: in de wet zijn waarborgen opgenomen, en die kun je dan niet zomaar passeren door het “vrijwillig vragen” te noemen. Zeker als je bedenkt dat veel mensen niet weten wanneer de politie iets vraagt en wanneer ze iets beveelt, of hoe je effectief “nee” kunt zeggen als de ondertoon is “dan komen we terug met een bevel en gaat je hele tent op z’n kop, plus je riskeert dan zelf vervolgd te worden”.

In het wetsvoorstel computercriminaliteit III werd overigens in eerste instantie voorgesteld die toets door de rechter-commissaris te schrappen. Maar de tekst zoals die er nu ligt, vereist wél (in nieuw art. 125p Sr) een machtiging van de rechter-commissaris.

Ik heb geen idee van hoe zeer Facebook of Twitter onder de indruk zal zijn van een Nederlands bevel.

Arnoud

21 reacties

  1. NTD moet geen tool voor de overheid worden. Laat de overheid 54a gebruiken. Als wij gaan toestaan dat NTD gebruikt wordt om de vrijheid van mening te beperken slaan wij een hele gevaarlijke weg in. In de gesprekken die ISPConnect en DHPA met de overheid hebben is dit ook onze boodschap. Als branche zien wij hier het gevaar van in en dat geven wij duidelijk aan.

  2. Aan de andere kant vind ik het wel handig dat je gewoon even een mailtje krijgt ‘goh, zou je dit willen weghalen, anders gaan we naar de rechter-commissaris’ dan dat je ineens een ‘in naam der Koning’ brief op de mat hebt liggen. Het scheelt ook capaciteit bij het OM / rechterlijke macht die ze dan weer aan belangrijker dingen kunnen besteden.

    1. Het probleem is niet alleen dat je als hoster moeilijk kan bepalen óf het een terecht verzoek is maar dat het lastig is om een verzoek van de politie te negeren. Daarbij zullen veel hosters die geen juridische afdeling hebben niet weten dat ze het verzoek mogen negeren en het dus maar uitvoeren omdat die niet weten wat de gevolgen zijn als ze niet luisteren naar de politie.

      Daarbij komt nog, stel dat er wel iets gebeurt naar aanleiding van die content. De politie zal dan de zwarte piet doorschuiven naar de hoster (we hebben ze nog gevraagd het weg te halen) waardoor er nog eens meer (onterechte) druk bij de hoster komt te liggen om aan zo’n verzoek gehoor te geven.

      Als je het OM / rechterlijke macht wil ontzien dan zal je openbaar moeten gaan rapporteren hoe vaak zo’n verzoek is gedaan en wat het resultaat er van was. Ook zou er (wat mij betreft) inzage moeten zijn in de neergehaalde content zodat bijv, journalisten of BoF kan zien of er misbruik gemaakt wordt van de bevoegdheid.

      1. Ik zou me een systeem kunnen voorstellen waarbij de ISP elke NTD honoreert maar direct / automatisch een mail naar de eigenaar stuurt met een mogelijkheid om de beslissing aan te vechten, waarbij de content (automatisch) gedeblokkeerd wordt totdat er een gerechtelijke beslissing is. Tevens een openbare lijst met alle NTDs en de statussen daarvan. Als dan blijkt dat een groot percentage van de NTDs uiteindelijk onterecht waren dan heb je in ieder geval iets in je hand om iets aan het systeem te kunnen veranderen.

        1. De Nederlandse overheid laat helaas zien dat het vaak misbruik maakt van dat soort bevoegdheden (kijk bijvoorbeeld naar het hoge aantal telefoontaps). Bij een automatische takedown is het kwaad al geschied en misschien wil degene die het gepubliceerd had wel niet in de openbaarheid om het aan te vechten.

          Ik ben ook erg benieuwd of de 2e kamer leert van z’n fouten (waarschijnlijk niet) want ze lopen er telkens tegen aan dat er achteraf geen transparantie is op dit soort dingen (zie wederom de telefoontaps).

    1. Waarom niet? Een boekhandel bepaalt ook welke boeken er wel en niet verkocht worden en een tijdschrift welke ingezonden brieven worden geplaatst. In de ICT wordt veel te vaak het argument van “wij leveren spullen, we gaan niet bepalen hoe de klant ze gebruikt” naar voren gebracht. Uiteraard vooral als het financieel zeer aantrekkelijk is dit standpunt in te nemen.

  3. Wel vereist dit een machtiging van de onafhankelijke rechter-commissaris – de Nederlandse variant op wat in de VS een “gerechtelijk bevel” heet

    Je hebt in de VS meerdere soorten mogelijke gerechterlijke bevelen. De warrant en de subpoena. Je doelt in deze vermoedelijk op een warrant.

  4. Ik heb geen idee van hoe zeer Facebook of Twitter onder de indruk zal zijn van een Nederlands bevel.

    Bij Facebook kan een nederlandse rechter bij weigering te voldoen aan een bevel nog beslag laten leggen op het domein facebook.nl of op de Nederlandse vestiging van Facebook. Bij Twitter ligt dat lastiger maar ook dan zouden in heel extreme situaties rechters maatregelen kunnen nemen die schadelijk zijn voor twitter via andere partijen (telco’s, ISP’s of appstores)

  5. Wat is nou precies het soort uitingen waar tegen wordt opgetreden? Is het acceptabel dat de overheid dat soort uitingen tegengaat?

    Doet me denken aan een discussie over free speech die ik een tijdje geleden heb gezien. De vraag daar was:

    Which of the following is the limit statements below and including which should be punished by the state (or otherwise justifiably responded to with violent force) and statements above which should be allowed? * I don’t like people with blue eyes. * People with blue eyes have a negative impact on society. * The world would be better off without people with blue eyes. * I think people with blue eyes should leave the country or kill themselves. * I approve of people doing something (or “People should do something”) to push against those blue-eyed scum. * I approve of people going out and killing those blue-eyed scum. * You, [specific person], should go and kill five blue eyed people right now. * If you, [specific person], kill five blue-eyed people right now, I’ll give you 200 bitcoins. * All of the above should be legal.

    1. Goede vraag. In Nederland hebben we vrijheid van meningsuiting. Je moet dus wel een mening uiten, en geen opdracht geven. Aan de andere kant heb je bij deze uitingen nog de keuze om ze te negeren. Anders wordt het met: * If you, [specific person], don’t kill five blue-eyed people right now, you should be killed too. (meningsuiting) * If you, [specific person], don’t kill five blue-eyed people right now, I will kill you. (dreigement)

      Hmm. * I don’t like people exercising their free speech rights. * People exercising their free speech rights have a negative impact on society.

      1. Het is niet zo strikt dat als je “ik vind” zegt, het automatisch legaal is. Het gaat erom wat je intentie is en wat je uitlokt of hoopt door wat je zegt. “Ik vind dat wie vijf blauwogigen vermoord, 5 euro moet krijgen” is m.i. op het randje van strafbare uitlokking van moord. Je weet dat hier de intentie in zit om dit te laten gebeuren, en niet alleen maar “ik vind blauwogigen stom”.

        1. Intentie is niet meetbaar. Ik ben zelf geneigd om handelingen te beoordelen op basis van consequenties, of eventueel op basis van potentiële consequenties, voor zover de verantwoordelijkheid voor die (potentiële) consequenties niet gedragen kan worden door mensen later in de oorzaak-gevolg keten.

          Wat voor uitingen worden nu echt bestreden door de overheid? Zijn dit uitingen van het type dat die recente onthoofding goedpraat of zelfs verheerlijkt? Dat is een walgelijk soort uiting, maar niet een soort uiting dat directe consequenties zal hebben. En, zo je wilt, wat zijn de intenties van zo’n soort uiting? Wat voor intenties mag je niet hebben?

    2. Het is niet alleen de statement maar ook de context. Als Geert Wilders iets zegt op een politieke bijeenkomst of een caberetier iets zegt als onderdeel van een grap maakt dat veel uit. En ook op het interent is de context relevant maar vaak worden geschreven teksten en zeker ook op het internet geschreven teksten die grappig bedoeld waren veel serieuzer opgenomen dan ze bedoeld zijn. Mondeling is er vaak veel meer nuance in de context.

      Een kort twitterbericht bevoorbeeld is vaak heel slecht in een context te lezen en zal al heel gauw groepen mensen beledigen. Op twitter moet je dus veel beter oppassen wat je zegt omdat een opmerking daar al veel sneller als discriminerend, haatdragend of zwaar beledigend zal worden opgevat. Een zelfde tekst in column met veel ruimere context kan al veel onschuldiger worden opgevat.

    3. Wat is nou precies het soort uitingen waar tegen wordt opgetreden? Is het acceptabel dat de overheid dat soort uitingen tegengaat?

      Voor zover de betreffende uitingen naar nederlands recht strafbaar zijn (bijvoorbeeld groepsbelediging of aanzetten tot haat, 137c 137d Sr) lijkt het me het in beginsel acceptabel dat er wordt opgetreden, vraag is vooral hoe. (We gaan hier in europa weliswaar aanzienlijk strenger om met discriminerende en haatzaaiende uitingen dan bijvoorbeeld in de VS, maar dat is gezien het recente verleden van europa goed verdedigbaar)

      Probleem is wmb niet wat er wel en niet gezegd mag worden, maar wie het toetst. Je uitingen van facebook gooien is een aanzienlijke beperking op je uitingsvrijheid. Het lijkt me inderdaad onwenselijk dat de overheid om verwijdering vraagt als daarvoor geen bevoegdheid bestaat, omdat elke risico-averse tussenpersoon direct op het verzoek in zal gaan om mogelijke consequenties te voorkomen. Geen goed idee!

  6. Kunnen we een Streisand-effect verwachten als de overheid een website-beheerder vraagt om iets te verwijderen, en de beheerder dat niet alleen weigert, maar de publiciteit zoekt met een verwijzing naar zowel het verwijderings-verzoek als het te-verwijderen materiaal?

    Verder wordt er een geactualiseerde lijst van online jihadistische (sociale media) websites gepubliceerd. Gemeenschappen, professionals en ouders kunnen deze lijst gebruiken om hun omgeving te waarschuwen.

    Ik ben ook wel benieuwd naar die lijst: ik verwacht een aardige indruk op te doen van wat dit kabinet nou allemaal wil blokkeren.

    1. Ik verwacht inderdaad wel een Steisand-effect en zelfs zo dat in normale media het gewraakte stuk alsnog komt te staan. Ik vermoed dat als het in een groter stuk staat waarbij er duiding gegeven wordt aan het haat-zaaiende stuk, dat het opeens wel mag? Effectief is het dus de vraag of je er iets mee opschiet.

      1. Kunnen we een Streisand-effect verwachten als de overheid een website-beheerder vraagt om iets te verwijderen, en de beheerder dat niet alleen weigert, maar de publiciteit zoekt met een verwijzing naar zowel het verwijderings-verzoek als het te-verwijderen materiaal?

        Als een ISP bijvoorbeeld haatdragend materiaal weigert te verwijderen op verzoek van justitie en dan ook nog de publiciteit zoekt loopt de provider natuurlijk wel risico’s op heel boze groeperingen in de samenleving en dan dus ook op zaken als bedreigingen en of DDoS aanvallen. Lijkt me een onverstandige zet.

        Als het gaat om een individu die bijvoorbeeld belasterd wordt en waarbij de ISP weigert te verwijderen dan is de ISP daarna civielrechterlijk aansprakelijk te stellen voor schade die die persoon leidt. En die schade neemt vrijwel zeker alleen maar toe als de ISP de publiciteit zoekt. Een rechter zal eerder een schadevergoeding toekennen en die hoger laten uitvallen als een partij opzettelijk meer publiciteit rondom een negatieve publicatie onketent.

        Dat is dus ook oonverstandig.

        Je moet als ISP nooit de publiciteit zoeken over een verwijderingsverzoek. Dat levert je niks op en geeft wel risico’s op schade. Als je twijfelt over de legitimiteit van het verzoek dan vraag je om een gerechterlijk bevel of vraag je om nadere toelichting of geef je het verzoek in handen van een jurist voor een advies.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.