Stichting Offlimits, Expertisecentrum Online Misbruik, heeft bij verschillende toezichthouders een klacht ingediend om Telegram te dwingen strafbare content offline te halen. Dat meldde Security.nl maandag. Het gaat om zaken als aanbod van wapens, drugs, beeldmateriaal van seksueel kindermisbruik en bangalijsten. Diverse lezers vroegen me: hoezo kan een stichting eisen dat dit offline gehaald wordt?
De constructie die Offlimits (gelieerd aan deze zaak uit 2023) gebruikt, is een heel legitime. Het wemelt in Nederland van de toezichthouders, zoals de Autoriteit Persoonsgegevens en de Autoriteit Consument en Markt. Die kun je vragen om de regels te handhaven, en zo’n verzoek moeten ze serieus in behandeling nemen. Het is dus niet zo dat Offlimits zelf bedenkt wat strafbaar is of dat ze de regie over wil nemen.
Het handhavingsverzoek staat online. Men opent met de constatering dat het Openbaar Ministerie niet strafrechtelijk wil optreden tegen Telegram, hoewel daar juridisch best ruimte voor is. De reden “omdat Telegram, aldus het OM, ‘toch geen gehoor geeft aan zo’n bevel’.” Het bedrijf zit immers niet in de EU, maar dit voelt wel érg makkelijk.
De overtredingen van de DSA en AVG zijn vrij evident, en het verzoek licht dat grondig toe. AVG technisch is de kern dat er zonder toezicht of controle bijzondere persoonsgegevens (zoals op de bangalijsten of kindermisbruikafbeeldingen) worden verwerkt. De DSA eist een effectief notice-and-action protocol, en dat heeft Telegram niet.
Alleen, wat kunnen de toezichthouders hier anders doen dan wat het OM ook al constateerde? Ja, boetes opleggen die in de vele miljoenen kunnen lopen. Een bevel met dwangsom geven dat aanpassingen zoals een filter eist. De betreffende content te wissen. Enzovoorts. Maar dan steekt Telegram vanuit Rusland een ??????? ????? op, en dan?
De échte volgende stap zou zijn naar een afsluiting van de dienst te gaan, als blijkt dat die zich in het geheel niet wenst te conformeren aan de Europese regels. Daar is ruimte voor, toezichthouders (en zeker de Europese Commissie, als Telegram als VLOP aangemerkt gaat worden) kunnen vérgaande bevelen geven, zolang die maar proportioneel en passend zijn gezien de overtreding.
Het zou een primeur zijn als Europa zo ver zou gaan, want het zo laten zien dat we écht bereid zijn onze regels te handhaven.
Arnoud
Met de poging van Rusland nog vers in het geheugen (https://en.m.wikipedia.org/wiki/BlockingofTelegraminRussia), ben ik benieuwd hoe zo’n afsluiting eruit zou zien.
Nederland zelf zal niet veel kunnen doen, maar als de EU zich er mee gaat bemoeien wordt het een ander verhaal. Buiten technische maatregelen zoals ip/dns blocks? De EU kan Google en Apple dwingen de app uit de stores en van smartphones te verwijderen. Ze kunnen financiele instellingen de keus geven tussen zakendoen met telegram of zakendoen in de EU. Ze kunnen arrestatiebevelen uitzetten voor de CEO en dergelijke. Opties genoeg als dit ver genoeg gaat.
Als het net zo succesvol is als de afsluiting van rt.com van is het antwoord “alsof het er niet is”.
Het gros van de Nederlanders kan niet meer bij RT.com, alle Nederlandse providers blokkeren deze site. Wat mij betreft is die blokkade dus een prima succes. Zoals ik wekelijks op deze blog zeg, juridische maatregelen hoeven niet 99,9% sluitend te zijn om effectief genoemd te worden.
Het gros van de Nederlanders kan er nog wel bij, als ze dat perse willen, maar ze lopen er niet meer per ongeluk tegen aan, en dat is al genoeg.
Als het blokkade-middel echter te vaak wordt toegepast, dan worden de middelen om dit te omzeilen zo gemeenplaats dat bijna iedereen ze installeert, en is het dus niet meer effectief.
Telegram zit niet meer in Rusland, maar in de Verenigde Arabische Emiraten. Punt blijft staan natuurlijk.
En de Maagdeneilanden, volgens de Wikipedia: https://en.wikipedia.org/wiki/Telegram_(software)
Telegram zit volgens mij niet in Rusland maar officieel op de Britse Maagden Eilanden en operationeel vooral in Dubai waar ook de gebroeders Durov verblijven. Ik denk dat de EU daar wel degelijk invloed op kan uitoefenen.
In Frankrijk is net Pavel Durov gearresteerd. Nu er een oprichter van Telegram is opgepakt in de EU kan medewerking van Telegram aan bepaalde eisen van Europa zo maar eens werkelijkheid worden.
Ik begrijp de wens wel van de stichting, maar net als ik eerder in soortgelijke gevallen heb beargumenteerd blijf ik vinden dat we te ver gaan met het beperken van toegang of het proberen die dienst af te sluiten.
Zoals ik het zie zijn het de mensen die in of vanuit Nederland handelen in wapens of drugs of verboden afbeeldingen die de strafbare feiten plegen; Telegram is slechts het middel dan men daarbij gebruikt. Het argument is dan dat Telegram iets maakt dat die verboden handelingen faciliteert, en dat zou een goed argument zijn als het plegen van verboden handelingen het doel of de enige toepassing zou zijn van die app, maar dat is niet zo. Telegram wil slechts mensen de mogelijkheid geven om besloten en prive met elkaar te communiceren, en het gevolg daarvan is dat ook criminelen dat dan kunnen doen. Ik zie het verschil niet met de bouwmarkt die een koevoet verkoopt; dat is gemaakt om mee te klussen aan je oude tuinhuisje maar je kan het ook gebruiken om mee in te breken. Is de bouwmarkt aansprakelijk of verantwoordelijk voor inbraak? Neen, het is de inbreker die de verboden handeling pleegt. Op dezelfde wijze is de Volkswagen groep ook niet verantwoordelijk voor ramkraken gepleegd met Audi’s.
Het is domweg niet mogelijk om aan de ene kant wel een app te hebben die gebruikt kan worden door journalisten, klokkenluiders, vrijheidsactivisten, artsen, advocaten en gewoon gezinsleden en geliefden om versleuteld en besloten met elkaar te communiceren, maar aan de andere kant te zorgen dat criminelen het niet kunnen gebruiken. Dit nog afgezien van het probleem dat die mensen het een of het ander of allebei zijn, afhankelijk van aan wie je het vraagt. En dan heb je ook nog het probleem dat de een z’n vrijheidsstrijder de ander z’n terrorist is. Maar goed, dit soort overwegingen vind de EU niet zo heel erg boeiend, getuige ook bijvoorbeeld de pogingen om client-side scanning op te dringen. Nederland is niet het enige regime dat wel zegt fundamentele vrijheden heel erg belangrijk te vinden, maar die als puntje bij paaltje komt vaak toch kiest dat op te offeren in de naam van vermeende veiligheid. Ook hier weegt voor de staat repressie vaak zwaarder dan burgerrechten. Denk ook terug aan de advocaten die toch werden afgeluisterd, de klokkenluiders van allerlei schandalen zoals de toeslagenaffaire en de problemen bij Defensie die toch vervolgd werden of de Telegraaf journalisten die werden vastgezet voor het beschermen van hun bronnen.
Telegram zit ook buiten de EU, ik vraag me af waarom wij denken dat we daar echt iets over te zeggen hebben en welk recht we onszelf toekennen om dingen op te leggen. Zoals ik het zie trekken we een veel te grote broek aan; het zijn inwoners van de EU c.q. Nederland die die dienst willen gebruiken, soms voor criminele doeleinden, en dan vinden we blijkbaar dat een niet-EU bedrijf dat niet in de EU zit wel onze wetgeving aldaar moet handhaven. Als de EU het echt meent dan zouden ze voet bij stuk moeten houden en moeten voorstellen om het gehele Europese deel van het Internet af te koppelen en te voorzien van een grote firewall naar Chinees model, met draconische en diepgaande controle op al het verkeer en het verplicht moeten installeren van bepaalde CA certificaten op de devices van EU burgers om verkeer te kunnen inzien. Het zijn immers die burgers die de verboden handelingen verrichten.
Ik vraag me soms af hoe wij zouden reageren als de Taliban bij in de EU gevestigde diensten kwam klagen dat er dingen te zien zijn zoals vrouwen in spijkerbroek die een boek lezen of naar school gaan, of dergelijke in hun ogen verwerpelijke dingen. Zouden wij die zaken dan gaan verwijderen, omdat een Europese dienst in Europa dingen op haar dienst zichtbaar maakt voor inwoners van Afghanistan die aldaar verboden zijn? En natuurlijk, wij zijn niet de Taliban, maar dat is ook precies het punt, zowel wij als de Taliban zijn beide van mening dat zoals wij het doen goed is, en dat wat de ander doet fout is. In vrijheid met elkaar kunnen communiceren brengt nu eenmaal met zich mee dat ook Bram op zaterdagavond via Telegram door Mo op de scooter kabouterpost kan laten bezorgen. Dat moeten we accepteren vind ik, omdat de gevolgen van het onmogelijk maken (als dat al kan) te fundamenteel en diepgaand ingrijpend zijn voor onschuldige mensen en je onheroepelijk in de situatie uit komt dat alleen en uitsluitend de kwaadwillende criminelen nog veilig en besloten met elkaar kunnen communiceren, en de goedwillende burger niet meer. Want laten we wel wezen, zels als we Telegram geheel uit de lucht halen zijn de criminelen al overgestapt op iets anders nog voordat de eerste server echt down is. Laten we dus achter de daadwerkelijke criminelen aan gaan, en niet voor de buhne doen alsof we hard optreden door in het buitenland gevestigde bedrijven lastig te vallen.
Het is niet “slechts een middel geven” waarbij dan blijkt dat mensen soms gekke dingen doen. Ik vind dat zo’n achterhaald beeld, we zijn echt wel wat verder dan “wat gek, er kocht iemand een koevoet bij de Gamma en die ging daarmee inbreken”. Als je merkt dat je producten of diensten bewust en systematisch worden gebruikt voor criminele toepassingen, dan heb je een maatschappelijke verantwoordelijkheid. Ja, ook de Gamma en de Hema: sinds een paar jaar kunnen zestienminners geen messen meer kopen bij (onder meer) die winkelketen. De reden is dat die té vaak voor criminele doeleinden (afdreiging, zware mishandeling) worden gebruikt en het legitieme doel daarbij verwaarloosbaar is.
Het gaat niet om e2ee verbieden of openbreken. De eis hier is dat kanalen waarover je vanuit overheid of trusted flaggers wordt getipt, worden dichtgedaan of betrokken accounts geblokkeerd. Dat is een heel normale wettelijke eis. En we “vinden” dat de Telegram beheerders zich daar aan moeten houden omdat zij actief marketen en verkopen in de EU, oftewel zij zijn een Europees bedrijf en dus onderworpen aan onze regels.
Ik vind niet dat die vergelijking met messen bij de Hema op gaat, omdat het legitieme doel van Telegram niet verwaarloosbaar is. Het is gewoon een messenger app. Ik lees op worldpopulationreview.com dat er meer dan 700 miljoen actieve gebruikers zijn, en dat ongeveer 9% van de wereldbevolking het gebruikt. Dat zijn toch niet allemaal drugshandelaren, en dan kan je toch niet meer stellen dat het legitieme doel verwaarloosbaar klein is? Ik vind ook niet dat ze hier nou zo actief marketen, er is niet eens een gelokaliseerde .nl website, sterker nog ze hebben niet eens een Europees kantoor. Er is wel een Nederlandse taal optie, maar dat is er slechts een in een rijtje met allerlei andere talen. Er is ook Bahasa, dat maakt Telegram niet een Indonesisch bedrijf. Het een Europees bedrijf noemen zie ik dus echt niet, het komt op mij over alsof ze juist moeite doen om zo internationaal mogelijk te zijn.
Het e2ee openbreken was overigens slechts ter illustratie van het punt dat vanuit de EU er weinig animo lijkt om de genoemde groepen (klokkenluiders etc) actief te beschermen. Ik bedoelde niet te suggereren dat het blokkeren van Telegram accounts een poging was om e2ee open te breken.
Ik blijf gewoon moeite houden met het hele idee dat een instantie uit land A aan een bedrijf dat gevestigd is in land B (en dat, zoals ik hierboven beargumenteer, niet slechts juridisch elders zit maar in de hele EU niet eens een kantoor heeft) dingen zou kunnen opleggen omdat de inwoners van land A in land A de wet van land A overtreden. Is dit niet waar Internationale rechtshulpverzoeken voor zijn, zodat de autoriteiten van land B dat bedrijf kunnen aanspreken als het gedrag in land B ook strafbaar is?
Als de Taliban aankloppen bij een Nederlands bedrijf, met een website die in Nederland gehost wordt en dat op die website in verschillende talen badmode voor vrouwen verkoopt, met de eis dat die website uit moet omdat kijken naar vrouwen in badpak in Afghanistan verboden is, vinden we dat dan redelijk? En zo nee, wat precies is het verschil? Waarom faciliteert Telegram wel crimineel gedrag in Nederland, maar badmode.com niet crimineel gedrag in Afghanistan? Dit is een serieuse vraag trouwens, want ik zie het fundamentele verschil echt niet anders dan dat wij hier zelf van mening zijn dat wat wij vinden dat goed (badmode kopen) en fout (drugs handelen) is de enige juiste mening om te hebben is, maar zo denken ze er daar ook over.
Als toevoeging en ter nuance: Ik wil echt niet heel graag drugshandelaren in Nederland die Telegram gebruiken beschermen, daar gaat het me niet om. Waar het me om gaat is dat ik vind dat het mogelijk moet zijn voor, bijvoorbeeld, iemand uit Thailand om hier een website te hosten in het Thais waarin het Thaise koningshuis wordt bekritiseerd. Ik wil mensen beschermen die via Telegram tijdens de Arabische lente protestdemonstraties organiseerden, of klokkenluiders die met journalisten willen praten, of inwoners van Hong Kong die willen protesteren tegen onderdrukkende Chinese wetgeving. Als Nederland bij Telegram kan zeggen “dit is verboden, sluit die groep en geef ons het account” dan kunnen China, Thailand en Iran dat ook en dat lijkt me bijzonder ongewenst.
Dit is voor mij de discussie over gekleurde bits (What colour are your bits?).
Voor juristen is “Nederland mag commerciële handel in messen op Telegram verbieden” prima verenigbaar met “dissidenten in China op Telegram moeten beschermd zijn tegen vervolging wegens uitingsdelicten”. Dat zijn twee heel verschillende kleuren, de een is een democratisch genomen verbod dat strikt noodzakelijk is wegens gevaar voor lijf en goed. De ander is een vorm van politieke onderdrukking die niet past in een rechtsstaat.
De zuiver technische implementatie echter is identiek: er moet een knop gebouwd die een account opheft, en daarop wordt gedrukt als er de externe boodschap 451 komt. De afkomst van deze boodschap (overheid.nl of greatfirewall.cn) is daarbij geen informatie, dus wordt in beide gevallen gelijk gehandeld. Dit is ethisch verwerpelijk en deze feature mag dus niet worden gebouwd.
Als je het zó verschillend benadert, dan kom je er niet uit.
“Democratisch besloten” lijkt me in dit soort gevallen een heel erg gevaarlijke kwalificatie. Ik denk dat je in de meeste landen je zonder veel moeite een meerderheid van de bevolking achter een “verbod op homopropaganda” als strickt noodzakelijk bescherming van de samenleving kan krijgen. En de helft van de landen waar dat er niet door komt zal als reden hebben dat het verbod niet zwaar genoeg is.
En de mensen daar zullen dat als ethisch gezien de enige juiste keus zien.
“Democratisch besloten” is niet een betekenisloos labeltje dat iedereen maar ergens op plakken. Nederland is een democratie, China niet. Mensenrechten zijn mensenrechten en niet aan vrije definitie onderhevig. Mensen die voornoemde Chinese praktijk als ethisch juist zien, hebben ongelijk.
Onze bits zijn groen, groene bits moeten geblokkeerd; die Chinese bits zijn blauw en zij kunnen niet zeggen dat die ook groen zijn ook al zegt hun wetboek van wel.
Arnoud
Soms is het inderdaad eenvoudig om vast te stellen of een land een democratie is of niet. Het hebben van een (oud) spion als “leider” lijkt mij een eenvoudige. Er zijn in andere gevallen toch wel wat nuances die een rol spelen.
Wil jij beweren dat Geert Wilders met Dick Schoof een buitengewoon slechte kandidaat voor het premierschap naar voren heeft geschoven?
Het is mijn mening dat de manier waarop wij bepalen in hoeverre een regeringsvorm “democratisch” genoemd mag worden sterk gekleurd wordt door culturele (voor-)oordelen. Waarom vinden wij eigenlijk dat Telegram bangalijsten moet verwijderen terwijl dat vanuit de VS als censuur gezien kan worden?
Ik bedoelde Poetin.
Is de nieuwe Nederlandse premier een (oud) spion?
Ik dacht dat een oud spion een zeer duidelijk voorbeeld was. Zelfs dat is dus betwistbaar en dan laat ik even in het midden of Nederland nog een democratie is. Kennelijk weet ik er immers niet zoveel van.
FYI: Dick Schoof is oud-directeur van de AIVD. Als ik naar de rest van zijn CV kijk denk ik eerder “carrièreambtenaar” dan “volksmenner”, dus ik suggereer om jouw criterium gefalsificeerd te beschouwen.
Ik zie hier een veel voorkomend misverstand over wat “democratisch besluiten” inhoudt. Het is niet, zoals velen menen, een beslissing genomen met de steun van de helft van de stemgerechtigden plus een. Het is een proces waarbij de belangen van alle partijen redelijkerwijs worden meegenomen, dus ook die van minderheden, en waar geluisterd word naar rationele argumenten. Aan de basis ligt ook een verzameling van fundamentele rechten, die niet overschreden mogen worden, en er hoort een cultuur bij van het streven naar een consensus, waarin iedere belanghebbende is gehoord. Het uiteindelijke stemmen is alleen een sluitstuk van dat proces. De bedoeling van dit alles is eenvoudig: zorgen dat een samenleving harmonieus blijft functioneren en niet ontaard in geweld. Dus claimen dat een verbod op “homopropaganda” democratisch tot stand kan komen is onzin, immers zo’n verbod gaat voorbij aan fundamentele mensenrechten, en is niet gestoeld op rationele argumenten.
(En het moge duidelijk zijn dat dit een ideaalbeeld is: geen enkele democratie implementeert dit perfect.)
Dat is juist het probleem: veel dingen die als mening gepresenteerd worden zijn dat niet.
De mening dat vrouwen niet in spijkerbroek naar school mogen is net zo onzinnig als de mening dat de aarde plat is.
Hoewel ik ook vind dat vrouwen in spijkerbroek naar school mogen, vind ik die mening zeker niet “net zo onzinnig” als dat de aarde plat is.
Dat de aarde bol is en niet plat is een natuurkundig feit, met vele experimenten aangetoond.
Dat we in principe vinden dat vrouwen ook spijkerbroeken mogen dragen is een cultuurding. En cultuurdingen zijn uiteindelijk meningen en zijn vaak niet absoluut waar.
Zo kan ik me voorstellen dat er scholen zijn met een schooluniform (waar dan geen spijkerbroek bij hoort). En dan mogen vrouwen opeens niet meer in spijkerbroek naar school (mannen ook niet) en is dat toch niet onzinnig. Anderzijds hebben ook wij bij elke school wel bepaalde kledingeisen voor schoolgaanden (zodat bijvoorbeeld dat naakt naar school gaan niet geaccepteerd zal worden), dus zo gek is een norm over spijkerbroeken dan ook weer niet.