Skip to content

Ius Mentis

Internetrecht door Arnoud Engelfriet

  • Over Arnoud
  • Juridisch advies
  • Legal Tech
  • Nieuwsbrief
  • Contact

Tag: photodna

About photodna

Subscribe Feeds

Als Microsoft je account blokkeert, moeten ze wel bewijs aandragen waarom

Geplaatst op 31 maart 202228 maart 2022 in Ondernemingsvrijheid, Regulering, 6 reacties

Microsoft heeft het e-mail- en OneDrive-account van eisende partij geblokkeerd, las ik bij ITenRecht.nl. Een verhaal dat we vaker hebben gehoord: MS scant uploads tegen een lijst van bekende kinderpornografie, en blokkeert je account wanneer men een match tegenkomt. Ook als het toevallig of onbedoeld was. Een nieuwe uitspraak voegt daar nu een nuance aan toe: MS moet je wel vertellen om welke afbeelding het gaat.

Het vonnis (rechtbank Rotterdam vorige week) leest als een kopie van de vele gevallen waarover in eerdere zaken en de pers is gerapporteerd. De kern is dat MS een dienst genaamd PhotoDNA gebruikt, die foto’s analyseert om op een slimme manier te matchen met een bestand met bekende (door politiediensten als zodanig aangemerkte) kinderporno. Wanneer een upload wordt gematcht, dan gaat je account meteen op slot. En dat kan dus een definitief slot zijn, zo wisten we van die zaak uit 2020.

In deze nieuwe zaak had de houdster van het account haar oude Samsung-telefoon gesynchroniseerd met Onedrive, zo te lezen om de data snel te redden voordat de telefoon het begaf – wat die daarna ook deed. Ergens in die upload zat een bestand dat matchte, en daarop ging het account dus dicht. Maar welk bestand, hoezo dan, zo vroeg zij? Dat mocht MS niet zeggen:

Waarschijnlijk is PhotoDNA getriggerd toen [naam eiseres] haar foto’s die opgeslagen stonden in de Samsung Cloud synchroniseerde met OneDrive. De afbeelding heeft dezelfde hash als een afbeelding in de database, zodat Microsoft er zeker van is dat de afbeelding die is gedetecteerd in het account van [naam eiseres] dezelfde is als de eerder geïdentificeerde afbeelding. Volgens Microsoft is het op grond van de wetgeving van de Verenigde Staten van Amerika (hierna: VS) niet toegestaan om de afbeelding te verstrekken of in het geding te brengen. Het is Microsoft alleen toegestaan om het file path van de afbeelding aan [naam eiseres] te verstrekken, wat zij ook gedaan heeft.
Microsoft wilde niet meer doen dan enkel de bestandsnaam en de daarboven liggende mapstructuur (“file path”) geven, zodat mevrouw het zelf kon opzoeken in haar Samsung Cloud dan wel lokaal. Maar dat ging in dit geval niet:
[eiseres] heeft ter zitting echter toegelicht, wat door Microsoft niet althans onvoldoende is weersproken, dat zij de afbeelding met de door Microsoft verstrekte informatie niet heeft kunnen vinden op haar computer en dat haar oude Samsung S8 telefoon dusdanig kapot is dat die niet meer op te starten is. Gelet hierop is het voor [naam eiseres] naar eigen zeggen nog steeds onduidelijk om welke afbeelding het gaat.
Wie moet er nu gaan zoeken? Microsoft, aldus de rechter, want die stelt dat er iets aan de hand is met een foto. De regels over bewijslevering impliceren dan dat Microsoft moet laten zien welke foto en wat er mis mee is. En dat MS dat niet zou kunnen vanwege (mij ook onbekende) Amerikaanse wetgeving, is dan haar probleem. Omdat MS dit niet kan of wil, is er dus geen geldige grond voor het afsluiten van het account.

Opvallend nog: het is niet heel gebruikelijk dat grote bedrijven een dwangsom tegen zich krijgen als een consument gelijk krijgt. Grote professionele bedrijven houden zich, zo menen rechters, immers keurig aan vonnissen. Maar deze rechter is wat argwanender:

Gelet op de principiële en onbuigzame opstelling van Microsoft en het door haar op zichzelf terecht benadrukte belang van bestrijding van seksuele uitbuiting van minderjarigen ziet de rechtbank onvoldoende reden om hier in de specifieke context van deze zaak zonder meer van uit te gaan en heeft [naam eiseres] een redelijk belang bij het opleggen van een dwangsom als prikkel om dit vonnis na te leven.
De dwangsom wordt gezet op 5000 euro per dag met een maximum van een ton. Ik wil niet meteen Apples opstelling richting dwangsommen erbij slepen maar ik behoud zelf toch enige skepsis of het account nu vrijgegeven wordt. Zeker als ik dan ook lees dat MS op dat moment dan ook begint over dat “zij niet kan uitsluiten dat het account van [naam eiseres] meer schadelijke afbeeldingen bevat”. Daar had je toch PhotoDNA voor?

Arnoud

Tagged: Account, microsoft blokkade, onedrive, photodna6 reacties op Als Microsoft je account blokkeert, moeten ze wel bewijs aandragen waarom

Laatste reacties

  • J2CV: “Ook in Nederland kan het bij de toezichthouders melden van critical vulnerabilities tot problemen leiden. Er bestaat - voor zover ik weet - momenteel ...” in reactie op Hoe onveilig is België als je een securitylek (CVD) wilt melden?

  • WilleM: “Mag je je opensource ding ook offline halen als je niet aan die eisen kunt voldoen? Specifiek, stel dat je voor je werk iets hebt gemaakt wat alleen ...” in reactie op Open source valt vanaf nu buiten de Cyber Resilience Act! Of nou ja, een beetje.

  • WhizzMan: “Na een eerdere posting op Linkedin van iemand anders heb ik uitgezocht hoe dit technisch werkt. Iedereen kan bij Apple een "MDM" licentie aanvragen en...” in reactie op KPN blokkeert iPhone bij wanbetaling via MDM, mag dat?

  • Patrick: “Geef het een paar jaar een de bulk van alle foto's, video's en teksten zijn niet meer door een mens gemaakt. ” in reactie op Voor een paar euro iemand uitkleden met AI: ‘Ongeluk in slow motion’

  • WilleM: “"Daar is het probleem dat ze er een serverside component in stoppen dat de boel onbruikbaar maakt als ze de server uitzetten". ftfy ” in reactie op Het is verboden om producten met verborgen kill-switches te verkopen, maar waar staat dat in de wet?

Van de ICTRecht blog

  • Tracking cookies zonder geldige toestemming? Autoriteit Persoonsgegevens stuurt waarschuwingsbrieven
  • Updates uit de zorg | juli 2025
  • Cybersecurity in de zorg: wat vraagt het nieuwe actieplan van de Europese Commissie van Nederlandse zorginstellingen?
  • De Data Act komt eraan: controleer je voorwaarden!
  • Voor jou: een toekomstbestendige IE-bepaling

© 2025 Ius Mentis

  • Home
  • Over Arnoud
  • Juridisch advies
  • Juridische trainingen
  • Nieuwsbrief
  • Contact
Powered by WordPress//Theme AnaLog by Il Jester//Top ⌅