Je krijgt ongevraagd een onbetamelijke foto toegestuurd, waarna Microsoft je levenslang verbant van al haar diensten. Dat meldde NRC afgelopen zondag. Want dat is terecht, zo vonniste de rechtbank: een man had een kort geding daartegen aangespannen maar krijgt zijn bestanden niet terug en mag ook zijn Microsoft-account nooit meer gebruiken. Althans, voor nu – de bestanden mogen niet weggegooid en er zal dus een bodemprocedure nodig zijn om echt uit te maken of Microsoft terecht handelde. Maar ja, je digitale leven mag dus worden geblokkeerd voor nu.
Het probleem begon in april dit jaar, toen de eisende man merkte dat zijn toegang tot zijn OneDrive account onmogelijk was, en Microsoft desgevraagd meldde dat er een “serious violation” was geweest van de Service Agreement. Doorvragen leverde slechts herhaling op van deze mededeling, waarna de man een advocaat inschakelde. Ook dat mocht niet baten, vandaar de rechtszaak.
Pas daarna kwam aan het licht dat de violation het feit betrof dat de eiser in een groepsapp van WhatsApp een foto gedeeld had gekregen die Microsoft als kinderpornografie aanmerkte. De foto was volgens eiser grappig bedoeld, toont niet werkelijk seks met kinderen maar “door het hele ongelukkige moment van afdrukken bij het maken van deze foto lijkt dat zo.” De rechtbank komt echter tot de conclusie dat de afbeelding ook dan kan kwalificeren als kinderporno, gezien internationale afspraken op dat gebied.
Microsoft heeft software draaien die het opslaan en vooral het delen van dergelijke foto’s detecteert. Een groot deel van het geschil ging over de vraag of de man deze afbeelding nu had gedeeld of niet. Hij zei van niet, Microsoft zegt van wel – en MS krijgt gelijk omdat de servicevoorwaarden zeggen dat je de foto niet mag hebben, ongeacht of je deze deelt. Een overtreding dus.
Dan krijg je de vraag, is de maatregel proportioneel. In juridische termen: de algemene voorwaarde die zegt dat je je gehele (betaalde) account geheel kwijt raakt, is onredelijk bezwarend bij één overtreding. Daarvan zegt de rechter, nee dat is niet zo: dit soort afbeeldingen zijn zeer ernstig en strafbaar, dus is een volledige vernietiging van het gehele account een gepaste reactie.
Uit het vonnis haal ik dat de man van de overige bestanden niets meer had gezegd dan dat ze emotionele waarde hebben. “Indien [eiser] naar voren zou hebben gebracht dat hij een of meer onderdelen van de bestanden dringend nodig had, dan zou de voorzieningenrechter dat belang bij de beoordeling kunnen betrekken maar [eiser] heeft dat niet gedaan.” Oftewel, als je als privépersoon alleen maar persoonlijke bestanden in de cloud hebt staan, dan heeft dat geen waarde en moet je niet klagen als ze worden vernietigd.
Ook een beroep op de AVG mag niet baten: weliswaar staat daar een recht op dataportabiliteit, maar dat geldt niet voor alle bestanden in je account. Je hebt alleen recht op een export van je persoonsgegevens, en een serie door jou gemaakte foto’s zijn op zichzelf geen persoonsgegevens van jou.
Het is een kort geding, dus voor uitgebreide discussie is geen plaats. Daarom verplicht de rechter Microsoft wel om de bestanden nu veilig te stellen, zodat de principiële discussie gevoerd kan worden bij de bodemrechter. Ik hoop heel erg dat dit ook snel gebeurt.
Arnoud
PS: links naar de betreffende afbeelding of suggesties hoe deze te vinden leiden tot een levenslange ban op deze blog. Geen grap.
Naar mijn gevoel zou het wel (iets) uitmaken of hij zelf handmatig de foto heeft opgeslagen zodat hij deze later zelf als ‘grap’ kon gebruiken, of dat de inhoud van zijn telefoon automatisch geback-uped wordt in de cloud inclusief alle ontvangen Whatsapp plaatjes (of indirect door een backup op zijn pc die ook in OneDrive wordt opgeslagen). In de ene situatie heeft hij zelf bewust het plaatje geupload naar zijn OneDrive, in de andere ging alles automatisch en had hij niks bewust met het plaatje gedaan.
Het zou ook onredelijk zijn als je voor bezit van dit soort foto’s veroordeeld wordt omdat de politie vanwege een andere reden je huis aan het doorzoeken was en een envelop op je deurmat vond met dit soort plaatjes erin.
En, voor deze discussie, gaat het tenminste over echte foto’s en niet over niet-(foto)realistische tekeningen/cartoons/anime die sommige mensen te dicht bij dit thema vinden komen. In Australië zijn al meerdere mensen veroordeeld voor het bezit van dit soort tekeningen.
Ik ben het er helemaal mee eens, dat het onredelijk is wanneer dit door een geautomatiseerd proces van zijn WhatsApp naar OneDrive wordt gezet. Wel moet bij onderzoek blijken dat het origineel uit WhatsApp en van de telefoon is verwijderd. Wanneer de blokkade is gebeurd voordat verwijderen redelijkerwijs doenlijk was, is niet goed. Staat het er echter een week op, dan mag je eigenlijk verwachten dat het verwijderd had moeten zijn. Iemand zou moeten weten dat zijn backup naar OneDrive gaat. Voor het geval in Australië geldt in mijn ogen, dat het geen verschil mag maken of het een foto is of een andere afbeelding. Er hoort ook geen verschil gemaakt te worden tussen een film die kinderpornografie bevat en een tekst waarin dit beschreven wordt. Het gaat om bescherming van alle kinderen en niet van individuele gevallen.
porno slaat op afbeeldingen , iets verzinnen en schrijven is dat niet. Het moet niet gekker worden !!
Ho wacht eens even. Dus Microsoft kijkt gewoon mee met wat jij in Facebook’s Whatsapp aan het doen bent? Hoe gebeurt dit? Bekijkt Microsoft alle backups die Whatsapp naar de cloud verstuurt, waarna een AI foto’s flagt die door mensen worden bekeken? Hoeveel false positive -legale- bloot of halfnaakt foto’s van ons en onze partners en/of kinderen hebben Microsoft medewerkers dan mogen bekijken? Ik heb hier best wel bezwaar tegen, ook al gebeurt het weer onder de mom van kinderporno (en terrorisme) bestrijden.
De meeste mensen hebben in Whatsapp aanstaan dat alle media die zij ontvangen moeten worden toegevoegd aan hun galerij (dat is namelijk de standaard optie). Als je vervolgens automatisch elke nacht een backup maakt van je foto albums dan komen dus ook dit soort foto’s in je backup en Microsoft scant elke foto die je upload naar OneDrive, met dit dus als resultaat.
In principe gebeurd dit geautomatiseerd, dus je hoeft je geen zorgen te maken dat ze al je foto’s bekijken, maar het staat ook gewoon in de voorwaarden die je geaccepteerd hebt, dus het zou niet als verrassing moeten komen 😉
Microsoft bekijkt niet letterlijk persoonlijk door al je foto’s. Ze gebruiken een database met kenmerken van bekende foto’s die door forensische diensten zijn samengesteld (zie ook de HashCheckService van EKOM). Een automatisch proces vergelijkt enkel deze kenmerken met de bestanden die in hun cloud geplaatst worden en triggert een blokkade procedure voor je account zodra er een match is.
Dit begint altijd met kinderporno of terrorisme. Maar als de algemene voorwaarde hier kern zijn, hoe lang dan voor we vergelijkbaars lezen over een levenslange bans en totaalcerlies van data om ‘verspreiding van’ een ‘discriminerende karikatuur’, ‘nepnieuws’ of wat mij part ‘kritiek op het RIVM’?
De eigenlijke vraag lijkt me hoe wenselijk private handhaving door monopolisten van wat publieke normen heten te zijn eigenlijk is.
Hoeveel maakt de monopolie positie van Microsoft uit in deze discussie? Is het niet eerder onredelijk bezwarend omdat je niet zomaar weg kunt bij Microsoft’s producten?
Dat er trouwens een advocaat en een rechtbank nodig is om überhaupt te leren waarom je gebanned bent, is een tweede bezwaarpunt: Als burger moet je gewoon zo iets kunnen bespreken met Microsoft, zonder noodgedwongen naar de rechtbank te stappen. Ook dat riekt naar machtsmisbruik.
Sta overigens wel achter het besluit van Microsoft en de rechtbank. Heb alleen zo mijn twijfels bij de procedure.
Ja dat procedurele zit me ook heel erg dwars. Ik vind eigenlijk dat ze alleen al daarom hadden moeten verliezen, ook al staan ze in principe in hun recht. Als je niet uitlegt waarom, dan is je besluit fout zou ik zeggen. Dat hoort gewoon niet.
De rechter zegt zo te lezen dat het niet onredelijk is specifiek omdat het om KP gaat. Dat is zó erg dat de straf wel gepast is. Ook al heeft MS grote macht, daarmee komt ook grote verantwoordelijkheid om dit soort troep weg te filteren en daartegen op te treden.
Dat zou aanleiding moeten zijn om MS in de (werkelijke) proceskosten te veroordelen. Het kan niet betekenen dat je de zaak verliest.
Dat is geen afschrikwekkende sanctie, dus dat is te weinig om de consument een effectieve rechtsbescherming te gunnen. Je zit als consument nog steeds met de stap van naar de rechter gaan, het gedoe en de tijd die het kost.
Dat zal best, maar voor wat jij wilt is een wetswijziging nodig. Een die ik niet wenselijk acht. Als de eiser de werkelijke proceskosten dan is zijn belang voldoende beschermd.
Volgens mij is er geen wetswijziging nodig om te zeggen dat een beding dat toestaat dat je zegt “u overtrad de regels, wij lichten dit niet toe, contract beëindigd” onredelijk bezwarend is. Dat kan de rechter gewoon toetsend vaststellen. Daarna vernietigt hij dat beding en is er geen grond meer voor beëindiging.
De werkelijke proceskosten toewijzen vereist in principe wel een wetswijziging. Artikel 237 Rechtsvordering laat dat slechts heel zelden toe. Een dergelijke vordering komt slechts voor toewijzing in aanmerking indien de aangesproken partij misbruik van procesrecht heeft gemaakt of onrechtmatig heeft gehandeld (met name door een procedure aan te vangen). Ik zie niet hoe Microsoft aan die lat voldoet in deze casus.
Uit het vonnis haal ik dat artikel 3 sub a jo sub b van de servicevoorwaarden bepaald dat het uitvoeren van onwettige handelingen, activiteiten die kinderen uitbuiten, schade toebrengen of dreigen schade toe te brengen, en het weergeven of delen van ongepaste inhoud (waaronder porno) kunnen resulteren in het stoppen van de levering van de diensten, het sluiten van het Microsoft-account of het blokkeren van communicatie van en naar de diensten en opgeslagen materiaal kan worden gewist. Wat is hier onredelijk bezwarend aan? Kun je dat toelichten aan de hand van Aziz?
Jij vindt het dus redelijk dat Microsoft kan zeggen, u heeft enige voorwaarde overtreden daarom stoppen wij de betaalde dienstverlening, einde discussie? Dat Microsoft niet hoeft toe te lichten wélke bepaling is overtreden? Merk op dat pas na de dagvaarding de daadwerkelijke overtreding aan het licht kwam. Tot die tijd was het volledig onbekend waarom de blokkade was doorgevoerd en zelfs na inschakelen advocaat wist de klant niet wat de reden was. Ik heb geen arresten van het HVJ nodig om dit onredelijk te noemen.
Ik maak onderscheid tussen de algemene voorwaarden en de procedure. De algemene voorwaarden is hier niet onredelijk bezwarend. De procedure is wel onzorgvuldig, want van partijen wordt verwacht dat ze behoorlijk overleg voeren. Partijen die niet behoorlijk overleg voeren worden normaal gesproken in de proceskosten veroordeeld, ook al winnen ze de zaak. Gelijke gevallen horen gelijk behandeld te worden.
De procedurele voorwaarde (3b) staat Microsoft toe het account te sluiten zonder toe te lichten waar artikel 3a (de inhoudelijke voorwaarde) is overtreden. Dat is het onredelijk bezwarende punt hier. Ik vind eigenlijk dat je eerst een gelegenheid tot toelichting moet hebben gehad als consument. Een bedrijf dat als regel heeft, wij sluiten je af zonder te zeggen waarom en zonder te vragen wat jij er van vindt, dat is een onredelijk bezwarende regel. Ook al zou de afsluiting terecht zijn als de oorzaak bekend was.
Uit Aziz komt naar voren dat een beding is onredelijk bezwarend wanneer: a) er een significante afwijking is met wat de wederpartij zonder dat beding mocht verwachten; en b) de gebruiker niet mocht verwachten dat de wederpartij dit beding zou aanvaarden als hierover vrij was onderhandeld. Ik zie geen significatie afwijking met wat de wederpartij mocht verwachten terwijl ik wel zie dat de gebruiker mag verwachten dat de wederpartij met een dergelijk beding zou instemmen. Ik zie geen wettelijke plicht om de wederpartij gelegenheid te geven om verweer te voren voordat je over gaat tot een blokkade. De doorsnee consument zal dit best vinden, omdat zij menen dat ze zich niet schuldig aanmaken en zullen inschatten hier niet mee in aanraking te komen.
Als jij een telefoonabonnement hebt en je betaald niet dan mag je worden afgesloten, ongeacht of je in de gelegenheid bent gesteld om daar vooraf wat van te vinden. Als achteraf blijkt dat de afsluiting onterecht is dan moet de provider je een schadevergoeding betalen. De zaak win of verlies op de vraag of er legitieme reden was om de klant af te sluiten. Je wordt in de proceskosten veroordeeld op basis van of je de zaak hebt gewonnen en of je behoorlijk overleg hebt gevoerd.
De wederpartij had wel een beding zoals 3b mogen verwachten. Dus voorwaarde a) is geen probleem. Voorwaarde b) is wel een probleem. Microsoft kan niet zomaar verwachten dat mensen een dergelijk beding aanvaard zouden hebben, in ieder geval niet als die mensen hadden geweten dat MS het zou interpreteren als ‘one strike-you’re out’, voor eeuwig en altijd, van al onze diensten, door middel van een geautomatiseerd systeem, zonder enige mogelijkheid van verweer.
Ik citeer nu even uit het vonnis: ‘Onder artikel 3 sub b is opgenomen dat schending van de gedragscode kan leiden tot het stoppen van de levering van de diensten, het sluiten van het Microsoft-account of het blokkeren van communicatie van en naar de diensten. Ook is opgenomen dat, als sprake is van schending van toepasselijk recht of van de servicevoorwaarden opgeslagen materiaal op enig moment kan worden verwijderd.’
Er staat ‘kan leiden’, niet ‘zal leiden’. Dan staan er vier mogelijke sancties genoemd. Kan de wederpartij dan werkelijk verwachten dat een individuele inbreuk automatisch zonder verdere correspondentie ZAL leiden tot de zwaarste sanctie. Hij had mogen verwachten dat hij in de gelegenheid gesteld zou worden uitleg te geven en/of de betreffende afbeelding te verwijderen van de MS systemen.
Ook had hij mogen verwachten dat hij materiaal zonder inhoudelijke toetsing zou mogen opslaan, behalve in het geval MS er op gewezen zou zijn (zie citaat art3b lager in deze draad) dat het illegaal materiaal zou zijn (en dat risico kon hij wel nemen, zolang hij het niet of zeer beperkt deelde had hij mogen verwachten dat de kans dat MS erop gewezen zou worden uiterst klein zou zijn. Actieve opsporing door/namens MS had hij nooit hoeven verwachten.
Het is niet omdat iemand een smeerlap is (of geestesziek is), dat alle sancties maar terecht zijn!
Oftewel artikel 3b is onredelijk bezwarend, oftewel de daadwerkelijke uitvoering van artikel 3 is onzorgvuldig gebeurd, met name disproportioneel.
Dat is geen maatstaf. De doorsnee consument vind het ook prima dat azielzoekers met harde hand worden tegengewerkt aan de buitengrenzen van Europa vol tegen juridisch bindende internationale verdragen in.
Volgens mij zijn wij het eens dat het beding niet onredelijk bezwarend is. Bij de beoordeling van of een beding onredelijk bezwarend is moet alleen gekeken worden naar het beding zelf, niet hoe dat beding naderhand wordt toepast. Dat de wijze waarop het beding is toegepast is niet in orde is zijn we het ook eens. Dat laatste maakt dat MS in de proceskosten veroordeeld had moeten worden.
Verder gaat het hier om een kort geding. Het voorlopige oordeel van de voorzieningen is dat de foto is gedeeld en dat het dan proportioneel is om het account te blokken in afwachting van de bodemprocedure.
Ik ben wel voor een streng beleid op nagenoeg alle gebieden, maar jouw beleid gaat me véél te ver… Voordat je streng straft, moet je weten welke fout je hebt begaan. Daarom ook dat de rechtbank dat ook uitlegt en niet alleen zegt “u gaat maar lekker 5 jaar brommen, doei-doei” en dat je dan in de cel zit en denkt “maar waar ben ik nu om veroordeeld?”. Dus ja, Microsoft zou ook gewoon moeten uitleggen wat je fout hebt gedaan voordat je gestraft wordt. Eigenlijk vind ik zelfs dat ze je eenmalig in de gelegenheid moeten stellen om de fout recht te zetten, dus in dit geval door de foto te verwijderen. Bij een tweede keer kunnen ze dan alsnog streng straffen. Wat MS nu doet is zeg maar hetzelfde als dat je meteen een taakstraf zou krijgen omdat je 2 minuten langer dan aangegeven geparkeerd stond…
De leukere vraag is: Wat als het je zakelijke account is? Doe je iets fout richting je werkgever wanneer Microsoft je van Office 365 uitsluit vanwege (in Nederland niet direct strafbaar / aanname) privégedrag op je mobiel?
Dat is inderdaad de leukere vraag.
Want ik heb ook wel eens van een werkgever mobiele equipment gehad, en dan kwam daar een richtlijn bij dat je het wel mocht gebruiken voor prive-dingen, maar dat bepaalde dingen niet mochten. En er stonden niet alleen verboden dingen op die lijst, maar ook nog allerlei niet verboden dingen die slecht zouden kunnen zijn voor de reputatie van het bedrijf. Maar dat was nogal vaag en subjectief geformuleerd.
De meest twijfelachtige was, in mijn herinnering, dat je geen politiek incorrecte statements mocht maken. (Ik heb altijd geleerd dat er inhoudelijk niets mis is met politiek incorrecte statements, dat die dus ook niet incorrect zijn, maar alleen vanwege het niet voor het hoofd willen stoten van een luidruchtige politieke minderheid onwenselijk geacht worden, vandaar de naam ‘politiek incorrect’ maar niet echt incorrect.)
Naar mijn mening zijn politiek incorrecte statement vaak juist wenselijk om een beetje waarheid in het debat te krijgen.
In aansluiting op jouw ‘leukere vraag’ dus: zelfs als er een gebruikersrichtlijn is, mag die vaag en subjectief zijn en volledig acceptabele dingen uitsluiten?
Uit de service agreement van MS voor deze diensten, artikel 3b (Handhaving):
Hamvraag: hoe wist MS van die foto?Plus, de zinsnede ‘om de zaak op te lossen‘ komt bij nogal over als ‘dan overleggen we even wat er aan de hand is‘, het tegenovergestelde van wat nu is gebeurd.
Heeft MS op diverse punten hun eigen agreement geschonden?
Dat staat niet in het vonnis maar Microsoft werkt met de PhotoDNA software die met flexibele hashes afbeeldingen controleert tegen een door politiediensten onderhouden database met bewezen KP. Als jij een foto verstuurt of uploadt dan kijkt PhotoDNA daar altijd naar, en kennelijk is dat gekoppeld aan een automatische sluiting van je account als de software een match ziet.
Dat is toch wel heel erg de grenzen opzoeken van ‘indien we erop worden gewezen’. Zoals ze het schrijven is het een passieve gebeurtenis, maar dat is het dus duidelijk niet, ze gaan actief op zoek.
(naar mijn mening is het goed dat ze de KP ontoegankelijk maken, maar wel volgens de wet en hun eigen (conform de wet opgesteld) voorwaarden. Het gaat echter te ver om documenten te verwijderen en al helemaal om andere documenten/het hele account te verwijderen.)
Goed om te weten. En als die foto al in zo’n database zit, heb je als bezitter inderdaad weinig verweer.
Ondanks de klaarblijkelijke verwerpelijkheid van de betreffende foto laat dit weer eens zien dat je met cloud oplossingen gerund door een paar mega-grote partijen als individu heel erg kwetsbaar bent. Als je bij vijf bedrijven een levenslange ban hebt gekregen kun je de facto niet meer functioneren in de maatschappij. De oplossing hiervoor is niet verbieden dat dergelijke bedrijven geen bans meer mogen uitdelen, maar zorgen dat die absurde hegemonie niet meer bestaat.
Daar kan de wetgever een rol in spelen door te zorgen dat de grote platforms gedwongen worden zich op te splitsen (wat ik heel graag zie gebeuren: de huidige anti-monopolie wetgeving is veel te zwak) Daar kun je zelf een rol in spelen door af te stappen van cloud oplossingen en gewoon veel meer dingen zelf te hosten. (Ik zelf back momenteel niets op in de cloud, en zou ik dat wel doen, dan zou het volledig aan mijn kant versleuteld zijn, zodat de back-up provider niet in de gegevens kan kijken, hoe graag die dat ook zou willen.)
Tenslotte, als we van iemand vinden dat zijn gedrag zover buiten het boekje gaat dat we hem moeten uitsluiten van de maatschappij, dan moet dat een process zijn via juridische kanalen, niet het initiatief van een internet moloch die ondemocratisch aan die macht is gekomen.
Als het zo makkelijk is om cloudloos door het leven te gaan, hoezo word je dan buiten de maatschappij geplaatst als een cloudmaatschappij je levenslang verbant?
Cloudloos voor back-ups gaat nog wel, maar het vermijden van alle diensten van zowel Google, Amazon, Facebook, Microsoft en Apple is onwerkbaar. Het gaat hier dan met name om het gebruik van communicatietools. Daar komt bij dat als je bijvoorbeeld een levenslange ban hebt van Microsoft, het erg lastig uitleggen is aan een eventuele werkgever waarom je niet met Teams of Office360 kan meedoen (tenzij je daar natuurlijk een andere identeit voor gebruikt) — en aan het UWV dat je niet meer op LinkedIn (Microsoft) mag.
Nu weet ik niet of die ban zo verstrekkend is, maar zou dat het geval zijn, dan is dat wel iets om je ernstig zorgen om te maken.
ondrive ofwel andermans computer. En die stelt de regels op zijn computers. MS wil zelf natuurlijk ook geen slachtoffer worden. Dus net als dat Arnoud hier de regels stelt, helemaal mee eens, en dan maakt het mij niets uit om wat voor data het gaat. Je hebt wat afgesproken
Wat mij zo tegen de borst stuit is dat het zoi arbitrair is. Wat de een vakantiekiekjes noemt kan door een ander als kinderporno worden gezien. En verder vraag ik mij af hoe dit automatisch censureren van afbeeldingen zich verhoud met netneutraliteit. En als laatste heb ik nog een vraag. Wanneer het slachtoffer in dit verhaal die foto ongevraagd via een groepsapp had ontvangen, wie binnen die groep is er dan nog meer verbannen? Want die automatische backups hebben velen van ons aan staan.
Het gaat niet om smaak hier. Het gaat om foto’s waarvan politiediensten hebben vastgesteld dat het KP is. Microsoft volgt slaafs dat oordeel, ze gaan niet zelf kiekjes bekijken en dat laten goed- of afkeuren op eigen criteria. Ook netneutraliteit vindt daar niets van, omdat NN niet geldt op de cloud.
Het argument van MS is dat de verbanning pas intreedt als je de foto zelf deelt via een Microsoft-dienst. Dus enkel dat de foto binnenkwam en hij automatisch gebackupt werd naar je Onedrive is nog geen probleem.
Waarom slaafs? Ben je het er niet mee eens dat KP verwijderd wordt?
Als de politie heeft vastgesteld heeft dat iets KP is, dan kan MS/je niet anders dan de regels volgen. Doe je dat niet dan kan MS/je zelf aangemerkt worden voor het bezit van KP. In het geval van MS zou het sluiten van MS gevolgen hebben voor miljoenen mensen, dus ik vind het niet zo gek.
Tenzij je wil zeggen dat we allemaal slaafs zijn als we welke willekeurige officiële regels volgen.
Niet dat Arnoud zichzelf niet kan verdedigen, maar ik zelf las “slaafs” hier niet op de manier zoals jij het blijkbaar interpreteerde, maar zoals bijv bij “master-slave replicatie”, d.w.z als “volg wat door de autoriteit op dat gebied wordt aangegeven”. Het tegendeel dus van “ben je het er niet mee eens dat KP verwijderd wordt”; juist wel dus, en de politie heeft een bron waarmee inhoud kan worden vergeleken om tot een eerlijk en onafhankelijk oordeel te komen.
“Als de politie heeft vastgesteld heeft dat iets KP is…” Zou het kunnen dat het punt is dat de politie ‘slechts’ de uitvoerende macht is? Met andere woorden: is het wel aan de politie om te bepalen of iets KP is?
Het NRC geeft het volgende aan: De rechter gaat er van uit dat de software op de juiste manier heeft gewerkt en zegt dat het aan Slurink is om aannemelijk te maken dat hij de foto niet heeft gedeeld.
Dat is best interessant omdat Microsoft claimt dat alleen foto’s worden gefilterd die gebruikers delen. Maar ze geven niet aan hoe dit delen wordt gedetecteerd en waar dit dus op gebaseerd is. Eigenlijk zou deze man een aantal experts moeten inhuren die de code van Microsoft en PhotoDNA kunnen nalopen om te zien wanneer PhotoDNA dus dit soort zaken detecteert.
Maar goed, dat kost geld en is voor rekening van die man uit Lelystad, hoewel het mogelijk later te claimen is bij Microsoft. Het kost ook enorm veel tijd en Microsoft en PhotoDNA willen daar vast niet aan meewerken. Dus de dreiging om de broncode te claimen zodat hij zijn onschuld kan aantonen kan misschien enig effect hebben, maar ik betwijfel of het echt indruk zal maken op Microsoft…
Arnold bedankt voor deze blog!
Ik ben altijd al een beetje huiverig geweest voor de cloud, ook omdat het niet altijd duidelijk is waar e.e.a. opgeslagen wordt, wie er evt toegang heeft, en wie er verantwoordelijk is bij problemen of als een provider b.v. failliet gaat. Nu zal dat laatste bij MSFT niet gauw gebeuren, maar het gaf mij geen goed gevoel om mijn prive data in de cloud op te slaan. Beter regelmatig lokaal backuppen (en dan het backup device offline halen ter beveiliging van ransomware). (en als je in de cloud wilt backuppen dan is data encryptie zeker aan te bevelen)
Een lokale back-up is géén back-up, offline of niet.
Mijn backups staan op externe drives. Twee daarvan zijn op een andere locatie opgebrogen. Eens in de zoveel ruil ik zo’n remote drive om voor de backup drive die ik thuis heb. Ben van plan dat mechanisme binnenkort uit te breiden (niet vervangen) door mijn NAS te laten backuppen op de NAS van een familielid (en dat over-en-weer), zodat ik nog steeds zonder “cloud” kan werken.
Dus als ik mijn gegevens op twee externe schijven back-up en ik leg de ene in de kast en de andere bij mijn ouders thuis, dan heb ik geen lokale back-up ondanks dat de back-up van de back-up niet verloren gaat als mijn huis afbrandt?
Als een externe schijf elders ligt, is dat per definitie geen lokale back-up (als in ter plaatse), me dunkt. Google anders eens naar de 3-2-1 backup rule.
Voor zover ik weet is een back-up op een lokale server wel degelijk een back-up EN Lokaal. Back-up is een medium om een verloren iets te kunnen restoren na verlies. Of die nu ergens in een kast ligt, of bij mijn buren, kan zelfs remote in bijvoorbeeld het hoofdkantoor van je bedrijf zijn. Blijft lokaal = niet in de cloud, in beheer van anderen..
“Google eens op 3-2-1 back up” … Daar lezen we dat een back up een ander woord is voor 3 copies, medium maakt niet uit (disc, nas, server), offsite of in je bureau la maakt ook niet uit, zolang het maar niet op de lokale desktop of laptop staat.
Daarnaast wordt het aanbevolen, geen regel! Dus geld als advies, een advies waarbij geld en middelen bepalend zijn.
Sommige bedrijven houden het op een back-up van de server, en dagelijks een back-up op tape of HDD.
Misschien lees je mijn opmerking een beetje te letterlijk. Lees het eens zoals men doorgaans ook “Eén BV is geen BV” leest/interpreteert. Lokaal was wellicht niet de meest handige woordkeus; het was bedoeld als ‘onsite’ (lokaal) vs ‘offsite’ (remote).
Aan een kopie op een tweede server heb je niet zoveel als ze in hetzelfde kantoor staan en de sprinklers aan gaan, er brand uitbreekt, er ingebroken wordt en de 2 systemen allebei verdwijnen, enz. De 321 rule helpt daarbij. Het doel van een back-up is m.i. dat data altijd terug te halen is. En uiteraard maakt iedereen zelf de afweging wat de waarde daarvan is (en welke investering dus gerechtvaardigd is).
Zoals jij het beschrijft is een raid opstelling dus ook een backup/reserve kopie. En met die gedachte ben je dan ook klaar. En idd ik ben ze tegen gekomen in mijn werk als it specialist. Net als dat ik bedrijfs-servers in het tiolet heb gevonden.( hij doet het niet meer was dan de klacht) Het is maar hoeveel waarde jij aan je data geeft.
Probeer eens een weekje als prive persoon zonder je data door het leven te gaan. Denk je dan eens in hoe dat zou zijn bij een bedrijf de werkt niet kassa vervolgens word de voorraad niet bijgehouden en oh ja tegenwoordig werkt de telefoon ook via internet. blijft mobiel over, zijn niet zoveel bedrijven die mobiel bereikbaar zijn.
Of wat dacht je van een (staats) bank in Amsterdam waar ik kwam. “Onze backup doet het niet” , kom je daar blijkt dat de server in de kelder stond en op (euro) pallets, want dan stonden ze van de grond, en dat er een dan halve meter water in de kelder stond…. En de backup disks in een kratje ernaast. Dan heb je dus gewoon geen backup. In onderhavig geval helemaal niets meer. Kantoor moest sluiten en is niet meer terug gekomen, en dat noemen ze dan overmacht. Zonde want het was een mooie lokatie schuin tegen over de Nederlandse bank.
Ik vraag me af hoe ver dit dan gaat. Ik heb een paar foto’s uit mijn jeugdtijd op mijn OneDrive waar ik naakt op sta. Als je zelfs niet een paar naakte baby- en kinderfoto’s van jezelf mag hebben, dan is het wel héél erg gesteld met de regels…
Dat is niet hoe PhotoDNA werkt. Die vergelijkt alleen tegen een officiële database van door politiediensten als KP aangemerkte afbeeldingen. Dus ‘nieuwe’ of onbekende materialen komen gewoon door die scan heen. Het is geen AI-beeldanalyse op naakt en leeftijd of zo.
Het is misschien een beetje flauw, maar is de politie geen neutrale opsporingsdienst, wiens mening/database/classificatie niets meer waard is dan die van ieder ander?
De politie zegt het, dus het is zo….! Really?
Ik begrijp helemaal niets van je reactie. Welk belang heeft de politie bij het plaatsen van verkeerde foto’s in zo’n database? Wat wil je eigenlijk zeggen, wat is je gehele vermoeden? Wat betekent überhaupt neutraal bij dit soort foto’s?
In het verleden had de politie “boete quotas” en ook nu nog zal het je carriere misschien vast wel vooruit helpen als je veel onderzoeken succesvol afrond. Ik zeg niet dat het gebeurd, ik geef alleen maar aan dat er genoeg valse prikkels kunnen zijn voor een foute agent om er zonder meer van uit te gaan dat alles dat de politie doet neutraal is.
Daarnaast, een Australische rechter heeft wel eens een sexueel getinte persiflage van Bart Simpson karakters als kinderporno aangeduid, en op die basis iemand veroordeeld. Genoeg manieren waarop dit helemaal fout kan gaan dus.
Sorry dat het niet duidelijk was.
In de discussie hebben mensen terecht opgeworpen: ‘Hoe weet MS dat het KP is en geen onschuldige vakantie- of kinderfoto?’.
Daar kwam het antwoord op: ‘dat wordt gecheckt tegen een officiele database van de politie’.
En daar nemen mensen genoegen mee ‘Oh, dan is het goed’. En ook ik kan me daar in vinden, ik heb vertrouwen in de politie.
Maar wat ik wil zeggen is dat dit eigenlijk juridisch niet veel uitmaakt. Het is gewoon het verleggen van het probleem. Of die database nu door MS zelf wordt bijgehouden, of door de politie, of door eender wie, maakt eigenlijk, fundamenteel niets uit. Er is nog steeds een kans dat jouw foto er onterecht in zit. Wie heeft bepaald welke foto’s daarin kwamen? Hoe weet je dat jouw vakantiefoto er niet bij zit en waar kun je naartoe om die eruit te laten halen?
Waar ik me eigenlijk tegen verzet is het gemak waarmee mensen door een politie-sausje hun terechte bezwaren opzij leggen.
Ik wantrouw de politie niet, en ben zwaar tegen KP, en ik geloof ook zal allemaal wel goed zitten, maar in het dispuut tussen de persoon en MS is het argument ‘ja maar het is gecheckt tegen een politie-database’ eigenlijk een non-argument.
Laat ik het anders stellen: het frustreert mij dat het gevoelsmatig voor mij wel een argument is, terwijl het dat rationeel niet is. Dus eigenlijk was mijn opmerking bedoeld als aanzet om te horen hoe anderen hierover denken.
Ik begrijp CG heel goed, ook bij de politie zijn het maar ‘mensen’, zoals ze zelf graag roepen als er weer eens wat fout is gegaan.
Beetje wereldvreemde reactie van jou.
Wat gebeurt er als de OneDrive van Vistaus gehackt wordt, zijn kinderfoto’s in “zekere kringen” over het (donkere) Internet verspreid worden en uiteindelijk door de politie bij een actie tegen kinderporno aangetroffen worden. Wordt Vistaus ook door Microsoft gebrandmerkt als de politie een drietal van zijn kinderfoto’s aan de database toevoegt?
In theorie is er een groot verschil tussen onschuldig naakt van kinderen en kinderporno. Dat in de praktijk die twee door bepaalde malloten door elkaar gehaald worden is een teken van deze tijd, en zeer kwalijk. Juist om goed op te kunnen treden tegen kinderporno (= misbruik), moeten we niet spastisch doen over elke vorm van naaktheid.
Ik zie drie categorieën: “onschuldige naaktfoto’s”, “foto’s in scene gezet ter prikkeling” en “documentatie van misbruik”. Bij foto’s uit de laatste categorie zeg ik “makers oppakken” (en wat mij betreft mogen de foto’s uit de roulatie genomen worden). Natuurlijk is er een overlap tussen de categorieën en kun je op de foto niet zien wat zich buiten beeld afgespeeld heeft.
Maar een belangrijke vraag blijft in hoeverre je als wetgever de verspreiding van foto’s van kinderen, waaraan de kinderen vrijwillig hebben meegewerkt en die geen gedrag tonen dat niet bij de leeftijd van de kinderen past moet willen beperken. Allen omdat een kleine groep mensen er seksueel opgewonden van kan raken vind ik een magere onderbouwing.
Die categorieën zijn al een probleem. Een jaar of drie terug was in het nieuws dat pedofielen massaal kinderfoto’s deelden op buitenlandse websites. Veel van deze foto’s waren op zich beschouwd normale foto’s van kleine kinderen op het strand of in het zwembad. Door de verzameling waarin ze terecht waren gekomen en het doel waarmee ze verspreid werden ze echter aangemerkt als kinderporno.
En zo is een normale kinderfoto door omstandigheden opeens kinderporno geworden, wie garandeert dat deze foto’s niet in een database terecht komen? En wie mogen we verantwoordelijk houden voor de gevolgen wanneer dit wel gebeurt? De politie, de overheid? Die hebben nog nooit ergens verantwoordelijkheid voor genomen. Wil je tegen die partijen je gelijk krijgen moet je altijd door tot de hoge raad. Microsoft? Die verwijst naar de politie die de database bijhoudt.
Daarbij zoals elders al vermeld is de definitie van kinderporno niet wereldwijd gelijk. Dan heb jij hier in Nederland legale foto’s geupload en wordt je account geblokt want MS is een Amerikaans bedrijf en de Amerkanen zijn ‘iets’ gefrustreerder als het om naakt gaat als Nederlanders. Overigens is dit niet eens een heel erge ver van mijn bed show voor Nederland. Hier was immers de grens voor kinderporno langer 16 jaar dan dat hij op de huidige grens van 18 jaar staat. Online niet zo’n probleem, maar op hoeveel zolders en in hoeveel verhuisdozen zit nog indertijd legaal gemaakt enverspreid materiaal waar je nu voor in de gevangenis beland?
Beslissingen nemen op basis van een database hit is gewoon een slecht idee. Nader onderzoek en in het geval van een enkelle Whatsapp upload het bestand in quarantaine plaatsen wellicht de vraag bij een gebruiker neerleggen of hij zich bewust is dat dit in zijn App historie zit. Bij meerdere hits de politie onderzoek laten doen. Maar de beoordeling aan particuliere partijen overlaten is een slecht idee.
Microsoft gebruikt hashes van NCMEC, het Meldpunt in de VS, daar gelden andere regels mbt wat KP is. In de procedure is dit niet duidelijk aangegeven, lijkt me dat Microsoft de KP foto had moeten bewaren (mag niet) .. althans de hashwaarde die de hit heeft gegeven (lastig als PhotoDNA gebruikt is) .
De uitspraak lijkt me typisch ‘Oh KP, vreselijk’ en dan mag alles blijkbaar.