Nederlandse politie arresteert man om maken van deepfakeporno van BN’er

De politie heeft onlangs een 38-jarige Amersfoortse man opgepakt omdat hij een deepfakeporno zou hebben gemaakt van de NPO-presentatrice Welmoed Sijtsma. Dat meldde Tweakers vorige week. De journalist en presentatrice van Goedemorgen Nederland en Op1 maakte er voor omroep WNL een vierdelige docuserie van, Welmoed en de seksfakes. Tijdens het maken van de docuserie is ook de maker van haar nep-filmpje opgespoord, die na verhoor weer is vrijgelaten. Dat roept de vraag op of en hoe deze man strafbaar is.

Een deepfake is een techniek voor het samenstellen van videobeelden met machine learning, meer specifiek een generatief antagonistennetwerk of generative adversarial network (GAN). Heel simpel uitgelegd bestaat een GAN uit twee AI systemen, de een genereert plaatjes en de ander probeert te zien of die gegenereerd zijn. Pas als die laatste ze niet herkent, zijn ze af. Maar los van de technische details, de omschrijving uit het AD “Mijn hoofd is op het lichaam van een pornoactrice gemonteerd.” laat prima zien waar het om gaat. Er zijn immers genoeg andere manieren om dit resultaat te bereiken, ze zijn alleen duurder of arbeidsintensiever dan een GAN.

Is dat strafbaar? Ja. Sinds een paar jaar hebben we een nieuw wetsartikel over onvrijwillige porno, namelijk art. 139h Strafrecht:

Met gevangenisstraf van ten hoogste een jaar of geldboete van de vierde categorie wordt gestraft: a.hij die opzettelijk en wederrechtelijk van een persoon een afbeelding van seksuele aard vervaardigt; b. hij die de beschikking heeft over een afbeelding als bedoeld onder a terwijl hij weet of redelijkerwijs moet vermoeden dat deze door of als gevolg van een onder a strafbaar gestelde handeling is verkregen.
Dit artikel is ingevoerd vanuit de wens om ‘wraakporno’ te bestrijden, zeg maar stiekem je partner filmen tijdens seks en dat publiceren om haar (het is vrijwel altijd een haar) pijn te doen of te vernederen. Maar ik zie geen reden waarom een GAN-gegenereerd beeld hier niet onder zou vallen.

De discussie gaat dan namelijk over de vraag of het een ‘afbeelding’ is. Dat lijkt mij wel: die persoon is herkenbaar in beeld, dat is het hele punt van de deepfake. Dat er geen beeldbewerking is gebruikt en dat je het portret wellicht niet zelf hebt gemaakt, is dan geen argument.

Ditzelfde woord ‘afbeelding’ staat namelijk in het wetsartikel dat kindermisbruikafbeeldingen (csam) strafbaar stelt. Daarbij is door de minister gezegd:

Voorts is sprake van vervaardigen van kinderporno als bijvoorbeeld een verdachte foto’s van kinderhoofdjes op pornografische foto’s van volwassenen plakt, realistische tekeningen of computeranimaties maakt, maar ook als (heimelijk) beeldmateriaal gemaakt wordt van (naakt) spelende kinderen, met een kenbaar seksuele strekking.
In het strafrecht betekenen dezelfde woorden dezelfde dingen. Als dus ‘afbeelding’ in 139h staat, dan geldt die uitleg van de minister ook voor artikel 139h. Dus is een “realistische tekening of computeranimatie” een vorm van “afbeelding”, en je kunt van een deepfake veel zeggen maar “tekening of animatie” dekt de lading prima. En dat de afbeelding een tekening is, is geen bezwaar om het een portret van iemand te noemen, zie het strafbareportretrecht (art. 31 Auteurswet). Ik zie dus het probleem niet.

Werkte ik bij de politie dan was ik een minderheid, want in NRC schrijft onderzoeker Marthe Goudsmit:

De huidige wettekst biedt wel ruimte voor een interpretatie waarbij deepfakes ook strafbaar zijn, maar is daar niet duidelijk over. Daardoor komt een slachtoffer dat aangifte wil doen in een soort lekkende pijpleiding terecht: allereerst zal de politie moeten inschatten dat pornografische deepfakes onder de huidige strafwet vallen. Als de politie denkt van niet, kan geen aangifte worden gedaan. Als de politie de aangifte echter wel opneemt, is voor vervolging nodig dat er een officier van justitie is die er brood in ziet. Als dat dan ook het geval is, zal uiteindelijk de rechter moeten bepalen of in art. 139h Sr met ‘beeldmateriaal’ ook nepfoto’s bedoeld worden. In het beste geval zegt de rechter ‘ja’. Maar de rechter kan ook ‘nee’ zeggen, en dan heeft Nederland geen wet die pornografische deepfakes strafbaar stelt.
De huidige richtlijnen van het OM gaan inderdaad niet in op het aspect “is een foto van werkelijk gebeurde seks” versus “een hoofd is op andermans lijf geplakt”. Ik vermoed omdat de aandacht twee jaar geleden vooral ging over dat eerste, deepfakes bestonden wel maar waren nog geen maatschappelijk fenomeen. Dat is wel een héél frustrerende opstelling.

Persoonlijk zou ik bij zo’n onduidelijkheid juist zeggen, forceer een uitspraak. Hoe dan ook is duidelijkheid beter dan gedraai en “mja wie weet”, toch?

Arnoud

Pornosite moet van rechter toestemming vragen aan mensen op amateurbeelden

De pornowebsite Vagina.nl mag alleen naaktbeelden publiceren na toestemming van de personen die in beeld komen, las ik bij Nu.nl. Dit bepaalde de rechtbank Amsterdam in een massaclaim van stichting Stop Online Shaming (SOS) en Helpwanted.nl vorige week. De site bevat naast professionele porno ook amateurporno, waaronder heimelijk gefilmd materiaal waarop mensen te zien zijn die geheel of gedeeltelijk ontkleed zijn. Het rondzingen van zulk materiaal is schadelijk voor de slachtoffers, en met deze massaclaim wilde men paal en perk daartegen stellen.

De site is een typische pornosite: gebruikers mogen zelf materiaal uploaden, dat komt na een minimale screening online en komt dan in een van tientallen categorieën terecht. De algemene voorwaarden klinken mooi, en er is een notice-takedown procedure die wederom op papier mooi klinkt: stuur een klacht, we kijken ernaar en als het ons terecht lijkt, halen we het weg.

Leuk en aardig, maar voor veel mensen is dit een lastige hobbel. Je moet dan aantonen dat jij in beeld was, dat jij géén toestemming hebt gegeven en dat het bezwaarlijk of schadelijk voor je is en ga zo maar door. Nog los van dat vele sites gewoon geen gehoor geven aan je sommatie, wetende dat je toch niet naar de rechter gaat als slachtoffer.

De stichting draaide het in haar massaclaim om: de eis kwam neer op een verklaring voor recht (een “gerechtelijk bevel”, zo u wilt) dat het onrechtmatig is om amateurporno online te zetten zonder dat je aantoonbaar toestemming hebt van de betrokken acteurs. Zoiets kan tegenwoordig onder de Wet massaclaims. Zoals de rechtbank het uitlegt, de wet gaat uit van de fictie dat alle Nederlanders die onder de groep vallen voor wiens belangen wordt opgekomen, betrokken zijn in het geding, tenzij ze expliciet hebben aangeven niet vertegenwoordigd te willen zijn door de eisers (opt-out).

Allereerst constateert de rechter dat de site inhoudelijk filtert op wat mensen uploaden. De stichting had een paar testvideo’s geupload, en die werden met inhoudelijke motivatie afgekeurd. Dan ben je dus redactioneel bezig, en dan kun je je niet beroepen op de vrijstelling voor platforms.

Vervolgens doet de rechtbank de gebruikelijke belangenafweging: de privacy van betrokkenen versus de nieuwswaarde van de video’s (vrijheid van meningsuiting, immers) en het commercieel belang (ondernemersvrijheid) van de site. Het gaat hier specifiek om gluurvideo’s, stiekem gemaakt in situaties waarin mensen zich onbespied mogen wanen, zonder dat er enig algemeen belang of iets dergelijks te bedenken is. Ook ging het om gelekte privébeelden (zoals wraakporno), waarbij mensen misschien dan de video wel wilden maken maar zeker niet akkoord gingen met openbare publicatie.

De slotsom is dat het onrechtmatig is om op een adult website beeldmateriaal te publiceren dat heimelijk is gefilmd en dat personen herkenbaar toont die (geheel of gedeeltelijk) ontkleed zijn te zien op plekken waar zij zich onbespied wanen of dat niet professioneel is gemaakt en personen herkenbaar toont die in de privésfeer seksuele handelingen verrichten, tenzij de exploitant, in dit geval [gedaagde] , zich ervan heeft vergewist dat die personen toestemmen in de openbaarmaking van die beelden.
Dat je een notice/takedownprocedure hebt of in je algemene voorwaarden mensen zogenaamd laat zeggen dat er toestemming is van iedereen, helpt daarbij helemaal niets. Je moet de schade vergoeden van iedere persoon die herkenbaar op zo’n video staat. Bovendien, en dat is belangrijker: er staan dwangsommen op het online houden van zulke video’s, namelijk 10.000 euro per video en 500 euro per dag. Dat is een enorme opsteker voor slachtoffers, want dan hoef je dus eigenlijk geen schadebedrag te onderbouwen.

De uitspraak is niet specifiek voor deze site, andere sites die op dezelfde manier werken (en dat doen ze vrijwel allemaal) kunnen dus op dezelfde manier worden aangesproken. Alleen de dwangsom geldt formeel niet voor andere sites.

Arnoud

 

 

Facebook moet gegevens geven aan slachtoffer wraakporno

post-facebook-wall.pngFacebook moet binnen twee weken de gebruikersgegevens verstrekken van de persoon die een seksfilmpje op de website heeft gezet. Dat meldde NRC gisteren. In een kort geding had het slachtoffer dit geëist, en de rechter wijst deze eis nu toe. En wanneer Facebook niet binnen 14 dagen die gegevens overlegt, moet een onafhankelijke IT-deskundige bevestigen dat de gegevens inderdaad weg zijn.

Het kort geding was aangespannen door een vrouw wiens ex-vriend (toen ze beiden nog minderjarig waren) een seksfilmpje had gemaakt. Het filmpje was opgedoken op Facebook, Whatsapp en nog wat media, maar uiteraard stond er niet de naam van de plaatser bij. Facebook zou die gegevens moeten hebben – althans, die gegevens eisen ze in hun gebruiksvoorwaarden – en gezien het antipestbeleid van Facebook zou je verwachten dat ze die dan geven als je als slachtoffer erom vraagt:

Het kan zijn dat we je gegevens gebruiken, bewaren en delen als antwoord op een juridisch verzoek (zoals een bevel tot huiszoeking, gerechtelijk bevel of dagvaarding) indien we te goeder trouw menen dat de wet ons hiertoe verplicht.

Op 30 april had de advocaat van de vrouw de gegevens van de plaatser opgeëist, waarop Facebook reageerde met de standaardfout dat daarvoor een valid court order nodig zou zijn. Na enig doorvragen kwam in juni het antwoord dat die gegevens er niet meer zijn, omdat het account al verwijderd was.

Ik zeg standaardfout omdat het in Nederland écht fout is om te denken dat je alleen NAW-gegevens hoeft af te geven als daarvoor een gerechtelijk bevel is afgegeven of de politie op de stoep staat. Al in 2006 wees de Hoge Raad het Lycos/Pessers-arrest, dat zegt dat je op verzoek die gegevens moet geven als duidelijk is dat het gaat om iets dat niet door de beugel kan, jij eigenlijk de enige bent die die gegevens kán geven en het belang van de verzoeker zwaarder weegt dan de privacy van je klant.

Natuurlijk kan het zijn dat je die niet (meer) hebt. Maar in dat verband doet het gek aan dat men eerst schermt met een court order en pas later zegt, “oh nee die zijn al lang weg”. Je zou op zijn minst verwachten dat als er zo’n klacht komt binnen het kader van je antipestbeleid, je de gegevens vasthoudt voor het geval men terugkomt met die court order. En de rechtbank vindt dit zó raar dat ze het als onrechtmatig kwalificeert. Dit hoor je gewoon niet te doen, en nu je het toch hebt gedaan, moet je de schade vergoeden bij de persoon die er last van heeft.

Tegen de achtergrond van voornoemde feiten en omstandigheden is de voorzieningenrechter van oordeel dat Facebook, door op de valreep te volstaan met de mededeling dat zij niet meer over de gevraagde gegevens beschikt bij het naleven van haar – in dit geval in beginsel aanwezige – rechtsplicht jegens eiseres tot het verstrekken van NAW-gegevens met betrekking tot degene die onrechtmatig jegens eiseres heeft gehandeld, onvoldoende zorgvuldigheid in acht heeft genomen. Daarmee heeft Facebook op haar beurt naar het oordeel van de voorzieningenrechter onrechtmatig gehandeld jegens eiseres.

Oftewel, Facebook ga nog maar eens héél goed zoeken en kom binnen 14 dagen met die gegevens. Anders kan mevrouw een schadeclaim bij jullie leggen.

Een logische uitspraak, wat mij betreft. Het heeft me eigenlijk altijd verbaasd waarom sites als Facebook zich zó onwillig opstellen. Zeker als je bedenkt dat de gegevens die ze hebben, meestal niet meer zijn dan een IP-adres en een e-mailadres, waardoor er toch nog zeker wat vervolgonderzoek nodig is alvorens je echt iemand aan kunt spreken. Ik snap dat je hierdoor met de privacy in het gedrang komt, maar daarvoor is er een belangenafweging ingebouwd in de Lycos/Pessers-toets.

En wat me hier dan helemaal verbaast, is dat het erop lijkt dat de gegevens zijn pas gezocht nadat er met een rechtszaak werd gedreigd. Dat voelt als je klanten weinig serieus nemen. En ja, dan krijg je uitspraken als deze met gewoon een keiharde plicht “ga maar zoeken en anders de schade vergoeden”. Dat had Facebook wel wat handiger aan kunnen pakken.

Arnoud

Israëlische wet verbiedt ‘wraakporno’, hoe zit dat bij ons?

porno.jpgIsraël heeft het uploaden van seksueel getinte foto’s en filmpjes zonder toestemming van de personen in beeld verboden, om ‘wraakporno’ tegen te gaan, las ik bij Tweakers. Wie seksueel expliciete afbeeldingen van een ander publiceert, is strafbaar als hij geen toestemming heeft. Daarmee wil men het fenomeen ‘revenge porn’ oftewel wraakporno aan banden leggen: het publiceren van expliciet privébeeld om zo de ex-partner terug te pakken. En hoe zit dat in Nederland?

In Nederland is geen aparte wetgeving tegen wraakporno. Er zijn twee sporen waarlangs een dergelijke publicatie kan worden aangepakt: smaad en portretrecht.

Van smaad is sprake als je opzettelijk iemands eer of goede naam aanrandt. Dat kan ook per foto: in 2008 werd een man veroordeeld voor het verspreiden van naaktfoto’s van zijn exvriendin via internet. Door deze foto’s te voorzien van haar naam, was het duidelijk dat zijn doel was haar reputatie te beschadigen.

Wel moet daarbij sprake zijn van een publiek aanbieden, zo leerden we afgelopen juli. Een filmpje met één persoon delen via WhatsApp is geen smaad; daarmee komt het filmpje niet “voor het publiek” beschikbaar en dat is een vereiste bij smaad.

Een ander discusiepunt is of de publicatie wel bedoeld is om iemands reputatie te beschadigen. Dat klinkt evident, maar in de Manon Thomas-zaak werd in hoger beroep bepaald dat daar geen sprake van was. Kennelijk is het voor een BN-er een compliment als je naakt over internet gaat?

Thomas kreeg wél gelijk op het punt van portretrecht. Wie herkenbaar in beeld is (wat ook zonder je gezicht mogelijk is, bv. omdat mensen je naam erbij zetten), kan zich verzetten tegen publicatie van dat beeld. Daarbij onderscheidt de wet twee situaties. Als de foto’s in opdracht van het model zijn gemaakt, dan is toestemming nodig. Zijn de foto’s zonder opdracht gemaakt (zoals bij straatkiekjes) dan is een belangenafweging nodig tussen nieuwswaarde en privacy (of ander portretrechtbelang).

Veel wraakporno is door het slachtoffer zelf gemaakt of door diens toenmalige partner, je mag dan veronderstellen dat dit in opdracht is gemaakt. De expartner mag dit dan niet publiceren zonder toestemming. Echter, als de partner de foto’s stiekem maakte dan zou je inderdaad spreken van een portret zonder opdracht, zodat het slachtoffer zou moeten aantonen dat de privacy zwaarder weegt dan de publicatiewaarde. Maar de nieuwswaarde van zulke foto’s lijkt me minimaal en de privacyschending maximaal, dus dat zou wel een héél uitzonderlijke situatie moeten zijn die publciatie rechtvaardigt.

Een aparte wet tegen dit fenomeen lijkt me dus niet echt nodig. Maar ja, het klinkt stoer.

Arnoud

Seksfilmpje versturen via WhatsApp is geen smaad of belediging

webcamHet versturen van een seksfilmpje via WhatsApp naar één persoon maakt je niet schuldig aan smaad, ook niet als die persoon het vervolgens doorstuurt. Dat bepaalde de rechtbank Overijssel deze week. Van smaad kan pas sprake zijn als “het publiek” kennisneemt van die berichten, en daarvan is bij een WhatsApp bericht geen sprake. Daarbij is de bedoeling immers dat alleen de ontvanger het bericht leest. Hoe juridisch om te gaan met ongewenst naakt blijft dus een lastige.

De verdachte had een seksfilm met hem en zijn partner (gemaakt tijdens zijn relatie) verspreid naar een gezamenlijke vriendin, en daarbij aangegeven dat deze het niet verder mocht verspreiden. En dan, eh, “bevestigt [zij] dat en verklaart dat zij dat desondanks tóch heeft gedaan. Vanaf dat moment is het filmpje verder verspreid en naar verluidt ook op internet beland.”

(Waarom dat filmpje nu zo nodig moest worden verspreid, wordt niet echt duidelijk. De verdachte was ‘boos’ dat zijn ex-vriendin een ander had, maar hoe je die situatie verbetert door iemand anders een naaktfilm te whatsappen ontgaat me.)

De politie kwam vervolgens bij hem aan met de strafbare feiten smaadschrift en belediging. Beiden komen kort gezegd neer op iemands eer en goede naam aantasten, hoewel het bij smaad vooral gaat om een specifiek feit (“Henk is een oplichter”) en bij belediging meer om gewoon nare taal (“Henk is een eikel”). Beiden zijn prima met een afbeelding te plegen – juridisch gezien heet zo’n afbeelding een geschrift, ook als het elektronisch is, en dat maakt het bij smaad in ieder geval erger want op smaadschrift staat een zwaardere straf.

Wel is bij beiden vereist dat sprake is van een uiting in het “openbaar”, althans “waaraan ruchtbaarheid wordt gegeven” bij smaad dan. Anderen moeten het gehoord of gezien hebben. Logisch ook wel: je kunt iemands reputatie moeilijk aantasten als niemand merkt dat dat gebeurt. Als niemand deze blog kan lezen, heeft Henk nergens last van.

Dat je iemands reputatie of goede naam kunt aantasten door een naaktfoto of -filmpje te verspreiden, lijkt me vrij duidelijk. Al in 2008 werd een man veroordeeld voor het publiceren van dergelijke foto’s van zijn ex. Wel moet je intentie erop gericht zijn om die goede naam aan te tasten. In de Manon Thomas-zaak was er geen sprake van smaad of belediging, hoewel me nog steeds niet duidelijk is waarom. Is het een compliment als iemand je foto’s online zet?

Hoe dan ook, een ander vereiste is dus dat de foto’s wel openbaar moeten zijn. En daarvan was hier geen sprake:

kan het versturen van één ‘WhatsApp’ naar één persoon, met de opdracht dit niet verder te sturen, niet gelden als in het openbaar gedaan. Evenmin kan bewezen worden dat verdachte, zoals ook is tenlastegelegd, heeft beledigd door via de ‘social media’ het filmpje naar derden te sturen. Hij heeft het filmpje immers naar slechts één persoon, anders dan het slachtoffer, verstuurd.

Dat vervolgens die andere persoon het verspreidde, valt hem niet aan te rekenen. Dat voelt wel een beetje gek aan, maar dat zat hem erin dat de verdachte het duidelijk had gemaakt dat het niet mocht. Eigenlijk had die andere persoon dus vervolgd moeten worden, maar dat was niet gebeurd. Onbevredigend voelt het wel.

Arnoud

Veroordeling voor publicatie naaktfoto’s ex-partner op internet

Afgelopen vrijdag is een man tot 6.000 euro schadevergoeding veroordeeld voor het verspreiden van naaktfoto’s van zijn exvriendin via internet (Emule en MSN), las ik op Nu.nl. De foto’s bleken via Emule, een filesharing netwerk, aangeboden te worden. Ook had de verdachte deze foto’s via MSN gedeeld met allerlei mensen. Gauw het vonnis erbij gepakt, want zo’n hoge boete had ik nog niet eerder gezien. Waarom is dat nu strafbaar?

De grondslag blijkt smaadschrift: aantasting van de eer en goede naam van de vrouw in kwestie door het verspreiden van geschriften. Logisch. Door het publiceren van pornografische foto’s kun je iemands goede naam behoorlijk schaden. Zelfs als de foto’s, zoals hier, met toestemming waren gemaakt. En digitale foto’s zijn prima te zien als geschriften.

Met het verweer dat het wellicht iemand anders was geweest, maakt de politierechter korte metten:

Naar eigen zeggen is verdachte de enige persoon die gebruik maakt van zijn computer, is zijn Windows gebruikersnaam [usernaam] en zijn e-mailadres [e-mailadres]. Bij de hierboven aangehaalde via MSN Messenger gevoerde gesprekken, waarbij de genoemde bestanden werden verzonden, werd gebruik gemaakt van het genoemde e-mailadres, terwijl er was ingelogd onder de genoemde gebruikersnaam. Hiermee staat voldoende vast dat verdachte de genoemde MSN Messenger gesprekken heeft gevoerd en ook de genoemde bestanden heeft verzonden.

Hetzelfde gaat op voor het delen via het P2P programma Emule: de verdachte had zelf gezegd dat hij verstand had van computers, en daarom vond de rechter het onwaarschijnlijk dat de foto’s per ongeluk in een gedeelde map terecht waren gekomen. Wat ook meewoog, is dat alle foto’s hernoemd waren van de bekende nietszeggende naam (DSC00007.JPG) naar “Ex-vriendin [bestandsnaam], uit [plaatsnaam]”. Dat kan alleen iemand gedaan hebben die weet hoe de ex-vriendin heette en waar deze woont. Een willekeurige grapjas die de foto’s toevallig had gevonden, had ze waarschijnlijk niet hernoemd, of in ieder geval niet naar die specifieke namen.

De gevolgen voor de ex waren zeer ernstig:

Bij de uitoefening van haar beroep en in haar woongenot heeft zij zodanig problemen ondervonden dat zij klanten verloor en is verhuisd.

De verdachte kreeg dan ook een boete van 1500 euro opgelegd, plus een schadevergoeding voor het slachtoffer van 5860,50 euro.

Update (16 mei 2012) de Hoge Raad bepaalt dat het fotograferen an sich geen ontucht is. Je moet meer doen.

Arnoud