Nederlandse politie arresteert man om maken van deepfakeporno van BN’er

| AE 13682 | Regulering | 29 reacties

De politie heeft onlangs een 38-jarige Amersfoortse man opgepakt omdat hij een deepfakeporno zou hebben gemaakt van de NPO-presentatrice Welmoed Sijtsma. Dat meldde Tweakers vorige week. De journalist en presentatrice van Goedemorgen Nederland en Op1 maakte er voor omroep WNL een vierdelige docuserie van, Welmoed en de seksfakes. Tijdens het maken van de docuserie is ook de maker van haar nep-filmpje opgespoord, die na verhoor weer is vrijgelaten. Dat roept de vraag op of en hoe deze man strafbaar is.

Een deepfake is een techniek voor het samenstellen van videobeelden met machine learning, meer specifiek een generatief antagonistennetwerk of generative adversarial network (GAN). Heel simpel uitgelegd bestaat een GAN uit twee AI systemen, de een genereert plaatjes en de ander probeert te zien of die gegenereerd zijn. Pas als die laatste ze niet herkent, zijn ze af. Maar los van de technische details, de omschrijving uit het AD “Mijn hoofd is op het lichaam van een pornoactrice gemonteerd.” laat prima zien waar het om gaat. Er zijn immers genoeg andere manieren om dit resultaat te bereiken, ze zijn alleen duurder of arbeidsintensiever dan een GAN.

Is dat strafbaar? Ja. Sinds een paar jaar hebben we een nieuw wetsartikel over onvrijwillige porno, namelijk art. 139h Strafrecht:

Met gevangenisstraf van ten hoogste een jaar of geldboete van de vierde categorie wordt gestraft: a.hij die opzettelijk en wederrechtelijk van een persoon een afbeelding van seksuele aard vervaardigt; b. hij die de beschikking heeft over een afbeelding als bedoeld onder a terwijl hij weet of redelijkerwijs moet vermoeden dat deze door of als gevolg van een onder a strafbaar gestelde handeling is verkregen.
Dit artikel is ingevoerd vanuit de wens om ‘wraakporno’ te bestrijden, zeg maar stiekem je partner filmen tijdens seks en dat publiceren om haar (het is vrijwel altijd een haar) pijn te doen of te vernederen. Maar ik zie geen reden waarom een GAN-gegenereerd beeld hier niet onder zou vallen.

De discussie gaat dan namelijk over de vraag of het een ‘afbeelding’ is. Dat lijkt mij wel: die persoon is herkenbaar in beeld, dat is het hele punt van de deepfake. Dat er geen beeldbewerking is gebruikt en dat je het portret wellicht niet zelf hebt gemaakt, is dan geen argument.

Ditzelfde woord ‘afbeelding’ staat namelijk in het wetsartikel dat kindermisbruikafbeeldingen (csam) strafbaar stelt. Daarbij is door de minister gezegd:

Voorts is sprake van vervaardigen van kinderporno als bijvoorbeeld een verdachte foto’s van kinderhoofdjes op pornografische foto’s van volwassenen plakt, realistische tekeningen of computeranimaties maakt, maar ook als (heimelijk) beeldmateriaal gemaakt wordt van (naakt) spelende kinderen, met een kenbaar seksuele strekking.
In het strafrecht betekenen dezelfde woorden dezelfde dingen. Als dus ‘afbeelding’ in 139h staat, dan geldt die uitleg van de minister ook voor artikel 139h. Dus is een “realistische tekening of computeranimatie” een vorm van “afbeelding”, en je kunt van een deepfake veel zeggen maar “tekening of animatie” dekt de lading prima. En dat de afbeelding een tekening is, is geen bezwaar om het een portret van iemand te noemen, zie het strafbareportretrecht (art. 31 Auteurswet). Ik zie dus het probleem niet.

Werkte ik bij de politie dan was ik een minderheid, want in NRC schrijft onderzoeker Marthe Goudsmit:

De huidige wettekst biedt wel ruimte voor een interpretatie waarbij deepfakes ook strafbaar zijn, maar is daar niet duidelijk over. Daardoor komt een slachtoffer dat aangifte wil doen in een soort lekkende pijpleiding terecht: allereerst zal de politie moeten inschatten dat pornografische deepfakes onder de huidige strafwet vallen. Als de politie denkt van niet, kan geen aangifte worden gedaan. Als de politie de aangifte echter wel opneemt, is voor vervolging nodig dat er een officier van justitie is die er brood in ziet. Als dat dan ook het geval is, zal uiteindelijk de rechter moeten bepalen of in art. 139h Sr met ‘beeldmateriaal’ ook nepfoto’s bedoeld worden. In het beste geval zegt de rechter ‘ja’. Maar de rechter kan ook ‘nee’ zeggen, en dan heeft Nederland geen wet die pornografische deepfakes strafbaar stelt.
De huidige richtlijnen van het OM gaan inderdaad niet in op het aspect “is een foto van werkelijk gebeurde seks” versus “een hoofd is op andermans lijf geplakt”. Ik vermoed omdat de aandacht twee jaar geleden vooral ging over dat eerste, deepfakes bestonden wel maar waren nog geen maatschappelijk fenomeen. Dat is wel een héél frustrerende opstelling.

Persoonlijk zou ik bij zo’n onduidelijkheid juist zeggen, forceer een uitspraak. Hoe dan ook is duidelijkheid beter dan gedraai en “mja wie weet”, toch?

Arnoud

Pornosite moet van rechter toestemming vragen aan mensen op amateurbeelden

| AE 13174 | Ondernemingsvrijheid | 17 reacties

De pornowebsite Vagina.nl mag alleen naaktbeelden publiceren na toestemming van de personen die in beeld komen, las ik bij Nu.nl. Dit bepaalde de rechtbank Amsterdam in een massaclaim van stichting Stop Online Shaming (SOS) en Helpwanted.nl vorige week. De site bevat naast professionele porno ook amateurporno, waaronder heimelijk gefilmd materiaal waarop mensen te zien zijn die geheel of gedeeltelijk ontkleed zijn. Het rondzingen van zulk materiaal is schadelijk voor de slachtoffers, en met deze massaclaim wilde men paal en perk daartegen stellen.

De site is een typische pornosite: gebruikers mogen zelf materiaal uploaden, dat komt na een minimale screening online en komt dan in een van tientallen categorieën terecht. De algemene voorwaarden klinken mooi, en er is een notice-takedown procedure die wederom op papier mooi klinkt: stuur een klacht, we kijken ernaar en als het ons terecht lijkt, halen we het weg.

Leuk en aardig, maar voor veel mensen is dit een lastige hobbel. Je moet dan aantonen dat jij in beeld was, dat jij géén toestemming hebt gegeven en dat het bezwaarlijk of schadelijk voor je is en ga zo maar door. Nog los van dat vele sites gewoon geen gehoor geven aan je sommatie, wetende dat je toch niet naar de rechter gaat als slachtoffer.

De stichting draaide het in haar massaclaim om: de eis kwam neer op een verklaring voor recht (een “gerechtelijk bevel”, zo u wilt) dat het onrechtmatig is om amateurporno online te zetten zonder dat je aantoonbaar toestemming hebt van de betrokken acteurs. Zoiets kan tegenwoordig onder de Wet massaclaims. Zoals de rechtbank het uitlegt, de wet gaat uit van de fictie dat alle Nederlanders die onder de groep vallen voor wiens belangen wordt opgekomen, betrokken zijn in het geding, tenzij ze expliciet hebben aangeven niet vertegenwoordigd te willen zijn door de eisers (opt-out).

Allereerst constateert de rechter dat de site inhoudelijk filtert op wat mensen uploaden. De stichting had een paar testvideo’s geupload, en die werden met inhoudelijke motivatie afgekeurd. Dan ben je dus redactioneel bezig, en dan kun je je niet beroepen op de vrijstelling voor platforms.

Vervolgens doet de rechtbank de gebruikelijke belangenafweging: de privacy van betrokkenen versus de nieuwswaarde van de video’s (vrijheid van meningsuiting, immers) en het commercieel belang (ondernemersvrijheid) van de site. Het gaat hier specifiek om gluurvideo’s, stiekem gemaakt in situaties waarin mensen zich onbespied mogen wanen, zonder dat er enig algemeen belang of iets dergelijks te bedenken is. Ook ging het om gelekte privébeelden (zoals wraakporno), waarbij mensen misschien dan de video wel wilden maken maar zeker niet akkoord gingen met openbare publicatie.

De slotsom is dat het onrechtmatig is om op een adult website beeldmateriaal te publiceren dat heimelijk is gefilmd en dat personen herkenbaar toont die (geheel of gedeeltelijk) ontkleed zijn te zien op plekken waar zij zich onbespied wanen of dat niet professioneel is gemaakt en personen herkenbaar toont die in de privésfeer seksuele handelingen verrichten, tenzij de exploitant, in dit geval [gedaagde] , zich ervan heeft vergewist dat die personen toestemmen in de openbaarmaking van die beelden.
Dat je een notice/takedownprocedure hebt of in je algemene voorwaarden mensen zogenaamd laat zeggen dat er toestemming is van iedereen, helpt daarbij helemaal niets. Je moet de schade vergoeden van iedere persoon die herkenbaar op zo’n video staat. Bovendien, en dat is belangrijker: er staan dwangsommen op het online houden van zulke video’s, namelijk 10.000 euro per video en 500 euro per dag. Dat is een enorme opsteker voor slachtoffers, want dan hoef je dus eigenlijk geen schadebedrag te onderbouwen.

De uitspraak is niet specifiek voor deze site, andere sites die op dezelfde manier werken (en dat doen ze vrijwel allemaal) kunnen dus op dezelfde manier worden aangesproken. Alleen de dwangsom geldt formeel niet voor andere sites.

Arnoud

 

 

Facebook moet gegevens geven aan slachtoffer wraakporno

| AE 7781 | Ondernemingsvrijheid | 32 reacties

post-facebook-wall.pngFacebook moet binnen twee weken de gebruikersgegevens verstrekken van de persoon die een seksfilmpje op de website heeft gezet. Dat meldde NRC gisteren. In een kort geding had het slachtoffer dit geëist, en de rechter wijst deze eis nu toe. En wanneer Facebook niet binnen 14 dagen die gegevens overlegt, moet een onafhankelijke IT-deskundige bevestigen dat de gegevens inderdaad weg zijn.

Het kort geding was aangespannen door een vrouw wiens ex-vriend (toen ze beiden nog minderjarig waren) een seksfilmpje had gemaakt. Het filmpje was opgedoken op Facebook, Whatsapp en nog wat media, maar uiteraard stond er niet de naam van de plaatser bij. Facebook zou die gegevens moeten hebben – althans, die gegevens eisen ze in hun gebruiksvoorwaarden – en gezien het antipestbeleid van Facebook zou je verwachten dat ze die dan geven als je als slachtoffer erom vraagt:

Het kan zijn dat we je gegevens gebruiken, bewaren en delen als antwoord op een juridisch verzoek (zoals een bevel tot huiszoeking, gerechtelijk bevel of dagvaarding) indien we te goeder trouw menen dat de wet ons hiertoe verplicht.

Op 30 april had de advocaat van de vrouw de gegevens van de plaatser opgeëist, waarop Facebook reageerde met de standaardfout dat daarvoor een valid court order nodig zou zijn. Na enig doorvragen kwam in juni het antwoord dat die gegevens er niet meer zijn, omdat het account al verwijderd was.

Ik zeg standaardfout omdat het in Nederland écht fout is om te denken dat je alleen NAW-gegevens hoeft af te geven als daarvoor een gerechtelijk bevel is afgegeven of de politie op de stoep staat. Al in 2006 wees de Hoge Raad het Lycos/Pessers-arrest, dat zegt dat je op verzoek die gegevens moet geven als duidelijk is dat het gaat om iets dat niet door de beugel kan, jij eigenlijk de enige bent die die gegevens kán geven en het belang van de verzoeker zwaarder weegt dan de privacy van je klant.

Natuurlijk kan het zijn dat je die niet (meer) hebt. Maar in dat verband doet het gek aan dat men eerst schermt met een court order en pas later zegt, “oh nee die zijn al lang weg”. Je zou op zijn minst verwachten dat als er zo’n klacht komt binnen het kader van je antipestbeleid, je de gegevens vasthoudt voor het geval men terugkomt met die court order. En de rechtbank vindt dit zó raar dat ze het als onrechtmatig kwalificeert. Dit hoor je gewoon niet te doen, en nu je het toch hebt gedaan, moet je de schade vergoeden bij de persoon die er last van heeft.

Tegen de achtergrond van voornoemde feiten en omstandigheden is de voorzieningenrechter van oordeel dat Facebook, door op de valreep te volstaan met de mededeling dat zij niet meer over de gevraagde gegevens beschikt bij het naleven van haar – in dit geval in beginsel aanwezige – rechtsplicht jegens eiseres tot het verstrekken van NAW-gegevens met betrekking tot degene die onrechtmatig jegens eiseres heeft gehandeld, onvoldoende zorgvuldigheid in acht heeft genomen. Daarmee heeft Facebook op haar beurt naar het oordeel van de voorzieningenrechter onrechtmatig gehandeld jegens eiseres.

Oftewel, Facebook ga nog maar eens héél goed zoeken en kom binnen 14 dagen met die gegevens. Anders kan mevrouw een schadeclaim bij jullie leggen.

Een logische uitspraak, wat mij betreft. Het heeft me eigenlijk altijd verbaasd waarom sites als Facebook zich zó onwillig opstellen. Zeker als je bedenkt dat de gegevens die ze hebben, meestal niet meer zijn dan een IP-adres en een e-mailadres, waardoor er toch nog zeker wat vervolgonderzoek nodig is alvorens je echt iemand aan kunt spreken. Ik snap dat je hierdoor met de privacy in het gedrang komt, maar daarvoor is er een belangenafweging ingebouwd in de Lycos/Pessers-toets.

En wat me hier dan helemaal verbaast, is dat het erop lijkt dat de gegevens zijn pas gezocht nadat er met een rechtszaak werd gedreigd. Dat voelt als je klanten weinig serieus nemen. En ja, dan krijg je uitspraken als deze met gewoon een keiharde plicht “ga maar zoeken en anders de schade vergoeden”. Dat had Facebook wel wat handiger aan kunnen pakken.

Arnoud

Israëlische wet verbiedt ‘wraakporno’, hoe zit dat bij ons?

| AE 6281 | Privacy, Regulering | 8 reacties

Israël heeft het uploaden van seksueel getinte foto’s en filmpjes zonder toestemming van de personen in beeld verboden, om ‘wraakporno’ tegen te gaan, las ik bij Tweakers. Wie seksueel expliciete afbeeldingen van een ander publiceert, is strafbaar als hij geen toestemming heeft. Daarmee wil men het fenomeen ‘revenge porn’ oftewel wraakporno aan banden leggen: het… Lees verder

Seksfilmpje versturen via WhatsApp is geen smaad of belediging

| AE 5615 | Regulering, Uitingsvrijheid | 34 reacties

Het versturen van een seksfilmpje via WhatsApp naar één persoon maakt je niet schuldig aan smaad, ook niet als die persoon het vervolgens doorstuurt. Dat bepaalde de rechtbank Overijssel deze week. Van smaad kan pas sprake zijn als “het publiek” kennisneemt van die berichten, en daarvan is bij een WhatsApp bericht geen sprake. Daarbij is… Lees verder

Veroordeling voor publicatie naaktfoto’s ex-partner op internet

| AE 881 | Privacy | 5 reacties

Afgelopen vrijdag is een man tot 6.000 euro schadevergoeding veroordeeld voor het verspreiden van naaktfoto’s van zijn exvriendin via internet (Emule en MSN), las ik op Nu.nl. De foto’s bleken via Emule, een filesharing netwerk, aangeboden te worden. Ook had de verdachte deze foto’s via MSN gedeeld met allerlei mensen. Gauw het vonnis erbij gepakt,… Lees verder