Mag de Correspondent Mark Rutte deepfaken voor een klimaatalarm?

Het journalistieke platform De Correspondent heeft vandaag een deepfake-filmpje van demissionair premier Mark Rutte geplaatst, las ik bij het Algemeen Dagblad. In de neptoespraak, die amper van echt te onderscheiden is, luidt Rutte de noodklok over de klimaatveranderingen en kondigt hij aan verregaand beleid door te voeren. “Een toespraak waarvan we vinden dat de premier die zou moeten geven”, zo rechtvaardigt het medium haar stap. Er was meteen de nodige kritiek: ondergraaf je als journalist zo niet bepaalde kernbeginselen, als je meewerkt aan het normaliseren van deepfakes? Maar ook juridisch: mag dat wel, zo iemand deepfaken?

Zoals wel vaker bij juridische vragen: er mag niets zomaar, het zit hem eigenlijk altijd in de details. Er is geen specifiek wetsartikel dat het publiceren van deepfakes verbiedt, afgezien van deepfakeporno (art. 139h Strafrecht). Je moet dus eigenlijk altijd even verder kijken, wat is de inhoud of strekking van de video en wat vinden we daarvan.

Een voor de hand liggende insteek is smaad: je kunt met een deepfake iemand voor gek zetten, door hem of haar iets te laten zeggen dat niet waar is. Of door het gezicht te monteren in een aanstootgevende of beledigende context, zoals bij vervalst bewijs dat die persoon een misdrijf zou plegen. Die zal daarop aangekeken worden, en dat is in principe wel te zien als een aantasting van diens eer of goede naam.

Een andere mogelijkheid is het portretrecht en/of de AVG, door te zeggen dat er geen redelijk belang (art. 21 Auteurswet) dan wel geen gerechtvaardigd belang (art. 6 sub f AVG) is om het portret zo te manipuleren en te vertonen. Dat is iets makkelijker aan te tonen dan smaad, maar er is wel een probleem: is er inderdaad geen belang?

Specifiek bij deze deepfake zie ik dat namelijk wel, getuige de uitgebreide verantwoording van de Correspondent. Ik citeer:

Om de toekomst van ons land veilig te stellen zijn verregaande maatregelen nodig. Politiek leiderschap is daarvoor essentieel. Rutte heeft dit leiderschap tot nu toe niet getoond; integendeel, hij grijpt vaak terug op sussende uitspraken als ‘We moeten een leuk leven kunnen blijven leiden’ en ‘Ik ben niet van de sweeping statements’. Dat laatste zei hij nota bene toen hij in juli dit jaar de schade van de overstromingen in Limburg opnam.
Als je ziet dat juist dé leider van de politiek die leiderschapsrol verzaakt, en je wilt dat aan de kaak stellen na alles dat er al gezegd en gedaan is, dan is een stevig en opvallend middel wel geoorloofd lijkt mij. Het aan de kaak stellen van misstanden, het de politiek confronteren met tekortkomingen en fouten: dat is wel een taak van de pers. En dat hoeft echt niet perse met alleen geschreven artikelen of een documentaire op televisie, alle middelen zijn natuurlijk mogelijk om je mening te uiten.

Dat wil natuurlijk niet zeggen dat iedere deepfake met Rutte erin, of iedere deepfake waarin een politicus een controversieel (of tegengesteld) standpunt inneemt, automatisch legaal is. Die belangenafweging uit de wet moet je elke keer opnieuw maken, en er is geen algemene lijn.

Arnoud

20 reacties

  1. ‘Zoals wel vaker bij juridische vragen: er mag niets zomaar’

    Eh….. ga je hiermee niet voorbij aan de principes van de westerse democratische rechtstaat? Alles mag, tenzij er wettelijke regels zijn waarom iets niet mag.

    [En die regels die zijn er wel degelijk, en je beargumenteert netjes waarom die hier niet van toepassing zijn of moeten wijken voor een hoger belang, dus ik heb geen probleem met de uitkomst/de rest van de blog’]

    Maar volgens mij begin je van een verkeerd standpunt: ‘het mag niet’, terwijl je ‘altijd’ zou moeten beginnen van ‘het mag’, en dan beargumenteren waarom het niet zou mogen.

    Je conclusie zou dus moeten zijn: ‘de wettelijke bepalingen zijn in dit geval niet van toepassing/onvoldoende om het te verbieden’, in plaats van : ‘het leek eerst dat het niet mag, maar na evaluatie blijk dat het toch mag’

    Misschien ben ik een muggezifter, maar logica moet kloppen. De default is eigenlijk altijd: ‘het mag’

  2. Een wet op het deepfaken lijkt mij wenselijk en eenvoudig (en niet in strijd met de AVG). Er zou gewoon verplicht kunnen worden dat als je een deepfake publiceert er tijdens de volledige duur dat een gedeepfakete persoon in beeld is tegelijkertijd een bepaald logo of een bepaalde tekst als disclaimer in beeld is waarmee expliciet wordt gemaakt dat het om een deepfake gaat. Zo kan je (binnen de overige wettelijke kaders) tóch leuke dingen doen met deepfakes en tegelijkertijd voorkomen dat anderen het materiaal te eenvoudig op misleidende wijze kunnen gebruiken. Degene die deepfake-materiaal (al dan niet bewerkt) (her)publiceert zonder de verplichte disclaimer kan dan strafbaar zijn en/of onrechtmatig handelen.

      1. Deepfake: “In een context of omgeving waar dit normaliter niet verwacht hoeft te worden door imitatie, vermomming, listige kunstgrepen en/of technische hulpmiddelen een persoon weergeven op een wijze waardoor toeschouwers in de veronderstelling kunnen komen te verkeren dat de weergegeven persoon een nog levende natuurlijke persoon is waarbij het aannemelijk is dat de aldus weergegeven persoon en/of toeschouwers hierdoor op enige manier door misleid of anderszins gedupeerd kunnen worden.” Ruud Lubbers met de scheve mond van Andre en Jaap Aap vallen buiten deze definitie. Theater en film en carnaval ook.

  3. Eens en heldere toelichting. Naar mijn oordeel is ook van belang dat de Correspondent bij het publiceren van de deep fake duidelijk aangeeft dát er sprake is van een deep fake. (Te zien aan alle reacties erop, was dit meteen ook een tweede punt wat ze wilden aanvoeren: het gemak van het maken van een deep fake en alle risico’s die daar aan zitten, wat ik meteen wat minder sterk vond. Daarmee wordt het belang van de boodschap van de inhoud van de video nogal naar de achtergrond geschoven.) Al met al levert het in ieder geval weer interessante juridische discussies op en dat is altijd interessant! (btw: ik vond de kwaliteit van de deep fake ook weer niet zo goed dat ik (ongeacht de ‘waarschuwing’) heb getwijfeld of het de echte MR was. Of zou dit in mijn psyche zo hebben gewerkt, dat het mij duidelijk was dát het MR niet was, omdat ik al was gewaarschuwd. Lijkt mij een onderwerp voor andere specialisten:))

    1. Ik zie niets in de video dat aangeeft dat het een deepfake is. ja, misschien op de site van de Correspondent, of als je twitter opent en de reactie gaat kijken. Of we het nu leuk vinden of niet, klimaatverandering (en hoe we daar mee moeten omgaan) is niet iets waar consensus over is in de politiek of in de samenleving. Als deze video vlak voor de volgende verkiezing ergens wordt gepubliceerd waar ze niet vermelden dat het nep is kan dat de VVD stemmen kosten. Deze actie doet mij een beetje denken aan die DDOS diensten die zeggen “je mag onze dienst alleen gebruiken om je eigen site te testen” maar ondertussen betaling in bitcoin accepteren en geloven dat iemand met een wegwerp emailadres de eigenaar is van overheid.nl.

      1. Op Linkedin, waar ik de vide heb gezien, is deze mededeling duidelijk zichtbaar. Ik weet niet waar de video nog meer zichtbaar is, maar op de plaatsen waar de Correspondent deze plaatst hebben zij kennelijk deze informatie geplaatst. En dat er geen consensus is over de klimaatverandering ga ik maar niet op in. Ik verwijs naar alle wetenschappelijke onderzoeken die daarover zijn gepubliceerd.

  4. Waarom moeten we altijd de methode verwarren met het resultaat? Een filmpje maken met een Rutte-lookalike, en een stemacteur die klinkt als Rutte is niets nieuws. Andre van Duijn was er erg slecht in, maar er zijn altijd betere geweest.

    Nu is er een andere methode gebruikt (AI -deepfake), maar het resultaat is hetzelfde: Een fimpje waarin de Minister-President iets lijkt te zeggen wat ie nooit gezegd heeft.

    De methode verbieden is zinloos: mensen die kwaad willen worden niet braaf door het verbieden van deepfakes. Zeker niet omdat het onmogelijk te bewijzen is wie een filmpje gemaakt heeft nadat het viral gegaan is. Enige wat dan nog overblijft is het resultaat beoordelen: Is het filmpje smadelijk, kwetsends, onnodig verwarrend etc. En leren omgaan met het feit dat dit soort filmpjes bestaan, en je dus niet direct moet geloven wat je ziet.

    1. Voor mijn gevoel kan de methode best belangrijk zijn, zeker als die in ict geïmplementeerd is. Dan krijg je namelijk een wezenlijk verschil met handmatig werk: volledig automatisch en schaalbaar. Duizend stemacteurs vinden is heel moeilijk, en duur. Een AI duizend gesproken teksten laten maken is een kwestie van twee parameters bijstellen en tien minuten wachten. Open source en gratis.

      Je ziet dit ook bij de vele botnets die als trollenleger worden ingezet. Tuurlijk, vroeger kon je ook mensen betalen om lastig te doen bij vreedzame bijeenkomsten, maar dat is duur, onbetrouwbaar en kan uitkomen omdat mensen kletsen. Tienduizend bots op Facebook die allemaal iemand gaan afzeiken? Trek je gestolen creditcard en $20 verder heb je je comments.

  5. Eerlijk gezegd zie ik niet zoveel in het argument dat zo’n video verwarring oproept en mensen zouden denken dat dit de echte Mark Rutte is. De stem is overduidelijk van iemand anders, in de toespraak zegt hij letterlijk dat hij niet echt is, in de aftiteling staat dat het een deepfake is en in de begeleidende tekst wordt nadrukkelijk vermeld dat het nep is. Dan heb je als maker toch redelijkerwijs genoeg gedaan om duidelijk te maken dat het fake is?

              1. Da’s natuurlik iets heel anders. Die wetgeving gaat via de Tweede Kamer; dat groene boekje is alleen bindend voor de overheid en het onderwys. Het staat my buiten die context vry om anders te spellen als ik dat wil.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.