Wat kun je juridisch doen als je zingen wordt gedeepfaked?

Rapper Jay-Z is een rechtszaak begonnen over muziek-deepfakes met zijn stem, las ik bij Pitchfork. Met deepfakes bedoelen we door machine learning gegenereerde werken die lijken op echte werken. Meestal in de context van video, maar het kan ook met audio. Daardoor ontstaan haast niet van echt te onderscheiden muziekwerken in dit geval, waarbij je zomaar zou denken dat Jay-Z ze heeft gemaakt (althans de rap heeft ingesproken). En dat is natuurlijk niet zo; wat kan hij hiertegen doen?

Hoe je precies deepfakes maakt, is een tikje ingewikkeld. Het komt erop neer dat je een heleboel data van je bron (zoals een berg video of een kilometer muziek) verzamelt en een generative adversarial network (een soort machine learning systeem) daarop loslaat. Dat systeem bestaat uit twee componenten: het ene achterhaalt wat zeg maar typerend is voor die brondata en maakt daar een nieuw, vergelijkbaar iets mee. En het andere achterhaalt wat de brondata ‘echt’ maakt en gaat dat nieuw gemaakte spul proberen te herkennen als nep. Dat herhaalt zich een aantal keer, totdat uiteindelijk het nieuw gemaakte niet van echt te onderscheiden is. Ja, dat werkt best goed.

Dit is populair geworden door allerlei deepfake-video gerotzooi, maar het kan in principe ook met muziek. Hier, Frank Sinatra zingt Abba of kies zelf wat leuks bij dit demonstratie-Youtubekanaal. Als je niet beter wist, zou je zeggen dat het echt is. En dat is dus het punt van deepfakes.

Niet leuk als je als artiest trots bent op je eigen werk, dus wat kun je eraan doen. Dat is een tikje complex, we hebben natuurlijk het portretrecht voor als je ten onrechte in zo’n nepvideo zit, maar het gaat hier niet om een portret – het is uitsluitend audio (de afbeelding in de video even negerend). En juridisch gezien heb je niet echt een uitsluitend recht op je stem.

In Nederland hebben we twee zaken gehad over stemrecht. Gert-Jan Dröge moest een imitator tolereren, onder meer omdat het volgens de rechter vooral ging om zijn geaffecteerde manier van spreken en niet perse een imitatie van hém. Maar toenmalig koningin Beatrix kon wél zich verzetten tegen gebruik van haar stem (althans een imitator). Heel sterke precedenten zijn dat niet. Het enige Amerikaanse equivalent is die Let’s get ready to rumble-man die 2.5 miljoen won van een imitator, op basis van imagoschade (ongewenste associatie met een chipsmerk).

Je kunt je afvragen of zo’n “AI model” dat iemand simuleert, telt als een imitatie van die persoon. In ieder geval is het uniek genoeg om te hopen dat die rechtszaak een keer wél wordt doorgezet, want Amerikaanse zaken van celebrities hebben de vervelende gewoonte altijd geschikt te worden en dan weet je nog niks.

Arnoud

25 reacties

      1. Als we even cynisch zijn: Waarom is een populaire zanger populair? Dat is een combinatie van:

        1) Omdat hij goed kan zingen 2) Omdat hij goede liedjes kan schrijven 3) Omdat hij zich laat omringen door een goed producersteam 4) Omdat hij zijn marketing naar zijn fans goed doet 5) Omdat hij een unieke stem heeft? 6) Omdat hij een goede show kan neerzetten bij een live optreden.

        En nu valt daar dan 1 aspect van weg. Big deal.

        Als iemand door technologische ontwikkeling een competetief voordeel ziet verdwijnen, dan vinden we dat over het algemeen goed. Dat is vooruitgang. Dat is al bij velen gebeurd (stokers op dieseltreinen, piskijkers en pisproevers uit de middeleeuwen) en zal nog bij velen gebeuren.

        Waarom is dat anders nu dat bij een bekende zanger gebeurt? Wat mij betreft is muziek belangrijk voor de wereld, maar meneer Jay-Z heeft nu al een miljard bij elkaar geharkt door zijn muziek, gedeeltelijk door zijn unieke stem.

        Welcome to the real world zou ik zeggen, waar er concurrentie is, en waar dat als goed voor de samenleving als geheel wordt beschouwd.

        Als technologie (een deel van) jouw unieke kunstje vervangt is dat hard voor jou, maar goed voor de samenleving.

        1. Je vergeet 7) omdat de platenmaatschappij haar invloed, geld en macht gebruikt om te zorgen dat bepaalde nummers zo vaak te horen zijn dat veel mensen het door een proces van gewenning vanzelf “goed” gaan vinden, en 8) omdat influencers voor geld zeggen dat ze die zanger/zangeres/band goed vinden, en 9) omdat het politiek correct is om er vol lof over te spreken wegens het tragische levensverhaal van de zanger(es), en 10) omdat er veel “creatieve boekhouding” is bij het tellen van aantallen downloads (bijv: lever gratis het nieuwe album van X mee met een nieuwe telefoon van Samsung, en hoppa 10 miljoen stuks van het album verkocht! Met stip op 1, wat een geweldige band toch.)

      2. Identiteitsdiefstal is strafbaar, dus jezelf voordoen als Jay-Z (naam in beeld bv) kan niet. Maar iemands stem nadoen (wel of niet elektronisch) en andere liedjes zingen. en daarmee geld verdienen? Ik vind van niet, dan moet Jay-Z of whatever artiest maar creatiever worden. maar goed, ik vind de hele bescherming van artiesten en zeker componisten veel te ver is door geschoten.

    1. Werkt wel, maar de comments hebben last van een cache probleem. Daardoor zie je je wijzigingen niet meteen. Bovendien kan het zijn dat je bij andere dan jouw eigen comments de “Bewerk reactie” link te zien krijgt.

  1. het gaat hier niet om een portret – het is uitsluitend audio

    Zou dat tegenwoordig niet alsnog onder het portretrecht kunnen vallen? Dat is in de huidige rechtspraak immers al zo ver opgerekt dat het vrijwel ieder middel omvat dat geschikt is om het ‘beeld’ van een persoon op te roepen, al is het maar een plaatje van een schoen, een rugnummer of typerend silhouet. Blijkbaar komt het doel – het voorkomen van afbreuk aan reputatie en bescherming van verzilverbare populariteit – al zo ver voor het middel dat de enige reden dat een stem er niet onder valt misschien wel is dat het tot nu toe nog nooit voor de rechter is gekomen. Lijkt me dat de deepfakes in kwestie daar een prachtige casus belli voor kunnen zijn, denk je niet?

      1. Klopt, zoals ik het lees wordt het portretrecht eigenlijk al met soort reflexwerking toegepast. Toch denk ik dat we sinds 2007 de lijn ver genoeg hebben doorgetrokken dat ieder middel geschikt kan zijn, zolang het maar het ‘mentale beeld’ van de persoon oproept. Waarom een impliciete referentie wel, maar een stem niet? Uiteindelijk is dat onderscheid denk ik toch gewoon de impact, iets wat tot nu toe niet echt speelde bij een stem maar nu met deepfakes opeens een minstens net zo grote dimensie heeft gekregen. Dat onderscheid voelt dan opeens bijzonder kunstmatig en ik denk niet dat het praktisch houdbaar is mocht zoiets een keer uitgeprocedeerd worden.

  2. Zou een goed criterium niet zijn: Hoe beledigend of lasterlijk is het gebruik van iemands stem in een imitatie? Daarbij speelt de context ook mee, een demonstratie-video op een deepfake site heeft een andere impact dan een fake reclame-boodschap. Ik zou graag willen dat imitatie als (vriendelijke of kritische) parodie mogelijk blijft.

  3. Het lijkt me dat een stem een persoonsgegeven is, namelijk een fysiek kenmerk, het geluid wordt immers door het lichaam voortgebracht;

    “persoonsgegevens”: alle informatie over een geïdentificeerde of identificeerbare natuurlijke persoon (“de betrokkene”); als identificeerbaar wordt beschouwd een natuurlijke persoon die direct of indirect kan worden geïdentificeerd, met name aan de hand van een identificator zoals een naam, een identificatienummer, locatiegegevens, een online identificator of van een of meer elementen die kenmerkend zijn voor de fysieke, fysiologische, genetische, psychische, economische, culturele of sociale identiteit van die natuurlijke persoon;
    Dus je moet op z’n minst aan de voorwaarden van de AVG voldoen, onder andere door te bepalen welke voorwaarde van artikel 7 van toepassing is, en de betrokkene te informeren hierover.

    1. Dat is een hele creatieve. Ik twijfel wel nog een beetje; dit zou betekenen dat alle informatie over een dubbelganger persoonsgegevens van mij zijn. Dus valt een imitatie van Koefnoen nu onder de AVG (hopelijk met journalistiek te rechtvaardigen doel) omdat we daar bekende Nederlanders geïmiteerd zien?

      In het portretrecht is al heel lang geleden uitgemaakt van wel. Een poppetje van een tv-personage was een portret van de acteur (het Schaep met vijf Pooten-arrest) en de acteur kon zich dus verzetten op grond van portretrecht – een commercieel belang.

      1. Ik zou het op merkrecht gooien. Het gebruik van de stem doet het voorkomen dat het werk van Jay-Z is terwijl dat niet zo is. Er wordt verwarring gecreëerd in de markt. Merkrecht is ook beperkt zo dat zaken als Koefnoen gewoon kunnen. Ook ongeregistreerde merken hebben enige bescherming, maar geregistreerd is beter. Maar stem kan m.i. zeker een deel zijn van een handelsidentiteit (bijv. Jan van Veen)

  4. Kan je hier naast portretrecht nog iets met auteursrecht? Dat neurale netwerk is immers getraind op muziek en geluidsopnames, waar auteursrecht op rust. Dus het getrainde netwerk is hiervan een afgeleid werk. Dan is in de VS natuurlijk de vraag of het fair-use is. Als de deepfakes een parodie zijn dan val het daar denk ik wel onder.

    1. Ik vond vooral de keuzes bij F*ck The Police briljant, vooral als je hem tot het einde luistert en de woordenwisseling tussen ‘Trump’ en ‘Obama’ hoort.

      Krijg je in de VS overigens niet een probleem met de fair use uitzondering voor parodie? Als je iemand iets in de mond legt wat hij normaal zou kunnen zeggen is 1 ding, maar als het overduidelijk iets is wat absurd is…

  5. Hoe is het geregeld met lookalikes (of, in dit kader, soundalikes)? Dit lijkt me exact hetzelfde: het is ‘m niet, maar je doet alsof. Als ik op mijn verjaardagsfeestje (volgende maand, 42 alweer, alvast bedankt ;)) een Paul McCartney lookalike laat opdraven snappen al mijn vrienden heus wel dat dat niet ECHT Macca is. Idem als je naar een Beatles-tributeband gaat. Het wordt problematisch als die lookalike optreedt in een reclame voor iets (waardoor er dus geld aan verdiend wordt), ZEKER als dat iets is waar de echte Macca nooit aan zou meedoen (b.v. vleeswaren).

    Dus ik denk dat zolang je het niet voor geldelijk gewin doet, OF overduidelijk maakt dat de imitatie een parodie is (Kopspijkers was daar altijd briljant mee) er niet zo’n probleem is. Als ik m’n haar naar voren kam, m’n Hofnerbas pak en iets met een vet Liverpools accent zeg (“drommer” ipv “drummer”) dan snapt iedereen dat ik Macca nadoe, maar hem niet ben (ZO erg lijk ik niet op ‘m, ik ben veel knapper ;)).

    De beruchte deepfakes over pr0nfilmpjes zijn natuurlijk weer van een hele andere orde, om voor de hand liggende redenen. Dat ligt m.i. juridisch meer in de hoek van “ongevraagd prive-naaktfoto’s verspreiden”.

    Kortom, ik zie juridisch niet veel verschil tussen een sound/lookalike inhuren en een deep fake. Een rechter zal denk ik altijd kijken naar “wat voor schade is er nou helemaal” vs. “hoe groot is de kans dat veel mensen denken dat hij/zij het ECHT is”. Een pr0nfilm waar jouw hoofd/stem in gedeepfaked is? Zeer grote kans dat je gelijk krijgt. Een “grappig” voorbeeldfilmpje op het account van YouTuber anonz12345? Lekker boeien.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.