Scarlett Johanson zegt dat OpenAI haar stem zonder toestemming heeft gebruikt als AI-stem voor ChatGPT, las ik bij Tweakers. De betreffende stem, Sky geheten, leek sterk op de stem van Johansson, maar volgens OpenAI was dat niet bewust. Weinigen die dat geloven, want de stem werd vrij snel daarna weggehaald. Onder juridische druk heet dat dan – maar wat zou dat precies moeten zijn?
Het artikel legt uit:
In een verklaring van Johansson, die door journalist Bobby Allyn op sociale media werd gezet, zegt ze dat Altman haar in september vorig jaar had benaderd om de stem van ChatGPT in te spreken. Naar eigen zeggen sloeg zij dat aanbod toen af. Vlak voor de demonstratie zou Altman haar opnieuw hebben benaderd om haar stem in te spreken, maar voordat ze kon antwoorden, was Sky al gedemonstreerd.Versie 4o van ChatGPT komt met stembediening en -uitvoer, en de stem Sky is er daar een van. Het is een gekloonde stemacteur wiens identiteit niet bekend wordt gemaakt aldus het bedrijf. Op zich kan dat, de technologie om stemsynthese te doen nadat iemand flink wat zinnen inspreekt is niet nieuw. Dat de vrouwen clichématig moesten klinken ook niet, maar dat terzijde.
Wel opmerkelijk is dat een van de gevraagde stemacteurs diezelfde Scarlett Johanson was. Helemaal als je bedenkt dat zij de stem van de AI insprak in de film her, waar OpenAI-directeur Sam Altman bij de lancering van GPT 4o expliciet naar refereerde. Dat elke gelijkenis met echte gebeurtenissen of locaties of personen, levend of dood, geheel toevallig is, wil er bij mij dan niet in.
Na een stevige brief van Johanssons advocaat werd de stem teruggetrokken. Maar voor mij begint het dan pas: welke juridische basis is er om een claim te leggen?
In Californië – waar dit speelt – zijn er iets meer mogelijkheden dan bij ons. Rechters hebben daar diverse malen geoordeeld dat het specifieke feit van “voice misappropriation” onrechtmatig is wanneer
a distinctive voice of a professional singer is widely known and is deliberately imitated in order to sell a product, the sellers have appropriated What is not theirs and have committed a tort in California.Het is dan een korte stap van ‘zanger’ naar ‘acteur’, dus die juridische gestalte zie ik wel opdoemen.
Minstens zo interessant is het argument dat hier een audio-deepfake wordt gemaakt van Johanssen. Dat is voor zover ik kan vinden niet strafbaar – alleen video-deepfakes en dan ook nog eens met het motief van beschamen of beschadigen – maar als bewezen zou worden dat OpenAI, al is het impliciet, de stem van Johanssen wilde laten horen dan ben je daar een heel eind.
In Nederland is er ook geen algemeen strafrechtelijk verbod op audio-deepfakes, maar daar hebben we binnenkort wél artikel 50 van de AI Act dat bij het produceren van deepfakes een duidelijke markering vereist. Dat betekent volgens mij dat het er expliciet bij moet staan, je deepfake ‘Sky’ noemen is echt te weinig.
Arnoud
Ik heb er geen betaald abo om te checken, maar als ik naar de pagina ga lees ik meteen ‘AI Voice Generator’. Veel duidelijker aanduiden dat het eeuhm een AI voice generator is, kan toch niet? Dat het vervolgens ook als zodanig wordt aangeduid bij de “opname”, is verder aan de gebruiker. Of bedoel je dat de duiding gedurende de “opname” af en toe wordt uitgesproken?
Het gaat om een duidelijke vermelding bij de publicatie van de deepfake. Dus niet een verantwoording in (brr) je AI verklaring, maar om een vermelding op, naast of voorafgaand aan de publicatie zelf.
Zie ik niet zo snel. Je zit namelijk nog steeds met de voorwaarde ‘in order to sell a product’ waar niet aan voldaan wordt.
Een stem die lijkt op die die van Scarlett is een feature van het product, en is een insiders-nerdy grap, een artistieke knipoog. Een beetje zoals het getal 42 overal opduikt in software en films.
Dat soort dingen moeten we koesteren in plaats van juridisch aanvallen.
We moeten niet vergeten dat er onlangs een grote staking was in Hollywood van diverse acteurs over o.a. het gebruik van AI. De vakbond van de acteurs is een behoorlijke actieve en zal zeker niet laten om actie te kunnen ondernemen.