Natuurlijk gaat AI ook weer voor porno gebruikt worden

| AE 10382 | Innovatie | 13 reacties

Al jaren is het devies dat porno innovatie stimuleert. Niet heel gek, want het is goed geld verdienen daarmee en wie de concurrentie voor kan blijven met een nieuw trucje, zal dan ook niet aarzelen. Ergens zou je dan ook niet verbaasd moeten zijn dat ook kunstmatige intelligentie zijn opmars maakt in de porno-wereld. Meer specifiek: het fenomeen “deep fakes” zoals door Vice gerapporteerd, door AI gemaakte nep-porno met willekeurig gekozen personen in de hoofdrol.

Op zich is het niet nieuw, het idee dat je het gezicht van persoon A plakt op het lijf van persoon B die met een seksueel expliciete handeling bezig is. Dat was alleen altijd relatief bewerkelijk, helemaal als je dat met videobeelden wilde doen. Er is niet echt software daarvoor, behalve hele grote dure pakketten waar de filmindustrie scenes mee bewerkt.

Enige tijd geleden maakte een Reddit-gebruiker een creatieve toepassing van AI waarmee dit ineens wél kan op video, althans videootjes tot een seconde of tien. Heel kort door de bocht: de AI wordt getraind op het gezicht van het doelwit, en corrigeert in de bronvideo dan het aangewezen gezicht totdat het genoeg lijkt op het doelwit. Dit soort correcties zijn technisch niet heel nieuw, ze worden ook gebruikt om gewone foto’s op te knappen. De toepassing is natuurlijk wel vernieuwend, en dat was mijn punt uit de eerste alinea: porno is een sterke driver om nieuwe technologie populair te maken en verder te ontwikkelen. Want nu dit mogelijk blijkt, wordt het interessant om ook eens naar andere toepassingen te kijken: concurrenten of politieke tegenstanders voor gek zetten, of vals bewijs in burenruzies maken, om eens wat te noemen.

Specifiek bij porno, kun je er wat aan doen als je jezelf hierin terugziet? In Amerika niet, maar bij ons wel: dit is natuurlijk een geautomatiseerde verwerking van persoonsgegevens (en ook nog eens bijzondere, immers seksualiteit) en daar is gewoon uitdrukkelijke toestemming voor nodig. Zonder toestemming zou alleen het legitiem eigen belang een grondslag kunnen zijn, maar bij pornografie kan ik me dat belang gewoon niet voorstellen.

In Amerika ligt dit iets moeilijker, omdat ze het daar niet als privacyschending zien omdat het beeld niet over jou gaat maar over een ander (de acteur/actrice). Een klacht daarover is dus juridisch lastiger afdwingbaar, en platforms zoals Reddit zijn niet verplicht erop in te grijpen. Dat maakt het in de praktijk moeilijk om er wat aan te doen.

Arnoud

Deel dit artikel

  1. Niet dat ik het een slecht idee vind dat dit niet mag, maar: Bijzonder persoonsgegeven seksualiteit? Maar het is toch eigenlijk alleen jouw hoofd op het lichaam van iemand die zijn/haar seksualiteit uit? Of wordt het een persoonsgegeven omdat het suggereert dat jij dit deed? Is een leugen überhaupt een persoonsgegeven?

  2. In de preutse VS (en bij een Nederlands casino) ben je zomaar je baan kwijt als je in porno optreedt. Ik kan mij voorstellen dat als je door een fake filmpje je baan kwijt raakt in de VS en je weet wie verantwoordelijk is daarvoor, dat deze persoon een groot probleem heeft in een civiele rechtzaak. En de schadevergoedingen zijn niet mals daar.

    • Als dit systeem bekender wordt en er steeds meer foto’s en filmpjes opduiken van iedereen zal dat probleem denk ik ook verdwijnen. Iedere manager die iemand voor zo’n foto of filmpje ontslaat weet dat hij binnen korte tijd waarschijnlijk voor hetzelfde ontslagen zal worden. En hoe bekender/belangrijker je bent, des te meer je in porno te vinden bent.

  3. Specifiek bij porno, kun je er wat aan doen als je jezelf hierin terugziet? In Amerika niet, maar bij ons wel: dit is natuurlijk een geautomatiseerde verwerking van persoonsgegevens (en ook nog eens bijzondere, immers seksualiteit) en daar is gewoon uitdrukkelijke toestemming voor nodig. Zonder toestemming zou alleen het legitiem eigen belang een grondslag kunnen zijn, maar bij pornografie kan ik me dat belang gewoon niet voorstellen.

    Je maakt hier een wat grote sprong. Dat iets niet mag, wil nog niet zeggen dat je er wat aan kunt doen. Wat is de remedie die je hebt bij privacyschending?

    In Amerika ligt dit iets moeilijker, omdat ze het daar niet als privacyschending zien omdat het beeld niet over jou gaat maar over een ander (de acteur/actrice). Een klacht daarover is dus juridisch lastiger afdwingbaar, en platforms zoals Reddit zijn niet verplicht erop in te grijpen. Dat maakt het in de praktijk moeilijk om er wat aan te doen.

    Wat betekent het dat een klacht afdwingbaar is?

  4. En is dit ook een verwerking van persoonsgegevens als men het voor eigen gebruik doet?

    Dus, niet publiceren ergens, maar gewoon een lokaal script dat een specifieke Facebook pagina leegtrekt en automatisch een filmpje maakt voor eigen “gebruik”?

    Want daar gaan we uiteindelijk naar toe. Ik geef het vijf jaar.

    Ikzelf zou het eerder op “smaad” of “laster” gooien. Of aanranding: Aantasting van de sexuele moraal. Ikzelf vind persoonsgegevens in deze een beetje te plastisch.

  5. Een leugen is ook een persoonsgegeven, specifieker een fout in een persoonsgegeven. Hiervoor is dan het recht van correctie en/of verwijdering van toepassing. Het maakt voor de Wbp en AVG niet uit of het een typefout was of kwade opzet.

    Maar dan zou er niets meer aan de hand zijn als je maar duidelijk maakt dat het niet echt is.

    Volgens mij begint het privacy-probleem al eerder. Om de nieuwe beelden te genereren is informatie over de betrokkene nodig. Zonder deze biometrische gegevens (een technische beschrijving van de gezichtskenmerken, en misschien andere delen van het lichaam) is het immers helemaal niet mogelijk daarop overtuigend gelijkende beelden te maken enerzijds, en ontbreekt anderzijds toestemming voor dergelijk gebruik. Zelfs als het bronmateriaal publiek gedeeld is, zou dergelijke toestemming onder de AVG nog steeds nodig zijn.

    Zolang het over figuren met enige bekendheid gaat, lijkt me dit trouwens zowel in de VS als in Europa ook wel op andere manieren aan te pakken: portret- en merkrecht. Vergelijk het namaken van bekende voetballers in voetbalspelletjes. Daarover bestaat inmiddels allerlei jurisprudentie.

    • Sanne,

      Je schrijft ‘Maar dan zou er niets meer aan de hand zijn als je maar duidelijk maakt dat het niet echt is’

      Als je dat inderdaad duidelijk maakt, is er dan wel echt iets aan de hand? Of zijn we gewoon wat overgevoelig omdat het seks betreft?

      Als iemand keihard stelt: ‘Ik heb het gezicht van bekende actrice X op een technisch geavanceerde wijze op het lijf van een anonieme pornodame geplakt, en het lijkt net echt’, is dan de meest logische reactie niet: ‘who cares?’

      Het is niet die actrice die iets uit te leggen heeft, maar degene die het uberhaupt opmerkt als zijnde interessant. Dat is degene die niet spoort.

      Is het enigszins vervelend voor de actrice? Ja, waarschijnlijk wel, maar er zijn zoveel dingen vervelend in het leven van een actrice, die er gewoon bijhoren: Paparazzi of elke dag tientallen fans die met je op de foto willen en daar moet je allemaal vriendelijk tegen zijn, of ’s avonds laat in een praatprogramma moeten opdraven terwijl morgen om zes uur je kind je wakker maakt, etc

      • Is er geen verschil tussen bekende mensen en “onbekende mensen” in dit soort dingen? Bepaalde mate van privacy kun je gewoon haast niet afdwingen als je eenmaal bekend bent.

        Bovendien denk ik dat het moeilijk is duidelijk kenbaar te maken dat het niet echt is. Stel dat, in het voorbeeld, de bekende actrice alleen bekend is in Nederland en het filmpje is ook gemaakt in Nederland met als “doelgroep” Nederlanders om even onsmakelijk te lachen. Als daar dan in koeienletters opstaat “DIT IS NEP”, lijkt dat voldoende. Echter, als een nieuwsstation in het buitenland het verhaal oppakt en stelt “Famous Dutch star caught in adult video”, dan betekenen die koeienletters ineens vrij weinig. Misschien is dat namelijk gewoon de username die het heeft geüpload. Bovendien, als zo’n tekst niet constant prominent in beeld is, kan er makkelijk gecropt of geknipt worden om de tekst te laten verdwijnen.

        Bovendien denk ik dat het best redelijk is om zo gevoelig te zijn over seks, zeker als in alle andere aspecten we dat ook zijn over seks. Als het gezicht van een actrice over een pornoster is geplakt, is het waarschijnlijk duidelijk dat dit niet echt is. Maar je collega in een homoscene kan veel gevoeliger liggen, zeker omdat die persoon dan ineens haast gedwongen wordt over zijn seksuele geaardheid te praten. Want misschien is deze persoon inderdaad homoseksueel, en blijkbaar is de cultuur in dat bedrijf eentje waar het niet geaccepteerd wordt, gezien het filmpje. Natuurlijk raakt dat ook aan andere problemen, maar het moge duidelijk zijn dat zulke suggestieve items over gevoelige onderwerpen best zwaar mogen wegen.

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS