Natuurlijk gaat AI ook weer voor porno gebruikt worden

| AE 10382 | Innovatie | 13 reacties

Al jaren is het devies dat porno innovatie stimuleert. Niet heel gek, want het is goed geld verdienen daarmee en wie de concurrentie voor kan blijven met een nieuw trucje, zal dan ook niet aarzelen. Ergens zou je dan ook niet verbaasd moeten zijn dat ook kunstmatige intelligentie zijn opmars maakt in de porno-wereld. Meer specifiek: het fenomeen “deep fakes” zoals door Vice gerapporteerd, door AI gemaakte nep-porno met willekeurig gekozen personen in de hoofdrol.

Op zich is het niet nieuw, het idee dat je het gezicht van persoon A plakt op het lijf van persoon B die met een seksueel expliciete handeling bezig is. Dat was alleen altijd relatief bewerkelijk, helemaal als je dat met videobeelden wilde doen. Er is niet echt software daarvoor, behalve hele grote dure pakketten waar de filmindustrie scenes mee bewerkt.

Enige tijd geleden maakte een Reddit-gebruiker een creatieve toepassing van AI waarmee dit ineens wél kan op video, althans videootjes tot een seconde of tien. Heel kort door de bocht: de AI wordt getraind op het gezicht van het doelwit, en corrigeert in de bronvideo dan het aangewezen gezicht totdat het genoeg lijkt op het doelwit. Dit soort correcties zijn technisch niet heel nieuw, ze worden ook gebruikt om gewone foto’s op te knappen. De toepassing is natuurlijk wel vernieuwend, en dat was mijn punt uit de eerste alinea: porno is een sterke driver om nieuwe technologie populair te maken en verder te ontwikkelen. Want nu dit mogelijk blijkt, wordt het interessant om ook eens naar andere toepassingen te kijken: concurrenten of politieke tegenstanders voor gek zetten, of vals bewijs in burenruzies maken, om eens wat te noemen.

Specifiek bij porno, kun je er wat aan doen als je jezelf hierin terugziet? In Amerika niet, maar bij ons wel: dit is natuurlijk een geautomatiseerde verwerking van persoonsgegevens (en ook nog eens bijzondere, immers seksualiteit) en daar is gewoon uitdrukkelijke toestemming voor nodig. Zonder toestemming zou alleen het legitiem eigen belang een grondslag kunnen zijn, maar bij pornografie kan ik me dat belang gewoon niet voorstellen.

In Amerika ligt dit iets moeilijker, omdat ze het daar niet als privacyschending zien omdat het beeld niet over jou gaat maar over een ander (de acteur/actrice). Een klacht daarover is dus juridisch lastiger afdwingbaar, en platforms zoals Reddit zijn niet verplicht erop in te grijpen. Dat maakt het in de praktijk moeilijk om er wat aan te doen.

Arnoud

Franse Facebookgebruikers mogen in Frankrijk rechtszaak voeren over terms of use

| AE 8429 | Contracten, Meningsuiting | 31 reacties

facebook-dislike-like.pngEen Franse Facebook-gebruiker wiens account werd geblokkeerd na het plaatsen van een naaktafbeelding, mag het sociale netwerk in Frankrijk voor de rechter slepen. Dat meldde Nu.nl vorige week. Facebook had in eerste instantie gesteld dat alleen de Californische rechter bevoegd is zo’n geschil te horen, omdat dat nu eenmaal in de TOU staat. Maar de Franse hogerberoeprechter oordeelt anders.

De gebruiker is een Parijse leraar die linkte naar een artikel over de schilder Gustave Courbet, en daarbij een foto van een naaktschilderij toonde. Facebook zag dit als overtreding van de TOU en blokkeerde zijn account. De leraar maakte bezwaar, wat uiteraard weinig uithaalde, en stapte naar de (Franse) rechter.

Daar was Facebook het mee oneens: in de Terms of Use van het netwerk staat duidelijk dat alleen de Californische rechter bevoegd is bij geschillen. Maar zowel in eerste instantie als in hoger beroep veegt de Franse rechter dat van tafel. In het Europese consumentenrecht is het een vrij uitgemaakte zaak dat je de toegang tot jouw rechter niet kunt ‘wegtekenen’ met een contract. De rechtbank voor jouw woonplaats is eigenlijk altijd bevoegd. En dat geldt dus ook wanneer het gaat om internetdiensten.

Inhoudelijk is er dus nog niets beslist, het enige dat we nu weten is dat Facebook met haar TOU niet de consumentenrechten opzij kan zetten. Dat heeft een redelijk juridisch ‘duh’-gehalte, maar het is toch fijn om te weten. De volgende slag gaat zijn of Facebook haar (Amerikaans-morele) regels mag opleggen ten koste van wat in andere landen gebruikelijk is. Naakt, en zeker in de kunst, is in Europa vrij normaal. Amerikanen zijn zo preuts als wat – een tepel is eigenlijk al bizar, toon liever een machinegeweer of een afgehakt hoofd.

Op zich zou je zeggen, het is Facebooks netwerk dus hun regels. Maar Facebook is wel iets meer dan een dorpscafé waar de eigenaar wat rare opvattingen heeft. De discussie hebben we al vaker gehad – wanneer moet een internetdienst zich conformeren aan de mores van een land, in plaats van andersom. Ik ben heel benieuwd hoe dit uit gaat pakken, want het zou een interessant precedent zijn. Er is immers niets illegaals aan de uitingen, noch in de VS noch in Frankrijk. Het zou dus zuiver gaan over “mag Facebook haar eigen regels stellen”, en die had ik nog niet eerder gezien.

Arnoud

Franse rechtbank heeft jurisdictie over Amerikaanse Facebook

| AE 7492 | Meningsuiting | 51 reacties

facebook-upload.pngEen Franse rechtbank acht zich bevoegd een uitspraak te doen over Facebook, las ik bij The Verge (dank, Franc). De zaak was aangespannen door een Franse leraar, die het kunstwerk l’Origine du Monde (NSFW) op zijn Facebookpagina had opgenomen en zijn account vervolgens geblokkeerd zag wegens overtreding van de antipornoregels (want vagina) van de blauwe socialmediasite. Over de vraag of Facebook dit mocht doen, is nog geen uitspraak – maar het eerste verweer dat de man naar Californië had moeten komen voor zijn klacht, wordt dus verworpen.

De kwestie van jurisdictie (wie is bevoegd om over wie te oordelen) is bij internet altijd een lastige. De vuistregel uit zo’n 6000 jaar recht is dat als ze fysiek bij je kunnen, je onder hun wet valt, en anders niet. Soevereniteit and all that. Maar die regel werkt met internet veel minder. Zet je server in Duitsland, neem een .to domein en routeer je verkeer door een Antilliaanse VPN. Wie gaat er nu over je?

We hebben een aantal uitspraken gehad waarin het bijvoorbeeld ging over waar je op richt of waar je acties effect hebben. Een dergelijke lijn hanteert deze Franse rechter nu ook, als ik het goed zie. De uiting was in het Frans, gedaan door een Fransman en gericht op een Frans publiek, dus wat zullen we nou krijgen, dat is een Franse kwestie dus kunnen wij een uitspraak doen.

De inhoudelijke vraag is overigens minstens zo interessant. Mag Facebook zomaar zeggen, “dit vinden wij porno, weg ermee” terwijl het in Frankrijk gewoon kunst is? Mag Facebook wereldwijd Amerikaanse normen opleggen, of moeten ze per land kijken wat de regels zijn en dus bijvoorbeeld in Frankrijk naakt makkelijk toestaan en geweld snel censureren, terwijl men in de VS het omgekeerde zou doen?

Natuurlijk kun je zeggen, Facebook is een bedrijf en dus mogen ze hun eigen regels hanteren. Maar Facebook is niet zomaar een bedrijf – ze zijn groter dan menig land en kunnen daarmee effectief meer censuur uitoefenen dan een gemiddelde rechtbank. Dat argument zou dan met zich meebrengen dat als je maar groot genoeg bent, je onder dezelfde regels valt als overheden en dus net zo neutraal en open moet zijn als de overheid als het gaat om de rechten van je gebruikers.

Arnoud

Duitse pornoboer jaagt op Nederlandse downloaders

| AE 7403 | Aansprakelijkheid, Auteursrecht | 22 reacties

UPC hoeft vooralsnog de identiteit van klanten die porno downloadden niet te verstrekken, las ik bij Webwereld. Een Duits pornobedrijf had bij de internetprovider de NAW-gegevens geëist van IP-adressen die bij UPC-klanten in gebruik waren. Uit het vonnis blijkt waarom UPC dit niet hoeft: er was simpelweg geen flintertje fatsoenlijk bewijs. In beginsel is een… Lees verder

Een admin die zomaar illegaal materiaal wist, mag dat?

| AE 5837 | Aansprakelijkheid, Arbeidsrecht | 67 reacties

Een lezer vroeg me: Ik werk als systeembeheerder bij een middelgroot bedrijf. Na klachten over volgelopen netwerkschijven ben ik eens gaan onderzoeken waar dat door kwam, en ik trof grote verzamelingen illegaal gedownloade films, muziek en software aan. (Plus de nodige porno die ik bepaald niet hoefde te zien.) Dat mag natuurlijk niet, dus dat… Lees verder

Concurrentje pesten middels pornosite

| AE 4492 | Domeinnamen, Grappig | 23 reacties

Ok, wat was u denkende. Dat was mijn eerste gedachte bij het lezen van dit vonnis over twee concurrerende fietsenzaken waarbij de één een domeinnaam had geregistreerd die vrijwel identiek was aan die van de concurrent. En wel op het moment dat ik las “Deze domeinnaam wordt gelinkt aan een pornografische website.” Echt. Het vastleggen… Lees verder

Een minderjarige bestelt iets, wat kan ik doen?

| AE 2583 | Contracten, Webwinkels | 99 reacties

Let op: op 13 juni 2014 is de consumentenwetgeving ingrijpend veranderd. De onderstaande blog is daarom mogelijk verouderd. Voor actuele informatie zie Webwinkelrecht.nl. Een lezer vroeg me: Ik bied op internet een spel aan waarbij je moet betalen voor premiumfunctionaliteit. Vorige week kreeg ik een brief van een rechtsbijstandsverzekeraar dat ik een bepaalde dienst moet… Lees verder

Spitsnieuws mag ex-kamerlid niet langer pornobaron noemen

| AE 2553 | Meningsuiting, Privacy | 18 reacties

Spitsnieuws mag een ex-Tweede Kamerlid van de PVV niet langer ‘pornobaron’ noemen. Dat bepaalde de rechtbank in kort geding vorige week. De man werkte bij een internetbedrijf dat diensten leverde voor adult service providers, maar was niet zelf betrokken bij de inhoud. Daarom is die titel tendentieus en nodeloos kwetsend, en moeten de berichten uit… Lees verder

Videosite 123video aansprakelijk voor uploads door gebruikers

| AE 2333 | Aansprakelijkheid, Auteursrecht | 22 reacties

Kim Holland heeft aan het langste eind getrokken in een rechtszaak tegen de videowebsite 123video, meldde DePers.nl gisteren. Op de videowebsite waren filmpjes van de pornoster geupload, en de rechtbank Amsterdam oordeelt nu dat de site-exploitanten daarmee het auteursrecht van Holland geschonden hebben. Dat het gebruikers waren die de filmpjes uploadden, acht de rechtbank irrelevant:… Lees verder

Creditcardmaatschappij mag dierenporno weigeren af te rekenen

| AE 2023 | Contracten | 7 reacties

Creditcardbetalingsbedrijf PaySquare is niet verplicht haar diensten aan pornobedrijf Cybermedia te leveren. Dat blijkt uit een vonnis van de rechtbank Utrecht van afgelopen week. PaySquare was erachter gekomen dat Cybermedia onder andere dierenporno verspreidde (hoewel daar niet voor betaald hoefde te worden), en voerde toen eenzijdig een contractswijziging door dat “goederen/diensten aanbieden die de goede… Lees verder