De Guangzhou Internet Court heeft recent geoordeeld dat de uitvoer van een AI inbreuk op auteursrecht kan zijn, las ik in de Global Times. De rechthebbende had ontdekt dat als je vroeg om plaatjes van zijn werk – Ultraman – je dan plaatjes kreeg die auteursrechtelijk gezien inbreukmakend waren. De AI-dienst is daarvoor aansprakelijk, zo bepaalde de rechter.
Helaas is de naam van de AI-plaatjesdienst niet te vinden, maar de eiser is de rechthebbende op de Japanse Ultraman franchise, en die had dus zelf ontdekt dat vragen om plaatjes van dat werk (zie plaatje, klik voor groter) je de ‘echte’ Ultraman kreeg.
Niet heel raar zou je zeggen: je vraagt om X en je krijgt X, dat voelt de bedoeling van een computersysteem. Maar specifiek als X onder iemands auteursrecht (of merk) valt, is dit een tikje problematisch. Auteursrechtelijk gezien mag je ook niet een illustrator vragen om zo’n afbeelding te maken, immers.
Uniek is het niet: in januari verscheen een artikel in de New York Times waarbij men ‘ontdekte’ dat als je vraagt om “popular movie screencap Joker” je een afbeelding van Batman-personage The Joker krijgt die erg sterk lijkt op de wijd en zijd gepubliceerde foto van Joaquin Phoenix in die rol. Maar dit is wel de eerste keer dat een rechtbank dit ook als inbreuk ziet.
De rechtbank in Guangzhou oordeelde d dat de afbeelding inbreukmakend was, omdat deze duidelijke overeenstemming had met het beschermde personage van Ultraman. Iets verrassender was de bevinding dat de aanbieder van de dienst hiervoor aansprakelijk was. (Er moet een slordige €1200 aan schadevergoeding worden betaald.)
Het lijkt erop dat de reden vooral was het niet adequaat waarschuwen en optreden tegen inbreuken:
[T]he judgment specified that since users lack clear awareness of the potential copyright infringement risks to others, especially copyright owners, providers of generative AI services should remind users through service agreements. The court also ordered AI service providers to establish a complaint-reporting mechanism to assist rights holders in protecting their copyrights.Een dergelijke uitspraak zou ook naar Europees recht logisch kunnen zijn. Goed verdedigbaar is dat zo’n generatieve AI-dienst valt onder wat de Digital Services Act een “platformdienst” noemt, met bijbehorende bescherming voor aansprakelijkheid. Die moeten echter wel adequate notice&action mechanismes hebben om klachten te ontvangen en af te handelen, en de voorwaarden van de dienst moeten duidelijk en in detail gemotiveerd aangeven wat er wel en niet mag en welke sanctie er bij overtreding kan volgen.
Arnoud
Dit lijkt mij ook het voor de hand liggende paradigma voor de toepassing van auteursrecht op AI: het bouwen van een AI model op basis van auteursrechtelijk beschermd werk is geen inbreuk, maar de werken die deze AI vervolgens produceert kan dat wel heel makkelijk zijn.
Als ik zelf kunst studeer, dan is het ook gebruikelijk dat ik leer van de werken van anderen (dat wil zeggen, in mijn hoofd een model opbouw die een representatie is van alles wat ik gezien en geleerd heb, op basis van andermans werk), zonder daarmee inbreuk te maken op wiens auteursrecht dan ook en zonder dat een rechtenhouder daar regels of beperkingen aan kan stellen. Deze opgebouwde kennis kan ik dan vervolgens gebruiken om nieuw werk te maken, of om andermans werk na te maken; in dat laatste geval maak ik waarschijnlijk inbreuk op iemand zijn auteursrecht, maar dat gebeurt pas in het maken van het werk, niet in het leerproces.
Voor AI lijkt mee een vergelijkbare rechtsconstructie op zijn plaats: je model mag leren hoe het wil zonder dat het auteursrecht je in de weg zit, maar je bent er zelf voor verantwoordelijk dat de gegenereerde werken geen inbreuk maken op een van je bronnen.
Technisch nogal een enorme uitdaging, maar het lijkt me rechtsfilosofisch zuiver.
Inderdaad, generatieve AI moet je zien als een stukje geavanceerd gereedschap en het lijkt me dat je hierbij de persoon die het gereedschap gebruikt (de “prompt engineer”) primair moet aanspreken, als deze aanstuurt op het genereren van een inbreukmakend werk. De maker van het gereedschap (de generatieve AI) alleen als deze een dergelijk inbreukmakend gebruik promoot.
Daarbij lijkt het me geen inbreuk als je de tool gebruikt om in de privé-sfeer dergelijke plaatjes te genereren, net zo goed als ik thuis samen met mijn kleine neefje kleurplaten van Donald Duck mag maken.
De vraag is wel of die tool in de privesfeer is. Dit is niet Jeroen die zelf probeert een eend na te tekenen, dit is een professionele tool die knapper dan Daan Jippes kan tekenen en aan de gehele wereld wordt aangeboden inclusief abonnementsstructuur. “Iedereen kan schilderen” mag ook geen Disney-plaatjes leveren, toch?
Ik denk dat je hier de verkeerde parallel trekt. Maakt het verschil of ik het generatieve AI model op mijn lokale PC draai, of op de server van een dienstverlening laat draaien, om die tekening te maken op basis van mijn prompts.
Vergelijkbaar, maakt het verschil of ik bij de plaatselijke copyshop die Donald Duck platen laat vermenigvuldigen voor mijn drie neefjes, of dat thuis op mijn eigen printertje doe? Veel copyshops zullen het weigeren, maar een opdracht voor een privé-kopie mag je gewoon geven en aannemen (zolang het niet om muziekstukken gaat, omdat toevallig die lobby sterker was, want ja, zo komt auteursrecht tot stand).
Ik denk dat het verschil zit tussen “op een server laten draaien” of “als dienst afnemen via andermans server”. Dat is hetzelfde verschil als tussen naar de copyshop gaan met je eigen tekening en naar de kantoorboekhandel gaan en een kleurplatenboek kopen. In beide gevallen ga je naar huis met een stapel kleurplaten, maar ik vind ze toch wel wezenlijk anders werken.
Maar ook dat is niet de analogie die ik bedoel.
Het gaat om de analogie tussen het maken van een thuiskopie met een eigen kopieermachine, of met een kopieermachine die in de copyshop staat (of desnoods laten doen door de medewerker daar). Daar is geen onderscheid in (al zal de copyshop waarschijnlijk een kleine heffing afdragen per kopie, omdat die geen onderscheid kunnen maken tussen jouw thuiskopie en andersoortige kopieën waarvoor ook een “billijke” vergoeding voor verplicht is gesteld.
Maar waar leg je dan de grens?
Een ai op de eigen pc draaien (wat heel makkelijk is, maar wel eisen aan de hardware stelt) is dan de thuis sfeer.
Een ai op een server die aangeboden wordt als service is geen thuis sfeer. Dat is inbreuk op auteursrecht.
Een afbeelding van Mickey maken met MS paint op de eigen PC is thuis sfeer.
Een afbeelding van Mickey maken met https://sketch.io/sketchpad/ is inbreuk op auteursrecht?
En als het antwoord nee is, wat is dan het verschil tussen in woorden beschrijven welke afbeelding van mickey je wil en de lijnen trekken?
Of zit het verschil niet in hoe het wordt aangeboden?
Ik vind het allemaal nogal lastig. Want elke uitspraak richting kan je doortrekken naar een situatie die als absurd over komt.
Aan de andere kant… als service aanbieders aansprakelijk gesteld worden voor auteursrechtelijk beschermd materiaal wat met hun dienst wordt gemaakt, breken we hopelijk een keer de trend dat alles maar een dienst moet zijn die met maandelijkse betalingen uitgemolken moet worden en kunnen we terug naar dingen weer kopen en levenslang kunnen gebruiken.
Geen Adobe en Pantone shenanigans meer klinkt als een zegen…
Dat laatste ben ik het volledige mee eens, al die software als een dienst irriteert me mateloos. Als het even kan vermijd ik het, en zoek dan bij voorkeur een open source oplossing.
Ik zit as we speak een Nederlands stukje van mezelf met behulp van ChatGPT in het Engels te vertalen (met flink wat nacorrectie). Dat kan nooit inbreuk zijn, want het auteursrecht van beide werken is van mij, en ik gebruik ChatGPT inderdaad alleen als gereedschap.
Ik moest even goed lachen bij het lezen van de titel. China en auteursrecht, da’s een goeie combinatie!
Anders dan bij een flauw excuus, dat een plaatje op je website weinig of geen inbreuk maakt, omdat je website niet of nauwelijks bezocht wordt, vraag ik me af hoe dat hier ziet. De auteursrechthebbende toont nu aan dat er inbreuk gemaakt kan worden op zijn rechten. Maar hoe toont hij aan dat het ook daadwerkelijk gebeurt (is)?
Ik noem het flauw omdat als ik een plaatje zelf op een website zet, het kennelijk mijn bedoeling is dat het plaatje bekeken wordt. Maar ik denk niet dat je er net zo makkelijk van kan uitgaan dat een AI plaatjes generator de bedoeling heeft om plaatjes een-op-een door te spelen. Dus toon eerst maar eens aan dat de vraag gesteld was (door een niet-rechthebbende).
Het is toch al genoeg dat de AI de plaatjes máákt? Publicatie is geen vereiste voor inbreuk. Enkel verveelvoudigen is ook een schending.
Hier komt de “ik been geen jurist”-vraag, maar is er wel sprake van vermenigvuldiging/verveelvouding? De AI levert (als het goed is) geen kopieën aan van bestaande werken, maar genereert nieuwe werken met gebruikmaking van specifiek herkenbare elementen waar auteursrecht op rust. Nog steeds een inbraak, maar er is doorgaans geen sprake van een daadwerkelijke reproductie van een bestaand werk.
En hier komt de “giecheltoets”-vraag: is er nog wel sprake van auteursrechtschending wanneer de auteursrechthebbende zelf een AI opdraagt om een dergelijk werk te vervaardigen?
Overigens stellen we Xerox volgens mij ook niet strafbaar wanneer hun machine wordt gebruikt om een werk met auteursrecht te kopiëren, noch Epson wanneer hun printers een perfecte, doch illegale replicaafdrukken. Hoe wordt daar eigenlijk mee omgegaan; zit daar een soort van thuiskopie-heffing op, of betalen die een forfait voor de overtredingen die met hun apparatuur wordt begaan?
De wet definieert “verveelvoudiging” niet als mechanische kopie (met hooguit ondergeschikte wijzigingen). De film van het boek is juridisch gezien een kopie (verveelvoudiging) van het boek.
Bedrijven worden jaarlijks aangeslagen voor een fictief aantal kopieën dat zij zouden hebben gemaakt met al dan niet aanwezige kopieerapparaten, inderdaad. Dit is zo’n punt waar het auteursrecht werkelijk niet meer uit te leggen is – de reden is namelijk dat het te moeilijk is bij bedrijven te zien wat ze kopiëren.
Dat is een andere discussie. Jouw artikel vangt aan met ‘uitvoer van een AI inbreuk op auteursrecht kan zijn’. Dus dan kijk ik naar wat er gepubliceerd wordt.
Of de enkele kennis van hoe een Ultraman er uit ziet ook een verveelvoudiging, en dus schending is, is geheel wat anders. Heeft die AI wel kopiën van Ultraman in zich? Of enkel beschrijvingen van hoe je die opmaakt? Krijg je plaatjes die er sterk op lijken (wat in de uitvoer inbreuk kán zijn), of krijg je echt kopiën (wat zeker een inbreuk is)? Vormt de beschrijving zelf inbreuk?
“Mickey Mouse heeft nog auteursrechtelijk beschermde witte handschoentjes (gradient van #ffffff bij de vingers tot #ffbbca bij de pols) met een zwarte (#000000) omlijning, met 3 vingers en een duim, en streepjes tussen de botten, en een valt tot precies over de pols. De handschoenen zijn zo groot als 3/4 van zijn gezicht, en de vingers zijn 1/3 van de handschoen. ….”