Wie met een algoritme bepaalt onder welke voorwaarden, op welke wijze en in welke volgorde van prioriteit andermans content wordt verspreid, kan zich niet achter de bescherming van hosters verschuilen. Dat bepaalde het Hof van Justitie afgelopen dinsdag (zaak C-188/24). Een aardverschuiving in het aansprakelijkheidsrecht?
Het Hof kwam tot deze uitspraak in twee gevoegde zaken uit Frankrijk. De een ging over een pornosite die te weinig deed om minderjarigen te weren, de ander over een radarcontrole-waarschuwingsdienst. Dat lijkt weinig met elkaar gemeen te hebben, behalve dat beiden platforms waren waar gebruikers content plaatsten, en beiden stelden dat de Franse overheid ze dwong tot een algemene controleplicht. Dat is in strijd met artikel 15 van de E-commercerichtlijn (en nu artikel 8 DSA).
Uit de vraag maakt het Hof op dat de Franse rechter mede wil weten of deze partijen onder de beperking van aansprakelijkheid voor hosters valt (artikel 14 richtlijn). Daarvoor geldt namelijk dat je geen controle of invloed over de content moet uitoefenen. Het klassieke voorbeeld is voorafgaande moderatie – dan kies je wat er op je site mag komen. Idem voor de foto van de dag die je op de homepage zet.
Zo handmatig gebeurt het al lang niet meer. De meeste platforms werken met een omgekeerd-chronologische feed en/of thematische categorieën. Dat is volgens de standaardjurisprudentie geen probleem (Google/Vuitton), zolang je maar geen dingen doet waarmee je inhoudelijke kennis of controle over de content krijgt (Youtube/Cyando).
In die zaken ging dat goed (voor het platform), omdat die alleen keken naar metadata van de content. Bij deze platforms was er meer inhoudelijke bemoeienis, hoewel puur algoritmisch. Maar door dat algoritme kon de aanbieder zelf bepalen
onder welke voorwaarden, op welke wijze en in welke prioriteitsvolgorde deze informatie wel of niet wordt verspreid, [zodat] de exploitant zeggenschap over die informatie uitoefent (…).Met name woog daarin zwaar dat de exploitant in haar eigen belang handelde. Dit in tegenstelling tot enkel het belang van de uploader, denk aan een virusscan.
Voor mij is dat “prioriteitsvolgorde” de kern: je bepaalt dan niet alleen waar de content moet staan, maar ook of de content überhaupt in beeld komt. Bij een omgekeerd-chronologische feed kom je alles tegen als je lang genoeg scrollt, maar dat is zeker niet zo bij een “Relevant voor jou”-feed.
Dan is die feed dus een “foto van de dag” (de seconde?) selectie van de redactie. Dat je dat uitbesteedt aan een algoritme, is daarbij irrelevant.
Het Hof formuleert alleen de regels, het is aan de nationale (hier dus Franse) rechter om te bepalen of die platforms er aan voldoen. Maar dit is wel een sterke voorzet dát dit het geval gaat zijn.
Betekent dit nu dat íeder platform met een recommender zijn beperking van aansprakelijkheid kwijtraakt? Een strakke lezing zegt van wel: je gebruikt een algoritme, en dat zegt hoe en in welke prioriteit content wordt getoond. En intuïtief is dat ook passend: je bént geen neutraal doorgeefluik als je zelf rangschikt wat het beste/mooiste/interessantste is.
Dat wil tegelijkertijd niet zeggen dat je automatisch mag betalen als er iets onrechtmatigs op je site staat. Een platform met duidelijke regels en actieve moderatie handelt niet onrechtmatig door af en toe per abuis iets door te laten dat tegen de wet is.
Arnoud
Dit is me nu nog niet helemaal duidelijk. Er staat een auteursrechtelijk beschermde foto op je site. Je hebt een algoritme en regels, die foto is door dat algoritme toch doorgelaten. Kan je dan zeggen, dit was per abuis, algoritme had dat niet moeten doen, en dan toch nog de verantwoordelijkheid laten terugvallen naar de poster van de content?
Als jij kunt laten zien dat je met dat algoritme goed je best doet om auteursrechtelijke content zonder toestemming te weren, dan zie ik niet meteen wat jouw onrechtmatig handelen is. Dat is niet “terugvallen naar de poster”, dat is “ik doe zelf niets verkeerd”.
Is er dan nog een verschil met als je wel handmatig de foto’s voor je voorpagina cureert, en daarbij als instructie voor je medewerker hebt dat die daar geen auteursrechtelijk beschermd werk moet selecteren. Als die medewerker dan toch iets online zet waar een klacht over komt, kun je je dan ook beroepen dat het “per abuis” toch mis was gedaan en je dus niet aanspreekbaar bent voor de fotoclaim? Dat zou analoog zijn voor mij aan als je een algoritme hebt dat “zijn best doet” om het goed te doen.
Misschien moet je nog net iets meer vragen aan je medewerker/algoritme. Een instructie als “haal de foto door tineye om te zien of er auteursrecht op zit is niet perfect, maar meer dan “medewerker geen auteursrecht schenden hè “, en dan geen middelen geven om dat te voorkomen.
Dat is een uitdaging, want auteursrecht kent geen schuldcomponent. Het enkele feit dat je publiceert zonder licentie, maakt je aansprakelijk voor de geleden schade. Door zo’n herpublicatie na selectie, hoe zorgvuldig ook, is er dus nauwelijks nog een argument dat je genoeg hebt gedaan.
Wat is het verschil met het algoritme? Goede vraag.
Dat lijkt me iets te makkelijk eerlijk gezegd. Een letterlijke lezing van het arrest leidt er toe dat je simpelweg aansprakelijk bent voor content als die algoritmisch wordt aangeboden. En een platform doet volgens mij ontegenzeggelijk een mededeling aan het publiek. En dus ben je als platform nu aansprakelijk voor auteursrechtelijke inbreuk.
Maar… het Hof leunt in dit arrest heel zwaar op de overwegingen in de e-Commerce Directive om te concluderen dat je heel laagdrempelig “control” uitoefent waardoor je je safe harbour verliest. De DSA heeft nagenoeg dezelfde safe harbour regeling, maar met veel meer ruimte in de overwegingen. Je zou op basis daarvan kunnen concluderen dat de aansprakelijkheidsvrijwaring van de DSA wel nog geldt.
Bovendien zou een strenge lezing van het arrest de content-aspecten uit de DSA praktisch volledig overbodig maken. Jaren verspild aan het ontwerpen van een genuanceerd framework voor online content, dat kan niet de bedoeling van de wetgever geweest zijn.
Wat mij betreft moeten we dan ook uit blijven gaan van de vrijwaring uit de DSA, want het chilling effect van platformaansprakelijkheid is natuurlijk gigantisch. Geen kritische posts meer, geen parodieën meer, gewoon algehele beperking wegens risico op claims. En zoals altijd met EU-wetgeving: de grote platforms overleven het wel, maar kleinere platforms zijn weg na een handjevol claims. De weg naar de hel…
Zoals ik de (Engelse) versie van het vonnis lees is de aansprakelijkheid niet automatisch en hangt het ook af van de motivatie achter het gebruik van het specifieke selectie algoritme. Ik kan de redenering van de rechters wel volgen: als je berichten promoot gebaseerd op een in het bericht ingenomen standpunt, dan draag je als website dat standpunt uit.
En ook in EUropa hebben we een aanzienlijke vrijheid van meningsuiting die niet zomaar door de autoriteiten ingeperkt mag worden. Het is aan de website om de keus te maken hoe sterk zij legale parodieën en legale kritiek naar voren wil schuiven, maar er is geen reden voor meer zelf-censuur wanneer deze berichten gewoon tussen de andere berichten van de site blijven staan.
Dit is ook mijn grote zorg. Zaken als dat de DSA expliciet zegt dat je naast een recommender ook een tijdlijn moet hebben, onderstreept voor mij dat het voor die opstellers heel normaal is dat platforms (met hun beperkte aansprakelijkheid) recommenders hebben. Maar ik geef toe, dat is intuïtie en het stáát nergens expliciet.
Niet hier van sprake, maar ik kan me voorstellen dat er een afweging komt naar de hoeveelheid van verspreiding. Als je een kaart van snelheidscamera’s naar 10 Fransen verspreid doordat je misleid werd door de maker van de kaart is dat heel anders dan als het verspreidt wordt naar een miljoen Fransen. Dus als je iets viraal laat gaan als platform ben je ook medeverantwoordelijk voor wat dit dan is, niet als auteur, maar als redactie.