Wanneer is een gegeven een persoonsgegeven?

Geplaatst op in Ondernemingsvrijheid, Privacy, 5 reacties

Een persoonsgegeven is “alle informatie over een geïdentificeerde of identificeerbare natuurlijke persoon”. Zo staat het in de AVG. Maar dat is slechts het startpunt over de discussie of en hoe iemand identificeerbaar moet zijn. Een recent arrest van het Europese Hof voegt weer een nieuwe dimensie toe aan deze discussie. Spoiler alert: we zijn nog lang niet eruit.

In 2017 ging de Spaanse Banco Popular ten onder, waarna Europa ingreep met een afwikkelingsregeling. Getroffen aandeelhouders en crediteuren konden in die regeling relevante informatie verstrekken, wat vervolgens beoordeeld werd door Deloitte en gedeeld werd met beoogd koper Santander. Een aantal partijen maakten daartegen bezwaar, onder meer omdat dit niet duidelijk vermeld was in de privacyverklaring.

Het verweer luidde dat er helemaal geen persoonsgegevens waren gedeeld, omdat de gegevens enkel aan een alfanumerieke code gekoppeld waren en niet aan namen en adressen van betrokkenen. Meelezende FG’s en privacy officers fronsen nu de wenkbrauwen: dit noemen we toch pseudonimiseren en niet anonimiseren, de gegevens blijven immers herleidbaar zolang je ergens een lijst hebt die die codes vertaalt naar identificerende informatie. En daar hebben ze op zich helemaal gelijk in.

Sinds het Breyer-arrest weten we dat herleidbaarheid (identificeerbaarheid) onder de AVG behoorlijk ver gaat. In die zaak was de vraag of een IP-adres voor een website-aanbieder telt als persoonsgegeven. Dat IP-adres is immers te herleiden tot een persoon, maar je hebt de hulp van de internetprovider nodig, en die krijg je niet zomaar (hoi DFW). Toch is het dan een persoonsgegeven, aldus het Hof van Justitie:

[De term persoonsgegeven] moet aldus worden uitgelegd dat een dynamisch internetprotocoladres dat door een aanbieder van onlinemediadiensten wordt geregistreerd telkens als een persoon een website bezoekt die door deze aanbieder toegankelijk wordt gemaakt voor het publiek, ten aanzien van die aanbieder een persoonsgegeven in de zin van voormelde bepaling vormt, wanneer hij beschikt over wettige middelen waarmee hij de betrokken persoon kan identificeren aan de hand van extra informatie die bij de internetprovider van deze persoon berust.
Die “wettige middelen” moet je breed lezen: als de website-eigenaar via een juridische procedure de gegevens kan opeisen, dan is er een redelijkerwijs beschikbaar en wettig middel en daarmee zijn de IP-adressen dus nu al persoonsgegevens. Oké.

In deze nieuwe uitspraak (zaak T-557/20) werkt het Hof dit nu nader uit: je moet deze analyse doen vanuit het perspectief van de ontvanger van de gegevens, hier dus Deloitte. Dat het in abstracto voor iemand mogelijk is om de identificatie te doen (de code terug te vertalen) is niet genoeg, kon specifiek die ontvanger dit doen met redelijke en wettige middelen? Dit laatste is niet onderzocht, en daarom moet de zaak opnieuw beoordeeld worden. Het antwoord lijkt mij “nee”, want in zo’n relatie is er niet echt een voor de hand liggend middel om de koppeling af te dwingen.

Het gevolg lijkt dus te zijn dat wie zo’n lijst met codes plus gegevens krijgt, en daarbij contractueel verboden is ooit de koppeling terug te maken, de lijst als géén persoonsgegevens te beschouwen. Pseudonimiseren wordt daarmee anonimiseren. Ik zeg ‘lijkt’, want volgens mij is dit niet de bedoeling van de AVG.

De kern van het begrip persoonsgegeven is ‘identificeren’, maar dat is niet hetzelfde als het kunnen koppelen aan een naam of contactgegeven. De definitie zegt immers dat identificatie plaats kan vinden:

… met name aan de hand van een identificator zoals een naam, een identificatienummer, locatiegegevens, een online identificator of van een of meer elementen die kenmerkend zijn voor de fysieke, fysiologische, genetische, psychische, economische, culturele of sociale identiteit van die natuurlijke persoon;
Dat dit moet leiden tot een naam of een ander specifiek element, is niet vereist. “Die meneer op de achterste rij heeft een vraag” is volgens mij evident een persoonsgegeven, net als “bezoeker met cookie THX1138 is duidelijk geïnteresseerd in onze nieuwe cursus”. Het wil er bij mij niet in dat onder deze uitspraak {THX1138;cursus:0.93} géén persoonsgegeven is.

Verder is er natuurlijk het punt dat de rest van de gegevens alsnog genoeg kan zijn om iemand te identificeren. Namen en contactgegevens weglaten is niet perse genoeg om gegevens te anonimiseren. Dus ik reken mezelf niet echt rijk met deze uitspraak.

Arnoud

 

Hoe kan een Britse marktautoriteit een Amerikaanse overname tegenhouden?

Geplaatst op in Ondernemingsvrijheid, Regulering, 5 reacties

Waarom het VK Microsofts megadeal wil tegenhouden, zo las ik bij Tweakers onlangs. Met een verrassend besluit maakte de Britse Competition and Markets Authority onlangs namelijk bekend dat het de geplande overname van Activision Blizzard door Microsoft zal blokkeren. Na de aankoop zou Microsoft het op twee na grootste gamingbedrijf ter wereld worden, na het Chinese Tencent en Xbox-concurrent Sony. Spannend, want Activision Blizzard maakt de wereldwijd enorm populaire titel Call of Duty en als die niet meer op de Sony Playstation beschikbaar zou zijn, dan zou dat wel eens grote verkoopgevolgen hebben. Maar het zijn twee Amerikaanse bedrijven, dus waar bemoeit die Britse CMA zich mee?

Het verbod is de uitkomst van een onderzoek gestart juli vorig jaar, maar de uitkomst was voor velen een verrassing: men maakte bezwaar vanwege de zorgen over de machtspositie op de markt voor cloudgaming. Verrassend, want dat is momenteel een relatief kleine markt (2 miljard euro versus 230 miljard voor de hele gamingmarkt) dus is dát nou de heuvel waar je op wilt sterven als toezichthouder? Ja, het is een groeimarkt maar toch:

Volgens de toezichthouder zijn Microsofts cloudtoezeggingen echter te beperkt in omvang. De CMA zegt onder meer dat in de overeenkomsten te weinig aandacht werd besteed aan verschillende businessmodellen voor cloudgaming, zoals abonnementsdiensten die toegang tot games aanbieden. Microsoft heeft zijn Game Pass Ultimate-abonnement, dat ook toegang biedt tot zijn cloudgamingdienst. De CMA zegt dat Microsoft geprikkeld zou kunnen zijn om licentieovereenkomsten met derden op dat gebied te ondermijnen, zij het door ze helemaal niet aan te gaan of door commercieel onacceptabele voorwaarden te stellen.
Met name de zorg dat vrijwel alle cloudgames (mede) op Windows moeten kunnen draaien, is een fundamentele. Want Microsoft heeft nog steeds een machtspositie in de markt voor besturingssystemen.

De vraag blijft terugkomen: waar bemoeit het VK zich mee, als twee Amerikaanse bedrijven besluiten samen verder te gaan? Dat is een kwestie van soevereiniteit: ieder land mag zelf haar regels bepalen, en dat die andermans regels tegenspreken is hooguit een probleem voor de praktijk. Dus als het VK iets verbiedt dat de VS toestaat, dan is dat juridisch helemaal in orde. De consequentie zou dan zijn dat het gefuseerde bedrijf niet in het VK mag opereren. En dat zou ingewikkeld zijn:

De CMA zegt in statements aan media dat Activision ‘is verweven in verschillende markten’ en daarom niet zomaar losgekoppeld kan worden voor alleen de Britse markt. Activision alleen binnen het Verenigd Koninkrijk zelfstandig houden lijkt dus, in ieder geval volgens de Britse marktwaakhond, geen serieuze optie voor de techgigant.
Opmerkelijk is dan nog dat de CMA alleen lijkt te staan: in zowel de VS als in de Europese Unie is toestemming gegeven voor de overname, binnen een aantal concessies en toezeggingen die Microsoft heeft gedaan (zoals nog tien jaar gegarandeerd ook op Playstation te leveren).

Arnoud

Europees Hof: AVG vereist geen schadedrempelwaarde voor schadevergoeding

Geplaatst op in Privacy, 8 reacties

Het Hof van Justitie van de Europese Unie heeft geoordeeld dat een ‘drempelwaarde’ aan ernst van een overtreding van de AVG niet nodig is om een claim bij een rechtszaal in te dienen. Dat las ik bij Tweakers vorige week. Een man vorderde immateriële schadevergoeding, en naar Oostenrijks recht moet dat “voldoende ernstig” zijn alvorens je het mag claimen. Die eis verwijst het Hof dus naar de prullenbak; wel blijft de eis gewoon bestaan dat je moet aantonen dat je schade had en (ongeveer) hoe veel deze is. Voor Nederland heeft dit dan ook geen effect, want zo werkt het bij ons al.

Wie andermans recht geldt, moet de schade vergoeden. Dat is een basisregel in zowat elk rechtssysteem. Maar als we het hebben over “immateriële schade”, zoals smartengeld, dan ligt dat overal ook behoorlijk ingewikkeld. Daar kun je namelijk niet direct een bedrag op plaatsen zoals bij zaakschade of het behandelen van letselschade. Een nieuwe piano is te vergoeden, maar wat kost een missende wijsvinger en maakt het uit dat je nooit meer kunt pianospelen?

De AVG is een regeling over het grondrecht omgang met persoonsgegevens (vaak foutief verward met ‘privacy’), en inbreuken op een grondrecht leveren vaak alleen immateriële schade op. De AVG voorziet in een schadevergoedingsregeling, maar laat het aan het nationaal recht over om te bepalen hoe die vergoeding tot stand mag komen. En toen kwamen ze dus in Oostenrijk met een zaak waarbij de Österreichische Post databestanden verkocht met zeg maar even postcodebestanden gesorteerd op geschatte politieke voorkeur, waar een betrokkene bezwaar tegen had omdat de hem toegezonden politiek georiënteerde reclame “hem erg boos gemaakt [had] en ervoor gezorgd [had] dat hij zijn vertrouwen is verloren en dat hij zich voor schut gezet voelde.”

Dat dit een inbreuk op de AVG was, daar had de Oostenrijkse rechter weinig moeite mee. Maar welke schadevergoeding zou de man moeten krijgen? Er was behalve dat boos en beschaamd maken niets anders; geen kapot gegooide ruiten, geen verloren baan, geen letselschade, zelfs geen gemiste omzet van een ondernemer of een factuur van een psychiater of wat dan ook waar je een objectief getal op kan zetten. Dan kom je dus bij de immateriële schadevergoeding, en daarvan geldt in Oostenrijk dus de maatstaf dat je die pas vergoed krijgt als er enige mate van ernst is, meer dan enkel een beetje boos of teleurgesteld zijn.

Het Hof van Justitie constateert nu dat de AVG zo’n drempel niet toelaat. Ook als de schade minimaal is, of alleen met vage termen aangeduid kan worden. Wel is het zo dat enkel een overtreding van de AVG niet automatisch maakt dat er een vergoeding moet worden betaald, de schade moet wel worden hard gemaakt. In Nederland was dat al zo (arrest, arrest): je kunt in Nederland in theorie 1 euro schadevergoeding krijgen voor een stukje boosheid naar de verwerkingsverantwoordelijke toe, als je maar hard kunt maken dat die boosheid 1 euro aan schade opleverde. Ook geringe schade kan voor vergoeding in aanmerking komen.

Voor Nederland verandert er dus weinig, het uitgangspunt blijft dat je altijd mag claimen mits je maar je schade kunt onderbouwen. Dit is met name een probleem voor de AVG-massaclaims die in opkomst zijn: daar gaat het niet alleen over wat de schade is, maar ook wat voor een hele groep mensen de schade is. Bij een specifiek persoon valt er vaak nog wel wat van te maken, maar wanneer je gaat abstraheren naar een groep mensen (“alle consumenten die een AH Bonuskaart hebben en vaak havermelk kochten, kregen politieke reclame”) dan wordt dat nog wat moeilijker.

Arnoud

Verzekeraar moet 1,4 miljard dollar vergoeden in belangrijke ransomwarezaak

Geplaatst op in Ondernemingsvrijheid, 4 reacties

Een Amerikaanse verzekeraar moet 1,4 miljard dollar uitkeren aan Merck vanwege de NotPetya-ransomwareaanval. Dat meldde Tweakers onlangs. De verzekeraar had dit geweigerd met een beroep op de overmachtsclausule, specifiek het feit dat het om militair optreden ging: NotPetya wordt door beveiligingsexperts toegeschreven aan de Russische militaire inlichtingendienst GROe, die de ransomware wilde inzetten als sabotagedaad in het toenmalige conflict in Oekraïne. De rechtbank ziet dat als irrelevant, wat de weg makkelijker maakt voor toekomstige verzekerden.

NotPetya is een variant op de iets oudere malware Petya, waarbij er duidelijke aanwijzingen zijn voor ontwikkeling door de Russische overheid. Zo lijkt NotPetya eerder ontworpen om data te vernietigen, omdat het ontsleutelen van bestanden (na betaling) niet goed werkt. Ook was de eerste aanvalsvector gericht op Oekraïne.

Farmacie- en chemiebedrijf Merck heeft daar niet echt iets mee te maken, maar kreeg wel een aanval van NotPetya over zich heen. Dit leidde tot honderden miljoenen dollar schade en 10.000 geïnfecteerde machines. Gelukkig voor haar had ze maar liefst acht verzekeringen die dit zouden moeten dekken. Het was dan ook nogal vervelend om te horen dat Ace American Insurance weigerde de toegezegde 700 miljoen dollar uit te keren.

De reden? De kleine lettertjes natuurlijk, meer specifiek zou geen uitkering plaatsvinden bij:

Loss or damage caused by hostile or warlike action in time of peace or war, including action in hindering,  combating, or defending against an actual, impending, or expected attack: (a) by any government or sovereign power (de jure or de facto) or by any authority maintaining or using military, naval, or air forces; (b) or by military, naval, or air forces; (c) or by an agent of such government, power, authority, or forces[.]
De verzekeraar nam namelijk het standpunt in dat NotPetya een “attack” was, die was “orchestrated by actors working for or on behalf of the Russian Federation.” Nou is dit taal die al decennia in verzekeringspolissen staat, maar verzekeraars hebben zelden reden om die in te roepen. De Russische aanslag op MH17 was de enige keer dat dit recent relevant werd.

Cyberaanvallen komen natuurlijk heel wat vaker voor, en er is dan ook grote discussie of dit een oorlogsdaad is, terrorisme of gewoon iets dat je in cyberspace kan overkomen. En dat maakt natuurlijk behoorlijk uit voor cyberverzekeringen, die ook in Nederland allemaal een oorlogs- of molest-uitzondering hebben.

De Amerikaanse rechter begint met te stellen dat je verzekeringspolissen hun “plain meaning” moet geven – er staat wat er staat, en bijdehand lezen is niet de bedoeling. Verzekeringen zijn immers bedoeld om duidelijkheid te creëren, en worden eenzijdig aangegaan want er valt weinig te onderhandelen.

Wat is dan de plain meaning van deze bepaling? Nou ja, dat het schadebrengende feit zelf een oorlogshandeling (of vergelijkbaar) is. Een handeling dus door strijdkrachten met een militair motief of doel. Men wil een brug veroveren en schiet daarbij jouw huis kapot. Je bedrijf wordt gebombardeerd omdat de kogellagers die je produceert, essentieel zijn voor de oorlogsproductie. Een tank rijdt over je auto heen in haar opmars naar het vijandelijk hoofdkwartier. Zulke dingen.

Merck is een chemiebedrijf en kreeg NotPetya over zich heen zonder dat daar enig militair motief aan te koppelen is. Dat is dus eerder “er lag een verdwaalde vliegtuigbom onder de parkeerplaats” dan een oorlogshandeling. En dat ziet de Amerikaanse rechter niet als een geldig beroep op de uitsluiting:

Coverage could only be excluded here if we stretched the meaning of “hostile” to its outer limit in an attempt to apply it to a cyberattack on a noncombatant firm that provided accounting software updates to various noncombatant customers, all wholly outside the context of any armed conflict or military objective. But that approach would conflict with our basic construction principles requiring a court to narrowly construe an insurance policy exclusion.
De zaak is natuurlijk Amerikaans, maar het principe is zeer redelijk en internationaal toepasbaar. In Nederland is de hoofdregel (Haviltex) dat je kijkt wat de bedoeling van partijen is, maar hoe grootzakelijker de partijen, en hoe meer standaard het contract, hoe dichter men bij de letterlijke tekst mag blijven. Dus ook daar zou het niet snel lukken om “oorlogsdaad” gelijk te stellen aan “iedere schade van malware waarvan de productie gelinkt kan worden aan een statelijke actor”.

Arnoud

ChatGPT is opnieuw beschikbaar in Italië na eerder verbod

Geplaatst op in Ondernemingsvrijheid, nog geen reacties
AlexandraKoch / Pixabay

ChatGPT is opnieuw beschikbaar in Italië, meldde Tweakers onlangs. Eigenaar OpenAI heeft diverse stappen genomen om aan de bezwaren van de Italiaanse privacytoezichthouder tegemoet te komen: er is meer informatie over datagebruik online gezet en er zijn bezwaar- en leeftijdsverificatietools op de site opgenomen. Hoewel de GPDP niet volledig tevreden is, is dit voorlopig genoeg om de dienst weer toegankelijk te maken. De vraag is dan ook, wat gaat er nu nog meer komen?

Begin april verbood de Italiaanse Autoriteit Persoonsgegevens (Garante per la Protezione dei Dati Personali, GPDP) OpenAI om de dienst aan te bieden in Italië, omdat kort gezegd niet werd voldaan aan de accuraatheidsverplichting uit de AVG. Ook een probleem was dat niemand is verteld welke informatie over hem of haar in het taalmodel is opgenomen. Er is wel een privacyverklaring maar die gaat niet echt in op de dataverwerking bij het stofzuigen van heel internet.

In haar persbericht legt de GPDP uit welke stappen OpenAI heeft genomen:

  1. Toelichting over hoe en welke persoonsgegevens worden gebruikt (ik kan de link even niet vinden maar dat ligt aan mij)
  2. Voorafgaande uitleg over wat er met je gegevens gebeurt als je registreert als gebruiker
  3. Iedere Europeaan krijgt een opt-out mogelijkheid om zhaar persoonsgegevens te laten verwijderen uit de OpenAI dataset; dat formulier staat hier (krankzinnige URL, dank TechCrunch)
  4. Een mogelijkheid voor betrokkenen om onjuiste uitvoer over henzelf te markeren als onjuist, met de kanttekening dat men nu technisch niet in staat is deze vervolgens tegen te houden
  5. Een aparte popup voor Italiaanse gebruikers over bovenstaande
De stappen klinken goed, maar leggen de bal nog wel sterk bij de mensen die last hebben van ongewenste of onjuiste GPT-uitvoer. Zo moet je op dat bezwaarformulier per prompt aangeven waarom de uitvoer ongewenst is. Maar goed, het is beter dan niets en de volgende stap is dan het privacy by design herontwerpen van GPT zodat dergelijke fouten gewoon niet meer voorkomen.

Arnoud

Deze fotograaf kreeg een rekening omdat hij zijn foto uit de LAION dataset wilde hebben

Geplaatst op in Intellectuele rechten, Ondernemingsvrijheid, 15 reacties

Een Duitse stockfotograaf eiste bij de beheerders van de LAION dataset verwijdering van zijn foto’s, maar kreeg een factuur van $979 in plaats van excuses. Dat las ik bij VICE, en ik wou dat ik zulke clickbaittitels kon schrijven. De zaak is interessant genoeg, zeker nu de fotograaf een rechtszaak is begonnen.

Het Duitse LAION project onderhoudt een van de bekendste datasets met geannoteerde afbeeldingen, waarmee AI systemen getraind kunnen worden. De bekende afbeeldingsgeneratoren zoals Midjourney en Stable Diffusion gebruiken LAION. Een discussiepunt bij dit soort sets is of hier sprake is van auteursrechtinbreuk, wat onder meer tot deze class action rechtszaak leidde.

Over een praktische aanpak blogde ik vorig jaar: via de website “Have I been trained” kun je achterhalen of jouw foto gebruikt is om een AI te trainen. Of nou ja, of je in een dataset zit die zo’n AI gebruikt, wat juridisch niet precies hetzelfde is. Ik schreef toen:

De state of the art dataset tegenwoordig is LAION-5B,met 5,85 miljard afbeeldingen verreweg de grootste. Bijeengebracht voor researchdoeleinden en experimenteren met zulke enorme sets, aldus de website. “The images are under their copyright”, staat er dan ook. En dan de juridische truc, of nou ja truc, waarmee dat kan: elk item uit de dataset bevat simpelweg alleen de bron-URL van de afbeelding, waarmee de dataset zelf geen inbreuk is.
De bedoeling van die website was dat je AI-bedrijven ging aanschrijven. Fotograaf Robert Kneschke koos een fundamenteler route: hij schreef LAION aan. Want je kunt maar beter problemen bij de bron aanpakken, nietwaar? Als die je foto uit hun set halen, zal niemand deze meer gebruiken.

De reactie was verrassend voor zowel Kneschke als VICE:

“Our client only maintains a database that contains links to image files that are publicly available on the Internet. It cannot be ruled out that the database may also contain links to images that you are the author of,” the letter, written by the law firm Heidrich Rechtsanwälte on behalf of LAION and viewed by Motherboard, said. “However, since our client does not save any of the photographs you have complained about, you have no right to deletion. Our client simply does not have any pictures that could be deleted.”
En ja, dat klopt dus met wat we vorig jaar hadden gezien: de dataset bevat fysiek geen afbeeldingen, alleen links daarheen. Ja dat is een truc, en ja die truc is legaal: onder het Europese auteursrecht is linken naar legaal gepubliceerd materiaal geen inbreuk. Het doet er daarbij niet toe welke gebruiksvoorwaarden of licentie de publicist bij het materiaal vermeldt. Dat is het probleem van de partij die de link volgt en de foto downloadt – de datasetsamensteller die er een AI mee gaat trainen dus, niet stichting LAION.

Vervolgens pakte de fotograaf door met een takedown-eis. Daar kwam dus die reactie met factuur op, wat een zeer creatieve terugblafactie is:

The legal letter [van LAION, AE] contained an invoice for $979 in Euros, and demanded that Kneschke pay the amount within 14 days or the firm will take legal action. The amount was due for filing an unjustified copyright claim, the lawyers argued, saying that Kneschke must pay because their client had now incurred legal fees to deal with the matter.
In het Europees auteursrecht is het zo dat de verliezer in een rechtszaak de werkelijke advocaatkosten van de winnaar betaalt. Dus niet het liquidatietarief zoals in andere rechtsgebieden, maar echt de factuur van die advocaat. En ja, als je dus als rechthebbende een dure advocaat neemt dan gaat de inbreukmaker meer betalen. En ja dat is oneerlijk. Maar het werkt ook andersom: als een rechthebbende onterecht blaft, mag je als beweerdelijke inbreukmaker jouw advocaatkosten neerleggen bij de blafhebbende.

Dat laatste is dus wat de LAION advocaat doet. Men ontwaart een onterechte auteursrechtclaim, omdat er wordt gesteld dat de dataset inbreuk maakt maar daar zit alleen een link in en dat is auteursrechtelijk legaal. Het in discussie blijven kost tijd van de advocaat, tijd is geld, dus de blafhebbende fotograaf moet die kosten vergoeden. Formeel hoeft dat pas bij een rechtszaak (want het is een proceskosten-vergoeding) maar de rekening na een rechtszaak zal hoger zijn dan die 900 euro.

Natuurlijk zal LAION ooit die foto’s hebben gedownload, al is het maar om de hyperlink te controleren of er echt een afbeelding achter zit en welke resolutie deze heeft. Die download zou je kunnen zien als een inbreuk, want daar is dan dus wél een kopie gemaakt. Maar in Europa hebben we sinds een aantal jaar een auteursrechtelijke uitzondering voor “data mining”, bij ons artikel 15o Auteurswet:

Onverminderd het bepaalde in artikel 15n wordt een reproductie in het kader van tekst- en datamining niet als inbreuk op het auteursrecht op een werk van letterkunde, wetenschap of kunst beschouwd mits degene die de tekst- en datamining verricht rechtmatig toegang heeft tot het werk en het auteursrecht door de maker of zijn rechtverkrijgenden niet uitdrukkelijk op passende wijze is voorbehouden, zoals door middel van machinaal leesbare middelen bij een online ter beschikking gesteld werk.
Met name dat stuk over het voorbehoud is van belang. Menig fotograaf of andere auteursrechthebbende zal een licentietekst of gebruiksvoorwaarden bij zhaar werk publiceren, al is het maar een Creative Commons licentie met bijvoorbeeld een NietCommercieel variant. Je zou zeggen dat je het daarmee juridisch dichtgetimmerd hebt, maar voor gegevensmijnwerkers is het ondoenlijk om al die teksten te gaan lezen. Daarom staat er in de wet dat zo’n voorbehoud op “passende wijze”, met name dus machineleesbaar, moet zijn gedaan.

Kneschke heeft zover ik kan zien geen machine-leesbare licentieinformatie bij zijn afbeeldingen, maar ze staan wel legaal online. Daarmee is dus aan deze uitzondering voldaan, zodat een partij zoals LAION ze mag downloaden voor datamining. Oftewel: haal ze binnen, extraheer de relevante informatie (omvang, type, etc) en maak een record waarin je die informatie vastlegt plus de hyperlink, gooi daarna de afbeelding weg. Ik zie niet hoe dit auteursrechtinbreuk kan opleveren.

Arnoud

Wordt het tijd voor een beschermd persoonlijkheidsrecht vanwege al die AI-kloonsystemen?

Geplaatst op in Innovatie, Ondernemingsvrijheid, Privacy, 7 reacties

Op TikTok en YouTube wemelt het van de liedjes die met kunstmatige intelligentie (AI) zijn gemaakt, las ik bij Nu.nl. Een voorbeeld is dit nummer van Drake met The Weeknd, en eerder blogde ik over de Eminem-sample in een werk van David Guetta die uit AI kwam. Voor een grapje of om een punt te maken zie ik dit nog wel, maar het lijkt nu te neigen naar een nieuw bedrijfsmodel: het is veel goedkoper en sneller om AI dingen te laten maken, en als je dan ook kunt meeliften op de herkenbaarheid of populariteit van een artiest dan is dat mooi meegenomen. Wordt het tijd om hier juridisch wat aan te doen?

In 1890 verscheen een van de indrukwekkendste juridische pamfletten ooit (vlak na ons Plakkaat van Verlatinghe), namelijk het “Right to privacy”-artikel van juristen Warren en Brandeis. Zij betoogden dat mensen fundamenteel het recht hebben om “met rust gelaten te worden”. Dat kwam voort uit de recente uitvinding van de fotografie, die al snel hype-achtige proporties aangenomen had – de “Kodak duiveltjes” waren overal, en commerciële interesse in foto’s van beroemde mensen of juist ‘gewone’ mensen was enorm. Zoals Prosser het in 1960 samenvatte:

The matter came to a head when the newspapers had a field day on the occasion of the wedding of a daughter, and Mr. Warren became annoyed. It was an annoyance for which the press, the advertisers and the entertainment industry of America were to pay dearly over the next seventy years. Mr. Warren turned to his recent law partner, Louis D. Brandeis, who was destined not to be unknown to history. The result was a noted article, The Right to Privacy, in the Harvard Law Review, upon which the two men collaborated. It has come to be regarded as the outstanding example of the influence of legal periodicals upon the American law.
Ik vind het wel wat hebben dat je je zó kapot ergert aan roddeljournalistiek op de bruiloft van je dochter dat je een nieuw grondrecht uitvindt om ze daarmee tot in de eeuwigheid terug te pakken, maar dat terzijde. Het verhaal laat zien hoe nieuwe rechten tot stand kunnen komen: omdat de maatschappij daar een behoefte toe voelt, omdat de praktijken die aan het ontstaan zijn niet meer normaal gevonden worden.

De opkomst van AI-kloonsoftware is nu sterk in opkomst, vergelijkbaar met de Kodakmannetjes die alles en iedereen op de foto zetten en de uitgeefindustrie die daar gretig op inspringt. De status van artiesten wordt uitgemolken zonder dat die artiesten daar zelf nog inhoudelijk (of financieel) wat van terugzien. Wie werk publiceert met een beetje herkenbare stijl, zal al snel ontdekken dat Midjourney prompt hackers trefwoorden gaan suggereren om werk in die stijl te genereren. Als genoeg mensen dit als onwenselijk ervaren, dan is er zeker ruimte voor een ‘persoonlijkheidsrecht’ of “AI-afweerrecht”, niet gekloond of gesimuleerd willen worden.

Hiervoor zou de analyse van Warren en Brandeis een mooie basis kunnen bieden. De voornaamste vraag bij zo’n fundamenteel recht is op welke wijze het in balans moet worden gebracht met andere rechten, zoals de vrije informatiegaring – precies het recht waar alle AI-modellen mee vervaardigd zijn.

Arnoud

Onder ede verklaren of je eerdere uitspraken deepfakes zijn, kan dat?

Geplaatst op in Ondernemingsvrijheid, Uitingsvrijheid, 13 reacties

Tesla-topman Elon Musk moet onder ede komen verklaren over eerdere uitlatingen over Autopilot, berichtte Reuters onlangs. Die eerdere uitlatingen staan op video, maar zoals RTL Nieuws eerder berichtte, het zou een deepfake-video kunnen zijn. “Musks advocaten zeggen dat de topman zich niks herinnert van dat interview.” (Hoi Mark) De rechtbank wil hem nu alsnog langshebben. Het riep wel vele vragen op, hoe dat zit met deepfakes (of de kans daarop) in het bewijsrecht.

De achtergrond van dit verhaal is een dodelijk ongeval met een Tesla (model X), waarbij een Apple-ingenieur om het leven kwam die rekende op de werking van Tesla-stuurhulp Autopilot. De nabestaanden stellen dat dit overlijden te wijten is aan Tesla, dat haar product overhypte. Een van de argumenten daarbij is een uitlating uit 2016 van Musk, te weten

“A Model S and Model X, at this point, can drive autonomously with greater safety than a person. Right now.”
Musk zei dit in 2016 op een podium bij de bekende conferentie Code Conference, in een Q&A met journalisten. De video daar is 6 jaar geleden op Youtube gepubliceerd door Recode, de organisatie achter die conferentie die deel is van het Vox-uitgeefconcern. Van deze video, althans dit stukje, zegt Musk nu dus via zijn advocaat dat hij zich niet kan herinneren wat er is gezegd en dus twijfelt aan de juistheid van die uitspraak. (Ik zou ook willen dat niet gezegd te hebben in de context van zo’n rechtszaak, dit is vrij sterk bewijs dat Tesla als bedrijf Autopilot promootte als iets dat beter is dan menselijke oplettendheid.)

De advocaten gooien er nog een mooie stelling achteraan:

In addition Musk, “like many public figures, is the subject of many ‘deepfake’ videos and audio recordings that purport to show him saying and doing things he never actually said or did,” Tesla said.
Nou zal dat allemaal best, maar de vraag is hoe dat meeweegt in zo’n specifieke rechtszaak. De kern is (in Californië en bij ons) “wie eist, bewijst”, of dus iets formeler “hij die zich op het rechtsgevolg van een stelling beroept, moet deze bewijzen”. De eisers stellen dat de auto was verkocht als superveilig terwijl deze dat niet was, dus die moeten bewijzen dat Tesla dat soort dingen heeft gezegd. Een uitspraak van Tesla-topman Musk is heel mooi bewijs, dus ik snap dat ze die uitspraak meegenomen hebben in hun bewijsvoering.

Natuurlijk mag Tesla tegenbewijs aandragen, bijvoorbeeld dat dat niet zo bedoeld is of uit de context is gehaald, of sloeg op een ander model of weet ik veel. Je kunt ook de authenticiteit van het bewijs aanvechten, en dan is “deepfake” in principe net zo’n argument als “er is geknipt” of “dat zei ik in 2013 over de model S en ik heb het in 2015 teruggenomen”. Alleen: wanneer er zo’n concrete video is uit onverdachte bron, dan moet je meer doen dan alleen maar zéggen dat het bewijs niet klopt. Er moet dus iets op tafel komen waaruit kan worden gehaald dat er is geknipt, of dat het uit een oudere video komt of noem maar op. En dat lijkt er tot nu toe niet te zijn.

De theoretische mogelijkheid dat een video nagemaakt kan worden, is op zichzelf geen argument. Alles kan (koffiekan, theekan) maar als de andere partij een goed verhaal had waarom de video echt is, dan moet je toch zeker inhoudelijk reageren. En het verhaal klinkt goed: video staat al zes jaar op Youtube, is gemaakt door de organisatie, die staat bekend als journalistiek en onafhankelijk, de video heeft geen rare knips of kwaliteitsverlies of andere opmerkelijkheden en Musk wordt al jaren geciteerd op basis van die conferentie-uitspraken. Dan geloof ik het gewoon niet meer, dat de video nep zou zijn.

Arnoud

De DSA komt eraan: Europa verscherpt toezicht op grote techbedrijven als Google en Meta

Geplaatst op in Informatiemaatschappij, 2 reacties
PeggyMarco / Pixabay

Google, Amazon, Meta, Microsoft en andere grote techbedrijven vallen vanaf augustus onder de Europese Digital Service Act (DSA). Dat las ik bij Nu.nl. Deze opvolger van de Ecommercerichtlijn uit 2000 bevat veel strengere regels voor online platforms, pardon tussenhandelsdiensten die hostingdiensten leveren al dan niet in de vorm van platformdiensten. Want alleen al op die definities kun je een dag studeren. Wat gaat er vanaf augustus gebeuren?

De Digital Services Act is 19 oktober 2022 in werking getreden. Of nou ja, dat gaat niet alles in een keer: er is een heel tijdspad met stappen die doorlopen moeten worden. In februari moesten bijvoorbeeld alle platforms voor het eerst hun bezoekersaantallen publiceren als die boven de 45 miljoen uitkwamen. Dat is het belangrijkste criterium om als Zeer Groot Online Platform (VLOP) aangemerkt te worden. De lijst die de Europese Commissie publiceerde, zal niemand verrassen: Alibaba, Facebook, Google Play en Twitter bijvoorbeeld, hoewel ook Zalando en Booking.com op de lijst staan. (Google is een Zeer Grote Online Zoekmachine, dat is een aparte categorie).

Die designatie is belangrijk, want je krijgt dan een enorme extra stapel eisen ten opzichte van de ‘gewone’ platforms. Een VLOP brengt enorme “systeemrisico’s” met zich mee, zoals het snel doen verspreiden van desinformatie of het grootschalig via algoritmes verkeerd sturen van mensen op het platform. Een VLOP moet daarom binnen 24 uur illegale informatie verwijderen na een melding daarvan, maar ook een uitgebreide risico-assessment doen en haar systemen zo inrichten dat die risico’s worden geminimaliseerd. Meer algemeen moeten zij transparant zijn over hoe de diensten werken, inclusief hoe mensen aan advertenties worden gekoppeld.

Zoals Nu.nl opmerkt kunnen die regels behoorlijk strikt zijn: men mag geen bijzondere persoonsgegevens (ras, religie, seksualiteit etc) meer gebruiken in advertentieprofielen, hoewel die regel (art. 26 lid 3 DSA) voor alle platforms geldt, dus niet alleen voor de VLOPs. Maar in de praktijk komen deze regels met name op hun bordje, omdat ze nu eenmaal de grootsten zijn en eigenlijk altijd ook de beheerders van de meestgebruikte advertentiesystemen, de systemen waarbij zulke informatie relevant kan zijn. Want bij Marktplaats adverteren ze ook, maar daar zijn zulke kenmerken lang niet zo belangrijk.

Vanaf 17 juni worden deze bedrijven formeel aangewezen als VLOPs, tenzij hun bezwaren (die ondertussen zo ongeveer binnen moeten zijn) gegrond worden verklaard. En dan hebben ze zes maanden (vandaar de “half augustus”) om aan de eisen van de DSA te voldoen. Dat klinkt kort, maar het zal voor geen van de bedrijven op de lijst een verrassing zijn geweest dat ze als zodanig zijn aangemerkt. Het risico-assessment moet ook op 17 juni binnen zijn, waarna men zo snel mogelijk aan de slag moet om de impact van die risico’s te minimaliseren. Dat is dus nog een stevige kluif.

Oh ja, de handhaving. Elk land moet zijn eigen coördinator / toezichthouder benoemen. Die krijgt dan allerlei bevoegdheden, waaronder het kunnen opleggen van boetes. Die boetes kunnen fors zijn (art. 52 lid 3 DSA):

De lidstaten zorgen ervoor dat het maximumbedrag van de geldboeten die kunnen worden opgelegd wegens niet-naleving van een verplichting die in deze verordening is vastgelegd, 6 % bedraagt van de wereldwijde omzet van de betrokken aanbieder van de tussenhandeldiensten in het voorgaande boekjaar. De lidstaten zorgen ervoor dat het maximumbedrag van de geldboete die kan worden opgelegd wegens het verstrekken van onjuiste, onvolledige of misleidende informatie, het niet beantwoorden of niet corrigeren van onjuiste, onvolledige of misleidende informatie en het niet onderwerpen aan een inspectie 1 % bedraagt van de inkomsten of de wereldwijde omzet van de aanbieder van de tussenhandeldiensten of de betrokken persoon in het voorgaande boekjaar.
Ik weet dat iedereen elke keer zegt dat een Europese boete peanuts is, maar ook voor Google Search (jaaromzet 279.8 billion dollars, zo’n 250 miljard Euro) is 6% best een hap uit de winst. Daarnaast kan men VLOPs bevelen om bepaalde handelingen te staken, wat in de praktijk minstens zo veel pijn zal doen.

Wie het gaat handhaven is net zo’n discussie als bij de AVG. In principe is de coördinator/toezichthouder bevoegd van het land van vestiging, dus u mag even zuchten: ja dat wordt dus Ierland. En precies vanwege die zucht heeft de Europese Commissie zichzelf een extra bevoegdheid gegeven. Waar het gaat om VLOPs is niet die nationale toezichthouder bevoegd maar de Commissie zelf, net als bij de hele grote mededingingskwesties (art. 73 DSA, de boetes zijn even hoog). De Commissie heeft in het verleden laten zien wél adequaat en stevig in te kunnen grijpen in de techsector, het voornaamste probleem was (en is) dat het traject zo traag is. Maar omdat er nu concrete regels zijn, zou dat hopelijk iets minder moeten zijn dan bij de open normen in het mededingingsrecht.

Oh ja en nog een leuke: als u nou denkt, waar betaalt de Commissie dan al die ambtenaren van die dit gaan handhaven? Dat doen de VLOPs zelf: de Commissie mag ze een handhavingstoeslag van maximaal 0,05% van hun wereldwijde jaaromzet in rekening brengen.

Meer lezen over waarom dat vroeger zo misging en wat de DSA allemaal nog meer doet? Bestel mijn boek!

Arnoud

Mijn werkgever eist dat wij mailen met voor- en achternaam, mag dat?

Geplaatst op in Ondernemingsvrijheid, Privacy, 39 reacties

Via Reddit:

Ik ben werkzaam op een technische helpdesk. Nu is er sprake van een klein brandje aangezien het bedrijf eist dat wij onze mails beantwoorden met volledige voor- en achternaam. Dit heeft al geleid tot collega’s die privé worden gecontacteerd via bijvoorbeeld social media. Nou zal het echt geen juridisch conflict worden, maar mag een werkgever dit eisen?
Voor de duidelijkheid, het gaat om “beantwoorden” als in “onderaan je mail je voor- en achternaam noemen”, niet perse de vorm van het e-mailadres (zie de achternaamdiscussie van vorig jaar).

In beginsel bepaalt de werkgever hoe het werk wordt uitgevoerd, en daaruit volgt ook hoe je naar buiten moet treden. Het voorschrijven van het e-mailsjabloon is een heel normale en redelijke instructie, en die moet je dus gebruiken als de werkgever dat zegt. Of jij dat mooi of lelijk vindt en of je je Linkedin er toch ook in had gewild, dat is juridisch gezien pech voor jou.

Specifiek bij verplichte namen komt de AVG in beeld: een voor- en achternaam zijn natuurlijk persoonsgegevens. De werkgever verplicht hier de werknemer om die persoonsgegevens naar buiten toe te gebruiken. Dat kan eigenlijk alleen als dat noodzakelijk is voor het werk, of als het belang van de werkgever duidelijk groter is dan dat van de werknemer en er geen privacyvriendelijker oplossing is. (Of met toestemming zei u? Nee.)

Een noodzaak voor het werk zie ik niet direct. Je kunt prima werken, zeker vanuit een helpdesk, met alleen een voornaam of een pseudoniem. De klant heeft in principe jouw naam niet nodig, voor het aanspreken (“Beste Anja, dank je wel maar hij doet het nog steeds niet”) is een voornaam genoeg lijkt me. Juist omdat het gaat om een helpdesk, zullen klanten regelmatig wisselen van adviseur (dat kan zelfs in één ticket). Dus die grond gaat hem niet worden.

Het belang van de werkgever zie ik niet direct. Ik vermoed dat er termen als “professionaliteit”, “uitstraling” of “zo werken wij al jaren” terugkomen als er navraag wordt gedaan, en dat is natuurlijk hete lucht die AVG-technisch geen betekenis heeft. Daar staat tegenover dat de werknemer persoonlijk last kan krijgen van die herleidbaarheid, sterker nog dat is al daadwerkelijk gebeurd. Het belang van de werknemer is dus zeer groot, en daaruit volgt dat de werkgever dit moet aanpassen.

Arnoud