Historische Vereniging Oud Leiden is hele digitale archief kwijt door fout Microsoft

Geplaatst op in Informatiemaatschappij, Ondernemingsvrijheid, 5 reacties
Photo by Mick Haupt on Unsplash

De Historische Vereniging Oud Leiden (HVOL) is zijn volledige digitale archief kwijt, dat ze in de Microsoft-dienst Sharepoint had ondergebracht. Dat meldde het Leidsch Dagblad onlangs. Het gaat om notulen, contracten en meer. Onduidelijk is wiens fout het is, maar pijnlijk is het wel.

De HVOL “richt zich op de bevordering van de kennis van de geschiedenis van de Nederlandse stad Leiden en omstreken en op de bescherming van het culturele erfgoed” en organiseert daarvoor diverse activiteiten. Daar hoort ook het nodige materiaal bij, dat de vereniging dus in Sharepoint bewaarde.

Gratis, want tot voor kort was dat mogelijk voor bepaalde vereniging en stichtingen. Iets preciezer: je verlenging van uiterlijk 1 juni 2025 was de laatste. En die overgang was waar het misging:

Gewijzigd beleid bij Microsoft leidt ertoe dat iedereen moet betalen voor de dienst. … Microsoft kondigde via de mail een overgangsperiode aan. Data zouden, als de licentie na de gratis periode niet werd omgezet naar een betaalde, nog drie maanden bewaard worden, zodat gebruikers ze nog veilig konden stellen. In werkelijkheid zijn alle data meteen ver-nietigd, zo merkte [HVOL]. “En we hadden echt een enorm mooie structuur van mappen voor alle commissies, voor het bestuur, voor dit, voor dat, voor het archief. Wij dachten dat dit de mooiste back-up was, die je had.”
Een aantal belangrijke zaken, zoals de Beeldbank en de financiële administratie, stonden buiten Sharepoint maar diverse werkgroepen kunnen geheel opnieuw beginnen.

In 2025 heeft MS hier wel het een en ander over gecommuniceerd, maar je moet er wel naar zoeken:

To avoid service disruption or data loss, we strongly recommend transitioning users to Microsoft 365 Business Basic or another eligible Microsoft 365 offer for nonprofits before the Office 365 E1 subscription is cancelled. License transitions must be completed manually in the Microsoft 365 admin center.
Hieruit haal ik dus inderdaad dat op je einddatum alles weggaat, en dat het jouw taak is om tijdig te verhuizen. Maar in het citaat hierboven lijkt HVOL te zijn gemeld dat ze na einddatum nog drie maanden hadden om een data-export te doen. Dat spreekt elkaar tegen, en dat kan een grondslag zijn voor een aansprakelijkheidsstelling.

Alleen: wie exact heeft dat laatste gezegd? Als het bijvoorbeeld de MS partner was die HVOL ict-diensten leverde, dan is het niet gegeven dat je dit MS tegen kunt wrijven.

Heeft MS inderdaad die driemaandentoezegging gedaan, dan is ze aansprakelijk te houden voor het dataverlies. Het lijkt op die bekende zaak uit 2014 van een therapeut die data kwijt was die in KPN Back-up Online gezet was. De kleine letterjes mochten niet baten, omdat er een menselijke fout was gemaakt bij het terugzetten van de backup. Dat zou hier analoog gelden: je zegt iets niet te doen en doet het dan toch, dat kun je met de algemene voorwaarden niet rechtbreien.

Alleen: wat ís de vergoeding? Bij die therapeut ging het om instructievideos en dergelijke. Dan kun je het uurtarief voor de uren van het opnieuw maken daarvan (en kosten van een videograaf etc) nog in redelijkheid opvoeren als schade. Die videos zijn vervangbaar.

Bij een historisch archief ligt dat heel wat moeilijker. Zijn de bronstukken er nog? Kan de HVOL daar opnieuw bij komen en ze digitaliseren? Wat is vernietigd na de eerdere digitalisering en nu dus reddeloos verloren gegaan?

Arnoud

Kan ik iemand aansprakelijk stellen als vanwege php2shell mijn site offline ging?

Geplaatst op in Ondernemingsvrijheid, Security, 10 reacties
Photo by Blake Wisz on Unsplash

Een lezer vroeg me:

Wie is aansprakelijk voor gederfde inkomsten na het dringende advies om een webshop die PHP gebruikt offline te nemen? Zou een Cyberverzekering hier van toepassing kunnen zijn?
Uit zorgen over de impact van de php2shell kwetsbaarheid hebben vele site-aanbieders of hosters er voor gekozen om preventief de site offline te halen. Daardoor kun je (fors) bezoek of omzet mislopen, dus logisch dat je dan om je heen kijkt of je dat kunt verhalen.

Als je zelf besloot je site offline te halen vanwege zorgen over deze exploit, dan is dat je eigen keuze en moet je

daar zelf het ondernemersrisico van dragen. Het opvolgen van een verstandig beveiligingsadvies (NCSC) schept geen recht op vergoeding.

Soms was het de hoster en niet de klant die besloot de site(s) offline te halen. Opzettelijk een site uitzetten is een tekortkoming in de overeenkomst, want de site wordt dan niet gehost. De vraag is dan of dat verwijtbaar is (dan wordt het wanprestatie, in juridische termen). Dan wordt relevant wat is overeengekomen over beschikbaarheid, noodonderhoud en beveiligingsincidenten.

Is niets overeen gekomen, dan kom je bij de algemene zorgplicht van de hoster. Die moet zorgen dat de dienst goed werkt, maar ingrijpen en offline halen kán daar een gepaste maatregel bij zijn. En dan is zo’n zwaarwegend advies als van het NCSC echt belangrijk: je volgt dan het aanbevolen overheidsadvies, en daaruit wanprestatie concluderen is vrij ingewikkeld. Vereist is wel dat de hoster daarna zo snel als haalbaar gaat patchen en dan de sites weer live zet.

Op 23 oktober meldde het NCSC dat exploitatie ingewikkelder bleek dan aanvankelijk ingeschat en dat de kans op grootschalig misbruik kleiner was. Maar dat is geen argument voor een besluit daarvóór: de beste informatie was toen dat offline halen verstandig was.

Inkomstenderving door een op advies uitgeschakelde webshop of -dienst is dus in principe niet verhaalbaar, afgezien van wanneer het contract daar expliciet geen ruimte voor biedt.

Veel cyberverzekeringen dekken bedrijfsschade door een hack of systeemuitval, maar niet noodzakelijkerwijs door een preventieve sluiting zonder daadwerkelijk incident. Daarvoor moet je in de polisvoorwaarden duiken: valt onder een bedrijfsonderbrekingsincident ook het redelijkerwijs noodzakelijk uitschakelen van systemen om de gevolgen van onder meer een beveiligingsfout of programmeerfout te voorkomen?

De wet noemt “redelijke kosten ter voorkoming of beperking van schade die als gevolg van de gebeurtenis waarop de aansprakelijkheid berust, mocht worden verwacht” als voorbeelden van schade (art. 6:96 lid 2 punt a BW). Maar die term wordt beperkt uitgelegd. In 2023 hield een bedrijf preventief een productiemachine buiten gebruik vanwege eerdere storingen. De rechtbank vond dat bedrijfseconomisch begrijpelijk, maar het daardoor veroorzaakte omzetverlies was niet als bereddingskosten gedekt. De toekomstige schade was daarvoor onvoldoende onmiddellijk dreigend.

Arnoud

Amerikaanse sanctiewetgeving is geen juridisch toverwoord

Geplaatst op in Ondernemingsvrijheid, Regulering, Security, 1 reacties
Photo by Vlad Deep on Unsplash

Volgens de verzekeraar is het vergoeden van het losgeld in dit geval in strijd met Amerikaanse sanctieregelgeving. Intrigerende zin in een recent arrest over losgeld terugkrijgen van de cyberverzekering.

De verzekerde is een logistiek bedrijf, dat een cyberverzekering had genomen voor het geval er incidenten zouden plaatsvinden zoals ransomware. De polis noemt dat “digitale afpersing” en dekte “door u te betalen losgeld inclusief cryptogeld”.

Bij een later optredend dergelijk incident werd cybersecuritybedrijf Northwave er bij gehaald. Die adviseerde betalen van het losgeld, na een uitdrukkelijke check dat de beoogde ontvanger niet op Amerikaanse of Europese sanctielijsten staan.

De verzekeraar weigerde echter dat te vergoeden, omdat zij vermoedde (“kan niet anders”) dat het losgeld uiteindelijk bij de Russische groep Evil Corp terecht zou komen, en die staan op dergelijke lijsten. En dan zou dat tot sancties tegen haar bedrijf leiden.

Alleen: in de voorwaarden staat dat men niet hoeft te betalen ‘indien dit een inbreuk zou vormen’, oftewel ‘indien dit een inbreuk vormt’. Het Hof neemt de kleine lettertjes zeer serieus:

Er staat niet ‘indien dit een inbreuk zou kunnen vormen’, ‘indien dit mogelijk een inbreuk zou vormen’, ‘indien er een reële kans is dat dit een inbreuk vormt’, of iets soortgelijks. Uit de tekst van artikel 4.28 volgt dan ook niet dat met deze bepaling is beoogd om [verzekeraar] (en de betrokken verzekerde zelf) te beschermen tegen de onzekerheid die gemoeid is met de toepasselijkheid van sanctieregelgeving bij gebreke van een beslissing van de toezichthouder.
Dat is het probleem met veel van dit soort wetgeving: veel angstverhalen, zou kunnen, er dreigt van alles, maar concrete voorbeelden en wat er dan precies gebeurd? Ja nee gag orders NDA staatsgeheim.

Het Hof eist duidelijkheid:

In de Advisory on Potential Sanctions Risks for Facilitating Ransomware Payments, een advies van het OFAC (productie 26 bij de conclusie van antwoord), staat het volgende (de onderstrepingen zijn door het hof aangebracht): “Companies that facilitate ransomware payments to cyber actors on behalf of victims, including financial institutions, cyber insurance firms, and companies involved in digital forensics and incident response, not only encourage future ransomware payment demands but also may risk violating OFAC regulations.” In de Updated Advisory (productie 27 bij de conclusive van antwoord) staat het volgende: “This advisory describes the potential sanctions risks associated with making and facilitating ransomware payments (…)”.
Dit is typisch zo’n tekst waarmee bedrijven besluiten een risico niet te willen nemen. Maar hoe hard moet je dit lezen? Potentiële sancties, het zou kunnen dat je regels overtreedt, wie weet staat ergens een artikelnummer.

Maar, zo zegt het Hof, gáát dit wel over deze situatie?

[Verzekeraar] kan er echter niet van beschuldigd worden dat zij namens een slachtoffer van een hack de betaling van losgeld aan Evil Corp heeft gefaciliteerd. [De klant] heeft het losgeld zelf betaald, twee dagen na de hack, omdat een groot deel van haar netwerk versleuteld was geraakt. Er staat bovendien “may risk” en “potential”, wat duidt op regelgeving die niet in steen is gebeiteld en waarbij het kan afhangen van de omstandigheden van het geval of sancties worden opgelegd of niet. Dat, zoals [verzekeraar] gesteld heeft, OFAC verregaande bevoegdheden heeft bij het interpreteren van sanctiewetten (en het vereiste van material support), maakt niet dat OFAC deze bevoegdheden ook in dit geval zal inzetten jegens [appellante] (of haar moeder- of zustervennootschap), ook niet als aangenomen wordt dat de Amerikaanse overheid het bestrijden van Evil Corp hoog op de agenda heeft staan.
Wat dat laatste betreft: de OFAC was gevraagd om toestemming om het losgeld te mogen betalen, maar men leek niet echt interesse in de kwestie te hebben.

Wat mij vooral bevalt aan dit arrest, is dat het Hof niet onder de indruk raakt van de bezweringsformule “Amerikaanse wetgeving”. Ik hoor die vaker: de Patriot Act, de CLOUD Act, Section 702, geheime bevelen aan Amerikaanse medewerkers, gag orders, noem maar op. En dan volgt steevast de conclusie dat de Amerikaanse overheid van alles kan eisen, want <handwuif>.

Het Hof vraagt gewoon door. Welke bevoegdheid precies, tegen wie, voor welke handeling en waarom zou die hier worden ingezet? Natuurlijk heeft de Amerikaanse overheid vergaande bevoegdheden. Maar dat is geen vrijbrief om bij iedere juridische discussie het Amerikaanse sanctie- en veiligheidsapparaat als spookbeeld op te voeren. Wie zich op zulke wetten beroept, moet concreet maken waarom ze in dit geval relevant zijn. Ook Amerikaanse wetgeving is geen juridisch toverwoord.

Arnoud

Pakket per ongeluk naar oud adres gestuurd en daar aangenomen, bewoners weigeren medewerking

Geplaatst op in Ondernemingsvrijheid, 13 reacties
Photo by Christian Stahl on Unsplash

Via Reddit:

Doordat er nog een oud adres bij een online kledingwinkel geregistreerd stond – en ik niet goed oplette bij het bestellen – is een pakketje naar een oud adres gestuurd. Toen ik de melding ‘bezorgd’ in de app zag heb ik dit ontdekt en ben ik meteen naar die woning gereden. Er was overduidelijk iemand thuis, maar er werd niet open gedaan. Het pakket lag niet voor de deur, dus ik neem aan dat deze gewoon is aangenomen. [Wat nu?]
Juridisch is de kwestie vrij duidelijk. Je hebt bij het bestellen een adres opgegeven, daar is het heengegaan en daar is het aangekomen. Het pakket is daarmee in handen gekomen van een door jou aangewezen derde (art. 7:11 BW) en rechtsgeldig afgeleverd. Daarmee is het nu jouw risico hoe je het in handen krijgt.

Natuurlijk, dit was niet je bedoeling. Ik zie hoe het kan gebeuren: veel browsers vullen automatisch je adres in, en het kan vlak na een verhuizing goed dat je oude adres daarbij naar voren komt. (Ik moest ook even zoeken, want bij Chrome zit je huisadres bij je Wachtwoorden-instellingen.) Maar juridisch komt ook dat voor jouw rekening – de wederpartij kan niet zien hoe jij dat adres invulde, en mag dus (art. 3:35 BW) er op vertrouwen dat jij dat adres bedoelde.

Kun je het dan bij de buren opeisen? Vragen kan altijd, maar zo te lezen is daar al flink wat geprobeerd zonder effect:

Er was overduidelijk iemand thuis, maar er werd niet open gedaan. Het pakket lag niet voor de deur, dus ik neem aan dat deze gewoon is aangenomen. Ik heb een briefje met uitleg, contactverzoek en mijn 06 door de bus gedaan maar 48 uur later nog niets gehoord. Zojuist weer 2x aangebeld maar genegeerd. Ze houden mijn pakket dus ‘gegijzeld’.
(Mogelijk zijn deze nieuwe bewoners bang voor de bekende oplichterstruc van verkeerd adres en pakket meenemen, waarna de factuur bij hen op de mat komt. En nee, niet iedereen kent de naam van de vorige bewoner.)

In de comments wijzen velen op de wijkagent, die dan aan moet bellen en iets zeggen over het strafbare feit verduistering (art. 321 WvS), het wederrechtelijk onder je houden van een goed dat niet van jou is. Dat is zeker een optie, hoewel “geen idee, niets gehad, ik wil niet dat u binnenkomt” een prima antwoord is dat de bewoners kunnen geven.

Kan het via een civiele procedure, even los van de tijd en geld? Daarvoor is vereist dat de vraagsteller eigenaar is van het pakket, want alleen die kan zijn eigendom revindiceren bij degene die het heeft.

Wat er juridisch gebeurt, is dat de vraagsteller de nieuwe bewoners aanwijst als ontvangers. Zij nemen dan aan voor jou, en worden daarmee onmiddellijk houder. De vraagsteller is dan middellijk bezitter (art. 3:107 BW). En omdat er ook een geldige koopovereenkomst is, is deze door dat bezit eigenaar geworden (art. 3:90 BW). Daarmee kan deze zijn eigendom revindiceren (art. 5:2 BW).

Maar zoals gezegd, de kosten van zo’n juridische procedure zullen meestal niet opwegen tegen de prijs van het bestelde. Bovendien zit je ook met een bewijsprobleem: als de nieuwe bewoners stellig blijven ontkennen iets gehad te hebben, hoe zwaar weegt dat briefje van PostNL dan nog? Het is immers ook nog mogelijk dat het bij een buur van deze mensen bezorgd is, of uit de tuin gestolen nadat de bezorger het daar achterliet.

Arnoud

Commotie om studenten die met een lege telefoon hun huis niet meer in kunnen

Geplaatst op in Security, 33 reacties
Photo by wiredsmartio on Pixabay

Huurders van een aantal panden van SSH, de woningcorporatie voor studentenhuisvesting in Utrecht, kunnen hun huis alleen nog maar in met een app op hun telefoon. Dat las ik bij RTV Utrecht onlangs. Dus als je na een avondje stappen midden in de nacht thuiskomt met een lege telefoon dan kom je je huis niet meer in.

Eind 2024 blogde ik over een vergelijkbare kwestie: in studentenhuizen worden wel vaker fysieke sloten vervangen door apps, en jij moet dat maar werkend zien te krijgen. Toen was de zorg, kun je nog wel veilig naar buiten? Maar überhaupt naar binnen kunnen in je eigen huis is natuurlijk ook een ding.

Bij de huurcommissie vond ik vooralsnog geen uitspraken hierover. In 2025 was hierover ophef bij Veste Wonen, dat opgelost lijkt te zijn met een aantal maatregelen:

  • Openen en sluiten moet met de Veste app, die je toch al nodig hebt voor alles rondom je huurcontract.
  • Er staan telefoonlaadpunten op het terrein, zodat je een lege telefoon snel een paar procent kunt geven.
  • Je kunt iemand anders een digitale sleutel van je deur geven en die vragen om open te doen.
  • Openen en sluiten wordt niet gelogd.
  • Op verzoek krijg je een tag, tegen een borg van 100 euro.
Dit komt me vrij schappelijk over, met name de zo te lezen gratis in bruikleen verstrekte tag zou de belangrijkste problemen op moeten lossen.

In Utrecht kosten de tags 200 euro, aldus RTV Utrecht. En je moet nog moeite doen ook want kennelijk mag het alleen als je bewijst geen smartphone te hebben:

Wil je, zoals Milou, een keyfob omdat je niet afhankelijk wilt zijn van je smartphone, dan krijg je die niet. “Je moet fysiek bij een medewerker van SSH aantonen dat je écht geen smartphone met NFC-chip hebt.” Ook medestudent Jasmijn* die om dezelfde reden als Milou anoniem haar verhaal doet, kreeg geen keyfob terwijl iLOQ niet werkte op haar Android-telefoon.
Dat van het niet werken is nog een dingetje: kennelijk gaan de deuren allemaal open als er een storing is, en dat gebeurt nogal eens – “Ook tijdens het maken van dit verhaal was er een storing waardoor alle deuren tot aan de woningen openstonden”.
De digitale sloten geven de bewoners een gevoel van onveiligheid, met name onder de vrouwen, zeggen de twee studenten. “Dan stuurt iemand een appje met een ‘heads up’ dat er een dakloze in de fietsenkelder of wasruimte ligt. Als je nietsvermoedend binnenkomt, kan je daarvan schrikken”, zegt Milou. “Sommige meiden durven dan niet meer alleen zo’n ruimte in.”
Bij Veste Wonen lijkt dit probleem niet te spelen en spreken ze van “proven technology that is widely used in vital infrastructure”, zij het zonder concrete onderbouwing.

Arnoud (Geen grappen over ssh inloggen op de voordeur)

Mogen beveiligingsbedrijven gestolen wachtwoorden verzamelen en verkopen?

Geplaatst op in Privacy, Security, 9 reacties
Photo by Lee Campbell on Unsplash

Een lezer vroeg me:

Er zijn cybersecuritybedrijven die gestolen wachtwoorden en andere gegevens uit datalekken verzamelen, bijvoorbeeld via het darkweb of Telegram. Ze maken deze gegevens doorzoekbaar en verkopen aan bedrijven informatie over gelekte accounts van hun medewerkers. Maar het blijven gestolen persoonsgegevens, waarvan de betrokkenen vaak niet eens weten dat ze worden verwerkt. Mag dit zomaar van de AVG? En is het niet een vorm van digitale heling?
Het klinkt wat tegenstrijdig, maar juist door gestolen gegevens te verzamelen kunnen beveiligingsbedrijven veel schade voorkomen. Denk aan een werknemer wiens laptop besmet raakt met malware die wachtwoorden steelt. Door die gegevens terug te vinden, kan de werkgever tijdig accounts blokkeren en wachtwoorden laten wijzigen. Ook de werknemer profiteert hiervan, omdat bijvoorbeeld zijn privéaccounts gecompromitteerd kunnen zijn.

Strafrechtelijk bestaat er inderdaad zoiets als digitale heling. Artikel 139g Strafrecht verbiedt het verwerven, bezitten en verhandelen van niet-openbare gegevens waarvan je weet of moet vermoeden dat ze door een misdrijf zijn verkregen. Maar gegevens die al openbaar op internet staan, vallen hier niet onder. En voor niet-openbare gegevens kent de wet een uitzondering wanneer iemand te goeder trouw mocht aannemen dat het algemeen belang het gebruik noodzakelijk maakte. Het waarschuwen voor beveiligingsincidenten kan daaronder vallen, ook als er een commercieel motief mee gediend is.

Dan de AVG. Die erkent in overweging 49 uitdrukkelijk dat netwerk- en informatiebeveiliging een gerechtvaardigd belang kan opleveren. Toestemming van iedere betrokken werknemer is dus niet per definitie nodig. Wel moet de verwerking noodzakelijk en proportioneel zijn. Een werkgever waarschuwen dat een zakelijk account is gehackt, is iets heel anders dan hem de complete browsergeschiedenis en privéwachtwoorden van zijn medewerker verstrekken.

Daar komt bij dat het Hof van Justitie recent heeft geoordeeld dat wie weet dat persoonsgegevens eerder onrechtmatig zijn verzameld, zich voor het vervolgens gebruiken daarvan niet op het gerechtvaardigd belang kan beroepen (NTH Haustechnik, r.o. 112). De context was weliswaar of de rechter zulke stukken als bewijs mocht toelaten, maar de redenering is algemeen: je belang is niet gerechtvaardigd als je begint met onrechtmatig verkregen gegevens.

Ik denk dat dit oordeel de commerciële handel in gestolen gegevens behoorlijk onder druk zet. Bij infostealer-logs weet de aanbieder immers dat de gegevens door malware zijn buitgemaakt. Dat een beveiligingsbedrijf hiermee anderen wil beschermen, maakt het opnieuw verzamelen van die gegevens niet rechtmatig. Het gerechtvaardigd belang is daarvoor volgens het Hof geen beschikbare grondslag.

Een andere AVG-grondslag voor het systematisch binnenhalen en indexeren van complete gestolen datasets zie ik niet snel. Anders ligt het bij een werkgever die eigen beveiligingslogs analyseert, of een meldpunt dat op basis van door slachtoffers verstrekte informatie anderen waarschuwt. Daarvoor kan het gerechtvaardigd belang nog steeds een geschikte grondslag zijn.

Arnoud

Mag de curator een databestand van een failliet bedrijf verkopen voor AI-training?

Geplaatst op in Innovatie, Privacy, 13 reacties
Photo by Zulfugar Karimov on Pexels

Diverse media melden dat Google tijdens een veiling de gegevens van een failliet Amerikaans luchtvaartbedrijf heeft opgekocht. Het gaat om grote aantallen e-mails, chatgesprekken, opgenomen telefoongesprekken met klanten en documenten, maar ook allerlei gegevens van personeel, waaronder salarisgegevens, belastingformulieren en andere ‘employee records’. Uiteraard gaan ze hier AI mee trainen. Zou dat in Nederland ook kunnen?

De honger naar gegevens om generatieve AI beter mee te laten werken is onstilbaar, zo lijkt het. Uit alle hoeken en gaten wordt data opgestofzuigd om daar taalmodellen mee te verbeteren. Deze is wel heel creatief gevonden, maar ik zie hoe die berg semi-gestructureerde data waardevol kan zijn.

In Nederland is de status van data bij een faillissement nauwelijks geregeld. Curatoren verkopen databestanden net zoals ze oude bureaustoelen verkopen, want het gaat om “het belang van de boedel” en dus om zo veel mogelijk geld halen om schuldeisers tevreden te stellen.

De AVG zit hier echter stevig in de weg, want een curator wordt verwerkingsverantwoordelijke (in plaats van de failliet) zodra die bij de data kan. In deze zaak bijvoorbeeld was de curator aansprakelijk voor een abusievelijk verkochte harde schijf met persoonsgegevens, ook al leek die niet geweten te hebben dat die schijf nog in de verkochte server zat.

Handel in persoonsgegevens afkomstig van een failliet is dus eigenlijk niet mogelijk. Zoals de AP zelf aangeeft, dat kan alleen met toestemming van de betrokkenen en die krijg je vrijwel niet voor elkaar. Omdat het gaat om een nieuw en onvoorzien doel, krijg je de doelbinding niet rond als je het op bijvoorbeeld gerechtvaardigd belang gooit.

Google heeft aangegeven de gegevens eerst te zullen anonimiseren. Dat is natuurlijk het AVG-toverwoord: áls je de persoonsgegevens anoniem maakt, dan kun je die anonieme data verhandelen zoals je wilt. Het is echter de vraag of dat kan, want een personeelsdossier blijft persoonsgegevens bevatten ook als je de naam en salarisnummer er uit haalt. En als je werkelijk alles er uit haalt dat over dat personeelslid gaat, weet ik niet of je nog veel over hebt waar een taalmodel wat mee kan.

Arnoud

AI-check zit er zelden naast bij tekstbeoordeling: ‘Geen bewijs in rechtszaken’

Geplaatst op in Intellectuele rechten, Ondernemingsvrijheid, 12 reacties
Photo by Budgeron Bach on Pexels

AI-detectietools werken “vaak” goed, al adviseren deskundigen om er niet te snel conclusies aan te verbinden. Dat bracht Nu.nl onlangs. Werkt Pangram inmiddels zó goed dat een schrijver moet bewijzen dat hij zijn werk zelf geschreven heeft?

Het artikel is een reflectie op de X-berichten van premier Jetten, die met AI geschreven zouden zijn. Dat zou blijken uit Pangram-analyses.

Maar de tool geeft nooit 100 procent zekerheid, meldt Pangram zelf ook. “Pangram claimt dat 0,0041 procent van de gecheckte teksten niet klopt. Bij miljoenen checks zijn dat nog steeds honderden teksten die ten onrechte worden aangemerkt als AI”, benadrukt [AI-lector Stefan] Leijnen. “Laat ik het zo zeggen: in een rechtszaal zou de uitkomst van alleen Pangram geen stand moeten houden.”
Die 0,0041% is het aantal vals positieven, het percentage menselijke teksten dat ten onrechte als AI werd geclassificeerd. Maar dat is niet hetzelfde als “niet klopt”, want het percentage gemiste AI-teksten is 0,3396%.

Belangrijker: het is niet een continu bijgewerkte kwaliteitsindicator, maar een onderzoek op één miljoen menselijke Engelstalige teksten uit een verzameling van vóór 2022. Daarvan werden er 41 ten onrechte als AI aangemerkt. Ander onderzoek laat dan weer wel zien dat Pangram hier best robuust functioneert (oudere versies, dat wel).

Ik ben erg huiverig over AI-detectoren, omdat hun fouten grote impact hebben. Het systeem zegt “dit is met AI geschreven” en jij moet je concepten, tussenversies en schetsen gaan opduikelen. En dan moet je iemand die al denkt “AI slop prutser” gaan overtuigen dat je het wél zelf gemaakt hebt.

Op zich zijn deze getallen (en de focus op minimale vals positieven) veelbelovend. Je zou kunnen zeggen: we nemen dit als aanwijzing. We gaan dan weerwoord vragen van de auteur; laat maar zien hoe dit werk tot stand komt, onderbouw dat het eigen werk is. Misschien heeft hij zijn manuscript uitgebreid met AI laten redigeren, misschien is er een andere verklaring voor de uitslag. De organisatie hoeft niet blind op zijn ontkenning te vertrouwen, maar moet wel open staan voor de input.

Een reden om hier als jurist desondanks moeite mee te hebben, is dat dit geautomatiseerde besluitvorming is. Pangram zegt “dit is AI tekst” en we vragen de student te bewijzen van niet. Daar moet van de AVG dan betekenisvolle menselijke tussenkomst bij, en dat is meer dan een docent die er ook naar kijkt en zegt “ja, ik heb hier een neus voor, dit is AI”.

Bij zaken als niet-bestaande referenties is dat nog wel mogelijk, maar wat als het puur om stijl en taalgebruik gaat? Wat kun jij dan doen dat Pangram niet al deed, en hoe onderbouw je “volgens mij komt dit inderdaad uit AI” (behoudens de watermerken).

Dat laatste is ook weer van belang: bij geautomatiseerde besluitvorming heeft de student recht op uitleg. Waarom besloot het systeem dat deze tekst 95% AI was? Welke factoren wogen daarin mee? En kun jij dat duiden op een manier dat die uitleg beklijft?

Bovendien, wat moet die student dan laten zien? Ik begeleid regelmatig studenten die gewoon een Word-document openen, beginnen met typen en na een paar dagen hun eindversie inleveren. Ze bewaren geen aparte kladjes of schetsen, want waarom zouden ze? We leren ze ook niet dat ze dat moeten doen. En wat is eigenlijk een kladje bij een tekst? Een eerste alinea die je daarna volledig hebt herschreven? De drie steekwoorden waarmee je begon? Een gedachte die je onder de douche kreeg?

Neem deze blog. Stel dat Pangram concludeert dat deze volledig door AI is geschreven. Wat zou ik dan moeten overleggen om het tegendeel aannemelijk te maken? Ik heb een eerste versie geschreven en daarover met ChatGPT gediscussieerd. Dat leverde nieuwe argumenten en tekstvoorstellen op, waarvan ik sommige wel en andere niet heb gebruikt. Met deze conversatie kan ik een deel van dat proces reconstrueren. Maar die laat niet zien welke gedachten ik al eerder had, en bewijst ook niet wie iedere afzonderlijke formulering bedacht.

Wat mij stoort, is de eenzijdigheid. Zodra we AI-gebruik vermoeden, vallen grote woorden als fraude, gaan we streng voor de student zitten en verlangen we bewijs van eigen werk. Maar ondertussen leren we studenten nauwelijks hoe ze wél verantwoord met AI kunnen werken, waar de grens ligt tussen ondersteuning en uitbesteden, en hoe ze hun eigen bijdrage zichtbaar kunnen maken. We stellen steeds hogere eisen aan het bewijs van eigen werk, zonder het onderwijs daarop in te richten.

Als we mensen willen afrekenen op ongeoorloofd AI-gebruik, moeten we ze ook leren hoe geoorloofd AI-gebruik eruitziet.

Arnoud

Google haalt AI-functies uit betaald abonnement, maar waarom zou je dat moeten accepteren?

Geplaatst op in Ondernemingsvrijheid, 10 reacties
Photo by Gary Chan on Unsplash

Google gaat de toegang tot de geavanceerdere Pro-modellen van Gemini schrappen voor gebruikers van het AI Plus-abonnement, zo meldde Tweakers onlangs. Vanaf 13 november kunnen deze gebruikers alleen nog de eenvoudigere Flash-modellen gebruiken. Wie de Pro-modellen wil blijven gebruiken, moet overstappen van een abonnement van 5 euro naar eentje van 22 euro per maand.

Dat voelt toch merkwaardig. Je sluit een abonnement af voor een dienst met bepaalde functionaliteit, betaalt daarvoor en vervolgens besluit de leverancier die functionaliteit weg te halen. Bij een gekochte auto zou niemand accepteren dat de fabrikant na een paar maanden op afstand de stoelverwarming uitschakelt, met de mededeling dat je voortaan een duurder abonnement nodig hebt.

Toch lijkt dat bij digitale diensten de normale gang van zaken. Er verandert voortdurend van alles en wie daar niet van gediend is, kan opzeggen. Dat staat al sinds jaar en dag in de wet. Maar waarom kun je niet gewoon eisen dat Google levert wat je hebt afgesproken?

Sinds 2022 hebben we daarvoor specifieke wettelijke regels. Artikel 7:50al BW bepaalt dat een leverancier een digitale dienst tijdens de looptijd van een overeenkomst mag wijzigen, maar alleen als de overeenkomst die mogelijkheid biedt én daarvoor een gegronde reden noemt. Bovendien moet de wijziging kosteloos zijn en moet de consument behoorlijk worden geïnformeerd. Bij meer dan geringe negatieve gevolgen mag de consument de overeenkomst ontbinden.

Overweging 75 van Richtlijn 2019/770 geeft drie voorbeelden van geldige redenen:

  1. Aanpassing van de digitale dienst aan een nieuwe technische omgeving.
  2. Aanpassing aan een toegenomen aantal gebruikers.
  3. Andere belangrijke operationele redenen.
De eerste twee zijn specifiek, de derde is een open categorie. Ze worden voorafgegaan door de eis dat de overeenkomst zelf een geldige reden voor de wijziging geeft.

Wat maakt een reden “belangrijk operationeel”? Daarover zwijgt de wet. Gezien de andere twee voorbeelden lijkt het te moeten gaan om iets soort-van vereist, we kunnen niet anders dan dit aanpassen. Sterker nog, overweging 75 verduidelijkt waarom deze bevoegdheid er is:

Zulke veranderingen zijn vaak in het voordeel van de consument, aangezien zij de digitale inhoud of digitale dienst verbeteren.
De bevoegdheid is dus bedoeld voor situaties waarin de oude wijze van leveren niet meer goed werkt of niet meer van deze tijd is. Denk aan een navigatiedienst die overstapt van een website naar een native app, zodat routeaanwijzingen ook bij een vergrendeld scherm blijven werken. Of een klantenserviceportaal dat overstapt naar chat omdat er dan ook een spraakinterface mogelijk wordt.

Ik wil op zich “de dienst is commercieel niet meer haalbaar” nog wel onder dergelijke veranderingen rekenen, want je moet kunnen stoppen met diensten. Google komt daar echter niet, want ze leveren precies die functionaliteit nog wel aan andere klanten. Dus dan wordt het “het kan niet meer uit voor deze prijs”, en dat vind ik een stuk zwakker. Dat is je ondernemersrisico.

In Duitsland is in 2025 gevonnist dat een algemeen wijzigingsbeding bij Twitter ongeldig is, precies vanwege strijd met deze Europese regel. Helemaal geen redenen noemen is dus hoe dan ook problematisch.

Arnoud

Noorse AVG-toezichthouder legt Microsofts Xandr een boete van 8,5 miljoen euro op

Geplaatst op in Privacy, nog geen reacties
Photo by Jakub ?erdzicki on Unsplash

Het advertentiebedrijf Xandr, tegenwoordig onderdeel van Microsoft, heeft een AVG-boete van 92 miljoen Noorse kroon (zo’n 8,5 miljoen euro) gekregen wegens het verwerken van persoonsgegevens van gebruikers van datingapp Grindr. Dat meldde de Noorse privacytoezichthouder vorige week.

De zaak gaat over real-time bidding, oftewel het automatisch veilen van advertentieruimte. Als je een app opent, worden gegevens over jou naar advertentieplatforms gestuurd, waarna adverteerders in milliseconden bieden op de mogelijkheid jou een advertentie te tonen. Xandr verzorgde zulke veilingen voor onder meer de gay dating app Grindr. Daarbij werden gegevens zoals advertentie-ID’s, IP-adressen en de gebruikte app gedeeld met mogelijk duizenden bedrijven.

Bij Grindr is dat extra problematisch. De app richt zich voornamelijk op homoseksuele en biseksuele mannen, zodat het enkele gebruik al iets kan onthullen over iemands seksuele gerichtheid. Dat maakt deze informatie tot een bijzonder persoonsgegeven onder artikel 9 AVG, zo oordeelde de Noorse rechter al in de eerdere boetezaak tegen Grindr. Daarvoor hoeft niet vast te staan dat iedere gebruiker homoseksueel is. Hetzelfde zou overigens gelden voor een datingapp die zich specifiek op heteroseksuelen richt: ook heteroseksualiteit is een seksuele gerichtheid. Voor deze verwerking was dus uitdrukkelijke toestemming nodig.

Grindr had wel toestemming gevraagd, maar die voldeed niet aan de AVG. Daarvoor kreeg het bedrijf in 2021 al een boete van 65 miljoen kroon. Xandr stelde dat het erop mocht vertrouwen dat Grindr dit goed had geregeld. Sterker nog, in het contract stond zelfs dat Grindr geen bijzondere persoonsgegevens mocht aanleveren.

De toezichthouder ging daar niet in mee. Xandr was niet slechts een technisch doorgeefluik, maar mede-verwerkingsverantwoordelijke. Het bedrijf bepaalde zelf belangrijke onderdelen van de advertentieveilingen, waaronder de inrichting van het platform en de mogelijkheden voor het delen van gegevens. Daarmee bepaalde het mede doel en middelen van de verwerking.

En als je mede-verwerkingsverantwoordelijke bent, moet je zelf kunnen aantonen dat de verwerking rechtmatig is. Artikel 5 lid 2 AVG legt die verantwoordingsplicht bij iedere verantwoordelijke. Je mag prima afspreken dat een ander de toestemming vraagt, maar je moet wel vaststellen dat die toestemming geldig is en ook jouw verwerking dekt. Een contractuele garantie dat de ander zich aan de AVG houdt, is daarvoor niet genoeg.

Dit doet denken aan het IAB-arrest uit 2024, waarin het Hof van Justitie oordeelde dat ook de organisatie achter het technische raamwerk voor advertentietoestemming mede-verwerkingsverantwoordelijke kon zijn.

De consequentie voor de advertentie-industrie is fors. Het is niet genoeg dat een platform een vinkje ’toestemming verkregen’ ontvangt. Het moet ook kunnen vaststellen dat achter dat vinkje een rechtsgeldige toestemming zit. Als je systeem dat niet kan, kun je niet op basis van dat vinkje persoonsgegevens blijven verhandelen. Ook niet als iedereen in de keten contractueel heeft beloofd dat het wel goed zit.

Arnoud