Waarom is ransomware losgeld betalen eigenlijk niet strafbaar?

Geplaatst op in Regulering, 20 reacties

Een lezer vroeg me:

Zoals iedereen kan zien komt het steeds vaker voor dat organisaties worden getroffen door een ransomware aanval waarbij er losgeld moet worden betaald om weer toegang te krijgen tot de gegevens. Veel organisaties kiezen hiervoor omdat het in veel gevallen goedkoper is om te betalen, maar is dit eigenlijk niet tegen de wet? Er zijn toch strenge regels over “ongebruikelijk” betalingsverkeer en betalen aan verdachte landen?
Het is niet expliciet verboden om losgeld te betalen wanneer je data gegijzeld wordt. Nergens in het Wetboek van Strafrecht is bepaald dat dit niet mag.

Dat is hetzelfde als bij ‘gewone’ gijzeling, ook daar is nooit gezegd dat het verboden is de gijzelnemers te betalen. De reden is vrij simpel, de mensen die dat zouden doen zijn de slachtoffers, de mensen die onder extreme emotionele druk staan om hun geliefden terug te krijgen. Dat ga je niet strafbaar stellen.

Bij ransomware voelt het allemaal iets zakelijker, en het gemak waarmee de gijzelnemers optreden versterkt dat gevoel nog eens. Vaak gaat het om bedrijven of instellingen, niet om privépersonen, en om data die te backuppen was geweest (althans, zo lijkt het vaak). Dat maakt het een heel ander verhaal dan een miljonair wiens man of kind wordt ontvoerd en dreigingen over vermoorden ontvangt tenzij er wordt betaald.

Daar komt bij dat veel verzekeraars cyberverzekeringen verkopen waarbij schade door ransomware gedekt is. Dan krijg je helemaal het beeld dat een verzekeraar gewoon kan kiezen te betalen, omdat dat goedkoper is dan de data proberen te herstellen en de systemen schoon te schrobben. (Het risico blijft overigens dat er achterdeurtjes zijn blijven zitten, of dat de gijzelnemers later opnieuw betaald willen hebben, want waarom zouden ze dat niet doen.)

Desondanks is er op dit moment geen wet tegen. Er wordt wel met enige regelmaat voor gepleit, maar van een concreet wetsvoorstel is het (nog) niet gekomen.

Wel is het inderdaad zo dat een betaaldienstverlener zoals banken of Paypal ongebruikelijke transacties moeten melden, en dat dit kan leiden tot blokkades van bankrekeningen of audits van toezichthouders. Maar omdat losgeld vaak via bitcoin en dergelijk wordt betaald, valt dit vaak buiten dergelijk toezicht.

In theorie overtreed je overigens wel sanctiewetgeving als de gijzelnemers in een sanctieland zitten zoals Noord-Korea. Daar mag je geen zaken mee doen, en dus ook geen geld aan betalen. Maar ik heb dat altijd een ietwat overdreven interpretatie gevonden: losgeld betalen is geen “zaken doen”, nog los van dat je niet wéét waar de gijzelnemers zitten.

Arnoud

Hoe geautomatiseerd is de besluitvorming van Uber nu eigenlijk?

Geplaatst op in Privacy, 1 reacties

Vorige week verschenen drie uitspraken tegen Uber bv, waarin chauffeurs inzage in hun persoonsgegevens vroegen alsmede uitleg over de geautomatiseerde besluitvorming die het bedrijf zou toepassen. De uitspraken zijn fors en pittig, maar laten mooi zien hoe je als rechter de grenzen trekt tussen al dan niet toelaatbare besluitvorming.

De kern van het geschil werd veroorzaakt door deze passage in de privacyverklaring van Uber:

We use personal data to make automated decisions relating to use of our services. This includes: (…) Deactivating users who are identified as having engaged in fraud or activities that may otherwise harm Uber, its users, and others. In some cases, such as when a user is determined to be abusing Uber’s referral program, such behavior may result in automatic deactivation.”
Dit zagen we ook terug in de rechtszaken over de werknemer-status van chauffeurs; het geautomatiseerd gezag over personeel was een belangrijke factor. En het meer algemene punt is dat je niet zomaar geautomatiseerd gezag mag uitvoeren, dus op zijn minst moet je dan uitleggen wat je wel of niet automatisch doet.

In de eerste zaak ging het om de zogeheten “fraud probability score”, deel van het bedrijfsproces van Uber om frauderende chauffeurs tegen te gaan. Een voorbeeld daarvan is chauffeurs die via technische trucjes achterhalen welke bestemming een klant heeft voordat deze ingestapt is, zo kun je de weinig lucratieve ritjes mijden. Maar hoe komt die score tot stand, wanneer ben je een “fraudeur” volgens Uber? Maar helaas:

Bij toepassing van de ‘fraud probability score’ is sprake van profilering in de zin van artikel 4 onderdeel 4 AVG. Door geautomatiseerde verwerking van persoonsgegevens van [verzoekers] wordt immers een risicoprofiel opgesteld waarmee een voorspelling wordt gedaan over hun gedrag en betrouwbaarheid. [verzoekers] hebben evenwel niet gesteld en evenmin is gebleken dat op basis van dit risicoprofiel ten aanzien van hen geautomatiseerde beslissingen zijn genomen. De rechtbank gaat er daarom vanuit dat geen sprake is van geautomatiseerde besluitvorming in de zin van artikel 22 AVG.
Kennelijk wordt het profiel alleen gebruikt als stukje voorbereidende informatie voor menselijke fraudespeurders. We zien verderop een meer veelbelovende aanpak: ronkende persberichten dat Uber AI inzet om raar gedrag van chauffeurs op te sporen. Hoe meer geautomatiseerd dan een AI wil je het hebben? Maar wederom, helaas:
Volgens [verzoekers] volgt uit een persbericht dat het systeem is gebaseerd op kunstmatige intelligentie en ‘machine learning’. Daarmee is naar het oordeel van de rechtbank nog niet gezegd dat sprake is van geautomatiseerde besluitvorming zoals bedoeld in artikel 22 lid 1 AVG. Bovendien is daarvoor vereist dat ook sprake is van rechtsgevolgen of dat [verzoekers] anderszins in aanmerkelijke mate door het geautomatiseerde besluit worden getroffen. Een toelichting op dit punt ontbreekt.
Het gaat dus mis op de vraag wat er gebeurt met de uitkomsten van die automatische analyse. We zien dit ook terug in de tweede zaak, waarin het ging om je account kwijtraken wanneer Uber kennelijk automatisch concludeert dat je fraudeert.
Van een uitsluitend op geautomatiseerde verwerking gebaseerd besluit is sprake indien er geen betekenisvolle menselijke tussenkomst is in het besluitvormingsproces. In de Richtsnoeren is vermeld dat om daadwerkelijke menselijke tussenkomst te realiseren de verwerkingsverantwoordelijke ervoor moet zorgen dat al het toezicht op de besluitvorming zinvol is, en niet slechts een symbolische handeling vormt. Deze tussenkomst moet worden uitgevoerd door iemand die bevoegd en bekwaam is om het besluit te veranderen. Hij moet alle relevante gegevens in zijn analyse betrekken.
Uber blijkt zo’n menselijke tussenkomst wel te hebben: haar EMEA Operational Risk team. Die blijken de output van het automatische systeem te krijgen als signaal, en gaan dan met eigen indicatoren zoeken en vervolgens conclusies trekken. Dat is dus zeker geen geautomatiseerde besluitvorming, althans zo klinkt het niet. Ja, ik klink wat skeptisch maar dat is omdat ik gewend ben dat mensen vrij strak achter de indicaties aanlopen – als de computer zegt dat het een fraudeur is, dan zijn er vast indicaties te vinden die dat bewijzen, en dan zijn we er. Dit is niet hetzelfde als “eens zien of chauffeur X een fraudeur is”.

Wat wél automatisch gaat, is dat je account bevroren wordt totdat dat EMEA Operational Risk team haar onderzoek heeft afgerond, of op zijn minst tot jij contact opneemt:

Gelet op deze toelichting van Uber gaat de rechtbank ervan uit dat het besluit om de toegang tot de Driver app na een fraudesignaal tijdelijk te blokkeren automatisch, zonder menselijke tussenkomst, wordt genomen. Deze tijdelijke blokkade heeft echter geen langdurig of blijvend effect, zodat het geautomatiseerde besluit geen rechtsgevolgen heeft of de chauffeur in aanmerkelijke mate treft.
Een bekend probleem dat de rechter wél adresseert is dat er te weinig transparantie is. Waarom vond het algoritme dat deze chauffeur frauduleus zou handelen? Welke factoren wogen mee, wat is er gebeurd? En dan is “dat is bedrijfsgeheim” of “we willen fraudeurs niet wijzer maken dan ze zijn” geen argument onder de AVG.
Op basis van de informatie die Uber heeft gegeven kunnen zij niet controleren welke persoonsgegevens Uber heeft gebruikt in het besluitvormingsproces dat tot dit besluit heeft geleid. Hierdoor is het besluit tot deactivering van hun accounts onvoldoende inzichtelijk en controleerbaar. Dit heeft tot gevolg dat Uber aan [verzoeker 2] en [verzoeker 4] op grond van artikel 15 AVG inzage moet verstrekken in hun persoonsgegevens voor zover die ten grondslag hebben gelegen aan het besluit tot deactivering van hun accounts, op zodanige wijze dat zij in staat zijn de juistheid en rechtmatigheid van de verwerking van hun persoonsgegevens te controleren.
En in de derde zaak wordt de discussie over automatische besluitvorming eveneens afgewezen wegens een te beperkte onderbouwing van de eisende partijen. Wel interessant daar nog de vraag over inzage in je gegevens in een standaardformaat – de eisers wilden een CSV bestand, om zo zelf de data te kunnen onderzoeken (neem ik aan).

Dat is een recht als je persoonsgegevens opvraagt, wanneer die onder toestemming of uitvoering overeenkomst zijn verstrekt. Maar dat is meteen ook beperkt tot gegevens die jij dan verstrekt, niet over gegevens die het bedrijf zelf verzamelt of maakt op basis van wat je aanlevert. En daar gaat het dus mis, want de gevraagde gegevens voldoen niet aan deze beperkte eis.

Alles bij elkaar dus ben ik vooral teleurgesteld over de beperkt onderbouwde eisen, de uitspraken zijn zelf goed onderbouwd en bevestigen de lijn die we al zagen. Maar praktisch komen we niet héél veel verder zo.

Arnoud

T-Mobile deelde herleidbare locatiegegevens met CBS voor bouwen van algoritme

Geplaatst op in Ondernemingsvrijheid, Privacy, Regulering, 11 reacties

T-Mobile heeft jarenlang niet-anonieme gebruikersgegevens gedeeld met het Centraal Bureau voor de Statistiek, meldde Tweakers onlangs. Deze werden gebruikt om een algoritme te bouwen waarmee mensenstromen in kaart werden gebracht. NRC Handelsblad onderzocht een overeenkomst uit 2017 tussen de twee, waarbij het slechts „een pilot-project”, zou zijn waarbij alleen met „geanonimiseerde” gegevens zou zijn gewerkt. Dat blijkt dus niet waar, zo ontdekte de krant met een beroep op de Wet Openbaarheid van Bestuur, die daarmee een verontrustend inkijkje gaf in de manier waarop het CBS en T-Mobile met de privacy van bellers omgingen.

In 2017 ging het CBS een samenwerking met T-Mobile aan. Het doel was een algoritme ontwikkelen dat op basis van de locatiedata van één mobiele provider het mobiliteits- en verblijfsgedrag van Nederlanders kan meten. En dat noemen we dan wel “algoritme” maar het gaat natuurlijk om big data machine learning: gooi een grote bak met data in een opgevoerde versie van Excel en kijk hoe de grafiekjes lopen. En ja, dat werkt alleen met hele grote bergen data, en daarbij moet je per datapunt zo veel mogelijk informatie hebben. Het CBS aasde daarom niet alleen op telecomgegevens, maar ook op „data over betalingen” van banken en op andere informatie, wat je ‘verrijking’ kunt noemen of ‘datagraaien’ afhankelijk van aan welke kant je staat.

In het contract met het CBS staat dat T-Mobile „de methode voor het bepalen van locatiegegevens ook voor eigen doeleinden” mag gebruiken, „zowel tijdens als na de pilot”. Maar geen zorgen, „De data zijn zo privacygevoelig dat als er één partij vertrouwd kan worden om dit te analyseren … dan is dat het CBS”, aldus het businessplan.

En dan val ik van mijn stoel want dan blijkt men het verschil tussen pseudoniem en anoniem niet te kennen. Cruciaal, want de AVG is van toepassing op pseudonieme data – maar niet op anonieme. Dus wat krijg je dan, dat iedereen zegt dat de data anoniem is. Maar ik heb hier een AI die met 95% accuratesse voorspelt dat jouw data niet anoniem is maar alleen gepseudonimiseerd*. En ja hoor: “de unieke IMSI-nummers van mobiele toestellen zijn vervangen door andere nummers.” Dat is klassiek pseudonimiseren en nadrukkelijk niét anonimiseren. Ook niet als die andere nummers random zijn. Met de rest van de data is nog méér dan genoeg analyse te doen om over personen uitspraken te kunnen doen.

Gebruikers werden niet op de hoogte gehouden van de plannen. Wel werd de samenwerking besproken met de toezichthouders, maar daarbij werd niet verteld dat er toegang was tot niet-anonieme gegevens. Het Agentschap Telecom gaat, samen met de Autoriteit Persoonsgegevens, nu onderzoek doen naar het datadelen.

Arnoud * De AI zegt altijd “dit is pseudonimiseren” en dat klopt 95% van de tijd. Waar haal ik mijn VC funding voor deze GDPR Compliance Lawyerbot?

Mag je je klanten verbieden (met boete) je producten op Marktplaats door te verkopen?

Geplaatst op in Ondernemingsvrijheid, 33 reacties

Via Twitter: “Wist je dat als je de waterontharder Amfa4000, ja die van die irritante lifestyleprogramma’s, koopt en dan wil verkopen op marktplaats dat niet mag?” Of je nou consument bent of niet, het is kennelijk héél erg niet de bedoeling aldus dit bedrijf. Het mag niet, en het mag al helemaal niet als je het onder de aanschafprijs doet. Maar mag dát eigenlijk, doorverkoop verbieden van een tweedehands product?

Het doorverkoopverbod staat inderdaad in de algemene voorwaarden:

Het is de afnemer van producten van ondernemer, al dan niet zijnde een consument, niet toegestaan de afgenomen producten door/weder te verkopen op online platformen zoals Marktplaats, Bol.com, Amazon, etc., behoudens de voorafgaande schriftelijke toestemming van ondernemer. In aanvulling op de voorgaande volzin geldt een verbod voor het door-/wederverkopen van producten van ondernemer onder de prijs waarvoor ondernemer het product te koop aanbiedt op haar website (https://www.waterontharder.com).
En nog een forse contractuele boete er bij ook: 5.000 euro per geval, plus 500 euro per dag dat je er niet mee stopt. Dat kan flink oplopen natuurlijk, op papier. Maar inderdaad, papier is geduldig, houdt dit wel stand?

Voor mij voelt dit als stevige juridische bluf. Allereerst dat “al dan niet zijnde een consument”. Dus kennelijk ook consumenten mogen dit niet? Nou, vergeet het maar. Als je als consument iets koopt, behoor je de eigendom te verkrijgen. En de wet zegt dat dat “vrij van alle bijzondere lasten en beperkingen” moet zijn (artikel 7:15 lid 1 BW). Die voorwaarde hierboven is een bijzondere last, en moet er dus af.

En ja, er staat in dat artikel dan “met uitzondering van die welke de koper uitdrukkelijk heeft aanvaard” maar algemene voorwaarden zijn het tegenovergestelde van “uitdrukkelijk aanvaarden”. Dus dat gaat niet werken. Ik zou het hilarisch vinden als men nu een aanvinkvakje met “ik ga akkoord de afgenomen producten niet door te verkopen op straffe van een boete” gaat opnemen, dus laten we ze niet vertellen dat dat óók een algemene voorwaarde is omdat diezelfde tekst voor alle klanten gebruikt wordt. En “uitdrukkelijk aanvaarden” is precies niet hetzelfde als “verplicht een vinkje zetten.

Bij zakelijke overeenkomsten kan er meer, inclusief het verkopen met zo’n bijzondere last. In juridische taal, artikel 7:6 lid 1 BW bepaalt dat alleen bij consumentenkoop artikel 7:15 BW dwingend recht is. Dus het zou kunnen, net zoals je bij een zakelijke verkoop kunt zeggen dat het product zonder enige verwachting van conformiteit (art. 7:17 BW) geleverd wordt en men maar garantie moet bijkopen.

Alleen: een verbod op doorverkoop van goederen is natuurlijk best wel, hoe zeg je dat juridisch, een hardcore beperking van de vrije markt. Ja, dat is een juridische term: dat zijn de dingen die gewoon per definitie nóóit mogen in een afspraak tussen leverancier en zakelijke afnemer. Het dicteren van de doorverkoopprijs voor de afnemer hoort daarbij, net als het verdelen van de markt en het voor jezelf houden van de online wederverkoop. Daar is dan één nuance op, aldus de ACM:

Het verbieden dat de afnemer producten via een online marktplaats verkoopt om bijvoorbeeld het luxe imago van het product te beschermen is geen hardcore beperking.
Daarvoor moet dan wel het product een luxe imago hebben. Ik heb altijd moeite dat argument in te zien als de leverancier verkoopt vanuit <generiekwoord> puntcom, zoals hier. En meer algemeen, een luxe waterontkalker? Dat wil er bij mij niet in.

Arnoud

 

Kun je de stagiair aansprakelijk houden voor 600 te vervangen sloten?

Geplaatst op in Informatiemaatschappij, Privacy, 20 reacties

We kennen allemaal het stagiair-excuus: bij de meest uiteenlopende problemen (vaak de beschamende) wordt er dan gauw gezegd dat de stagiair het heeft gedaan. Lekker makkelijk, denk ik dan altijd, het is jóuw stagiair dus daar had je wel even mogen opletten. Maar bij dit Duitse geval weet ik het even niet. Deze stagiair was zo blij met zijn nieuwe werkplek dat hij trots via WhatsApp een foto stuurde naar zijn vrienden. Met de hoofdsleutel (loper) in zijn handen. En is dat een probleem? Eh ja, reageren nu alle securityminded lezers van deze blog: dan kunnen derden die foto gebruiken om de loper na te maken. Eh, echt, reageren nu de overige lezers. Ja, echt. En het ging hier om de hoofdsleutel van de gevangenis van Heidering (Duitsland).

Als je met een beetje recente smartphone een foto maakt, staat die standaard op een enorm aantal megapixels ingesteld. Deel je dat dan via WhatsApp of ander medium, dan gaan al die megapixels mee ook al toont je scherm maar een 13×5 centimeter versie. Maar 8 megapixels is bijvoorbeeld al tot 90×60 centimeter nog perfect op een poster te drukken, en met een béétje pixels dus meer dan een vierkante meter.

Zo’n formaat is méér dan genoeg voor een reproductie in een 3d printer, waar de app KeyMe reclame voor maakt. Of zoals hier met gewoon ouderwets knutselwerk en een blanco sleutel. Menig slotenmaker waarschuwt dan ook tegen het publiceren van zulke foto’s. (Oh ja, ook omdat veel eenvoudige sloten een genummerde sleutel hebben die je gewoon kunt bijbestellen.)

Omdat het hier gaat om de hoofdsleutel van een gevangenis, wil je geen risico lopen. Alle sloten vervangen dus, en dat is een dure grap: volgens experts kost zo’n omvangrijke operatie ongeveer 50.000 euro. Wat ik wel wil geloven, hoewel ik me wel af zit te vragen waarom juist in een gevangenis sleutels worden gebruikt die kennelijk zo makkelijk te kopiëren zijn. Er zijn immers ook beveiligde/gecertificeerde sloten, die bijvoorbeeld een chip van binnen hebben of aan twee kanten aparte patronen hebben. En dan is een foto van één zijde niet genoeg.

Afijn, de juridische vraag was dus of de kosten verhaald kunnen worden. Dat lijkt me sterk. Werknemers – en stagiairs rekenen we voor het gemak daaronder als dat zo uitkomt – zijn in principe namelijk gewoon niet aansprakelijk voor hun fouten, dat is de werkgever. Slechts bij opzet of bewuste roekeloosheid is verhalen mogelijk, en dat is een héle hoge lat. Bewust roekeloos is het juridisch gezien pas als je wist van het risico maar dacht dat de kans aanzienlijk groter was dat er niets zou gebeuren (Pollemans/Hoondert, voor de juristen). De werkgever moet minimaal kunnen aantonen dat objectief gezien de werknemer zich daadwerkelijk bewust moest zijn van het roekeloze karakter (Dieteren/Express).

Dat argument zie ik hier niet opgaan. Weliswaar wordt er dus op allerlei plekken gewaarschuwd voor dit risico, maar ik heb desondanks niet het idee dat ‘men’ in het algemeen dit weet, en dat is zo ongeveer wel wat je nodig hebt. Ik ken iemand die een tijdje de gewoonte had om bij Instagramfoto’s van sleutels bij nieuwe woningen (“Yesss op mezellef”) daar een 3d printje van op te sturen als waarschuwing. Maar dat werd nooit ontvangen als “oh ja da’s waar ook, slordig van me”.

Dit nog even los van het idiote idee dat een stagiair 50.000 euro heeft of dat iemand ermee geholpen is dat een stagiair jarenlang gaat betalen om dit goed te maken.

Arnoud

Anti-embed trucjes hebben auteursrechtelijke kracht gekregen van het Hof van Justitie

Geplaatst op in Intellectuele rechten, 30 reacties

Het embedden of framen van andermans werk in je eigen site is tegenwoordig ook al auteursrechtinbreuk, althans soms. Dat maak ik op uit een recente beslissing van het Hof van Justitie (C-329/19) over een zaak waarbij foto’s van kunstwerken werden geëmbed. Het is dus niet, zoals Mr het samenvat, dat je mag beslissen of je wordt geframed. Pas als je dat besluit kracht bijzet met een technische blokkade en die wordt omzeild, dán heb je een auteursrechtelijk punt.

De zaak speelde tussen de Duitse CBO voor beeldende kunst (VG Bild-Kunst) en een stichting voor Pruisisch Kunsterfgoed (SPK). Die laatste beheert een digitale bibliotheek, waarbij thumbnails doorlinken naar het oorspronkelijke (gedigitaliseerde) werk op de site van de eigenaren. De VG Bild-Kunst wilde namens haar leden toestaan dat ook hun kunst werd gedigitaliseerd, maar wilde daarbij niet dat de thumbnails door derden konden worden geëmbed. Zij eisten in de licentieovereenkomst dan ook een plicht om dit technisch te blokkeren.

SPK was het hier niet mee eens, omdat een dergelijke contractuele bepaling uit auteursrechtelijk oogpunt niet redelijk was. Embedden mag immers van het Svensson-arrest, dus hoezo moet SPK dat dan verhinderen? Die redelijkheid is van belang, omdat een collectieve organisatie zoals de VG geen onredelijke voorwaarden mag stellen. Dat leidde tot de stap naar het Hof van Justitie, die nu concludeert dat je zo’n eis wél mag stellen.

Inderdaad zegt Svensson dat je een legaal gepubliceerd werk mag embedden, framen of hotlinken (hoe je het maar noemt) zonder nadere toestemming van de rechthebbende. Die heeft het immers op internet gezet en daarmee aan heel internet beschikbaar gesteld. Niet alleen aan de directe bezoekers van de bronsite.

Alleen: in Svensson stond ook iets over het omzeilen van beschermingsmaatregelen. Dat las ik dus altijd als “het omzeilen van een betaalmuur”, zoals door het erbij geven van wachtwoorden of het spoofen van sessiecookies of dergelijke randzaken. Maar het Hof doet ineens een zijstap naar de “doeltreffende technische voorzieningen” die je niet mag omzeilen (artikel 29a Auteurswet, de DRM-bepaling) en concludeert nu dat iédere dergelijke voorziening die je op een bronwerk plakt, er voor zorgt dat je het niet meer mag embedden – die maatregel omzeilen is dan auteursrechtinbreuk.

Voor de webbouwers onder ons, het gaat dus inderdaad om maatregelen van het niveau “met Javascript top.location = self.location.href uit een frame springen” of via een Referer-check constateren dat een afbeelding niet door je eigen webpagina wordt opgehaald. Deze trucs hebben nu dus juridische backing gekregen: wie deze trucs omzeilt, schendt het auteursrecht met wat de herpublicatie is geworden van de geëmbedde werken.

Als troost zegt het Hof dan nog wel dat de rechter wel moet checken of de maatregelen “doeltreffend” zijn. Simpeler trucs (zoals een mededeling “u mag niet embedden” na een rechtermuisklikpopup of in de algemene voorwaarden) gaan dus niet op.

Krijg je meteen de vraag, wat in de vredesnaam is een “doeltreffende” maatregel. Daar is al discussie over sinds artikel 29a er is, en we lijken er nog steeds niet uit te zijn. In een Finse zaak (DeCSS) werd in hoger beroep gezegd dat een maatregel niet meer “doeltreffend” is als je er geen speciale software of trucs voor nodig hebt. Kan iedereen het met algemeen beschikbare standaardsoftware, dan is het niet meer doeltreffend.

Daar valt wat voor te zeggen, alleen hoe trek je dan de grens van “algemeen beschikbaar”? Is een Ubuntu-pakket dat je met één commando installeert al “algemeen beschikbaar”, of moet het in de distributie zitten? En is Ubuntu dan bekend genoeg of moet het Windows zijn?

En hier belangrijker: hoe pakt dat uit bij het embedden van afbeeldingen, zoals in deze zaak? Het omzeilen van zo’n referer check is net zo triviaal als de check zelf (yourRequest.setHeader();met de beoogde waarde), dus om nou te zeggen dat dit heel doeltreffend is, ik weet het niet. Daar staat tegenover dat je dit alleen doet omdat je last hebt van die blokkade, wat je kunt opvatten als “je wéét dat de eigenaar dit niet wil en dat ben je nu aan het omzeilen”. Maar dat betekent juridisch volgens mij niet meer dan dat het een maatregel is, niet dat die doeltreffend is. Een grote popup met “magniet!!1!” geeft je immers dezelfde informatie maar is zeker weten niet doeltreffend.

Arnoud

EU gaat Apple aanklagen voor overtreden antitrustregels met App Store

Geplaatst op in Ondernemingsvrijheid, 5 reacties

De Europese Commissie is bijna klaar met het antitrustonderzoek naar Apple en gaat het bedrijf aanklagen voor het overtreden van deze regels. Dat meldde Tweakers op gezag van Reuters. En daarin kwam een interessante vraag langs in de discussie:

De wet zegt, bij mijn weten, dat je veel macht moet hebben, maar in Europa heeft Apple niet een monopolie of het grootste aandeel in besturingssystemen op smartphones. Android is groter. Android is ook open, maar omdat Apple niet de grootste is en geen monopolie heeft, hoeven ze toch ook niet meer open te zijn?
Dat is een hele scherpe vraag, die raakt aan de kern van het mededingingsrecht. Het komt erop neer dat je geen misbruik mag maken van een dominante positie in een markt. Er zijn dus altijd drie vragen:
  1. Wat is de markt
  2. Hoe dominant/zwaarwegend ben jij in die markt
  3. Is wat jij doet misbruik of gewoon gebruik
Enkel percentages is dus niet relevant. Als het bijvoorbeeld zo is dat iedereen slaafs Apple volgt met features, prijzen et cetera, dan zou zijn met een 25% marktaandeel echt dominant zijn. Want dan is ze marktleider en dus dominant door haar leidend voorbeeld.

Op de markt voor smartphones heeft Apple geen enorm aandeel, Android is vele malen groter qua aantal telefoons met dat OS erop. Maar Apple is wel zeer bekend en zeer gewild, dat geeft dan een extra stukje macht, een powerup als het ware. Ook kun je zeggen, het gaat niet om smartphones an sich maar om high-end smartphones en in dat segment verkoopt Apple meer.

De discussie gaat verder vooral over de vraag of dit gewoon iets is dat Apple kan doen, of dat het misbruik. Het argument voor misbruik is dan hier omdat Apple zelf ook een muziekdienst heeft, die ze zo goedkoper kan insteken. Naast dat ze Spotify een stukje winst afpakt (want die 30% komt uit de omzet, niet uit de winst) en zo de concurrent pijn doet.

Arnoud

Google gaat individuele identifiers van adverteerders blokkeren

Geplaatst op in Ondernemingsvrijheid, Privacy, 5 reacties

Google wil binnen een aantal jaar stoppen met het individueel volgen van gebruikers, las ik bij Tweakers. Google wil alle unieke identifiers blokkeren, zowel van het bedrijf zelf als van adverteerders. “People shouldn’t have to accept being tracked across the web in order to get the benefits of relevant advertising”, aldus de toelichtingsblog van Google. Toch blijven er volgens Google manieren waarop websites gericht kunnen adverteren. Het bedrijf noemt ‘vooruitgang in aggregate, anonimisatie, on-device-verwerkingen en andere privacybehoudende technologieën’. Ik ben erg benieuwd.

Als je één bedrijf moet noemen dat je continu volgt, dan zullen veel mensen Google noemen. De stap voelt dan ook raar en onverwacht, en het bedrijf zal er zeker goede PR garen bij spinnen: kijk ons eens ineens pivotten naar een privacyvriendelijke webbelevenis. Maar de grap is natuurlijk dat Google dit soort tracking helemaal niet meer nodig heeft, ze kan met contextual advertising al meer dan genoeg mensen passende advertenties voorschotelen. Het zijn dus vooral Google’s concurrenten die hier last van gaan krijgen.

Daar komt bij dat Google ook een nieuwe technologie heeft ontwikkeld waarmee het beheren van persoonsinformatie privacyvriendelijker wordt. In de kern wordt alle data op de eigen computer geladen en in een machine learning model gevoegd. Data van andere mensen wordt op een privacyvriendelijke (want geanonimiseerde) manier gedeeld, zodat iedereen zijn of haar eigen profiel kan verrijken zonder dat ergens centraal álle gegevens (of zelfs maar de gegevens per cohort) beschikbaar zijn. Het is vrij nieuw, maar al getest met het Android-toetsenbord Gboard en lijkt te werken zoals beloofd.

In theorie wordt dit zelfs een open standaard, zodat concurrenten het ook over kunnen nemen. Maar de marktmacht van Google blijft wel zo groot dat het lange tijd vooral dit bedrijf een groot voordeel zal opleveren. En dat maakt het zorgelijk, ondanks de belofte van meer privacy en bescherming van persoonsgegevens.

Arnoud

Onderzoek legt privacyrisico’s bij Google-diensten in het onderwijs bloot

Geplaatst op in Ondernemingsvrijheid, 20 reacties

Het gebruik van Google Workspace in het onderwijs brengt vermijdbare privacyrisico’s voor leerlingen en studenten met zich mee. Dat meldde Nu.nl onlangs, op basis van onderzoek van de Hogeschool van Amsterdam (HvA) en Rijksuniversiteit Groningen (RUG) en een bijbehorende Kamerbrief hierover. De kern is dat wanneer je deze dienst afneemt, Google zelfstandig beslist wat zij met metadata doet – en daarmee dus geen volwaardige verwerker is. Ook zit je natuurlijk met het punt van Amerikaanse verwerking. Wat betekent dit nu voor de praktijk?

In de Kamerbrief staat de kern van de materie als volgt omschreven:
Google heeft als standpunt dat zij zichzelf als enige verwerkingsverantwoordelijke ziet voor metadata. Dit betekent dat zij mag bepalen voor welk doel zij metadata verzamelen en op welke manier dat gebeurt. Ook heeft Google in de privacyovereenkomsten opgenomen dat zij de voorwaarden rondom metadata eenzijdig mag aanpassen, zonder de gebruiker om toestemming te vragen.
De term metadata verwijst naar data over de echte data, in dit geval data over studiegedrag en gebruiksgedrag van de dienst. Dat is vaak waardevoller dan die echte data. Het zal Google een zorg zijn wat er op de slides staat, maar weten dat studenten gemiddeld tussen 20.53 en 02.20 inloggen om studiemateriaal te consumeren, dát is waardevol. En dan kan ze nog zo mooi zeggen dat “we nooit klantgegevens of servicegegevens (zoals gebruikersactiviteit) gebruiken voor advertentie-targeting”, die gegevens gaan ergens het zwarte gat in dat je Googleprofiel heet. En dat mag niet.

Het probleem is natuurlijk dat dat niet hoort; als je een verwerker bent dan ga je geen eigen dingen met data doen, ook niet met afgeleide data of metadata die je krijgt bij zo’n dienst. Maar het is ook weer heel logisch dat Google dat doet.

De vraag is nu bij de AP neergelegd hoe verder. Normaal zou je na het constateren van zo’n hoog risico in je DPIA een voorafgaand advies vragen (en wachten tot dat er is) maar dat kan niet omdat het onderwijs al op grote schaal draait op Google. De pragmatische oplossing is dus doorgaan tot er duidelijkheid is.

Nadeel hiervan is wel dat er een reële kans is dat de AP zegt dat dit niet kan, en dat onderwijsinstellingen weg moeten bij deze dienstverlener. Alsof de ICT’ers hier nog niet genoeg aan hun hoofd hebben, meelezende onderwijs-ICT-mensen u heeft mijn sympathie.

Arnoud

Ombudsman: overheid moet burger bij gebruik algoritmen centraal stellen

Geplaatst op in Informatiemaatschappij, Innovatie, 4 reacties

Bij het gebruik van data en algoritmen moet de overheid burgers centraal stellen, aldus de Nationale ombudsman die hiervoor een ombudsvisie ontwikkelde (via). Onder de titel “Een burger is geen dataset” dringt de ombudsman aan op transparantie, duidelijkheid en bereikbaarheid bij problemen. Je zou zeggen dat dit voor zich spreekt bij inzet van algoritmes, maar nee.

Ik weet niet meer waar ik het las, maar de quote was iets van “inzet van algoritmes is de ultieme bureaucratie”. En bureaucratie is dan weer de poging om de menselijke maat uit procedures te halen, wat op zich een loffelijk streven is om te voorkomen dat je vriendjespolitiek (cliëntelisme) en voortrekken of achterstellen krijgt. Als iedereen gereduceerd wordt tot een formulier, dan is iedereen gelijk. En dat geldt in het kwadraat natuurlijk voor reductie tot een datapoint in een AI systeem.

Daar staat tegenover dat een bureaucratie – en zeker de AI, oftewel de datagedreven bureaucratie – over het algemeen keihard is voor wie niet past op het formulier, of wie het vakje “bijzondere omstandigheden” zocht dat er niet bij bedacht was. Bij een gewone bureaucratie heb je dan nog de menselijke maat, je kunt de behandelende ambtenaar iets vragen of een indringend beroep doen bij de menselijke bezwaarcommissie. Een AI is daar in het geheel niet gevoelig voor. En dat is een groot probleem bij algoritmen in overheidsprocessen.

Een belangrijk aspect van deze problemen is volgens mij dat een algoritme al snel groeit boven het zicht van de ontwerpers. Een erin geslopen bias komt pas vele jaren later naar boven, een procedurele fout is niet zichtbaar omdat het een zeldzame uitzondering is, en ga zo maar door. Ondertussen is het systeem erg populair – want effectief – en wordt het breed ingezet.

Ik ben bang dat ik weer een nieuw mantra ga beginnen, maar: it’s the data, stupid. Ik zou er een lief ding voor over hebben als we voortaan spreken van datagedreven beslissen in plaats van “algoritmen”. Die algoritmen zijn standaard, off the shelf, niet interessant. Die zoeken patronen in je data en maken daar beslissingen mee. Je moet dus kunnen borgen dat je data goed is. En afgezien van mooie woorden over data governance komt er eigenlijk niets daarvan naar voren. Jammer.

Arnoud