Gebruikers van Instagram en Facebook moeten meer controle krijgen over de inrichting van hun tijdlijn. Dat meldde Nu.nl onlangs. Het gaat specifiek over het moeten onthouden van de keuze van de volgorde waarin berichten worden getoond, iets dat Meta momenteel niet doet.
De zaak was aangespannen door digitaleburgerrechtenorganisatie Bits of Freedom. Zij kan onder de wet rechtszaken voeren namens haar achterban in brede zin, en daarbij vorderen dat organisaties aanpassingen doorvoeren of ergens mee stoppen (maar geen schadeclaims).
In dit geval ging het om wat het vonnis “aanbevelingssystemen” noemt, zeg maar je feed met berichten. Vroegâh was dat simpel omgekeerd-chronologisch: de nieuwste eerst. Nu gebruikt men termen als “for you”, “Most relevant” of “hot” en moet je maar hopen dat je alles ziet dat je wil zien.
Al in 2022 was dit een ding, vandaar dat de Digital Services Act (DSA) hier eisen aan stelt. De hoofdregel is artikel 27 lid 3 die voor alle platforms geldt (dus ook de niet-VLOPs):
Wanneer krachtens lid 1 verschillende opties beschikbaar zijn voor aanbevelingssystemen die de relatieve volgorde bepalen van de informatie die aan afnemers van de dienst wordt getoond, stellen aanbieders van onlineplatforms tevens een functionaliteit ter beschikking die de afnemer van de dienst de mogelijkheid biedt zijn voorkeursoptie te allen tijde te selecteren en te wijzigen.Oftewel je moet de door jou gewenste optie voor de volgorde kunnen maken en behouden. Het ging dan met name om deze vervolgzin:
Deze functionaliteit is rechtstreeks en gemakkelijk toegankelijk op het specifieke gedeelte van de online-interface van het onlineplatform waar aan de informatie prioriteit wordt gegeven.Ben je wél een VLOP (een zeer groot platform, zoals Facebook en Instagram dus) dan voegt artikel 38 toe dat er ten minste één optie moet zijn die niet gebaseerd is op jouw voorkeuren (profilering). En meer algemeen mogen platforms gebruikers niet misleiden of zodanig beïnvloeden dat ze niet meer vrijelijk kunnen kiezen wat ze doen met de dienst (artikel 25, de dark patterns in online interfaces).
Hoe werkt dat wijzigen van de volgorde in Instagram nou?
Ten aanzien van Instagram wordt als volgt geoordeeld. Op de startpagina van Instagram (iOS-app en website) en in de opmerkingensectie van Instagram (iOS, Android en website) kan de gebruiker rechtstreeks klikken of drukken op “Voor jou” en daarmee het aanbevelingssysteem wijzigen naar een chronologische feed (“Volgend”). Daarmee staat gebruikers een rechtstreeks en gemakkelijk toegankelijke functionaliteit ter beschikking, conform artikel 27 lid 3 DSA.
Maar dat gaat mis bij de Android-app:
Dit geldt niet voor de startpagina van Instagram op de Android-app. Daar kan de keuze voor een chronologische feed op de startpagina enkel worden gemaakt door op het Instagram-logo te klikken of drukken. Het wordt de gebruiker op geen enkele manier duidelijk gemaakt dat deze functionaliteit achter het logo verscholen zit, zodat deze niet rechtstreeks en gemakkelijk toegankelijk is.
Ook bij de Reels-sectie doet zich dit probleem voor: daar zit de functionaliteit verborgen achter de tekst “Reels”.
Zodra de gebruiker ‘swipet’ naar een volgende reel verschijnt de functionaliteit weliswaar alsnog, maar geoordeeld wordt dat dit niet voldoende rechtstreeks en gemakkelijk toegankelijk is. Van gebruikers wordt op deze manier immers gevergd dat zij voor het selecteren van een niet-geprofileerd aanbevelingssysteem ogenschijnlijk willekeurige handelingen uitvoeren die niets met het instellen van een aanbevelingssysteem te maken hebben (het klikken op de tekst “Reels” of het swipen naar een volgende reel).
Bij de Facebook-app gaat het ook mis:
Om het aanbevelingssysteem van de startpagina in de apps en/of website te wijzigen naar een chronologische weergave, moet een gebruiker eerst navigeren naar “Menu” en vervolgens naar de submenu’s “Instellingen” en “Voorkeuren”. De functionaliteit is aldus niet toegankelijk op het specifieke gedeelte van de online-interface van Facebook waar aan de informatie prioriteit wordt gegeven (de startpagina). Uit de naam van deze (sub)menu’s blijkt bovendien niet dat gebruikers via deze route kunnen kiezen voor een niet-geprofileerd aanbevelingssysteem op de startpagina. De functionaliteit is dus ook niet rechtstreeks en gemakkelijk toegankelijk.
Dit moet dus anders. Minstens zo irritant is dat de apps deze keuze niet persistent onthouden maar slechts zolang de gebruiker op dat specifieke onderdeel blijft. De rechtbank ziet niet letterlijk in artikel 27 of 38 een plicht om die keuze te onthouden, maar concludeert dat het niet onthouden van zo’n instelling geldt als een verboden dark pattern onder artikel 25:
Aannemelijk is dat deze praktijk tot keuzemoeheid van gebruikers leidt en daarmee een wezenlijke verstoring vormt van de autonomie van de gebruikers van Facebook en Instagram. Deze functionaliteit van de platforms betreft dan ook een door de DSA verboden donker patroon.
Wie nu denkt “tjeetje maar dat had Meta toch nooit kunnen bedenken, zulke vage termen”: in overweging 67 staat letterlijk dat “een afnemer van de dienst herhaaldelijk vragen een keuze te maken indien hij die reeds heeft gemaakt” per definitie een dark pattern is.
Een aanverwante tjeetje is het zielig doen van de Director of Product Management, namelijk dat zij onmogelijk binnen twee weken uitvoering kan geven aan deze bevelen, omdat dit ingrijpende wijzigingen voor haar platforms behelzen, waarvan implementatie ten minste zes tot twaalf maanden zal duren.
De rechter vindt dat gelukkig onzin: het gaat alléén over het onthouden van de sorteerinstelling van de feed, niet om een volledige overhaul van de gehele UI. Dat moet lukken binnen twee weken, op straffe van een dwangsom van een ton per dag gemaximeerd op 5 miljoen euro.
Uiteraard gaat Meta in hoger beroep, maar de uitspraak is uitvoerbaar bij voorraad en moet dus ook dan gewoon worden opgevolgd. Ik ben benieuwd, zei hij cynisch.
Arnoud
Helemaal eens met de rest, maar: “Menu” en vervolgens naar de submenu’s “Instellingen” en “Voorkeuren”. Dat is toch niet te veel verstopt? Precies de plaats waar ik het zou verwachten. Althans bij 1x instellen ipv. elke keer opnieuw.
… ware het niet dat ik die instelling helemaal niet heb. Ook niet als ik in de instellingen zoek op chronologisch. A/B-test? Of is de optie er niet als je zoveel als mogelijk hebt geweigerd en/of geblokkeerd?
Waar zes tot twaalf maanden onzinnig klinkt, kan zonder details te kennen twee weken toch erg kort zijn. Voor een wereldwijd draaiend systeem is dat vast niet 1 bitje omzetten. Maar ik mag hopen dat er al een noodprocedure bestaat om tenminste security vulnerabilities zsm op te lossen.
Het opslaan van dat extra bitje zou in een dag geprogrammeerd moeten kunnen zijn. Dat kan over alle platforms parallel gebeuren als Meta een dozijn programmeurs of meer in dienst heeft.
Formeel wil je het ook nog testen voor je alles uitrolt, maar ik zie geen reden waarom testplan maken en test uitvoeren gezamenlijk meer dan twee dagen (per platform) zou moeten duren. Ook hier kan testen over alle platforms parallel gebeuren.
Ik geef toe dat de Nederlandse rechter hier de software-ontwikklings-planning van Meta voor een dag of zo verstoort; maar dat is overkomelijk.
Reken maar dat deze optie allang gebouwd is.
Wel als je dit iedere keer als je die pagina opent opnieuw moet instellen.
Voor Facebook? Op de website moest ik ook even zoeken (ik heb de chronologische URL gebookmarked), maar: – Menuknop rechtsboven (naast de DM-knop) – Dan kiezen voor ‘Feeds’
Zonder de omschrijving eronder valt uit ‘Feeds’ echt totaal niet te halen dat het chronologisch is.
Overigens
Ik heb de indruk dat die Director of Product Management met zijn zes tot twaalf maanden aanzienlijk overvraagd heeft. Hoe groot achten jullie de kans dat de rechter met een verzoek om vier weken implementatietijd te geven meegegaan was?
Vier weken zou niet onredelijk zijn, dat moet genoeg tijd zijn om zo’n eenvoudige feature via het regulier proces te maken en testen. Dat verhaal met “ingrijpende wijzigingen” is natuurlijk absolute B.S, dus ik ben blij dat de rechter dat terzijde heeft geschoven. Het is nu natuurlijk wel te laat om te vragen om vier weken; je kan niet eerst met grote stelligheid beweren dat het een ingrijpende wijziging is waar je 6 tot 12 maanden voor nodig hebt, om vervolgens te zeggen dat het wel kan in vier weken. Dan laat je te duidelijk zien dat je vraag om 6 tot 12 maanden alleen diende om langer geen uitvoering te hoeven geven aan het vonnis.
Ik denk dan ook dat ze het niet gaan doen en gewoon die 5 miljoen gaan betalen. Er is blijkbaar een commercieel belang bij deze manier van de feed sorteren, anders hadden ze de mogelijkheid die voorkeur op te slaan al langer geleden geimplementeerd. Het is namelijk geen hele rare of nieuwe feature, het feit dat het nu niet kan is voor mij een duidelijk signaal dat ze heel bewust die feature niet hebben.
Dat vind ik het enige jammere aan deze uitspraak; ik had graag gezien dat die dwangsom na vier weken 10 miljoen per dag zou worden zonder maximum, en dan na twee maanden 100 miljoen per dag of zo (geen idee of dit juridisch mogelijk is). In elk geval bedragen waarvoor ze iets gaan doen, 5 miljoen is iets als een kwart promille van de netto kwartaalwinst (kwartaalwinst tweede kwartaal 25 was 18.3 miljard. Dit is de winst, niet eens de omzet); het is zo weinig dat het in de kwartaalcijfers niet eens te zien is. Domweg de uitspraak negeren en 5 miljoen aftikken is dan denk ik ook wat ze in eerste instantie zullen gaan doen, waarbij ze die 6 tot 12 maanden als mogelijke reden zullen aanvoeren.
Er zijn niet veel organisaties die een dwangsom van de rechter zomaar naast zich neer leggen. Nederlandse rechters vinden dat niet leuk en als Meta niet aan het vonnis voldoet kan er in “ronde 2” zo een nulletje aan de dwangsombedragen worden toegevoegd.
Dat betekent wel dat we tenminste 14 + 50 dagen, ruim twee maanden, verder zijn en moet er weer een dagvaarding opgesteld worden… reken drie tot vier maanden. Als Mets echt geïnteresseerd is om zo door te gaan, zitten we volgend jaar wel aan de 100 miljoen per dag. En mag Meta “genieten” van de ondertussen verworven reputatie.
Ze gaan ook niet zeggen dat ze de uitspraak naast zich neer leggen, natuurlijk “nemen ze die heel serieus”, op dezelfde manier als waarop ze zeggen het beschermen van jouw persoonsgegevens “heel serieus” te nemen. Maar ze gaan alle mogelijke juridische truucs uit de kast trekken om het moment waarop ze die aanpassing daadwerkelijk moeten doen zo lang mogelijk vooruit te duwen. Ze kunnen ook niet eerst beweren minimaal 6 maanden nodig te hebben om het vervolgens alsnog in twee weken te doen, dat vinden rechters ook niet leuk. Ik reken dus echt op minimaal 6 maanden aan juridisch getouwtrek zonder daadwerkelijke aanpassing.
Elke twee weken verdubbelen, zonder maximum, en uiteindelijk zou het gewoon mogelijk moeten zijn om de hoogste baas in Nederland hiervoor in het gevang te gooien (helaas missen we hier de Angelsaksische effectiviteit van “minachting van het hof” in dit soort gevallen).
Liever: elk sociaal netwerk zou niet meer dan 10% van de populatie mogen bedienen. Wordt het groter, dan verplicht splitsen in twee onafhankelijke bedrijven, waarbij wie bij de ene en wie bij de ander komt random gekozen wordt.
Nog liever: iedereen host gewoon zijn eigen dingetjes thuis op zijn eigen NAS en deelt dat gewoon lekker zelf met wie hij wil, en software die runt bij de anderen (“volgers”) maakt daar een mooie mash-up van, geheel onder controle van de persoon die die software draait.
Je omschrijft nu wel net de eigenschap van sociale media (het netwerkeffect) waardoor > 10% een beetje een vereiste is.
Ik heb liever dat bedrijven worden gedwongen tot correct en binnen de regelgeving werken dan dat er continu wel/niet een splitsing boven ze hangt.
Ik denk dat je hier de schaal van grote apps en diensten onderschat. Volgens mij heeft Meta zo’n drie miljard gebruikers en de App Store ondersteunt volgens mij geen verschillende executables per land, al zullen ze het alleen in Nederland activeren lijkt me. En er zijn ongetwijfeld vele afhankelijkheden in zo’n app. En dan hebben we het nog niet eens over Apple’s keuringsbeleid. Dat duurt volgens mij al vaak genoeg langer dan twee weken. Dit soort schaal maakt dingen gewoon complex.
Het is een beetje hetzelfde als je verbazing uitspreken over dat een volledige IT migratie bij een ministerie niet binnen een dag kan, terwijl jij zelf wel in een dag over bent gegaan van Google naar Proton. Waarom zij dan niet? Ze krijgen er zelfs nog voor betaald ook!!1 Zie ook de problemen bij de Belastingdienst, waar zij (helaas noodzakelijkerwijs) terecht ruime implementatietijd voor krijgen.
Over de rest van de uitspraak heb ik geen sterke mening, maar ik vind dit onderdeel wederom blijk geven van een fundamenteel onbegrip van hoe de wereld werkt. “technisch triviaal en organisatorisch verwaarloosbaar” volgens de BoF en de rechter, ongetwijfeld opgeschreven door een expert die zelf een dienst beheert met miljarden gebruikers… Echt ongelofelijk
Hallo Bert. Hoeveel waarde moet een rechter aan de uitspraken van een Meta Directeur hechten, als er geen onderbouwing bij die uitspraken zit? Heeft Meta ook zes maanden nodig om beveiligingsfixes door te voeren? (Ik geloof best dat de “officiële” procedures voor functionele wijzigingen bij Meta maanden kunnen duren, maar dingen die Mark graag wil komen sneller.)
De rechter zegt: doe het snel. En als dat echt niet binnen twee weken kan, dan sluit Meta toch Facebook, Instagram en WhatsApp af voor Nederland voor die zes maanden die ze nodig hebben om hun software wet-conform te maken.
Ik heb geen idee wat Meta precies heeft ingebracht en hoelang ze nodig hebben voor security fixes. Mijn ergernis zit hem in het zoveelste voorbeeld van het klakkeloos aannemen dat het allemaal wel makkelijk zal zijn. “Just nerd harder!”
Mee eens dat het niet altijd even makkelijk is, maar big tech is niet zo groot geworden met ouderwetse halfjaarlijkse watervalreleases. Volgens henzelf gebruikt Meta “rapid release at massive scale” op basis van CI/CD. Verder is het niet zo dat ze een hele nieuwe functie moeten bouwen, het gaat alleen om het persistent maken van een bestaande voorkeur.
In theorie heb je misschien nog een punt met de Apple appstore goedkeuring, maar dat kost meestal ook geen 2 weken, en het zou mij verbazen als ze met al die CI/CD daar ook geen versnelde procedure bij Apple hebben.
“Ben je wél een VLOP (een zeer groot platform, zoals Facebook en Instagram dus) dan voegt artikel 38 toe dat er ten minste één optie moet zijn die niet gebaseerd is op jouw voorkeuren (profilering).”, dus als een VLOP een random optie toevoegt voldoen ze aan de wet? En dan bedoel ik echt random, dus willekeurige posts uit de hele wereld, in alle mogelijke talen, in de afgelopen 20 jaar.
Dat klopt. Ik denk dat dat een beurskoersdaling tot gevolg heeft, dus dat gaan ze niet doen.
Waarom zou een extra optie een koersdaling veroorzaken? Windows N heeft dat ook niet gedaan. En die random feed zal ongeveer evenveel gebruikt worden als Windows N. Het bestaat om aan de letter van de wet te voldoen, niet om gebruikt te worden.
Als dwangsommen nog steeds op dat soort bedragen gemaximeerd worden (en niet mee schalen naar de beurswaarde van het veroordeelde bedrijf) dan gaan bedrijven daar echt geen actie op ondernemen. Die lappen gewoon 5 miljoen als ‘kosten’, want dat is kleingeld op een jaaromzet van miljarden, en gaan door met hun leven.
Rechters zouden dus veel meer bevoegdheid moeten hebben om de dienstverlening van dat soort bedrijven stop te zetten, tegoeden te bevriezen, betalingen van adverteerders te blokkeren, of hogere dwangsommen op te leggen die een aanzienlijk deel van de jaaromzet zijn en dus écht pijn doen.
Rechters vinden het niet zo leuk als uitspraken genegeerd worden. Als Meta niets doet komt er uiteindelijk een nieuwe dwangsom met een veel hoger maximum, net zolang tot het ze wel pijn doet.
Dit is flauw, maar: welk bedrag zou Meta pijn doen?
Zoals ik al zei, kijk maar eens naar 25% of 50% van de jaaromzet.
Of bijvoorbeeld een maatregel als het blokkeren van advertentie-transacties of dat de aandelen van Meta niet meer verhandeld mogen worden op de beurs tot aan de uitspraak is voldaan.
Dit is helaas minder cynisch dan het misschien klinkt, maar een bedrag waarbij aandeelhouders in de VS in actie komen en achter de schermen contact gaan opnemen. De mening van 700 volksvertegenwoordigers in de EU maakt ze gewoon minder uit dan die van een 80-jarige aandeelhouder in de VS die het nummer van de baas heeft. Zeg, vijf tot tien miljard euro of zo, een bedrag waarbij dat getal (zeg, 18 tot 20 miljard) in de kwartaalresultaten zichtbaar minder is.
Iets als vijf miljard zou een stevige duw zijn, maar ook niet zoveel dat het bedrijf erdoor in de financiele problemen zou komen. Het is slechts 2 tot 3% van de jaaromzet, maar ik denk genoeg om een andere positie in te nemen.
Waarom zou een bedrijf niet in financiële problemen mogen komen, als dat de consequentie is van je niet aan de wet houden? In feite ben je bezig met concurrentievervalsing, als je daardoor zo veel boete moet betalen dat je bedrijf failliet raakt, dan ben je dat toch echt helemaal zelf schuld.
Nou uiteindelijk wel, maar niet in eerste instantie. De bedoeling van een boete is om te zorgen dat het bedrijf het in de toekomst beter doet, niet om het bedrijf failliet te laten gaan. Dat kan lijkt mij pas een optie worden als het bedrijf herhaaldelijk uitspraken van de rechter negeert. De boete moet ook enigzins passen bij de ernst van de overtreding; het langer doen over het maken van een aanpassing om de voorkeursweergave te onthouden lijkt me niet iets waarvoor het gerechtvaardigd is om het bedrijf het faillisement in te beboeten (hoe graag ik ook Meta failliet zou zien gaan, maar dit terzijde).
Daarom zijn die dwangsommen ook maximaal een bedrag wat écht pijn zou doen en misschien de tent failliet laat gaan, maar de bedragen zouden wel progressief moeten zijn, dus verhoogd met een X bedrag per dag dat je niet voldoet.
Een dwangsom van 100.000 dollar/euro met een absoluut maximum van 5 miljoen is alleen echt veel te weinig. Dat moet in verhouding staan met de grootte van het bedrijf. Meta geeft dagelijks meer uit aan hun datacenters.
Iets als een dwangsom van 0,5% van de jaaromzet per dag met een maximum van 50% zou veel meer impact hebben – vroeg of laat worden dan de kosten zo groot dat je wel zal moeten voldoen of de tent moet sluiten.
Ik zie Apple, Google, Microsoft, etc. zich in allerlei bochten wringen om EU boetes van honderden miljoenen euro’s wat kleiner te krijgen. Bedragen met negen of tien cijfers voor de komma trekken de aandacht van de directie.
Dat hoeft de CEO en het bestuur niet eens te zien: als het van een lokaal budget af gaat is het voor een plaatselijke manager al gauw interessant om daar een paar interne juristen a 10.000 per maand op te zetten, en zo wat budget voor andere leuke dingen vrij te spelen, of een pijnlijk gesprek over budgetoverschrijdingen te vermijden.
Dermate hoog dat het naar voren komt in de kwartaalcijfers naar aandeelhouders. Maar daar is volgens mij in de VS geen harde lijn voor.