Mensen die niet willen dat hun gegevens worden gebruikt om de AI van techbedrijf Meta te trainen, hebben nog tot 27 mei de tijd om daar bezwaar tegen te maken. Dat meldde Nu.nl gisteren, op gezag van de Autoriteit Persoonsgegevens.
Vanaf 27 mei gaat het bedrijf de gegevens van gebruikers van Meta-diensten Facebook en Instagram inzetten om haar AI-model mee te trainen. Bezwaar maken is in ieder geval de snelste methode om hier wat tegen te doen.
Het kan via het bezwaarformulier van Instagram of dat van Facebook. Wie niet kan of wil inloggen, zo ziet het eruit en het lijkt er op dat een AI je bezwaren leest dus gebruik termen als “EU burger”, “GDPR”, “objection” voor een snelle approval.
Maar moet het ook? Je zou zeggen dat hier toestemming nodig is, gezien het gaat om persoonsgegevens. (Auteursrechtelijk ook, maar dat is makkelijker af te dichten in de algemene voorwaarden dus pech gehad wat dat betreft.) Onder de AVG is toestemming (consent) niet de enige grond, en Meta is gaan zitten op de alternatieve grondslag van gerechtvaardigd belang.
Daarbij is opt-out (artikel 21) een verplichting, zij het dat je die moet onderbouwen met persoonlijke omstandigheden. Vandaar de naam van dat veld op het formulier.
Meer algemeen is het een open vraag – ook na de Guidelines van eind vorig jaar – of legitiem belang in te roepen is bij de toepassing “hergebruik voor trainen taalmodel”. In juni blogde ik hierover toen Meta haar plannen voor het eerst bekend maakte:
[Dat ondernemen een legitieme activiteit is] betekent [niet] dat het dus mág, want bij gerechtvaardigd belang hoort een afweging. Zo zien de Europese toezichthouders (verenigd in de EDPB) het ook: in principe moet dit kunnen, maar je moet wel een goede belangenafweging hebben, zo vat ik het maar even samen. Daarbij weegt zwaar wat mensen redelijkerwijs mochten verwachten. Gezien de ophef bij Meta kun je daar dus wel vraagtekens bij stellen.Helaas is er nog geen toezichthouder die concrete stappen heeft genomen, wat gezien de tijdsspanne tussen vorig jaar juni en nu toch wel had gemogen.
Arnoud
Dus kan NOYB binnenkort weer aan de slag (en de Ierse toezichthouder na veel gedoe weer nutteloos om de oren slaan).
Maar, geldt;
niet eigenlijk voor álle content op internet. Dat is ooit met het oog van toen gepubliceerd. Niet zodat iemand anders daar een slaatje uit kan gaan slaan.Het formulier wat ik kreeg ziet er anders uit. Het heeft, naast e-mail adres, slechts één veld: Laat ons weten welke invloed deze verwerking op je heeft. (Optioneel). Ik liet het leeg en kreeg onmiddellijke approval.
Ik vraag me wel eens af, met al die AI gegenereerde content van tegenwoordig…
Wat gebeurt er als AI zich blijven trainen met eerdere AI-content? Zal het systeem wel stabiel blijven? Of komt er een punt waarin alle content op elkaar lijkt?
Komt er een punt waarop AI fouten in eerdere AI-content die als trainingsmateriaal gebruikt is (bijvoorbeeld dat een paus typisch een puffer jacket draagt), ineens beschouwt als correct, en we in een lus komen van lage kwaliteit trainingsmaterial—> lage kwaliteit output —> lagere kwaliteit trainingsmateriaal —> lagere kwaliteit output, etc etc etc. ?
Wat jij beschrijft is ook wel bekend als Model collapse, zie dit kopje https://en.wikipedia.org/wiki/Modelcollapse#Impactonlargelanguage_models En dit is nu al een issue bij het trainen van nieuwe LLM models op content op het internet die door andere LLM’s geproduceerd is.
Dankjewel voor de toelichting.
Ik had inderdaad niet gedacht dat ik de eerste zou zijn die dit risico zou hebben benoemd, maar het verbaast me anderszijds wel dat de oudste referenties daarnaar, tenminste in het Wikipedia artikel, minder dan twee jaar oud. Dit vind ik nu typisch iets wat je al in een verhaal van Isaac Asimov uit de jaren 60 zou kunnen tegenkomen.
Hoe zit dat eigenlijk met foto’s (en eventueel content) van anderen die geen Facebook gebruiken? Mag Facebook zomaar foto’s gebruiken waar iemand opstaat die niet eens de mogelijkheid heeft om te opt-outen omdat die geen Facebook heeft?
Dit geldt overigens ook voor mensen mét account: Ze vermelden in het formulier dat zelfs als je de opt-out gebruikt, je data nog steeds gebruikt kan worden voor het trainen als iemand anders dit gepost heeft.
Kan en mag Facebook er zomaar van uitgaan dat iedereen toestemming heeft gekregen van iedereeen die op een foto staat? En als iemand al akkoord ging met het feit dat zo’n foto op Facebook werd geplaatst toentertijd wil m.i. niet automatisch zeggen dat die persoon ook akkoord zou gaan met het plaatsen van diezelfde foto op Facebook nu het foto’s gebruikt voor het trainen van AI.
Juridisch is geen sprake van toestemming. Onder de AVG zegt Meta dat ze dit gewoon mogen gezien je beperkte privacy belang en dat jij aan de bel moet trekken als jij dat anders ziet.
Gewoon uit nieuwsgierigheid, maar hoe krijgen ze hun belangenafweging rond. Hun belang bij mijn data (als ze de data van miljarden anderen al hebben) is extreem marginaal, en mijn belang om die data te beschermen is dat natuurlijk niet.
Ik vermoed dat ze de ten gronde de afweging verkeerd doen, en hun belang om een uitgebreide dataverzameling te hebben (en dat belang is er inderdaad) afwegen tegen mijn belang bij mijn data, ipv van wat ze zouden moeten doen: hun belang om specifiek mijn data aan hun dataset toe te voegen afwegen tegen mijn belang.
En hoe zou je dat moeten doen voor alle data die Meta over mij ongetwijfeld heeft? Mogelijk sta je op een foto die iemand anders er op heeft gezet om maar een praktisch punt te noemen.
Daarnaast wat als over enige tijd blijkt dat de verwerking illegaal blijkt. Moeten ze dan het resultaat van die verwerking volledig vernietigen of is het dan een boete/vergunning betalen en vrolijk verder gaan? Enige wat ze echt zou raken is alles per direct vernietigen (incl. backups) en pas nadat het weg is opnieuw mogen beginnen (incl. afgeleide werken).
Meta keurt automatisch alle bezwaren goed, ook als je überhaupt geen reden voor je bezwaar invult. Dat vind ik wel opvallend: hun belang zou dus zwaarder wegen dan de privacybezwaren, maar hun belang weegt dus kennelijk niet zo zwaar dat het de moeite waard is om bezwaren individueel te behandelen.
Hoe kan je bezwaar maken als je geen contract hebt met meta?
In concreto auteursrechterlijk beschermde werken die door waarschijnlijk 100’en anderen (in ettelijke EU landen) op meta zijn geplaatst? En uiteraard ook afbeeldingen van minderjarigen die door anderen op “meta” zijn gezet of herzet?
En als ik nou alleen whatsapp gebruik?
https://www.whatsapp.com/contact/forms/382532939919295/ voor iedereen met WhatsApp mogelijk nuttig om bezwaar te maken. Je moet de juiste optie kiezen helaas en wat stappen zetten.