Een onderzoek van de Autoriteit Persoonsgegevens laat zien dat chatbots niet neutraal functioneren in vergelijking met traditionele stemhulpen, zoals Kieskompas en StemWijzer. Dat meldde de toezichthouder vorige week. Goed om te weten, maar het riep bij velen de vraag op: is daar juridisch wat aan te doen, bijvoorbeeld vanuit de AVG of AI Act?
Uit het persbericht:
De AP vergeleek 4 bekende chatbots met de online stemhulpen Kieskompas en StemWijzer. Uit het onderzoek blijkt dat de chatbots opvallend vaak op dezelfde 2 partijen uitkomen, ongeacht de vraag of opdracht van de gebruiker. In ruim 56% van de gevallen staat de PVV of GroenLinks-PvdA bovenaan. Bij één chatbot is dat zelfs in meer dan 80% van de gevallen zo. Andere partijen, zoals D66, SP, VVD of PvdD, komen veel minder vaak als eerste keuze naar voren. Sommige partijen, zoals BBB, CDA, SGP of DENK, zelfs bijna nooit.Het plaatje hiernaast (klik voor groot) illustreert het effect scherp. Deze chatbots zijn geen databanken met kennis, of zelfs maar analysemachines die verkiezingsprogramma’s lezen en daar een match mee maken. Cynische ik ziet in deze resultaten een simpele vertaling van de links/rechts dichotomie op basis van gescheld op Reddit en elders.
Bij totstandkoming van de AI Act is gesproken over het risico van verkiezingsbeïnvloeding. Daarom staat als hoogrisico aangemerkt
AI-systemen die bedoeld zijn om te worden gebruikt voor het beïnvloeden van de uitslag van een verkiezing of referendum of van het stemgedrag van natuurlijke personen bij de uitoefening van hun stemrecht bij verkiezingen of referenda.De discussie bij de grote chatbots is echter altijd of deze wel ‘bedoeld’ zijn voor specifieke dingen. Als je alles er mee kan, zijn ze dan voor alles bedoeld of nergens voor? Bovendien, is hier wel spraken van “beïnvloeden” als je een op basis van een vraag een taalpatroon oplepelt met als strekking dat GroenlinksPVDA goed bij je past?
De AVG dan maar, het duizenddingendoekje van het ict-recht? De AP zelf waagt zich er niet eens aan. Ik denk dat je nog net kunt zeggen dat hier sprake is van profileren: mensen stoppen er informatie over zichzelf in, en de chatbot correleert dat met een politiek standpunt. Maar omdat dat vervolgens niet tot een besluit leidt, is daar AVG-technisch weinig mis mee.
Het theoretisch standpunt (en de reden dat ik de AVG ‘duizenddingendoekje’ noem) is dat verwerking van persoonsgegevens juist moeten zijn (art. 5 lid 1 punt d AVG) en deze conclusie dat vrij zeker niet is, of hooguit dan per ongeluk. Daarmee is de verwerking dan onrechtmatig. Maar zo absoluut wil ik ‘juist’ niet lezen.
Sinds maart vorig jaar is er de Verordening politieke reclame. De definitie van dat begrip is nogal breed:
“politieke reclame”: de productie, plaatsing, promotie, publicatie, aanlevering of verspreiding, op welke wijze dan ook, van een boodschap … die van invloed kan zijn op en bedoeld is om het resultaat van een verkiezing of referendum, stemgedrag of een wetgevings- of regelgevingsproces op Unie-, nationaal, regionaal of lokaal niveau te beïnvloeden.Ik zie zeker hoe deze vertekende chatbot-uitkomsten de potentie hebben om verkiezingen te beïnvloeden, gezien hoe massaal wij Sjet alles vragen en denken dat het antwoord waar is.
Tegelijk twijfel ik of het ‘reclame’ te noemen is, want hoewel het niet nodig is dat de reclame vanuit een politieke actor komt, is wél vereist dat deze “gewoonlijk tegen vergoeding of via interne activiteiten of in het kader van een politieke reclamecampagne wordt overgebracht”. Stemwijzers en stemadviezen zijn gewoonlijk juist niet als reclame bedoeld. Maar het is natuurlijk te makkelijk om met het label “stemwijzer” aan de reclamewetgeving te ontkomen.
De verordening is van toepassing sinds 10 oktober 2025, zodat als we dit politieke reclame vinden, OpenAI en consorten transparant moeten zijn over het wat en hoe. Maar komen we terug bij de discussie: is het oplepelen van een tekst op verzoek wel te zien als een intentie, een bedoeling?
Arnoud
Die taalmodellen komen wel uit de Amerikaanse cultuur waar de politiek bijna binair (rood of blauw) is. Zou dat ook een oorzaak kunnen zijn dat ze de Nederlandse politiek binair benaderen?
De reden dat de AP hier iets van zegt heeft niet zozeer iets met privacy of de AVG te maken, maar meer met hun ‘nieuwe’ taak als coördinerend toezichthouder AI: https://www.autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/coordinatie-toezicht-algoritmes-ai
Dus waarschijnlijk was het bericht van de AP over deze ontwikkeling meer bedoeld als waarschuwing voor het algemene publiek, dan als waarschuwing richting de AI aanbieders.
Als de verwerking onjuist is (dat wil zeggen: tot een incorrectie identificatie van een politiek standpunt leidt) is de correlatie met het politieke standpunt er niet. Dan is er ook geen AVG probleem, de vermeende correlatie is immers een onzinnige gok, een hersenspinsel.
Als de verwerking juist is, is er ook geen AVG probleem.
Overigens lijkt me er sowieso geen AVG probleem, de verwerking is immers met toestemming?
Een hersenspinsel dat gepresenteerd wordt als een feitelijke uitspraak op basis van een profielanalyse lijkt me in strijd met de juistheid? “Ik heb je profiel geanalyseerd en op die basis zou ik de VVD aanraden” terwijl er geen daadwerkelijke profielanalyse is.
Er is wel een profielanalyse. Maar die is zo slecht dat de kans groot is dat die tot een foute uitkomst leidt.
Ik wilde slechts betogen dat zowel als de uitkomst goed is, als wanneer die fout is, er geen AVG probleem is, zij het dan om verschillende redenen.
Wat is eigenlijk de vraag? Wat is eigenlijk het probleem?
De mens is toch vrij om zelf te kiezen welke hulpmiddelen hij gebruikt? Dat er een hulpmiddel beter is dan een ander hulpmiddel mag dan zo zijn, maar de verantwoordelijkheid ligt 100% bij degene die het hulpmiddel inzet.
Overigens zijn ook de traditionele stemhulpen vaak maar flut, dus ik zou zeker geen andere regels voor AI dan voor traditionele stemhulpen propageren, en ik durf ook niet zomaar te zeggen wie ‘beter’ of ‘neutraler’ is.
Gewoon een voorbeeld uit Kieskompas: De stelling ‘Er moet meer geld naar het openbaar vervoer, ook als daardoor minder geld overblijft voor wegen’. Deze stelling impliceert onterecht dat ‘geld voor wegen’ en ‘geld voor openbaar vervoer’ uit een gezamenlijk potje komen.
Wat moet je antwoorden als je vindt dat er meer geld naar beide moet en dat dat geld uit belastingverhoging of besparing op defensie moet komen?
Wat moet je antwoorden als je vindt dat wegen geprivatiseerd mogen worden?
Wat moet je antwoorden als je toekomstvisie is dat ze beide stervende zijn en de toekomst transport door de lucht is en dat het dus een zinloze vraag is?
En welk geld hebben we het eigenlijk over? Geld voor aanleg (wat een investering is) of geld voor lopende kosten? En waarom vergelijken we die met elkaar? En is de gemiddelde kiezer wel competent om correct een eenmalige uitgave met onbepaalde afschrijftermijn met een jaarlijkse kost te vergelijken?
En is het de bedoeling dat ik ook levenskwaliteit, nu en in die toekomst voor mijn kinderen, meeneem in het beantwoorden van de stelling of moet ik puur naar geld kijken in de beantwoording?
Ik probeer slechts te betogen: traditionele stemhulpen zijn zeker geen onbetwiste kwaliteitsreferentie, en ik weet dan ook niet of het streven zou moeten zijn om AI meer op een traditionele stemphulp te laten lijken.
Het is een wat merkwaardig onderzoek. En nergens zie ik een kritische bespreking van de opzet. Dat is volgens mij ook vrij ernstig: een toezichthouder maakt heel stellige beweringen op basis van een beperkt onderzoekje. Nergens een kritische noot.
Want wat heeft de AP gedaan? Ze heeft de antwoorden van de Kieskompas en StemWijzer naar een partij toegeschreven (wel voor elke partij, veel werk!) en aan LLMs gegeven en gevraagd welke partij erbij hoort. Dit scenario komt in de praktijk natuurlijk nooit voor en is daarom geen geschikte methode om de invloed van LLMs op verkiezingen of de neutraliteit te testen. Als mensen de StemWijzer doen, dan doen ze die. Er is niemand die StemWijzer antwoorden in LLMs gaat voeren. Het onderzoek bewijst dus bijzonder weinig, namelijk alleen dat LLMs StemWijzer niet kunnen nadoen, en al helemaal niks over echte wereld invloed.
Beter was het geweest als ze realistischer scenario’s hadden gepakt, zoals de UvA dat gedaan heeft. Dan kun je daadwerkelijk iets nuttigs zeggen over real world bias.
Overigens geeft de AP dit ook aan in hun rapportage, maar kiest toch voor de ronkende persberichten. Ze is immers wel de “AI coördinator”, toch?
Ik ben dol op het gebruik van AI, maar weet ook de problemen die het kan hebben. Hallucinaties en misinformatie is best normaal bij AI en om dat te voorkomen moet je blijven doorvragen en andere bronnen raadplegen. Het helpt vooral om ook referenties naar websites te vragen bij je prompt, zodat je op die sites verder kunt lezen.
Maar ik ben het even gaan testen. Eerst vragen welke partij het beste voldoet aan mijn privacy-wensen. Ik had verwacht dat de PiratenPartij dan tevoorschijn zou komen, maar Gemini sloeg die totaal over! Dat was onverwacht, maar na even door te vragen kwam deze alsnog naar voren. Misschien is de PP gewoon niet genoemd omdat ze nog geen zetels hebben…
Daarna nog even wat verdere vragen gesteld betreffende migranten en asielzoekers, en de PP kwam daar redelijk neutraal uit, vergeleken met andere partijen. Wel is de PP van mening dat ook asielzoekers recht op privacy hebben. Logisch.
Maar als vleesliefhebber vroeg ik ook het standpunt van de PP betreffende veeteelt. Op zich laten ze de keuze bij de consument, maar ze willen wel bepaalde kosten doorberekenen aan de consument. (Denk aan stikstof en milieu-gevolgen van veeteelt.) Dat zou de prijs van vleesproducten verhogen, maar gelukkig niet zo extreem als sommige andere partijen willen.
Verder ook gevraagd met welke partijen de PP zou samenwerken, als ze een zetel kregen. Het antwoord “PvdD, SP, GL/PVDA, D66 en VOLT” worden genoemd. Dat was wel verrassend, want ik ben tegen die partijen. Maar goed, met een enkele zetel is dat nog geen probleem. Pas als de PP meer dan vijf zetels zou krijgen, dan zou ik mij zorgen gaan maken. 🙂
Maar Gemini AI geeft mij gewoon wat extra informatie voor een keuze die ik eigenlijk al gemaakt heb. Maar het laat mij wel even extra nadenken…