De politie maakte vorig jaar veel vaker gebruik van gezichtsherkenningssoftware dan in 2022, meldde Security.nl vorige week. Dat blijkt uit de jaarcijfers van herkensysteem Centrale Automatische TeChnologie voor Herkenning van personen (CATCH). Het riep bij diverse lezers vragen op, mag dat nog wel nu de AI Act eraan komt in februari?
Het persbericht van de politie legt uit:
Er is een database met strafrechtafbeeldingen – foto’s die politiemensen van aangehouden verdachten en veroordeelden maken – en een voor vreemdelingenafbeeldingen. Als omstanders of slachtoffers beelden hebben gemaakt van bijvoorbeeld oplichters aan de deur of een straatmishandeling, dan kunnen deze worden vergeleken met de foto’s in CATCH. Immers heeft een verdachte vaak al eerder strafbare feiten gepleegd.De AI Act is afgelopen zomer wet geworden, en treedt gefaseerd in werking. Op 2 februari zullen een aantal gebruiksvormen van AI verboden worden, en dat is relevant want eentje daarvan gaat over biometrie bij de politie (art. 5.1(h) AIA):
het gebruik van systemen voor biometrische identificatie op afstand in real time in openbare ruimten met het oog op de rechtshandhaving, tenzij en voor zover een dergelijk gebruik strikt noodzakelijk is voor [gericht zoeken naar slachtoffers/vermisten, verijdelen van aanslagen of de lokalisatie of identificatie van een persoon die ervan wordt verdacht een [ernstig] strafbaar feit te hebben gepleegd.]Het CATCH systeem zoals hier beschreven gaat echter niet over biometrie op afstand in real time, maar over wat de AI Act “biometrische verificatie” noemt:
de geautomatiseerde één-op-éénverificatie, met inbegrip van de authenticatie, van de identiteit van natuurlijke personen door hun biometrische gegevens te vergelijken met eerder verstrekte biometrische gegevens;Het systeem werkt immers op achterafbasis, een foto van het verleden wordt vergeleken met opgeslagen gegevens. Het verbod betreft real-time scannen van ‘iedereen’ in een bepaalde openbare ruimte om zo live te kunnen reageren als je iemand herkent. Dat zijn twee heel verschillende dingen.
Dat het niet onder de AI Act verboden is, wil natuurlijk niet zeggen dat het nietzomaar wel mag. Sterker nog, in Nederland hebben we de omgekeerde regel – bij zulke diep de privacy rakende technieken moet er een wet zijn die zegt dat het wél mag, en hoe. En die wet lijkt te ontbreken, zoals Bits of Freedom al in maart aankaartte.
De minister ziet dat anders, overigens. Daarbij werd opgemerkt dat dit zou worden herzien als de AI Act definitief was. Alleen zegt die dus helemaal niets over de risico’s van biometrische verificatie, dus de bal komt direct weer terug bij de AVG en de Wet politiegegevens.
Arnoud
Wat ik me altijd afvraag als de politie gegevens van verdachten bewaart is hoe lang ze dat doen.
Er zijn immers genoeg verdachten die volkomen onschuldig blijken. Daarmee is de grond om de data op te slaan weg en m.i. zouden de gegevens van die onschuldigen onmiddelijk uit alle databases verwijderd moeten worden.
Ik heb er echter inmiddels geen enkel vertrouwen meer in dat onze overheid dat doet.
Klopt deze zin wel? Volgens mij moet de zin eindigen met ‘wil natuurlijk niet zeggen dat het zomaar mag’ om het verhaal kloppend te houden.
Pardon, uiteraard moest dat “zomaar wel” zijn, aangepast. Comment bewaard voor transparantie.
Maar zoeken op een match in een grote bak gegevens is toch helemaal geen één-op-éénverificatie? Eén-op-éénverificatie lijkt mij bijv. als ze mijn vingerafdruk vergelijken met de vingerafdruk die in mijn paspoort is opgeslagen. Of zie ik dit verkeerd?
Hmm. Ik dacht dat het paste, omdat je één voor één het nieuwe gezicht vergelijkt met de database, “wie is dit”. Maar ik denk dat je gelijk hebt, verificatie gaat over “is dit Rutger” en niet over “wie is dit”. Nee, dan is het geen verificatie. Uiteindelijk maakt het niet uit, want het is nog steeds geen “op afstand” en “in real time”.
Ik verwacht dat er voldoende politieke steun zal zijn om foto’s van verdachten van een serieus misdrijf automatisch te vergelijken met foto’s van veroordeelden. Blijft onderbelicht hoe om te gaan met personen die ten onrechte uit een dergelijke zoekopdracht naar boven komen.
Een vraag die ongetwijfeld later vanuit justitiekringen gaat komen is: Waarom gaan we de foto’s voor paspoorten, identiteitskaarten en rijbewijzen ook niet gebruiken voor dat soort zoekopdrachten? Ik vind dat we dit niet moeten doen, juist vanwege de risico’s voor onschuldigen.
Uit het politiebericht: “Immers heeft een verdachte vaak al eerder strafbare feiten gepleegd.¨. Is hiermee de onschuldspresumptie (definitief) ter ziele?
IANAL, maar volgens mij niet. De onschuldspresumptie komt er op neer dat schuld van een verdachte aangetoond moet worden, en dat de verdachte niet diens onschuld hoeft te bewijzen. Met andere woorden, iemand is onschuldig totdat het tegendeel bewezen is.
Dat daarnaast in de praktijk blijkt dat verdachten van geweldsmisdrijven in veel gevallen al een strafblad hebben staat daar los van; ook in het nieuwe geval moet de schuld aangetoond worden. Een strafblad hebben is an sich geen bewijs van schuld, maar het hebben van een strafblad kan wel als gevolg hebben dat je gegevens voor de politie inzichtelijk zijn.
Dat het niet per definitie verboden is, maakt nog niet dat het ook mag. Dit lijkt me een hoog-risico toepassingen? In jouw blog van 11 december 2023 zeg je daarover:
Dus aan die voorwaarden moet dan ook voldaan worden om te kunnen zeggen dat het mag van de AI Act.Je stapt in je reactie over het matchen met de vreemdelingenafbeeldingen heen.
Uit de formulering van het door Arnoud geciteerde persbericht blijkt maar weer hoe vanzelfsprekend het is om vreemdelingen op een hoop te gooien met verdachten en criminaliteit. Het is helemaal niet moeilijk om daar politieke steun voor te vinden.