Het Openbaar Ministerie gaat vanaf maandag camera’s inzetten om telefoongebruik achter het stuur te beboeten, las ik Bij Tweakers. Deze camera’s fotograferen alle bestuurders, en detecteren wanneer iemand vermoedelijk zijn telefoon vast heeft. In dat geval gaat de foto naar het CJIB, die dan een mens de beoordeling laat doen en een boete laat volgen als het werkelijk een telefoon is (in plaats van een plak ontbijtkoek). De proef uit 2019 is kennelijk een succes gebleken.
De wet (artikel 61a RVV) verbiedt het vasthouden van apparaten geschikt voor mobiele communicatie of informatieverwerking, kort gezegd mobieltjes vasthouden. Dit omdat afleiding een groot risico is voor de verkeersveiligheid, en dat risico zich meer voordoet bij telefoons in de hand dan bij handsfree gebruik of het aanraken van ingebouwde touchscreens. Toezicht op dit verbod is natuurlijk lastig, een agent moet het maar net zien.
Uit onderzoek “kwam naar voren dat er slimme camera’s zijn, die goed in staat zijn appende en bellende bestuurders te detecteren”, aldus het OM. Het gaat natuurlijk om machine learning, zeg maar neem tienduizend foto’s met label “wel telefoon” en tienduizend met label “zonder telefoon” en de computer kan dan op nieuwe foto’s berekenen welk label het beste past. Dit noemt men ‘algoritmen’, overigens.
Natuurlijk mag een algoritme niet mensen beboeten. Vandaar dat de software ingezet wordt als een voorselectie: foto’s waarvan de computer zegt “met telefoon” worden naar een menselijke opsporingsambtenaar gestuurd, die dan zelf de beoordeling doet. Als die positief is, dan wordt er een boete opgelegd.
Mag dat? Ja, omdat er dus een mens tussenzit die inhoudelijk kijkt. Zodra die mens het als een formaliteit gaat beschouwen, dan wordt dat anders. We hadden in 2014 het voorbeeld van agent 404040, die automatisch boetes uitschreef voor onverzekerd autorijden. Dat mocht daar, hoewel agent 404040 als mens niet bestond, omdat er elders een mens in het proces zat namelijk waar men bezwaar maakte. Maar ik denk dat dat anno 2020 niet meer kan gezien het verbod onder de AVG.
Arnoud
Kort en goed, dit proces gaat stuk op het eerste geval waaruit blijkt dat menselijk toezicht ontbreekt. En met ontbreken bedoel ik dan ook de situatie, waarbij een mens zonder waar te nemen, de aangeleverde foto’s doorzet naar de status van een boete. In mijn optiek houdt dat zelfs in, dat wanneer dit na 1 of 2 jaar pas gebeurd, alle boetes tot aan die datum vernietigd en dus terugbetaald dienen te worden. Met die bewezen misstap hebben ze nl. een probleem om het goed werken in de periode daarvoor te bewijzen. En voor mij is een duidelijk voorbeeld van niet correct handelen, het uitdelen van een boete aan de persoon links in het voertuig, die een telefoon bediend, waar het voertuig rechts gestuurd is. Dan weet je dat er niet is gekeken en niet iets verkeerd is herkend. Want een algoritme dat naar telefoons zoekt, kan de fout bevatten om niet naar een stuur te zoeken. Maar een mens moet opvallen, dat het stuur aan de andere kant zit, of i.i.g. niet daar waar de telefoon is.
Er is toch gewoon bewijs? De foto zal toch niet direct vernietigd worden nadat een persoon de overtreding op de foto heeft vastgesteld. Het lijkt me in deze gevallen juist makkelijker om je gelijk te halen bij de rechter. Met de foto als bewijs waarop geen telefoon (of stuur) te zien is, zal een rechter eerder geneigd zijn de boete van tafel te vegen dan wanneer er überhaupt geen foto is en de rechter af moet gaan op het woord van meneer agent.
Het is nogal wat om te zeggen dat een computer de boete uitdeelt en de mens maar bezwaar moet maken. Uitgangspunt is nou juist dat er pas boetes mogen volgen als een mens de overtreding heeft geconstateerd. Lang niet iedereen kan of wil bezwaar maken (geen geld, te veel andere zorgen) en dan is het oneerlijk dat je een boete krijgt voor de spreekwoordelijke plak ontbijtkoek.
Dat zegt dan ook niemand hier 🙂
Jef (de eerste in deze commentdraad) is er bang voor, “dit proces gaat stuk op het eerste geval waaruit blijkt dat menselijk toezicht ontbreekt”. Ik dacht dat jij daarop reageerde met je opmerking dat we gelukkig de foto’s nog hebben, omdat mensen dan gewoon in bezwaar kunnen gaan tegen zo’n boete-zonder-toezicht.
Ik lees net hier op de site van RTV Utrecht dat er een boete met succes is aangevochten door middel van het opvragen van de foto waarbij bleek dat de betreffende persoon geen telefoon maar een flesje chocolademelk in zijn handen had.
Blijkbaar was het op de foto duidelijk te zien dat het hier niet om een echte overtreding ging, toch is er een boete uitgeschreven. Ik kan me niet voorstellen dat zoiets kan gebeuren als er een mens daadwerkelijk de geflagde foto’s beoordeelt.
Ben benieuwd wat de AP hier van zou vinden…
Een vrijdagmiddagfoutje? Als ik de hele dag ‘ja’ of ‘nee’ moet klikken terwijl 95% van de foto’s wél een telefoon laat zien, dan klik ik om half vijf alleen nog maar op ‘ja’ denk ik. Ik kan me moeilijk voorstellen dat er vanaf het begin gewoon géén mens ingezet wordt, omdat men in de communicatie duidelijk zegt van wel én iedereen natuurlijk bezwaar gaat maken bij alle mogelijke foutjes. Als dan meteen uitlekt dat er geen mens aan de knoppen zit, dan is het project meteen overleden. Maar die klikmoeheid die zie ik wel, zelfs bij politieagenten die op ambtseed werken bij het ja/nee klikken.
‘Klikmoeheid’ is natuurlijk geen onbekend fenomeen. Het is dan in mijn optiek ook iets waar je op voorhand al rekening mee houdt, zeker als een foutje financiele konsekwenties heeft voor een ander. Wat mij betreft is dit een factor waar je simpelweg rekening mee kunt (moet?) houden bij het inrichten van je processen.
Zoals je zelf al zegt: “dan klik ik om half vijf alleen nog maar op ‘ja’ denk ik.” Om vier uur had je dan dus eigenlijk al moeten stoppen…
Het voelt hier meer als een excuus om inferieure kwaliteit werk te leveren – niet iets wat ik kan accepteren als het gaat om dit soort zaken. “Ach, het is allemaal helemaal niet zo erg, als de burger het niet eens is met de boete dan reageert zhij wel.” Dat mag natuurlijk nooit en te nimmer een argument zijn.
Hoe luid dit verbod uit de AVG?
Artikel 22 lid 1 AVG:
Voor zover ik weet is artikel 22 AVG alleen van toepassing op geautomatiseerde besluitvorming op basis van persoonsgegevens. Is het feit dat op een foto ook handen van betrokkene kunnen staan (en dus de huidskleur) de reden dat dit hier van toepassing is?
Een boete opleggen is toch een besluit?
Het ging mij erom dat persoonsgegevens een rol moeten spelen in de besluitvorming. Of is bijvoorbeeld het toelaten van studenten op basis van loting door een universiteit op basis van dat artikel verboden?
Persoonsgegeven worden verwerk in een boete.
Zonder persoonsgegevens kan de boete nooit bij een persoon worden afgeleverd. Dan is er geen issue.
Bij loten op de universiteit ligt de beslissing bij een mens: toegang gebeurt o.b.v. een bepaalde loting en die trekking-regels zijn ongetwijfeld ‘hard’ vastgelegd. Alleen het uitvoeren gebeurt niet met lottoballetjes maar met wat software.
Een beter voorbeeld kan zijn een ‘slim’ spamfilter of virusscanner die de mail met bezwaarbrief (voor de boete of die loting) als spam aanmerkt zodat het nooit wordt gelezen. Of zelfs de papieren variant: postsorteermachines met optische herkenning van de adressen waar geen mens meekijkt.
Een kenteken, wellicht?
Het proces bestaat uit 2 delen, selectie door de computer en controle door een mens. Maar wat als de selectie nou een bias heeft?
Als we bijvoorbeeld bij preventief fouilleren een selectie zouden toepassen (door een mens danwel door een algoritme) waarbij huidskleur een rol speelt dan kom je ook niet weg met de stelling dat het maar een voorselectie betreft en dat de echte controle door een mens plaatsvindt.
Ik kan me zomaar voorstellen dat bij het vaststellen of iemand een telefoon vasthoudt bijvoorbeeld de huidskleur van de bestuurder een invloed heeft op de kans om geselecteerd te worden. Zowel door de invloed van contrast als door onvolkomenheden in de set foto’s waar de “slimme camera” mee getraind is. Dat gedeelte van het proces gebeurt door een algoritme en daarop houdt een mens geen toezicht. En daarnaast zijn er nog hopen andere factoren die wellicht voor een “oneerlijke” voorselectie kunnen zorgen.
Het doet een beetje denken aan een wedstrijd waar een jury een prijs mag toekennen, maar de enige kandidaten die de eindronde hebben bereikt zijn de neefjes van de organisator. Dan kan je jury wel eerlijk en onafhankelijk zijn, maar een eerlijke wedstrijd is het niet.
Duidelijk uitgelegd. Ik vraag me alleen af of de AVG daar wel rekening mee houdt. Maar op zich is er dan wel gewoon sprake van discriminatie. Maar ja, hoe kom je erachter dat zo’n algoritme discrimineert? Alleen door het algoritme met de testdata, en daadwerkelijke data, verplicht objectief te laten controleren?
Door de toegekende boetes te analyseren op het verboden kenmerk en dan te zien of de verdeling significant afwijkt van wat je zou verwachten. Maar is heel lastig, omdat je dat kenmerk niet vastlegt, in de bekeuring zal alleen staan “bestuurder hield telefoon vast” en niet diens huidskleur of godsdienst.
Ik kan me trouwens ergens voorstellen dat de dataset vooral/alleen maar witte mensen betreft, want zo gaat dat wel vaker met foto-datasets. Dan is de afwezigheid van een witte hand voor het algoritme een teken dat er geen telefoon in de hand is. Het is bij AI altijd de vraag wat voor uitspraak hij werkelijk doet, is dat “telefoon in hand” of “hand” of “pols met horloge” of “lichtsterkte is 95%” (want laboratoriumomstandigheden) of “paars hemd” (want proefpersoon had dat aan).
Dat is toch bizar, zoiets zou toch getest moeten worden vóórdat zo’n systeem in gebruik genomen wordt? En niet achteraf op basis van uitgeschreven boetes? Doet me denken aan Better Off Ted: https://vimeo.com/188033313
Bij mensen ook. Je kunt ook bijv. een reep chocola in je hand hebben. Als een agent dan langsrijdt, dan kan ‘ie ook denken dat je een telefoon vasthoudt. Oké, die chocola is misschien wat vergezocht, maar ik maar zeggen dat het al eens vaker is voorgekomen dat agenten dachten een telefoon te zien terwijl het geen telefoon was. 100% betrouwbaar is een mens ertussen dus ook niet.
Klopt. Daarom wordt normaliter ook het merk en type van de telefoon genoteerd, dan weet de agent zeker genoeg dat jij een telefoon in je hand had. Of kun jij de reep chocola laten zien. Dit vereist alleen wel een staandehouding natuurlijk, dus ik ben benieuwd hoe dat nu gaat werken met beboeting enkel op basis van foto.
Bij Duitse bekeuringen op basis van een foto krijg je die gelijk meegestuurd. Dat scheelt al een heleboel procedureel geneuzel, en zouden we in Nederland dus ook moeten gaan doen (Kwestie van de IT systemen hierop aanpassen, daarna gaat het automatisch).
Mijn telefoon ligt meestal in mijn jaszak in de achterbak, dus als ze denken bij mij een telefoon te zien, dan heb ik graag dat ze me staande houden. Mogen zij uit gaan leggen hoe ik die tijdens het rijden magisch in de achterbak heb gekregen. Mogen ze ook van te voren even zeggen welke kleur hij volgens hun dan wel is (hint: ik heb geen standaard kleuir telefoon). De handsfree set werkt prima met de telefoon in de achterbak en sms en whatsapp berichten komen op mijn horloge binnen (zolang die eerste tekst zijn natuurlijk)
Hoe zit het met de privacy? Ik begrijp dat alle voorbij rijdende auto’s worden gefotografeerd. Op welk moment worden de opnamen van niet-bellers of niet-als-beller-door-de-AI-herkende of door de dienstdoende agent als niet-bellend herkende voertuigen vernietigd?
Ik vraag me af hoe goed die menselijke controle in de praktijk gaat werken. Zit er dan iemand de hele dag alleen maar foto’s te kijken en “ja klopt, die heeft een telefoon vast” te klikken? En dan verwachten we ook nog dat die ambtenaar na een paar honderd foto’s nog steeds oplettend genoeg is om die ene foto met ontbijtkoek niet automatisch door te klikken?
En stel dat blijkt¹ dat dit vaak misgaat, zou je dan bezwaar kunnen maken met het argument dat (bijna) alle ontbijtkoek foto’s doorzetten aantoont dat er geen “echte” menselijke controle plaatsvindt, en het dus eigenlijk nog steeds neerkomt op automatisch beboeten?
¹De cynicus in mij verwacht dat zoiets hooguit zou uitkomen na een bult WOB verzoeken/rechtszaken om statistieken te pakken te krijgen die nu niet worden bijgehouden.
De overheid kennende; nee. Sowieso is deugdelijke besluitvorming ondergeschikt in de Wahv. Sterker nog, er is ingecalculeerd dat een OvJ geen deugdelijke beslissing op bezwaar (administratief beroep) neemt; als je in beroep wilt gaan bij de rechtbank kun je je beroep niet naar de rechtbank sturen maar moet je de OvJ eerst in gelegenheid stellen de beslissing te herheroverwegen.
Heb wel gezien dat een bezwaar zonder enige onderbouwing met een standaard brief wordt afgewezen. Dan zou je dus altijd moeten reageren met een zo’n heroverwegingsverzoek met de aankondiging dat je het voor de rechter gaat brengen (ook als je het niet van plan bent, vanwege de kosten). Door op een dergelijke manier met bezwaarprocedures om te gaan ontneemt een instantie in feite je een stuk rechtsbescherming, en is zij verantwoordelijk voor extra druk bij de rechterlijke macht.
Als er een boete volgt, dan wordt die boete door het CJIB verstrekt aan de tenaamgestelde. Als de tenaamgestelde de auto heeft uitgeleend en dus niet zelf achter het stuur zat, hoe gaat dat dan in zijn werk?
Net als alle op kenteken uitgegeven boetes (snelheid, rood licht, etc.): de eigenaar moet zelf maar uitzoeken wie de bestuurder was en daar de boete op verhalen.
Er is de fictie dat de kentekenhouder de beschikking heeft over het voertuig en dat hij/zij het bijhoudt als hij/zij het voertuig aan derden ter beschikking stelt. Autoverhuurders sturen boetes gewoon door naar de huurder. Een vervoersbedrijf houdt bij welke chauffeur op een vrachtauto rijdt, etc. Als jij je auto meer dan drie keer per jaar uitleent is het ook nuttig om dat bij te houden.