Politie test koppelen cameradata tegen dieven in Roermond

| AE 10843 | Informatiemaatschappij | 41 reacties

De politie en de TU Eindhoven testen een systeem om data uit verschillende bronnen, met name camera’s, te koppelen en te analyseren, om winkeldieven uit Oost-Europa in een vroeg stadium te herkennen. Dat meldde Tweakers afgelopen maandag. De camera’s zijn die uit de anpr-nummerplaatherkenning, gekoppeld aan een database die de politie heeft over voertuigen die Oost-Europese bendes mogelijk gebruiken. Op basis van punten – vier mannen met Roemeens kenteken en een Duitse auto, honderd punten – wordt dan een signaal afgegeven aan de politie om deze auto eens nader te bekijken. Het klinkt leuk, maar riekt toch een beetje gevaarlijk.

Roermond heeft veel last van dit soort criminaliteit, las ik bij de NOS, omdat het dicht bij de grens ligt én een grote trekpleister heeft, namelijk winkelcentrum de Designer Outlet. De grote hoeveelheid overlast was de aanleiding om eens te kijken wat men met techniek kan doen.

In de kern komt het erop neer dat van iedere bezoeker richting het winkelcentrum op diverse punten wordt geclassificeerd. Van de auto wordt het kenteken uitgelezen, wat informatie geeft zoals land waar de auto geregistreerd staat en ouderdom/type. Speciale camera’s tellen het aantal inzittenden, middels antennes wordt vastgelegd uit welk land de telefoons (simkaarten) in de auto komen en zo nog een aantal slimmigheden. Van elk van die aspecten wordt een score vastgesteld, die bij elkaar opgeteld een totaalscore Verdacht Gedrag oplevert. En wie daarin te hoog scoort, mag even aan de kant en uitleggen wat hij komt doen in Roermond.

Natuurlijk is het uiteindelijk altijd een agent die de feitelijke controle uitvoert, en eventueel kan besluiten de auto toch niet staande te houden omdat het vier Roemeense omaatjes zijn die een auto geleend hadden in Hamburg. Alleen krijg ik bij systemen als deze niet het gevoel dat de hoofdregel zal zijn dat er geen controle nodig is wanneer de computer zegt van wel. Zelfs het toch niet als rabiaat links bekend staande GeenStijl fulmineert dat het hier gaat om een truc: “Het lijkt alsof de popo al precies weet wie ze hebben moeten, maar dat ze dus nu een hoogtechnologische smoes nodig hebben om preventief op te treden tegen de import die de rottigheid veroorzaakt.”

Het vervelende is, je komt dan vrijwel direct in een hellend-vlakargument terecht. Nu gaat het goed, maar wat als straks massaal alle Oosteuropeanen staande gehouden worden? Of als -zoals de NOS meldt- het geluid van dikke snelle auto’s een trigger geeft waardoor je voor ramkraker aangezien wordt, en door een arrestatieteam klemgereden wordt? Dat zou ernstig zijn, maar zo ver is het nog niet. Wat is dan wijsheid? Nu ageren en als overdreven weggezet worden? Of wachten tot we daar zijn, en dan horen “maar vandaag de dag is het doodnormaal”?

Arnoud

Deel dit artikel

  1. Het probleem in deze is dat je statistieken scheef gaan op een gegeven moment. Door te focussen op één groep blijkt dadelijk dat Roemenen meer crimineel zijn dan Nederlanders. Op dat moment gaat de politie kijken naar Roemenen en minder naar Nederlanders. Het is een zeer slechte zaak als men nu gewoon agenten inzet dat is beter ogen en oren open dan pak je het beter aan.

    • De politie kijkt sowieso al minder naar Nederlanders, want tegenwoordig zijn de meeste Nederlanders (en dan doel ik even op die zonder autochtone achtergrond, want die mét pakken ze toch wel) gespecialiseerd in oplichten e.d. En daar is onvoldoende recherche voor. Dus ze letten al minder op Nederlanders en meer op autochtonen/buitenlanders.

  2. Wat is het alternatief? Feit is dat er geboefte bestaat dat gebruikmakend van de openheid van onze samenleving haar slag slaat. Statistisch gezien heeft dat geboefte objectief te identificeren kenmerken. Zeker als er persoonsonafhankelijke kenmerken worden gebruikt voor de analyse (dus niet huidskleur) bijvoorbeeld, dan is dat toch alleen maar toe te juichen? Bovendien het levert indicaties op voor controle: niet voor klemrijden door arrestatieteam. De rechtsbescherming zit in het moment van eerste contact. Is er niets aan de hand dan vervolgt de auto met inzittenden haar weg.

    Alternatief: bromsnor gaat daar staan en gaat voertuigen en personen controleren op basis van zijn intuïtie. Aanzienlijk minder objectief. Neen Arnold, ben het veelal met je eens maar dit geval niet. Je kan niet de hele maatschappij digitaliseren en opener maken en dan de controle een eeuw achter laten lopen.

    • Het probleem is dat “95% van het geboefte is Roemeen” niet de conclusie rechtvaardigt “95% van de Roemenen aanmerken als vermoedelijk geboefte”. Want dat is wat er gebeurt met dit soort systemen. En nee, je wordt niet meteen preventief ingesloten maar het is wel heel hinderlijk als je bij elk bezoek eruit gevist wordt en moet rechtvaardigen waarom je naar Roermond gaat met een Duitse auto. Ik wist niet dat ik redenen nodig had om naar Roermond te gaan.

      • Het probleem is dat de politie op hun successen wordt afgerekend.

        Als 95% van de daders in jouw onderzoek Roemeen is, dan kan je tijd en middelen effectiever inzetten door in je voorspel model die nationaliteit zwaar mee te wegen. Dat betekent niet automatisch dat je 95% van de roemenen moet controleren, die 95% van de criminelen kan best maar 5%* van de bezoekende Roemenen zijn, daar zegt die statistiek namelijk verder niets over. Het betekent wel dat je pakkans omhoog gaat voor Roemenen en zeer waarschijnlijk omlaag voor niet Roemenen. Netto zal het echter de pakkans ten goede komen en is er dus een sterke prikkel voor de politie om dit te doen.

        Het model zal dus altijd meer voorspellers moeten hebben om ook in de groep Roemenen een verdere schifting aan te kunnen brengen. En op basis van die andere voorspellers kan ook een niet Roemeen naar de kant gehaald worden. Als dat laatste niet zo is en ‘is Roemeen’ als voorspeller opnemen zo dominant is dat alle andere voorspellers statistisch insignificant worden, dan heb je een groot probleem … met Roemenen!

        • Als 95% van de bezoekende roemenen crimineel zou zijn, dan is dat een goede reden om 100% van de Roemenen even aan de kant te halen, of wellicht een inreisverbod in te stellen. Maar zo droevig is het gelukkig niet.
    • Zeker als er persoonsonafhankelijke kenmerken worden gebruikt voor de analyse (dus niet huidskleur) bijvoorbeeld

      Huidskleur mag niet, maar ‘is Roemeen’ wel ? Zoekresultaat – inzien document ECLI:NL:RBDHA:2016:15014

      In de Memorie van Toelichting op het betreffende wetsvoorstel stelt de regering dat het begrip ‘ras’ moet worden uitgelegd naar de kennelijke strekking van artikel 1 van het IVUR.19 In artikel 1, eerste lid, van het IVUR wordt onder “rassendiscriminatie” verstaan elke vorm van onderscheid, uitsluiting, beperking of voorkeur op grond van ‘ras’, ‘huidskleur’, ‘afkomst’ of ‘nationale of etnische afstamming’.

      • Ik had altijd begrepen dat het niet gaat om nationaliteit in de zin van onderdaan van een land zijn, maar om een nationaliteit in de zin van een etnisch of anderszins afgebakende groep. Hoe zeg je dat, ‘Belg’ is geen bijzonder persoonsgegeven maar ‘Vlaming’ wel. Maar ik kan er geen bron meer van vinden.

        Onder de Wet politiegevens (artikel 5) mogen dit soort gevoelige gegevens alleen worden verwerkt “in aanvulling op de verwerking van andere politiegegevens en voor zover dit voor het doel van de verwerking onvermijdelijk is.” Hier zou je dan zeggen, het is onvermijdelijk gezien de statistisch opvallende piek bij afkomst van gepakte winkeldieven. Maar dat is volgens mij dus een “95% van de boeven is Roemeen dus 95% van de Roemenen is boef” redenering.

  3. Het voordeel van een geautomatiseerd systeem is dat er geen persoonlijke vooroordelen bij een tot-staande-houding komen. Hiermee wordt de agent in kwestie dus een discussie bespaard. Het nadeel van een geautomatiseerd systeem is dat het slechts zo goed is als de data waarmee het gevoed wordt. En om (zoals We Are Borg hierboven al schrijft) te voorkomen dat 1 groep het slachtoffer wordt, heb je dus meer data nodig. Nu komt de grote uitdaging, de data die de politie ontvangt, komt van winkeliers die winkeldieven staande houden en aangifte doen. De winkeliers hebben echter wel de nodige vooroordelen, waardoor de data dus al vervuild is nog voordat er enige AI/BI bij komt kijken.

    Big Data is leuk, maar als je er rommel in stopt, moet je niet vreemd kijken als er onzin uit komt.

  4. Zolang we geen drones hebben rondvliegen die mensen arresteren en naar het bureau brengen, zal het wel meevallen met je doemscenario. De politie heeft niet een oneindige capaciteit om mensen aan te houden. Maar goed ze hebben dus een systeem dat Roemenen in Roermond herkent gemaakt plus wat extra’s om de kern te verbloemen?

  5. En hou zouden jullie het vinden als Nederlanders in Antwerpen elke keer moeten stoppen voor ‘toevallige’ politiecontroles?

    En wat kan de politie doen als het systeem een verdachte auto opmerkt? De auto controleren? Goede middag heren, wat komen jullie doen? Winkelen!. OK, prettige dag nog verder.

    Je kunt mensen ervan verdenken dat ze iets illegaals van plan zijn. En misschien heb je nog gelijk ook. Maar je kunt pas optreden als ze het ook werkelijk doen.

    • Wij reden altijd in een politiefuik als we van Belgie terugreden naar Nederland (Baarle-Nassau) in een Nederlandse auto. Dit omdat een onevenredig hoog Nederlandse kentekens over die weg illegaal vuurwerk vervoerde.

      En het was inderdaad: Prettige dag nog verder! (Behalve de eerste keer, toen we strijkers meenamen :))

      Als die Roemenen werkelijk hoofdzakelijk toeristen waren, dan merken we dat in teruggelopen inkomsten en verminderd toerisme. Ik denk dat dat wel meevalt :).

        • Een Nederlandse politie agent dirigeerde bepaalde auto’s in een fuik. Dit waren voornamelijk de Nederlandse nummerplaten (Belgen en lokale enclave-bewoners mochten doorrijden), met mannen of jonge gezinnen (naar mijn idee geprofileerd op vuurwerksmokkel). De agenten doorzoeken de gehele auto, inclusief kofferbak. Ik had het idee dat ze dat mochten, maar ik was nog niet zo op de hoogte van de wet, en mogelijk was het vrijwillig: “Ik ga even in uw kofferbak kijken, ok?” (weinig mensen die dan ‘nee!’ zeggen). Er stond een speciale container paraat waar alle vuurpijlen en strijkers werden ingemikt, dus het leek me duidelijk dat ze specifiek op vuurwerksmokkel uit waren.

          Spreken eind jaren negentig en begin 00’s. Het was erg populair om daar vlak op de grens vuurwerk te halen (werd heel het jaar verkocht).

  6. Ik vindt het wel een vrij specifiek profiel, duitse auto, Roemeense sims.

    Ik ben er nog nooit geweest maar gaan mensen echt 1800km in de auto zitten om daar te gaan winkelen (tussendoor een auto in duitsland halen 😉

    Voor de koopjes ga je dan niet want 1800km * 4 red je nog niet al geven ze de spullen gratiz!

    Maar probleem is wel dat er dus iemand zegt dan combinatie van x, y & z opmerkelijk is en we daar iemand naar moeten laten kijken. Nu is dat nog te overzien. x = duitse auto, y = 4 en z = romeense sims. Straks hebben we een zwarte doos waar 6 keer het hele alfabet in gaat en een ja nee stuur bromsnor uit komt. Of een enum met opties bromSnor, arrestatieTeam, bijzondereBijstand Nu is het potentieel nog meetbaar en in een excel sheetje te plaatsen x, y, z, inzet bromsnor, resultaat, straks is dat eens tuk minder, computer says enum.arrestatieTeam. Uiteindelijk zal er toch resultaat gericht gekeken moeten worden. 600 keer bromsnor = 600 keer 4 omatjes = niet nuttig. Groot gevaar is natuurlijk wel dat een onschuldige meneer uit rusland echt niet heeft ingebroken en dat het echt niet zijn schuld is dat enum.bijzondereBijstand al zes keer bij politici op de stoep staat. Op zich ben ik wel voor want uiteindelijk is het een potentieel nuttig middel.

  7. Het preventief controleren van potentiële dieven lijkt me niet zo erg zinvol. Die krijgen snel genoeg in de gaten dat ze bij Roermond veel aandacht van de politie krijgen, en wijken dan uit naar een ander winkelcentrum waar veel te halen valt. Daarmee wordt het probleem alleen maar verplaatst.

    Ik kan me overigens niet goed voorstellen hoe je (bij controle na een diefstal) een tas gestolen kleding onderscheidt van een tas gekochte kleding. Bonnetjes is niemand verplicht te bewaren. Heeft de politie daar een truc voor?

    • Als de omstandigheden het vermoeden rechtvaardigen dat de kleren gestolen zijn, ben je verplicht om dat vermoeden te weerleggen. Hier een voorbeeld van iemand met een rolex en €20.000 contant op zak, die daar geen goede verklaring voor kon geven en dus veroordeeld werd voor witwassen. Als je dus het bonnetje hebt weggegooid zul je op een andere manier moeten bewijzen dat de kleren legaal verkregen zijn, bijvoorbeeld met een bankafschrift of een verklaring van de winkel. Ergo: als je samen met drie vrienden voor duizenden euro’s kleding gaat kopen in Roermond en vervolgens op hoge snelheid terug naar Duitsland rijdt, is het verstandig het bonnetje even te bewaren.

  8. Het vervelende is, je komt dan vrijwel direct in een hellend-vlakargument terecht.

    Een hellend vlak argument wordt vaak automatisch als drogreden weggezet. Dit is echter alleen zo als men het afglijden als een zekerheid presenteert, terwijl er ook andere uitkomsten mogelijk zijn. Of als waarschijnlijkheid, terwijl dit helemaal niet waarschijnlijk is.

    Helaas hebben we de afgelopen jaren allemaal kunnen constateren dat als het om de overheid en data gebruik gaat er voldoende basis is om realistische zorgen te hebben over een hellend vlak. De overheid heeft is de afgelopen jaren niet als de meest betrouwbare partner/partij geweest.

    Volkomen legitiem dus om in deze een hellend vlak argument te maken.

  9. Dat de criteria objectief zijn is natuurlijk ook onzin. Want wie legt er vast, welke criteria je gebruikt? Vandaag past het duitse kenteken en een roemeense sim-kaart de ontwikkelaars van het systeem niet, wat past er morgen niet? Sorry, maar de invoering van dit soort systeme, vooral als ze zo leuk en onschuldig zijn gemotiveerd, is een verdere stap naar de beperking van de vrijheden en rechten van alle mensen die in nederland verblijven.

    Een uiterst gevaalrijke ontwikkeling, een stapje op de met groene zeep ingesmeerde helling. Betreden kan, maar je eindigt altijd in de put.

  10. Ik zie nut in het maken van cameraopnamen om deze daarna selectief te bekijken ter opsporing van verdachten; eveneens van het opslaan van kentekens van de voertuigen die door verdachten gebruikt worden. Maar op het moment dat personen preventief ondervraagd gaan worden op basis van “kentallen” dan spreek over intimidatie, niet meer over opsporing.

  11. Ik vind het wel stoer: De crimineel gaat ook met de tijd mee, dus waarom de politie niet?

    Zolang de factoren duidelijk en objectief zijn — Zou een agent met dezelfde informatie eenzelfde beslissing nemen? — dan juich ik het toe.

    Ik geef wel toe dat bias/discriminatie in dit soort systemen erg naar kan zijn: Een model heeft een zekere autoriteit, een aura van objectiviteit. Als er dus enige discriminatie zit in de labels of features, dan formaliseerd een model dit. Best eng om daar een uiteindelijke beslissing over te moeten nemen.

    Bij de implementatie van een documentfraudesysteem liep ik tegen het volgende aan: De voorspellingen van het model werden te vaak klakkeloos overgenomen. Hoewel meer fraudeurs werden gepakt, liep het aantal valse positieven ook enorm op. En de extra aandacht zorgde ook voor meer grensgevallen: Misschien niet duidelijke identiteitsfraude, maar een ander pietluttig ding werd wel gevonden. Volg iemand voor 10km op de snelweg en je vindt altijd wel 1 overtreding.

    Onze oplossing was het model in te zetten als second opinion: Als de fraude analyst een applicatie verdacht vond, dan pas gaven we de score/voorspelling met uitleg (“gebruikt eenzelfde IP address als een voorgaande fraudeur.”). Dit zorgde wel voor betere bias-vrijere beslissingen. Een soortgelijke oplossing zou mogelijk zijn voor Roemeense criminelen.

    Edit: Ik zie Geenstijl voornamelijk als anarchistisch (een traditioneel Linkse stroming), maar inderdaad flirten ze met alt-right op moment.

      • Sowieso is die focus op grenzen en internationale verplaatsingen een rare en misplaatste focus. Een terrorist of andere internationale crimineel zal zijn internationaal reizen zoveel mogelijk beperken, en als het toch moet, bewust een variant met een laag risico kiezen.

        Ik durf de stelling wel aan dat je meer potentieel gevaarlijke personen pakt bij een controle op een willekeurige snelweg of een willekeurige trein midden in het land dan bij een controle aan een landsgrens.

  12. Hebben ze dit nu zoveel genuanceerder in het NOS Journaal uitgelicht? Dat ben ik niet gewend, maar ben plezierig verrast.

    Wat ik uit het NOS Journaal begreep is dat de data over het aan komen rijden (wel of niet een gehuurde auto, van waar komt deze gehuurde auto, hoeveel inzittenden, etc…) inderdaad een grote rol speelt. Maar ik heb nog geen bron gevonden die het dan heeft over het ‘staande houden’ alleen op basis van deze informatie.

    Ze hadden het ook nog over camera-toezicht in het winkelcentrum zelf, om zo het gedrag van het winkelend personeel ook te kunnen profileren (ook heel Big Brother, dat wel). Zakkenrollers en winkeldieven hebben namelijk andere gedragspatronen dan regulier winkelend publiek. En als je al deze data bij elkaar zet, pas dan komt de echte score eruit en zou de politie eens iemand op de schouder tikken.

    Al met al heel erg Big Brother en eng, maar veel nauwkeuriger opgezet dan alleen maar auto-scores en dan aan de kant van de weg houden, zoals hier gesuggereerd lijkt.

    • Ze hadden het ook nog over camera-toezicht in het winkelcentrum zelf, om zo het gedrag van het winkelend personeel ook te kunnen profileren (ook heel Big Brother, dat wel)

      Als dat de primaire factor zou zijn, zou het voor mijn gevoel al veel beter zijn. Klinkt veel meer als gelijke behandeling (dan profileren op afkomst), hoewel er bij gebruik van AI dan nog steeds een flink risico is dat die stiekum toch discrimineert op nationale of etnische kenmerken.

      Ik begin me wel steeds meer af te vragen hoe erg dat zou zijn. Juridisch lijkt dat totaal verboden. Maar stel: van de winkelden met etnische achtergrond A blijkt 1% niet af te rekenen en van de shoppers uit land B is dat 10%; als computer dan bepaalt dat personen met verdacht gedrag uit groep B een 10x grotere kans op controle/aandacht krijgen dan zulke personen uit groep A is dat heel erg? (groep A even groot als B)

      Als we vertrouwen hebben dat een AI systeem eerlijk statistiek toepast, is dat misschien ook beter te accepteren. Ik denk dat ik als eerlijke deelgenoot van groep B de extra aandacht nog steeds vervelend zou vinden, maar het wel zou begrijpen en niet snel het gevoel zal krijgen dat ik alleen wordt gecontroleerd omdat een agent een haat heeft tegen deelgenoten van groep B.

      • Het gaat nooit over “10% van de shoppers uit land B doet iets dat niet mag”, maar eigenlijk altijd over “10% van de criminelen komt uit land B”. En die twee kun je niet omkeren. (Hoe zou je ook onderzoeken of 10% van een land zo’n crimineel kenmerk heeft?) Dat is waarom etnisch profileren verboden is: het is het trekken van een verkeerde conclusie, vrijwel altijd op basis van kenmerken bij geconstateerde criminaliteit.

        Zelfs wanneer het kenmerk nu wel bij de groep aanwezig is (bijvoorbeeld omdat die erg homogeen en geconcentreerd is, zeg “politieagenten van Finse afkomst zijn vaker corrupt” dan blijf je zitten met hoe dat in de toekomst zich gaat ontwikkelen. Want als je vanaf dat punt een AI dit criterium laat handhaven, dan krijgt die groep dit tot in de eeuwigheid nagedragen. Zeker omdat hij bij controles significant vaker corruptie zal vinden bij die groep, waardoor de focus verschuift naar die groep (je hebt immers maar beperkte opsporingscapaciteit bij de Rijksrecherche) en je dus automatisch vaker bij die groep corruptie vindt. Zo versterk je het beeld van bias, en daar komt de groep nooit meer vanaf.

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS