Alweer controle bij de zelfscankassa? Mogelijk vindt AI je gedrag verdacht

Cashierless supermarket self-checkout” by CoCreatr is licensed under CC BY-SA 2.0

“Er komt meer cameratoezicht in alle winkels en er komen meer en slimmere steekproeven bij zelfscankassa’s”, las ik bij PrivacyNieuws. Men citeert supermarktketen Jumbo, dat AI-technologie wil gaan inzetten voor gerichte steekproeven bij de zelfscankassa. Hoe zinnig is dat?

Vrijwel alle supermarkten hebben zelfscankassa’s. Dat scheelt immers een hoop geld aan salarissen voor cassières (m/v/x), maar je krijgt er wel meer winkeldiefstal voor terug. Daar moet technologie dan een oplossing voor bieden, en het breed gedragen gevoel is dan dat een steekproef gebaseerd op willekeur niet goed genoeg werkt. Daarom de greep naar AI.

Het lijkt erop dat men niet gaat controleren op kenmerken van de persoon, maar op gedrag:

Retaildeskundige Eelco Hos legde begin dit jaar in het Brabants Dagblad uit hoe dit soort AI-controlesystemen eruit kunnen zien. Camera’s zouden kunnen checken wat de klant koopt en scant. Als een product dan niet wordt gescand, vraagt het zelfscanapparaat de klant om dat alsnog te doen. Een andere mogelijkheid is dat een medewerker door de computer wordt gewaarschuwd als iemand niet alles afrekent. Een camera bij de kassa maakt dan een foto van de winkelmand aan de kassa.
Deze aanpak heeft in ieder geval niet het nadeel dat men gaat proberen een AI te leren hoe “een gemiddelde winkeldief” eruit ziet – een fundamenteel onjuiste aanpak. Het leidt natuurlijk wel tot een enorme berg aan extra camera’s, en het trainen van een model dat scant wat iemand uit het rek pakt is ook niet triviaal (denk aan terugleggen of 2 stuks pakken, of een donkere verpakking in de hand van een persoon van kleur).

De geciteerde zorg van Bits of Freedom is inderdaad niet onterecht:  “Je hoeft maar een verkeerde beweging te maken en je kunt onterecht als verdacht worden aangemerkt.” Als de camera niet helemaal goed ziet welk product je pakt, dan zal de kassa een discrepantie zien tussen jouw mandje en de werkelijkheid in het systeem, en dat pakt altijd in het nadeel van de klant uit. De Jumbo heeft hier nog geen nadere uitleg over gegeven.

Arnoud PS: Lezen hoe het wel moet? Mijn boek AI and Algorithms gaat in detail in op de juridische en ethische randvoorwaarden van inzet van AI.

33 reacties

  1. Heb ik straks als consument ook recht op uitleg wanneer ik er uit gepikt wordt? En uiteindelijk dus ook inzage in het model, de bron code, de trainings sets?

    En als ik de foutieve informatie van het model wil corrigeren, kan ik dat dan eisen?

        1. De vraag is, is die ernstig genoeg? Artikel 22 AVG verbiedt dit immers alleen als het gaat om een “besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.” Een besluit je boodschappen te scannen geeft geen rechtsgevolgen, dus komt het neer of dit je ‘in aanmerkelijke mate’ treft.

          Ik ben geneigd te zeggen van niet: bij een menskassa scannen ze ook al je producten, dus netto ben je niet slechter af dan bij de menskassa.

          Zelf had ik denk ik het beeld dat ze bij zo’n controle ook ín je tas gaan kijken. Het leek mij logischer dat je bij een vermoeden van fraude ook wil zien of men niet-gescande producten verstopt heeft, en de huisregels stellen dat ze in je tas mogen kijken. Maar het is mij in ieder geval nog nooit overkomen.

              1. Ik vind het knap vervelend, en vermijd om die reden dus zelfscankassa’s.

                Ik snap ook eigenlijk niet goed waarom de supermarkten het doen. Kosten? Daar geloof ik niks van.

                Wat kost een kassamedewerker (student/scholier) nu eigenlijk? 15 of 20€ per uur? En hoeveel verlies is er doordat er eerlijk per ongeluk producten niet gescand wordt? En hoeveel opzettelijke diefstal komt daar nog bij die door zelfscan gemakkelijker wordt gemaakt en daardoor meer zal zijn dan bij een kassamedewerker?

                1. De kosten van medewerkers is wel degelijk een factor, maar wat ook meeweegt is dat medewerkers ziek zijn, niet goed opletten et cetera. Het maakt het leven voor de filiaalmanager dus makkelijker, zo’n zelfscankassa.

                  Ook is de doorstroom sneller dan bij de menskassa, waardoor je meer klanten per uur kunt verwerken. Fun fact: het winkelwagentje is om precies diezelfde reden uitgevonden. In 1937 zag ene Sylvan Goldman dat winkelbezoekers stopten met producten pakken als ze de handen vol hadden. Door ze een wagentje te geven, konden ze meer pakken en dat deden ze ook.

                2. Het grote voordeel van een handscanner vind ik dat ik gelijk mijn boodschappen in de verschillende tassen in mijn wagentje kan doen, op mijn gemak i.p.v. gehaast bij de kassa, en dat het minimaal een keer boodschappen verplaatsen (uit het karretje op de band en na de band weer terug) scheelt.

  2. Een veel betere optie zou zijn het systeem dat ik in het buitenland tegenkwam: zelfscankassa’s met een weegschaal voor jouw boodschappentas ernaast. Als je een product scant en die in jouw tas legt (verplicht), en het gewicht klopt niet (tot op de gram +/- 2) dan een signaal dat je het verkeerde product hebt toegevoegd of iets dergelijks. Het is vrij moeilijk om dat systeem te omzeilen…. Heb je nog wel een medewerker nodig om toezicht te houden of iemand ‘iets vergeet te scannen’, maar dat heb je bij AI-camera’s ook nodig.

    1. Ik zie een paar problemen bij dat systeem. Niet iedere tas weegt hetzelfde. Dus dan zou je bij binnenkomt de (deels) lege tas moeten wegen. En dan doet iemand een flesje water in zijn tas, drinkt dat in de winkel op, en kan vervolgens wat extra grammen meenemen. Ook zijn er veel lichte dure producten, als je een kar vollaad met kratten bier, grote verpakkingen wasmiddel, zakken aardappelen, dan vallen de scheermesjes die je “vergat” te scannen binnen de foutmarge.

      1. Eens. Het is natuurlijk nooit waterdicht te maken (denk ik). In het genoemde systeem (bij een Lidl overigens) zet je eerst je tas op de weegschaal, dan ga je de artikelen scannen en in je tas doen. Het systeem weet dus het gewicht van jouw tas, en kijkt alleen maar naar de verandering in gewicht. Je kunt ook niet 2 (verschillende) artikelen scannen en die dan samen in de tas doen; je kunt natuurlijk wel 3 of 4 dezelfde artikelen scannen en dan die tegelijk in je tas doen. Ik heb eerlijk gezegd geen kratten bier of dergelijke daar gehaald. Hoe ze daar mee om gaan durf ik niet te zeggen, maar die in je tas proppen lijkt me niet aannemelijk 😀

      2. De tas telt mee voor de nulmeting: die moet je neerzetten voor je begint te scannen.

        En nee, het helpt niet om een flesje leeg te drinken. Het gaat om het gewicht per product dat je 1 voor 1 in de tas stopt en dat voor dat ene product moet kloppen (extra gewicht in tas) met wat net is gescand (barcode).

        Maar ja, elke beveiliging is te omzeilen. Al zou je iedereen een personal shopper meegeven, iemand die graag genoeg wil gaat wat jatten. Maar het gaat hier niet om 100% beveiliging.

    2. De Lidl op Ibiza had zo’n systeem. Het werkt uitermate klant onvriendelijk. Er moest ook continu een medewerker naast staan om te helpen. Als ik een keer geen tas bij me heb dan pak ik ergens een lege kartonnen doos uit de winkel. Dat was meteen helemaal fout. Bovendien, b.v. een paprika betaal je per stuk. soms weegt zo’n ding 40 gram en soms 80. Heb ik er dan 1 of 2 gekocht volgens de kassa?

  3. Om eerlijk te zijn, ik heb daar weinig problemen mee. De zelfscankassa’s hebben veel kortere wachttijden en ik kan de tijd nemen om af te rekenen en aan de kassa mijn aankopen in te pakken. Mijn lokale Jumbo beperkt mij daarnaast tot maximaal 15 producten dus dat betekent dat ik alleen koop wat ik echt nodig heb.

    Daarnaast weet ik dat bol.com heel veel producten verkoopt die ook in de supermarkt worden verkocht. Blikjes cola, gemalen koffie, senseo, afwasmiddel, waspoeder, pleisters, vitaminen en veel andere artikelen kan ik zo bestellen en dan wordt het ook nog thuis bezorgd! Dus de supermarkt is alleen voor broodjes, groenten en andere, kleine producten.

    Daarnaast ga ik ook vaak naar de Hanos groothandel of gewoon de slager als ik vlees en vleeswaren nodig heb. (En soms dingen als hotel-verpakkingen hagelslag, boter en jam. Handig, die kleine porties.) Ik koop dan vaak veel in om in de vriezer te stoppen zodat de supermarkt echt alleen maar kleinigheden aan mij verkoopt.

    Maar waar ik mij zorgen om maak is de hoeveelheid gegevens die de supermarkt over mij kan verzamelen dankzij de klantenpas en de betaalautomaat in combinatie met mijn lijst van boodschappen en dan nu ook die camera die mijn gedrag registreert. Dat is best veel van mijn privè-gegevens. En waar zijn de algemene voorwaarden die de Supermarkt dus heeft als ik daar naar binnen ga en ga kopen? Want bij online kopen is dat wel te vinden. Maar een fysieke winkel moet deze toch ook aanbieden aan klanten voor ze naar binnen gaan? 😀

    1. De lokale super heeft nog drie ouderwetse kassa’s en de rest is zelfscan.

      In het begin was er een enorme rij bij de – ton nog maar twee – gewone kassa’s die maar niet wegging. Wat bleek, ik woon in een buurt waar heel veel mensen, net als ik, contant betalen. En bij de zelfscan stond geen enkel apparaat waar je contant kon betalen. Door de lange rij gingen mensen naar de super in de aangrenzende buurt en daalde de omzet.

      Na een tweede verbouwing is er een extra kassa bij gekomen en zijn er bij de zelfscan mogelijkheden om met contant geld te betalen gekomen.

      Ik betaal vrijwel altijd en alles contant. Daar heb ik twee redenen voor: overzicht en privacy. Ik pin begin van de maand wat ik in de maand uit wil geven en kan in 1 blik zien hoeveel ik nog heb. Op mijn rekening staat altijd meer saldo en wordt gedurende de maand af en bij geschreven. Dan zou ik steeds rekensommetjes moeten maken hoeveel ik nu echt heb uitgegeven. En ten tweede ben ik bij de ING weggegaan toen die met hun plan voor gerichte reclame op hun betaalautomaten kwamen. Dat ging niet door, maar het maakte mij er wel attent op dat de bank dus mee zat te kijken waar ik mijn geld (aan) uitgaf. Ik zie niet in waarom andere banken anders zouden zijn, dus bij mijn nieuwe bank ben ik onmiddellijk begonnen met zoveel mogelijk cash betalen.

      De supermarkt heeft zo ook geen zicht op wat ik doe, want een klantenkaart weiger ik, dat beetje bonus is mijn de opgeven privacy niet waard.

  4. “Het lijkt erop dat men niet gaat controleren op kenmerken van de persoon, maar op gedrag”.

    Maar wat als de gedragingen kenmerkend zijn voor b.v. een aandoening zoals autisme?

    Ik loop altijd snel, met grote stappen en mijn motoriek is niet de meest vloeiende. Bij de Jumbo werd ik jaren lang nauwelijks gecontroleerd, maar sinds begin dit jaar soms wel 5x achter elkaar. Dat levert niet alleen vertraging op, maar er komt ook een onbekend iemand op je afstormen die vervolgens in je tas gaat graaien naar een aantal producten dat opniew gescand moeten worden. Dat is beangstigend en levert mij veel stress op, en die zelfscankassa was juist ideaal, om niet naar kassa met een mens te hoeven.

    Heb ik gewoon pech dat mijn manier van doen, kennelijk, verdacht is, of moet de AI beter getraind worden?

    1. Je hebt op zoveel levels een punt.

      Als een AI (of een medewerker, maakt eigenlijk niet uit) mensen met autisme sneller aanduidt als verdacht dan neurotypische mensen, is dat net zo fout als wanneer een AI iemand met een donkere huidskleur sneller zou aanduiden als verdacht. Gewoon discriminatie, simpel.

      Dan is er nog het aangewezen worden als ‘verdacht’ dat stresserend is voor iemand met autisme. Die gaat waarschijnlijk stressen in de trant van ‘wat heb ik anders gedaan dan neurotypische mensen, ik heb zo mijn best gedaan om ‘normaal’ te doen?’ Ook dat element alleen is al een reden om een dergelijk systeem in te voeren.

      En dan is er nog de bejegening door (zeer junior) medewerkers die er wrsch geen rekening mee houden dat ze met een neurodivers persoon van doen hebben. Je zit al in een stress-situatie en dan komt dat er ook nog eens bij.

  5. Ik zie eerlijk gezegd niet in hoe de toepassing van AI in dit verhaal de privacy meer zo schenden dan bij de random controles die nu plaatsvinden. De AI zou er juist voor moeten zorgen dat je minder vaak gecontroleerd wordt. Om nu direct te spreken van “als verdachte worden aangemerkt” en “pakt altijd uit in het nadeel van de klant”, vind ik schromelijk overdreven.

    Als blijkt dat je met dit systeem keer op keer wordt uitgekozen voor een controle, dan kun je naar de gewone kassa gaan, een andere supermarkt uitkiezen, je gedrag aanpassen, online bestellen, of gewoon accepteren dat je vaak gecontroleerd wordt.

    Life is unfair. Kill yourself, or get over it.

    1. Als je gedrag/manier van doen, bepaald word door een aandoening, kan je dat niet aanpassen. Vind je echt dat een deel van de bevolking niet mee mag doen omdat ze niet aan het ‘normale’ profiel voldoen, zonder daar iets aan te kunnen doen? Dat is wel heel hard.

      1. Inderdaad, vergelijk het eens met een blinde. Die kun je zien als persoon met een beperking, maar ook als iemand die in de winter met een zonnebril op binnenkomt en met een stok zwaait.

        De ene krijgt begrip, de ander wordt als potentiele lastpost uit de winkel gezet.

  6. Als je in het verkeer moet blazen en je hebt niet te veel gedronken krijg je een BOB sleutelhanger. Als bij controle in de supermarkt alles blijkt te kloppen zou je ook iets mieren krijgen als excuus of als beloning, eens te meer als het systeem je blijkbaar als verdacht had aangemerkt.

      1. Zo’n benadering zou de marechaussee op Schiphol ook moeten hebben bij steekproefcontroles. Een tegoedbon voor een kopje koffie of thee met gebak, oid. Dat zou het aantal klachten over etnisch profileren bij controles behoorlijk verlagen, denk ik (of zouden dan plotseling donkere gekleurde mensen veel minder gecontroleerd gaan worden, omdat ze hen geen gratis kopje koffie gunnen?).

        1. Bij die claims over etnisch profileren moet ik toch altijd weer denken aan het experiment van Robert Kleck en Angelo Strenta uit 1980. In dat experiment rapporteerden testpersonen die dachten dat ze een (make-up) litteken in het gezicht hadden dat er naar het litteken gekeken werd.

          De conclusie van dat en vervolg experimenten was, als je iets verwacht zal je het sneller bevestigd zien.

          Ik denk niet dat een kopje koffie daar tegen gaat helpen.

          1. De bedoeling van het kopje koffie met gebak is om de ervaring een stukje prettiger te maken. Mag ook iets anders zijn, zodat gemiddeld mensen het überhaupt niet meer zo erg vinden om gecontroleerd te worden, of misschien wel hopen dat ze eruit gepikt worden voor een controle (maar als mensen rare grimassen gaan maken richting de marechaussee om dat maar voor elkaar te krijgen schiet je het doel ook weer voorbij…)

            Als de ervaring neutraal is, dan is dat etnisch profileren ook minder van belang (al blijft het natuurlijk fout).

  7. Ik neem voor het gemak maar even aan dat de AVG gerespecteerd wordt en dat er niet gecheckt wordt of Arnoud deze zaterdag opeens niet zijn gebruikelijke fles champagne afrekent.

    Maar meer in het algemeen zijn er natuurlijk wel patronen te herkennen. Net zoals webwinkels “deze producten worden vaak samen gekocht” kunnen tonen, kan zo’n systeem de kans op controle verhogen als van de vaak samen gekochte artikelen er eentje ontbreekt. En vooral als het precies het duurste is. Daar zijn dan nog niet eens camera’s voor nodig.

  8. Hoe zit het eigenlijk met dat “mag ik even uw tas controleren”? Er zijn natuurlijk die huisregels waar iets in staat, maar volgens mij geeft de wet je de mogelijkheid om te weigeren je tas te laten controleren. Als je dat doet, wat voor mogelijkheden heeft de winkelier dan nog?

    Ik heb niet zo’n moeite met een steekproef waarbij men wat producten past uit de tas die ik aan het inpakken ben (meestal wacht ik toch bij controle, dus dan ligt alles nog in het wagentje), maar als ik even snel een supermarkt inschiet voor een flesje water heb ik er geen zin in dat een of andere snuiter gaat graaien in mijn rugtas vol wapens, contant geld, drugs, bedrijfsgeheimen, medisch dossiers, sexspeeltjes en dingen waar ik echt niet mee gezien wil worden, zoals CD’s van Abba.

    Kan ik weigeren ze te laten kijken in mijn rugtas die ik niet heb gebruikt bij het winkelen?

    1. Volgens mij is het juridisch nergens expliciet geregeld of een winkel wel of niet mag eisen in je tas te kijken. Natuurlijk is die tas je eigendom, maar dat is de winkel ook dus het betreden van de winkel kan aan voorwaarden worden gekoppeld. Die voorwaarden mogen dan weer niet onredelijk bezwarend zijn, maar een tassencontrole bij een vermoeden van diefstal lijkt me niet onredelijk. Alleen is een steekproef weer niet echt een vermoeden van diefstal. Echter is een steekproef weer wel geschikt als afschrikwekkend middel naar potentiële winkeldieven. Maar dat is dan weer een vorm van strafrecht, civiel recht hoort van burgerrechten van anderen af te blijven. Alleen is een tas bekijken van een andere orde dan aan algoritmische slavernij te worden onderworpen. En zo kan ik nog wel even doorgaan.

      Er zijn geen rechtszaken waarin iemand met succes de huisregel aanvocht of bij de rechter in de tas gevonden bewijs wegkreeg met een beroep op nietigheid van die voorwaarde.

      1. Nee hoor, op mijn tas zit ook een bordje met “De eigenaar van deze tas stelt zich niet aansprakelijk voor emotionele schade als gevolg van het controleren van deze tas”. Wat zij kunnen kan ik ook tenslotte.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.