Wat, worden klanten nu ook al gerecenseerd?

| AE 7421 | Informatiemaatschappij | 12 reacties

Niet onbeleefd doen tegen je Uber-chauffeur, las ik bij Slashdot: straks geeft hij je een laag cijfer en dan krijg je nooit meer een illegale taxi, pardon een dienst bij een disruptieve innoveerder. En ja dat is een probleem, las ik in de New York Times, dat het voorbeeld noemt van een meneer met onverwacht een slechte rating die drie weken geen Ubertaxi meer krijg. Wacht even, worden klanten nu ook al gerecenseerd?

Nou ja, het was te verwachten. Als mensen cijfers geven aan dienstverleners, dan is het logisch dat die omgekeerd ook cijfers gaan geven aan hun klanten. En dan krijg je situaties dat mensen alleen nog willen ridesharen of spullen willen uitlenen aan personen met hoge cijfers. Of, nog interessanter: dat iedereen elkaar alleen nog een vijf uit vijf geeft. “When services choose whom to serve, no one wants to be labeled difficult.”

Mag dit? Ja, in principe wel. Bijhouden hoe een klant zich gedroeg, is legitiem. Ook als je bedenkt dat een cijfer over een persoon een persoonsgegeven is, want je kunt verdedigen dat deze verwerking nodig is in verband met de uitvoering van het contract en dat is een grondslag voor verwerking. Maar je moet wel de klant vooraf mélden dat je dit doet, en inzage geven (plus correctie indien gegevens onterecht zijn) in de vastgelegde gegevens.

Discutabeler wordt het als je de rating gaat gebruiken om de klant de volgende keer te weigeren, want dát is verboden onder de Wbp. Artikel 42 lid 1:

Niemand kan worden onderworpen aan een besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem in aanmerkelijke mate treft, indien dat besluit alleen wordt genomen op grond van een geautomatiseerde verwerking van persoonsgegevens bestemd om een beeld te krijgen van bepaalde aspecten van zijn persoonlijkheid.

“Computer says no” is dus geen argument. Er moet een mens bij betrokken zijn geweest, en er moet zijn uitgelegd hoe de computer bij dat nee kwam. (Maar ja. De computer says nog steeds no, dus daar sta je dan.) Dus dit is weer zo’n geval waar de wet vrij duidelijk is maar de geautomatiseerde praktijk daar vrolijk overheen fietst.

Persoonlijk ben ik vooral geïntrigeerd door dat “It’s a Barney world,” in het NYT-artikel. Als iedereen elkaar lief vindt en iedereen elkaar maximaal ratet, dan heeft raten geen enkele zin meer. Maar zodra er wél zinvol gerate wordt, gaat het mis want dan filteren mensen op die basis en sta je als persoon in de kou. Ik denk niet dat daar een juridische oplossing voor is, maar een praktische kan ik ook niet bedenken. Dat wordt dus nog een uitdaging.

Arnoud

Deel dit artikel

  1. Ik vind dat wel kort door de bocht van jou. De verschillende ratings over een klant worden door de Uber-chauffeurs gegeven. Daar komt per klant één score uit, waarschijnlijk een simpel gemiddelde. Als je dat transparant op de website doet, zou je door kunnen klikken op het gemiddelde om alle (recente) ratings te bekijken (maar dan zie je juist weer de persoonsgegevens van de andere kant).

    Dat is verre van persoonsgegevens volautomatisch verwerken en op basis daarvan een persoon er uit pikken.

    Ik betwijfel ook dat de computer simpelweg ‘nee’ zegt, maar gewoon de gemiddelde rating weergeeft aan de chauffeur.

    • Het geautomatiseerde aspect zit hem in het wegfilteren van chauffeurs door je rating-filter op “>4.5” te zetten en de rest botweg te negeren. Dat voelt voor mij als té geautomatiseerd iemand negeren, in plaats van z’n ratings te bekijken en dan te zeggen “ik snap de 3.5 en ik wil geen zaken met ‘m doen” of juist “ik ben het oneens met die reviewers en probeer ‘m toch graag ondanks de 3.5” want die genuanceerde afweging is wat de wet van je verwacht.

      Tegelijk besef ik me nu dat dit privépersonen zijn die de analyse doen, en voor je eigen gebruik mag je qua privacy doen wat je wil. De Wbp geldt niet voor strikt privéverwerking. Dus wat dat betreft was ik wel te streng ja.

  2. Op sites als freelancer (.com) worden toch al jaar en dag zowel kopers als verkopers van diensten door elkaar geratet? Hoe is dit anders?

    Je ziet (daar) inderdaad wel dat de rating nogal zwart-wit is. Ofwel “would totally work with this guy again!” ofwel .. geen enkele reactie. Het zou interessanter worden wanneer tegenover de rating (en het aantal) staat hoe vaak iemand de dienst gebruikt heeft.

  3. Het schijnt zo te zijn dat mensen niet zozeer anderen leuk vinden die zich aan strikte morele normen houden, maar vooral mensen die zich aan de zelfde morele normen houden als zij zelf. Mensen die zich aan minder strikte normen houden zijn niet te vertrouwen, en mensen die zich aan striktere normen houden creëren een oncomfortabele sociale druk dat je zelf ook aan die striktere normen moet voldoen.

    Een rating systeem zou dus wat zachter gemaakt kunnen worden als ratings niet absoluut zijn, maar een soort “web of trust” vormen. Je krijgt dan waarschijnlijk een soort virtuele communities, waarbinnen mensen de zelfde normen hanteren en elkaar vertrouwen, en waarvan alleen de meer multicultureel vaardige leden ook goede ratings hebben in andere communities.

    De kans is dan klein dat iemand echt helemaal wordt buitengesloten. Je kunt wel krijgen, vooral buiten de grote steden, dat “afwijkende” mensen maar heel weinig taxi’s zullen kunnen krijgen. En het is natuurlijk maar helemaal de vraag of je dit soort segregatie wel moet willen, waarbij mensen alleen maar met “ons soort mensen” om gaan.

    • Aangezien we discriminatie ergens in een wet verboden hebben, vermoed ik dat we ooit met elkaar afgesproken hebben dat we dat soort segregatie niet willen. Maar mensen zijn natuurlijk vrij om het daar niet mee eens te zijn.

      In het originele artikel op the New York Times staat verder nog uitgelegd dat op een dergelijke manier beoordelen van je klanten de betrouwbaarheid van reviews ondermijnt: het in het artikel gegeven voorbeeld van het Tropica Hotel is erg illustratief. De gewone reviews geven een totaal ander beeld van het hotel dan de Airbnb reviews.

  4. Maar hoe zit het dan met het smadelijke aspect? Dat was altijd een vlieger die niet opging bij recenties omdat bedrijven nu eenmaal, uhm, bedrijven zijn. Maar consumenten zijn dat niet.

    Daarnaast lijkt me dit net zo verboden als dat alle supermakten onderling ook niet een zwarte lijst mogen opstellen met winkeldieven. (Of mag dat wel, en ben ik abuis?)

  5. Bijhouden hoe een klant zich gedroeg, is legitiem. Ook als je bedenkt dat een cijfer over een persoon een persoonsgegeven is, want je kunt verdedigen dat deze verwerking nodig is in verband met de uitvoering van het contract en dat is een grondslag voor verwerking.

    Is deze grondslag voldoende om andere partijen ook toegang tot de verzamelde persoonsgegevens te geven? Voor het uitvoeren van het contract tussen een klant en een chauffeur lijkt het me niet noodzakelijk dat de platformexploitant en andere chauffeurs deze gegevens ook mogen inzien en gebruiken.

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS