Wat, worden klanten nu ook al gerecenseerd?

| AE 7421 | Informatiemaatschappij | 12 reacties

Niet onbeleefd doen tegen je Uber-chauffeur, las ik bij Slashdot: straks geeft hij je een laag cijfer en dan krijg je nooit meer een illegale taxi, pardon een dienst bij een disruptieve innoveerder. En ja dat is een probleem, las ik in de New York Times, dat het voorbeeld noemt van een meneer met onverwacht een slechte rating die drie weken geen Ubertaxi meer krijg. Wacht even, worden klanten nu ook al gerecenseerd?

Nou ja, het was te verwachten. Als mensen cijfers geven aan dienstverleners, dan is het logisch dat die omgekeerd ook cijfers gaan geven aan hun klanten. En dan krijg je situaties dat mensen alleen nog willen ridesharen of spullen willen uitlenen aan personen met hoge cijfers. Of, nog interessanter: dat iedereen elkaar alleen nog een vijf uit vijf geeft. “When services choose whom to serve, no one wants to be labeled difficult.”

Mag dit? Ja, in principe wel. Bijhouden hoe een klant zich gedroeg, is legitiem. Ook als je bedenkt dat een cijfer over een persoon een persoonsgegeven is, want je kunt verdedigen dat deze verwerking nodig is in verband met de uitvoering van het contract en dat is een grondslag voor verwerking. Maar je moet wel de klant vooraf mélden dat je dit doet, en inzage geven (plus correctie indien gegevens onterecht zijn) in de vastgelegde gegevens.

Discutabeler wordt het als je de rating gaat gebruiken om de klant de volgende keer te weigeren, want dát is verboden onder de Wbp. Artikel 42 lid 1:

Niemand kan worden onderworpen aan een besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem in aanmerkelijke mate treft, indien dat besluit alleen wordt genomen op grond van een geautomatiseerde verwerking van persoonsgegevens bestemd om een beeld te krijgen van bepaalde aspecten van zijn persoonlijkheid.

“Computer says no” is dus geen argument. Er moet een mens bij betrokken zijn geweest, en er moet zijn uitgelegd hoe de computer bij dat nee kwam. (Maar ja. De computer says nog steeds no, dus daar sta je dan.) Dus dit is weer zo’n geval waar de wet vrij duidelijk is maar de geautomatiseerde praktijk daar vrolijk overheen fietst.

Persoonlijk ben ik vooral geïntrigeerd door dat “It’s a Barney world,” in het NYT-artikel. Als iedereen elkaar lief vindt en iedereen elkaar maximaal ratet, dan heeft raten geen enkele zin meer. Maar zodra er wél zinvol gerate wordt, gaat het mis want dan filteren mensen op die basis en sta je als persoon in de kou. Ik denk niet dat daar een juridische oplossing voor is, maar een praktische kan ik ook niet bedenken. Dat wordt dus nog een uitdaging.

Arnoud