Waarom platforms en AI hand in hand gaan

| AE 10661 | Innovatie | 4 reacties

Het platform is aan een stevige opmars bezig, las ik bij HBR. Deze specifieke vorm van internetdienstverlening – van Amazon tot Twitter – heeft een heel bijzondere positie in de maatschappij en in het recht. Platforms brengen mensen bij elkaar en laten ze zaken met elkaar doen (of contact met elkaar leggen), en op de schaal waarmee dat mogelijk is, is dat ongekend. Dit geeft deze platforms een ontzettend grote macht. En vooral: heel veel inzicht in wat mensen doen. Daar wordt dan ook nog eens AI tegenaan getimmerd, en dan ga ik op zo’n vrijdagochtendfilosofischeblog door twijfelen waar het naartoe met moet dat klassieke recht.

Ik schreef er al eerder over: Internet doet me denken aan company towns, maar dan op nóg grotere schaal. Neem Facebook: je kunt er alles dat je ‘gewoon’ op internet ook kunt, alleen is alles uiteindelijk onder controle en toezicht van één bedrijf. Maar zij zijn natuurlijk niet de enige: eigenlijk is elk forum, elke sociale netwerksite, misschien wel elke website een bedrijfsdorp. Bedrijfsdorpen zijn controversieel omdat de werkgever zo ineens gigantische macht had over haar personeel. Het machtsmiddel van ontslag of loonkorting kan dan op alles ingezet worden, van niet netjes naar de kerk gaan tot bij de verkeerde winkel kopen. Iets dergelijks zie je ook bij die platforms.

Dit wordt vaak weggewoven met het argument dat je niet op zo’n platform hóeft te zijn. Je kunt toch zo weg bij Facebook, zonder angst voor ontslag en werkeloosheid? Ik vind dat naïef of arrogant als ik dat hoor. Nee, je kiest er niet voor om met zo’n dienst in zee te gaan. Je moet wel, praktisch gezien. Al je vrienden zitten er, je belangrijke dienstverleners zitten er ook en weggaan geeft je dan zó veel ongemak en gedoe dat het niet reëel is. Zeker niet voor generaties die vanaf hun jeugd opgegroeid zijn met digitale diensten.

Die platforms hebben dan ook nog eens een gigantische bak met data over hun gebruikers. Want álles wordt bijgehouden, al decennia. Onder het mom van marketing, maar vooral ook “je weet nooit wat we ermee kunnen”. En dat weten we nu wel: we kunnen er AI’s in laten spitten op zoek naar nieuwe verbanden en interesses. Analyses automatiseren die voorheen met de hand worden gedaan. Marketing, maar ook het koppelen van mensen en het bestrijden van vervelende dingen zoals trollen, haatzaaien en misbruik. De logica is onverbiddelijk:

If you look out at the world of platform companies, you will quickly find that use of AI for curation is a hallmark of the outperforming platform. An “old” platform company that provides a great counterpoint to Monster is Netflix. The streaming video company was founded in 1997, just one year after Monster went public, but has thrived in the two decades since its founding. What has kept Netflix relevant and useful to its customers? It has a long history of carefully curating content for customers. Netflix uses machine learning to make personalized recommendations, which reduce churn by keeping customers happy, and even reduce cost by allowing Netflix to better use the content it has already purchased. Netflix continues to keep AI at the forefront and is now using it to monitor and address bandwidth issues for streaming in emerging markets.

Ik vind dit zeer zorgelijk gezien de macht van deze platforms. Het is al moeilijk genoeg inzicht te krijgen in wat er gebeurt, als je dan óók nog eens algoritmes toevoegt die niet op een menselijke manier kunnen uitleggen hoe ze tot hun conclusies komen maar die wel stevige gevolgen hebben (verbannen worden, op pagina 2 komen, niet meer aangeraden worden) dan blijft er weinig over van de menselijke maat die wij als samenleving ooit voor ogen hadden.

Is er ergens een cursus rechtsfilosofie die focust op de informatiemaatschappij? Of zal ik die eens organiseren?

Arnoud

Deel dit artikel

  1. Ik ben het er niet mee eens dat je er niet voor kiest om met zo een dienst in zee te gaan. Sterker nog, na het data schandaal met Cambridge Analytica kiezen heel veel gebruikers om niet meer met Facebook in zee te gaan. Er is altijd wel een keuze. Feit is ook dat veel gebruikers het fijn en gemakkelijk vinden dat algoritmes inspelen op hun behoeftes. It’s a two-way-street! Maar ik zie ook wel degelijk de gevaren die erachter schuilgaan. En de cursus…sign me up!

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS