Ja, ook juristen hebben die neiging nieuwe standaarden te maken om oude te vervangen (en ik ken de xkcd, dank je)

| AE 12920 | Ondernemingsvrijheid | 12 reacties

Consultancybedrijf PwC is de eerste grote firma in het VK die de oneNDA standaard-geheimhoudingsovereenkomst gaat voeren, meldde Artificial Lawyer onlangs. Een verrassing is dat niet, omdat PwC een van de drijvende krachten achter dit project is. OneNDA is een recent initiatief dat een universeel geheimhoudingscontract wil promoten ter vervanging van al die zelfgebrouwen misbaksels die iedere organisatie heeft. Als reviewer van 14.000 NDA’s voor mijn NDA-robot zeg ik: goed idee, heb ‘m gelijk toegevoegd. Maar of het werkelijk de juridische wereld gaat redden?

OneNDA heeft vooral in de Angelsaksische landen aandacht gekregen. In de kern is het een loffelijk initiatief: ieder bedrijf krijgt vele, vele NDA’s toegezonden en moet daar elke keer juridische tijd en energie aan verspillen. Of de inkoper/sales/CEO leest het zelf en denkt “het zal wel” met alle risico’s van dien. Dit was de reden voor mij om die robot te ontwikkelen, en die doet het best goed. Duizenden NDA’s gereviewd, inclusief aanpassingen en commentaar zodat je direct verder kunt.

Toevallig zag ik vanochtend iemand die een NDA die was aangepast door Lynn er nog een keer doorheen gehaald had, maar dan natuurlijk vanuit het andere perspectief (de informatieverstrekker). Toen ging Lynn dus ruzie met zichzelf maken, wat je altijd krijgt als je een jurist vertelt “en nu vanuit het perspectief van de wederpartij”. Maar dat is dus een feature. Desondanks blijf je zitten met een enorme berg NDA’s en elke keer tijd en moeite om ze te reviewen.

Zoals ze toen bij oneNDA zeiden: “In fact, in 2020, we discovered that reviewing NDAs for our clients represented 63% of our workload but only 7% of our revenue.” Dus dat moest anders. (Bedenk even hoe dat voelt als je 63% van je tijd, dus drie werkdagen, alléén maar NDA’s reviewt.) Men maakt één NDA, en iedereen gebruikt die. Niet eens met opties (zoals bijvoorbeeld Creative Commons) maar gewoon één tekst, je vult alleen partijnamen in en dat was het dan. Oh en doel, vertrouwelijkheidsperiode en toepasselijk recht. Maar van de inhoudelijke tekst (scope, need to know, notificatie, security, opzegging, notices, blabla) blijf je in het geheel af. Anders krijgen we straks wéér tig standaarden.

Toch ben ik een tikje sceptisch of dit er werkelijk van gaat komen. Ik denk dat iedere bedrijfsjurist of advocaat dit zo in het algemeen een goed idee vindt, maar op het moment zelf toch ergens een zinnetje vindt dat nét wat mooier kan of een favoriete clausule voor de zekerheid toe wil voegen. Om er eentje te noemen, er staat geen boetebeding in (wat in Angelsaksische landen eigenlijk ook niet kan), en continentale juristen gaan daar natuurlijk een punt van maken. Ik ben erg benieuwd hoe we over die weerstand heen gaan komen.

(ObXKCD)

Arnoud

VN-commissaris roept op tot stopzetting van biometrische herkenning via AI

| AE 12915 | Innovatie | 30 reacties

De commissaris voor mensenrechten bij de VN pleit voor een stopzetting op het gebruik van biometrische herkenning in de publieke ruimte, las ik bij Tweakers. Mevrouw Bachelet doet deze uitspraak in een rapport van de Verenigde Naties waarin de effecten van artificiële intelligentie op mensenrechten wordt besproken. Overheden zouden eerst moeten kunnen aantonen of er voldaan wordt aan de privacywetgeving en of er niet gediscrimineerd kan worden. En dat geeft weer gelijk discussie over de vraag of een AI wel kan discrimineren.

Het rapport stipt nog meer dingen aan, zoals dat AI vaak door private partijen wordt geleverd en dan totaal niet transparant is. Of dat je niet weet waar de data vandaan komt of wat men er nog meer mee doet. Ik vind dat soort dingen minstens zo ingewikkeld en juridisch vervelend.

Maar goed, discriminatie. Gewoon een neutraal woord in de wetenschap hoor, zo lees ik dan in de comments. En terecht: het betekent gewoon “onderscheid maken” en in de statistiek gebruik je dat voor iedere situatie waarin je data in groep A of B gaat onderverdelen. Maar juristen en ethici bedoelen er wat anders mee, namelijk het onderscheid maken op basis van verboden kenmerken zoals etnische afkomst, seksuele gerichtheid of politieke voorkeur. Dat willen we niet, en daar is een hele goede reden voor: deze kenmerken zijn fundamentele waarden van mensen, en ook niet te wijzigen zoals een kledingkeuze of zelfs woonplaats. Daar blijf je dus af.

Bovendien is er nooit enig oorzakelijk verband aangetoond tussen die kenmerken en welk gedrag dan ook. Iedere uitspraak van het soort “mensen met etnisch kenmerk X willen/hebben/kunnen/haten” is dus automatisch fout, dat is gewoon geen kenmerk waar je uitspraken op kunt baseren. Oké, heel misschien medische kenmerken (kroeshaar is lastiger te scheren, Aziaten verdragen koemelk niet) maar dat zijn echt de uitzonderingen. Het soort situatie waar we het bij AI vaak over hebben, past daar niet bij.

Dat wringt, omdat we vaak AI systemen correlaties zien aanwijzen: de criminaliteit is hoger bij groepen met etnisch kenmerk X, sollicitanten met huidskleur A zijn minder geschikt, seksuele gerichtheid X gaat niet samen met lesgeven op school. Voor een AI is dat inderdaad een neutrale constatering, als dat zo in de dataset zit en de functie komt daarbij op een goed werkend onderscheid (de test-dataset wordt correct als ja of nee gesorteerd) dan is het in orde.

Zo’n conclusie is voor de maatschappij echter niet in orde. In eerste instantie niet omdat de dataset waarschijnlijk niet compleet is (dit is namelijk bij vrijwel iedere AI applicatie een ware uitspraak). Maar zelfs als je wél alle relevante data hebt, blijft er een probleem.

Natuurlijk kan een AI ook een bestaande bias blootleggen. Huidskleur blijkt bij dit bedrijf een perfecte voorspeller van geschiktheid, omdat de HR-medewerker die de sollicitanten screende, zelf die bias had. Dan heb je dus een bias geformaliseerd, maar dat kun je het systeem niet verwijten toch? Die geeft neutraal aan hoe de werkelijkheid is, hoe de maatschappij er nu uit ziet.

Maar dat is niet waar. Een mens is allereerst niet zo hard als een AI. Die zal niet snel iemand in zijn of haar gezicht zeggen, je huidskleur past niet bij dit bedrijf. Die verzint excuses, blaast een smetje op het cv op of legt het gewoon op de stapel “tweede keus” wetende dat er al tien mensen op gesprek komen. Dat merk je niet. Een AI zegt gewoon letterlijk waar het op staat, zonder schroom of vergoeilijking of excuses. En dat valt veel meer op, komt veel meer binnen.

Bovendien, en dat vind ik problematischer, heeft een AI veel meer een aura van objectiviteit, betrouwbaarheid, echtheid. De cijfers zeggen het, deze huidskleur kan gewoon niet bij dit bedrijf. Helaas, objectief berekend met 88% betrouwbaarheid en achttien cijfers achter de komma. Maar in feite hebben we hetzelfde als die HR-medewerker die het met mooie smoesjes wist te verhullen.

Arnoud

Uber-chauffeurs zijn dus echt werknemers, joh je meent het

| AE 12913 | Ondernemingsvrijheid | 34 reacties

Uber-chauffeurs zijn dus echt werknemers, concludeer ik uit het vonnis van de rechtbank Amsterdam van vorige week. Ja, daar was een rechtszaak voor nodig (net als met Deliveroo) terwijl je dat toch op je juridische klompen kon aanvoelen. Maar een leuke toevoeging is dat hier heel expliciet het aanwezige gezag van de werkgever wordt geconcludeerd uit de duwende drammerij van de algoritmes van Uber.

Volgens de rechter zijn de vierduizend Nederlandse chauffeurs van Uber geen zzp’ers, zoals het techbedrijf zelf betoogt, maar zijn het gewoon werknemers omdat ze aan de definitie uit de wet voldoen. Belangrijkste voordeel: dan vallen zij onder de cao taxivervoer, iets waar vakbond FNV voor naar de rechter was gestapt. Naast een schadevergoeding van 50.000 euro levert dit de plicht op om achterstallig loon (conform de cao-tarieven) te voldoen. Uber gaat uiteraard in hoger beroep.

Uber had – net als Deliveroo en al die andere platformjongens – betoogd dat het hier gaat om een vrijwillig gekozen samenwerking met zzp’ers, mensen bij elkaar brengen en als volwassen mensen samen een deal laten sluiten. Je kunt immers je eigen tarief afspreken met ritjes die je via Uber oppikt, de klant vraagt naar jou en je bouwt langzaam een merk op. Oh nee wacht, Uber bepaalt het tarief, eist (ongeveer) dat je de ritjes pakt die zij aandragen en de klant kijkt naar je sterren en niet naar jou.

De kern van het arbeidsrecht is dat je kijkt naar de werkelijke situatie, en jezelf dan drie vragen stelt: werkt iemand ‘in dienst’, krijgt zhij ‘loon’ en is dat om ‘gedurende zekere tijd’ bepaalde ‘arbeid’ te verrichten?  Zo ja, dan is het een arbeidscontract. En dan doet het er niet toe wat er bovenaan het contract staat of zelfs wat je allebei verklaard te hebben gewild.

Ik chargeerde daarnet een klein beetje over hoe het werkt als je voor Uber gaat rijden. Maar de werkelijkheid is niet héél erg anders. Allereerst ga je een eenzijdig contract aan, dat dagelijks kan wijzigen en waarbij je nul onderhandelingsruimte hebt. Daarna krijg je ritjes aangeboden, hoewel je niet weet waar je heen moet of wat het je precies gaat opleveren. Weiger je dat iets te vaak, dan krijg je minder vaak ritten aangeboden. En als je niet goed je best doet, dan kunnen klanten je slechter beoordelen en dan kom je helemaal onderaan te staan. Verder blijkt dat Uber zelf de klachten oplost, inclusief wat het de chauffeur moet kosten om de klant tevreden te stellen.

Heel erg “wij brengen ondernemers bij elkaar en laten ze opdrachten uitvoeren voor klanten” kan ik dat niet noemen. Te horen krijgen wat je wanneer moet doen, tegen een door de ander vastgestelde prijs, dat noemen we loon voor arbeid volgens mij. Het enige zou dan zijn dat je ieder moment ontslag kunt nemen, maar dat is geen heel sterke factor.

En dan komt het neer op de vraag of er ‘gezag’ is, kan de werkgever dicteren hoe jij het werk uitvoert? Het kernverschil tussen een zzp’er en een werknemer is namelijk dat je de eerste vertelt wat je wilt en wanneer het af moet, en de laatste bij wijze van spreken per te werken stap kunt becommentariëren, pardon managen. En dan zegt de rechter hier iets heel leuks over het Uber-algoritme:

33. Op deze wijze gaat van het algoritme een financiële stimulans en een disciplinerende en instruerende werking uit. Dat de chauffeurs tot op zekere hoogte vrij zijn om een rit te weigeren, zelf hun uren mogen bepalen en gelijktijdig gebruik mogen maken van verschillende apps of andersoortige boekingssystemen doet daar niet aan af. Zodra zij gebruik maken van de Uberapp en daartoe ingelogd zijn, zijn zij onderworpen aan de werking van het door Uber ontworpen algoritme, en vallen zij daarmee onder een “modern werkgeversgezag” van Uber.
Een loonslaaf met een algoritme als manager, hoe modern wil je het hebben. (Het past trouwens in een bredere trend: waar veel werk niet goed door robots te vervangen blijkt, kan dat wél heel goed voor het toezicht op dat werk. Twintig producten in een doos stoppen is mensenwerk, tellen dat dit langer dan 3’14” duurde en deze mens een punt aftrek geven, dat kan een algoritme prima. Negeren dat de mens moe was, dat ook.)

Zoals de rechtbank dan zegt, met die conclusie “moet, met het oog op het dwingendrechtelijk karakter van het arbeidsrecht en ter bescherming van de zwakkere positie van de werker, door de in het contract gekozen bewoordingen heen worden gekeken” en moet de conclusie dus zijn dat het hier gaat om een werknemersituatie.

Arnoud

Apple moet van rechter betaalregels voor ontwikkelaars in App Store aanpassen

| AE 12911 | Ondernemingsvrijheid | 21 reacties

Apple moet appontwikkelaars toestaan hun eigen betaalsysteem te gebruiken buiten de App Store om. Dat meldde de NOS onlangs: de rechtbank in Californië bepaalde dit in een zaak die was aangespannen door Epic, de maker van het populaire spel Fortnite. Het grote voordeel voor app-aanbieders is dat het nu niet meer perse via de Apple-betaalsystemen hoeft…. Lees verder

Zelden zo hard gelachen om een juridische analyse: het geval van het cryptoschip Satoshi

| AE 12908 | Informatiemaatschappij | 9 reacties

Dit is toch wel de grappigste juridische analyse ooit: zeerechtdeskundige Samira Nadkani fakkelt het concept van het libertarische cryptocurrency-schip Satoshi helemaal af, maar dan ook echt hélemaal. Het is dan ook een té mooi voorbeeld van hoe de tech bros uit Silicon Valley denken de maatschappij opnieuw uit te kunnen vinden op hun eigen manier, zonder al die legacy code in… Lees verder

Politie Los Angeles gevraagd om socialmedia-accounts burgers te noteren

| AE 12906 | Regulering | 23 reacties

Agenten van het politiekorps van de Amerikaanse stad Los Angeles hebben instructies gekregen om van elke burger die ze spreken de socialmedia-accounts en e-mailadressen te noteren, ook als er geen verdenking van een misdrijf is. Dat meldde Security.nl vorige week. Diverse lezers vroegen me of de Nederlandse politie dat ook zou mogen, en zo ja… Lees verder

Mag mijn werkgever eisen dat ik mijn pasfoto bij mijn Slack-account toon?

| AE 12903 | Ondernemingsvrijheid, Privacy | 39 reacties

Via Reddit: Mijn werkgever heeft mij verzocht om een foto van mijzelf toe te voegen aan mijn profiel op Slack (een chatprogramma waarbij medewerkers met elkaar kunnen communiceren). Als reden gaf hij dat andere collega’s hierdoor een “gezicht bij de naam hebben”. Ik heb aangegeven dat ik zo min mogelijk persoonlijke informatie op het internet… Lees verder

T-Mobile gekocht door Amerikanen, kan ik mijn contract opzeggen?

| AE 12901 | Ondernemingsvrijheid | 20 reacties

Een lezer vroeg me: T-Mobile heeft vandaag bekendgemaakt dat ze (deels) in Amerikaanse handen overgaan (als alles doorgaat). Ik maak me zorgen dat mijn telecomdata dan in de VS terechtkomt, en wil dan ook van provider wisselen. Is dat juridisch haalbaar? De voorwaarden van het bedrijf zeggen er niets over. Investeerders Apax en Warburg Pincus trekken… Lees verder

Waarom staat er nog steeds Privacy Shield in privacyverklaringen?

| AE 12891 | Ondernemingsvrijheid, Privacy | 20 reacties

Een lezer vroeg me: Het valt me op dat vele, vele privacyverklaringen nog steeds verwijzen naar het Privacy Shield, bijvoorbeeld bij Amerikaanse verwerkers: “[naam] is self-certified under the US-EU Privacy Shield and we have entered into a Data Processing Addendum with them.” Het Schrems II arrest is van juli vorig jaar, hoezo heeft nog niemand… Lees verder