Hoe terecht is de kritiek op legal tech vanuit de juridische sector?

| AE 10497 | Internetrecht | 3 reacties

Legal tech proponenten doen er goed aan lering te trekken uit het Theranos debacle, las ik bij Above The Law. Dat bedrijf heeft een serieus probleem nu de Amerikaanse SEC haar beweerdelijk innovatieve technologie voor niet-invasief bloedonderzoek serieus betwist – nog lang niet klaar voor de markt. Maar lange tijd kwam men ermee weg, omdat niemand durfde die kritiek te leveren. En dit zou dan ook gelden voor veel legal tech aanbieders, die ook veel te veel beloven terwijl ze nog lang niet klaar zijn, waarna kritiek wordt weggewuifd als afkomstig van fossielen die niet willen veranderen.

Voor wie de techsector kent, komt deze omschrijving niet als verrassing. De term vaporware is hier letterlijk uitgevonden voor grote beloftes die in de toekomst wellicht waargemaakt worden, en niet alleen om de concurrent de pas af te snijden. Dus dat we dat fenomeen in de legal tech sector terugzien, is niet vreemd. Maar het valt mij inderdaad ook wel op dat het in deze sector allemaal net wat erger lijkt.

Wat vast niet meehelpt, is dat juristen getraind zijn om problemen te zoeken in nieuwe dingen. Dat is immers je werk, een klant komt met een vraag en aan jou de taak te voorzien waar het mis zal gaan en hoe hem in te dekken. Professional issue spotters, zoals ik het bij 3 Geeks and a Law blog genoemd zag worden. En omdat het hier dan ook nog eens gaat om een nieuw ding dat je éigen werk aangaat, dat werk waar je zo goed in bent én dat cruciaal is voor je klant, dan gaat het extra hard met de bezorgdheid.

Dat was geen sarcasme overigens; juridische kwesties kennen écht grote risico’s en die onderkennen en vermijden is waar je als jurist de hele dag mee bezig bent. Natuurlijk zien mensen in andere sectoren dat anders (met als ultieme uitingsvorm het contract gemaild om 16:45 met “we willen vandaag tekenen dus alleen de dealbreakers graag”), maar dat terzijde. Het is gewoon moeilijk en risicovol werk dat alleen gedaan kan worden door slimme professionals. Zoals 3G&LB het zeggen:

The lawyer theory of value tends towards the transactional and discrete. Resources (lawyer time) allocated to sequential, individual legal tasks: this question, this contract, this motion. Systems thinking and relative reductions in demand for legal labor (prevention, Lean, #DoLessLaw) are ancillary concerns to be addressed when convenient or absolutely necessary (that is to say rarely). Given their lawyer-on-task orientation, ask most lawyers what they need to be more effective, and the first answer is more time in their own day. The second answer is more time from other skilled lawyers they already work with. (…)

Kort samengevat: wat juristerij nodig heeft, is slimme mensen die hard werken. “Stand back and let me lawyer”. Legal tech wordt vaak in eerste instantie gepresenteerd als een tool waarmee slimme mensen harder kunnen werken, en dat is natuurlijk aantrekkelijk. Maar al gauw blijkt dat dit neerkomt op ánders werken. En dat is dan weer bedreigend, en dat kan een ervaren jurist je in alle detail heel precies uitleggen. (Nogmaals, geen sarcasme, er staan gewoon grote belangen op het spel.)

De belangrijkste factor is dat het tijd kost om te veranderen, en die tijd is schaars. Daarnaast speelt een belangrijke rol dat je als jurist niet vooraf weet hoe de verandering uit gaat pakken, en dat weet je wel van de huidige situatie. Dat geeft weinig prikkel om te veranderen. Als dan ook nog eens blijkt dat zo’n legal tech oplossing niet staat als een huis (en geloof me, een beetje jurist loopt de Grote Boze Wolf er binnen de seconde uit), dan houdt het snel op natuurlijk.

Waarmee ik niet wil zeggen dat legal tech kansloos is, of juristen te pessimistisch. Ik zie een samenspel van krachten die elkaar afstoten, waardoor er maar heel moeilijk beweging te krijgen is de goede kant op. Ik vraag me af hoe dat zich gaat oplossen.

Arnoud

Het onderbelichte probleem van dataverzameling in de artificial intelligence

| AE 9913 | Innovatie | 14 reacties

Bewerking/parodie van XKCD, bron https://xkcd.com/303/Jaja, vrijdag wordt machine learning/AI dag, maar ik vond vrAIdag zo’n rare hashtag. Deze week een netelige en vaak onderbelichte kwestie: hoe kom je aan je data? Veel mensen denken dat het bij AI vooral gaat om het bouwen van het netwerk, maar dat is in feite niet meer dan op de “Generate” knop drukken en het ding een nachtje laten stampen. AI als technologie is vrijwel een commodity. Het gaat erom wat je erin stopt, want dat bepaalt voor vrijwel 100% wat eruit komt. En daar zit hem het probleem.

AI en big data lijken als hype hand in hand te zijn opgekomen. En dat is niet gek, want AI is in feite weinig meer dan statistische analyse op grote datasets, en hoe groter de dataset, hoe accurater de uitkomsten van de analyse. Dus als je gigantisch veel data hebt, dan krijg je behoorlijk goede resultaten. Maar hoe kom je aan die data?

Er zijn grofweg twee manieren: je kunt alle data zelf verzamelen, of je kunt datasets van anderen betrekken. De eerste manier is behoorlijk duur en tijdrovend, en werkt eigenlijk alleen bij de grote platforms zoals Facebook die nu eenmaal heel veel mensen hebben die data genereren. Of onderzoeksinstellingen die grootschalige metingen kunnen doen op allerlei fenomenen. Voor veel partijen is er alleen de tweede manier: zie ergens een dataset te pakken te krijgen.

Die tweede manier is nog behoorlijk problematisch. Vanwege rechtenkwesties en natuurlijk de zorg over persoonsgegevens in de data wordt vaak teruggegrepen op publieke datasets. Uit een recent paper blijkt echter dat dit goed kan leiden tot bias in de AI. Zo is er een publieke dataset van 1,6 miljoen interne e-mails uit het controversiële bedrijf Enron, welke vanwege justitieel onderzoek openbaar zijn geworden. Deze zijn een mooie dikke dataset om sentimentanalyse te doen, grammatica te leren herkennen en ga zo maar door. Maar goh, wat voor voorbeeld neem je als je de mails gebruikt van een Texaans bedrijf dat omviel vanwege gigantische fraude?

Andere systemen worden gebouwd op basis van stokoude bronnen, zoals publiekdomeinboeken omdat je dan auteursrechtelijk veilig zit. Maar het doet nogal wat met een systeem of je hem traint op Charles Dickens dan wel Dan Brown (om mevrouw Van der Plas niet weer te noemen 😉 ). Taalgebruik zal verouderd zijn, en vooral: ook hier een grote kans op vooringenomenheid qua wereldbeeld.

En daar zit dus in de kern het probleem: de datasets waar iedereen mee kan werken, zitten scheef en leveren dus geen betrouwbare basis op voor een AI systeem dat aanbevelingen of beslissingen doet. En waar je mee zou moeten werken, zit opgesloten achter auteursrechten of is onbereikbaar omdat de eigenaar het als privé beschouwt.

Arnoud

Sonos-speakers mogelijk onbruikbaar bij weigeren privacyvoorwaarden

| AE 9622 | Innovatie | 28 reacties

Gebruikers die niet instemmen met de nieuwe privacyvoorwaarden van Sonos, riskeren mogelijk dat hun speakers op termijn niet meer werken. Dat meldde Nu.nl eerder deze week. De speakerfabrikant gaat de apparaten voorzien van stemassistent Alexa van AmazonGoogle, en dat vereist een akkoord op privacyvoorwaarden. Wie dat weigert, kan geen updates meer installeren en zal dus op zeker moment functionaliteit verliezen. Ja, dat krijg je er van als je van een producten- naar een dienstenmaatschappij verschuift.

Voor veel mensen is dit nogal een verrassing: koop je een duur apparaat, en krijg je na een jaar of zo te horen dat er ineens allerlei privacy-dingen aan vast zitten waar je mee akkoord moet gaan als je niet wilt blijven zitten met een dure presse-papier. Maar juridisch klopt het, en niet omdat je bij aankoop maar beter de voorwaarden had moeten lezen: een Sonos is een abonnement, geen productaanschaf.

Natuurlijk, dat ding met stekker is een best wel feitelijk object dus dat koop je. Maar dat ding is op zich voor weinig dingen bruikbaar. Daar heb je een account voor nodig, zodat je bijvoorbeeld radiostations kunt ontvangen, een koppeling met Spotify of andere diensten kunt maken en andere muziekbronnen kunt streamen. En daar zit hem de crux: het zwaartepunt van de transactie om de Sonos te krijgen is die dienstverlening, dus wordt die transactie in principe als dienst gezien.

De wet kent al heel wat decennia regels over dienstverlening. Alleen zijn die geschreven voor situaties waarin mensen (of bedrijven met mensen) die diensten leveren. Denk aan schoonmakers, nannies, bezorgdiensten, vuilophaling, onderhoudscontracten en dergelijke. De regels uit de wet zijn dan ook geschreven om die situaties te reguleren. Zo staat er best goed geregeld wanneer een dienstverlener mag opzeggen of hoe en wanneer hij recht heeft op geld.

Wat niet in de wet staat, is hoe de voorwaarden mogen worden gewijzigd. Daar komen mensen onderling wel uit, was de gedachte. Specifiek bij consumentencontracten staat er een en ander op de zwarte en grijze lijsten voor algemene voorwaarden, om hen te beschermen tegen al te eenzijdige voorwaarden van dienstverleners. Kort gezegd komt het erop neer dat je kosteloos van je contract af kunt als men het zomaar ineens helemaal omgooit.

Dat is heel leuk bij een vuilophaaldienst of een schoonmaker, maar bij een Sonos heb je daar weinig aan. Daar wil je juist niet opzeggen, want dan heb je niets meer aan het apparaat. Je wilt eigenlijk juist dat bij afwijzen van de voorwaarden de huidige diensten geleverd blijven, zodat je in ieder geval kunt genieten van de dienst zoals oorspronkelijk afgenomen. Maar daar biedt de wet geen grondslag voor.

Conformiteit van het apparaat dan? Dat doet ineens niet meer wat je ervan mocht verwachten. Daar twijfel ik dus over. Volgens mij is er nog steeds niets mis met het apparaat. De slechte werking of geschonden verwachtingen zitten hem in de dienst die bij het apparaat hoort, en volgens mij kun je dat niet toerekenen aan het apparaat. (Iets juridischer: ik zie de overeenkomst namelijk niet als een koopovereenkomst, maar als een gemengde koop/dienst-overeenkomst met het zwaartepunt op de dienst.)

Nieuw mantra: Je bent geen eigenaar van je data, alle diensten die je koopt mogen zomaar stoppen of wijzigen en apparaten kunnen zomaar onbruikbaar worden. Leuk man, die informatiemaatschappij.

Arnoud

Gastpost: Hoe T-shaped moet je worden als advocaat?

| AE 8841 | Innovatie | 8 reacties

Omdat ik met vakantie ben, traditiegetrouw een aantal gastblogs. Vandaag advocaat Nine Damsté over de T-shaped lawyer, en die moest ik ook even opzoeken (klik op plaatje voor Het Concept). De advocatuur en de rechtspraak proberen te moderniseren. Zo worden er in de rechtspraak digitale dossiers toegevoegd, werken veel meer advocatenkantoren papierloos en in the… Lees verder

Ministerie: apparaten zoals Oxboards mogen niet de openbare weg op

| AE 8239 | Innovatie | 21 reacties

Apparaten zoals Oxboards, waarop gebruikers zich voortbewegen zonder stuur, zijn in Nederland verboden op de openbare weg. Dat las ik bij Tweakers op gezag van het ministerie van Infrastructuur en Milieu. Deze apparaten vallen een beetje buiten de definities die de Wegenverkeerswet en aanverwante regelgeving kent, met name als het gaat om de aanwezigheid van… Lees verder

Denk je een tip te geven, krijg je een knorrige bedrijfsjurist op je dak

| AE 8093 | Aansprakelijkheid, Grappig | 19 reacties

Als je de directeur van AT&T een tip durft te geven, dan krijg je een knorrige bedrijfsjurist op je dak, las ik bij Ars Technica (dank, tipgevers!). “AT&T has a policy of not entertaining unsolicited offers to adopt, analyze, develop, license or purchase third-party intellectual property… from members of the general public,” zo klonk het… Lees verder

Gastpost: Mosterd na de maaltijd voor gamers

| AE 3095 | Auteursrecht, Innovatie | 19 reacties

Omdat ik met vakantie ben deze week nog enkele gastblogs. Vandaag een gastblog van Tim van Maarseveld over de gamingindustrie en hoe deze (in tegenstelling tot zekere andere contentindustrieën) wél snel omgaat met veranderingen in de markt. Arnoud heeft er eerder over geschreven op zijn blog: de volgens ITenRecht baanbrekende uitspraak van het Hof van… Lees verder

Moeha: “Pinnen buiten Europa vastleggen is mijn vastgelegde idee”

| AE 3008 | Innovatie | 16 reacties

Oh echt: de antiskimmaatregel van de Rabobank is mogelijk plagiaat, meldde Nu.nl woensdag. Bij het FD had ene Jan Meurs geklaagd dat zijn “juridisch vastgelegde idee” nageaapt zou zijn door de Rabobank. Hij gaat via een advocaat de bank aansprakelijk stellen, hoewel niet wordt gemeld welk bedrag. Ik ben héél benieuwd wat de juridische grondslag… Lees verder