Moeten advocaten nu ook allemaal programmeur worden?

| AE 10649 | Innovatie | 8 reacties

Steeds vaker lees ik dat de juridische sector sterk achterloopt bij het adopteren van technologische innovaties – legal tech – en dat een belangrijke factor daarbij is dat advocaten en juristen te weinig kunnen programmeren. Daar zit in theorie wat in: wie niet weet hoe software werkt of wat het kan, zal niet snel geneigd zijn naar een software-oplossing te gaan. En zeker als de dienstverlening zelf steeds meer geautomatiseerd wordt, dan blijven de mensen achter die alleen maar met vulpen een pleitnota weten te produceren. Maar toch is het complexer dan dat.

Dat de juridische sector sterk achterloopt, staat buiten kijf. Het is pas vrij recent dat er grote aandacht is voor technologische innovatie, onder de hippe term “legal tech”. Van apps voor tijdschrijven tot Artificial Intelligence contractsanlyse. Veel van die legal tech is op zichzelf niet heel bijzonder: ze automatiseert alleen wat er al bestaat. Dat is handig en efficiënt maar maakt dingen niet fundamenteel anders. Tijdschrijven blijft tijdschrijven.

Er zijn natuurlijk wel echte vernieuwingen, zoals die automatische contractsanalyse. Laat een computer speuren naar opvallende clausules of rare combinaties, en dan kan een mens daar gericht naar kijken wat het juridisch voor problemen (of aansprakelijkheden) geeft. Zo gebruik je van beiden het beste. Het grappige is, hier loopt de juridische sector dan weer een heel eind voorop – ik zie nauwelijks aandacht voor bijvoorbeeld AI om broncode te analyseren of fraude in wetenschappelijk onderzoek aan te tonen.

Leren programmeren geeft je relevante skills en inzichten over hoe programmeren werkt en wat software kan. (“Dat was wel een beetje een desillusie” aldus een juridische kennis van me na een summercamp op dat gebied.) Dat kan erg nuttig zijn als je klanten daarover wilt adviseren, of na wilt denken over nieuwe diensten of de manier van aanbieden daarvan.

Veel belangrijker lijkt me kunnen zien wat de sector nodig heeft, beter gezegd wat de klant nodig heeft. Want uiteindelijk zal die het worst wezen of het een AI is die zijn contract doorvlooide of een mens dat er met 20 jaar ervaring snel naar keek. Die wil weten of hij kan tekenen, of dat zijn schadeclaim goede kans van slagen heeft en hoe die claim te gaan halen.

Dat op een effectieve manier doen vereist veel meer dan alleen een nieuwe app of kunnen programmeren. Dat vereist een nieuwe manier van werken, de bereidheid om te zeggen, we gaan het helemaal anders doen. En juist dát is de grote uitdaging in de juridische sector.

Arnoud

Hoe terecht is de kritiek op legal tech vanuit de juridische sector?

| AE 10497 | Informatiemaatschappij | 3 reacties

Legal tech proponenten doen er goed aan lering te trekken uit het Theranos debacle, las ik bij Above The Law. Dat bedrijf heeft een serieus probleem nu de Amerikaanse SEC haar beweerdelijk innovatieve technologie voor niet-invasief bloedonderzoek serieus betwist – nog lang niet klaar voor de markt. Maar lange tijd kwam men ermee weg, omdat niemand durfde die kritiek te leveren. En dit zou dan ook gelden voor veel legal tech aanbieders, die ook veel te veel beloven terwijl ze nog lang niet klaar zijn, waarna kritiek wordt weggewuifd als afkomstig van fossielen die niet willen veranderen.

Voor wie de techsector kent, komt deze omschrijving niet als verrassing. De term vaporware is hier letterlijk uitgevonden voor grote beloftes die in de toekomst wellicht waargemaakt worden, en niet alleen om de concurrent de pas af te snijden. Dus dat we dat fenomeen in de legal tech sector terugzien, is niet vreemd. Maar het valt mij inderdaad ook wel op dat het in deze sector allemaal net wat erger lijkt.

Wat vast niet meehelpt, is dat juristen getraind zijn om problemen te zoeken in nieuwe dingen. Dat is immers je werk, een klant komt met een vraag en aan jou de taak te voorzien waar het mis zal gaan en hoe hem in te dekken. Professional issue spotters, zoals ik het bij 3 Geeks and a Law blog genoemd zag worden. En omdat het hier dan ook nog eens gaat om een nieuw ding dat je éigen werk aangaat, dat werk waar je zo goed in bent én dat cruciaal is voor je klant, dan gaat het extra hard met de bezorgdheid.

Dat was geen sarcasme overigens; juridische kwesties kennen écht grote risico’s en die onderkennen en vermijden is waar je als jurist de hele dag mee bezig bent. Natuurlijk zien mensen in andere sectoren dat anders (met als ultieme uitingsvorm het contract gemaild om 16:45 met “we willen vandaag tekenen dus alleen de dealbreakers graag”), maar dat terzijde. Het is gewoon moeilijk en risicovol werk dat alleen gedaan kan worden door slimme professionals. Zoals 3G&LB het zeggen:

The lawyer theory of value tends towards the transactional and discrete. Resources (lawyer time) allocated to sequential, individual legal tasks: this question, this contract, this motion. Systems thinking and relative reductions in demand for legal labor (prevention, Lean, #DoLessLaw) are ancillary concerns to be addressed when convenient or absolutely necessary (that is to say rarely). Given their lawyer-on-task orientation, ask most lawyers what they need to be more effective, and the first answer is more time in their own day. The second answer is more time from other skilled lawyers they already work with. (…)

Kort samengevat: wat juristerij nodig heeft, is slimme mensen die hard werken. “Stand back and let me lawyer”. Legal tech wordt vaak in eerste instantie gepresenteerd als een tool waarmee slimme mensen harder kunnen werken, en dat is natuurlijk aantrekkelijk. Maar al gauw blijkt dat dit neerkomt op ánders werken. En dat is dan weer bedreigend, en dat kan een ervaren jurist je in alle detail heel precies uitleggen. (Nogmaals, geen sarcasme, er staan gewoon grote belangen op het spel.)

De belangrijkste factor is dat het tijd kost om te veranderen, en die tijd is schaars. Daarnaast speelt een belangrijke rol dat je als jurist niet vooraf weet hoe de verandering uit gaat pakken, en dat weet je wel van de huidige situatie. Dat geeft weinig prikkel om te veranderen. Als dan ook nog eens blijkt dat zo’n legal tech oplossing niet staat als een huis (en geloof me, een beetje jurist loopt de Grote Boze Wolf er binnen de seconde uit), dan houdt het snel op natuurlijk.

Waarmee ik niet wil zeggen dat legal tech kansloos is, of juristen te pessimistisch. Ik zie een samenspel van krachten die elkaar afstoten, waardoor er maar heel moeilijk beweging te krijgen is de goede kant op. Ik vraag me af hoe dat zich gaat oplossen.

Arnoud

Het onderbelichte probleem van dataverzameling in de artificial intelligence

| AE 9913 | Innovatie | 14 reacties

Bewerking/parodie van XKCD, bron https://xkcd.com/303/Jaja, vrijdag wordt machine learning/AI dag, maar ik vond vrAIdag zo’n rare hashtag. Deze week een netelige en vaak onderbelichte kwestie: hoe kom je aan je data? Veel mensen denken dat het bij AI vooral gaat om het bouwen van het netwerk, maar dat is in feite niet meer dan op de “Generate” knop drukken en het ding een nachtje laten stampen. AI als technologie is vrijwel een commodity. Het gaat erom wat je erin stopt, want dat bepaalt voor vrijwel 100% wat eruit komt. En daar zit hem het probleem.

AI en big data lijken als hype hand in hand te zijn opgekomen. En dat is niet gek, want AI is in feite weinig meer dan statistische analyse op grote datasets, en hoe groter de dataset, hoe accurater de uitkomsten van de analyse. Dus als je gigantisch veel data hebt, dan krijg je behoorlijk goede resultaten. Maar hoe kom je aan die data?

Er zijn grofweg twee manieren: je kunt alle data zelf verzamelen, of je kunt datasets van anderen betrekken. De eerste manier is behoorlijk duur en tijdrovend, en werkt eigenlijk alleen bij de grote platforms zoals Facebook die nu eenmaal heel veel mensen hebben die data genereren. Of onderzoeksinstellingen die grootschalige metingen kunnen doen op allerlei fenomenen. Voor veel partijen is er alleen de tweede manier: zie ergens een dataset te pakken te krijgen.

Die tweede manier is nog behoorlijk problematisch. Vanwege rechtenkwesties en natuurlijk de zorg over persoonsgegevens in de data wordt vaak teruggegrepen op publieke datasets. Uit een recent paper blijkt echter dat dit goed kan leiden tot bias in de AI. Zo is er een publieke dataset van 1,6 miljoen interne e-mails uit het controversiële bedrijf Enron, welke vanwege justitieel onderzoek openbaar zijn geworden. Deze zijn een mooie dikke dataset om sentimentanalyse te doen, grammatica te leren herkennen en ga zo maar door. Maar goh, wat voor voorbeeld neem je als je de mails gebruikt van een Texaans bedrijf dat omviel vanwege gigantische fraude?

Andere systemen worden gebouwd op basis van stokoude bronnen, zoals publiekdomeinboeken omdat je dan auteursrechtelijk veilig zit. Maar het doet nogal wat met een systeem of je hem traint op Charles Dickens dan wel Dan Brown (om mevrouw Van der Plas niet weer te noemen 😉 ). Taalgebruik zal verouderd zijn, en vooral: ook hier een grote kans op vooringenomenheid qua wereldbeeld.

En daar zit dus in de kern het probleem: de datasets waar iedereen mee kan werken, zitten scheef en leveren dus geen betrouwbare basis op voor een AI systeem dat aanbevelingen of beslissingen doet. En waar je mee zou moeten werken, zit opgesloten achter auteursrechten of is onbereikbaar omdat de eigenaar het als privé beschouwt.

Arnoud

Sonos-speakers mogelijk onbruikbaar bij weigeren privacyvoorwaarden

| AE 9622 | Innovatie | 28 reacties

Gebruikers die niet instemmen met de nieuwe privacyvoorwaarden van Sonos, riskeren mogelijk dat hun speakers op termijn niet meer werken. Dat meldde Nu.nl eerder deze week. De speakerfabrikant gaat de apparaten voorzien van stemassistent Alexa van AmazonGoogle, en dat vereist een akkoord op privacyvoorwaarden. Wie dat weigert, kan geen updates meer installeren en zal dus… Lees verder

Gastpost: Hoe T-shaped moet je worden als advocaat?

| AE 8841 | Innovatie | 8 reacties

Omdat ik met vakantie ben, traditiegetrouw een aantal gastblogs. Vandaag advocaat Nine Damsté over de T-shaped lawyer, en die moest ik ook even opzoeken (klik op plaatje voor Het Concept). De advocatuur en de rechtspraak proberen te moderniseren. Zo worden er in de rechtspraak digitale dossiers toegevoegd, werken veel meer advocatenkantoren papierloos en in the… Lees verder

Ministerie: apparaten zoals Oxboards mogen niet de openbare weg op

| AE 8239 | Innovatie | 21 reacties

Apparaten zoals Oxboards, waarop gebruikers zich voortbewegen zonder stuur, zijn in Nederland verboden op de openbare weg. Dat las ik bij Tweakers op gezag van het ministerie van Infrastructuur en Milieu. Deze apparaten vallen een beetje buiten de definities die de Wegenverkeerswet en aanverwante regelgeving kent, met name als het gaat om de aanwezigheid van… Lees verder

Denk je een tip te geven, krijg je een knorrige bedrijfsjurist op je dak

| AE 8093 | Iusmentis, Ondernemingsvrijheid | 19 reacties

Als je de directeur van AT&T een tip durft te geven, dan krijg je een knorrige bedrijfsjurist op je dak, las ik bij Ars Technica (dank, tipgevers!). “AT&T has a policy of not entertaining unsolicited offers to adopt, analyze, develop, license or purchase third-party intellectual property… from members of the general public,” zo klonk het… Lees verder

Gastpost: Mosterd na de maaltijd voor gamers

| AE 3095 | Innovatie, Intellectuele rechten | 19 reacties

Omdat ik met vakantie ben deze week nog enkele gastblogs. Vandaag een gastblog van Tim van Maarseveld over de gamingindustrie en hoe deze (in tegenstelling tot zekere andere contentindustrieën) wél snel omgaat met veranderingen in de markt. Arnoud heeft er eerder over geschreven op zijn blog: de volgens ITenRecht baanbrekende uitspraak van het Hof van… Lees verder