Wat is nu echt het juridisch nut van de blockchain?

| AE 10520 | Innovatie | 10 reacties

De blockchain afserveren als een hype, het begint op zichzelf een hype te worden volgens mij. Maar ergens wel terecht: als iets ondertussen de oplossing voor alles begint te worden, dan moet je daar ook kritisch tegenover kunnen staan: wat is dan nu echt het nut van die blockchain? Het systeem is technisch zeer vernuftig en bitcoin was een heel goed idee, maar wie deze blog volgt weet dat ik de overige toepassingsgebieden niet perse nuttig vindt. En na deze rant wordt het tijd daar ook eens juridisch op te reflecteren.

Eerste en lastigste vraag is wat mensen nu precies bedoelen als ze “de blockchain” zeggen. De meest gehoorde omschrijving is dat het een gedistribueerd grootboek is, wat dan wordt gezegd alsof iedereen wel eens zo’n administratieve verzamelmap met documenten in de hand heeft gehad. Iets praktischer is “multiple copies of a giant Excel spreadsheet”, maar ik geef toe dat dat in je investeringspitch iets minder sjiek staat. Maar in de kern is het dat wel – een registratie van transacties, waarbij er niet één authentiek origineel is maar een hoop mensen elk een kopie hebben en middels consensus vaststellen of een nieuwe transactie klopt met de geregistreerde geschiedenis.

Er zit een heleboel technologie achter om dit te laten werken, vervalsingen tegen te houden en mensen te stimuleren hieraan mee te werken (zoals het minen of delven van bitcoins, in dat blockchainsysteem). Maar uiteindelijk gaat het daar niet om. De kern is dat je het idee van een centrale autoriteit of een authentiek origineel loslaat en in plaats daarvan consensus over de administratie haalt bij een grote groep mensen. Gedistribueerde consensus in plaats van autoriteit. Grote voordeel daarvan is dat die grote groep mensen veel lastiger (of eigenlijk onmogelijk) te manipuleren is om informatie aan te passen.

Nu is het natuurlijk een probleem dat registraties van van alles en nog wat aan te passen zijn als je niet uitkijkt. Foutjes worden overal gemaakt, en beheerders kun je omkopen, bedreigen en wat al niet meer. Het blockchainsysteem voorkomt dat inderdaad. Maar dan dringt zich de vraag op, is dat voordeel zo veel groter dat we over moeten stappen?

In de juridische wereld kennen we dat probleem natuurlijk al veel langer. En er zijn dan ook al lang oplossingen voor bedacht, zoals de notaris die als taak heeft als vertrouwde derde te fungeren. Als de notaris het zegt, dan is het waar (art. 156 Rechtsvordering). Idem voor bijvoorbeeld de constatering door een deurwaarder, of de registratie bij het Kadaster van perceelgrenzen. Natuurlijk zitten hier zwakke punten, in theorie is een notaris omkoopbaar of te foppen, maar dit is uiterst zeldzaam en vrijwel altijd te detecteren als het toch speelt. Het voelt dan wat zwaar om dat hele systeem af te schaffen.

Daar komt bij dat de blockchain net als elk nieuw systeem last heeft van het rewrite syndrome. Laten we het opnieuw bouwen, want het huidige systeem is rommelig, oud en zit vol met rare constructies waarvan we de helft niet snappen. Dit is een bekende reflex bij software-ontwikkelaars, en het is zeer begrijpelijk maar het probleem is dat dat oude systeem zo rommelig en raar is omdat het tien jaar aan bug fixes en ondersteuning voor randgevallen heeft meegekregen. Dat nieuwe systeem wordt dan strak en fris opgezet en blijkt vervolgens al die randgevallen en bugs niet te kunnen adresseren, wat dan de komende tien jaar weer allemaal opnieuw toegevoegd moet worden.

We hebben het hier dan over juridische randgevallen. Zaken waarover geen consensus is, moet je niet met een consensusmechanisme beslissen. Neem de situatie dat iemand met een ernstige ziekte een grote transactie doet. Het is goed denkbaar dat dat niet de bedoeling was, en dat die dus teruggedraaid moet worden. In het oude systeem ga je dan naar de rechter, die toetst aan redelijkheid, billijkheid en verwachtingen over en weer en hakt dan een knoop door. Zulk maatwerk krijg je niet in een blockchainsysteem geïmplementeerd. Dat systeem kent alleen de binaire optie dat het klopt en de optie dat het niet klopt.

Natuurlijk, dit is een randgeval en de overgrote meerderheid van de gevallen zijn prima te automatiseren. Maar als ik één ding heb geleerd van het recht, dan is het wel dat iedere situatie een uitzondering of randgeval kent en dat het recht al zesduizend jaar lang daar rekening mee probeert te houden. Dát lijkt me de grote uitdaging voor de blockchain.

Arnoud

Goh, lawyerbots zijn beter dan juristen in het lezen van saaie juridische documenten

| AE 10505 | Internetrecht | 6 reacties

Alweer ietsje langer geleden maar toch: in een ‘wedstrijd’ tussen een lawyerbot van het Israëlische LawGeex en twintig Amerikaanse advocaten bleek de eerste een stuk beter in staat om juridische fouten in NDA’s en andere documenten te vinden. Om precies te zijn: de AI was 94% accuraat waar de mensen rond de 85% scoorden. Dit is natuurlijk nieuws omdat het de eerste wedstrijd in deze soort is, maar verbaast het echt dat een computer beter dingen kan vinden in een document dan mensen?

Je kunt natuurlijk aan alle kanten vraagtekens zetten bij het onderzoek (je bent professional issue spotter of je bent het niet). Hoe definieer je accuratesse, bijvoorbeeld? Is er werkelijk een objectieve gouden standaard van ‘fouten’ in een contract, of is dat wezenlijk een subjectieve inschatting waar twee juristen legitiem andere opvattingen over kunnen hebben bij dezelfde casus? Als ik iets laat staan omdat ik weet dat het praktisch gezien nooit speelt, en de AI het als fout signaleert omdat het volgens een rechtenprof in strijd is met de wet, wie heeft er dan gelijk?

Belangrijker voor mij (en de reden dat ik het eigenlijk negeerde, maar ik kreeg diverse mails erover) is echter dat dit onderzoek niets aantoont dat we niet al wisten. Een computer is haast per definitie altijd beter in het herkennen van patronen dan mensen, zeker als het steeds dezelfde soort patronen zijn over de lange termijn. Dat is bij het herkennen van vuurwapens in bagage niet anders dan het herkennen van rare clausules in juridische documenten.

Toegegeven, het bóuwen van zulke herkensoftware is niet eenvoudig. Hoe herken je effectief een juridische clausule in al zijn variaties, inclusief raar taalgebruik en fouten die al dan niet opzettelijk zijn gemaakt? Maar als het eenmaal staat, dan is het volgens mij volstrekt evident dat die het gaat winnen van iedere mens die in dat domein gaat opereren. Geen douanebeambte die een jaar lang ieder verboden artikel in bagage herkent, maar een computer gaat met dezelfde kwaliteit door totdat de stroom eraf gaat.

Dat is geen nieuws maar ook totaal niet erg – dit noemen we automatiseren van standaardwerk en het is precies waar AI binnen de legal tech voor bedoeld is. Het kan niet waar zijn dat we mensen werk willen laten doen dat net zo goed door robots gedaan kan worden. Binnen de juridische sector gebeurt dat echter veel en vaak, en hoe meer ik er over nadenk hoe raarder ik het vind. Er van dromen een vlammend pleidooi in de rechtbank te geven of keihard te onderhandelen en die droomdeal te sluiten, dat zie ik wel. Maar welke rechtenstudent droomt ervan contracten na te lopen op al dan niet onjuist gebruik van “represents and warrants” of het corrigeren van “grove nalatigheid” in “bewuste roekeloosheid?

Ik hoop dus dat berichten zoals deze vaker voorkomen, ook al bevatten ze niets nieuws. Hopelijk dringt hierdoor de boodschap door dat AI écht wat kan toevoegen in de juridische sector.

Arnoud

Hoe terecht is de kritiek op legal tech vanuit de juridische sector?

| AE 10497 | Internetrecht | 3 reacties

Legal tech proponenten doen er goed aan lering te trekken uit het Theranos debacle, las ik bij Above The Law. Dat bedrijf heeft een serieus probleem nu de Amerikaanse SEC haar beweerdelijk innovatieve technologie voor niet-invasief bloedonderzoek serieus betwist – nog lang niet klaar voor de markt. Maar lange tijd kwam men ermee weg, omdat niemand durfde die kritiek te leveren. En dit zou dan ook gelden voor veel legal tech aanbieders, die ook veel te veel beloven terwijl ze nog lang niet klaar zijn, waarna kritiek wordt weggewuifd als afkomstig van fossielen die niet willen veranderen.

Voor wie de techsector kent, komt deze omschrijving niet als verrassing. De term vaporware is hier letterlijk uitgevonden voor grote beloftes die in de toekomst wellicht waargemaakt worden, en niet alleen om de concurrent de pas af te snijden. Dus dat we dat fenomeen in de legal tech sector terugzien, is niet vreemd. Maar het valt mij inderdaad ook wel op dat het in deze sector allemaal net wat erger lijkt.

Wat vast niet meehelpt, is dat juristen getraind zijn om problemen te zoeken in nieuwe dingen. Dat is immers je werk, een klant komt met een vraag en aan jou de taak te voorzien waar het mis zal gaan en hoe hem in te dekken. Professional issue spotters, zoals ik het bij 3 Geeks and a Law blog genoemd zag worden. En omdat het hier dan ook nog eens gaat om een nieuw ding dat je éigen werk aangaat, dat werk waar je zo goed in bent én dat cruciaal is voor je klant, dan gaat het extra hard met de bezorgdheid.

Dat was geen sarcasme overigens; juridische kwesties kennen écht grote risico’s en die onderkennen en vermijden is waar je als jurist de hele dag mee bezig bent. Natuurlijk zien mensen in andere sectoren dat anders (met als ultieme uitingsvorm het contract gemaild om 16:45 met “we willen vandaag tekenen dus alleen de dealbreakers graag”), maar dat terzijde. Het is gewoon moeilijk en risicovol werk dat alleen gedaan kan worden door slimme professionals. Zoals 3G&LB het zeggen:

The lawyer theory of value tends towards the transactional and discrete. Resources (lawyer time) allocated to sequential, individual legal tasks: this question, this contract, this motion. Systems thinking and relative reductions in demand for legal labor (prevention, Lean, #DoLessLaw) are ancillary concerns to be addressed when convenient or absolutely necessary (that is to say rarely). Given their lawyer-on-task orientation, ask most lawyers what they need to be more effective, and the first answer is more time in their own day. The second answer is more time from other skilled lawyers they already work with. (…)

Kort samengevat: wat juristerij nodig heeft, is slimme mensen die hard werken. “Stand back and let me lawyer”. Legal tech wordt vaak in eerste instantie gepresenteerd als een tool waarmee slimme mensen harder kunnen werken, en dat is natuurlijk aantrekkelijk. Maar al gauw blijkt dat dit neerkomt op ánders werken. En dat is dan weer bedreigend, en dat kan een ervaren jurist je in alle detail heel precies uitleggen. (Nogmaals, geen sarcasme, er staan gewoon grote belangen op het spel.)

De belangrijkste factor is dat het tijd kost om te veranderen, en die tijd is schaars. Daarnaast speelt een belangrijke rol dat je als jurist niet vooraf weet hoe de verandering uit gaat pakken, en dat weet je wel van de huidige situatie. Dat geeft weinig prikkel om te veranderen. Als dan ook nog eens blijkt dat zo’n legal tech oplossing niet staat als een huis (en geloof me, een beetje jurist loopt de Grote Boze Wolf er binnen de seconde uit), dan houdt het snel op natuurlijk.

Waarmee ik niet wil zeggen dat legal tech kansloos is, of juristen te pessimistisch. Ik zie een samenspel van krachten die elkaar afstoten, waardoor er maar heel moeilijk beweging te krijgen is de goede kant op. Ik vraag me af hoe dat zich gaat oplossen.

Arnoud

Artificial intelligence is eigenlijk gewoon maar mensenwerk

| AE 10451 | Innovatie | 5 reacties

Het stiekeme verhaal achter artificial intelligence: eigenlijk drijft het volledig op mensenkracht, aldus de Indian Express. Al die AI-systemen moeten leren wat wat is, en daarvoor is vooralsnog een heleboel mensenkracht nodig: in foto’s omcirkelen wat een chihuahua is en wat een muffin, teksten labelen als positief of negatief of aangeven of een actie terecht… Lees verder

Hoe kunnen we transparantie toevoegen aan besluitvormende algoritmen?

| AE 10424 | Innovatie | 16 reacties

Bestuursrecht en bestuursrechtspraak zijn onvoldoende in staat om ketenbesluiten te toetsen omdat onbekend is hoe een beslisregel exact is opgebouwd en tot welke resultaten deze leidt. Dat las ik in juristenblad NJB. Steeds meer beslisregels en algoritmes worden ingezet om tot formele besluitvorming te komen, maar daarbij is volstrekt onduidelijk hoe dat besluit tot standkomt…. Lees verder

Wie gaat er nou zijn NDA’s in de blockchain stoppen?

| AE 10422 | Innovatie | 7 reacties

Powered by AI and blockchain, het nieuwe boek van Willem Vermeend en Rian van Rijbroek? Nee, de tagline van het World NDA project van het Global Legal Blockchain Consortium, blockchainprovider Integra en AI-leverancier IBM. Het project heeft als doel “the reduction of burden, cost, and risk associated with the current NDA lifecycle”, wat kennelijk betekent… Lees verder

Worden advocaten ooit door robots vervangen?

| AE 10412 | Innovatie | 2 reacties

“Siri, maak een exclusieve licentieovereenkomst in dossier X.” Dat las ik bij IE-Forum als quote uit de speech van professor Bernd Hugenholtz over de opkomst van de robot-advocaat. Hij gelooft er geen bal van; een goede mens-advocaat heeft immers onmiskenbaar kwaliteiten zoals door de juridisch bomen het bos kunnen zien, goed kunnen onderhandelen en zelfs… Lees verder

AI-lawyerbot visualiseert gebruiksvoorwaarden

| AE 10397 | Innovatie | 5 reacties

Onderzoekers van de Zwitserse technische Universiteit EPFL hebben een ai-bot online gezet die gebruiksvoorwaarden leest en omzet in een overzichtelijk stroomdiagram, las ik bij Tweakers. Er is ook een chatbot-interface waarmee je vragen kunt stellen, en de bot zoekt de meest relevante zinen er dan bij. Het nut van het stroomdiagram ontgaat me, maar het… Lees verder

AI net zo goed als willekeurige mensen in het voorspellen van recidive

| AE 10360 | Innovatie | 22 reacties

AI-software blijkt net zo goed als een groep willekeurige mensen in het voorspellen van recidive bij Amerikaanse veroordeelden, las ik bij Ars Technica. Onderzoekers van Dartmouth College vergeleken de uitkomsten van de COMPAS software (die met machine learning technieken recidive probeert te voorspellen) met de inschatting van willekeurige mensen geworven via Amazon’s Mechanical Turk. Beiden… Lees verder

De eerste robotrechter van Nederland blijkt gewoon al actief

| AE 10341 | Innovatie | 11 reacties

‘Robotrechter e-Court is een groot en niet transparant zwart gat’, kopte Nieuwsuur onlangs tendentieus. Stichting e-Court is al jaren actief als alternatieve geschilbeslechter en heeft verzekeraars gevonden als bereidwillige afnemers voor haar digitale arbitragedienst. Snel en gemakkelijk maar controversieel. Opmerkelijk voor mij daarin: de eerste stap is een artificial intelligence die over je zaak oordeelt…. Lees verder