De toekomst van legal tech: verdwijnen naar de achtergrond

| AE 11700 | Innovatie | 9 reacties

“De Nederlandse legal tech-markt is nog onvoldoende rijp en te onvolwassen om de vorm van geïntegreerde dienstverlening die we voor ogen hebben, succesvol te laten zijn.” Dat las ik half december in Advocatie. Merkwaardig, ik had niet het idee dat de rijpheid van de technologieleveranciers het grote probleem was bij de adoptie van legal tech in de juridische dienstverlening. Ik denk wel dat de term legal tech steeds meer naar de achtergrond gaat drijven – of zelfs gaat verdwijnen – en zie dat in 2020 al wel beginnen. Want uiteindelijk gáát het niet om de tech.

Legal tech is de verzamelnaam voor een bonte verzameling van technologieën en diensten die het juridische werk gaan transformeren. Van apps tot saas en van AI bots tot smart blockchains, je kunt het zo gek niet bedenken. Alle aspecten van juridische diensten worden daarbij aangepakt. Je hebt chatbots die parkeerboetes aanvechten, AI’s die dossiers doorspitten op zoek naar verborgen pijntjes en beslisboomdiensten om adviezen te genereren, opinies te checken of documenten samen te stellen.

Weet u nog dat u stopte met papieren formulieren en online ging tijdschrijven, reizen declareren en vakantiedagen aanvragen? Of dat u stopte met dicteren en zelf in Word uw dagvaardingen en adviezen typte? Of dat u stopte met adverteren in de krant en ging Twitteren? (Ik hoop dat ik zo alle generaties heb gehad.) Allemaal voorbeelden van technologieën die we met enige skepsis maar ook gevoelens van hype en vernieuwing ontvingen, en die we ondertussen doodnormaal vinden.

Want dat is de grap achter innovatie: zolang we het niet gebruiken is het nieuw, inspirerend maar misschien ook eng. En zodra we er aan gewend zijn, is het doodnormaal en gaan we het geen innovatie meer noemen. Een grapjas definieerde artificial intelligence dan ook eens als datgene wat een computer binnenkort kan. Zodra hij het nu kan, is het gewoon een knopje in Word of een site waar je een document uploadt.

Legal tech is voor veel organisaties een typisch voorbeeld van een innovatie die ietwat spannend voelt. Zoals ik in december al schreef: de adoptie van legal tech in een organisatie is vooral een kwestie van verandermanagement, en dat is eigenlijk altijd een zware dobber. Zeker in organisaties waar men gewend is op risico’s te sturen (zoals juridische dienstverleners). Daarom is er de nodige aarzeling en vertraging in de adoptie.

Maar de ervaring leert ook dat wanneer die innovatie eenmaal geaccepteerd wordt, hij binnen de kortste keren normaal is. Dan is het gewoon het knopje dat zegt dat het contract voldoet aan de business-eisen of dat de dagvaarding correct is opgesteld. Als we daar zijn, dan is legal tech een succes – maar noemt niemand het meer legal tech. De grootste toekomst voor legal tech is dus zo snel mogelijk verdwijnen.

Arnoud

Legal tech laten werken gaat vooral om verandermanagement #legaltechtuesday

| AE 11676 | Innovatie | 2 reacties

Legal tech, ik schrijf er het hele jaar al over. Technologie die de juridische sector gaat veranderen. Niet alleen maar efficiënter werken, maar op een heel nieuwe manier werken. Het maakt bijvoorbeeld nogal wat uit of je sneller in je standaardcontract kunt werken, of dat je standaardcontract gewoon staat met twee klikken en je daarna tijd over hebt voor het échte aanpaswerk in dat contract. En de grap is: dat enorme voordeel, die belofte van legal tech, is meteen ook de grootste zwakte. Want je vraagt dan aan mensen om hun werk anders te doen.

Ja, dan heb ik het over verandermanagement. Een van de taaiste onderwerpen binnen bedrijven. Je kunt nog zo veel mooie shiny tools het bedrijf binnenrijden, als mensen er niet aan willen omdat ze hun oude hulpmiddelen zo prettig vinden, dan gebeurt het niet. Dan blijft dat nieuwe ding aan de kant staan stof te happen. In menig organisatie is ooit een prachtig customer relationship management-tool ingevoerd, waar weliswaar de basisgegevens staan maar alle échte informatie zit in een Excelsheet, Outlookpagina of achterhoofd van de medewerkers. Dat werkt namelijk al 20 jaar prima, en die nieuwe tool kost echt even veel tijd en moeite. Idem voor legal tech tools die bijvoorbeeld contracten genereren met een vragenlijst; leuk ding maar menig collega pakt toch even dat Word document van de vorige keer.

Ergens is dat raar. Je zou zeggen, als de hoogste baas zegt, dit gaan we nu doen met tool X, dan gaat iedereen dat doen. Instructie van de werkgever is wet, nietwaar? Maar helaas voor vele gefrustreerde werkgevers werkt het niet zo, zeker niet met tools voor het dagelijks werk. Mensen zijn gewend aan een manier van werken, en verwachten dat de nieuwe tool dat ook doet. Dat is natuurlijk niet zo, dus dat roept frustratie op. Wordt die niet opgepakt, dan grijpen mensen terug naar de oude manier van werken. En als je dáár dan niet hard op wordt afgerekend, dan is er natuurlijk geen reden om veranderen meer.

Specifiek in de juridische sector speelt er nog een extra factor. Wij juristen en advocaten zijn gespitst op het leveren van de hoogste kwaliteit, en vooral op het uitsluiten van risico’s. We kunnen die risico’s ook met de meest bloemrijke taal in de zwaarste akkoorden aanzetten, dat is immers ons werk. Dat maakt het extra lastig om nieuwe tools in deze sector te introduceren, want je moet dan al die risico’s adresseren om überhaupt het ding over de drempel te krijgen. En daarnaast moet je het wantrouwen wegnemen of die tool wel net zo goed werkt als de oude manier van werken.

Neem documentgeneratie (iets waar mijn eigen bedrijf tools voor levert). We willen graag het beste contract neerzetten, ook als het een ‘simpele’ standaardklus is – er is immers geen simpele klus, er zijn alleen verdacht eenvoudige situaties en cliënten die ondoordacht een businessdeal sluiten. Dat contract moet dus gewoon goed. Starten vanuit een model is prima, maar staat er wel in wat ik vind dat nodig is? Worden de risico’s waar ik op stuur, wel geadresseerd in deze tool? Als ik daar geen zekerheid voor kan krijgen, of net zo lang bezig ben dat te controleren, dan doe ik het wel gewoon ouderwets met het vorige contract waar ik de namen uit aanpas.

Hier doorheen breken is buitengewoon moeilijk. Nog los van de tijd die je nodig hebt om mensen de nieuwe tool te leren – allereerst moet de wil er zijn de nieuwe tool te leren kennen. En die wil komt er niet enkel omdat de nieuwe tool er is en “legal tech” heet of met een robot in toga wordt gepromoot. Daar is meer voor nodig; overtuigingskracht en inzicht, vertrouwen dat dat nieuwe systeem echt minstens zo goed is als het oude. En als dat niet werkt, ook negatieve prikkels. Maar ja, welk kantoor durft écht Word eruit te gooien om zo de advocaten te dwingen naar de nieuwe omgeving?

Arnoud

De redelijkheid is ver te zoeken in die smart contracts #legaltechtuesday

| AE 11650 | Innovatie | 7 reacties

Smart contracts: zelfdenkende software die buiten de greep van één partij automatisch voorwaarden checkt en afgesproken handelingen uitvoert. Daarover schreef ik een paar columns geleden. Het onderwerp blijft tot de verbeelding spreken, want zeg nou zelf wie wil er geen slim contract dat zonder tussenkomst van een advocaat of rechter netjes nagekomen wordt? En het klinkt ook zo logisch, dat je contractuele afspraken niet opschrijft in juridische woordenwolken maar als duidelijke, stap-voor-stap instructies waar een computer gewoon mee aan de gang gaat.

Een smart contract heet ‘smart’ omdat de verbintenissen en de wijze van nakoming niet in gewone taal zijn opgeschreven maar in uitvoerbare instructies. In principe komt dat neer op een heleboel beslisregels. Is de leverdatum bereikt, zet het vermogensrecht dan op naam van ontvanger. Is er een betaling ontvangen, verreken dan eerst de nog verschuldigde rente op oude vorderingen en pas daarna boek je op de openstaande vorderingen zelf. Staat er in het faillissementsregister de naam van de leverancier, zet dan de betaling stop.

Dit klinkt redelijk basaal en dat is het ook. Maar praktisch is het wel, want veel van dit soort afspraken zijn dingen die gewoon automatisch bijgehouden en gecheckt kunnen worden. En het kan bijdragen aan vertrouwen wanneer partijen elkaar niet kennen en elkaar niet voor de rechter kunnen slepen. Als dan het contract, pardon het computerprogramma gewoon doet wat er is afgesproken en niemand kan dat halverwege beïnvloeden of omkopen, dan is zo’n risicovolle transactie misschien toch het ondernemen waard.

Maar zodra je dergelijke basale afspraken overstijgt, wordt het erg ingewikkeld. Je krijgt dan te maken met subjectieve toetsen, en hoe kan een computerprogramma – hoe slim ook – daarop verifiëren? Dat een website opgeleverd is, kun je automatisch nog wel nagaan. Maar of ‘ie mooi is, schrijf daar maar eens een statement voor. Daar kom je niet uit, vrees ik. Dan moet je ‘mooi’ kwantificeren tot objectieve technische eisen en ik weet niet hoe gelukkig je daarvan wordt (kleur A en kleur B verschillen minstens 30 tinten in de Pantone waaier, zoiets?)

Verder is er nog een vrij fundamenteel probleem: de redelijkheid (en billijkheid) is ver te zoeken in smart contracts. Het zijn immers computerprogramma’s, en die staan erom bekend rechtlijnig en compromisloos te opereren. Staat er een fout in, dan wordt die fout netjes uitgevoerd. Dit terwijl een fout in een ‘dom’ contract – stel, een nul vergeten in de verkoopprijs – altijd nog rechtgezet kan worden bij de rechtbank.

Punt is natuurlijk hoe je aantoont dat iets een foutje is. Die vergeten nul krijg je waarschijnlijk nog wel erbij gepraat met de eerdere contractconcepten of het spreekwoordelijke bierviltje. Een verkeerde rechtskeuze die niemand opviel in het proces is alweer wat lastiger recht te trekken. Maar een goed pleidooi kan alsnog de redding bieden.

Een belangrijke factor daarbij voor mij is dat een traditioneel contract (dat klinkt toch mooier dan ‘dom’) opgezet is met uitspraken over de gewenste uitkomst. “A verkoopt aan B het goed C”. Bij smart contracts wordt met programmeertaal gewerkt, en dat betekent instructies die de uitkomst moeten opleveren. Maar daar zit een subtiel verschil tussen. Hoe weet je of een verkeerde instructie fout is, als je niet weet wat de gewenste uitkomst is? Als je zegt, het smart contract is de afspraak, dan is die instructie dus niet fout. Misschien ongewenst, achteraf gezien, maar er staat dat het goed naar X moet dus gaat het naar X.

Een berucht voorbeeld is de zogeheten DAO-hack uit 2016. The DAO is een gedecentraliseerd investeringsvehikel dat opgezet is middels een berg van die slimme contracten, gebruik makend van de Ethereum-blockchainimplementatie. In een van die contracten stond een foutje, althans een onbedoelde feature, waardoor een bijdehantje in staat was om gratis geld te krijgen. Legaal. Hoewel het namelijk evident is dat The DAO dit niet heeft gewild, zijn er geen illegale hacks of dergelijke uitgevoerd. Het stelsel van smart contracts had namelijk een gaatje: iemand die een bepaalde onvoorziene aanvraag indiende en daarna introk, kreeg als een soort afrondingsfoutje meer geld terug dan hij betaald had bij die aanvraag.

Wie dit zou doen bij een papieren contract, zou meteen weten dat dit niet gaat werken. De stap naar de rechter zou waarschijnlijk niet eens nodig zijn. Maar in dit smart contract geval is dat lang zo evident niet. Als je namelijk zegt, de afspraak is wat het smart contract doet, en het smart contract doet iets anders dan jij had beoogd, wat is dan de legale uitkomst? Precies. Ook als dat in strijd met de redelijkheid is.

Het wordt dus tijd die redelijkheid in te gaan bouwen in software. Maar daar moet eerst een nieuwe programmeertaal voor komen vermoed ik.

Arnoud

Kan dat, een algoritme met een moreel kompas? #legaltechtuesday

| AE 11642 | Innovatie | 61 reacties

Wat doe je als slimme algoritmes verkeerde of gevaarlijke keuzes maken? Die vraag las ik in FD onlangs. Machine learning-onderzoeker Philip Thomas uit Massachusetts heeft een methode ontwikkeld om ‘ongewenst gedrag’ vooraf uit intelligente machines te filteren. Hij noemt dat een Seldonian algoritme, en omdat mijn eerste zelfgekochte boeken de Foundation-reeks van Asimov waren trok… Lees verder

Wie een robot als confrère verwacht, begrijpt niets van legal tech

| AE 11449 | Informatiemaatschappij | 7 reacties

Een robot in de rechtbank zal niet snel voorkomen, want het werk van advocaten „is heel moeilijk te automatiseren”. Dat las ik in NRC Handelsblad onlangs. Het idee is hardnekkig: de robots en/of de AI’s komen eraan, en ze gaan onze banen inpikken (South Park referentie optioneel). Waarbij de illustrator van dienst dan vaste prik… Lees verder

Camera’s Britse politie herkenden duizenden mensen onterecht als crimineel

| AE 10573 | Privacy | 21 reacties

De politie van Wales zette tijdens de Champions League-finale van 2017 in Cardiff technologie met gezichtsherkenning in om criminelen op te sporen, maar het systeem zat in 92 procent van de gevallen fout. Dat meldde Nu.nl onlangs. De technologie scande van 170.000 mensen het gezicht en vond daarbij 2.470 potentiële gelijkenissen tussen bezoekers en bekende… Lees verder

Goh, lawyerbots zijn beter dan juristen in het lezen van saaie juridische documenten

| AE 10505 | Informatiemaatschappij | 6 reacties

Alweer ietsje langer geleden maar toch: in een ‘wedstrijd’ tussen een lawyerbot van het Israëlische LawGeex en twintig Amerikaanse advocaten bleek de eerste een stuk beter in staat om juridische fouten in NDA’s en andere documenten te vinden. Om precies te zijn: de AI was 94% accuraat waar de mensen rond de 85% scoorden. Dit… Lees verder