Tag: legal tech

About legal tech

Subscribe Feeds

Met RPA klikt een robot op je knopjes #legaltechtuesday

Geplaatst op in Innovatie, 3 reacties

Legal tech gaat het juridische werk transformeren, lijkt mijn mantra te gaan worden. Nieuwe tools maken nieuwe manieren van werken mogelijk, en dat zal uiteindelijk zorgen voor een heel andere juridische sector. Waarschijnlijk met minder advocaten en meer andersoortige dienstverleners die juridische zaken erbij doen. In ieder geval de standaardzaken. Maar zo ver zijn we nog niet: voordat we zo ver kunnen transformeren, moeten we eerst maar eens goed automatiseren wat we doen als juristen en zij die daar omheen diensten leveren. En het nieuwe toverwoord daarbij is robotic process automation.

Robotgestuurde procesautomatisering (Robotic process automation, RPA) is een techniek die gebruikt wordt voor het automatiseren van bedrijfsprocessen, met behulp van software-robots. Dat zijn hele simpele robotjes: ze herhalen de standaardstappen die u en ik elke dag nemen, zoals het tijdschrijven na een telefoontje of het opbergen van een e-mail in het CRM-systeem.

Klinkt handig, nietwaar? Iets dat de leverancier van zulke spullen misschien zelf in moet bouwen. Waarom moet ik als dure kenniswerken immers tien minuten bezig zijn met een mail opbergen of klikken wie ik gebeld heb, als goedkope software dat ook kan? En hela, als u die kant op gaat dan bent u ineens bereid uw firma te robotiseren. (Ja, vroeger had u hier een secretaresse voor, maar sinds we allemaal eigen laptops hebben doen we dit administratieve werk zelf. Ik weet ook niet waarom.)

Maar het kan verder gaan. Dit soort software kan ook bestanden bewerken of informatievelden invullen in uw bedrijfsapplicaties. Daarmee zijn dus eenvoudige taken volledig te automatiseren, zoals een intake per mail van een nieuwe klant. En dan wordt het nog interessanter: dan kun je dus méér werk doen, meer klanten aannemen dan al je mensen samen kunnen. Want als een robot het druk heet, dan koop je een processor erbij en dan kan hij weer verder. Kom daar maar eens om bij een menselijke werknemer.

Wanneer een robot op dat niveau kan opereren, dan kan dat een bedrijf behoorlijk wat schelen. Een robot is consistent en minutieus: hij vult bij elke klant het formulier op dezelfde manier in, en bergt dezelfde type documenten altijd op dezelfde manier in de juiste dossiers op. Iets waar menig jurist maar wat blij mee zou zijn: wat een gedoe elke keer, de juiste code erbij zoeken, goed opletten dat je de juiste map aanklikt en hoe krijg je een gesleept document terug als je de verkeerde bestemming selecteert?

Veel legal tech oplossingen worden nu gemarket met een AI sausje. Dat is logisch want daar gaat alle aandacht naartoe, maar ik zie wel dat mensen daar risico’s in zien. Want AI systemen zijn vaak onvoorspelbaar: nee, ze gaan niet ineens de robotrevolutie uitroepen of het kantoor transformeren naar een accountancyfirma, maar hun gedrag wordt afgeleid uit data-analyse, uit statistiek. RPA systemen werken op de ‘klassieke’ manier met als/dan-regels en vooraf geprogrammeerde keuzes. Ze doen dus precies wat je ze zegt, en gaan niet zelf bedenken dat je beter naar andere velden kunt kijken of dat er een snellere manier is om het gewenste resultaat te bereiken.

Het blijft me verbazen dat mensen zo veel bezig zijn met taken die computers veel beter kunnen. RPA technologie komt dan ook als geroepen, wat mij betreft. Want dat is legal tech in action: mensen steunen bij hun werk, door ze het standaardwerk, het saaie, het routinematige uit handen te nemen.

Vergeet dus dat beeld van die robot in toga, of zelfs maar die legal tech oplossing die een pleitnota produceert of volautomatisch een contract samenstelt. Die creatieve keuzes, die inschatting wat er in het contract moet of welke plechtstatige volzin de zaak gaat redden, die maakt u en die blijft u maken. Maar de details, de opbouw en de check op het aantal pagina’s, dat kan een robot beter. Dus laat die lekker dat klusje doen. Dát is wat legal tech gaat doen.

Arnoud

De toekomst van legal tech: verdwijnen naar de achtergrond

Geplaatst op in Innovatie, 9 reacties

“De Nederlandse legal tech-markt is nog onvoldoende rijp en te onvolwassen om de vorm van geïntegreerde dienstverlening die we voor ogen hebben, succesvol te laten zijn.” Dat las ik half december in Advocatie. Merkwaardig, ik had niet het idee dat de rijpheid van de technologieleveranciers het grote probleem was bij de adoptie van legal tech in de juridische dienstverlening. Ik denk wel dat de term legal tech steeds meer naar de achtergrond gaat drijven – of zelfs gaat verdwijnen – en zie dat in 2020 al wel beginnen. Want uiteindelijk gáát het niet om de tech.

Legal tech is de verzamelnaam voor een bonte verzameling van technologieën en diensten die het juridische werk gaan transformeren. Van apps tot saas en van AI bots tot smart blockchains, je kunt het zo gek niet bedenken. Alle aspecten van juridische diensten worden daarbij aangepakt. Je hebt chatbots die parkeerboetes aanvechten, AI’s die dossiers doorspitten op zoek naar verborgen pijntjes en beslisboomdiensten om adviezen te genereren, opinies te checken of documenten samen te stellen.

Weet u nog dat u stopte met papieren formulieren en online ging tijdschrijven, reizen declareren en vakantiedagen aanvragen? Of dat u stopte met dicteren en zelf in Word uw dagvaardingen en adviezen typte? Of dat u stopte met adverteren in de krant en ging Twitteren? (Ik hoop dat ik zo alle generaties heb gehad.) Allemaal voorbeelden van technologieën die we met enige skepsis maar ook gevoelens van hype en vernieuwing ontvingen, en die we ondertussen doodnormaal vinden.

Want dat is de grap achter innovatie: zolang we het niet gebruiken is het nieuw, inspirerend maar misschien ook eng. En zodra we er aan gewend zijn, is het doodnormaal en gaan we het geen innovatie meer noemen. Een grapjas definieerde artificial intelligence dan ook eens als datgene wat een computer binnenkort kan. Zodra hij het nu kan, is het gewoon een knopje in Word of een site waar je een document uploadt.

Legal tech is voor veel organisaties een typisch voorbeeld van een innovatie die ietwat spannend voelt. Zoals ik in december al schreef: de adoptie van legal tech in een organisatie is vooral een kwestie van verandermanagement, en dat is eigenlijk altijd een zware dobber. Zeker in organisaties waar men gewend is op risico’s te sturen (zoals juridische dienstverleners). Daarom is er de nodige aarzeling en vertraging in de adoptie.

Maar de ervaring leert ook dat wanneer die innovatie eenmaal geaccepteerd wordt, hij binnen de kortste keren normaal is. Dan is het gewoon het knopje dat zegt dat het contract voldoet aan de business-eisen of dat de dagvaarding correct is opgesteld. Als we daar zijn, dan is legal tech een succes – maar noemt niemand het meer legal tech. De grootste toekomst voor legal tech is dus zo snel mogelijk verdwijnen.

Arnoud

Legal tech laten werken gaat vooral om verandermanagement #legaltechtuesday

Geplaatst op in Innovatie, 2 reacties

Legal tech, ik schrijf er het hele jaar al over. Technologie die de juridische sector gaat veranderen. Niet alleen maar efficiënter werken, maar op een heel nieuwe manier werken. Het maakt bijvoorbeeld nogal wat uit of je sneller in je standaardcontract kunt werken, of dat je standaardcontract gewoon staat met twee klikken en je daarna tijd over hebt voor het échte aanpaswerk in dat contract. En de grap is: dat enorme voordeel, die belofte van legal tech, is meteen ook de grootste zwakte. Want je vraagt dan aan mensen om hun werk anders te doen.

Ja, dan heb ik het over verandermanagement. Een van de taaiste onderwerpen binnen bedrijven. Je kunt nog zo veel mooie shiny tools het bedrijf binnenrijden, als mensen er niet aan willen omdat ze hun oude hulpmiddelen zo prettig vinden, dan gebeurt het niet. Dan blijft dat nieuwe ding aan de kant staan stof te happen. In menig organisatie is ooit een prachtig customer relationship management-tool ingevoerd, waar weliswaar de basisgegevens staan maar alle échte informatie zit in een Excelsheet, Outlookpagina of achterhoofd van de medewerkers. Dat werkt namelijk al 20 jaar prima, en die nieuwe tool kost echt even veel tijd en moeite. Idem voor legal tech tools die bijvoorbeeld contracten genereren met een vragenlijst; leuk ding maar menig collega pakt toch even dat Word document van de vorige keer.

Ergens is dat raar. Je zou zeggen, als de hoogste baas zegt, dit gaan we nu doen met tool X, dan gaat iedereen dat doen. Instructie van de werkgever is wet, nietwaar? Maar helaas voor vele gefrustreerde werkgevers werkt het niet zo, zeker niet met tools voor het dagelijks werk. Mensen zijn gewend aan een manier van werken, en verwachten dat de nieuwe tool dat ook doet. Dat is natuurlijk niet zo, dus dat roept frustratie op. Wordt die niet opgepakt, dan grijpen mensen terug naar de oude manier van werken. En als je dáár dan niet hard op wordt afgerekend, dan is er natuurlijk geen reden om veranderen meer.

Specifiek in de juridische sector speelt er nog een extra factor. Wij juristen en advocaten zijn gespitst op het leveren van de hoogste kwaliteit, en vooral op het uitsluiten van risico’s. We kunnen die risico’s ook met de meest bloemrijke taal in de zwaarste akkoorden aanzetten, dat is immers ons werk. Dat maakt het extra lastig om nieuwe tools in deze sector te introduceren, want je moet dan al die risico’s adresseren om überhaupt het ding over de drempel te krijgen. En daarnaast moet je het wantrouwen wegnemen of die tool wel net zo goed werkt als de oude manier van werken.

Neem documentgeneratie (iets waar mijn eigen bedrijf tools voor levert). We willen graag het beste contract neerzetten, ook als het een ‘simpele’ standaardklus is – er is immers geen simpele klus, er zijn alleen verdacht eenvoudige situaties en cliënten die ondoordacht een businessdeal sluiten. Dat contract moet dus gewoon goed. Starten vanuit een model is prima, maar staat er wel in wat ik vind dat nodig is? Worden de risico’s waar ik op stuur, wel geadresseerd in deze tool? Als ik daar geen zekerheid voor kan krijgen, of net zo lang bezig ben dat te controleren, dan doe ik het wel gewoon ouderwets met het vorige contract waar ik de namen uit aanpas.

Hier doorheen breken is buitengewoon moeilijk. Nog los van de tijd die je nodig hebt om mensen de nieuwe tool te leren – allereerst moet de wil er zijn de nieuwe tool te leren kennen. En die wil komt er niet enkel omdat de nieuwe tool er is en “legal tech” heet of met een robot in toga wordt gepromoot. Daar is meer voor nodig; overtuigingskracht en inzicht, vertrouwen dat dat nieuwe systeem echt minstens zo goed is als het oude. En als dat niet werkt, ook negatieve prikkels. Maar ja, welk kantoor durft écht Word eruit te gooien om zo de advocaten te dwingen naar de nieuwe omgeving?

Arnoud

De redelijkheid is ver te zoeken in die smart contracts #legaltechtuesday

Geplaatst op in Innovatie, 7 reacties

Smart contracts: zelfdenkende software die buiten de greep van één partij automatisch voorwaarden checkt en afgesproken handelingen uitvoert. Daarover schreef ik een paar columns geleden. Het onderwerp blijft tot de verbeelding spreken, want zeg nou zelf wie wil er geen slim contract dat zonder tussenkomst van een advocaat of rechter netjes nagekomen wordt? En het klinkt ook zo logisch, dat je contractuele afspraken niet opschrijft in juridische woordenwolken maar als duidelijke, stap-voor-stap instructies waar een computer gewoon mee aan de gang gaat.

Een smart contract heet ‘smart’ omdat de verbintenissen en de wijze van nakoming niet in gewone taal zijn opgeschreven maar in uitvoerbare instructies. In principe komt dat neer op een heleboel beslisregels. Is de leverdatum bereikt, zet het vermogensrecht dan op naam van ontvanger. Is er een betaling ontvangen, verreken dan eerst de nog verschuldigde rente op oude vorderingen en pas daarna boek je op de openstaande vorderingen zelf. Staat er in het faillissementsregister de naam van de leverancier, zet dan de betaling stop.

Dit klinkt redelijk basaal en dat is het ook. Maar praktisch is het wel, want veel van dit soort afspraken zijn dingen die gewoon automatisch bijgehouden en gecheckt kunnen worden. En het kan bijdragen aan vertrouwen wanneer partijen elkaar niet kennen en elkaar niet voor de rechter kunnen slepen. Als dan het contract, pardon het computerprogramma gewoon doet wat er is afgesproken en niemand kan dat halverwege beïnvloeden of omkopen, dan is zo’n risicovolle transactie misschien toch het ondernemen waard.

Maar zodra je dergelijke basale afspraken overstijgt, wordt het erg ingewikkeld. Je krijgt dan te maken met subjectieve toetsen, en hoe kan een computerprogramma – hoe slim ook – daarop verifiëren? Dat een website opgeleverd is, kun je automatisch nog wel nagaan. Maar of ‘ie mooi is, schrijf daar maar eens een statement voor. Daar kom je niet uit, vrees ik. Dan moet je ‘mooi’ kwantificeren tot objectieve technische eisen en ik weet niet hoe gelukkig je daarvan wordt (kleur A en kleur B verschillen minstens 30 tinten in de Pantone waaier, zoiets?)

Verder is er nog een vrij fundamenteel probleem: de redelijkheid (en billijkheid) is ver te zoeken in smart contracts. Het zijn immers computerprogramma’s, en die staan erom bekend rechtlijnig en compromisloos te opereren. Staat er een fout in, dan wordt die fout netjes uitgevoerd. Dit terwijl een fout in een ‘dom’ contract – stel, een nul vergeten in de verkoopprijs – altijd nog rechtgezet kan worden bij de rechtbank.

Punt is natuurlijk hoe je aantoont dat iets een foutje is. Die vergeten nul krijg je waarschijnlijk nog wel erbij gepraat met de eerdere contractconcepten of het spreekwoordelijke bierviltje. Een verkeerde rechtskeuze die niemand opviel in het proces is alweer wat lastiger recht te trekken. Maar een goed pleidooi kan alsnog de redding bieden.

Een belangrijke factor daarbij voor mij is dat een traditioneel contract (dat klinkt toch mooier dan ‘dom’) opgezet is met uitspraken over de gewenste uitkomst. “A verkoopt aan B het goed C”. Bij smart contracts wordt met programmeertaal gewerkt, en dat betekent instructies die de uitkomst moeten opleveren. Maar daar zit een subtiel verschil tussen. Hoe weet je of een verkeerde instructie fout is, als je niet weet wat de gewenste uitkomst is? Als je zegt, het smart contract is de afspraak, dan is die instructie dus niet fout. Misschien ongewenst, achteraf gezien, maar er staat dat het goed naar X moet dus gaat het naar X.

Een berucht voorbeeld is de zogeheten DAO-hack uit 2016. The DAO is een gedecentraliseerd investeringsvehikel dat opgezet is middels een berg van die slimme contracten, gebruik makend van de Ethereum-blockchainimplementatie. In een van die contracten stond een foutje, althans een onbedoelde feature, waardoor een bijdehantje in staat was om gratis geld te krijgen. Legaal. Hoewel het namelijk evident is dat The DAO dit niet heeft gewild, zijn er geen illegale hacks of dergelijke uitgevoerd. Het stelsel van smart contracts had namelijk een gaatje: iemand die een bepaalde onvoorziene aanvraag indiende en daarna introk, kreeg als een soort afrondingsfoutje meer geld terug dan hij betaald had bij die aanvraag.

Wie dit zou doen bij een papieren contract, zou meteen weten dat dit niet gaat werken. De stap naar de rechter zou waarschijnlijk niet eens nodig zijn. Maar in dit smart contract geval is dat lang zo evident niet. Als je namelijk zegt, de afspraak is wat het smart contract doet, en het smart contract doet iets anders dan jij had beoogd, wat is dan de legale uitkomst? Precies. Ook als dat in strijd met de redelijkheid is.

Het wordt dus tijd die redelijkheid in te gaan bouwen in software. Maar daar moet eerst een nieuwe programmeertaal voor komen vermoed ik.

Arnoud

Kan dat, een algoritme met een moreel kompas? #legaltechtuesday

Geplaatst op in Innovatie, 61 reacties

Wat doe je als slimme algoritmes verkeerde of gevaarlijke keuzes maken? Die vraag las ik in FD onlangs. Machine learning-onderzoeker Philip Thomas uit Massachusetts heeft een methode ontwikkeld om ‘ongewenst gedrag’ vooraf uit intelligente machines te filteren. Hij noemt dat een Seldonian algoritme, en omdat mijn eerste zelfgekochte boeken de Foundation-reeks van Asimov waren trok dat meteen mijn aandacht. Want ja, het is een probleem als algoritmes racistisch, seksistisch of biasbevestigend zijn. Maar is daar werkelijk een quick fix voor die ook nog eens een mooie science fiction term kan krijgen?

De kern van het onderzoek van Thomas is dat je bepaalde ongewenste uitkomsten vooraf algoritmisch vastlegt, zodat een machine learning algoritme een uitkomst kan toetsen aan dit geprogrammeerde moreel kompas:

Using an experimental dataset, they gave their algorithm mathematical instructions to avoid developing a predictive method that systematically overestimated or underestimated GPAs for one gender. With these instructions, the algorithm identified a better way to predict student GPAs with much less systematic gender bias than existing methods.

Het idee is dus dat als je vooraf kunt zeggen “je mag geen bias hebben op klasse X”, dat je dan eerlijker uitkomsten krijgt. Dit is de omgekeerde benadering van hoe men nu vaak probeert vooringenomenheid te voorkomen, namelijk door klasse X weg te laten uit de dataset. Zeg maar, je wilt voorkomen dat je vrouwen onderselecteert dus je laat het veld ‘geslacht’ weg. Maar dat werkt niet: ML algoritmes zullen andere factoren oppikken (zoals de hobby vrouwentennis of het voornaamwoord haar) en daaruit alsnog genderbias construeren. De Seldonian-benadering is dus dat je zegt “ik wil even veel vrouwen als mannen op gesprek” als HR-adviseur.

(De benadering gaat overigens verder dan alleen discriminatie; je kunt ook bijvoorbeeld zeggen dat de uitkomst niet mag zijn dat een diabetespatiënt een risicovol lage bloedsuikerspiegel kan krijgen. Maar dat terzijde.)

Je zou dus zeggen, opgelost nu dat bias-probleem: maak een kompasregel voor iedere verboden factor uit artikel 9 AVG en verplicht ieder ML systeem daarop te toetsen. Maar dat is ingewikkelder dan je denkt. Bias of vooringenomenheid is niet alleen dat je keihard vrouwen uitsluit of weglaat. Vaak is het veel subtieler; lees het boek Invisible Women als u de details wil weten maar het was voor mij bijvoorbeeld een eye-opener dat als je mannen en vrouwen gelijke toegang tot toiletten wilt geven je 50% meer dames-wc’s nodig hebt. Dáár op komen is niet zo simpel als “je mag geen bias hebben op geslacht”.

Arnoud

Wie een robot als confrère verwacht, begrijpt niets van legal tech

Geplaatst op in Informatiemaatschappij, 7 reacties

Een robot in de rechtbank zal niet snel voorkomen, want het werk van advocaten „is heel moeilijk te automatiseren”. Dat las ik in NRC Handelsblad onlangs. Het idee is hardnekkig: de robots en/of de AI’s komen eraan, en ze gaan onze banen inpikken (South Park referentie optioneel). Waarbij de illustrator van dienst dan vaste prik een robot in toga tekent die een vlammend betoog ter behoud van de democratische rechtsstaat houdt, of een moeilijk dossier leest met de vinger bij de betreffende regel. Allemaal leuk en aardig maar legal tech en robots gaan helemaal niet het werk van advocaten overnemen of automatiseren. Ze gaan de maatschappij transformeren zodat dat werk irrelevant of een beperkte niche wordt.

Dat het werk van advocaten heel moeilijk te automatiseren is geloof ik graag. Het “heeft een hoge creativiteitsfactor”, zo zegt ABN Amro-bankier en sectorspecialist Han Mesters in de NRC. Slimme argumenten, spitsvondige reacties, aanvoelen wat de rechter eigenlijk wil horen, een schikkingsvoorstel verzinnen dat de emotie van de wederpartij erkent, in een duister uitziende zaak toch een lichtpuntje vinden én met onvermoeibaar pleiten daar de winst uit slepen – nee, daar zie ik vooralsnog geen computerprogramma voor komen.

Software is goed in het automatiseren van het gewone, het alledaagse. Het vinden van afwijkingen, het controleren van patronen, het doen van extrapolaties. Dat is heel iets anders dan het soort maatwerk waar de advocatuur voor staat. Dat zie ik meteen. En om die reden hoef je je inderdaad nul zorgen te maken dat je pleitwerk overgenomen wordt door een robot in een toga.

Grappig genoeg lijkt het NRC artikel juist te bevestigen waar het wél pijn gaat doen in de juridische sector:

Bosman voorziet echter dat het ‘productiewerk’ dat zij verrichten door technologische ontwikkelingen veel sneller zal gaan. „Daar zit de pijn voor advocatenkantoren. Dan stort dit businessmodel in. Mensen zullen in de advocatuur niet vervangen worden door machines, maar er zullen wel minder mensen nodig zijn omdat men productiever wordt.”

Dus het werk van advocaten wordt niet weggeautomatiseerd, alleen 80% van de advocaten. Oké, dat is inderdaad een nuanceverschil.

Daar komt bij dat software-gedreven dienstverlening zorgt voor een andere manier van werken. Automatiseren is nooit het simpelweg automatisch doen van wat je voorheen handmatig deed. Toen de treinen van stoom naar elektrisch gingen, werden stokers overbodig en moesten machinisten hun vak opnieuw leren. Er kwam geen robot die schepjes diesel in de oven gooide. Datzelfde gaat gebeuren in de juridische sector.

Het is misschien een wat gevaarlijk voorbeeld, maar e-Court heeft laten zien wat er kan gaan gebeuren. De organisatie is controversieel omdat consumenten niet doorhadden dat ze naar arbitrage gingen (en dat een robotrechter daarbij meekeek), maar men had wel een alternatieve geschilbeslechting opgetuigd met effectieve inzet van ict-middelen. Lagere kosten, snellere rechtsgang en inzet van AI om standaardkwesties standaard af te doen. Dat is innovatie volgens het boekje. Niet slechts faxen in plaats van brieven, maar het proces opnieuw doen.

Die manier van denken, die wordt de toekomst. De bulk van het proceswerk is standaard, en dáár is software goed in om te verwerken. Daarom gaan die 80% van de advocaten minder werk krijgen. Die software zoekt de standaardzaken uit, en er is dan geen advocaat meer nodig die daar nog eens zhaar zegje over doet.

Ja, natuurlijk zullen er dan altijd nog rare gevallen zijn waarbij je wél een advocaat zou willen. Een mens die jou uit het bureaucratisch geweld van de machines plukt. Maar dat zullen zeldzame situaties zijn, en ik heb zelfs serieuze twijfels of die nieuwe systemen daar rekening mee gaan houden.

Arnoud

Moeten advocaten nu ook allemaal programmeur worden?

Geplaatst op in Innovatie, 8 reacties

Steeds vaker lees ik dat de juridische sector sterk achterloopt bij het adopteren van technologische innovaties – legal tech – en dat een belangrijke factor daarbij is dat advocaten en juristen te weinig kunnen programmeren. Daar zit in theorie wat in: wie niet weet hoe software werkt of wat het kan, zal niet snel geneigd zijn naar een software-oplossing te gaan. En zeker als de dienstverlening zelf steeds meer geautomatiseerd wordt, dan blijven de mensen achter die alleen maar met vulpen een pleitnota weten te produceren. Maar toch is het complexer dan dat.

Dat de juridische sector sterk achterloopt, staat buiten kijf. Het is pas vrij recent dat er grote aandacht is voor technologische innovatie, onder de hippe term “legal tech”. Van apps voor tijdschrijven tot Artificial Intelligence contractsanlyse. Veel van die legal tech is op zichzelf niet heel bijzonder: ze automatiseert alleen wat er al bestaat. Dat is handig en efficiënt maar maakt dingen niet fundamenteel anders. Tijdschrijven blijft tijdschrijven.

Er zijn natuurlijk wel echte vernieuwingen, zoals die automatische contractsanalyse. Laat een computer speuren naar opvallende clausules of rare combinaties, en dan kan een mens daar gericht naar kijken wat het juridisch voor problemen (of aansprakelijkheden) geeft. Zo gebruik je van beiden het beste. Het grappige is, hier loopt de juridische sector dan weer een heel eind voorop – ik zie nauwelijks aandacht voor bijvoorbeeld AI om broncode te analyseren of fraude in wetenschappelijk onderzoek aan te tonen.

Leren programmeren geeft je relevante skills en inzichten over hoe programmeren werkt en wat software kan. (“Dat was wel een beetje een desillusie” aldus een juridische kennis van me na een summercamp op dat gebied.) Dat kan erg nuttig zijn als je klanten daarover wilt adviseren, of na wilt denken over nieuwe diensten of de manier van aanbieden daarvan.

Veel belangrijker lijkt me kunnen zien wat de sector nodig heeft, beter gezegd wat de klant nodig heeft. Want uiteindelijk zal die het worst wezen of het een AI is die zijn contract doorvlooide of een mens dat er met 20 jaar ervaring snel naar keek. Die wil weten of hij kan tekenen, of dat zijn schadeclaim goede kans van slagen heeft en hoe die claim te gaan halen.

Dat op een effectieve manier doen vereist veel meer dan alleen een nieuwe app of kunnen programmeren. Dat vereist een nieuwe manier van werken, de bereidheid om te zeggen, we gaan het helemaal anders doen. En juist dát is de grote uitdaging in de juridische sector.

Arnoud

Weten hoe de computer werkt, is een mensenrecht

Geplaatst op in Innovatie, 48 reacties

Gemeenten gebruiken data over hun inwoners om problemen op te sporen voor ze uit de hand lopen, las ik in NRC Handelsblad. Handig dat datagedreven beleid, maar voor de burger stijgt de kans te worden afgerekend op voorspeld gedrag. En dat is een probleem, zelfs als je betoogt dat de gemeente zo gerichter kan handhaven omdat ze aan die data kan zien wie ze moet hebben in plaats van ongericht overal te gaan kijken. Want – bekend thema ondertussen – probeer maar eens te achterhalen wát de regels zijn waarop je dan afgerekend wordt. Toch een niet onbelangrijk thema binnen een rechtsstaat.

Datagedreven beleid, heet het. Het onbekende in kaart brengen als gemeente met data, en dat kan variëren van het voorspellen van de vervangingstermijn van vuilniswagens tot de tijd tussen schoonmaakacties. Maar meestal gaat het over mensen: kans op depressies, armoede en “leefbaarheidsproblemen”.

Uniek aan dit beleid is dat het vaak voor iedereen een black box is. Ook voor de ambtenaren zelf: er is data genoeg en de uitkomsten blijken bruikbaar, maar hoe het systeem nu precies van data tot uitkomst komt, blijft in het ongewisse.

Maxim Februari, filosoof en columnist van NRC, vindt dat kwalijk. „Een belangrijk principe van de rechtsstaat is dat burgers weten welke regels er zijn. Zo kunnen ze zich er ook tegen verweren, bijvoorbeeld door ze met een rechtszaak of met nieuwe wetgeving te veranderen.”

Het blijkt echter hardnekkig om te achterhalen hoe die algoritmes en datastromen werken in de praktijk. Onder de Wob slaagde Februari en consorten er niet in om hierachter te komen. Misschien dat het met een beroep op de AVG wel lukt: die eist immers uitlegbaarheid van je algoritmes die tot persoonsgebonden besluiten komen.

Ik blijf twijfels houden over de impact daarvan. Want AI en machine analyses werken niet zoals mensen. Het voelt dan ook wat onlogisch om te verwachten dat er uitleg uit komt die past bij wat mensen verwachten.

Een ding waar machine learning heel goed in is, is het vinden van correlaties. Vaak blijken dat ook zeer relevante correlaties en zal het aanpakken langs die as er ook voor zorgen dat problemen verminderen. Maar bewijs dat de correlatie ook een causatie is, is er vaak niet. Dus dan kom je niet verder dan “we zien opvallend vaak dat mensen met duizend volgers op Instagram en likes van de hangplek vroege schoolverlaters zijn”. Dat is waarschijnlijk wel wáár en ik kan achteraf ook wel een redenering daarbij verzinnen, maar bewijs is het niet.

Ik hoop heel erg dat ik het mis heb en dat we wel in staat blijken om causale redeneringen toe te voegen aan zulke systemen. Het nut van geautomatiseerde analyses zie ik namelijk wel bij beslisondersteuning en preselectie van overheidshandelen, maar zolang de uitleg afwezig of onbegrijpelijk blijkt, heb je er niets aan.

Arnoud

Camera’s Britse politie herkenden duizenden mensen onterecht als crimineel

Geplaatst op in Privacy, 21 reacties

De politie van Wales zette tijdens de Champions League-finale van 2017 in Cardiff technologie met gezichtsherkenning in om criminelen op te sporen, maar het systeem zat in 92 procent van de gevallen fout. Dat meldde Nu.nl onlangs. De technologie scande van 170.000 mensen het gezicht en vond daarbij 2.470 potentiële gelijkenissen tussen bezoekers en bekende criminelen, maar 2.297 van die gelijkenissen was ten onrechte. Er zou geen enkele persoon zijn gearresteerd na foutief herkend te zijn door het systeem, en dus is het no big deal aldus de politie. Als dat de toekomst wordt van handhavingstech dan belooft het interessante tijden te worden.

Natuurlijk is geen enkel systeem perfect. Mensen kunnen zich vergissen, en computers kunnen fouten maken. Het is dan ook onrealistisch om te verwachten dat systemen altijd de juiste uitvoer leveren. En zeker als (zoals hier) de inputbeelden van slechte kwaliteit zijn, dan moet je niet te veel verwachten.

Er zijn diverse maten voor de kwaliteit van dit soort systemen. Allemaal komen ze neer op een conclusie afgaande op twee factoren:

  • Vals positief: een uitkomst wordt als positief (juist) aangemerkt, maar is eigenlijk negatief (onjuist). Bij deze gezichtsherkenning dus dat iemand wordt aangemerkt als voetbalcrimineel, terwijl hij dat niet is.
  • Vals negatief: een uitkomst wordt als negatief (onjuist) aangemerkt, maar is eigenlijk positief (juist). Hier dus dat een voetbalcrimineel wordt overgeslagen en gewoon naar binnen kan.

Beide onjuiste uitkomsten zijn onwenselijk, maar om verschillende redenen. Een vals positief zorgt ervoor dat je meer energie in iemand steekt dan nodig is: je gaat iemand langer opsluiten of intensiever begeleiden om recidive te voorkomen terwijl dat helemaal niet speelt. En een vals negatief kost je meer achteraf, je hebt immers een nieuw misdrijf van die recidivist en dat had je nu net willen voorkomen.

De belangrijkste hier van afgeleide factoren zijn precisie en vangst (‘recall’). De precisie is het percentage juiste uitkomsten ten opzichte van het totaal aantal uitkomsten, en de vangst is het percentage gevonden matches ten opzichte van het totaal aantal mogelijke matches. Als je dus tien voetbalcriminelen correct herkent, heb je een precisie van 100% maar als er tienduizend criminelen rondliepen dan is je vangst dus behoorlijk slecht. Vang je alle tienduizend criminelen door iederéén (170.000 bezoekers) als crimineel aan te merken, dan is je vangst 100% maar je precisie slechts 5,9%.

Het liefst heb je natuurlijk dat je alle tienduizend criminelen correct herkent en verder niemand fout herkent (vals positief). Maar het probleem is dat wanneer je het aantal matches (je vangst) verhoogt, je precisie vaak omlaag gaat. Wat je meestal namelijk doet, is de matching criteria omlaag doen en dus eerder tot een match besluiten. Dat is bij het detecteren van rot fruit in je magazijn tot daar aan toe, maar bij juridische systemen is het niet gepast dat je mensen onterecht als verdachte aanmerkt.

Een manier om dat te voorkomen, is door er een mens tussen te zetten. Je laat het systeem dan snel matchen en je accepteert dat een mens vervolgens veel van de uitkomsten weggooit als vals positief. Dat is beter dan een mens laten kijken, want de computer kan veel sneller die groep van 170.000 mensen doorscannen en een mens kan snel vals positieven elimineren. Een risico is wel dat de mens erg skeptisch wordt over het systeem – als je 92% van de alerts weg moet klikken als niet relevant, dan krijg je een reflex om élke alert weg te klikken.

Er waren dus geen personen ten onrechte gearresteerd, maar ik ben dan heel benieuwd of dat daaraan ligt.

Arnoud

Wat is nu echt het juridisch nut van de blockchain?

Geplaatst op in Innovatie, 10 reacties

De blockchain afserveren als een hype, het begint op zichzelf een hype te worden volgens mij. Maar ergens wel terecht: als iets ondertussen de oplossing voor alles begint te worden, dan moet je daar ook kritisch tegenover kunnen staan: wat is dan nu echt het nut van die blockchain? Het systeem is technisch zeer vernuftig en bitcoin was een heel goed idee, maar wie deze blog volgt weet dat ik de overige toepassingsgebieden niet perse nuttig vindt. En na deze rant wordt het tijd daar ook eens juridisch op te reflecteren.

Eerste en lastigste vraag is wat mensen nu precies bedoelen als ze “de blockchain” zeggen. De meest gehoorde omschrijving is dat het een gedistribueerd grootboek is, wat dan wordt gezegd alsof iedereen wel eens zo’n administratieve verzamelmap met documenten in de hand heeft gehad. Iets praktischer is “multiple copies of a giant Excel spreadsheet”, maar ik geef toe dat dat in je investeringspitch iets minder sjiek staat. Maar in de kern is het dat wel – een registratie van transacties, waarbij er niet één authentiek origineel is maar een hoop mensen elk een kopie hebben en middels consensus vaststellen of een nieuwe transactie klopt met de geregistreerde geschiedenis.

Er zit een heleboel technologie achter om dit te laten werken, vervalsingen tegen te houden en mensen te stimuleren hieraan mee te werken (zoals het minen of delven van bitcoins, in dat blockchainsysteem). Maar uiteindelijk gaat het daar niet om. De kern is dat je het idee van een centrale autoriteit of een authentiek origineel loslaat en in plaats daarvan consensus over de administratie haalt bij een grote groep mensen. Gedistribueerde consensus in plaats van autoriteit. Grote voordeel daarvan is dat die grote groep mensen veel lastiger (of eigenlijk onmogelijk) te manipuleren is om informatie aan te passen.

Nu is het natuurlijk een probleem dat registraties van van alles en nog wat aan te passen zijn als je niet uitkijkt. Foutjes worden overal gemaakt, en beheerders kun je omkopen, bedreigen en wat al niet meer. Het blockchainsysteem voorkomt dat inderdaad. Maar dan dringt zich de vraag op, is dat voordeel zo veel groter dat we over moeten stappen?

In de juridische wereld kennen we dat probleem natuurlijk al veel langer. En er zijn dan ook al lang oplossingen voor bedacht, zoals de notaris die als taak heeft als vertrouwde derde te fungeren. Als de notaris het zegt, dan is het waar (art. 156 Rechtsvordering). Idem voor bijvoorbeeld de constatering door een deurwaarder, of de registratie bij het Kadaster van perceelgrenzen. Natuurlijk zitten hier zwakke punten, in theorie is een notaris omkoopbaar of te foppen, maar dit is uiterst zeldzaam en vrijwel altijd te detecteren als het toch speelt. Het voelt dan wat zwaar om dat hele systeem af te schaffen.

Daar komt bij dat de blockchain net als elk nieuw systeem last heeft van het rewrite syndrome. Laten we het opnieuw bouwen, want het huidige systeem is rommelig, oud en zit vol met rare constructies waarvan we de helft niet snappen. Dit is een bekende reflex bij software-ontwikkelaars, en het is zeer begrijpelijk maar het probleem is dat dat oude systeem zo rommelig en raar is omdat het tien jaar aan bug fixes en ondersteuning voor randgevallen heeft meegekregen. Dat nieuwe systeem wordt dan strak en fris opgezet en blijkt vervolgens al die randgevallen en bugs niet te kunnen adresseren, wat dan de komende tien jaar weer allemaal opnieuw toegevoegd moet worden.

We hebben het hier dan over juridische randgevallen. Zaken waarover geen consensus is, moet je niet met een consensusmechanisme beslissen. Neem de situatie dat iemand met een ernstige ziekte een grote transactie doet. Het is goed denkbaar dat dat niet de bedoeling was, en dat die dus teruggedraaid moet worden. In het oude systeem ga je dan naar de rechter, die toetst aan redelijkheid, billijkheid en verwachtingen over en weer en hakt dan een knoop door. Zulk maatwerk krijg je niet in een blockchainsysteem geïmplementeerd. Dat systeem kent alleen de binaire optie dat het klopt en de optie dat het niet klopt.

Natuurlijk, dit is een randgeval en de overgrote meerderheid van de gevallen zijn prima te automatiseren. Maar als ik één ding heb geleerd van het recht, dan is het wel dat iedere situatie een uitzondering of randgeval kent en dat het recht al zesduizend jaar lang daar rekening mee probeert te houden. Dát lijkt me de grote uitdaging voor de blockchain.

Arnoud