Wie een robot als confrère verwacht, begrijpt niets van legal tech

| AE 11449 | Informatiemaatschappij | 7 reacties

Een robot in de rechtbank zal niet snel voorkomen, want het werk van advocaten „is heel moeilijk te automatiseren”. Dat las ik in NRC Handelsblad onlangs. Het idee is hardnekkig: de robots en/of de AI’s komen eraan, en ze gaan onze banen inpikken (South Park referentie optioneel). Waarbij de illustrator van dienst dan vaste prik een robot in toga tekent die een vlammend betoog ter behoud van de democratische rechtsstaat houdt, of een moeilijk dossier leest met de vinger bij de betreffende regel. Allemaal leuk en aardig maar legal tech en robots gaan helemaal niet het werk van advocaten overnemen of automatiseren. Ze gaan de maatschappij transformeren zodat dat werk irrelevant of een beperkte niche wordt.

Dat het werk van advocaten heel moeilijk te automatiseren is geloof ik graag. Het “heeft een hoge creativiteitsfactor”, zo zegt ABN Amro-bankier en sectorspecialist Han Mesters in de NRC. Slimme argumenten, spitsvondige reacties, aanvoelen wat de rechter eigenlijk wil horen, een schikkingsvoorstel verzinnen dat de emotie van de wederpartij erkent, in een duister uitziende zaak toch een lichtpuntje vinden én met onvermoeibaar pleiten daar de winst uit slepen – nee, daar zie ik vooralsnog geen computerprogramma voor komen.

Software is goed in het automatiseren van het gewone, het alledaagse. Het vinden van afwijkingen, het controleren van patronen, het doen van extrapolaties. Dat is heel iets anders dan het soort maatwerk waar de advocatuur voor staat. Dat zie ik meteen. En om die reden hoef je je inderdaad nul zorgen te maken dat je pleitwerk overgenomen wordt door een robot in een toga.

Grappig genoeg lijkt het NRC artikel juist te bevestigen waar het wél pijn gaat doen in de juridische sector:

Bosman voorziet echter dat het ‘productiewerk’ dat zij verrichten door technologische ontwikkelingen veel sneller zal gaan. „Daar zit de pijn voor advocatenkantoren. Dan stort dit businessmodel in. Mensen zullen in de advocatuur niet vervangen worden door machines, maar er zullen wel minder mensen nodig zijn omdat men productiever wordt.”

Dus het werk van advocaten wordt niet weggeautomatiseerd, alleen 80% van de advocaten. Oké, dat is inderdaad een nuanceverschil.

Daar komt bij dat software-gedreven dienstverlening zorgt voor een andere manier van werken. Automatiseren is nooit het simpelweg automatisch doen van wat je voorheen handmatig deed. Toen de treinen van stoom naar elektrisch gingen, werden stokers overbodig en moesten machinisten hun vak opnieuw leren. Er kwam geen robot die schepjes diesel in de oven gooide. Datzelfde gaat gebeuren in de juridische sector.

Het is misschien een wat gevaarlijk voorbeeld, maar e-Court heeft laten zien wat er kan gaan gebeuren. De organisatie is controversieel omdat consumenten niet doorhadden dat ze naar arbitrage gingen (en dat een robotrechter daarbij meekeek), maar men had wel een alternatieve geschilbeslechting opgetuigd met effectieve inzet van ict-middelen. Lagere kosten, snellere rechtsgang en inzet van AI om standaardkwesties standaard af te doen. Dat is innovatie volgens het boekje. Niet slechts faxen in plaats van brieven, maar het proces opnieuw doen.

Die manier van denken, die wordt de toekomst. De bulk van het proceswerk is standaard, en dáár is software goed in om te verwerken. Daarom gaan die 80% van de advocaten minder werk krijgen. Die software zoekt de standaardzaken uit, en er is dan geen advocaat meer nodig die daar nog eens zhaar zegje over doet.

Ja, natuurlijk zullen er dan altijd nog rare gevallen zijn waarbij je wél een advocaat zou willen. Een mens die jou uit het bureaucratisch geweld van de machines plukt. Maar dat zullen zeldzame situaties zijn, en ik heb zelfs serieuze twijfels of die nieuwe systemen daar rekening mee gaan houden.

Arnoud

Moeten advocaten nu ook allemaal programmeur worden?

| AE 10649 | Innovatie | 8 reacties

Steeds vaker lees ik dat de juridische sector sterk achterloopt bij het adopteren van technologische innovaties – legal tech – en dat een belangrijke factor daarbij is dat advocaten en juristen te weinig kunnen programmeren. Daar zit in theorie wat in: wie niet weet hoe software werkt of wat het kan, zal niet snel geneigd zijn naar een software-oplossing te gaan. En zeker als de dienstverlening zelf steeds meer geautomatiseerd wordt, dan blijven de mensen achter die alleen maar met vulpen een pleitnota weten te produceren. Maar toch is het complexer dan dat.

Dat de juridische sector sterk achterloopt, staat buiten kijf. Het is pas vrij recent dat er grote aandacht is voor technologische innovatie, onder de hippe term “legal tech”. Van apps voor tijdschrijven tot Artificial Intelligence contractsanlyse. Veel van die legal tech is op zichzelf niet heel bijzonder: ze automatiseert alleen wat er al bestaat. Dat is handig en efficiënt maar maakt dingen niet fundamenteel anders. Tijdschrijven blijft tijdschrijven.

Er zijn natuurlijk wel echte vernieuwingen, zoals die automatische contractsanalyse. Laat een computer speuren naar opvallende clausules of rare combinaties, en dan kan een mens daar gericht naar kijken wat het juridisch voor problemen (of aansprakelijkheden) geeft. Zo gebruik je van beiden het beste. Het grappige is, hier loopt de juridische sector dan weer een heel eind voorop – ik zie nauwelijks aandacht voor bijvoorbeeld AI om broncode te analyseren of fraude in wetenschappelijk onderzoek aan te tonen.

Leren programmeren geeft je relevante skills en inzichten over hoe programmeren werkt en wat software kan. (“Dat was wel een beetje een desillusie” aldus een juridische kennis van me na een summercamp op dat gebied.) Dat kan erg nuttig zijn als je klanten daarover wilt adviseren, of na wilt denken over nieuwe diensten of de manier van aanbieden daarvan.

Veel belangrijker lijkt me kunnen zien wat de sector nodig heeft, beter gezegd wat de klant nodig heeft. Want uiteindelijk zal die het worst wezen of het een AI is die zijn contract doorvlooide of een mens dat er met 20 jaar ervaring snel naar keek. Die wil weten of hij kan tekenen, of dat zijn schadeclaim goede kans van slagen heeft en hoe die claim te gaan halen.

Dat op een effectieve manier doen vereist veel meer dan alleen een nieuwe app of kunnen programmeren. Dat vereist een nieuwe manier van werken, de bereidheid om te zeggen, we gaan het helemaal anders doen. En juist dát is de grote uitdaging in de juridische sector.

Arnoud

Weten hoe de computer werkt, is een mensenrecht

| AE 10587 | Innovatie | 48 reacties

Gemeenten gebruiken data over hun inwoners om problemen op te sporen voor ze uit de hand lopen, las ik in NRC Handelsblad. Handig dat datagedreven beleid, maar voor de burger stijgt de kans te worden afgerekend op voorspeld gedrag. En dat is een probleem, zelfs als je betoogt dat de gemeente zo gerichter kan handhaven omdat ze aan die data kan zien wie ze moet hebben in plaats van ongericht overal te gaan kijken. Want – bekend thema ondertussen – probeer maar eens te achterhalen wát de regels zijn waarop je dan afgerekend wordt. Toch een niet onbelangrijk thema binnen een rechtsstaat.

Datagedreven beleid, heet het. Het onbekende in kaart brengen als gemeente met data, en dat kan variëren van het voorspellen van de vervangingstermijn van vuilniswagens tot de tijd tussen schoonmaakacties. Maar meestal gaat het over mensen: kans op depressies, armoede en “leefbaarheidsproblemen”.

Uniek aan dit beleid is dat het vaak voor iedereen een black box is. Ook voor de ambtenaren zelf: er is data genoeg en de uitkomsten blijken bruikbaar, maar hoe het systeem nu precies van data tot uitkomst komt, blijft in het ongewisse.

Maxim Februari, filosoof en columnist van NRC, vindt dat kwalijk. „Een belangrijk principe van de rechtsstaat is dat burgers weten welke regels er zijn. Zo kunnen ze zich er ook tegen verweren, bijvoorbeeld door ze met een rechtszaak of met nieuwe wetgeving te veranderen.”

Het blijkt echter hardnekkig om te achterhalen hoe die algoritmes en datastromen werken in de praktijk. Onder de Wob slaagde Februari en consorten er niet in om hierachter te komen. Misschien dat het met een beroep op de AVG wel lukt: die eist immers uitlegbaarheid van je algoritmes die tot persoonsgebonden besluiten komen.

Ik blijf twijfels houden over de impact daarvan. Want AI en machine analyses werken niet zoals mensen. Het voelt dan ook wat onlogisch om te verwachten dat er uitleg uit komt die past bij wat mensen verwachten.

Een ding waar machine learning heel goed in is, is het vinden van correlaties. Vaak blijken dat ook zeer relevante correlaties en zal het aanpakken langs die as er ook voor zorgen dat problemen verminderen. Maar bewijs dat de correlatie ook een causatie is, is er vaak niet. Dus dan kom je niet verder dan “we zien opvallend vaak dat mensen met duizend volgers op Instagram en likes van de hangplek vroege schoolverlaters zijn”. Dat is waarschijnlijk wel wáár en ik kan achteraf ook wel een redenering daarbij verzinnen, maar bewijs is het niet.

Ik hoop heel erg dat ik het mis heb en dat we wel in staat blijken om causale redeneringen toe te voegen aan zulke systemen. Het nut van geautomatiseerde analyses zie ik namelijk wel bij beslisondersteuning en preselectie van overheidshandelen, maar zolang de uitleg afwezig of onbegrijpelijk blijkt, heb je er niets aan.

Arnoud

Camera’s Britse politie herkenden duizenden mensen onterecht als crimineel

| AE 10573 | Privacy | 21 reacties

De politie van Wales zette tijdens de Champions League-finale van 2017 in Cardiff technologie met gezichtsherkenning in om criminelen op te sporen, maar het systeem zat in 92 procent van de gevallen fout. Dat meldde Nu.nl onlangs. De technologie scande van 170.000 mensen het gezicht en vond daarbij 2.470 potentiële gelijkenissen tussen bezoekers en bekende… Lees verder

Goh, lawyerbots zijn beter dan juristen in het lezen van saaie juridische documenten

| AE 10505 | Informatiemaatschappij | 6 reacties

Alweer ietsje langer geleden maar toch: in een ‘wedstrijd’ tussen een lawyerbot van het Israëlische LawGeex en twintig Amerikaanse advocaten bleek de eerste een stuk beter in staat om juridische fouten in NDA’s en andere documenten te vinden. Om precies te zijn: de AI was 94% accuraat waar de mensen rond de 85% scoorden. Dit… Lees verder

Hoe terecht is de kritiek op legal tech vanuit de juridische sector?

| AE 10497 | Informatiemaatschappij | 3 reacties

Legal tech proponenten doen er goed aan lering te trekken uit het Theranos debacle, las ik bij Above The Law. Dat bedrijf heeft een serieus probleem nu de Amerikaanse SEC haar beweerdelijk innovatieve technologie voor niet-invasief bloedonderzoek serieus betwist – nog lang niet klaar voor de markt. Maar lange tijd kwam men ermee weg, omdat… Lees verder

Artificial intelligence is eigenlijk gewoon maar mensenwerk

| AE 10451 | Innovatie | 5 reacties

Het stiekeme verhaal achter artificial intelligence: eigenlijk drijft het volledig op mensenkracht, aldus de Indian Express. Al die AI-systemen moeten leren wat wat is, en daarvoor is vooralsnog een heleboel mensenkracht nodig: in foto’s omcirkelen wat een chihuahua is en wat een muffin, teksten labelen als positief of negatief of aangeven of een actie terecht… Lees verder

Hoe kunnen we transparantie toevoegen aan besluitvormende algoritmen?

| AE 10424 | Innovatie | 16 reacties

Bestuursrecht en bestuursrechtspraak zijn onvoldoende in staat om ketenbesluiten te toetsen omdat onbekend is hoe een beslisregel exact is opgebouwd en tot welke resultaten deze leidt. Dat las ik in juristenblad NJB. Steeds meer beslisregels en algoritmes worden ingezet om tot formele besluitvorming te komen, maar daarbij is volstrekt onduidelijk hoe dat besluit tot standkomt…. Lees verder

Wie gaat er nou zijn NDA’s in de blockchain stoppen?

| AE 10422 | Innovatie | 7 reacties

Powered by AI and blockchain, het nieuwe boek van Willem Vermeend en Rian van Rijbroek? Nee, de tagline van het World NDA project van het Global Legal Blockchain Consortium, blockchainprovider Integra en AI-leverancier IBM. Het project heeft als doel “the reduction of burden, cost, and risk associated with the current NDA lifecycle”, wat kennelijk betekent… Lees verder