Kan een robot juridisch advies geven?

Twee weken geleden lanceerde ik NDA Lynn, een AI lawyerbot die geheimhoudingscontracten (NDA’s) kan lezen. Dat gaf veel leuke reacties, en Lynn heeft aardig bijgeleerd: meer dan 400 extra NDA’s waar ik verder mee kan trainen. Opmerkelijkste observatie: veel Nederlandstalige NDA’s, terwijl Lynn toch volgens mij vrij duidelijk Engelstalig is. Dat moet dus even anders. Maar ook de nodige andere kwesties.

Veel reacties gingen natuurlijk over de kwaliteit. Lynn beoordeelt zinnen in 87% (huidige versie 93.8%) van de gevallen correct, en kan daarmee clausules dus behoorlijk goed maar niet perfect herkennen. Dat is dus een risico, ze kan een clausule dus afkeuren of roepen dat die er niet in staat, enkel omdat de bewoordingen anders waren dan in haar trainingset. Maar mijn inschatting is dat dit wel meevalt omdat het gemiddeld wel goed uitkomt. Wel een probleem is nog de afhandeling van echte fouten, zoals een document waar geen tekst uit komt (een gescande PDF) of een tekst die in het geheel geen NDA is (ik kreeg onder meer Charles Dickens Night before Christmas langs, gelukkig was het advies die niet te tekenen).

Leuk vond ik de aandacht van Sprout en Emerce, die beiden ingaan op mijn motivatie: een kleine 18 jaar bezig zijn met NDA’s heeft me een grondige hekel aan die dingen gegeven (en nee, er 400 screenen in twee weken om je lawyerbot te verbeteren hielp niet), dus een automatische adviesbot is gewoon een mooie manier om tijd vrij te maken voor de leukere dingen in het juridische werk.

Want dat is uiteindelijk waar het volgens mij om gaat met AI in het recht. Robots gaan nooit advocaten vervangen, of het hoogwaardig juridisch advies over nieuwe kwesties. Robots doen per definitie standaardwerk, oftewel dingen als het screenen van stapels documenten of het spotten van kleine stiekemigheden in standaardcontracten of algemene voorwaarden. Als je als mens die dingen niet meer hoeft te doen, maar juist de afwijkingen krijgt en daar een oplossing voor moet vinden, dan heb je toch gewoon léuker werk dankzij een robot?

Vanuit de VS kreeg ik hele andere reacties: stop right there buddy, that’s unauthorized practice of law. Een beetje juridisch advies geven zonder advocatentitel, dat kan natuurlijk niet. Nu geef ik natuurlijk geen juridisch advies in de VS, maar dit blijkt dus een dingetje: allerlei tools zoals adviesbots en documentgeneratoren worden in diverse staten als advocaatjespelen aangemerkt en dus verboden. De achterliggende argumentatie is dat alleen een gekwalificeerd advocaat met tuchtrecht, verzekering en toezicht de kwaliteit kan bieden waar de burger recht op heeft.

Bij Justia staat een overzicht van de problematiek, met name: waar trek je de grens. De interessantste definitie vond ik “if a computer could do it, it’s not the practice of law.” Anders gezegd, juridische bijstand moet per definitie door een mens worden gedaan, omdat het creativiteit en inzicht vergt om de per definitie niet vastomlijnde set regels uit de wet toe te kunnen passen op een concreet geval. Ik twijfel of ik het ermee eens ben, want volgens mij kan best een aardig deel van zulk advieswerk geautomatiseerd gedaan worden. Zeg maar de 80% van de gevallen met de standaardsituaties die gewoon helder in de wet benoemd zijn. Het leuke stuk van de juristerij begint bij die 20%, maar dat wil niet zeggen dat de rest geen juridisch advies meer te noemen is.

En nou ja, uiteindelijk is dat volgens mij het voordeel dat je kunt halen met de inzet van AI. Automatiseer het saaie werk en maak je eigen werk leuker. Op naar de volgende Lynn dus, wat mij betreft.

Arnoud

14 reacties

  1. Bij Amerikanen krijg ik nog wel eens het gevoel dat dingen niet mogen omdat politieke sponsors dan minder geld verdienen, maar dat terzijde.

    Je zegt dat AI nooit advocaten kunnen vervangen. Dat is misschien wel waar op de korte termijn, maar gezien ontwikkelingssnelheid in de IT, zou ik mijn handen er niet voor in het vuur durven steken dat dit nooit zal gebeuren. Het duurt misschien honderd jaar (ervan uitgaande dat de planeet dan nog leefbaar is of we een andere hebben gekoloniseerd), maar het lijkt me best mogelijk. En op het vlak van dit soort adviezen: Het is denk ik een beetje zoals met zelfrijdende auto’s. Mensen focussen nogal op wat er fout gaat. Ze roepen dan “Kijk, die AI veroorzaakte een probleem en is dus onbetrouwbaar”. Maar mensen zijn ook onbetrouwbaar. Het gaat erom of AI iets beter kan dan een mens. Als er een NDA-teken-bot is geschreven waar slechts 1% van de adviezen achteraf onverstandig bleek, tegenover 2% van advocatenadviezen, dan werkt hij beter. Natuurlijk is dat in een perfecte situatie waarin zo’n bot volledig is uitgeprogrammeerd, maar je kunt ook een hybride situatie hebben waar een simpelere bot advies geeft in de smaken teken, teken niet en spreek een advocaat. Zo’n bot bepaald dus of het duidelijk goed zit, duidelijk fout zit, of dat het te onduidelijk is voor de bot en dus doorgestuurd wordt. Een beetje zoals eerstelijns ICT werkt. Simpele dingen worden opgelost en anders wordt je doorgestuurd.

  2. Nu geef ik natuurlijk geen juridisch advies in de VS

    Is dat zo als je via een Engelstalige site die Engelstalige NDA’s bekijkt en die prima vanaf een Amerikaans IP (waar ik nu ook van reageer) te bereiken is ? Richt je je daarmee met je website niet (ook) op Engelstalig buitenland ?

    human partner Arnoud Engelfriet, an IT lawyer
    Is ‘lawyer’ in veel Engelstalige landen niet een term die (alleen) op advocaten en niet op juristen slaat ?
    Or call, but keep in mind we’re in timezone CET+2 (Amsterdam).
    Uit de contactpagina blijkt dat de pagina in ieder geval niet alléén op NL is gericht. I don’t know…

    1. Het woord ‘Jurist’ bestaat gewoon in het engels, betekent zoveel als rechtsgeleerde. Niet anders als bij ons dus. Alleen mogen juristen in de VS wat minder dan hier in Nederland.

      Ik heb eerlijk gezegd nog niet gekeken, maar moet je ergens akkoord gaan met voorwaarden dat de het Nederlandse recht van toepassing is op de overeenkomst? Of kan je het uberhaupt zonder overeenkomst gebruik.

      1. Ik kan niet meer editten, zo maar even dus: In de VS is het verschil tussen een jurist en een lawyer dat een jusrist een rechtsgeleerde is, die mag onderzoek doen en publiceren, als expert optreden, maar geen advies geven. Advies is voorbehouden aan een lawyer.

        In Nederland mag een jurist wel advies geven. Een advocaat is altijd ook een jurist en is in sommige gevallen verplicht. Dan mag een jurist dus niet.

        Aangezien een jurist in Nederland adviezen mag geven, zie ik uiteindelijk dus niets fout aan het gebruik van de vertaling lawyer, aangezien het engelse jurist veel te beperkt is.

    1. Dat zou in dit geval evident mijn bedrijf JuriBlox bv zijn, omdat die de dienst aanbiedt. Een dienst aankleden met software verandert niets aan het feit dat je een dienst levert en dus aansprakelijk bent voor fouten. Schade bewijzen lijkt me wel een hele lastige.

      Ik ben wel benieuwd hoe het uitpakt als ik heel NDA Lynn verander in een smart contract en haar autonoom in de blockchain stop zonder enige mogelijkheid tot aanpassen door mij achteraf. Als ze dan zelf bijleert en daarna foute adviezen geeft, is dat dan nog steeds mijn schuld?

        1. Het zou ook nog de schuld kunnen zijn van degene die besluit de adviezen op te volgen. Je zou adviezen ook “as-is” kunnen zien, zonder enige garantie van de adviesgever. De advies-ontvanger wordt dan geacht zelf kritisch na te denken en risico’s van foute adviezen op zich te nemen.

      1. Zolang AI nog geen rechtspersoonlijkheid heeft, zal degene die de bot inzet aansprakelijk zijn (zolang aan de overige voorwaarden wordt voldaan). Het alternatief (inrichten en vervolgens de handen er volledig vanaf kunnen trekken), komt niet door mijn giechel-test 😉 Als je ervoor kiest om technologie op een bepaalde manier in te zetten, kan je ook instaan voor de gevolgen. Je kan immers ook andere keuzes maken bij de inrichting.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.