Mag je je in een gerechtelijke procedure laten souffleren door ChatGPT of DoNotPay z’n robot?

Via Twitter:

DoNotPay will pay any lawyer or person $1,000,000 with an upcoming case in front of the United States Supreme Court to wear AirPods and let our robot lawyer argue the case by repeating exactly what it says. …  We have upcoming cases in municipal (traffic) court next month. But the haters will say “traffic court is too simple for GPT.” So we are making this serious offer, contingent on us coming to a formal agreement and all rules being followed. Please contact me if interested!
Joshua Browder is de oprichter en directeur van de legal tech dienst DoNotPay, die begon als een bezwaargenerator voor parkeerboetes maar ondertussen vrij generiek juridisch advies én procedures ondersteunt. Deel van de technologie is IBM’s Watson AI systeem en het bedrijf zou nu 210 miljoen dollar waard zijn. Dus een lege toezegging zou ik dit niet noemen.

Punt is natuurlijk: een advocaat die bij de US Supreme Court komt pleiten, mag geen oortjes in hebben of op een iPad kijken wat zhij ook weer gaat zeggen. Nog even los van klakkeloos nazeggen wat een ander gaat zeggen, daar zijn ongetwijfeld gedragsregels tegen. Dat maakt het dus een vrij spannende uitdaging, want je zet je professionele carrière op het spel voor een kans op 1 miljoen dollar.

Zou het in Nederland mogen? Het is advocaten zeker toegestaan om elektronica (zoals een iPad) mee te nemen, en je mag er ook prima op kijken als je even twijfelt over wat te zeggen. Maar je pleitnota (wat je gaat zeggen, zeg maar) moet je vooraf ingeleverd hebben, dus heel veel ruimte voor spontane toevoegingen heb je niet.

Voor het reageren op wat de wederpartij zegt zou zo’n oortje-met-AI nuttig kunnen zijn, maar ik zou niet weten hoe je dát onopvallend doet – de andere advocaat komt met een opmerking tussendoor, jij kijkt twee seconden glazig met je vinger op je oor en je komt met een perfect weerwoord? Ik zou er als rechter niet vrolijk van worden.

Het meer algemene punt van Browder vind ik zeker wel interessant, maar ik denk wel dat je het in de openheid moet doen: beide partijen weten dat er AI’s meedenken, en kunnen daar dan dus op inspelen. Bij een ‘gewone’ rechter gaat dat niet werken, maar je kunt in Nederland prima afspreken dat je een particuliere partij zult volgen (de Rijdende Rechter is er groot mee geworden), en als die in zijn reglement zegt dat alleen AI’s verhalen mogen houden, waarom niet? De AI-ende Rechter?

Arnoud

21 reacties

  1. Sinds wanneer moet een pleitnota in Nederland vooraf worden ingeleverd? Ik ben alleen bekend met de regel dat als je pleitaantekeningen hebt meegenomen, je die ook direct bij aanvang van je mondelinge termijn aan de rechter moet overhandigen (vooral om het de griffier wat makkelijker te maken), maar van vooraf inleveren heb ik nog nooit gehoord.

  2. Is de essentie van een rechtszaak ook niet dat jouw zaak nou net iets anders is dan al die voorgaande zaken, en dat die voorgaande zaken, die er op leken, nu juist NIET, per definitie niet, jouw zaak kunnen voorspellen, zodat je niets hebt aan een AI. Je zou een AI kunnen gebruiken voor de beslissing om wel of niet een zaak aanhangig te maken, maar als die beslissing eenmaal genomen is, moet je je jusit de uniekheid van jouw zaak in de verf zetten, niet de overeenkomsten met andere zaken.

    1. Niet bij (parkeer/verkeers)boetes, in Nederland vaak administratief afgedaan, maar niet overal. Bovendien is het in die gevallen vaak erg duur om een advocaat in te huren. Dus doen mensen het zelf. In zo’n geval kan een AI het niveau goed verhogen. Maar als je naar dingen als ChatGPT kijkt dan blijft veel toch oppervlakkig, dus in het geval van het hooggerechtshof wordt dat lastig. Waarschijnlijk is dit dus vooral een publiciteitsstunt.

      1. Een AI die specifiek getraind is op juridische argumentatie zal (bij een vergelijkbare inspanning qua training) op get gebied van zijn specialiteit een minder oppervlakkig resultaat leveren. Daar staat tegenover dat het onbruikbaar is buiten het gebied van specialisatie.

        ChatGPT is getraind als generalist en kan dus meepraten op ieder gebied, maar met een beperkte diepgang.

    1. Hij kan ons Nederlandse wetboek niet vinden. “Edeleachtbare, wetboeken verschillen van land tot land en verschillende rechters interpreteren de wet al naar gelang de omstandigheden. Raadpleeg een ervaren en ter zake kundig advocaat.” Rechter: “Ik moet een advocaat raadplegen?” “Nee, dat zegt de Chat GPT.”

      Chat GPT is leuk voor een avondje cabaret, maar niet voor serieuzere zaken.

    1. Ik zie weinig problemen wanneer een advocaat aan een juridische AI vraagt om een concept pleitnota op te stellen. Ik geef toe dat het iets verder gaat dan het invullen van een document template met (context afhankelijke) standaardzinnen, maar documentgeneratoren zijn al in gebruik (en besparen tijd en geld).

      Ik verwacht wel dat de advocaat het concept stuk redigeert (en controleert op correct- en volledigheid) voordat hij het stuk ondertekent en indient. Het kan zijn dat de AI belangrijke punten niet ziet (omdat deze nooit zijn ingevoerd) of omdat de omstandigheden in de zaak voldoende uniek zijn om niet te matchen met bij de AI bekende zaken.

  3. Laten we het interessanter maken: zou de Rechter zelf gebruik mogen maken van AI om de beweringen van beide partijen te toetsen tijdens de rechtszaak? De AI kan immers de data van de gehele zaak verwerken en zoeken naar onduidelijkheden en zelfs tegenstrijdige beweringen detecteren. Dus zou de rechter dit soort oortjes mogen dragen en daarbij ook een beeldscherm hebben waarop de AI al conclusies genereert?

    1. Waarom toetsen? o..a. Blackrock en Vanguard hebben al bewezen dat het perfect werkt.

      Ik ben er mordicus tegen, maar ook tegen elke vorm van overheid, overheid is per definitie kwaadaardig en overheden al meer dan 262 miljoen doden op hun geweten. Laten we het eens zonder doen.

    2. Dat lijkt me wel, de rechter mag ook googelen. Hij moet alleen de conclusies delen met partijen en die erop laten reageren. “U zegt nu wel dat uw hele terras opnieuw bestraat moet worden, maar ik lees op internet dat in veel gevallen alleen de kapotte tegels vervangen hoeven te worden.” Of “in uw verklaring bij de politie zegt u dat er een groot hek tussen u en het slachtoffer was. Op Google Streetview zie ik echter dat dit hek opengewerkt is, dus volgens mij kon u daar prima doorheen steken met uw mes. Hoe zit dat?”

    3. Wim, ik zie weinig problemen wanneer de rechter een AI gebruikt om te zoeken in wetsteksten en jurisprudentie; zeker wanneer de AI met referenties naar haar brondocumenten komt. Dit is een gebied waarvan we weten dat een AI nuttig kan zijn en de kans op biases is gering.

      Waar het gaat over het gebruik van een AI bij de waardering van bewijs raak je al snel op glad ijs. J moet kunnen aantonen dat de AI onbevooroordeeld is, maar wat belangrijker is: de rechter moet onafhankelijk zijn. Bij gebruik van een AI voor de feitelijke beslechting van een conflict kan de leverancier van de AI het vonnis van de rechter beïnvloeden en dat bedreigt de onafhankelijkheid van de rechtspraak.

  4. Ik zou zeggen: laat ‘m lekker zijn gang gaan en vooral niet wachten, als de ‘robot’ hangt. “Ja, meneer, daar kunnen we niet op wachten; er staat een halfuur voor deze zaak.” Is het snel afgelopen.

  5. Stel nou he, dat je een advocaat bent met een zogenaamd cochleair implantaat die via bluetooth gepaird is met de telefoon, dan is het prima mogelijk om alsnog je ‘oortje’ in te hebben zonder een oortje in te hebben?

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.