Rechter vraagt chatbot om advies bij beoordelen rechtszaak (en ik vroeg niet aan ChatGPT of dat verstandig was)

Een rechter in Colombia heeft ophef veroorzaakt door de chatbot ChatGPT om advies te vragen bij het beoordelen van een zaak over de medische kosten van een autistische jongen. Dat meldde RTL Nieuws onlangs. Als hij “autisme minderjarige vrijstelling therapie vergoeding” in een juridische zoekmachine had getypt, had niemand er wat van gevonden, maar omdat hij er een vraagzin van maakte en het antwoord in essayvorm terugkreeg, is het een ding.

Of nou ja. ChatGPT is natuurlijk geen AI in de zin van intelligentie: het is een voorspellend algoritme, dat op basis van statistiek bepaalt wat het gaat zeggen. ChatGPT snapt dus geen jurisprudentie, maar zou bijvoorbeeld afgaan op Colombiaanse blogs en daaruit een vaak voorkomend antwoord destilleren. Als je ChatGPT vraagt of je als veertienjarige een krantenwijk mag, dan zal het antwoord “ja” zijn, want dat is wat de meeste sites zeggen. Dat dit antwoord juist is, is mooi meegenomen maar voor ChatGPT in het geheel niet relevant.

Bij iets als therapievergoedingen voor minderjarige autisten naar Colombiaans recht zul je evenzo al snel uitkomen bij juridische loketten, verenigingen voor ouders van autisten en ga zo maar door. Die lezen de wet en wat de uitvoeringsinstantie erover zegt, en parafraseren dat op vele manieren voor de doelgroep. Daaruit kan ChatGPT dan prima halen dat het modale antwoord is “ja, een minderjarige is vrijgesteld”, en dat dan in juridische taal. Of het klopt, is dus irrelevant – ChatGPT heeft data tot 2021 en zou dus een wetswijziging van vorig jaar zomaar gemist hebben.

Zou het in Nederland mogen? Nou ja, je mag als rechter prima je vonnis baseren op een sjabloon, of voor standaardkwesties een standaardfrase gebruiken. Bij ieder vonnis waarin bijvoorbeeld de uitingsvrijheid botst met de privacy, krijg je eerst een riedel dat grondrechten gelijkwaardig zijn en dat de HR toen en toen heeft gevonnist dat de afweging op basis van alle omstandigheden van het geval moet. En dat is prima: die frase klopt, zet het juiste kader en is dan ook gewoon wat je verwacht in zo’n vonnis. Waarom zou een robot dat niet in iets uitgebreidere vorm mogen oplepelen?

We hebben het in het verleden gehad over googelende rechters: je mag feiten niet zomaar uit openbare bronnen vissen zonder ze aan de partijen voor te leggen voor hun reactie. Dus als je dat pas bij het vonnissschrijven gaat doen, dan ben je te laat. Maar let wel: het gaat in dat oordeel over feiten, niet over rechtsregels die je op die feiten loslaat. Het hele punt van een rechter is dat die het recht toepast, en zelf opzoeken wat de wet zegt en dat op de feiten betrekken is dus gewoon toegestaan. Ook als de partijen niet bedacht hadden dat dat wetsartikel relevant kon zijn.

Naar Nederlands recht zie ik dus niet meteen een probleem met wat deze rechter deed, zeker omdat hij vervolgens de tekst wel redigeerde en daarmee tot zijn eigen werk maakte. Plagiaat in een vonnis is volgens mij niet echt een ding, ik zou als rechter geen probleem zien in copypasten uit een collega haar vonnis als dat stuk goed past bij mijn eigen zaak. Zolang je maar de feiten goed hebt en de rechtsregels toepast zoals de wet voorschrijft. En dat is hier goed gegaan.

Arnoud

9 reacties

  1. ‘Die lezen de wet en wat de uitvoeringsinstantie erover zegt, en parafraseren dat op vele manieren voor de doelgroep. ‘ Dat is maar te hopen. Wat als het merendeel van de verwerkte teksten de wenselijkheid uitspreekt dat ook minderjarigen in aanmerking moeten komen.? Zeker waar belangenverenigingen vaak gesponsored worden door de achterliggende industrie. Let maar op: ChatGTP-optimalisatie wordt een nieuw vak, met alle ellende van dien.

    1. Ik zie dat niet snel gebeuren op juridisch gebied omdat van rechters verwacht wordt dat ze refereren naar de relevante wetsteksten en jurisprudentie. Op andere gebieden kun je nu over ChatGPT al zeggen dat het “duidelijk getraind is op Internet publicaties” (een diplomatieke formulering voor GIGO.) Nu ‘whitewashing’ ook in de VS een nationale sport lijkt te worden moet je er serieus rekening mee houden dat de betrouwbaarheid van wat je op Internet vindt nog verder gaat zakken. Daar zullen de bedrijven achter ChatGPT en concurrenten maatregelen tegen gaan nemen. Laten we eens kijken hoe dat uit gaat pakken.

  2. Het probleem in deze kwestie is dat de ChatGPT AI is getraind met voornamelijk data uit het Amerikaanse rechtssysteem. Het is onbekend wat ChatGPT weet over de wetgeving in Colombia. Wacht even…

    Wat zijn de regels in Colombia betreffende de vrijstelling therapie vergoeding voor een minderjarige met autisme?

    1. Colombia heeft geen specifieke regels betreffende vrijstelling van therapievergoedingen voor minderjarigen met autisme.

    2. Het Ministerie van Sociale Zaken en Welzijn van Colombia heeft een programma voor sociale zekerheid dat specifieke zorgverleningsdiensten biedt aan mensen met autisme.

    3. Het Ministerie van Volksgezondheid van Colombia biedt financiële tegemoetkomingen aan gezinnen met kinderen die lijden aan autisme, waaronder vergoedingen voor therapie.

    4. Er zijn ook specifieke programma’s voor mensen met autisme die worden aangeboden door verenigingen voor ouders van kinderen met autisme. Deze verenigingen bieden vaak vergoedingen voor therapieën. Oh, leuk. Legalese… Waar is een Jurist als je er eentje nodig hebt? 😀

    Als ik het goed begrijp dekt de verzekering het niet, maar komt de vergoeding vanuit het Ministerie van Volksgezondheid. Klopt dit? Nou ja, dat kun je dan vervolgens nog even navragen bij het betreffende ministerie, toch?

  3. “ik zou als rechter geen probleem zien in copypasten uit een collega haar vonnis als dat stuk goed past bij mijn eigen zaak”. En terecht, want zoals de Auteurswet zegt in art. 11: “er bestaat geen auteursrecht op…. rechterlijke uitspraken”.

      1. Maar de normen en waarden in de rechterlijke wereld zijn anders dan in de academische wereld. Waar “vernieuwend en oorspronkelijk” hoog gewaardeerd worden in de academische wereld, wordt “conservatief en voorspelbaar” gewaardeerd in de rechterlijke macht. Kijk naar alle projecten om eenheid in jurisprudentie te krijgen en vergelijk dat eens met wat je krijgt als je suggereert dat er eenheid in wetenschappelijk onderzoek moet komen.

      1. Ja, een Usenet provider in Nederland mag in principe binary groepen voeren. Binary groepen op Usenet zijn bedoeld voor het delen van bestanden, zoals afbeeldingen en video’s, in binair formaat (in tegenstelling tot tekst). Het aanbieden van binary groepen is toegestaan zolang de Usenet provider zich houdt aan de Nederlandse wetgeving, zoals de auteurswet en de privacywetgeving. Het is echter belangrijk om op te merken dat niet alle Usenet providers binary groepen aanbieden, omdat het beheren van deze groepen extra technische expertise vereist en sommige providers zich liever richten op andere soorten inhoud. Daarom is het belangrijk om de diensten en voorwaarden van verschillende Usenet providers te vergelijken voordat je een keuze maakt.

        Als jurist zou ik dit een flutantwoord noemen: “het mag als je je aan de wet houdt” zegt natuurlijk helemaal niets. De tweede alinea geeft mij een sterk gevoel een computertijdschrift voor beginners te lezen, vlak voordat ze gaan uitleggen hoe je downloadsoftware installeert en dan Creative Commons films gaat downloaden.

Geef een reactie

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren, <UL>/<OL> voor lijsten, en <em> en <strong> voor italics en vet.