Een advocaat uit Luik heeft voor zijn pleidooi voor de correctionele rechtbank de hulp ingeschakeld van ChatGPT. Dat meldde de VRT vorige week. En nee, hij citeerde geen hallucinante rechtspraak of halfzacht Amerikaans verhaal over grondrechten; de dienst werd opgevoerd als “neutrale bron”.
De advocaat stond een verdachte bij tegen wie 15 jaar werd geëist wegens betrokkenheid bij cocaïnehandel waarin de hoofdverdachten gevangenisstraffen tot 20 jaar riskeren. De advocaat trok “de wettigheid van het afluisteren van berichten via het versleutelde systeem Sky ECC in twijfel”, zij het niet op de inhoud maar op de formele grond dat de tapmachtigingen niet op tijd verlengd waren.
De advocaat gebruikte de chatbot volgens de VRT “zijdelings, als klankbord” en “vooral anekdotisch”. Maar dit klinkt toch als meer dan dat:
“Ik heb een bron geraadpleegd die geen professor strafrecht is en die ook geen band heeft met het dossier. Het was een neutrale bron die de wetgeving heeft geanalyseerd en die aangaf dat de machtigingen tijdig verlengd moeten worden”, aldus de advocaat. Die neutrale bron is dus ChatGPT.(Nog één keertje samen: ChatGPT-is-geen-bron. Dank jullie wel.)
Ik zie prima hoe je een AI-dienst zoals ChatGPT kunt gebruiken als klankbord of om te oefenen. “Geef me tien argumenten tegen deze stelling”. “Herformuleer stelliger en met meer pathos.” Of “Reageer korzelig en een tikje chagrijnig op het bijgevoegde conceptpleidooi”. Tegenspraak is altijd prettig bij de voorbereiding, en ChatGPT heeft alle tijd en geduld om te oefenen.
Voor tekstanalyse is het een stuk spannender. Want deze diensten redeneren niet, hebben geen kennis en kunnen niet bepalen wat waar is of niet. Het beste dat je kunt doen, is een tekst eruit halen die lijkt op een menselijke redenering en die als basis voor je eigen betoog opvoeren.
Dit zagen we vorig jaar in Colombia, waar een rechter advies vroeg aan ChatGPT. Die kreeg een juridisch klinkende verhandeling terug en nam die over. Mijn bezwaar daartegen zou vooral zijn dat je dan achterloopt, er kunnen wetswijzigingen zijn geweest of nieuwe rechtspraak. Maar als ChatGPT het net zo mooi kan zeggen als jij, waarom dan niet?
Moet je die bron dan noemen? Nee, want voor de láátste keer: ChatGPT-is-geen-bron. Het is op zijn best een samenvatter van de algemeen bekende kennis, en dergelijke kennis noemen behoeft geen bron. Ik zie hoe je in de academische wereld wat zou moeten melden als je AI als schrijfhulp inzet, maar dat staat helemaal los van de juridische wereld.
Arnoud
Ik zou het in deze ook wel willen vergelijken met een autocorrectie van je tekstverwerker. Het is wat dat betreft ook gek dat je als jurist/advocaat gaat vertellen dat je zo’n tool gebruikt hebt. Want juist omdat het geen bron is, voegt het ook
niet zo veelniets toe om te vertellen waar je het mee geschreven hebt. Je gaat ook niet vertellen met welke versie van LibreOffice of MS Word je gebruikt hebt.Er is ook nog wel een vergelijking te maken met Wikipedia. Rond 2003 waren docenten fervent tegenstander van het gebruik daarvan. Anno 2020 kreeg je als leerling juist te horen dat het een prima tool is, ook omdat (zeker bij de Engelse editie) er zo goed verwezen wordt naar bronnen, en dat die bronnen dan zijn wat je uiteindelijk moet gebruiken.
Dat geldt voor ChatGPT natuurlijk evenzo. Als die allemaal tekst oppruttelt, dan kan je altijd vragen om bronnen daarbij. Niets belet je om dan zelf die bronnen te verifieren, en vervolgens naar die bronnen te verwijzen.
😀 Dit is een interessante kwestie die de rol van AI in de juridische praktijk aankaart. Arnoud heeft gelijk dat ChatGPT geen bron is in de traditionele zin. Het is een hulpmiddel, vergelijkbaar met een geavanceerde zoekmachine die informatie kan samenvatten en presenteren.
Of een advocaat moet vermelden dat ChatGPT is gebruikt, hangt af van verschillende factoren:
Het is belangrijk om te onthouden dat ChatGPT geen juridisch expert is. Het kan fouten maken of informatie verkeerd interpreteren. Advocaten blijven verantwoordelijk voor de inhoud van hun pleidooien, ongeacht of ze AI gebruiken.
Conclusie: Hoewel er geen verplichting is om het gebruik van ChatGPT te vermelden, is transparantie en eerlijkheid over de rol van AI in de zaak wenselijk. De juridische wereld zal zich moeten aanpassen aan deze nieuwe technologie en duidelijke richtlijnen ontwikkelen voor het gebruik ervan.
Dit ruikt naar een AI gegenereerd verhaal. Zou het kunnen dat je eigen schrijfstijl veranderd is door veelvuldig AI gebruik?
Als ik een advocaat zou hebben die ChatGPT een bron noemt (of als zodanig beschouwt) zou ik waarschijnlijk snel een andere advocaat zoeken voor mijn geld. Immers, wat klopt er dan van de rest van zijn (dure) advies?
Hoe zit het met die tapmachtigingen? Zijn die noodzakelijk, en klopt het dat die niet op tijd verlengd zijn? Want of de bron nu chatgpt is, een briljante ingeving van een stagair, of jarenlange ervaring; als die tapmachtigingen noodzakelijk zijn en ze niet geldig waren, dan is dat gewoon een goed punt, chatgpt of niet.
Mijn (niet-jurist) gok is dat een tapmachtiging nodig is als communicatie tijdens het verzenden tussen twee apparaten (realtime) afgeluisterd en opgeslagen wordt. Zijn de berichten (op een server) opgeslagen dan is een doorzoekingsbevel nodig om de berichten te mogen inzien.
Wacht..ik vraag ChatGPT even of dat klopt 😉
Ondanks mijn diepgaande kritiek op en waarschuwingen tegen ChatGPT waar ik het al vaker over gehad heb, liet ik hem laatst iets uitleggen over Nederlands en Interlingua waar ik zelf even geen zin in had en te moe voor was, en dat deed hij zo uitstekend dat ik die uitleg gewoon integraal ongewijzigd heb overgenomen en gepubliceerd: https://rudhar.com/writings/Pessoa/BanqAnar/tradb4ia.htm#Bicos
Toch wel.