Een intrigerende via Linkedin:
Is er al een ‘Leidraad voor Juridische Auteurs-richtlijn’ voor het verwijzen naar ChatGPT of andere generatieve AI? Ik zie wel APA-richtlijnen, maar zijn er ook al voorbeelden bekend van juridische auteurs die ChatGPT citeerden? Hoe zou jij ChatGPT citeren conform Leidraad?Ik was een beetje verbaasd, want om nou te zeggen dat ChatGPT bekend staat om haar inventief onderzoek of hoogdravende analyses, nee. Maar goed, dat is geen argument bij de vraag, hoe citeer je een tekst die je op ChatGPT.com aantreft.
In de comments geeft Vincent Bontrop een voorbeeld van een persistente link naar een ChatGPT uitvoer. Als ik daarop de regels van de Leidraad voor juridische auteurs loslaat, dan krijg je ‘Communicatie in psychologie’, ChatGPT.com 3 september 3, 2023 <url hier>.
Ik zit wel te twijfelen of deze uitvoer geschikt is als bron. Citeren uit Wikipedia is ook altijd op het randje: wat daar staat, mag je meestal als algemeen bekende kennis aanmerken en dat behoeft geen bron. En als het wél specifieke kennis is, dan verwijst Wikipedia naar een echte bron en dan citeer je die. Dus ik weet geen situatie waarin je Wikipedia als bron opvoert.
ChatGPT geeft evenzo algemeen bekende kennis aan, maar geen eigen opinie, inschatting of nieuw ontdekte feiten. Er is dus geen reden om ChatGPT als bron van wat dan ook op te voeren. Dit geheel los van de vraag of ChatGPT een auteur is.
Arnoud
“ChatGPT geeft evenzo algemeen bekende kennis aan” Voor mij zijn het meer flarden bekende kennis die al dan niet in de juiste samenstelling bij elkaar komen in ChatGPT. Vaker niet dan wel roept ChatGPT dingen die gewoon niet kloppen. Het is ook tekst die in principe uniek is en dus nooit in die samenstelling peer reviewed is.
Om eerlijk te zijn heeft Google Bard nu meer mijn voorkeur. Want Bard doet aan referenties zodat je kunt zien waar het antwoord op is gebaseerd. Maar toch zijn de antwoorden van Bard lang niet altijd betrouwbaar want ik vroeg: “Wie is Arnoud Engelfriet?” en volgens Antwoord 1 is Arnoud geboren op 12 Juli 1968. En antwoord 2 meldt geen geboortedatum. Maar volgens Antwoord 3 is Arnoud geboren op 28 Juni 1972. Jammer dat Bard hier dan weer niet aangeeft waar de informatie vandaan komt. Maar vraag ik Bard om code te genereren voor een database dan bevat het antwoord keurig netjes een link naar GitHub, naar een project met MIT licentie. En dit andere antwoord heeft zelfs 7 referenties, allemaal op GitHub. Ik kan mij dan voorstellen dat ik wel de Bard link kan refereren in mijn artikel of code, daar deze op zijn beurt weer de andere bronnen aanhaalt. Toch?
Ik kan me voorstellen dat wanneer iemand een artikel schrijft over de betrouwbaarheid / waarheidsgetrouwheid van ChatGPT of iets vergelijkbaars een verwijzing naar een stukje door ChatGPT gegenereerde output waarvan te controleren valt dat die daadwerkelijk door ChatGPT is gegenereerd een nuttige bronvermelding kan zijn.
Iedereen kan wel stellen: ChatGPT zegt dit en dat is…
ChatGPT kan kennis uit verschillende bronnen combineren tot een nieuw geheel. Zeg maar, niveau van een Bachelor student die een vraagstuk onderzoekt.
De reden om ChatGPT tot bron op te voeren, is als je een significant stuk uitvoer hebt gebruikt en overneemt. Geen melding maken valt volgens mij onder plagiaat. En uitvoer opvoeren al was het geschreven door mensen is in overtreding van de Terms of Service.
Om aan te tonen dat ChatGPT-4 echt nieuwe kennis of onderzoeksvraagstukken kan genereren, geef ik het volgende voorbeeld van vragen die het heeft gegeneerd. Al deze vragen zal het proberen te beantwoorden door bronnen en patronen te combineren tot een coherent geheel:
Om de Wikipedia-tip te emuleren, kun je ChatGPT na een goed antwoord vragen welke juristen of onderzoekers hier meer hebben over geschreven, waarna je primaire bronnen zou kunnen citeren.
GPT-4 antwoord:
Voor de gein en als illustratie, ChatGPT schreef dit artikel voor “Ius Mentis” (waar hij complexe juridische vraagstukken rondom ICT en internet toegankelijk maakt voor een breed publiek.) in de stijl van Arnoud Engelfriet.
Wie draagt de verantwoordelijkheid als AI zelf creatieve content genereert?
Laatst kwam ik een intrigerende kwestie tegen: stel je voor dat een geavanceerde kunstmatige intelligentie (AI) een volledig origineel muziekstuk of een roman creëert. Wie bezit dan de auteursrechten op dat werk? En wat als die AI iets creëert dat inbreuk maakt op bestaande auteursrechten?
Traditioneel gezien vereisen auteursrechten een menselijke auteur. In het Nederlands recht wordt een werk beschermd door het auteursrecht als het een “eigen oorspronkelijk karakter” heeft en het “persoonlijk stempel van de maker” draagt. Maar kan een machine een “persoonlijk stempel” hebben?
Laten we een stap terug doen. Waarom hebben we auteursrechten? Een van de redenen is om creatievelingen te stimuleren om nieuwe werken te produceren. Ze krijgen een tijdelijk monopolie op hun creaties, zodat ze kunnen profiteren van hun harde werk. Maar een AI heeft geen stimulans nodig. Het heeft geen gevoelens, geen behoefte aan erkenning of financiële beloning.
Aan de andere kant, als iemand een AI-programma heeft ontwikkeld en getraind om creatieve werken te produceren, zou die persoon dan niet enige vorm van bescherming moeten krijgen voor de output van die AI? Zij hebben tenslotte tijd en middelen geïnvesteerd in de ontwikkeling van die AI.
Dan is er nog de vraag van inbreuk. Stel dat een AI, volledig onbedoeld, een muziekstuk produceert dat opvallend lijkt op een bestaand nummer. Wie is dan verantwoordelijk? De ontwikkelaar van de AI? De gebruiker die de AI opdracht gaf om muziek te maken? Of is niemand verantwoordelijk, omdat de AI autonoom handelde?
En dan is er nog het praktische aspect. Hoe bewijs je dat een AI daadwerkelijk een uniek en origineel werk heeft gecreëerd, zonder input van bestaande content? En is het überhaupt mogelijk voor een AI om echt ‘origineel’ te zijn, gezien het feit dat het altijd wordt getraind op basis van bestaande gegevens?
Concluderend, de opkomst van geavanceerde AI die in staat is tot creatieve expressie plaatst ons voor nieuwe en onbeantwoorde vragen in het domein van auteursrecht. Het dwingt ons om onze traditionele opvattingen over creativiteit, originaliteit en eigendom te heroverwegen. En zoals met zoveel dingen in het internetrecht, lopen de technologie en praktijk voorop, terwijl het recht achterblijft en probeert in te halen.
Wat denken jullie? Moeten we onze auteursrechtwetten aanpassen aan het AI-tijdperk, of zijn de huidige principes flexibel genoeg om deze uitdagingen aan te gaan?
Natuurlijk is dit een fictief artikel, en het vertegenwoordigt niet de werkelijke meningen of schrijfstijl van Arnoud Engelfriet. Het is slechts een illustratie van een potentieel onderwerp dat hij zou kunnen behandelen op zijn blog.
Voor primaire bronnen over dit soort vraagstukken die geraadpleegd zouden kunnen worden, naast Arnoud Engelfriet, geeft het: Steven Ras, Mathieu Paapst, Charlotte Meindersma, Menno Weij, en Brenno de Winter. Voor meer academisch onderzoek wordt men verwezen naar Google Scholar/ResearchGate voor: Mireille van Eechoud, Mireille Hildebrandt, Nico van Eijk, Ronald Leenes, Frederik Zuiderveen Borgesius, Natali Helberger, Bart Custers, Eleni Kosta, Bernt Hugenholtz, Jeroen van den Hoven, Damian Trilling, Brahim Zarouali, en Lokke Moerel.
Maar het weigert specifieke titels van werken te geven, deels omdat het geen kennis heeft van de relevante nieuwste werken na 2022, deels omdat het soms hallucineert over exacte feiten (zoals geboortedatum in Wim’s post), en deels omdat het onethisch is om het complete werk van een student of nieuwe onderzoeker te doen. Vergelijk dat met het citeren van bronnen op Wikipedia, zonder deze zelf te lezen, of maar een literatuurstudie te doen.
Het zou je wel helpen om sneller en breder te werken door van bovenstaande onderzoekers de laatste artikelen te downloaden en om bevindingen en samenvattingen te vragen. Je kan dan zelf inzoomen op een interessante bevinding of relevante samenvatting, terwijl klakkeloze bronnen, onjuistheden, en gebrek aan menselijk oordeel vermeden worden.
Beste Arnoud, als informatiespecialist bij de opleidingen HBR en SJD van de HU, heb ik dagelijks te maken met hoe studenten en anderen hun gebruikte teksten in hun eigen producten moeten verwerken. De regel daarbij is, dat je naar alle tekst, afbeeldingen etc. van een ander, dus ook gemaakt door ChatGPT of van Wikipedia, moet verwijzen en deze moet verantwoorden. De Leidraad voor Juridische Auteurs is daarvoor de stijlvorm. Wel jammer, dat Kluwer nog steeds geen advies heeft uitgebracht hoe dit te doen. APA heeft zeker al mooie richtlijnen en adviezen opgesteld voor het verwijzen naar dit soort gebruukte info en afbeeldingen.
Kun je een voorbeeld geven van wanneer je Wikipedia moet citeren? Voor mij is dat onwaarschijnlijk. Of het gaat om algemeen bekende feiten (en die behoeven geen bron) of het gaat om specifieke kennis en dan is Wikipedia niet de bron dus moet je de echte bron citeren.