Je zult klokkenluider zijn in een wereldwijd omkopingschandaal en dan teruglezen dat jij een van de hoofdschuldigen was. Het overkwam de Australische burgemeester Brian Hood dankzij ChatGPT, dat deze “alternatieve feiten” uit haar statistische duim zoog. Of ook heel vervelend: rechtenprofessor Jonanthan Turley die van seksuele intimidatie werd beschuldigd, compleet met nepverwijzing naar de Washington Post. Categorie erger dan samen met Rian van Rijbroek een artikel schrijven, maar de juridische vraag blijft dezelfde: kun je bij ChatGPT uitvoer spreken van smaad, of wat zou er meer nodig zijn voordat we daar zijn?
Op Titter lees ik twijfel: als er duidelijk bij staat dat de uitvoer nep kan zijn en dat je toch vooral de feiten moet controleren, dan kun je toch nog moeilijk stellen dat hier sprake is van smaad? En zelfs als je de huidige disclaimer ietwat klein vind (ik ken zwembaden met grotere disclaimerbordjes inderdaad) dan nog, het is al zo vaak in de pers geweest dat ChatGPT feiten verzint waar je bij staat, dat je toch moeilijk nog onwetendheid kunt claimen.
Mijn juridische hoela voor dat argument, om het even formeel te zeggen. Het is en blijft een krankzinnig idee dat je eender welke dienst kunt opzetten en aankleden zoals je goed uitkomt in de reclame, en dan daaronder in de kleinst drukbare letters “Nee, bovenstaande klopt niet” zou kunnen zeggen. Niet als je een betaalde garderobe aanbiedt. Niet als je onbeperkt internet aanbiedt. En niet als je een chatbot aanbiedt die pretendeert conversaties te voeren en daarbij feitelijke informatie oplepelt. Ik geloof er dus ook niets van dat mensen “wel weten dat het een robot is” of “dat het statistische correlaties betreft”. Sorry, nee, dat zijn allemaal geen argumenten waarom mensen de informatie als, eh, gewoon-voor-de-lol-klopt-niets-van-waarom-vraag-ik-dit-eigenlijk-aan-deze-bot informatie zullen beschouwen.
Natuurlijk, als “iedereen” weet dat het nep is, dan zal er geen sprake zijn van smaad. Maar ik ben er bij lange na niet van overtuigd dat dat het geval is, ChatGPT heeft nog lang niet de mate van bekendheid die zeg Koefnoen of De Speld heeft, en dat is wel een beetje het niveau waarop je kunt zeggen “ja kom nou, dit is satire mensen”. Ja, de 350 mensen die nu deze blog lezen wel maar met excuses voor uw gewaardeerde bijdrage: u bent niet de maatman voor wat men hoort te weten.
Je kunt je dan weer wel afvragen of er sprake is van “ruchtbaarheid geven” in de zin van strafbare smaad (art. 261 Strafrecht) als je iets voorgeschoteld krijgt in de specifieke chatinterface waarmee jij met die bot chat. Dit is met name in de Engelse en Amerikaanse context een belangrijke: er moet daar sprake zijn van een publicatie aan een onbepaalde groep, aan “het publiek”. In Nederland is de lat van ‘ruchtbaarheid’ een stuk sneller gehaald. Zoals de HR het in 2015 formuleerde:
Ruchtbaarheid krijgt een gegeven als het bekend wordt binnen een bredere kring van betrekkelijk willekeurige derden, als het ter kennis van het publiek wordt gebracht. Van het kennelijke doel om ruchtbaarheid te geven kan ook al sprake zijn als de mededeling slechts aan één persoon of aan enkele personen wordt gedaan.Het achterliggende argument heet wel ‘kruipsmaad’, ook als jij het aan één persoon doorvertelt die het weer aan een ander doorvertelt enzovoorts, kan het bij genoeg personen terechtkomen om jou reputatieschade te berokkenen. En dat kan hier ook spelen: als ChatGPT deze informatie aan één persoon oplepelt, dan zal het dat dus ook doen bij alle andere personen die vergelijkbare vragen stellen. En dát is het probleem.
Arnoud
Ik vind dit een hele goede blog hierover: https://simonwillison.net/2023/Apr/7/chatgpt-lies/. Jarenlang is ‘AI’ voorgeschoteld aan het publiek als zijnde een hyper-intelligente computer die altijd de juiste antwoorden oplepelt. Nu met ChatGPT komen we tot de ontdekking dat dit niet zo is, tenminste, de mensen die AI op waarde weten te schatten weten dit. Maar of de grote massa dit ook door heeft? Ik vind AI / ChatGPT een heel bedenkelijke ontwikkeling zo, en het is goed te zien dat daar ook vanuit juridische hoek kritisch naar gekeken wordt.
Hij komt nog niet eens weg met de verbuiging van het IJslandse woordje ‘köttur’, laat staan dat die zo creatief is om te zeggen, dat als je in die verbuiging lijntjes trekt, de ‘kat’ zelfs te voorschijn komt. Sinds Chat GPT ben ik ervan overtuigd, dat we als mens nog lange tijd superieur blijven aan AI.
Kent-ie wel als je een ’m voorbeeldzinnetje geeft. Ik probeerde los “kattar”, daarvan dacht hij dat het Arabisch was (nee, dat is kathar), of Urdu, Hindi of Punjabi. Maar het zinnetje “Þetta er einn af fótum kattar.” (via Wiktionary, uit Google Translate) kon hij wel perfect vertalen. En toen kende hij “köttur” ook.
Goeie. Geretweet, shared, en mastodond.
Als IT’er zie ik diverse zaken die ChatGPT en dergelijke AI neefjes zeer goed voor elkaar krijgen.
Bijvoorbeeld complete computer-games schrijven (Pong) en daarbij geven de instructie-gevende programmeurs aan zeer tevreden te zijn over de uitvoer. (artikel voorbeeld: https://dev.to/accreditly/using-chatgpt-to-write-pong-in-the-browser-3fid)
Als de “IT”ers denken dat het goed is, zullen gewone vragen zeker ook wel kloppen is dan een veilige aanname die veel mensen zullen maken. Daarmee wordt smaad ineens weer een stuk makkelijker denk ik dan.
Dat is een hele goede signalering van een gevaarlijke ontwikkeling inderdaad.
Terzijde: is die code echt wel zo goed? Ik lees her en der dat het prima is voor demo’s, maar zeker geen veilige en onderhoudbare productiecode.
De code kun je zien als een “ruwe schets” van een echt programma. De laatste alinea van het aangehaalde artikel, meldt dat dan ook netjes. De code is niet productie-rijp en bevat foutjes , maar ontwikkelingen gaan razendsnel op het moment.
Ik vroeg hem (een tijd geleden) te schrijven wat ik zelf veel beter heb gedaan (https://rudhar.com/sfreview/utf8cntx/index-en.htm), in C, en daar kwam inderdaad een compileerbaar en werkend programmaatje uit, dat voldeed aan mijn zeer korte specificatie. Niet erg fraai, maar als ik doorgevraagd had, was het vast beter geworden.
O ja, teruggevonden (in een discussie, terecht benoemd als “Libros in Kotava”, nogal verwarrend van mij om dan over programmeren te beginnen): Mijn vraag aan ChatGPT was: “Could you write me a program, in the C programming language, that translates copy-pasted UTF8 text to the underlying Unicode scalar values?”
Al die evaluaties zijn gericht op “kleine” problemen. Kleine problemen zijn echter ook zeer gebruikelijk als oefeningen. En dus zijn er heel veel voorbeelden van dit soort programma’s te vinden. Productieprogramma’s zijn veel specifieker en ook veel complexer (in gewenste functionaliteit, niet alleen de implementatie ?)
Als ik door “Generatieve AI” geproduceerde code zie krijg het gevoel dat ik weer student-assistent bij de computerpractica ben. Met regelmaat zie je code die gewoon goed is, vaker code die best redelijk is, met hier en daar een bug, maar zo af en toe vraag je je af of de student de opdracht en de theorie wel begrepen heeft. Het probleem bij de AI is dat je in een sessie alle drie categorieën code kunt tegenkomen. (Als student-assistenten was dat aanleiding tot de conclusie: deze persoon doet het practicum niet alleen.)
Wanneer je de AI gebruikt als hulpmiddel bij het schrijven van teksten moet je je echt de vraag stellen of je de input van een leugenaar met een dikke duim wilt gebruiken voor werk dat je onder je eigen naam gaat inleveren. Wat ik tot nu toe gezien heb maakt me toch wel een beetje huiverig.
Ik vind dat iemand die de onzin uit chatgpt zomaar de wereld in slingert met ook maar de schijn van “dit is waar” niet beter verdient dan de volle verantwoordelijkheid te worden aangerekend. Klinkt misschien hard maar dat is het gevolg van zo’n artikel ook.
Betekent dit dat je OpenAI óók aanrekent onzin de wereld in te slingeren met die schijn?
Als ze dat publiceren anders dan in respons op een vraag van niemand om wat tekst te genereren over een gestelde vraag wel. Niet als iemand intypt “zeg iets over seksuele intimidatie en de rechtszaken daarover”. Wie dat aan een chatbot vraagt moet weten dat hij alleen statistisch samenhangende woorden krijgt en geen zinnige feitelijke tekst. En als dat domme mensen harder treft is dart vervelend maar misschien moeten we eens ophouden met dommigheid als de norm te stellen.
Hoe weet ik dat het hier gaat om een chatbot die alleen statistisch samenhangende woorden produceert? En waarom moeten andere mensen lijden onder mijn domheid, als ik die informatie als feit aanneem?
Interessante verdediging. Ik ben niet zo slim, hadden ze het maar moeilijker toegankelijk moeten maken. Maar misschien kun je daarmee de aansprakelijkheid doorleggen naar de exploitant. Maar feit blijft dat jij de onjuistheid de wereld in slingert. Maar misschien gaat de rechter mee in het oude gezegde, “door een gek verweten gauw vergeten”.
Maar er zit natuurlijk ook wat in dat bij machine learning een feitelijk onjuist resultaat ook als een ongewenst resultaat dient te worden aangemerkt. Het is niet voldoende om alleen maar teksten er in te proppen en dan hopen dat het vanzelf goed komt.
Ik zou je vragen kom dit weekend naar T-Dose, kunnen we er nog een boom over opzetten.
Wat ik eigenlijk ook mis in de artikelen zoals de washington post is welke vragen nu precies werden gesteld (inclusief mogelijke relevante geschiedenis).
Want als een willekeurige tienner een huiswerk opdracht zou krijgen “maak een samenvatting van dit artikel” en hij zou zeggen het gaat over sexueel misbruik (terwijl het over heel i ets anders ging) dan zouden we dat nooit als smaad zien.
Ik zie AI ook zo. Ik vraag een AI/Tiener iets, en ik kijk of dat een leuk antwoord is. Zolang de AI zelf niet mijn vragen/antwoorden gaat verspreiden ligt het ook aan mij als gebruiker wat ik met dat antwoord ga doen. Of het nu een style controle is op een email, een blog of een stukje code. De jurische vraag voor mij zou dan ook zijn hoe krijgen we AI in dat hokje. Mens vraagt, mens krijgt antwoord, mens is verantwoordelijk voor wat hij krijgt/doet met het antwoord. En misschien helpt het dan wel om geld te vragen per maan/per vraag zodat mensen nadenken over wat ze er mee doen.
Misschien zit (voor mij) de echte smaad wel juist bij de persoon die het antwoord van chatGPT publiceerde. Zeker als je er bij roept “chatGPT zegt x” dan lijkt het juist ineens weer extra nieuwswaarde te hebben.
“En niet als je een chatbot aanbiedt die pretendeert conversaties te voeren en daarbij feitelijke informatie oplepelt. Ik geloof er dus ook niets van dat mensen “wel weten dat het een robot is” of “dat het statistische correlaties betreft”.”
Een geletterd mens is toch geïnteresseerd in de achtergrond. Wanneer je een opmerking maakt over de enorme kennis van ‘Chat GPT’ komt hij al met het antwoord, dat hij slechts een taalmodel is. Probeer een vakgebied uit, waar je grondige kennis van hebt (en het liefst buiten de kennissfeer van Amerika gelegen is, bijvoorbeeld IJslands of Færøers) en hij komt met de wonderlijkste antwoorden. Mensen willen sinds de komst van de computer maar niet los van het idee, dat computers kunnen denken. Ze kunnen alleen maar snel en schier foutloos saaie taken uitvoeren; computers zijn niet creatief, tonen geen initiatief, hebben geen emotie en ‘denken’ heel anders dan mensen. Ze combineren.
Sorry, waar komt dat “geletterd” ineens vandaan als eis aan de modale persoon?
Wat zou je met Chat GPT doen, als je niet geïnteresseerd bent in kennis?
Juist als ik niet geïnteresseerd ben in weten hoe het werkt, is het toch ideaal dat de computer dat allemaal voor me oplepelt? Het ding heet nog chat ook, ik hoef niet eens meer hele zinnen te schrijven. En het is een computer dus het klopt.
Een computer is een rekenmachine en geen Orakel van Delphi. En voortgaand op de opmerking van Peter: “Sinds wanneer is dat geen eis meer,” misschien niet krampachtig Chat GPT verbieden, maar leerlingen laten zien, hoe het werkt en vooral wonderlijke antwoorden laten produceren en deze bespreken.
Sinds wanneer is het geen eis meer?
Ik denk dat dit precieshet verkeerde voorbeeld is. verbuiging van een Ijslands woord is iets wat a) kennis is, (feiten) b) iets wat de gemiddelde nederlander/amerikaan ook niet weet.
Intelligentie gaat meer richting de vraag of een model op basis van een aantal artikellen een samenvatting kan maken. Een bron kan vinden voor feiten of conclusies kan trekken uit een dataset (die waar zijn)
Ik vind het juist een geschikt voorbeeld, omdat de verbuiging is wat het is. Als iemands kennis niet op orde is, dan ga ik hem zeker geen standpunt vragen. Daarnaast was het voorbeeld van Arnoud ook kennis. De bewuste man was geen misbruiker, maar een journalist, die daarover geschreven had.
Als ze ChatGPT weten te koppelen aan de Wiktionary en de Wikipedia (maar dat zal wel niet kunnen, gezien rechten en licenties?), dan werd het misschien nog eens wat. Woordverbuigingen en -vervoegingen zijn tegenwoordig snel en (ik vermoed) foutloos op te zoeken in de Wiktionary.
Chat GPT doet me denken aan leerlingen, die hele stukken niet geleerd hebben, maar wel uitgebreide en plausibel klinkende antwoorden weten te produceren.
Voorbeeld:
Ja, het IJslandse woord “vatn” (“water”) verandert in het meervoud naar “vötn” door een klankverschuiving die bekend staat als de “umlaut”. In het IJslands, net als in andere Germaanse talen, heeft de umlaut invloed op de klinkers van woorden wanneer ze worden gevolgd door bepaalde medeklinkers, zoals “t”. In het geval van “vatn”, zorgt de “t” ervoor dat de “a” in “vatn” verandert in een “ö” in het meervoudsvorm “vötn”. Dit gebeurt omdat de “t” de “a” verandert in een “ö” door de plaatsing van de tong in de mond bij het uitspreken van de klanken.
Het umlautproces is een belangrijk kenmerk van de Germaanse talen en speelt een grote rol in de grammaticale structuur van deze talen. In het IJslands, bijvoorbeeld, wordt de umlaut vaak gebruikt om meervoudsvormen en verbuigingen van zelfstandige naamwoorden te creëren. – Nee, omdat het oorspronkelijke meervoud ‘vötnu’ was.
“ChatGPT verkoopt met zijn stalen gezicht de grootste onzin.”
Dat komt omdat het niet weet wanneer het de waarheid spreekt of liegt. Wie heeft ChatGPT wel eens gevraagd om een goede route van huis naar werk?
Het leerlingenantwoord “zie boek” geeft hij dan alias gebruik de routeplanner.
Ik vind ruchtbaarheid hier toch iets te ver gezocht, omdat er antwoord wordt gegeven op een specifieke vraag. Het valt dan ook aan te nemen dat als de vraagsteller zelf zou verder zoeken, zhij ook op andere manieren de bronnen zou vinden waar ChatGPT zich op baseerde. Het verbod op smaad kan m.i. niet vertaald worden naar een gag-order. Dat het antwoord verkeerd is, doet er niet toe voor smaad (wel laster).
Verder vind ik lid 3 van art 261sr wel toepasselijk :
België. Be-he-hel-gie-je.
Geen vrouwen dus? En ook geen staven?
Bij juristen heet het echt de ‘maatman’, er is er een in het socialezekerheidsrecht maar ik ben zelf meer bekend met de merkenrechtelijke maatman. Ik geef toe, niet echt een inclusieve term.
Grappig, kende ik niet. Weer wat geleerd.
“Maatpak” is een woord, maatrok of maatjurk bestaan niet.
Net in recordtijd een (onvoltooid) webstukje van mezelf van het Nederlands in het Engels vertaald, met stevige hulp van ChatGPT. Ca. 1000 woorden per uur, zelf vind ik een kwart daarvan al lastig vol te houden. Ik heb niet alle suggesties 1-op-1 gehandhaafd, overal wel wat geknutseld, maar dat was vooral Geschmackssache, zoals de Finnen dat noemen. Alles was grotendeels meteen bruikbaar, eigenlijk gewoon goed vertaald.
Ook heel handig: op verzoek (moet je soms wel herhalen) laat hij HTML in tact en vertaalt alleen de talige content die ertussen staat. Met Google Translate of DeepL moest ik dat zelf knippen en plakken.
https://rudhar.com/technica/hamradio/nl01.htm https://rudhar.com/technica/hamradio/en01.htm
Eerder, als ik wist dat ik van een te schrijven Nederlands stukje ook een Engelse versie wilde maken, hield ik me wel eens in, vermeed ik opzettelijk idiomatische Nederlandse uitdrukkingen waarvoor ik niet meteen een goede Engelse weergave wist. Dat maakt het vertalen later veel gemakkelijker. Maar je krijgt natuurlijk wel saaiere tekst. Dat vond ik bij mijn eindeloze gezwam over geldcreatie indertijd niet zo’n punt, want inhoud en helderheid stonden voorop, niet gezelligheid of eventuele literaire pretenties.
Deze keer heb ik dat bewust niet zo gedaan, ik heb geschreven wat in me opkwam, met gebruik van het hele arsenaal aan Nederlands dat ik aan boord heb. ChatGPT wist overal goede of in elk geval redelijke Engelse versies daarvan te bedenken. Als ik dat zelf had moeten doen, had het me veel hoofdbrekens, geblader in woordenboeken en dus tijd gekost.
Ik zou het dus wel sneu vinden als ChatGPT ons afgepakt gaat worden vanwege potentiële privacyproblemen. In mijn verhaal staan geen persoonsgegevens, ja, de naam van één Twitteraar, als die eventueel bezwaar maakt, wil ik die wel vervangen door “iemand op Twitter”. Bovendien beroep ik me op de AVG-uitzonderingen voor journalistiek en voor kunst (waarmee niks gezegd wil zijn over kwaliteit of waarde, dat criterium kent de wet niet).
Feitelijke onjuistheden spelen hier ook geen rol, want alle feiten komen van mezelf, of uit bronnen, ik heb alles gecheckt en ook de vertaling nogmaals gecheckt. Er kan niks door ChatGPT verzonnen zijn.
Met een hamer moet je hameren en met een schroevendraaier schroeven draaien. Zo is het waarschijnlijk met ChatGPT ook. Voor feitjes heb je de Wikipedia en Wiktionary (incl. IJslandse vervoegingen of verbuigingen), daarvoor ga je niet bij ChatGPT te rade.
Inmiddels heb ik grote delen van mijn avonturen met ChatGPT gepubliceerd, waaronder dit.
https://rudhar.com/sfreview/ChatGPT/KanHetSmaadZijn-1.htm
https://rudhar.com/sfreview/ChatGPT/KanHetSmaadZijn-1.htm
Blog doet weer raar, neemt correcties niet over.