Diverse lezers tipten me dat auteur K.C. Krowne in diens boek een ChatGPT prompt had laten staan (afbeelding). “Zeker, hier is een herziene tekst waarin je hoofdpersoon meer relateerbaar wordt terwijl de tegenspeler net wat meer sexy neergezet wordt.” Onhandig, beschamend, zeker. Maar zo vroeg een lezer: is daar juridisch wat aan te doen? Ik verwacht een boek van een mens, en dan is het AI prut.
Al een jaar geleden gingen vele alarmbellen af dat met name de Amazon Kindle marketplace overspoeld wordt met goedkope snel uit AI getrokken boeken (ik weiger “geschreven” te gebruiken). Amazon heeft nu de regel dat je maar drie boeken per dag mag publiceren, en zelfs dat heeft beperkt effect.
Echt leuke verhalen lijken het me niet, zeker op roman-lengte:
Most AI systems struggle with maintaining structure and continuity in extended texts. Also, most LLMs tend to produce average prose without expert input, a phenomenon known as “regression towards the mean.” This trait, he said, often leads to a dilution of the writer’s unique style and voice, resulting in writing that readers might find unremarkable, dull, or lacking inspiration.Het achterliggende businessmodel is simpel. Die ebooks gaan voor 99 cent per stuk, in de hoop dat mensen denken “toch even proberen” en dan voor die ene euro niet gaan klagen als het tegenvalt. En omdat je inkoopsprijs nul is (goed, 20 euro per maand abonnement), is elke euro dan leuke winst.
Mag het? De AI Act staat je toe om te verzwijgen dat je AI hebt gebruikt als je de uitvoer een menselijke redactieslag hebt gegeven (art. 50 lid 4 AIA). Sowieso hoef je bij fictie tekst geen AI-melding te plaatsen van die wet.
Ik snap de insteek van de lezer wel, dat dit wel eens een misleidende handelspraktijk of oneerlijke reclame kan zijn. In reclame misleiden over
de identiteit, hoedanigheden, bekwaamheid of bevoegdheid en degene door wie, onder wiens leiding of toezicht of met wiens medewerking de goederen zijn of worden vervaardigd of aangeboden of de diensten worden verricht.is onrechtmatig, net als meer algemeen het weglaten van essentiële informatie die de consument nodig heeft bij een koop (art. 6:194 BW). Hetzelfde geldt voor misleidende handelspraktijken, waar ook zaken staan als “procédé en datum van fabricage of verrichting” (art. 6:193c BW).
Het enige is natuurlijk – er is nog nooit een zaak geweest dat het misleidend is dat een boek door een machine is afgescheiden in plaats van door een mens geschreven. Dat was in het zakelijk verkeer nooit echt mogelijk.
Of nou ja, je hebt natuurlijk al heel lang de praktijk van het ghostwriten, een ander inhuren om jouw werk te schrijven. Of dat nou echt veel voorkomt bij fictiewerk is mij nooit duidelijk geworden. In de VS lijkt het wel legaal te zijn, omdat daar in 2003 is uitgemaakt dat een onjuiste auteursvermelding geen merkenrechtelijke “valse oorsprongvermelding” is.
Zeker bij het uitgeven van onbekende auteurs kun je je afvragen wat de relevantie voor de consument is dat sprake was van een ghostwriter. Of je nu van onbekende auteur Jan dan wel Yanick een boek koopt, je zult eerder afgaan op de flaptekst of de reputatie van de uitgever dan op de biografie. En als de kans op feitelijke misleiding afwezig is, dan kan geen sprake zijn van juridische misleiding.
Bij AI prut ligt dat denk ik toch anders. Daar gaat het niet zozeer om welke naam er op staat, maar dat dit de belofte geeft dat er een mens aan gewerkt heeft. Dat staat voor enige kwaliteit en consistentie, en die belofte wordt dan geschonden door een pak papier waar ChatGPT uitvoer op staat.
Daar staat dan natuurlijk weer tegenover dat iedereen weet dat op de Kindle Marketplace mensen zelf mogen publiceren zonder screening, dus daar ga je sowieso al héél veel troep tegenkomen. Maakt het dan nog veel uit dat er AI troep tussen zit?
Arnoud
De prompt “schrijf een boek” is natuurlijk nog wat andere dan “ik wil een paragraaf waar Jantje een reactie schrijft op een forum en veel likes op krijgt”
De AI gaat dan naar tool wat je als auteur verfijnt
Maximaal drie per dag? Pfft. Een per jaar vond ik al hard werken.
Als lezer: dat inderdaad. Er zijn ook altijd heel slechte auteurs geweest. Dan is grijze drab uit een AI tenminste op hetzelfde niveau.Ik heb de hoop dat dit zichzelf oplost: of men is na vaak tenen stoten niet meer bereid te betalen voor self published materiaal. Of er zijn genoeg mensen die het als tijdverdrijf het geld waard vinden. Dat laatste is m.i. dan ook prima, er is immers ook ruimte voor allerhande troep op TV. Zolang ik er maar niet naar hoef te kijken.
I.h.k.v. AI zie ik dan meer risico’s in automatisch gegenereerde reviews in het realistisch geprijsde boekensegment. Dan wordt nieuwe goede schrijvers vinden moeilijker.
En in AI non-fictie. AI kookboeken (‘en een snufje cyanide’), zelfhulp (’twee flessen wegtikken, dan val je sneller in slaap’), klussen (‘spaanplaat voldoet’), etc…
“AI Prut”? 😀 Awwww. Kom op, soms is het best goed wat AI produceert, zolang je maar de prompt op een goede maniet beheert. 🙂 “Prut” vind ik dan een beetje kwetsend, hoewel het bij veel AI fictie wel waar is…
Momenteel werk ik aan een hobby-project waarbij ik Google Gemini gebruik om verhalen te schrijven op basis van een afbeelding. Ik ben al jaren bezig met CGI plaatjes te maken via Poser Pro en Eon Vue. Ik heb daarnaast een 3D printer gemaakt zodat ik mijn OC’s ook in 3D kan uitprinten. En nu wil ik dus een project opzetten waarbij ik de AI voorzie van afbeeldingen en achtergronds-informatie om zo verhalen te schrijven. En uit ervaring weet ik dus hoe snel AI wil afdwalen van het verhaal dat ik wil en elementen toevoegt die ik helemaal niet wil. Dus in mijn verhaal over de Romeinse tijd komen er opeens vliegende schotels, magie en cowboys naar voren. Waarom? Omdat de AI nog niet gevorderd genoeg is…
Maar mijn project probeert dit op te lossen door middel van de Gemini API en mijn eigen code. En vooral ook door gebruik te maken van de “system instructions” die goede grenzen kan leggen aan de uitvoer. Mijn project wordt een website waar de verhalen op gepubluceerd worden met een admin-gedeelte waar ik informatie voor het verhaal kwijt kan. Ofwel, de titel, beschrijving van de hoofdfiguren, de gebeurtenissen die moeten gebeuren, de verwachte uitkomst ervan en nog meer details. En dan mag de AI hoofdstuk na hoofdstuk gaan produceren, waarbij ik eerst ieder hoofdstuk nalees en corrigeer of afkeur. En zo krijg ik dan hopelijk verhalen in een goede toon en zoals ik ze wens te hebben…
Op papier werkt het al. 😀
Maar goed, ik heb ondertussen een goed idee wat voor prut AI kan genereren. Maar heb ook gezien dat je best mooie verhalen kunt maken die door AI worden ondersteund. De kwaliteit van wat AI genereert hangt sterk af van de gebruiker die de prompt en system instructions voert aan de AI. Letterlijk ‘Garbage in, garbage out’ als de auteur een prutser is. 🙂
De grote on-line boekwinkels zijn al in ernstige mate vervuild doordat een aantal partijen massaal “print-on-demand” (PoD) boeken aanbieden (meestal op basis van scans uit Google Books of The Internet Archive), waardoor het vinden van echte, antiquarische exemplaren heel lastig is geworden. Een aantal sites bieden de optie “niet PoD”, maar dat werkt niet, omdat veel van de aanbieders dat niet aangeven.
Met AI gegenereerde “boeken” zul je waarschijnlijk hetzelfde effect krijgen, ook als de grote boekensites de optie “niet AI-gemaakt” introduceren. Ik denk zelf dat desondanks uitgevers er verstandig aan doen om een soort van AI keurmerk in te voeren, met normen voor welke AI activiteiten wel en niet zijn gebruikt bij de productie van een boek zijn gebruikt.
Veel wetenschappelijke tijdschriften werken nu al met een AI disclosure declaration (je vindt ze zo met een zoekmachine). Ik denk dat je dit in dat voorgestelde keurmerk zou kunnen verwerken, van het genereren van ideeën, proeflezen, kritiek geven en deze weer pareren, etc., tot het geheel genereren van de tekst, zonder enige verdere menselijke interventie.
Als je dan zo’n keurmerk onjuist gebruikt, dan is het inderdaad misleiding.
Ik zie een gat in de markt voor uitgeverijen. Waar hun businessmodel volledig achterhaald leek door PoD, is er nu misschien heel veel meerwaarde voor boeken die door een uitgeverij gepubliceerd zijn, en aan hun kwaliteitseisen voldoen.