Op Instagram en TikTok worden zulke AI-beelden miljoenen keren bekeken, al barsten ze van de fouten. Dat meldde Nu.nl recent in een artikel over accounts als POV Lab en Time Traveller POV. Experts schieten de beelden gemakkelijk af, maar ik kreeg van een lezer de vraag: wat vindt de wet hiervan?
Het algemene antwoord: het is niet strafbaar om historische onzin te verkopen. Desinformatie is immers niet verboden, althans niet expliciet. Via de Digital Services Act is er tegenwoordig wél een haakje hiertegen. Artikel 34 DSA bepaalt namelijk dat aanbieders van VLOPs zogeheten systeemrisico’s moeten aanpakken die voortvloeien uit hun systemen, en overweging 84 noemt expliciet “misleidende of bedrieglijke inhoud, met inbegrip van desinformatie”.
Als aanvulling daarop moeten aanbieders van generatieve AI van de AI Act (artikel 50) er voor zorgen dat uitvoer gemarkeerd in een machineleesbaar formaat en detecteerbaar als kunstmatig gegenereerd of gemanipuleerd. Het bekende Content Credentials logo is hierbij de leidende invulling. De grote platforms pikken deze markeringen op en tonen dan de bekende “made bij AI” aanduidingen.
TikTok was de eerste die dit protocol ging ondersteunen, maar bij de in Nu.nl geciteerde video’s zie ik dat logo niet terug. Los daarvan: of het genoeg is om mensen te laten beseffen dat dit nep is, betwijfel ik. Specifiek bij geschiedenis weten we immers in het algemeen wel dat je hier artist impressions krijgt, dus dat we dan AI-beeld zien is te verwachten. Of het inhoudelijk klopt, staat los van die markering.
Een inhoudseis staat verderop in de AI Act: zogeheten deepfakes zijn AI-beelden die pretenderen de werkelijkheid te tonen. Hierbij moet expliciet bekend gemaakt worden dat de content kunstmatig is gegenereerd of gemanipuleerd. Maar wederom: dat vindt niemand erg, want we weten dat dit een impressie is. De AI Act eist niet dat deepfakes kloppen met de werkelijkheid.
Ik zie dus niet echt een juridische optie om deze feitelijk onjuiste informatieverspreiding aan te pakken. Jullie wel? Of zou dit gewoon moeten kunnen, en moeten we maar geschiedenisgeletterder worden?
Arnoud
Is (o.a.) geschiedenis niet altijd al ‘lies-to-children’ geweest? Heel wat mensen hier zullen Van Nul tot Nu hebben gelezen.
Grootste verschil is wellicht dat nu misschien bewust e.e.a. sterker wordt aangezet voor extra views. En dat het echter lijkt.
Het artikel is niet te lezen zonder account dus mogelijk mis ik context.
Het geschiedenis-curriculum is politiek gekleurd. Waarom is er wel aandacht voor de Griekse en Romeinse geschiedenis en veel minder voor de Viking en Arabische culturen? Wie kan vertellen wat de voor de Lage Landen de belangrijkste gebeurtenis in 1830 was? Waarom praten we nog steeds over “Politionele acties” als we het over de onafhankelijkheidsstrijd in het huidige Indonesië hebben?
En als het gaat om “beelden bij de geschiedenis” moeten we het doen met wat er over is van het teken- en schilderwerk uit die tijd. Zeer beperkt bronmateriaal, dus een AI kan lekker willekeurig hets gang gaan met een eigen invulling.
Als je met politiek gekleurd bedoelt dat de winnars de geschiedenis schrijven dan is dat tot zekere hoogte waar. Soms komt bij die winnaars later het besef dat hun verleden – bijvoorbeeld slavernij en kolonisatie – niet helemaal jofel was en wordt dat langzaam rechtgetrokken.
Ik zie nog niet dat we hier in de situatie zitten die in de VS aan de orde is, waar politici actief het curriculum aan het aanpassen zijn door selectief onderwerpen te kiezen en soms leugfens te verplichten.
Er moeten sowieso keuzes worden gemaakt, omdat je in een maximaal 6 jarige opleiding niet de hele geschiedenis van de wereld kan behandelen.
Misschien voor diegenen die vorm en inhoud niet van elkaar kunnen of willen onderscheiden.
Eerder dan ‘geschiedenisgeletterder’ te worden, zoals Arnoud zegt, moeten we misschien werken aan leren de inhoud van de boodschap van het medium van de boodschap te onderscheiden.
Eens, hoe kan men de kennis vergaren om dat onderscheid te kunnen maken?
Een van de dingen waar ik veel aan gehad heb is het lezen van verschillende kranten (in mijn studententijd). De Waarheid en de NRC schenen ieder hun eigen licht op het nieuws van de dag. De truc is het leren herkennen van welk deel van een bericht een (objectief) verslag is en welk deel opinie. Je kunt ook over verschillende nieuwsbronnen kijken naar welke punten meer en minder aandacht krijgen in het feitenrelaas.
Waar ligt het accent per bron? Wat is de opinie van/achter de bron? Hoeveel aandacht is er voor objectief rapporteren?
Desinformatie is foutieve informatie met het oogmerk om verwarring of schade aan te richten.
Wanneer het gewoon knullig is, zoals in dit geval, heet het “misinformatie”.
https://www.aivd.nl/onderwerpen/extremisme/vraag-en-antwoord/wat-is-het-verschil-tussen-misinformatie-en-desinformatie
Ik weet niet of het enkel incompetent is. Ik bespeur vaak een lichte doch bewuste ondertoon van “vroeger was alles beter”, met name zodra het kan gaan over de klassieke Greco-Romaanse culturen toen alle mensen van kleur nog fijn buiten beeld waren. Het soort video waardoor je met je rechterarm je hart wilt uitstorten over het publiek, zij het subtiel.
Ook in de klassieke oudheid was men prima bekend met mensen van kleur (al heette dat natuurlijk anders). Dit Wikipedia artikel geeft de details: https://en.wikipedia.org/wiki/BlackpeopleinancientRoman_history
Dat is mij bekend, het gaat meer om het gegeven dat die bewust buiten beeld blijven bij dit soort “historische recreaties” om een gezellig wit beeld te geven.
Dat vind ik nog wel een uitspraak. Waar baseer je dat op, dat ze bewust een gezellig wit beeld willen neerzetten, heb je voorbeelden? (misschien dat ik hele andere historische video’s bekijk)
“never attribute to malice that which is adequately explained by stupidity”
Ik experimenteer al enige tijd met AI afbeeldingen, omdat het best handig is om mijn eigen afbeeldingen te gebruiken bij websites die ik ontwikkel. (Daarnaast gebruik ik render-software zoals Poser Pro en Eon Vue voor afbeeldingen waar ik meer controle wil hebben.) Ook heb ik Gemini (Google AI Studio) gebruikt om een prompt te ontwikkelen die een foto accepteert en dan probeert aan te geven of dit AI is, een render, fotoshopped of een echte foto. Daarbij viel het mij op dat Gemini al problemen heeft om AI afbeeldingen te herkennen. En grappig dat Gemini ook problemen heeft om renders en fotoshopped afbeeldingen als dusdanig te herkennen.
Hoe lang nog voordat AI al helemaal niet van echt verschilt?