De verspreiding van desinformatie door middel van kunstmatige intelligentie is het grootste risico van dit moment, zo blijkt onderzoek van het World Economic Forum (WEF). Dat meldde Nu.nl vorige week. Het WEF bevroeg 1.400 risico-experts, en deze uitkomst gaf met name zorgen over desinformatie bij verkiezingen.
Hoewel generatieve AI systemen steeds beter worden, blijft de zorg over fouten en valse informatie aanwezig. Het grote probleem daarbij is voor mij dat men maar blijft denken dat zulke systemen bezig zijn met feitelijke reproductie en daar mooie verhalen omheen halen. Dat is niet zo: ze produceren mooi klinkende teksten, en als dat toevallig waar blijkt te zijn dan is dat leuk maar niet meer dan dat.
Ik zie het dan ook als best wel zorgelijk dat er zo veel tekst wordt gegenereerd die klakkeloos doorgezet wordt. Of het nou gaat om makkelijk gemaakte marketingcopy of klantenservice-chats, we raken zo snel gewend aan hoe AI’s praten en dat daar af en toe fouten in kunnen zitten. Dat lijkt me de wereld op zijn kop.
De AI Act – waar ik nou écht een finale tekst van zou willen lezen, maar ik moet nog een weekje geduld hebben – gaat transparantie vereisen bij alle AI systemen. Een generatief AI systeem moet dus duidelijk aangeven dát men fouten in de uitvoer kan aantreffen. En het lijkt er zelfs op dat het systeem de uitvoer moet watermerken, al heb ik daar nog geen concrete wetstekst van gezien.
Bij meer risicovolle toepassingen zal er meer gedaan moeten worden. Het zomaar laten genereren van politiek getinte teksten of afbeeldingen van prominente figuren in allerlei situaties lijkt me nou een typisch probleem dat je snel aan banden moet leggen als dienstverlener. Dat moet dan van de AI Act, maar óók van de DSA, die immers eist dat je als grote marktpartij systeemrisico’s onderzoekt en beheert. Helaas is dat zo’n breed geformuleerde opdracht dat daar niet binnen een paar maanden een oplossing voor is.
Arnoud