Experts zien door AI gegenereerde desinformatie als grootste risico van 2024

De verspreiding van desinformatie door middel van kunstmatige intelligentie is het grootste risico van dit moment, zo blijkt onderzoek van het World Economic Forum (WEF). Dat meldde Nu.nl vorige week. Het WEF bevroeg 1.400 risico-experts, en deze uitkomst gaf met name zorgen over desinformatie bij verkiezingen.

Hoewel generatieve AI systemen steeds beter worden, blijft de zorg over fouten en valse informatie aanwezig. Het grote probleem daarbij is voor mij dat men maar blijft denken dat zulke systemen bezig zijn met feitelijke reproductie en daar mooie verhalen omheen halen. Dat is niet zo: ze produceren mooi klinkende teksten, en als dat toevallig waar blijkt te zijn dan is dat leuk maar niet meer dan dat.

Ik zie het dan ook als best wel zorgelijk dat er zo veel tekst wordt gegenereerd die klakkeloos doorgezet wordt. Of het nou gaat om makkelijk gemaakte marketingcopy of klantenservice-chats, we raken zo snel gewend aan hoe AI’s praten en dat daar af en toe fouten in kunnen zitten. Dat lijkt me de wereld op zijn kop.

De AI Act – waar ik nou écht een finale tekst van zou willen lezen, maar ik moet nog een weekje geduld hebben – gaat transparantie vereisen bij alle AI systemen. Een generatief AI systeem moet dus duidelijk aangeven dát men fouten in de uitvoer kan aantreffen. En het lijkt er zelfs op dat het systeem de uitvoer moet watermerken, al heb ik daar nog geen concrete wetstekst van gezien.

Bij meer risicovolle toepassingen zal er meer gedaan moeten worden. Het zomaar laten genereren van politiek getinte teksten of afbeeldingen van prominente figuren in allerlei situaties lijkt me nou een typisch probleem dat je snel aan banden moet leggen als dienstverlener. Dat moet dan van de AI Act, maar óók van de DSA, die immers eist dat je als grote marktpartij systeemrisico’s onderzoekt en beheert. Helaas is dat zo’n breed geformuleerde opdracht dat daar niet binnen een paar maanden een oplossing voor is.

Arnoud

Mag de rechter weigeren een stiekeme geluidsopname te beluisteren?

“De rechtbank heeft besloten de geluidsopnamen niet te beluisteren. Zij legt dat hierna uit.” Dat las ik bij kennisplatform Salaris Van Morgen. Het betrof een zaak tussen een burger en het UWV, waarbij de burger met die (stiekeme) opnamen bewijs wilde leveren van een toezegging. Dat mag, maar toch wil de rechter er niet naar luisteren. Wat zit hier achter?

In deze zaak draaide het om al dan niet gegeven toestemming van het UWV om een zesjarige opleiding te mogen volgen (Bachelor Psychologie aan de Open Universiteit) met behoud van uitkering. Dat is niet gebruikelijk, maar in dit geval stelde de burger dat wel degelijk telefonisch toestemming was verleend.

De man voert aan dat aan hem op 13 juli 2022 telefonisch een toezegging is gedaan dat hij de door hem gewenste opleiding Psychologie mag gaan volgen, als zijn werkgever ook akkoord gaat. Volgens de man heeft hij in dat gesprek zijn situatie nauwkeurig besproken. Hij heeft schriftelijk en op de zitting daarover de volgende uitleg gegeven. De man heeft diverse keren telefonisch contact met UWV gehad. Het belangrijkste contact was het gesprek op 13 juli 2022 met een UWV-medewerkster.
Na dit gesprek van 25 minuten had de man een vaststellingsovereenkomst getekend met zijn werkgever, waarin die laatste toestemming gaf voor het volgen van de opleiding. Daarmee was aan de voorwaarden voldaan. Alleen gaf het UWV niet thuis, want in hun gespreksnotitie stond:
Vraag Kan ik vrijstelling krijgen van de sollicitatieplicht?

Antwoord: U kunt (gedeeltelijk) vrijstelling van de sollicitatieplicht krijgen als:

  • U gaat werken via een proefplaatsing. Vraag de vrijstelling aan met het formulier Aanvraag toestemming proefplaatsing tijdens WW;
  • U mantelzorg doet. Vraag de vrijstelling aan met het formulier Aanvraag vrijstelling sollicitatieplicht bij mantelzorg.
  • U gaat weer werken en u verdient met dit werk minder dan 87,5 % van uw WW-maandloon.
Dat leest als een standaardverhaal en niet als een gespreksaantekening inderdaad, en dat vond de rechter ook. De man had daar een uitgebreid relaas tegenover gesteld dat de medewerker aan de telefoon had aangegeven dat het wel mocht, inclusief die constructie van als de huidige werkgever het wél goed vindt. In die situatie is het aannemelijk genoeg dat dit is toegezegd, omdat er vanuit het UWV niet meer komt dan zo’n standaardverhaal.

Om zijn verhaal kracht bij te zetten, had de man dus opnames van dat crucial gesprek van 25 minuten. De rechter wilde daar niet naar luisteren, met name niet omdat het UWV als uitgangspunt voor burgercontact hanteert dat de burger vooraf duidelijk kenbaar maakt dat er een dergelijke opname zal worden gemaakt. “Dat stelt UWV in staat zelf ook een tegenopname te maken.” En die begrijp ik wel – het zal menigmaal gebeurd zijn dat iemand een gemanipuleerde opname overlegt.

Natuurlijk zijn er uitzonderingen zoals klokkenluiden of bewijsnood, maar daar was hier geen sprake van. En dan vindt de rechter – hoewel het dus legaal is om zo’n stiekeme opname te maken – het niet nodig om naar de opname te luisteren.

We hebben het vaker gehad over stiekeme opnames en hun bewijskracht, zoals in februari nog:

In strafrechtelijke zin heeft [verweerder] dus niks verkeerd gedaan. Dit betekent echter nog niet dat het gedrag van [verweerder] in de verhouding tussen werkgever en werknemer niet kan leiden tot een verstoring van die relatie. … Naar het oordeel van de kantonrechter heeft [verweerder] het opnemen van de gesprekken ingezet als dreigmiddel jegens zijn werkgever. Hij heeft hiermee [werkgever] laten weten dat hij haar al langere tijd niet vertrouwt en dat hij verwachtte op enig moment in een rechtszaak met haar te zullen belanden.
Mijn advies is en blijft dan ook dat je wel opnames mag (of moet) maken als er veel van een gesprek afhangt, maar dat je die opnames dan geheim houdt tenzij je écht niet anders kan. Je kunt ze terugluisteren als geheugensteuntje, en daarna zeg je in de vervolgdiscussie “op 6 januari is gezegd dat X en Y”, zo letterlijk mogelijk maar zónder te benoemen dat je dat opgenomen hebt – want dat zet de boel nodeloos op scherp.

Erkent men dat dit is gezegd, dan is de opname overbodig en kun je het gaan hebben over wat daarmee werd bedoeld. Die discussie verandert niet met of zonder opname immers. Als men ontkent dat het zo is gezegd, dan kun je daarop doorvragen en bijvoorbeeld een stuk gesprek er voor en er na oplepelen (“volgens mij aantekeningen zei ik A en B, en daarna zei uw collega X en Y”), om dan te vragen in hoeverre dat klopt.

Pas als men bij herhaling en keihard ontkent dat A-B-X-Y is gezegd, dán kun je aangeven dat je nu in bewijsnood gaat komen omdat er veel voor jou van afhangt dat dit gezegd is. En dan kun je de opname inbrengen in de rechtszaak, al laat je je advocaat beslissen over wanneer dat precies gebeurt.

In de onderhandelingen al roepen dat je een opname hebt, ook na die keiharde ontkenning, heeft geen enkele zin: de wederpartij zal echt niet ineens omslaan en als je niet uitkijkt gaat de discussie ineens over jouw strafrechtelijk handelen of overtreding van de AVG, in plaats van het eigenlijke onderwerp.

Houd het dus bij “sorry, dit is echt en letterlijk zo gezegd dat weet ik zeker” en als het dan bij de rechter met een opname bewezen moet worden, dan komt de discussie over bewijsnood.

Arnoud

 

EC start formele procedure tegen X wegens verspreiding desinformatie

De Europese Commissie is een formele procedure gestart om te beoordelen of het socialemediaplatform X de Digital Services Act heeft overtreden. Dat las ik bij Tweakers. Velen spreken daarbij van “het tegengaan van desinformatieverspreiding” en dat geeft natuurlijk ophef, want desinformatie is niet hetzelfde als strafbare informatie. Maar het ligt iets genuanceerder.

De actie is een vervolg op eerdere constateringen van de EC dat X (née Twitter) de DSA niet zou nakomen. Zoals ik in oktober blogde naar aanleiding van een brief van Eurocommissaris Thierry Breton:

De brief is een reactie op de vele propaganda- en desinformatieberichten die opdoken sinds de terreuraanvallen van Hamas in Israel. Hiertegen moet X harder en sneller optreden, zeker als daarover geklaagd wordt door autoriteiten. Dat gebeurt nu te weinig, aldus Breton. En het is ook weinig transparant waarom sommige berichten wel en andere niet worden weggehaald.
De reactie van Musk was klassiek: welke individuele berichten bedoelde u, en laten we praten over de inhoud daarvan. Maar dat is niet hoe de DSA rolt. Die eist structurele maatregelen, zoals een adequate groep moderatoren en een analyse van systeemrisico’s en wat je daar allemaal tegen kunt doen. (Desinformatie komt voor in de DSA als een voorbeeld van een systeemrisico.) Van dat alles hebben we vervolgens niets gemerkt.

De EC neemt nu de volgende stap en dat is een formeel onderzoek. De aangekondigde onderwerpen zijn:

  • Te weinig doen tegen verspreiding van illegale content (dus strafbaar/onrechtmatig, niet perse desinformatie)
  • De effectiviteit van de Community Notes en hun rol binnen het bestrijden van desinformatie
  • Te weinig informatie geven aan researchers (informatiedelen is wettelijk verplicht) en geen transparantie over advertenties (een uitgebreid register is ook verplicht)
  • Het misleidend ontwerp van de Blue checks (ik had nog niet gehoord dat daar wat mis mee was)
Hoe lang het onderzoek duurt, is niet op voorhand te zeggen. “Tot het klaar is”, oftewel tot er genoeg is om een inbreukactie te starten dan wel tot blijkt dat er toch niets aan de hand is. Een normaal bedrijf zou snel klaar zijn, omdat óók een medewerkingsplicht en het verstrekken van informatie tot je taken behoort als VLOP (zeer groot online platform). Ja, hahaha.

Arnoud

 

Is het legaal om in datalekken te snuffelen?

Een lezer vroeg me:

Wanneer een organisatie gehackt wordt en de interne data online wordt gepubliceerd, is het dan legaal om dit als burger te bekijken? Of moet je dan journalist zijn? Laten we er even vanuit gaan dat ik niet het doel heb om mensen te intimideren met het tot me nemen van de gelekte data.
De laatste zin verwijst naar het verbod op doxxing, dat per 1 januari van kracht zal worden (wetsvoorstel). Daar hoef je je geen zorgen over te maken, omdat dit verbod gaat over het verspreiden van informatie, niet om het bekijken of op je eigen harde schijf hebben.

Er is echter een relevanter verbod, namelijk artikel 139g Strafrecht. Dit stelt strafbaar dat iemand niet-openbare gegevens verwerft of voorhanden heeft

terwijl hij ten tijde van de verwerving of het voorhanden krijgen van deze gegevens wist of redelijkerwijs had moeten vermoeden dat deze door misdrijf zijn verkregen;
Let op dat het hierbij niet uitmaakt of het gaat om persoonsgegevens (AVG) of andersoortige gegevens, zoals bedrijfsgeheime broncode of meetgegevens van sensoren. Het enige criterium is of de gegevens openbaar waren of niet.

Dat criterium geldt overigens voor de verkrijger op het moment van verkrijging. En specifiek bij zo’n online gezet datalek gaat dat dan mis: de gegevens zijn dan al openbaar, iedereen kan er immers in snuffelen. Dat die openbaarmaking onrechtmatig is, is niet relevant. Zoals bij invoering van dit artikel werd gezegd:

Gegevens die op het internet zijn geplaatst, zijn openbaar mits het publiek toegang heeft tot de internetpagina waar de teksten zijn weergegeven (vgl. Hof Amsterdam 23 november 2009, NJFS 2010,29). Het downloaden van openbare gegevens van internet is dus niet strafbaar op grond van deze strafbepalingen.
Het enkel snuffelen uit nieuwsgierigheid is dus niet strafbaar. Als je de gegevens voor wat anders gaat gebruiken, dan krijg je wel allerlei wettelijke bezwaren. Ze overnemen in een eigen bestand (je AI trainen, je marketingdata verrijken of een waarschuwingssite bouwen, ik noem er een paar) kan al snel in strijd zijn met de AVG als er persoonsgegevens in zitten. De gegevens kunnen beschermd zijn door auteursrecht of databankrecht. Een herpublicatie kan smaad opleveren. En ga zo maar door.

Arnoud

 

Laadpassen voor elektrische auto’s al jaren gevoelig voor fraude, is dat erg?

Laadpassen voor elektrische auto’s zijn al jaren fraudegevoelig, waardoor het mogelijk is om op kosten van iemand anders de auto op te laden. Dat las ik bij Security.nl, dat zich baseert op eigen onderzoek van cybersecuritybedrijf Vest: vanaf het aanvraagproces voor een pas tot aan het gebruik en betalen voor de dienst gaat het mis, aldus onderzoeker Alexander van Ee.

Zo ongeveer alles dat qua security zou kunnen helpen, blijkt niet aangezet of niet aan controle onderworpen. Je kunt een laadpas aanvragen op andermans naam en bankrekeningnummer, zonder controle. Activatie van de pas blijkt praktisch niet nodig. Klonen van passen is triviaal. De pas praat via een onbeveiligd protocol met de laadpaal. Betalen gaat enkel op basis van uitlezen van het pasnummer, en die zijn eenvoudig te raden (en dus te klonen). Oh, en met een extra stukje software kun je druppelladen: opeenvolgende laadsessies van 59 seconden, die stuk voor stuk gratis zijn omdat pas na 1 minuut wordt afgerekend. Bent u daar nog?

Bij NRC deden ze navraag bij de aanbieders, en die zijn pragmatisch:

De laadpasaanbieders en laadpaaloperators zijn zich bewust van de risico’s, maar achten de kans op misbruik klein. Laadstationexploitant Fastned, dat zelf geen passen verstrekt, zegt „geen noemenswaardige fraudeklachten” te ontvangen.
Onderzoeker Pol Van Aubel, verbonden aan de Nijmeegse Radboud Universiteit verduidelijkt:
Bij veel publieke laadpalen is cameratoezicht, en fraude is strafbaar en op te sporen. Het is immers een trage vorm van diefstal, zegt Van Aubel. „Je staat al snel minstens een kwartier te laden, en bij een tragere lader wel twee uur. Het is niet alsof het een heel lucratieve en risicoloze manier van fraude is.”
Het onderliggende probleem is natuurlijk dat alle passen met alle palen moeten werken. Dat oplossen vereist dus aanpassingen in zowel pas als paal, en dat is behoorlijk duur. Maar zou het juridisch moeten, zoals diverse lezers me vroegen?

Toevallig is bijna een jaar geleden de NIS2-richtlijn aangenomen, die eisen stelt aan de cyberbeveiliging van “kritieke infrastructuur”. Laadpaalinfrastructuur valt daaronder (annex 1, categorie Energie/Elektriciteit) dus die exploitanten (aangenomen dat ze middenbedrijf of groter zijn) moeten de boel op orde hebben. Maar wat betekent dat? Artikel 21 legt het uit zoals alleen een jurist zou doen:

Member States shall ensure that essential and important entities take appropriate and proportionate technical, operational and organisational measures to manage the risks posed to the security of network and information systems which those entities use for their operations or for the provision of their services, and to prevent or minimise the impact of incidents on recipients of their services and on other services.

Oftewel, zorg er voor dat het goed is en dat je de risico’s onder controle hebt. En daar zit hem de kneep: is afwezigheid van cybersecurity een probleem als er geen reële gevallen van misbruik daarvan zijn? Niemand laadt op andermans kosten, gekloonde laadpassen zijn geen ding en gratis druppelladen kan maar dan sta je vele uren bij de paal, tsja wie wil dat nou?

Iets formeler gezegd: een goede cyberbeveiliging is gebaseerd op een risicoafweging. Je neemt de grootte van het risico en de zwaarte van de impact mee, en baseert daar je beleid op. Zelden voorkomende issues met nauwelijks impact kun je in dat beleid prima als restrisico/aanvaardbaar classificeren, met eventueel een potje geld voor dat enkele slachtoffer.

Arnoud

FTC wil onrechtmatig gebruik van gekloonde stemmen door AI tegengaan

De FTC wil consumenten beschermen tegen misbruik en fraude van stemklonen door AI. Dat las ik bij Tweakers. Daarom vraagt de Amerikaanse toezichthouder om input door middel van een wedstrijd waarin geldprijzen te winnen zijn voor de inzenders met de beste ideeën.

Het probleem krijgt steeds meer aandacht, ook in Nederland. In augustus nog waarschuwde de politie voor een nieuwe oplichterstruc:

Met behulp van artificial intelligence (AI) is het mogelijk om de stem van iemand anders te imiteren, bijvoorbeeld van een familielid. Vervolgens gebruiken cybercriminelen deze stem om iemand telefonisch op te lichten. Ze laten de stem bijvoorbeeld zeggen dat hij/zij in acute nood zit en snel geld nodig heeft. In het buitenland zijn op deze manier al diverse mensen voor honderdduizenden euro’s opgelicht, en ook de nationale politie maakt zich zorgen over de snelle opmars van AI.
Ook binnen bedrijven is dit een mogelijke truc, denk aan het nadoen van de stem van de directeur (wat bunq-man Niknam overkwam) om zo een collega dingen te laten doen. Natuurlijk is zoiets strafbaar, maar hier geldt “voorkomen is beter dan genezen”. Alleen, hoe dan?

De technologie is vrij verkrijgbaar en eenvoudig genoeg toepasbaar. Dat maakt het lastig om vanuit dat punt nog te reguleren. Natuurlijk, de AI Act zal hier regels over stellen maar wie zulke software exploiteert voor oplichters zal daar weinig aan gelegen zijn. Net zoals het Amerikaanse voorstel va president Biden dat zulke uitvoer gewatermerkt moet zijn (zodra men uitgevogeld heeft hoe dat zou moeten werken).

Veel verder dan “spreek een codewoord af” ben ik nog niets tegengekomen.  Jullie wel? Het kan 25.000 dollar opleveren, lees ik.

Arnoud

 

Hoe verweer je je tegen de uitspraken van de ChatGPT detector?

Een lezer vroeg me:

Ik las over de ontwikkeling van een “ChatGPT detector” bij wetenschappelijke papers. Weliswaar alleen voor scheikunde, maar ik vroeg me toch al af: als mijn paper op de universiteit door zo’n detector als plagiaat wordt aangemerkt, wat kan ik daar dan tegen doen? Dit is een behoorlijk black box verhaal.
De aangehaalde publicatie betreft een tool ontwikkeld door twee scheikundigen. Op basis van een relatief kleine dataset met abstracts kan de tool zeer accuraat een abstract als handgeschreven versus “komt uit ChatGPT” aanmerken. Het idee erachter is dat je zo’n detector domeinspecifiek moet bouwen, omdat je dan domeinspecifieke terminologie, taalgebruik, stijl en dergelijke mee kunt nemen in de afweging.

Voor plagiaatcontrole zou je dus per faculteit een aparte dataset moeten maken, dat lijkt me een te overzien probleem. Dus laten we even aannemen dat zo’n ding bestaat en ingezet wordt in de al bestaande procedure van plagiaatcontrole op papers en scripties. Wat dan?

Plagiaatscanners werken op dit moment vrij rechttoe-rechtaan: ze matchen stukken tekst met externe bronnen en produceren een rapport met highlights. Het plaatje rechtsboven (van scanner Ephorus) laat daarvan een voorbeeld zien. Een examinator gebruikt dat als input om zelf de vergelijking te controleren en daar conclusies uit te trekken. Dat gaat dan bijvoorbeeld zo:

Tijdens de controle van het werk is door de plagiaatscanner een overlap geconstateerd tussen het werk van [appellant] en een medestudent. De overlap omvatte bijna 100 procent van het werk. … De examencommissie heeft ook geconcludeerd dat [appellant] zich schuldig heeft gemaakt aan plagiaat vanwege het letterlijk overnemen van informatie van websites. Omdat [appellant] geen gebruik heeft gemaakt van aanhalingstekens of een bepaalde vormgeving, zijn de citaten niet als zodanig herkenbaar. Verder heeft [appellant] bijna letterlijk informatie overgenomen zonder bronvermelding.
De “ChatGPT detector” werkt iets anders. Uit de Nature-publicatie:
Using machine learning, the detector examines 20 features of writing style, including variation in sentence lengths, and the frequency of certain words and punctuation marks, to determine whether an academic scientist or ChatGPT wrote a piece of text. The findings show that “you could use a small set of features to get a high level of accuracy”, Desaire says.
Hier komt dus de uitspraak uit “op basis van statistische analyse lijkt het er zeer sterk op dat deze tekst uit de tool ChatGPT komt”. Dat is wel even een ander niveau dan constateren dat stukken tekst uit het paper gelijk zijn aan stukken tekst uit een specifieke, na te lezen bron.

Juridisch gezien ligt de bewijslast bij de docent dan wel examencommissie dat sprake is van fraude (waar plagiaat of het inschakelen van hulplijnen onder valt). In dit Tilburgse voorbeeld uit 2021 werd door het College van Beroep een plagiaatbeschuldiging afgewezen omdat het aangedragen bewijs niet meer was dan “vraag 2d is opmerkelijk gedetailleerd beantwoord, in tegenstelling tot de rest”. Maar in de meeste gevallen is de plagiaat wel letterlijk en duidelijk.

Ik kon één geval vinden (uit Leiden) waarin de fraude zou zijn dat de student een derde had ingeschakeld om mee te schrijven. Dat lijkt nog het meest op het inzetten van ChatGPT: als docent zie je andere stijlvormen, een hoger niveau van redeneren, een heel andere wending dan in de eerder besproken onderzoeksopzet en concepten, zulke dingen.

Het kán natuurlijk dat je tussentijds ineens diepere inzichten verwerft (en discussie met anderen is legitiem om die te verwerven), maar als je dat niet kunt toelichten of laten zien als daarom gevraagd wordt dan kan men alsnog uitkomen bij fraude:

Het College overweegt dat niet het feit dat appellante een andere, ingewikkelde methode in haar scriptie heeft gebruikt kan worden aangemerkt als fraude, maar dat de verstrekte  toelichtingen van appellante over de door haar gemaakte keuzes in haar scriptie van dien aard zijn dat verweerder terecht en op goede gronden heeft geconstateerd dat het op juiste wijze vormen van een oordeel over de kennis, het inzicht en de vaardigheden van appellante geheel of gedeeltelijk onmogelijk is geworden en dus als fraude moet worden aangemerkt.
Ik vond één uitspraak uit Groningen over fraude (mede) vanwege de inzet van AI. De bewijslast werd volgens mij goed gedragen:
Appellante heeft in haar essay tenminste tien bronnen gebruikt die in het geheel niet bestaan. Daarnaast zijn er ook andere fouten gemaakt in de bronvermelding. Zo noemt appellante artikelen die niet in de door haar genoemde vakbladen zijn gepubliceerd en zijn er ook nog andersoortige fouten gemaakt.
Met dergelijke aanwijzingen onderbouw je je vermoeden van fraude prima, zeker als de studente daar weinig meer tegenover kan stellen dan dat het expliciete verbod op gebruik van AI pas van na haar afrondingsdatum was. Gebruik van tools om je werk te doen maakt dat het minder jouw werk is.

Van de zomer verscheen dit artikel waarin men een lichte toename signaleerde van fraudegevallen door GPT. Schokkend vond ik wel de daar gedane suggestie over detectie door ChatGPT zelf:

Bij vermoeden van plagiaat kan je aan het computerprogramma vragen of hij het geschreven heeft. ChatGPT geeft daar dan ‘eerlijk’ antwoord op. Die methode is niet altijd betrouwbaar, zegt Ferrantelli, dus uiteindelijk geeft het oordeel van de docent de doorslag.
Een methode die “niet altijd betrouwbaar is” lijkt me per definitie een methode die je niet moet gebruiken. Zeker als de makers van ChatGPT zelf hun eigen tool hiervoor offline halen omdat hij niet goed werkt.

(Meelezende afstudeerders-in-spe, wie hier een onderzoek van wil maken kan zich melden!)

Arnoud

In het moderatieteam van X heeft maar één persoon Nederlands als hoofdtaal, is dat erg

Het sociale medium X heeft één persoon in het moderatieteam van wie Nederlands de eerste taal is. Dat meldde Nu.nl onlangs op basis van de DSA-transparantierapporten die X née Twitter periodiek moet publiceren. Het moderatieteam telt 2.294 mensen, waarvan er eentje dus Nederlands spreekt.

De Digital Services Act eist van zeer grote platforms zoals X dat ze regelmatig updates geven over allerlei aspecten van de dienst. Deze transparantierapporten moeten elke zes maanden uitkomen, en een van de verplichte elementen is het aantal “human resources” per officiële EU-taal en hun kwalificaties. Dat doet X dus zo:

Allereerst valt mij dan op dat ze van “rapporteren per taal” gaan naar “dit zijn de volgens ons meest gesproken talen in de EU”, maar goed als de rest 0 is dan snap ik het wel. Verder komt er dan een uitgebreide tekst over hoe goed het team dan wel niet is (ik ben te cynisch want ik ruik ChatGPT). Maar de vraag blijft: is dit erg?

Formeel heeft X aan de DSA voldaan: artikel 42 eist niet meer dan dat je vertelt hoe veel mensen per taal je hebt en wat hun kwalificaties zijn. “We hebben niemand en die halve paardenkop die er zit, kan niets” is een juist antwoord als dat de situatie is. Echter, artikel 16 eist dat je adequaat omgaat met klachten over content, en een onkundige halve paardenkop kan dat natuurlijk niet. Je cijfers zeggen dus wel iets over de kwaliteit van je moderatieteam.

Het aantal mensen (en hun talen + deskundigheid) past natuurlijk ook goed in een analyse van de systemische risico’s (artikel 34) waar je als VLOP naar moet kijken. Als je te weinig mensen hebt om het Nederlandse taalgebied goed te modereren, dan kunnen er dingen misgaan in Nederland. Dat is echter iets voor het risk assessment dat pas over een half jaar hoeft te verschijnen.

Arnoud

 

Streamingdiensten moeten 5 procent van omzet in Nederlandse content steken

Grote streamingdiensten moeten vanaf 1 januari 5 procent van hun jaaromzet investeren in Nederlandse films en series. Dat meldde Nu.nl onlangs. De nieuwe wet geldt voor streamingdiensten die in Nederland jaarlijks meer dan 10 miljoen euro omzetten, zoals Netflix, Disney+ en Amazon Prime. Ik kreeg er vragen over: mag een land dat zo dicteren?

Het is zeker geen unieke nieuwe Nederlandse regel, dat je als contentproducent voorgeschreven krijgt dat een deel van je producties Nederlandstalig moeten zijn. Juridisch is een vergelijkbare constructie terug te vinden in de Audiovisuele Media Richtlijn die een percentage van maar liefst 30% voorschrijft:

De lidstaten zorgen ervoor dat onder hun bevoegdheid vallende aanbieders van audiovisuele mediadiensten op aanvraag een aandeel van ten minste 30 % aan Europese producties opnemen in hun catalogi en dat die producties aandacht krijgen.

Het kost enige moeite maar vrijwel alle grote platforms nemen dit zeer serieus, mede vanwege concurrentie-overwegingen:
The study argues that the increase in European titles available on streamers is due to “regulatory pressure in boosting the acquisition and production of European film and TV,” as well as the fact that global players are now competing directly with local and regional players for commissioned content. It can also be noted that streamers and broadcasters have started collaborating on ambitious series in key markets.
Maar hoe kun je een partij zo concreet verplichten om producties op een bepaalde plek te produceren? Dat lijkt te botsen met de ondernemers- en uitingsvrijheden: als onderneming bepaal ik zelf wel wat ik produceer, in welke taal en op welke plek ter wereld.

Alleen, die vrijheden zijn niet onbeperkt. De uitingsvrijheid mag bijvoorbeeld worden ingeperkt als dat noodzakelijk is om andermans rechten te beschermen (zoals bij smaadwetgeving of de AVG). Hier gaat het om een wat abstracter begrip, namelijk de pluriformiteit van het media-aanbod: het is maatschappelijk zeer wenselijk dat er mediaproducties uit Europa komen en niet alléén maar uit Hollywood, zeg maar. En gezien de machtsposities van deze productiemaatschappijen is het dan redelijk om ze zo’n verplichting op te leggen.

Arnoud

 

Mag je versie 2 van je game een nieuwe game noemen?

Het spel Counter-Strike 2 heeft meer dan 7,5 miljoen reviews op gamestreamingdienst Steam, met 88% positief, las ik bij Rock Paper Shotgun. Best knap voor een game die toen net een paar dagen uit was. Of wacht: die recensies zijn de afgelopen jaren afgegeven voor Counter-Strike: Global Offensive, waar CS2 feitelijk een grote update van is. Klopt dat dan nog wel?

Counter-Strike is een spel uit alweer 1999, dat na diverse updates in 2012 op de markt kwam als Global Offensive – CS:GO is tegenwoordig ongeveer synoniem met FPS, en speelbaar op vrijwel alle grote platforms (Microsoft Windows, OSX, Linux, Xbox 360 en PlayStation 3). Regelmatig zijn er grote toernooien met serieuze prijzen. Dit is dus zeg maar best een bekend merk.

Counter-Strike 2 wordt algemeen gezien als een grote update, zoals bijvoorbeeld Tweakers:

De shooter blijft free-to-play en spelers kunnen al hun skins uit CS:GO meenemen naar Counter-Strike 2. … [O]pvallende wijzigingen zijn veranderingen in de matchmaking. Spelers met een hoge CS Rating in Premier kunnen niet langer in een team zitten met spelers die dat niet hebben. Ook worden de ‘associates’ van een of meerdere spelers die hebben valsgespeeld en een permanente ban hebben gekregen, gestraft met verlaagde Profile Rank en CS Rating.
Verder is er meer veranderd:
You may find the new minimum specs exclude your computer, or that it’s simply less comfortable to play because left-handed weapons have been removed. You may find that your favourite mode – the one that prompted you to spend all that money opening in-game crates – has disappeared overnight.
Ook werkt de game niet meer op MacOS. Je kunt je dan afvragen of je dit nog wel een update van CS:GO kunt noemen. Producent Valve meent van niet, ze kozen immers voor een naamsverandering waarin nadrukkelijk “versie 2” wordt gehanteerd.

Ik denk dat het in de softwarewereld wel algemeen aanvaard is dat “versie 1” en “versie 2” als andere stukken software gezien worden. Weliswaar met een onderling verband, maar niemand zal zeggen dat Windows 2.0 en Windows 3.1 eigenlijk dezelfde software zijn, bijvoorbeeld.

Het voelt dan laten we zeggen een tikje misleidend om dit spel dan tóch op de pagina van de vorige versie te presenteren, omdat je als professionele partij zoals Valve moet weten dat alle positieve recensies blijven staan en CS2 dan meteen een héle mooie start krijgt in alle rankings.

Is dit nu iets waarvan je kunt zeggen dat Valve hiermee “het vermogen van de gemiddelde consument om een geïnformeerd besluit te nemen merkbaar is beperkt of kan worden beperkt”? Dat is namelijk het criterium om van een verboden oneerlijke handelspraktijk te spreken. In het Burgerlijk Wetboek is daar een hele regeling over opgenomen, inclusief een zwarte lijst van misleidende praktijken.

Helemaal onderaan (punt aa) staat als altijd verboden praktijk:

het plaatsen of doen plaatsen van valse beoordelingen of aanbevelingen van consumenten of op misleidende wijze voorstellen van consumentenbeoordelingen of sociale media-aanbevelingen, teneinde producten te promoten.
Je zou dan zeggen dat je mensen misleidt door beoordelingen van CS:GO te presenteren als beoordelingen van CS2. Die misleiding komt dan doordat je er niet bij zet “let op, recensie van oude versie”. Die tekst zie je regelmatig bij recensies, dus een gekke gedachte is dit niet.

Daar staat tegenover dat het conceptueel nog steeds wel hetzelfde spel is. Nieuwe kaarten, nieuwe wapens, diverse cosmetische aanpassingen: dat zijn we gewend van games:

Since the initial release of Global Offensive, Valve has continued to update the game by introducing new maps and weapons, game modes, and weapon balancing changes.[32] One of the first major additions to the game post-release was the “Arms Deal” update. Released on August 13, 2013, the update added cosmetic weapon finishes, or skins, to the game. These items are obtainable by a loot box mechanism; players would receive cases that could be unlocked using virtual keys, purchased through in-game microtransactions.[33][25] Global Offensive has Steam Workshop support, allowing users to upload user-created content, such as maps, weapon skins, and custom game-modes. Some popular user-created skins are added to the game and are obtainable from unboxing them in cases.[34]
En in het verleden was dat nooit een reden om bij de reviews ineens te vermelden “betreft oudere versie”.

Ondertussen heeft de community actie genomen: er staan nu een kleine miljoen negatieve reviews op Steam, dit maakt CS2 de laagst scorende game ooit. Dit is mede te wijten aan de bugs:

The first major reason for CS2’s low scores is the gameplay itself. A lot of bugs and glitches have frustrated gamers of all skill levels. A lot of game modes and content from CS:GO have also been removed and many players feel CS2 is “unfinished” and lacking content. … Many Counter-Strike players were frustrated that the arrival of CS2 spelled the end of CS:GO. CS:GO’s game file was also automatically replaced with CS2 for those who had the game downloaded. Not only were fans angry to have their favorite game removed, but others felt that Valve was being deceitful.
Op die manier lost het zichzelf wellicht op, maar toch lijkt het mij een goed idee recensies voortaan te voorzien van een versienummer of label van het exacte spel waar ze op betrekking hebben.

Arnoud