Categorie: Uitingsvrijheid

About Uitingsvrijheid

Subscribe Feeds

FTC wil onrechtmatig gebruik van gekloonde stemmen door AI tegengaan

Geplaatst op in Informatiemaatschappij, Uitingsvrijheid, 2 reacties

De FTC wil consumenten beschermen tegen misbruik en fraude van stemklonen door AI. Dat las ik bij Tweakers. Daarom vraagt de Amerikaanse toezichthouder om input door middel van een wedstrijd waarin geldprijzen te winnen zijn voor de inzenders met de beste ideeën.

Het probleem krijgt steeds meer aandacht, ook in Nederland. In augustus nog waarschuwde de politie voor een nieuwe oplichterstruc:

Met behulp van artificial intelligence (AI) is het mogelijk om de stem van iemand anders te imiteren, bijvoorbeeld van een familielid. Vervolgens gebruiken cybercriminelen deze stem om iemand telefonisch op te lichten. Ze laten de stem bijvoorbeeld zeggen dat hij/zij in acute nood zit en snel geld nodig heeft. In het buitenland zijn op deze manier al diverse mensen voor honderdduizenden euro’s opgelicht, en ook de nationale politie maakt zich zorgen over de snelle opmars van AI.
Ook binnen bedrijven is dit een mogelijke truc, denk aan het nadoen van de stem van de directeur (wat bunq-man Niknam overkwam) om zo een collega dingen te laten doen. Natuurlijk is zoiets strafbaar, maar hier geldt “voorkomen is beter dan genezen”. Alleen, hoe dan?

De technologie is vrij verkrijgbaar en eenvoudig genoeg toepasbaar. Dat maakt het lastig om vanuit dat punt nog te reguleren. Natuurlijk, de AI Act zal hier regels over stellen maar wie zulke software exploiteert voor oplichters zal daar weinig aan gelegen zijn. Net zoals het Amerikaanse voorstel va president Biden dat zulke uitvoer gewatermerkt moet zijn (zodra men uitgevogeld heeft hoe dat zou moeten werken).

Veel verder dan “spreek een codewoord af” ben ik nog niets tegengekomen.  Jullie wel? Het kan 25.000 dollar opleveren, lees ik.

Arnoud

 

Hoe verweer je je tegen de uitspraken van de ChatGPT detector?

Geplaatst op in Regulering, Uitingsvrijheid, 7 reacties

Een lezer vroeg me:

Ik las over de ontwikkeling van een “ChatGPT detector” bij wetenschappelijke papers. Weliswaar alleen voor scheikunde, maar ik vroeg me toch al af: als mijn paper op de universiteit door zo’n detector als plagiaat wordt aangemerkt, wat kan ik daar dan tegen doen? Dit is een behoorlijk black box verhaal.
De aangehaalde publicatie betreft een tool ontwikkeld door twee scheikundigen. Op basis van een relatief kleine dataset met abstracts kan de tool zeer accuraat een abstract als handgeschreven versus “komt uit ChatGPT” aanmerken. Het idee erachter is dat je zo’n detector domeinspecifiek moet bouwen, omdat je dan domeinspecifieke terminologie, taalgebruik, stijl en dergelijke mee kunt nemen in de afweging.

Voor plagiaatcontrole zou je dus per faculteit een aparte dataset moeten maken, dat lijkt me een te overzien probleem. Dus laten we even aannemen dat zo’n ding bestaat en ingezet wordt in de al bestaande procedure van plagiaatcontrole op papers en scripties. Wat dan?

Plagiaatscanners werken op dit moment vrij rechttoe-rechtaan: ze matchen stukken tekst met externe bronnen en produceren een rapport met highlights. Het plaatje rechtsboven (van scanner Ephorus) laat daarvan een voorbeeld zien. Een examinator gebruikt dat als input om zelf de vergelijking te controleren en daar conclusies uit te trekken. Dat gaat dan bijvoorbeeld zo:

Tijdens de controle van het werk is door de plagiaatscanner een overlap geconstateerd tussen het werk van [appellant] en een medestudent. De overlap omvatte bijna 100 procent van het werk. … De examencommissie heeft ook geconcludeerd dat [appellant] zich schuldig heeft gemaakt aan plagiaat vanwege het letterlijk overnemen van informatie van websites. Omdat [appellant] geen gebruik heeft gemaakt van aanhalingstekens of een bepaalde vormgeving, zijn de citaten niet als zodanig herkenbaar. Verder heeft [appellant] bijna letterlijk informatie overgenomen zonder bronvermelding.
De “ChatGPT detector” werkt iets anders. Uit de Nature-publicatie:
Using machine learning, the detector examines 20 features of writing style, including variation in sentence lengths, and the frequency of certain words and punctuation marks, to determine whether an academic scientist or ChatGPT wrote a piece of text. The findings show that “you could use a small set of features to get a high level of accuracy”, Desaire says.
Hier komt dus de uitspraak uit “op basis van statistische analyse lijkt het er zeer sterk op dat deze tekst uit de tool ChatGPT komt”. Dat is wel even een ander niveau dan constateren dat stukken tekst uit het paper gelijk zijn aan stukken tekst uit een specifieke, na te lezen bron.

Juridisch gezien ligt de bewijslast bij de docent dan wel examencommissie dat sprake is van fraude (waar plagiaat of het inschakelen van hulplijnen onder valt). In dit Tilburgse voorbeeld uit 2021 werd door het College van Beroep een plagiaatbeschuldiging afgewezen omdat het aangedragen bewijs niet meer was dan “vraag 2d is opmerkelijk gedetailleerd beantwoord, in tegenstelling tot de rest”. Maar in de meeste gevallen is de plagiaat wel letterlijk en duidelijk.

Ik kon één geval vinden (uit Leiden) waarin de fraude zou zijn dat de student een derde had ingeschakeld om mee te schrijven. Dat lijkt nog het meest op het inzetten van ChatGPT: als docent zie je andere stijlvormen, een hoger niveau van redeneren, een heel andere wending dan in de eerder besproken onderzoeksopzet en concepten, zulke dingen.

Het kán natuurlijk dat je tussentijds ineens diepere inzichten verwerft (en discussie met anderen is legitiem om die te verwerven), maar als je dat niet kunt toelichten of laten zien als daarom gevraagd wordt dan kan men alsnog uitkomen bij fraude:

Het College overweegt dat niet het feit dat appellante een andere, ingewikkelde methode in haar scriptie heeft gebruikt kan worden aangemerkt als fraude, maar dat de verstrekte  toelichtingen van appellante over de door haar gemaakte keuzes in haar scriptie van dien aard zijn dat verweerder terecht en op goede gronden heeft geconstateerd dat het op juiste wijze vormen van een oordeel over de kennis, het inzicht en de vaardigheden van appellante geheel of gedeeltelijk onmogelijk is geworden en dus als fraude moet worden aangemerkt.
Ik vond één uitspraak uit Groningen over fraude (mede) vanwege de inzet van AI. De bewijslast werd volgens mij goed gedragen:
Appellante heeft in haar essay tenminste tien bronnen gebruikt die in het geheel niet bestaan. Daarnaast zijn er ook andere fouten gemaakt in de bronvermelding. Zo noemt appellante artikelen die niet in de door haar genoemde vakbladen zijn gepubliceerd en zijn er ook nog andersoortige fouten gemaakt.
Met dergelijke aanwijzingen onderbouw je je vermoeden van fraude prima, zeker als de studente daar weinig meer tegenover kan stellen dan dat het expliciete verbod op gebruik van AI pas van na haar afrondingsdatum was. Gebruik van tools om je werk te doen maakt dat het minder jouw werk is.

Van de zomer verscheen dit artikel waarin men een lichte toename signaleerde van fraudegevallen door GPT. Schokkend vond ik wel de daar gedane suggestie over detectie door ChatGPT zelf:

Bij vermoeden van plagiaat kan je aan het computerprogramma vragen of hij het geschreven heeft. ChatGPT geeft daar dan ‘eerlijk’ antwoord op. Die methode is niet altijd betrouwbaar, zegt Ferrantelli, dus uiteindelijk geeft het oordeel van de docent de doorslag.
Een methode die “niet altijd betrouwbaar is” lijkt me per definitie een methode die je niet moet gebruiken. Zeker als de makers van ChatGPT zelf hun eigen tool hiervoor offline halen omdat hij niet goed werkt.

(Meelezende afstudeerders-in-spe, wie hier een onderzoek van wil maken kan zich melden!)

Arnoud

In het moderatieteam van X heeft maar één persoon Nederlands als hoofdtaal, is dat erg

Geplaatst op in Regulering, Uitingsvrijheid, 7 reacties

Het sociale medium X heeft één persoon in het moderatieteam van wie Nederlands de eerste taal is. Dat meldde Nu.nl onlangs op basis van de DSA-transparantierapporten die X née Twitter periodiek moet publiceren. Het moderatieteam telt 2.294 mensen, waarvan er eentje dus Nederlands spreekt.

De Digital Services Act eist van zeer grote platforms zoals X dat ze regelmatig updates geven over allerlei aspecten van de dienst. Deze transparantierapporten moeten elke zes maanden uitkomen, en een van de verplichte elementen is het aantal “human resources” per officiële EU-taal en hun kwalificaties. Dat doet X dus zo:

Allereerst valt mij dan op dat ze van “rapporteren per taal” gaan naar “dit zijn de volgens ons meest gesproken talen in de EU”, maar goed als de rest 0 is dan snap ik het wel. Verder komt er dan een uitgebreide tekst over hoe goed het team dan wel niet is (ik ben te cynisch want ik ruik ChatGPT). Maar de vraag blijft: is dit erg?

Formeel heeft X aan de DSA voldaan: artikel 42 eist niet meer dan dat je vertelt hoe veel mensen per taal je hebt en wat hun kwalificaties zijn. “We hebben niemand en die halve paardenkop die er zit, kan niets” is een juist antwoord als dat de situatie is. Echter, artikel 16 eist dat je adequaat omgaat met klachten over content, en een onkundige halve paardenkop kan dat natuurlijk niet. Je cijfers zeggen dus wel iets over de kwaliteit van je moderatieteam.

Het aantal mensen (en hun talen + deskundigheid) past natuurlijk ook goed in een analyse van de systemische risico’s (artikel 34) waar je als VLOP naar moet kijken. Als je te weinig mensen hebt om het Nederlandse taalgebied goed te modereren, dan kunnen er dingen misgaan in Nederland. Dat is echter iets voor het risk assessment dat pas over een half jaar hoeft te verschijnen.

Arnoud

 

Streamingdiensten moeten 5 procent van omzet in Nederlandse content steken

Geplaatst op in Ondernemingsvrijheid, Uitingsvrijheid, 15 reacties

Grote streamingdiensten moeten vanaf 1 januari 5 procent van hun jaaromzet investeren in Nederlandse films en series. Dat meldde Nu.nl onlangs. De nieuwe wet geldt voor streamingdiensten die in Nederland jaarlijks meer dan 10 miljoen euro omzetten, zoals Netflix, Disney+ en Amazon Prime. Ik kreeg er vragen over: mag een land dat zo dicteren?

Het is zeker geen unieke nieuwe Nederlandse regel, dat je als contentproducent voorgeschreven krijgt dat een deel van je producties Nederlandstalig moeten zijn. Juridisch is een vergelijkbare constructie terug te vinden in de Audiovisuele Media Richtlijn die een percentage van maar liefst 30% voorschrijft:

De lidstaten zorgen ervoor dat onder hun bevoegdheid vallende aanbieders van audiovisuele mediadiensten op aanvraag een aandeel van ten minste 30 % aan Europese producties opnemen in hun catalogi en dat die producties aandacht krijgen.

Het kost enige moeite maar vrijwel alle grote platforms nemen dit zeer serieus, mede vanwege concurrentie-overwegingen:
The study argues that the increase in European titles available on streamers is due to “regulatory pressure in boosting the acquisition and production of European film and TV,” as well as the fact that global players are now competing directly with local and regional players for commissioned content. It can also be noted that streamers and broadcasters have started collaborating on ambitious series in key markets.
Maar hoe kun je een partij zo concreet verplichten om producties op een bepaalde plek te produceren? Dat lijkt te botsen met de ondernemers- en uitingsvrijheden: als onderneming bepaal ik zelf wel wat ik produceer, in welke taal en op welke plek ter wereld.

Alleen, die vrijheden zijn niet onbeperkt. De uitingsvrijheid mag bijvoorbeeld worden ingeperkt als dat noodzakelijk is om andermans rechten te beschermen (zoals bij smaadwetgeving of de AVG). Hier gaat het om een wat abstracter begrip, namelijk de pluriformiteit van het media-aanbod: het is maatschappelijk zeer wenselijk dat er mediaproducties uit Europa komen en niet alléén maar uit Hollywood, zeg maar. En gezien de machtsposities van deze productiemaatschappijen is het dan redelijk om ze zo’n verplichting op te leggen.

Arnoud

 

Mag je versie 2 van je game een nieuwe game noemen?

Geplaatst op in Ondernemingsvrijheid, Uitingsvrijheid, 10 reacties

Het spel Counter-Strike 2 heeft meer dan 7,5 miljoen reviews op gamestreamingdienst Steam, met 88% positief, las ik bij Rock Paper Shotgun. Best knap voor een game die toen net een paar dagen uit was. Of wacht: die recensies zijn de afgelopen jaren afgegeven voor Counter-Strike: Global Offensive, waar CS2 feitelijk een grote update van is. Klopt dat dan nog wel?

Counter-Strike is een spel uit alweer 1999, dat na diverse updates in 2012 op de markt kwam als Global Offensive – CS:GO is tegenwoordig ongeveer synoniem met FPS, en speelbaar op vrijwel alle grote platforms (Microsoft Windows, OSX, Linux, Xbox 360 en PlayStation 3). Regelmatig zijn er grote toernooien met serieuze prijzen. Dit is dus zeg maar best een bekend merk.

Counter-Strike 2 wordt algemeen gezien als een grote update, zoals bijvoorbeeld Tweakers:

De shooter blijft free-to-play en spelers kunnen al hun skins uit CS:GO meenemen naar Counter-Strike 2. … [O]pvallende wijzigingen zijn veranderingen in de matchmaking. Spelers met een hoge CS Rating in Premier kunnen niet langer in een team zitten met spelers die dat niet hebben. Ook worden de ‘associates’ van een of meerdere spelers die hebben valsgespeeld en een permanente ban hebben gekregen, gestraft met verlaagde Profile Rank en CS Rating.
Verder is er meer veranderd:
You may find the new minimum specs exclude your computer, or that it’s simply less comfortable to play because left-handed weapons have been removed. You may find that your favourite mode – the one that prompted you to spend all that money opening in-game crates – has disappeared overnight.
Ook werkt de game niet meer op MacOS. Je kunt je dan afvragen of je dit nog wel een update van CS:GO kunt noemen. Producent Valve meent van niet, ze kozen immers voor een naamsverandering waarin nadrukkelijk “versie 2” wordt gehanteerd.

Ik denk dat het in de softwarewereld wel algemeen aanvaard is dat “versie 1” en “versie 2” als andere stukken software gezien worden. Weliswaar met een onderling verband, maar niemand zal zeggen dat Windows 2.0 en Windows 3.1 eigenlijk dezelfde software zijn, bijvoorbeeld.

Het voelt dan laten we zeggen een tikje misleidend om dit spel dan tóch op de pagina van de vorige versie te presenteren, omdat je als professionele partij zoals Valve moet weten dat alle positieve recensies blijven staan en CS2 dan meteen een héle mooie start krijgt in alle rankings.

Is dit nu iets waarvan je kunt zeggen dat Valve hiermee “het vermogen van de gemiddelde consument om een geïnformeerd besluit te nemen merkbaar is beperkt of kan worden beperkt”? Dat is namelijk het criterium om van een verboden oneerlijke handelspraktijk te spreken. In het Burgerlijk Wetboek is daar een hele regeling over opgenomen, inclusief een zwarte lijst van misleidende praktijken.

Helemaal onderaan (punt aa) staat als altijd verboden praktijk:

het plaatsen of doen plaatsen van valse beoordelingen of aanbevelingen van consumenten of op misleidende wijze voorstellen van consumentenbeoordelingen of sociale media-aanbevelingen, teneinde producten te promoten.
Je zou dan zeggen dat je mensen misleidt door beoordelingen van CS:GO te presenteren als beoordelingen van CS2. Die misleiding komt dan doordat je er niet bij zet “let op, recensie van oude versie”. Die tekst zie je regelmatig bij recensies, dus een gekke gedachte is dit niet.

Daar staat tegenover dat het conceptueel nog steeds wel hetzelfde spel is. Nieuwe kaarten, nieuwe wapens, diverse cosmetische aanpassingen: dat zijn we gewend van games:

Since the initial release of Global Offensive, Valve has continued to update the game by introducing new maps and weapons, game modes, and weapon balancing changes.[32] One of the first major additions to the game post-release was the “Arms Deal” update. Released on August 13, 2013, the update added cosmetic weapon finishes, or skins, to the game. These items are obtainable by a loot box mechanism; players would receive cases that could be unlocked using virtual keys, purchased through in-game microtransactions.[33][25] Global Offensive has Steam Workshop support, allowing users to upload user-created content, such as maps, weapon skins, and custom game-modes. Some popular user-created skins are added to the game and are obtainable from unboxing them in cases.[34]
En in het verleden was dat nooit een reden om bij de reviews ineens te vermelden “betreft oudere versie”.

Ondertussen heeft de community actie genomen: er staan nu een kleine miljoen negatieve reviews op Steam, dit maakt CS2 de laagst scorende game ooit. Dit is mede te wijten aan de bugs:

The first major reason for CS2’s low scores is the gameplay itself. A lot of bugs and glitches have frustrated gamers of all skill levels. A lot of game modes and content from CS:GO have also been removed and many players feel CS2 is “unfinished” and lacking content. … Many Counter-Strike players were frustrated that the arrival of CS2 spelled the end of CS:GO. CS:GO’s game file was also automatically replaced with CS2 for those who had the game downloaded. Not only were fans angry to have their favorite game removed, but others felt that Valve was being deceitful.
Op die manier lost het zichzelf wellicht op, maar toch lijkt het mij een goed idee recensies voortaan te voorzien van een versienummer of label van het exacte spel waar ze op betrekking hebben.

Arnoud

 

 

 

Brussel onderzoekt of advertenties voor client-side scanning in strijd met DSA zijn

Geplaatst op in Regulering, Uitingsvrijheid, 8 reacties

De Europese Commissie onderzoekt of een eigen politieke microtargeting advertentiecampagne op X, die steun voor het omstreden client-side scanning zocht, in strijd met de Digital Services Act (DSA) is. Dat meldde Security.nl onlangs.

Enige tijd terug tech-expert Danny Meki? dat de Europese Commissie op X een advertentiecampagne heeft gevoerd waarbij het via microtargetting zich richtte op mensen in Nederland, Zweden, België, Finland, Slovenië, Portugal en Tsjechië die wel eens tegen het voorstel zouden kunnen zijn. Deze kregen dan zeer gerichte tegenargumenten.

De ontdekking openbaar maken leverde Meki? – net als professor Armand Girbes – een shadowban op bij X: beperkt vindbaar gemaakt, zonder enige motivatie. Dat dát een DSA overtreding is, lijkt me duidelijk. Maar hoe zit dat met dat profileren zelf.

De DSA is gericht op reguleren en transparantie, maar verbiedt an sich niet zo heel veel dingen. Ook bij advertenties (artikel 26) wordt er met name gevraagd om dingen aan te geven:

  1. Duidelijk markeren dat iets een advertentie is;
  2. Van wie deze afkomstig is (en wie er voor betaalde, indien niet dezelfde entiteit);
  3. “Rechtstreeks en gemakkelijk toegankelijke nuttige informatie over de belangrijkste parameters die worden gebruikt om te bepalen aan welke afnemer de reclame wordt getoond en in voorkomend geval over de wijze waarop die parameters kunnen worden veranderd.”
(Over dat laatste blogde ik laatst.) Dit is gericht op transparantie, weten waarom je bepaalde advertenties krijgt. Maar als die informatie inhoudt “we hebben een profiel samengesteld dat bij jou en nog 10 mensen in de EU paste” dan is daar verder niets mis mee.

Een direct verbod zie ik verder niet. Van de zeer grote platforms zou je wellicht nog kunnen zeggen dat zij microtargeting moeten zien als een systemisch risico, en daar dan maatregelen tegen moeten nemen, maar dat is bepaald indirect.

Al sinds 2021 ligt er een voorstel voor een Verordening over transparantie bij politieke reclame. Van de zomer is dit stil komen te vallen, de redenen zijn onduidelijk. Maar de bedoeling hiervan is om targeting op basis van persoonsgegevens expliciet te verbieden (art. 12).

De verwijzing naar persoonsgegevens suggereert dat de AVG er ook wat van zou moeten vinden, maar een hard verbod ga je niet vinden in deze wet. Je kunt natuurlijk zaken aandragen als profileren, maar dat geldt bij álle advertenties en wordt niet anders omdat jij vrij specifiek eruit gepikt wordt.

Het enige echte argument uit de AVG betreft je politieke voorkeur: als de (micro)targeting gericht is op politieke tegenstanders, dan worden bijzondere persoonsgegevens verwerkt en dat is simpelweg verboden voor zo’n doel.

Arnoud

Werknemer voor rechter na negatieve recensies: ‘Do not work here’

Geplaatst op in Ondernemingsvrijheid, Uitingsvrijheid, 9 reacties

Marktonderzoeksbureau Innova uit Arnhem heeft een ex-werknemer voor de rechter gesleept, om de namen te achterhalen van zijn collega’s die negatieve recensies over het bedrijf op internet plaatsten. Dat meldde RTL Nieuws onlangs. Tot twee keer toe zonder succes: onlangs verloor de werkgever ook het hoger beroep.

De directe aanleiding lijkt te zijn geweest dat de werknemer na uitdiensttreding in dienst was getreden bij een klant van Innova, waarmee hij het relatiebeding uit de arbeidsovereenkomst zou hebben overtreden. Ook waren er negatieve reviews op een rekruteringsplatform (Glassdoor) geplaatst, waarvan men deze werknemer verdacht.

Alleen hoe bewijs je dat?

Op 10 en 22 augustus 2021 verschijnen twee negatieve reviews over (het werken bij) Innova. Innova vermoedt dat [geïntimeerde] en/of zijn collega [naam1] deze geplaatst hebben of hierbij betrokken zijn. Dit vermoeden krijgt Innova vanwege tussen hen gewisselde (Teams)berichten die zij via de account van [naam1] na diens ontslagname heeft achterhaald.
Hard bewijs komt er echter niet, toch pakt men door en komt 25.000 euro boete opeisen. Dat leverde alleen maar veel discussie tussen advocaten, dus dat kwam bij de rechter.

Innova had een zogeheten vordering tot afgifte ingesteld (art. 834a Rv), wat juridisch kan als je voldoende belang hebt bij de geëiste bewijsstukken. Het Gerechtshof legt uit:

Een vordering is toewijsbaar als is voldaan aan de volgende voorwaarden:

a. er moet sprake zijn van een rechtmatige belang

b. het moet gaan om “bepaalde bescheiden”

c. degene die inzage vraagt moet partij zijn bij de rechtsbetrekking.

Als degene die de stukken onder zich heeft gewichtige redenen heeft om die niet af te geven kan dat reden zijn om de vordering niet toe te wijzen (lid 4 artikel 843a Rv).

Probleem was hier dat het niet de ex-werknemer was die beschuldigd werd van de reviews, maar zijn collega. Men wilde van de ex-werknemer dus e-mails tussen hem en die collega hebben. En dat ligt lastig met dit artikel, want dit is eigenlijk wel bedoeld voor partijen die een onderling geschil bij de rechter hebben of gaan hebben.

En toen werd het ineens even heel complex. Innova bleek namelijk ook Glassdoor aangesproken te hebben, die de claim afwees (want Amerikaanse partij en free speech en zo, wat dacht je zelf). Maar er was meer: het bedrijf zat zelf al sinds 2019 op Glassdoor, en was dus volgens het Hof akkoord met de voorwaarde dat anonimiteit van werknemers een groot goed is. Oftewel, dan sta je dus zwak als je die toch ineens wil doorbreken.

Het is Innova dus niet gelukt om via haar contractspartner Glassdoor achter de namen van de plaatsers van de reviews te komen. Innova stelt dat zij daartoe ook niet is gehouden omdat daarvoor een lange en kostbare procedure in de Verenigde Staten nodig is (Glassdoor schrijft dat zij zichzelf en haar gebruikers recht op anonieme vrije meningsuiting in een procedure “agressively” zal verdedigen). Innova wil nu via een andere weg de namen achterhalen, namelijk via haar ex-werknemer [geïntimeerde] . De enige reden dat [geïntimeerde] deze namen kent is dat Innova hem ervan heeft beschuldigd dat hij die reviews geplaatst had. Vervolgens is hij ter ontlasting van die beschuldiging op zoek gegaan naar de plaatsers van de reviews. Hij heeft de betreffende (ex-)werknemers toegezegd dat hij hun namen niet zou prijsgeven.
In die omstandigheid ziet het Hof geen reden om afgifte van de e-mails te bevelen. De exwerknemer mocht, net als collega’s verwachten dat de werkgever de werkwijze van Glassdoor zou respecteren en dus niet zomaar de anonimiteit van plaatsers zou doorbreken.
Het gaat om anoniem geplaatste reviews met persoonlijke ervaringen, de anonimiteit wordt gegarandeerd door platform Glassdoor en Innova is, door zich via haar overeenkomst met Glassdoor te conformeren aan die anonimiteit, ten opzichte van haar werknemers in beginsel gehouden die te respecteren. Daarbij dient bedacht te worden dat ook de vrijheid van meningsuiting van de plaatsers van de reviews in het geding is.
Tevens is niet aan de inhoudelijke eisen voldaan, zoals een onderbouwing van hoe en waarom de reviews dan zo onrechtmatig zijn, waarom je pas na twee jaar daar zo’n punt van maakt en waarom het willen stellen van een precedent hier relevant is. Deze eis wordt dus (terecht) afgewezen.

Ik ga nog even verder, want veel ict-ers hebben ook voor hen vervelende en strenge bedingen in hun contracten. De overtreding van het concurrentiebeding wordt afgewezen: de werknemer was immers naar een klant overgestapt, terwijl het beding het verbood om bij “met Innova concurrerende ondernemingen in dienst te treden”. Een klant concurreert in het gewone spraakgebruik niet met een leverancier. Als je dat wel bedoelt, dan moet je dat duidelijker vermelden – onduidelijkheden in een eenzijdig opgelegd beding werken altijd in je nadeel.

Als laatste was er nog tussen Innova en die klant een zogeheten aftroggelbeding gesloten: die klant zou geen werknemers van Innova in dienst nemen, en dat was hier dus wel gebeurd. Maar omdat de indiensttreding an sich legaal is, moet er dan iets bijzonders aan de hand zijn om dit een onrechtmatig handelen van de werknemer te noemen.

Je kunt als twee bedrijven wel afspraken maken over wat je met elkaars personeel doet, maar dat kan dan alleen gevolgen hebben in de onderlinge relatie (zoals een contractuele boete of het verbreken van een samenwerking). Dus ga die boete maar halen bij je klant. Oh wacht:

Het hof begrijpt dat [Innova] dat liever niet doet omdat het een klant is. Maar die keuze houdt wel in dat als zij een derde partij, haar ex-werknemer [geïntimeerde] , hierop wil aanspreken, zij (gelet ook op wat hiervoor over zijn recht op vrije arbeidskeuze is overwogen) bijzondere omstandigheden moet stellen die diens handelen onrechtmatig maken.
Een overstap wordt voor een werknemer niet onrechtmatig omdat de oude met de nieuwe werkgever heeft afgesproken dat het niet mag.

Arnoud

 

 

Hoe citeer je ChatGPT in een juridisch artikel?

Geplaatst op in Innovatie, Ondernemingsvrijheid, Uitingsvrijheid, 8 reacties

Een intrigerende via Linkedin:

Is er al een ‘Leidraad voor Juridische Auteurs-richtlijn’ voor het verwijzen naar ChatGPT of andere generatieve AI? Ik zie wel APA-richtlijnen, maar zijn er ook al voorbeelden bekend van juridische auteurs die ChatGPT citeerden? Hoe zou jij ChatGPT citeren conform Leidraad?
Ik was een beetje verbaasd, want om nou te zeggen dat ChatGPT bekend staat om haar inventief onderzoek of hoogdravende analyses, nee. Maar goed, dat is geen argument bij de vraag, hoe citeer je een tekst die je op ChatGPT.com aantreft.

In de comments geeft Vincent Bontrop een voorbeeld van een persistente link naar een ChatGPT uitvoer. Als ik daarop de regels van de Leidraad voor juridische auteurs loslaat, dan krijg je ‘Communicatie in psychologie’, ChatGPT.com 3 september 3, 2023 <url hier>.

Ik zit wel te twijfelen of deze uitvoer geschikt is als bron. Citeren uit Wikipedia is ook altijd op het randje: wat daar staat, mag je meestal als algemeen bekende kennis aanmerken en dat behoeft geen bron. En als het wél specifieke kennis is, dan verwijst Wikipedia naar een echte bron en dan citeer je die. Dus ik weet geen situatie waarin je Wikipedia als bron opvoert.

ChatGPT geeft evenzo algemeen bekende kennis aan, maar geen eigen opinie, inschatting of nieuw ontdekte feiten. Er is dus geen reden om ChatGPT als bron van wat dan ook op te voeren. Dit geheel los van de vraag of ChatGPT een auteur is.

Arnoud

Boetebedingen in huisregels kunnen ook gewoon onredelijke algemene voorwaarden zijn

Geplaatst op in Ondernemingsvrijheid, Uitingsvrijheid, 7 reacties
PeggyMarco / Pixabay

Een boete stellen op overtreding van je huisregels, het kan. Maar als je dat doet tegen gebruikers die consument zijn, dan kunnen die ook bij jouw dienst zich gewoon beroepen op het consumentenrecht. Dat maak ik op uit een recent vonnis (via).

Bij de dienst F2F (een soort OnlyFans) mag iedereen zich aanmelden en dan foto’s of videos plaatsen. Wellicht verbaast het u, maar “deze content bestaat voornamelijk uit erotisch getinte foto’s en/of video’s”, aldus het vonnis. Om te zorgen dat mensen geen wraakporno of gestolen beeld zouden plaatsen, had de dienstverlener een stevig boetebeding opgenomen:

“A.10.3. In the event F2F discovers User violated the provisions of Article A.7. or Article A.8, User will immediately be liable to pay a fine to F2F of 10.000 euro for each such violation, without prejudice to F2F’s right to claim damages and any other claims F2F may have on User relating to such violations.”
De gedaagde had erkend dat zij foto’s had geplaatst die niet van haarzelf waren, en ook dat ze op alle knopjes had doorgeklikt, dus akkoord was met de voorwaarden. Appeltje-eitje zou je zeggen: betalen maar, die boete. (Er is precedent immers.)

De rechtbank doet iets opmerkelijks: die onderzoekt ambtshalve (dus zonder dat dit was gesteld) of de gedaagde als consument de overeenkomst was aangegaan. Want consumenten mag je, in tegenstelling tot zakelijke gebruikers, niet zomaar allerlei bedingen opleggen. Dit is een standaardprocedure, maar het voelt wel gek bij een platform waar mensen deelnemen om content te produceren en te verkopen. Het zou niet mijn eerste gedachte zijn dat hier iemand als ‘consument’ in de zin van de wet aan te merken is.

In dit geval heeft [gedaagde] zich aangemeld als creator waardoor zij door het exclusief beschikbaar stellen van beeldmateriaal geld kon verdienen. Die enkele aanmelding maakt nog niet dat ervan moet worden uitgegaan dat [gedaagde] heeft gehandeld in de uitoefening van haar beroep of bedrijf en dat zij niet als consument kan worden aangemerkt. Iedereen kan zich namelijk aanmelden bij F2F als creator. Het is voor consumenten op een platform als F2F redelijk eenvoudig om zich als creator aan te melden en beeldmateriaal te delen met het doel iets bij te verdienen. Daarom is het ook zeer aantrekkelijk voor kwetsbare consumenten om foto’s en video’s te delen op het platform. Daarom zijn er andere omstandigheden nodig om te kunnen beoordelen of [gedaagde] al dan niet professioneel heeft gehandeld.
De rechter kan die omstandigheden niet ontdekken. Onduidelijk is wat haar primaire bron van inkomsten was, bijvoorbeeld. En weliswaar had zij 157 beelden geüpload, maar verder vrij weinig gedaan:
Het in een korte periode uploaden van foto’s met de bedoeling daar geld aan te verdienen betekent nog niet direct dat een persoon als handelaar moet worden aangemerkt.
De rechtbank ziet dus niets waaruit blijkt dat mevrouw handelaar was, en dus is zij consument. (Dit is volgens mij systematisch verkeerd om, want volgens mij is consument-zijn de uitzondering die dus bewezen moet worden.) En wat ik hier lastig aan vind: als men mevrouw pas na een jaar had betrapt, en zij had in de tussentijd 10.000 euro verdiend met een heleboel foto’s die in strijd met de regels waren, had de rechter haar dan óók als consument aangemerkt?

Vervolgens moet het boetebeding worden beoordeeld aan de hand van het consumentenrecht. Een boetebeding opgelegd via niet-onderhandelbare algemene voorwaarden is wel heel zwaar. Daar moet een stevige rechtvaardiging voor zijn, maar die is er: F2F wil afschrikwekkend zijn tegenover wraakporno, auteursrechtinbreuk en dergelijke, iets dat aan de orde van de dag is bij dergelijke diensten. Dus dat had gekund. Alleen:

Het beding ziet (…) op iedere overtreding van artikel A.7. en A.8. van de algemene voorwaarden. Daarbij is er geen oog voor verschillen in aard en ernst van de overtredingen. Er is in het beding of elders in de algemene voorwaarden ook geen limiet gesteld aan de boete. Het beding stelt de boete op € 10.000,- voor iedere overtreding. Dat maakt dat het beding cumulatief geïnterpreteerd kan worden, waardoor de boete bij meerdere overtredingen in een korte periode veel hoger kan zijn dan € 10.000,-, ook in die gevallen dat de consument niet op de hoogte is van de overtreding. … Het feit dat F2F in dit geval ondanks de 157 door [gedaagde] geplaatste foto’s en filmpjes slechts eenmaal € 10.000,- in rekening heeft gebracht doet daar niet aan af, omdat – zoals hiervoor al is overwogen – beoordeeld moet worden hoe het beding kan uitpakken.
De rechter kijkt dus niet naar de redelijkheid van de opgelegde concrete boete, maar naar de redelijkheid van het beding en wat dit voor effect kan hebben als het beding  wordt toegepast. Dat is namelijk hoe de consument tegen het beding aan zal kijken, wat kunnen ze me allemaal aandoen? En 10.000 euro voor iedere overtreding van een héle berg aan regels is andere koek dan specifiek bij overtreding van dit ene artikel.

Arnoud

 

Kan iedereen nu zijn naam uit oude krantenartikelen laten halen?

Geplaatst op in Privacy, Uitingsvrijheid, 6 reacties

Een Belgische arts die een dodelijk ongeluk veroorzaakte, eiste dat zijn naam uit het online archief van een krant wordt gehaald. Dat meldde NRC onlangs. Het Europese Hof voor de Rechten van de Mens gaf de arts gelijk: dat bericht had niet zo online mogen staan, gezien de omstandigheden. Schande, uitwissen van archieven, hoor ik overal – het ligt iets genuanceerder.

De zaak komt erop neer dat de krant Le Soir in 1994 een artikel publiceerde over verkeersongevallen, en daarbij de naam noemde van deze arts als veroorzaker van een dodelijk ongeval. In 2000 werd de arts hiervoor veroordeeld (twee jaar voorwaardelijk).

In 2008 besloot de krant haar archief gratis en zonder drempel online te zetten, waarna via zoekmachines iedereen met de naam van deze arts dit artikel uit 1994 kon vinden. Dat vond de arts bepaald niet wenselijk, en sinds 2010 lag de zaak dan ook in de juridische clinch.

De arts koos ervoor de krant aan te spreken en niet Google. Dat laatste zou voor de hand liggen gezien de vergeetrecht-jurisprudentie die er al sinds 2014 ligt. Maar er zijn natuurlijk meer zoekmachines, en bovendien kan een krant ook prima enige barrières opwerpen zonder gelijk heel 1984 te gaan en het archief door de shredder te halen.

De krant had dat overigens ook gedaan: de direct vindbare versie van het artikel was geanonimiseerd, en pas na een doorklik (of gebruik van de interne zoekmachine) kreeg je de versie met namen. Uiteindelijk kwam de zaak dus bij het Europese Hof voor de Rechten van de Mens terecht, en die zag hier toch een tekortschieten van de krant in. En dan niet meteen omdat het artikel niet geheel weggelaten was, maar omdat er meer is dat je kunt doen:

Meanwhile, the publisher of a website can, for instance: (a) remove all or part of a text stored in the digital archive; (b) anonymise the details of the person referred to in the text; (c) add a note to the text, that is, update the text by means of digital rectification (where the information was inaccurate) or via an electronic communication (where the information was incomplete); (d)remove the article from the index of the website’s internal search engine; or (e) have the article de-indexed, either fully or partially (in relation only to searches based on the name of the person concerned), byexternal search engines, on the basis of access codes or directives issued to the search engine operators preventing their search programmes from crawling certain locations.

Het Hof vindt het vooral verwijtbaar dat men eigenlijk geen van deze stappen heeft genomen, zelfs niet een “NOINDEX” tag zodat Google het artikel niet meer zomaar zou vinden. Maar ook een simpele vorm van pseudonimiseren zou kunnen, zoals de naam vervangen door “mr X”.

Verder bevestigt het Hof dat juridische vragen zoals deze nooit met een eenvoudige vuistregel (“onze archieven blijven altijd volledig”) afgedaan kunnen worden. Dat is ook de reden dat ik niet echt bang ben dat deze uitspraak een stortvloed aan vergeetverzoeken gaat geven. Het moet echt gaan om bijzondere omstandigheden, zoals een zeer oude situatie van nul relevantie in 2023, een reeds uitgediende straf en geen enkele maatregel genomen om de belangen van de betrokkene te dienen.

Arnoud