Toezichthouder waarschuwt voor schadelijke vriendschappen met AI-chatbots

Geplaatst op in Innovatie, 2 reacties
Photo by Josh Sorenson on Pexels

Chatbots voor virtuele vriendschappen en therapie bij mentale problemen geven onbetrouwbare informatie en zijn soms schadelijk. Dat meldde Nu.nl onlangs. Uit een onderzoek van de Autoriteit Persoonsgegevens (AP) naar 9 populaire chatbotapps blijkt dat deze ongenuanceerde, ongepaste en soms zelfs schadelijke reacties geven op gebruikers die mentale problemen ter sprake brengen.

Het onderzoek is de halfjaarlijkse Rapportage AI- & Algoritmerisico’s Nederland (RAN). De risico’s van deze chatbots worden inderdaad geschetst, zij het als verwijzing naar externe media:

Daarbij is er de kans dat een chatbot de gebruiker aanraadt om contraproductief te handelen. Bijvoorbeeld door eenzame gebruikers aan te raden vooral de chatbot te gebruiken als sociale uitlaatklep. In de ergste gevallen kan de chatbot de gebruiker aanraden, of bevestiging geven aan iemands overtuiging, om zichzelf iets aan te doen. In het nieuws zijn meerdere beschuldigingen verschenen over chatbots die gebruikers aanspoorden tot zelfdoding.
Het bekendste voorbeeld van dat laatste komt uit Florida een paar maanden terug. Deze incidenten waren voor de Europese Commissie reden om in hun Richtsnoeren voor verboden praktijken onder de AI Act “promotes self-harm to users or incentivises them to commit suicide or harm other persons or groups of persons” aan te merken als schadelijk. Een chatbot die “doelbewust manipuleert” of “misleidende technieken” gebruikt en daarbij deze schade veroorzaakt, is in de EU dan verboden.

Je kunt natuurlijk zeggen dat chatbots nooit expliciet geprogrammeerd worden met deze doelstelling, zodat je het element “doelbewust” simpelweg niet rond krijgt. Maar de Commissie stelt in de richtsnoeren dat “doelbewust” gaat om een door de AI herkend doel, niet perse een door mensen ingeprogrammeerd doel.

Ietwat vreemd aan de AI Act is dat de verboden al wel in werking zijn (per 2 februari jl.) maar dat de AI Act toezichthouders pas 2 augustus aangewezen worden. Maar er is een oplossing: vrijwel alle verboden uit de AI Act vereisen gebruik van persoonsgegevens, zodat de AP als AVG-toezichthouder kan optreden bij de handhaving hiervan. Het argument is dan dat de praktijk niet ‘wettig’ is (artikel 5.1 AVG) omdat deze wettelijk verboden is (artikel 5 AI Act).

Arnoud

Mag ik de camerabeelden van een vernielde fiets op het schoolplein?

Geplaatst op in Privacy, Uitingsvrijheid, 22 reacties
Photo by Laura Rivera on Unsplash

Een lezer vroeg me:

Op de school van mijn zoon is recent een incident geweest waarbij diens fiets ernstig beschadigd is geraakt. Ik vermoed dat dit is gefilmd met de camera’s van school en wil inzage. De directeur weigert dit met een beroep op de AVG en stelt dat ik aangifte moet doen. De politie weigert dit, omdat het alleen zaakschade is en dus(?) een civiele kwestie die ik met de verzekering moet oplossen. Waar sta ik nu?
Inzage in camerabeelden kan inderdaad onder de AVG, maar vereist wel dat de betrokkene op de camerabeelden te zien is. Alleen dan zijn het immers persoonsgegevens van de betrokkene. Eventuele andere zichtbare personen moeten dan uitgeblurd worden.

Dat gaat natuurlijk mis bij een situatie waarin een ander is gefilmd die een fiets stuk maakte. Dan is de zoon van de vraagsteller niet in beeld, en onder de AVG beelden van een dader van vernieling opvragen gaat eenvoudig niet. De school heeft dus gelijk dat ze de beelden niet zomaar mogen geven.

Een mogelijkheid om de beelden toch te krijgen is een vordering onder artikel 194 Rechtsvordering (voorheen 843a).

Een partij bij een rechtsbetrekking heeft tegenover degene die beschikt over bepaalde gegevens over die rechtsbetrekking, recht op inzage, afschrift of uittreksel van die gegevens als zij daarbij voldoende belang heeft. De partij die om inzage, afschrift of uittreksel van bepaalde gegevens verzoekt, draagt de kosten die voor de verstrekking daarvan moeten worden gemaakt.
Camerabeelden zijn ‘gegevens’ in de zin van dit artikel en je kunt ze dus opeisen als sprake is van een ‘rechtsbetrekking’, zoals een onrechtmatige daad. In november 2024 speelde dit nog met NAW-gegevens, waarbij de rechter duidelijk maakte dat dit breder is dan gegevens van de wederpartij bij die rechtsbetrekking.

Weigeren van zo’n verzoek mag niet, tenzij je een verschoningsrecht hebt of je je kunt beroepen op “gewichtige redenen”. De Memorie van Toelichting noemt daarbij

Van gewichtige redenen kan ook sprake zijn als de bescherming van persoonsgegevens van derden niet kan worden gewaarborgd, bijvoorbeeld doordat deze niet voor het geschil ter zake doende gegevens, niet of niet eenvoudig kunnen worden weggelakt of zwartgemaakt.
Dit moet je dus lezen als: als je de privacy van irrelevante derden niet kunt borgen (bij camerabeelden: deze niet kunt uitblurren) dan heb je een gewichtige reden tegen afgifte. Maar hier gaat het om de privacy van relevante derden, namelijk de dader(s) van de vernieling. Die beschermen is geen ‘gewichtige reden’.

De vraagsteller moet wel de noodzakelijke kosten voor het verstrekken van de verlangde informatie vergoeden, maar je zou zeggen dat dat bij camerabeelden niet veel zal zijn. Wat kost de tijd om terug te kijken wanneer de fiets werd beschadigd?

Een punt hierbij is nog wel waarom je de beelden nodig hebt, in juridische termen wat je ‘belang’ bij de vordering is om een kopie te krijgen. Een schadeclaim bij (de ouders van) de dader is zo’n grond. Voor aangifte is dat niet nodig, de politie zal zelf de beelden vorderen als ze een onderzoek instellen.

Ga je de school aansprakelijk stellen, dan heb je de beelden niet nodig want de identiteit van de leerling (of leraar) doet er niet toe op dat moment. (Het is zeker niet gezegd dat de school aansprakelijk is, dat hangt af van hun zorgplicht en ook van het moment van de schade.)

Arnoud

 

Hoe haal ik mijn recht tegen spammers als ik kan bewijzen waar de mail vandaan komt?

Geplaatst op in Ondernemingsvrijheid, Privacy, 19 reacties
Photo by geralt on Pixabay

Een lezer vroeg me:

Ik mail met een eigen domeinnaam, en gebruik bij elke website, dienst en account een uniek e-mailadres dat ik relateer aan de bedrijfsnaam. Ik krijg dus regelmatig spam e-mails waarbij ik aan het e-mailadres kan zien aan welk bedrijf ik dit e-mailadres heb gegeven. Wat zijn mijn mogelijkheden om bedrijven aan te spreken op het verkopen van mijn gegevens?
Deze handige truc gebruik ik zelf ook, het maakt het bijvoorbeeld ook makkelijk om een mailadres op te heffen als een organisatie je blijft mailen ondanks afmeldverzoeken. En het geeft inderdaad sterk bewijs: als ik een mail krijg op een adres dat ik alleen aan organisatie X gegeven heb (met de naam van X er in dus) dan heeft X wat uit te leggen.

Je maakt het je bewijstechnisch dus makkelijker met deze techniek. Het vervolg is echter hetzelfde als wanneer je een rondvraag had gedaan en X zich vrijwillig had gemeld. Je kunt een klacht indienen bij de ACM over de ongevraagde commerciële mail, en als genoeg mensen dat doen dan kan X een boete krijgen.

Je kunt ook zelf een zaak beginnen, maar voor één e-mail is dat de geld en de moeite niet waard. Met name is er het probleem dat je je schade niet kunt onderbouwen, want jouw tijd als consument is per definitie nul euro waard. (Als ondernemer heb je iets meer kans, maar hoe duur is je tijd voor het weggooien van een e-mail nou helemaal.)

Een route voor de volhouder zagen we recent bij nieuws dat een Nederlandse LinkedIn-gebruiker 50.000 euro krijgt van Microsoft na herhaaldelijk plaatsen van trackingcookies.

Het betrof hier namelijk dwangsommen: de man had eerder een verbod bij de rechter gehaald tegen het plaatsen van zulke cookies, en dat verbod werd nu aantoonbaar overtreden. In tegenstelling tot schade hoeft een boete niet te worden onderbouwd, daar gaat het alleen om het afschrikwekkend effect.

Het kan, dus maar je moet er wel twéé rechtszaken voor voeren, je dossiers op orde houden én bereid zijn een flinke zak met geld (en tijd) er in te steken. Of dat de moeite waard is?

Arnoud

Je auto thuis laden zonder eigen oprit, mag een gemeente dat verbieden?

Geplaatst op in Regulering, 23 reacties
Foto: RTL Nieuws

Wellicht valt het je ook op: elektrische rijders zonder eigen oprit verzinnen allerlei manieren om hun auto op te laden met goedkope elektriciteit uit de eigen meterkast. Dat las ik bij RTL Nieuws. Gemeentes krijgen daar steeds meer vragen en klachten over. Ook hoor ik dat sommige gemeenten dit verbieden, en dat is natuurlijk een juridische vraag: mogen ze dat?

Het plaatje hiernaast (uit het artikel) laat twee bekende oplossingen zien: links een hefboom die over de stoep heen gaat (waarschijnlijk inspiratie van Klaas uit Zwolle) en rechts een kabelbrug, de grote variant van wat menig kantoortuin ook heeft.

Het probleem met deze oplossingen – vanuit gemeenteperspectief – is dat ze gevaar kunnen opleveren. Over zo’n brug kun je struikelen, en voor rolstoelers zijn ze niet altijd praktisch te nemen. De hefboom voelt wat kwetsbaar (zeker het houten exemplaar van de foto), en het snoer kan slingeren en dan alsnog gevaar geven.

Verbieden dus. En ja, dat kan in principe: je mag geen gevaar of hinder op de openbare weg geven, staat in iedere APV in allerlei bewoordingen. Spullen aan de weg zetten of iets over de weg laten hangen mag dus niet. Het gaat niet om het laden an sich, maar om de overlast van de hefboom of geul.

Een recente oplossing is kabelgoottegels: stoeptegels met een geïntegreerde gleuf waar een laadkabel doorheen kan. Vervang een reeks tegels door die dingen, doe je kabel erin, leg een speciaal afdekrubber er overheen en klaar ben je. Geen overlast of hinder, want de stoep is (vrijwel) net zo glad als voorheen.

Heel slim, alleen als je geen dingen óp de stoep mag zetten dan zal het vervangen van stoeptegels vast niet zomaar toegestaan zijn. Daar heb je echt toestemming van de gemeente voor nodig (ook het NK Tegelwippen waarschuwt hier voor).

Sommige gemeentes werken hier actief aan mee. West-Betuwe bijvoorbeeld staat het toe, mits je buren het ook goed vinden en je de kosten betaalt (want de gemeente doet het werk). Bij Loon op Zand lees ik hetzelfde, met de uit ervaring geboren toevoeging dat dit niet betekent dat de parkeerplek “van jou” wordt. Zaltbommel verbiedt deze praktijk, hoewel zonder motivatie.

Bij RTL melden ze nog:

In Haarlem is dan weer wél enthousiasme voor zo’n kabelarm, ook wel zwenkarm of laadarm genoemd. Een meerderheid in de gemeenteraad stemde er in maart positief over. Maar ambtenaren worstelen er nog mee, zo blijkt. Ze zijn al een jaar bezig om precieze regels te formuleren. Inwoners moeten maar afwachten.
Men verwijst naar een burger in Hattum die op last van een dwangsom de zwenkarm moest weghalen, met als argument “Hij brengt een industriële uitstraling in een mooie, warme straat.”

Arnoud

Persbureau Reuters wint rechtszaak tegen AI-bedrijf om auteursrechtschendingen

Geplaatst op in Intellectuele rechten, Ondernemingsvrijheid, 1 reacties
Photo by heberhenrique20 on Pixabay

Persbureau Reuters heeft een rechtszaak gewonnen tegen Ross Intelligence om auteursrechtschendingen. Dat meldde Tweakers vorige week. Het betrof de inhoud van Reuters’ juridische onderzoeksdatabase Westlaw, die Ross nodig had om zelf een AI-powered legal research platform te kunnen zijn.

De zaak werd met een summary judgment–uitspraak afgedaan. Dat wil zeggen: complex feitenonderzoek en diepgravende juridische argumenten waren niet nodig, de claim van Reuters was duidelijk en het verhaal van Ross gewoon niet steekhoudend. (Dit is niet hetzelfde als een kort geding bij ons, waar je ook snel klaar bent maar waar wél beide kanten inhoudelijk op alles mogen ingaan.)

Wat was er dan zo simpel aan deze zaak? De kern was dat Ross eigenlijk niet verder kon zonder de content uit Westlaw, dat is dé database met uitspraken, annotaties en dergelijke waar iedere jurist op vaart. Reuters/Westlaw wilde die content niet geven uiteraard, want die waren bezig met een eigen systeem.

[T]o train its AI, Ross made a deal with [juridische informatiedienst] LegalEase to get training data in the form of “Bulk Memos.” Bulk Memos are lawyers’ compilations of legal questions with good and bad answers. LegalEase gave those lawyers a guide explaining how to create those questions using Westlaw headnotes, while clarifying that the lawyers should not just copy and paste headnotes directly into the questions.
Ik weet niet of je daar dan nog een “Grin grin, wink wink, say no more?” bij moet zetten, maar Ross kreeg vervolgens 25.000 van die bulkmemo’s en daar werd de AI op getraind.

De discussie kwam vervolgens neer op de vraag of er auteursrecht op zo’n headnote zit. Dat is een korte annotatie die de kern van de zaak weergeeft, zoals de samenvattingen op Rechtspraak.nl boven uitspraken. Vroeger (toen bits nog van hout waren) werden die door mensen geschreven, maar steeds vaker zijn een paar goed gekozen quotes uit de brontekst, al dan niet met puntjepuntje halverwege.

De rechter oordeelt dat dat prima auteursrechtelijk beschermd kan zijn. Je keuze wélk citaat je overneemt uit de bron is ook een creatieve, zeker als je er twee aan elkaar plakt. Ook het toekennen van het rechtsgebied (Key Number System) is een creatieve keuze, zelfs als een computerprogramma dit op basis van trefwoordherkenning doet.

Overname dus, en daarmee in beginsel inbreuk. Het verweer van Ross was dan dat hier sprake was van fair use, een eerlijk gebruik van de content dat geen afbreuk doet aan de normale exploitatie van Westlaw (kort gezegd).

Transformatie van het werk is daarbij een factor. Bij genAI is bijvoorbeeld sterke transformatie: bronwerken worden platgeslagen tot statistische ketens, en daarmee worden nieuwe teksten geregen. Maar Ross is geen genAI, eerder een slimme zoekmachine. Bij Ross worden de headnotes gebruikt om patronen te herkennen waarmee nieuwe zaken aan trefwoorden en dergelijke worden gekoppeld. Dat is geen transformatie in juridische zin.

Het grootste punt hier is dat Ross met haar kopieeractie de markt voor Westlaw aantast. Dat was ook de hele reden dat Westlaw geen licentie wilde geven: Ross is een (innovatieve) concurrent.

Gevolgen voor Ross zijn er niet: dat sloot al in 2021 vanwege deze zaak haar deuren, want ze kon de rechtszaak niet financieren. Voor andere AI-aanbieders kan dit een vervelend precedent worden, zij het dat de rechter nadrukkelijk benoemt dat dit géén genAI-systeem is. Dat kan behoorlijk uitmaken, gezien de diepere transformatie van tekst en daar in vervatte informatie die daarbij speelt.

Arnoud

Kan ik vertrouwen wat de chatbot van de kaakchirurg zegt?

Geplaatst op in Innovatie, Ondernemingsvrijheid, 2 reacties
Photo by Photo By: Kaboompics.com on Pexels

Via Reddit:

Ik was laatst aan het zoeken naar een kaakchirurg en ik vond een goede en toen ik aan de chatbot [op de site van de kaakchirug] vroeg hoe duur een intake was voor verstandskiezen verwijderen was zei hij “Goedemiddag bij (naam plek) is de eerste intake voor het verwijderen van verstandskiezen altijd kosteloos”. Vandaag maakte ik een afspraak voor de intake en de medewerkster aan de telefoon zei dat dat niet klopte toen ik het na vroeg.
Een organisatie is gehouden aan toezeggingen die klanten van ze krijgen, mits die dat onder de gegeven omstandigheden redelijkerwijze zo mochten opvatten. Dit raakt aan prijsfouten (het OTTO-arrest) maar ook aan wat de helpdesk je zegt in een chat.

Een AI-chatbot op de site is wat dat betreft niet anders dan zeg de veelgestelde vragen op de site of de informatiefolder in de wachtkamer. Je bent verantwoordelijk voor wat daar uit komt, en als de chatpartner het redelijkerwijs mocht zien als een duidelijke toezegging dan is dat bindend.

Het begint langzamerhand bekend te worden dat AI-chatbots geen feiten opdreunen in een praktische interface, maar statistisch gedreven woordenketens produceren. Doet dat er nog iets toe? Nee. Want het gaat niet om het technisch werken, maar om de indruk die je wekt. En de indruk is: deze chatbot helpt je graag, stel vragen en je krijgt een antwoord. Of dat antwoord dan klopt met je beleid, is jouw interne probleem.

Natuurlijk denkt iedereen dan aan die Canadese chatbot die ook foute informatie ophoestte. Relevant daar was dat de veelgestelde vragen het tegenovergestelde (en dus juiste) antwoord gaven. Had de consument dus moeten dubbelchecken? Nee:

Het tribunaal gaat daar niet in mee. Hoe zou een consument moeten weten dat de ene informatiebron betrouwbaarder is dan de andere? Air Canada zet ze beiden op haar site, dus moet ze de gevolgen daarvan dragen. Je kunt niet verwachten dat mensen alles dubbelchecken. Ook een beroep op de algemene voorwaarden bij het ticket wordt afgewezen, hoewel met het argument dat Air Canada die voorwaarden niet had overlegd in de procedure.
Je ziet hier vaak dat bedrijven dan naar disclaimers wijzen: niets op deze site moet worden opgevat als bindend of correct, typefouten voorbehouden, alles is onder voorbehoud van dat wij geen zin hebben.

Dat heeft in deze context nul en generlei waarde. Ik hoef als consument niet jouw toezegging in de FAQ na te lezen, en ik hoef niet in algemene voorwaarden te kijken of jouw toezegging onderhevig is aan enig voorbehoud. Die taak ligt bij jouw vertegenwoordiger als bedrijf, jij moet je chatbot dus opvoeden, pardon grounden, en als dat niet goed gaat zijn de gevolgen voor jou.

Detail is natuurlijk dat consulten bij de kaakchirurg eigenlijk altijd door de verzekering vergoed worden. Natuurlijk heb je daar een eigen risico bij, dus wellicht is dat wat de assistente bedoelde? Voor een taalmodel is zo’n Nederlandse constructie statistisch onwaarschijnlijk.

Arnoud

 

Mag je van de AVG nog backups maken op eenmalig beschrijfbare media?

Geplaatst op in Ondernemingsvrijheid, Privacy, 20 reacties
Door Stefan Kühn - Eigen werk, CC BY-SA 3.0, Koppeling

Een lezer vroeg me:

Ik maak in onze organisatie heel traditioneel backups op een Write Once Read Only (WORM) medium. Zo weet ik zeker dat die data niet aangetast kan worden bij cyberaanvallen. Echter, nu zegt onze FG dat dit eigenlijk niet toegestaan is. Van de AVG moet het mogelijk zijn om ook persoonsgegevens uit backups verwijderd te krijgen. Klopt dit? En moet ik dan overstappen naar een ander opslagmedium, met de extra risico’s van dien?
De algemene regel uit de AVG is inderdaad dat áls persoonsgegevens verwijderd moeten worden, dit overal moet gebeuren. Maar je moet dat per verwerking beoordelen. Een account van een webshop-klant opheffen is één ding, diens gegevens uit de financiële administratie weghalen iets anders en de factuur verwijderen natuurlijk nog weer een stap verder.

Bij backups is dus de vraag: moet deze data op deze manier (dus met de persoonsgegevens) bewaard worden, of kan deze al weg? Hiervoor moet je dus kijken naar de reden om de brongegevens te wissen. Gaat het om een kopie van dat klantaccount of een kopie van de factuur? De reden om de brongegevens te moeten wissen, geldt net zo goed voor de backup.

Het is zeker mogelijk dat een backup niet aan te passen is. De AVG eist niet het onmogelijke, dus je hoeft niet naar een meervoudig beschrijfbaar medium over te stappen. Maar je moet wel onthouden dát er een geldig verwijderverzoek ligt voor bepaalde gegevens, zodat je dit bij terugzetten van de backup kunt doorvoeren. Anders is dat klantaccount straks gewoon weer terug of staat dat mailadres weer op de nieuwsbrief geabonneerd.

Dit leidt tot een paradox: je creëert dan meer persoonsgegevens (de “wissen na restore” lijst) in reactie op een verzoek om gegevens weg te gooien. Maar in deze situatie kun je niet anders. De data is pas te wissen na terugzetten van de backup naar een meervoudig beschrijfbaar medium, dus moet je nu onthouden dat je dan die wisactie uitvoert. Dat moet dus zo, en als het moet van de AVG dan mag het van de AVG.

Arnoud

Denk je dat de camera van de buren je huis filmt? ‘Bel niet boos aan’

Geplaatst op in Ondernemingsvrijheid, Privacy, 16 reacties
Photo by Max Shturma on Unsplash

Misschien voel je je bekeken door de beveiligingscamera bij het huis van de buren. Zo opende een recent Nu.nl achtergrondartikel. Ik was blij dat ik mee mocht doen, want ik krijg dit érg vaak in de mailbox en heel vaak leidt het tot onnodige escalatie.

Allereerst: een beveiligingscamera mag alleen je eigen grond filmen, en slechts als onvermijdelijk ook andere grond (10cm stoep dat grenst aan je voordeur). Jij moet uitleggen waarom de camera niet iets gedraaid kon en die 10cm vermijden. Zie mijn recente blog over het privacykapje.

Ten tweede: heb je echt een camera nodig? Ter afschrikking, werd vroeger wel gezegd. Tegenwoordig lijken weinig criminelen zich te laten afschrikken door camerabeelden. Film gerust mijn hoodie, zeg maar. Idem voor gebruik als bewijs: als je niet kunt zien wie het was, houdt het al snel op. Voor kleinschalige overlast kan het wél nuttig zijn, aha het is díe buurman die z’n hond uitlaat in mijn voortuin elke week.

Maar het belangrijkste is: hoe ga je om met een buur met camera? Uit het artikel:

Zo’n gesprek met de buren is niet altijd eenvoudig, weet Marianne Grooten. Zij is coördinator buurtbemiddeling in Zwolle. “Voorkom dat je uit ergernis op hoge poten naar je buren gaat. Het is niet handig om aan te bellen als je boos bent, want dan overval je iemand. Zeg rustig dat je graag iets wil bespreken en vraag wanneer het uitkomt. Creëer een setting waarin je een goed gesprek kunt voeren.”
Je zou denken dat meedenken en een oplossing aandragen – “privacykapje!” – handig zou zijn. Maar doe dat niet meteen:
Een valkuil kan zijn om het meteen over oplossingen te hebben. Dan krijg je meteen een sfeer waarin iemand zich wil verdedigen. Ga ervan uit dat je buren je niet expres willen dwarszitten.
Natuurlijk kun je ook escaleren door een klacht bij de Autoriteit Persoonsgegevens of aangifte. Maar dat leidt zelden tot het gewenste resultaat – handhaving – en als er iets gebeurt vanuit zo’n organisatie heb je hoe dan ook de relatie met je buren fors verpest.

Iedereen raadt om die reden dan ook als eerste buurtbemiddeling aan:

Bij buurtbemiddeling worden de problemen tussen buurtbewoners aangepakt door middel van inschakeling van vrijwilligers in de buurt, die vooraf getraind zijn in conflictbemiddeling. In veel gevallen van burenoverlast gaat het daarbij om problemen, die veroorzaakt worden door als hinderlijk ervaren gedrag van buurtgenoten.
Wat niet wil zeggen dat je nooit mag protesteren of je rechten doen gelden, maar betrek de bredere context. Je woont tenslotte ook ná die boete en ná dat vonnis nog steeds naast elkaar.

Arnoud

Nederlandse ambtenaren mogen Chinese chatbot DeepSeek niet gebruiken

Geplaatst op in Security, nog geen reacties
Photo by Solen Feyissa on Unsplash

Nederlandse ambtenaren mogen de Chinese chatbot DeepSeek niet gebruiken, bevestigt een woordvoerder van staatssecretaris Zsolt Szabó. Dat meldde Nu.nl vorige week. De reden is niet de zorg om persoonsgegevens, maar “China is een van de landen met een offensief cyberprogramma gericht tegen Nederland.” Software uit dergelijke landen gebruiken wij niet.

Bij Tweakers leggen ze uit:

De Rijksoverheid hanteert sinds 21 maart 2023 een appbeleid dat ontraadt om apps uit landen met een offensief cyberprogramma tegen Nederland te gebruiken op mobiele werkapparatuur, omdat deze spionagegevoelig kunnen zijn. Voor zakelijke mobiele apparaten uitgegeven door de Rijksoverheid wordt dan ook vooraf bepaald welke apps kunnen worden geïnstalleerd en gebruikt.
Dit staat dus geheel los van de zorgen over censuur, beveiliging van persoonsgegevens of schending van vertrouwelijkheid, waar de meeste afnemers van AI-diensten zich zorgen maken.

Dergelijke zorgen zijn er natuurlijk net zo goed bij DeepSeek als bij zeg ChatGPT. We lezen er vooral meer over omdat ook de Amerikanen deze keer verbaasd zijn – hoezo zijn het andere landen die persoonsgegevens stelen en bedrijfsgeheimen hergebruiken?

DeepSeek is in zoverre uniek dat het onderliggende model ook als open weights model beschikbaar is. Je kunt het dus in een eigen datacenter draaien, afgeschermd tegen meekijken door wie dan ook.

Wel blijven dan zorgen over auteursrechtinbreuk (net zoals bij alle grote modellen) en hier specifiek de alignment van de antwoorden: het lijkt erop dat pro-China standpunten verwerkt zijn in de trainingsdata, wat niet noodzakelijkerwijs overeenkomt met fundamentele Europese normen en waarden.

Arnoud

PS: in de praktijk aan de slag met AI, compliance & governance? Word dan AI compliance officer met onze unieke driedaagse opleiding.

Mag ik een AI-podcast maken van andermans artikel?

Geplaatst op in Intellectuele rechten, 3 reacties
Photo by jhenning on Pixabay

Een lezer vroeg me:

Ik ben bezig met academische papers uit mijn vakgebied naar Notebook LM te uploaden, om daar mooie audiosamenvattingen van te maken in podcast vorm. Initieel voor mezelf, maar ze zijn vaak zo goed dat ik overweeg ze te publiceren. Kom ik dan in (auteursrechtelijke) problemen?
NotebookLM is een onderzoeks- en annotatietool van Google Labs, die bekend werd door haar unieke manier van informatie presenteren: in een podcast. Van Vernieuwenderwijs:
Anders dan tools die al langer beschikbaar zijn, wordt hierbij de tekst niet letterlijk opgelezen: de tekst wordt in een podcast verwerkt, waarin een mannelijke en vrouwelijke stem in dialoog gaan over de informatie. Daarbij komt niet alleen de letterlijke inhoud naar voren, maar worden tussendoor ook nog eens reflectie vragen gesteld en soms zelfs een grapje gemaakt. Dit maakt het niet alleen nog realistischer, maar wellicht ook een stuk prettiger om naar te luisteren.
Uiteraard vindt het auteursrecht er wat van dat een werk (zoals een paper) wordt omgezet naar een ander formaat. We komen dan in de problematiek van de samenvattingen: is het samenvatten en bespreken van andermans werk een inbreuk op het auteursrecht?

Dit probleem bestaat al langer, maar was altijd wat marginaal. Samenvattingen zijn bijvoorbeeld populair onder studenten, maar worden dan gratis gedeeld of in een grijs circuit verhandeld. Bovendien bevatten die meestal geen lappen brontekst, en dan ontloop je al snel het auteursrecht.

AI-gegenereerde podcasts zitten dichter bij de bron, hoewel ik niet vaak zie dat ze letterlijk stukken uit een artikel oplezen. En zeker gezien het format van een dialoog verwacht ik niet dat je hier snel 1-op-1 kopieerwerk tegenkomt. Bovendien is er dan ook nog het citaatrecht: een relevant stukje bron overnemen omdat je daar commentaar op geeft is gewoon toegestaan.

Wie het wil proberen: hier is een podcast over mijn artikel “Een Onuitlegbaar Recht” uit het Tijdschrift voor Internetrecht (over art. 86 AI Act, het recht van uitleg). Ik hoor in die tien minuten veel gebabbel over het onderwerp maar zou dit zeker niet een voordracht van mijn artikel noemen.

Er is wel nog een ander punt: AI-analyse van bronbestanden noemen we in het auteursrecht “tekst- en data mining” en dat is toegestaan tenzij het auteursrecht nadrukkelijk is voorbehouden. Bij online gepubliceerde artikelen moet dat in een machine-leesbare vorm gebeuren, en het probleem daarbij is dat er geen standaard is om dat te doen (zonder standaard is niets machine-leesbaar). Dus vooralsnog is dat geen struikelblok.

Arnoud