Ondernemingsvrijheid Archives

Kan ik vertrouwen wat de chatbot van de kaakchirurg zegt?

Geplaatst op 14 februari 20259 februari 2025 in Innovatie, Ondernemingsvrijheid, 2 reacties

Photo by Photo By: Kaboompics.com on Pexels

Ik was laatst aan het zoeken naar een kaakchirurg en ik vond een goede en toen ik aan de chatbot [op de site van de kaakchirug] vroeg hoe duur een intake was voor verstandskiezen verwijderen was zei hij “Goedemiddag bij (naam plek) is de eerste intake voor het verwijderen van verstandskiezen altijd kosteloos”. Vandaag maakte ik een afspraak voor de intake en de medewerkster aan de telefoon zei dat dat niet klopte toen ik het na vroeg.

Een organisatie is gehouden aan toezeggingen die klanten van ze krijgen, mits die dat onder de gegeven omstandigheden redelijkerwijze zo mochten opvatten. Dit raakt aan prijsfouten (het OTTO-arrest) maar ook aan wat de helpdesk je zegt in een chat.

Een AI-chatbot op de site is wat dat betreft niet anders dan zeg de veelgestelde vragen op de site of de informatiefolder in de wachtkamer. Je bent verantwoordelijk voor wat daar uit komt, en als de chatpartner het redelijkerwijs mocht zien als een duidelijke toezegging dan is dat bindend.

Het begint langzamerhand bekend te worden dat AI-chatbots geen feiten opdreunen in een praktische interface, maar statistisch gedreven woordenketens produceren. Doet dat er nog iets toe? Nee. Want het gaat niet om het technisch werken, maar om de indruk die je wekt. En de indruk is: deze chatbot helpt je graag, stel vragen en je krijgt een antwoord. Of dat antwoord dan klopt met je beleid, is jouw interne probleem.

Natuurlijk denkt iedereen dan aan die Canadese chatbot die ook foute informatie ophoestte. Relevant daar was dat de veelgestelde vragen het tegenovergestelde (en dus juiste) antwoord gaven. Had de consument dus moeten dubbelchecken? Nee:

Het tribunaal gaat daar niet in mee. Hoe zou een consument moeten weten dat de ene informatiebron betrouwbaarder is dan de andere? Air Canada zet ze beiden op haar site, dus moet ze de gevolgen daarvan dragen. Je kunt niet verwachten dat mensen alles dubbelchecken. Ook een beroep op de algemene voorwaarden bij het ticket wordt afgewezen, hoewel met het argument dat Air Canada die voorwaarden niet had overlegd in de procedure.

Je ziet hier vaak dat bedrijven dan naar disclaimers wijzen: niets op deze site moet worden opgevat als bindend of correct, typefouten voorbehouden, alles is onder voorbehoud van dat wij geen zin hebben.

Dat heeft in deze context nul en generlei waarde. Ik hoef als consument niet jouw toezegging in de FAQ na te lezen, en ik hoef niet in algemene voorwaarden te kijken of jouw toezegging onderhevig is aan enig voorbehoud. Die taak ligt bij jouw vertegenwoordiger als bedrijf, jij moet je chatbot dus opvoeden, pardon grounden, en als dat niet goed gaat zijn de gevolgen voor jou.

Detail is natuurlijk dat consulten bij de kaakchirurg eigenlijk altijd door de verzekering vergoed worden. Natuurlijk heb je daar een eigen risico bij, dus wellicht is dat wat de assistente bedoelde? Voor een taalmodel is zo’n Nederlandse constructie statistisch onwaarschijnlijk.

Arnoud

Mag je van de AVG nog backups maken op eenmalig beschrijfbare media?

Geplaatst op 13 februari 20257 februari 2025 in Ondernemingsvrijheid, Privacy, 18 reacties

Door Stefan Kühn - Eigen werk, CC BY-SA 3.0, Koppeling

Een lezer vroeg me:

Ik maak in onze organisatie heel traditioneel backups op een Write Once Read Only (WORM) medium. Zo weet ik zeker dat die data niet aangetast kan worden bij cyberaanvallen. Echter, nu zegt onze FG dat dit eigenlijk niet toegestaan is. Van de AVG moet het mogelijk zijn om ook persoonsgegevens uit backups verwijderd te krijgen. Klopt dit? En moet ik dan overstappen naar een ander opslagmedium, met de extra risico’s van dien?

De algemene regel uit de AVG is inderdaad dat áls persoonsgegevens verwijderd moeten worden, dit overal moet gebeuren. Maar je moet dat per verwerking beoordelen. Een account van een webshop-klant opheffen is één ding, diens gegevens uit de financiële administratie weghalen iets anders en de factuur verwijderen natuurlijk nog weer een stap verder.

Bij backups is dus de vraag: moet deze data op deze manier (dus met de persoonsgegevens) bewaard worden, of kan deze al weg? Hiervoor moet je dus kijken naar de reden om de brongegevens te wissen. Gaat het om een kopie van dat klantaccount of een kopie van de factuur? De reden om de brongegevens te moeten wissen, geldt net zo goed voor de backup.

Het is zeker mogelijk dat een backup niet aan te passen is. De AVG eist niet het onmogelijke, dus je hoeft niet naar een meervoudig beschrijfbaar medium over te stappen. Maar je moet wel onthouden dát er een geldig verwijderverzoek ligt voor bepaalde gegevens, zodat je dit bij terugzetten van de backup kunt doorvoeren. Anders is dat klantaccount straks gewoon weer terug of staat dat mailadres weer op de nieuwsbrief geabonneerd.

Dit leidt tot een paradox: je creëert dan meer persoonsgegevens (de “wissen na restore” lijst) in reactie op een verzoek om gegevens weg te gooien. Maar in deze situatie kun je niet anders. De data is pas te wissen na terugzetten van de backup naar een meervoudig beschrijfbaar medium, dus moet je nu onthouden dat je dan die wisactie uitvoert. Dat moet dus zo, en als het moet van de AVG dan mag het van de AVG.

Arnoud

Denk je dat de camera van de buren je huis filmt? ‘Bel niet boos aan’

Geplaatst op 12 februari 20257 februari 2025 in Ondernemingsvrijheid, Privacy, 13 reacties

Misschien voel je je bekeken door de beveiligingscamera bij het huis van de buren. Zo opende een recent Nu.nl achtergrondartikel. Ik was blij dat ik mee mocht doen, want ik krijg dit érg vaak in de mailbox en heel vaak leidt het tot onnodige escalatie.

Allereerst: een beveiligingscamera mag alleen je eigen grond filmen, en slechts als onvermijdelijk ook andere grond (10cm stoep dat grenst aan je voordeur). Jij moet uitleggen waarom de camera niet iets gedraaid kon en die 10cm vermijden. Zie mijn recente blog over het privacykapje.

Ten tweede: heb je echt een camera nodig? Ter afschrikking, werd vroeger wel gezegd. Tegenwoordig lijken weinig criminelen zich te laten afschrikken door camerabeelden. Film gerust mijn hoodie, zeg maar. Idem voor gebruik als bewijs: als je niet kunt zien wie het was, houdt het al snel op. Voor kleinschalige overlast kan het wél nuttig zijn, aha het is díe buurman die z’n hond uitlaat in mijn voortuin elke week.

Maar het belangrijkste is: hoe ga je om met een buur met camera? Uit het artikel:

Zo’n gesprek met de buren is niet altijd eenvoudig, weet Marianne Grooten. Zij is coördinator buurtbemiddeling in Zwolle. “Voorkom dat je uit ergernis op hoge poten naar je buren gaat. Het is niet handig om aan te bellen als je boos bent, want dan overval je iemand. Zeg rustig dat je graag iets wil bespreken en vraag wanneer het uitkomt. Creëer een setting waarin je een goed gesprek kunt voeren.”

Je zou denken dat meedenken en een oplossing aandragen – “privacykapje!” – handig zou zijn. Maar doe dat niet meteen:

Een valkuil kan zijn om het meteen over oplossingen te hebben. Dan krijg je meteen een sfeer waarin iemand zich wil verdedigen. Ga ervan uit dat je buren je niet expres willen dwarszitten.

Natuurlijk kun je ook escaleren door een klacht bij de Autoriteit Persoonsgegevens of aangifte. Maar dat leidt zelden tot het gewenste resultaat – handhaving – en als er iets gebeurt vanuit zo’n organisatie heb je hoe dan ook de relatie met je buren fors verpest.

Iedereen raadt om die reden dan ook als eerste buurtbemiddeling aan:

Bij buurtbemiddeling worden de problemen tussen buurtbewoners aangepakt door middel van inschakeling van vrijwilligers in de buurt, die vooraf getraind zijn in conflictbemiddeling. In veel gevallen van burenoverlast gaat het daarbij om problemen, die veroorzaakt worden door als hinderlijk ervaren gedrag van buurtgenoten.

Wat niet wil zeggen dat je nooit mag protesteren of je rechten doen gelden, maar betrek de bredere context. Je woont tenslotte ook ná die boete en ná dat vonnis nog steeds naast elkaar.

Arnoud

Waar moet ik op letten als ik in 2025 een zzp’er wil inhuren?

Geplaatst op 7 februari 202531 januari 2025 in Ondernemingsvrijheid, 12 reacties

Een lezer vroeg me:

Voor een groot ict-project zijn we voornemens een ZZP-er in te huren. De Belastingdienst roept heel hard dat ze met ingang van 1 januari 2025 weer volledig gaan handhaven op het gebied van schijnzelfstandigheid. We vragen ons daarom af of het inhuren van een ZZp-er nog wel verstandig is. Waar moeten we op letten om problemen achteraf te voorkomen?

Even voor de duidelijkheid: hoewel de Rijksoverheid inderdaad overal spreekt van “volledige handhaving”, betekent dit niet dat iedere inhuur van een zzp’er individueel gecontroleerd gaat worden. Men bedoelt dat het moratorium op controle dat tot 2025 gold, ten einde is gekomen. Het personeelsgebrek dat maakt dat niet iedereen gecontroleerd kán worden, is niet ineens opgelost.

Het onderliggende probleem is dat bedrijven mensen zeggen in te huren als zzp’er, terwijl ze eigenlijk arbeidscontracten aan het sluiten zijn waarbij allerlei verplichtingen voor werkgevers worden genegeerd. En daar zit dus ook de oplossing: aantonen dat je écht een zelfstandig professional nodig had, in plaats van een werknemer wiens sociale premies je niet wilde afdragen.

Hoe toon je nu aan dat je écht een zzp-er in je bedrijf hebt rondlopen? De Hoge Raad heeft bepaald dat het gaat om de werkelijke situatie, en niet wat je op papier zet. Anders was het een kwestie van “ZZP-inhuurcontract” boven de arbeidscontracten zetten, en dat is natuurlijk niet de bedoeling.

Ik ben dan ook een beetje huiverig met contractentips te geven, want dat wekt de indruk dat je er tóch kunt komen met wat aanpassingen. Wat ik de meeste klanten adviseer is het contract door te lezen op dingen die een vrij ondernemer wél zou willen doen, en een werknemer niet. Denk aan

een ander het werk te laten doen
werktijden vaststellen
aanwijzingen geven hoe er gewerkt moet worden
hetzelfde doen als mensen die wél in dienst zijn
taken doen die structureel onderdeel zijn van de organisatie

Die laatste vind ik zelf scherp: meestal huur je iemand in voor andersoortige expertise. Een externe boekhouder, een securityspecialist of een klusjesman is bij een goederenvervoersbedrijf logisch om in te huren. Maar een vrachtwagenchauffeur doet precies het werk van de organisatie zelf. Hoezo is dan de ene chauffeur zzp’er en de andere in dienst? Ik zeg niet dat het niet kan, maar hier moet meer op tafel komen.

Ook andere zaken wegen mee, zoals of de zzp’er zich profileert als ondernemer. En dat betekent niet alleen “heeft een kvk en btw nummer” maar bijvoorbeeld ook “adverteert” of “is actief op Linkedin” of wat in jouw branche maar gebruikelijk is om klanten te werven. De Belastingdienst publiceert een vrij uitgebreid Afwegingskader waarin dit nader toegelicht wordt.

Arnoud

Mag een mail aan mij persoonlijk worden doorgestuurd naar collega’s?

Geplaatst op 5 februari 202531 januari 2025 in Ondernemingsvrijheid, Privacy, 9 reacties

Een lezer vroeg me:

Laatst ontving ik op het werk een persoonlijk aan mij gerichte e-mail, zonder anderen in de cc. Een collega meldde me dat de mail echter naar in ieder geval vier anderen is gestuurd. Deze vier personen hebben maar gedeeltelijk iets te maken met de inhoud van de e-mail. Ik was onaangenaam verrast toen ik dit ontdekte en ben erg benieuwd of dit zomaar mag.

De vraag vermeldt niet of het de afzender van die mail was of een ander die de vier personen de mail heeft geforward. Ik ga er maar even van uit dat er niet iemand in de inbox heeft meegelezen en de mail daaruit heeft gevist om door te sturen.

Mijn vermoeden is dat de afzender na het versturen dacht dat die andere vier het ook moesten weten, dus toen zijn eigen mail doorstuurde. (Hij had ook bcc kunnen gebruiken, maar dat komt vaker in de spambox of valt minder op.) Mogelijk stuurde deze het naar een andere persoon, die vervolgens de vier er bij haalde.

Hoe het ook zij, de AVG biedt hier natuurlijk geen direct antwoord op. Verder dan algemene criteria zoals zorgvuldigheid en dataminimalisatie kom je hier niet mee. Het komt dan dus neer op de vraag of het nódig was die vier te informeren, en of vanuit de positie van de persoon die de mail naar hen vier stuurde die afweging zo gemaakt kon worden. Hier antwoord op geven kan alleen als we concreet weten om welke mail het gaat en waarom die vier het moesten weten.

Stel de mail gaat over een goedgekeurde vakantie-aanvraag, en de vier zijn managers en collega’s die het werk moeten overnemen. Dan lijkt dit me volkomen normaal.

Stel het gaat over een klacht van de afzender richting de vraagsteller, en deze betrekt er alvast maar even HR, de directeur en de vertrouwenspersoon erbij. Daar zou ik iets meer moeite mee hebben, maar vanuit de afzender begrijpelijk als de klacht hem of haar hoog zit.

Stel de mail is een stukje feedback van de leidinggevende, die het deelde met een mede-manager die het naar vier collega’s doorstuurde. Dat zou ik te ver vinden gaan, daar lijkt me geen reden voor te bedenken. Maar wie dat wel kan: ja, dan zou het weer wel mogen.

Vragen als deze krijg ik vaker. Ik krijg sterk het gevoel dat mensen graag vooral een extra stok willen (de AVG) om te kunnen zeggen dat hier illegaal, onrechtmatig is gehandeld ongeacht wat er nu écht aan de hand is. Maar de AVG is geen apart kanaal waarmee je een andere uitkomst kunt forceren dan via de ‘gewone’ route. Als je manager iets legitiems deed, wordt dat niet ineens onrechtmatig als je het in AVG-termen nog een keer navertelt.

Arnoud

Als ik de deur opendoe voor de postbode, ben ik dan aansprakelijk voor kwijtgeraakte pakketten in de hal?

Geplaatst op 31 januari 202522 januari 2025 in Ondernemingsvrijheid, 6 reacties

Een lezer vroeg me:

Ik woon in een appartementencomplex op het laagste nummer en heb de bovenste bel bij de voordeur. Regelmatig bellen er bezorgers aan, die bij een andere bewoner moeten zijn maar geen gehoor krijgen. Ze laten dan soms het pakket achter in de hal. Ben ik dan aansprakelijk omdat ik ze binnengelaten heb?

Je bent natuurlijk nooit verplicht om pakketjes voor je buren aan te nemen, ik zeg het maar even. Maar áls je dat doet, dan krijg je een zorgplicht. Denk ik. Want ik blogde hier in 2021 over en was toen ook niet helemaal zeker:

De bewaarnemer moet bij de bewaring de zorg van een goed bewaarder in acht nemen, staat dan in artikel 7:602. Schendt hij die zorgplicht, dan moet hij de schade vergoeden. Alleen: dit zou impliceren dat je als buurman een contract sluit met de webwinkel. Dat voelt wat gekunsteld, nog los van het feit dat je het artikel niet terug gaat geven aan de webwinkel maar aan de buur. Het past dus niet helemaal bij wat de wet zegt, maar het lijkt er best veel op – de postbode vraagt je namens de afzender om dit pakket aan te nemen zodat de ontvanger het kan ophalen.

In dit geval ligt het nog iets anders. Je neemt niet eens het pakket aan, je doet de deur open zodat de pakketbezorger zhaar weg kan vervolgen. Dat had je ook kunnen doen toen je die aan zag lopen met een grote doos terwijl je net de hond ging uitlaten.

Interessant wordt het als de pakketbezorger vervolgens zegt “ha bedankt, deze is voor nummer 12, ik zet ‘m in de hal en wil jij hem straks meenemen?” en dat jij dan overdonderd “eh ja goed” mompelt. Ik denk dat je het pakket dan inderdaad aangenomen hebt.

Arnoud

Mag je in een winkel producten scannen of ze op internet goedkoper zijn?

Geplaatst op 30 januari 202521 januari 2025 in Ondernemingsvrijheid, 25 reacties

Via Reddit:

Zojuist ben ik in een winkel van een grote drank keten gewezen op het feit dat ik daar geen foto’s mocht maken van de wijnen. Ik scan de wijn in een bepaalde app in om te achterhalen wat de druifsoort. Er hangt om hoek wel een algemene sticker met wat regels (zoals verboden te eten etc) waaronder ook staat dat het verboden is om beeld/film materiaal te maken.

Voor wijn zijn er diverse apps waarmee je meer informatie kunt krijgen op basis van een scan van het etiket. Een bekende app is Vivino, maar er zijn er meer. (Dit gaat niet op streepjescode maar op beeldherkenning van het feitelijke etiket.)

Al heel wat jaartjes zijn er apps die wél streepjescodes herkennen, en dan op internet nazoeken waar dat product het goedkoopst te krijgen is:

De app van Prijsvergelijk werkt op basis van streepjescodes. De barcode wordt gescand met de camera van de telefoon en binnen enkele seconden worden de voordeligste aanbieders van het product getoond. De vergelijking en oriëntatie vindt mobiel plaats waarna de gebruiker een e-mail ontvangt met alle prijzen. Zo is het eenvoudig om vanaf de desktop verder te winkelen en is het ook mogelijk om bij webwinkels te kopen die nog geen mobiele site hebben.

Winkels vinden dit bepaald niet leuk, en ik heb dan ook genoeg signalen gekregen van mensen die de winkel uit gezet zijn vanwege dergelijk prijsvergelijken. Dit zal bij slijterijen niet anders zijn dan bij supermarkten.

Een winkel mag huisregels stellen, en wie daar wil winkelen moet zich daar aan houden. (De sanctie is dan er uit gezet worden natuurlijk, geen boetes of dat soort zaken.) Vanuit dat perspectief is “verboden foto’s van de producten te maken” net zo rechtsgeldig als “maak gebruik van een mandje/wagentje”.

Ik heb nog nooit een dergelijk expliciete regel gezien. Een verbod op foto’s maken in de winkel wel, maar het doel daarvan is meestal om de privacy van werknemers en andere shoppers te beschermen. Producten hebben geen privacy, dus voelt het wat gezocht om het scannen van een wijnetiket aan te pakken met een beroep op het fotografieverbod. In juridische termen: dat is een onredelijke uitleg van dat verbod, en dus niet rechtsgeldig.

Of een winkel je er uit mag zetten zonder overlast en zonder expliciete regel die je overtreedt, is een leuke vraag voor een minorscriptie bij een rechtenopleiding. Maar praktisch gezien doen ze dat, en daar heb je het mee te doen.

Arnoud

Is het misleiding om je boek stiekem door AI te laten schrijven?

Geplaatst op 29 januari 202521 januari 2025 in Ondernemingsvrijheid, 5 reacties

Diverse lezers tipten me dat auteur K.C. Krowne in diens boek een ChatGPT prompt had laten staan (afbeelding). “Zeker, hier is een herziene tekst waarin je hoofdpersoon meer relateerbaar wordt terwijl de tegenspeler net wat meer sexy neergezet wordt.” Onhandig, beschamend, zeker. Maar zo vroeg een lezer: is daar juridisch wat aan te doen? Ik verwacht een boek van een mens, en dan is het AI prut.

Al een jaar geleden gingen vele alarmbellen af dat met name de Amazon Kindle marketplace overspoeld wordt met goedkope snel uit AI getrokken boeken (ik weiger “geschreven” te gebruiken). Amazon heeft nu de regel dat je maar drie boeken per dag mag publiceren, en zelfs dat heeft beperkt effect.

Echt leuke verhalen lijken het me niet, zeker op roman-lengte:

Most AI systems struggle with maintaining structure and continuity in extended texts. Also, most LLMs tend to produce average prose without expert input, a phenomenon known as “regression towards the mean.” This trait, he said, often leads to a dilution of the writer’s unique style and voice, resulting in writing that readers might find unremarkable, dull, or lacking inspiration.

Het achterliggende businessmodel is simpel. Die ebooks gaan voor 99 cent per stuk, in de hoop dat mensen denken “toch even proberen” en dan voor die ene euro niet gaan klagen als het tegenvalt. En omdat je inkoopsprijs nul is (goed, 20 euro per maand abonnement), is elke euro dan leuke winst.

Mag het? De AI Act staat je toe om te verzwijgen dat je AI hebt gebruikt als je de uitvoer een menselijke redactieslag hebt gegeven (art. 50 lid 4 AIA). Sowieso hoef je bij fictie tekst geen AI-melding te plaatsen van die wet.

Ik snap de insteek van de lezer wel, dat dit wel eens een misleidende handelspraktijk of oneerlijke reclame kan zijn. In reclame misleiden over

de identiteit, hoedanigheden, bekwaamheid of bevoegdheid en degene door wie, onder wiens leiding of toezicht of met wiens medewerking de goederen zijn of worden vervaardigd of aangeboden of de diensten worden verricht.

is onrechtmatig, net als meer algemeen het weglaten van essentiële informatie die de consument nodig heeft bij een koop (art. 6:194 BW). Hetzelfde geldt voor misleidende handelspraktijken, waar ook zaken staan als “procédé en datum van fabricage of verrichting” (art. 6:193c BW).

Het enige is natuurlijk – er is nog nooit een zaak geweest dat het misleidend is dat een boek door een machine is afgescheiden in plaats van door een mens geschreven. Dat was in het zakelijk verkeer nooit echt mogelijk.

Of nou ja, je hebt natuurlijk al heel lang de praktijk van het ghostwriten, een ander inhuren om jouw werk te schrijven. Of dat nou echt veel voorkomt bij fictiewerk is mij nooit duidelijk geworden. In de VS lijkt het wel legaal te zijn, omdat daar in 2003 is uitgemaakt dat een onjuiste auteursvermelding geen merkenrechtelijke “valse oorsprongvermelding” is.

Zeker bij het uitgeven van onbekende auteurs kun je je afvragen wat de relevantie voor de consument is dat sprake was van een ghostwriter. Of je nu van onbekende auteur Jan dan wel Yanick een boek koopt, je zult eerder afgaan op de flaptekst of de reputatie van de uitgever dan op de biografie. En als de kans op feitelijke misleiding afwezig is, dan kan geen sprake zijn van juridische misleiding.

Bij AI prut ligt dat denk ik toch anders. Daar gaat het niet zozeer om welke naam er op staat, maar dat dit de belofte geeft dat er een mens aan gewerkt heeft. Dat staat voor enige kwaliteit en consistentie, en die belofte wordt dan geschonden door een pak papier waar ChatGPT uitvoer op staat.

Daar staat dan natuurlijk weer tegenover dat iedereen weet dat op de Kindle Marketplace mensen zelf mogen publiceren zonder screening, dus daar ga je sowieso al héél veel troep tegenkomen. Maakt het dan nog veel uit dat er AI troep tussen zit?

Arnoud

Hee, er zit ineens een generatieve AI in mijn online dienst en dat wil ik niet!

Geplaatst op 27 januari 202520 januari 2025 in Ondernemingsvrijheid, 15 reacties

Een lezer vroeg me:

Al geruime tijd maken wij zakelijk gebruik van Google Workspace. Sinds een paar dagen zit daar ineens hun AI Gemini bij, en dat is niet uit te zetten. En het abonnement wordt nog duurder ook! Kunnen ze dat zomaar doen?

Google is niet de enige, maar het viel velen wel op omdat Gemini voorheen als aparte betaalde dienst werd aangeboden. Maar iedere dienstverlener wil inhaken op de AI hype en stopt dus ergens een chatbot, schrijftool of andere al dan niet nuttige tekstgenerator in de dienst.

Regels rondom ict-dienstverlening zijn er nauwelijks, omdat vrijwel alle regels rondom dienstverlening in het algemeen decennia oud zijn. In Nederland komt het grofweg neer op je best doen (zorgplicht), recht op betaling hebben en alleen opzeggen bij serieuze redenen tenzij anders afgesproken. Voor de rest: spreek het samen af.

Nou zal er zelden in de voorwaarden staan dat men specifiek een AI mag toevoegen, maar algemene uitspraken over “de dienst kan van tijd tot tijd wijzigen” of “nieuwe features krijgen” vind je natuurlijk overal. En dan is de discussie snel klaar: ja, dat mag. (Heb je expliciet afgesproken dat je dienstverlening stabiel blijft in periode X, dan natuurlijk niet.)

Toegegeven, deze features zijn soms irritant en niet iedereen zit er op te wachten. Maar is het ook juridisch problematisch? Ik kan eerlijk gezegd vooralsnog geen reden bedenken, behalve als je werkt in een gereguleerde sector waar ieder informatiekanaal verdacht is. Als je bijvoorbeeld als medicus werkt en nu patiëntgegevens door Gemini laat herschrijven, dan is dat wel een dingetje. Of een architect die een briefing laat samenvatten; zijn daar wel geheimhoudingsafspraken over?

“Gebruik het dan niet” ligt dan als advies voor de hand, maar je kunt moeilijk van mensen verwachten dat ze actief die knopjes blijven vermijden. Laat het immers aan Big Tech over om die dingen verleidelijk te laten zijn. Dus daar zal de organisatie echt iets moeten gaan doen om de feature te blokkeren.

De prijsverhoging biedt misschien een haakje om op te mogen zeggen, en vaak staat in de voorwaarden van grote Amerikaanse SaaS apps al een maandelijkse opzegmogelijkheid. Dus weggaan zal vaak mogelijk zijn. Alleen: zomaar even van Google wegmigreren is niet iets dat je in een weekje doet, en naar welke dienst zonder AI ga je dan toe?

Arnoud

Onbetrouwbaar algoritme bestempelt jongeren als toekomstig crimineel, dat is toch verboden per 2 februari?

Geplaatst op 24 januari 202521 januari 2025 in Informatiemaatschappij, Ondernemingsvrijheid, 15 reacties

Politie en justitie gebruiken een algoritme om jaarlijks van tienduizenden jongeren te voorspellen of ze in de criminaliteit belanden. Dat meldde Follow The Money onlangs. Je gelooft het niet, maar die voorspelling blijkt er vaak naast te zitten, terwijl de gevolgen groot kunnen zijn. Ik gooi een knuppel in het hoenderhok: dit is een verboden AI praktijk per 2 februari.

Het uitgangspunt is precies zoals zo veel AI systemen worden ontworpen:

Preselect is getraind met de gegevens van vijfduizend jongeren die ooit zijn verdacht van een strafbaar feit. Het algoritme leerde op basis van deze politiedata te voorspellen welke minderjarigen wel en niet recidiveren. Jongeren met een profiel dat lijkt op dat van leeftijdgenoten die eerder opnieuw in de fout gingen, krijgen een hogere risicoscore.

Alles staat of valt met de data, en 5000 is dan niet denderend veel. Met een simpele regressie-analyse kom je daarmee nog wel een eind, maar je wilt natuurlijk wel dat je data mooi verdeeld is. Maar helaas:

Maar bepaalde groepen – 12-jarigen, meisjes en jongeren die voor het eerst in aanraking komen met de politie – zijn maar in kleine aantallen in deze ‘trainingsdata’ vertegenwoordigd.

Ik lees ook nergens hoe veel mensen er in gestopt zijn die nooit verdacht zijn van een strafbaar feit. Als je alleen verdachten in een dataset stopt, kan daar bij wijze van spreken uitkomen dat “melk drinken” een top-voorspeller is omdat ze dat allemaal doen.

Dit nog even los van de vraag of die 5000 data-items wel eerlijk gekozen zijn. Als de politie Mohammed van 14 als verdachte aanmerkt, en Jan-Hendrik met een waarschuwing wegstuurt, dan krijg je een ontzettend scheef beeld bijvoorbeeld. Het artikel meldt niets over de achtergronden van de verdachten, dus we weten het niet.

En dat is uiteindelijk het grootste probleem: niemand weet of en hoe goed dit werkt. Het algoritme staat niet in ons beroemde Algoritmeregister, waar het wel zou moeten gezien de hoge risico’s.

Zelf vind ik de link naar de AI Act nog wel interessant. We hebben het hier over een recidivevoorspeller, en daar Vond Men Wat Van bij het maken van die wet. Er zijn twee smaken: predictive policing op basis van profilering is verboden (art. 5.1(d) AIA) en recidiverisicobeoordeling en predictive policing anders dan op basis van profilering is hoogrisico (Annex III.6d AIA).

Dit is verboden per 2 februari:

AI-systeem voor risicobeoordelingen van natuurlijke personen om het risico dat een natuurlijke persoon een strafbaar feit pleegt te beoordelen of te voorspellen, uitsluitend op basis van de profilering van een natuurlijke persoon of op basis van de beoordeling van diens persoonlijkheidseigenschappen en -kenmerken;

Wat “profilering” dan weer is, staat in de AVG:

elke vorm van geautomatiseerde verwerking van persoonsgegevens waarbij aan de hand van persoonsgegevens bepaalde persoonlijke aspecten van een natuurlijke persoon worden geëvalueerd, met name met de bedoeling zijn beroepsprestaties, economische situatie, gezondheid, persoonlijke voorkeuren, interesses, betrouwbaarheid, gedrag, locatie of verplaatsingen te analyseren of te voorspellen;

En dat komt vrijwel letterlijk overeen met wat in het artikel wordt aangeduid met “Jongeren met een profiel dat lijkt op dat van leeftijdgenoten die eerder opnieuw in de fout gingen, krijgen een hogere risicoscore.” We voorspellen jouw gedrag (risico van plegen strafbaar feit) op basis van jouw persoonlijke aspecten in vergelijking met bekende data.

Het systeem doet een aanbeveling:

Het leidt tot een ‘score’ die een groot verschil kan maken: gaat de jongere naar Halt voor een leer- of werktraject, of wordt het een strafrechtelijke aanpak die hem of haar een strafblad bezorgt.

Is dat hetzelfde als “risico dat een natuurlijke persoon een strafbaar feit pleegt te beoordelen of te voorspellen”? Ja. Want dit moet je in de context zien: je gaat naar Halt als dat risico klein is en je krijgt een strafrechtelijk traject als het risico groot is. Want kennelijk(?) is ooit bedacht dat wie toch al gaat recidiveren, beter hard kan worden aangepakt.

Arnoud