Ius Mentis

Een lezer vroeg me:

In ons bedrijf is er geen duidelijk beleid over het gebruik van AI. Initiatieven om de efficiëntie te vergroten worden echter wel aangemoedigd, en in het kader daarvan gebruikt een van mijn collega’s nu bij voorkeur AI om sollicitanten te screenen. Ik ben daar persoonlijk geen voorstander van omdat ik niet weet wat er van die informatie uit de sollicitaties dan bij de AI blijft hangen. Hij claimt dat dit een standaardprocedure is en dat sollicitanten weten dat ze dit tegenwoordig kunnen verwachten en dat we niet in een ‘gevoelige’ sector werken (retail). Hoe zit dit juridisch gezien?

Deze vraag is een schoolvoorbeeld van het al langer bestaande concept van ‘shadow IT’, persoonlijke initiatieven om IT-diensten of apps in te zetten voor het werk buiten de officiële kanalen om. Een leuke manier om nieuwe dingen te ontdekken (die best positief voor efficiëntie of omzet kunnen uitpakken) maar ook een manier om keihard tegen deuren aan te lopen.

In dit geval is dat de AI Act, omdat het met AI screenen of beoordelen van sollicitanten hoogrisico is onder die wet. Dat mensen dat zouden moeten weten of dat iedereen dat doet, is daarbij niet relevant. Je krijgt een berg complianceverplichtingen op je dak als organisatie, en je kunt beboet worden als je die niet naleeft. Waar is je bias evaluatie? Welk kwaliteitsbeheersysteem heb je ingericht om te borgen dat prestaties op niveau blijven? Welke vorm van uitleg geef je sollicitanten over de AI-beoordeling?

Uiteraard is er ook nog de AVG, die evenzo wat te zeggen heeft over persoonsgegevens van sollicitanten in third-party tools stoppen zonder op zijn minst een verwerkersovereenkomst met geheimhoudingsbeding. Daarnaast zegt de NVP Sollicitatiecode sinds 2025 dat je duidelijk moet zijn naar de sollicitant toe over AI-gebruik, en dat je tool voldoet aan de AI Act.

Het belangrijkste voor mij is echter dat je als organisatie de consequenties krijgt als een medewerker op die manier eigenzinnig opereert. Daar helpt dan geen “het is maar een individuele keuze” of “de impact op mensen valt mee”. Ik snap de keuze voor zo’n initiatieven-beleid, maar dat moet wel verbonden worden aan begeleiding en controle.

Arnoud

Zeven Nederlandse IT-bedrijven gaan samenwerken om een alternatief te vormen voor de grote Amerikaanse cloudpartijen die nu de markt domineren. Dat meldde NRC woensdag. Het gaat om technische standaardisatie voor data-soevereniteit, en wederzijdse garanties voor elkaars verplichtingen naar klanten.

NRC vat het bekende verhaal nog eens kernachtig samen:

Sinds Trump opnieuw aan de macht is in de Verenigde Staten wordt veel gepraat over de noodzaak om digitaal onafhankelijker te worden. De politieke wens om minder te leunen op de grote Amerikaanse techspelers is sterk, maar in de praktijk komt daar nog weinig van terecht. Overheden en bedrijven zijn bang voor verstoringen in hun dienstverlening als ze overstappen naar kleinere aanbieders. Of zien op tegen de technische complexiteit van zo’n transitie.

Een zeer recente gids van de Dienst ICT Uitvoering (DICTU) introduceert een hulpmiddel om digitale soevereiniteit bij de inkoop door het Rijk te toetsen. Maar het kernprobleem blijft: niemand in Nederland, of zelfs Europa, is van het niveau Microsoft of Amazon. En dus ben je duurder en kom je minder goed uit de verf in je inschrijving.

Met deze serie afspraken ontstaat in feite een groot samenwerkingsverband met meer slagkracht. Een verboden kartel is dit niet, als ik het juridisch bekijk. Doel van de samenwerking is niet partijen buiten te sluiten of de prijzen kunstmatig te verhogen. Het gaat om wat de mededingingswet (artikel 6 lid 3) noemt:

verbetering van de productie of van de distributie of tot bevordering van de technische of economische vooruitgang, mits een billijk aandeel in de daaruit voortvloeiende voordelen de gebruikers ten goede komt, (…).

Standaardisatie op open standaarden is wat in het jargon precompetitief heet: daar wordt niet op geconcurreerd, iedereen kan daar hetzelfde gebruiken.

De werkelijke issue zit dieper, ik citeer weer NRC:

De bedrijven denken er met hun samenwerking voor te kunnen zorgen dat meer werk in Nederland blijft. Jurgen de Jong, verantwoordelijk voor de cloudtak van KPN: „We zien dat soevereiniteit vaak nog geen onderdeel is van aanbestedingen. Terwijl het hier gaat om strategische waarde: kennisopbouw in Nederland, grip op data en continuïteit.” Baauw: „Je kunt allemaal voor je eigen taartpunt gaan, of samen de taart groter willen maken.”

En dat is natuurlijk de kern. Inkoop van ict, zeker bij de overheid, hoort soevereiniteit te benadrukken. Maar momenteel is dat juridisch nog ongeregeld.

Arnoud

Een chatbot die ten onrechte beweert dat het bedrijf geen telefonische klantenservice aanbiedt, is een misleidende handelspraktijk. Dat berichtte het Zweedse advocatenkantoor Delphi onlangs. De Zweedse mededingingsrechtbank legde een verbod op inzet van deze bot op tot het euvel was gefixt, op straffe van een boete van ongeveer 45.000 euro.

De zaak was aangespannen door de Zweedse consumentenombudsman (wat goed dat die bestaat) op basis van klachten. De kern:

De AI-chatbot van mobiele operator Hallon vertelde klanten die naar contactmogelijkheden vroegen dat Hallon “geen telefonische klantenservice aanbiedt” – hoewel het telefoonnummer wel in de algemene voorwaarden stond vermeld.

De rechtbank is het met de ombudsman eens dat dit misleidend is, omdat je als consument redelijkerwijs mag geloven dat dit klopt. Dan ga je minder snel je abonnement opzeggen of in discussie over een factuur. En bovendien: dat mág helemaal niet van het Europees consumentenrecht, geen telefoonnummer hebben.

Op zich allemaal heel logisch, maar kennelijk is het toch iets vernieuwends omdat het nu een chatbot is in plaats van een stagiair. De achterliggende regel zou toch simpel genoeg moeten zijn: jij bent aansprakelijk voor elke uiting die vanuit je organisatie wordt gedaan. Dat je technologie inzet die dat niet foutloos kan, komt voor jouw risico.

Arnoud

Een lezer vroeg me:

Op 16 maart verschenen de nieuwe voorwaarden van Ziggo. Mag ik nu opzeggen omdat ze de voorwaarden wijzigen? Of zitten daar nog eisen aan?

Met enige regelmaat wijzigen algemene voorwaarden van grote dienstverleners zoals internet- en telefonieproviders. Dat geldt dan ook voor vaste klanten, want vrijwel altijd staat er een wijzigingsbeding in de oude voorwaarden.

Dat voelt oneerlijk (en is het natuurlijk ook), want je ging het contract aan onder bepaalde voorwaarden en die worden nu ineens anders. Daarom zijn er diverse wettelijke regelingen die bepalen dat je een opzegrecht krijgt.

Ziggo is hier coulant: bij ongeveer elke wijziging bieden ze een opzegoptie aan. Maar laten we het eens juridisch bekijken: wanneer heb je een wettelijk recht van opzeggen?

De eerste eis is natuurlijk dat de wijzigingen de voorwaarden betreffen waaronder jij zaken met het bedrijf doet, en dat ze jouw contract raken. Dit moet het bedrijf dan ook duidelijk aan je melden, en wel minstens dertig dagen voordat de wijzigingen in werking treden.

De tweede is dat de wijziging voor jou nadelig moet uitpakken. Artikel 7.2 Telecommunicatiewet heeft het alleen over “voorgenomen wijziging van een beding”, maar je moet dit lezen binnen de Europese Richtlijn waar dit uit komt (artikel 105 EECC):

(…) tenzij de voorgestelde wijzigingen uitsluitend in het voordeel zijn van de eindgebruiker, van strikt administratieve aard zijn en geen negatieve gevolgen hebben voor de eindgebruiker, of rechtstreeks worden opgelegd door het Unie- of het nationale recht.

Dit moet dan voor iedere voorwaarde gelden, het is niet zo dat drie voordelige wijzigingen één negatieve goedmaken. Dit is ook hoe de ACM het interpreteert. Wanneer een voorwaarde negatief is, moet objectief maar per geval worden bekeken. ‘Objectief’ betekent hier vooral “los van jou als persoon”.

Het is hierbij verplicht om expliciet de wijzigingen toe te lichten, zodat je niet zelf hoeft te zoeken op welke woorden anders zijn. Als ik dat document lees, zie ik vooral administratief geneuzel, maar een paar dingen springen er uit:

• De definitie van ‘fair use’ is veranderd: je mag diensten alleen gebruiken waarvoor deze zijn bedoeld, en niet op een manier die in strijd is met de wet. Nieuw is de toevoeging dat je respectvol met Ziggo-medewerkers omgaat.
• Het prijsveranderings-beding is aangepast. Voorheen stond er een algemeen onbegrensd recht om de (hoogte van de) vergoedingen te wijzigen. Dit is nu beperkt tot maximaal 4% van de vaste maandelijkse kosten, of € 2,75 per maand en moet uit een kostenverhoging, heffingen of nieuwe diensten volgen.
• Ziggo mag een klacht buiten beschouwing laten als deze gebaseerd is op feiten van meer dan 12 maanden geleden.
• Arbitrage door het beruchte e-Court is niet meer mogelijk.

Ik zie eerlijk gezegd niet meteen hier een evident nadelige wijziging in, afgezien van het fair-use beding. Dus die pakken we er even bij:

We leveren onze diensten onder de voorwaarde dat jij deze op een eerlijke manier gebruikt en je niet als een onredelijke gebruiker gedraagt. Dit noemen we ‘fair use’. Fair use houdt onder andere in dat: a je de diensten niet commercieel gebruikt. b je de diensten alleen gebruikt waarvoor deze zijn bedoeld, en niet gebruikt op een manier die in strijd is met de wet. c je geen overbelasting van ons netwerk of overlast voor andere gebruikers veroorzaakt. d je geen excessief gebruik maakt van de dienst. Een voorbeeld hiervan is als je twee keer meer data verbruikt dan de 10% grootverbruikers. e je respectvol omgaat met onze medewerkers, en je niet discriminerend seksistisch, of agressief gedraagt

In de oude voorwaarden heette dit nog “oneigenlijk of excessief” gebruik. Daar was geen definitie voor, behalve bij telefonie waar langdurig de verbinding open laten staan of vele korte gesprekken in korte tijd voeren golden als excessief.

Wel stond er in de oude voorwaarden: “De beoordeling van excessief en oneigenlijk gebruik ligt geheel bij Ziggo.” Dat is volgens mij zelfs een oneerlijk (zwartelijst) beding (art. 6:236 sub d BW), dus goed dat dat aangepast is.

Over het algemeen is de nieuwe definitie van ‘fair use’ dus voordeliger voor de klant dan de oude “oneigenlijk of excessief gebruik” definitie. Of staan er stiekem toch dingen in die nieuw en nadelig zijn?

1. Commercieel gebruik: dit stond al in de oude voorwaarden als verbod (artikel 10 lid 3).
2. Alleen bedoeld en geen illegaal gebruik:  dit is het oude “oneigenlijk” criterium (artikel 21 lid 1).
3. Overbelasting/overlast: dit is het oude “excessief of overlast” criterium (artikel 21 lid 1).
4. Excessief: dit stond er dus al, maar het voorbeeld van “2x de top 10%” is nieuw.
5. Respect naar de medewerkers: dit is inderdaad echt nieuw.

Beleid over excessief is, is min-of-meer wettelijk verplicht: al in 2021 bepaalde de rechter dat je beleid duidelijk kenbaar moet zijn (iets waar ik me sinds 2008 over opwind). Dus dat kun je nog als ‘neutrale wijziging’ opvoeren.

Ik zet vraagtekens bij of “2x de top 10% is automatisch excessief” een negatieve wijziging is. Hiervoor zou je eigenlijk moeten bepalen hoe vaak dat voorkomt, want excessen zijn naar hun aard zeldzaam.

Het respectbeding negatief noemen komt bij mij niet door de giecheltoets, omdat je het objectief moet lezen. Er is geen rechtens te respecteren belang om respectloos met de helpdesk te mogen bellen.

Dus: opzeggen mag, als je kunt hardmaken dat de “2x de top 10%” regel objectief gezien negatief uitpakt voor de consument. Wie suggesties heeft, roept u maar!

Arnoud