Een lezer vroeg me:
Steeds vaker zie ik dat bedrijven bij klantenservice een AI-chatbot inzetten als eerste lijn. Die hebben vaak ook toegang tot je bestellingen en andere gegevens. Ik maak me daar zorgen over, wat zeggen de AVG en AI Act hierover?De trend om menselijke ondersteuning te vervangen door chatbots is niet te stoppen, zo lijkt het. (Hoewel ze het bij Klarna een “flop” lijken te vinden.) Maar laten wij ons focussen op de juridische kant: mag dit?
De AI Act stelt eigenlijk geen eisen aan AI voor klantenservice, afgezien van de algemene eis (artikel 50) dat het duidelijk moet zijn voor de klant dát men met een bot communiceert. Dat moet expliciet en in het gesprek, dus niet een zinnetje in de algemene voorwaarden of ergens in de veelgestelde vragen. En afhankelijk van de lengte van het gesprek kan het nodig zijn deze boodschap periodiek te herhalen.
Lastiger ligt het met de AVG. Een AI-tool die een klantdossier leest, verwerkt daarmee persoonsgegevens. Het doel daarvan is legitiem, namelijk de klant helpen met een probleem bij diens aankoop of ander contract. Een menselijke medewerker zou dit net zo goed mogen. En in de praktijk zie je ook dat de tool er pas bij kan als jij een ordernummer of andere referentie kan geven, wat je kunt zien als een vorm van instemmen.
Een grotere zorg is wie er allemaal nog méér toegang heeft tot die persoonsgegevens. Want dat is wel even anders dan bij de menselijke medewerker. Veel van deze technologieën worden door een leverancier beschikbaar gesteld, en als je dan een paar tegels omdraait kom je al snel bij een Amerikaans foundation model zoals OpenAI’s GPT familie.
Oftewel: alle chats mét klantdossier gaan naar Amerika en dat is zoals bekend AVG-technisch een lastige situatie. Formeel mag het, om de simpele reden dat de EU heeft gezegd dat de VS een met Europa vergelijkbare bescherming van persoonsgegevens heeft. En tot men dat formeel intrekt, is er geen vuiltje aan de lucht.
(Sommigen zouden nu de woordgrap maken dat de lucht vol met stratocumuli zit.) We weten allemaal dat dit nergens op slaat, eigenlijk al sinds het Safe Harbor regime uit 2000. Maar dit is waar juridisch en werkelijkheid afscheid nemen: puur praktisch is het een probleem, maar juridisch klopt het gewoon. Althans, totdat de Europese Commissie of het Hof van Justitie zegt van niet. Want dan moet per direct iedere verbinding met alle Amerikaanse dienstverleners worden gestaakt.
Voor de webshop met AI-klantenservice is dit een nogal abstract en ver verwijderd probleem, en dat snap ik. Je kunt hier helemaal niets aan doen en je zocht alleen een handige extra chatbot omdat je zelf niet 24/7 achter je webshop kunt zitten typen. Mee bewegen met de massa en vooral met al je concurrenten is dan ook prima in die situatie. Uiteindelijk is de situatie met de VS een politiek probleem en niet jouw individueel juridisch probleem.
Uiteraard zoek je wel een goede dienstverlener die de beveiliging goed op orde heeft, zodat er niet bijvoorbeeld chatlogs mét bestelgegevens ergens bij de leverancier terecht komen en langdurig bewaard blijven.
Arnoud
Een nuttige toevoeging is dat de chatbot wel namens de webshop bindende beloftes doet, zoals in Chatbot zat fout: Air Canada moet reiziger compenseren. Dan doet je twijfelen of een chatbot integreren een slim idee is.
Formeel juridische toevoeging: De Air Canada zaak is een Canadese (arbitrage?) zaak beoordeeld naar Canadese wetgeving. Het is dus geen direct precedent voor een Nederlandse rechter, al zie ik niet in hoe een Nederlandse rechter in een vergelijkbare zaak tot een ander oordeel zou kunnen komen.
Dat foundational model van OpenAI kan je tegen betaling op eigen servers of in een ‘Europese cloud’ draaien. OpenAI heeft dan geen enkele toegang tot de data. Dat is ook hoe wij het in de praktijk gebruiken; er gaat geen informatie naar buiten de EU.
Je kan natuurlijk discussies over achterdeuren in het model voeren, maar dan graag wel met bewijs dat die achterdeuren bestaan.
Wat is, in software-termen, zo’n “model” eigenlijk? Moet ik dan denken aan een gigantische lap code met if-then statements? Een Python script met een enorme lijst met datapunten?
De weights & biases van het netwerk, opgeslagen als een hoop tensors. Bijv. voor Deepseek-R1: https://huggingface.co/deepseek-ai/DeepSeek-R1/tree/main
Dank je! Ik moet weer gaan bijleren hoe dit nu werkt.
Tensors zijn simpel gezegd n-dimensionale generalisaties van een matrix.
Je kan dus beginnen met het oppoetsen van je lineaire algebra kennis.
Voor tensors is dit een leesbaar stuk: https://wandb.ai/vincenttu/intro-to-tensors/reports/A-Gentle-Intro-To-Tensors-With-Examples–VmlldzozMTQ2MjE5
Hoe draai je dit op je eigen servers, dan? Ik kan er nergens iets over vinden dat OpenAI deze optie aanbiedt.
In ons geval gewoon contact opnemen met OpenAI en onderhandelingen openen over een on-site licentie.
Wellicht voor kleinere ondernemingen niet haalbaar, daar heb ik geen inzicht in. Maar er zijn andere LLM, die nog niet zo geavanceerd zijn maar prima voldoen voor een chatbot, die je zelfs gewoon thuis lokaal kan installeren.
Oh, AI is zo’n enorm krachtige tool. Ik gebruik momenteel Google App Builder om een React App te genereren die weer een C# template genereert voor diverse services die ik bouw. Deze App toont de volledige code van deze Web API’s als een Visual Studio project en heeft een chatbot ingebouwd die precies uitlegt wat de code doet, als de programmeur vragen stelt. En daarmee heb ik een hele handige documentatie voor mijn projecten. Zeer handig, daar deze het gebruik van JWT en JWKS daarmee verduidelijkt aan iedereen. De gebruiker kan daarbij enkele aanpassingen maken en de code vervolgens downloaden en dan zelf verder bouwen.
De chatbot zorgt ervoor dat gebruikers geen documentatie meer hoeven door te zoeken maar gewoon vragen kunnen stellen. 😀
En Google bouwt de app voor mij, dus het is nog best handig om te bouwen. Daarbij worden allerlei templates voor de code gebruikt zodat ik de C# code zelf kan aanpassen en de App dit dan meeneemt.
Maar het gebruik van een chatbot heeft ook nadelen, want AI kan hallucineren en dus verkeerde antwoorden geven. Voor mijn app geen groot probleem, maar een webwinkel met een chatbot kan hierdoor opeens bindende afspraken maken met de klant, want de chatbot representeert de winkel. Dus als ik de chatbot weet te overtuigen dat deze mij een product gratis gaat geven dan is dat voor de winkel natuurlijk erg vervelend. 😀
Dus al die webwinkels met chatbots… Beseffen jullie dat deze bots je veel geld kunnen kosten als deze beloftes doet namens jullie? 🙂
En vooral pijnlijk als ineens een heleboel klanten dat doen…