Slim speelgoed, grote vragen: Ben je klaar voor de juridische puzzel?

Oké, deze landt op je bureau: een nieuwe lijn slim speelgoed, uitgerust met AI-functies, zoals stemherkenning en gepersonaliseerde interactie, waardoor kinderen een bijna levensechte ervaring beleven. De vraag aan jou: welke compliance issues moeten we aan voldoen? AVG, AI Act, AI Liability Directive, Cyber Security Act, noem ze maar op.

Door gebruik te maken van deep learning kan speelgoed de voorkeuren van het kind herkennen en daarop reageren. Bovendien kunnen updates via het internet worden gedownload om de functionaliteiten te verbeteren. Feedback kan worden gedeeld en kinderen kunnen samen spelen en unieke nieuwe trucs en toepassingen met elkaar delen. Als ouder zou ik hier best enthousiast van worden, als jurist zie ik hier ahem nogal wat vragen. Bijvoorbeeld:

1. Hoe borg je als speelgoedfabrikant dat de AI-functies van het speelgoed in lijn zijn met de AI Act, zoals transparantie, fairness en mensenrechten?
2. Welke nieuwe aansprakelijkheidsrisico’s komen er onder de AI Liability Directive?
3. Hoe stel je vast dat het speelgoed veilig is tegen cyberaanvallen, vooral met de aankomende eisen van de Cyber Security Act?
4. Hoe wordt de privacy en persoonsgegevens van kinderen beschermd?
5. Moeten de onderliggende API’s toegankelijk zijn voor concurrenten, op grond van de DSA, DMA of aankomende Data Act?

Voor juristen is het van cruciaal belang om techniek te begrijpen en dit te kunnen combineren met wetgeving. Daarom biedt mijn ICTRecht Academy een aantal specifieke opleidingen toegespitst op de ICT-praktijk.

De eenjarige opleiding Specialist ICT-recht
De specialisatie Beginselen ICT-recht
De specialisatie Contracteren in ICT
De eenjarige opleiding Specialist Privacyrecht
De specialisatie Beginselen ICT en Privacy
De specialisatie Data, AVG en ICT

De opleidingen gaan vanaf eind september van start. Je leert blended: met webinars en e-learnings maak je je de basis eigen en ontwikkel je je skills, en met praktijkdagen ga je casusgestuurd de diepte in.

Zie ik je daar?

Arnoud

Eén reactie

Wat een interessante vraag is, is hoe het zit met de privacy van kinderen en wat hun ouders mogen weten. Want een smart toy dat alles onthoudt wat het kind doet verzamelt best veel gegevens. En de vraag is of de ouders toegang mogen hebben tot deze gegevens. Want hebben kinderen ook recht op privacy? Want kinderen doen wel eens dingen waarvan ze niet willen dat hun ouders ervan weten, maar verder eigenlijk onschuldig zijn. Zeker als de pubertijd begint kan het zijn dat hun handen delen van hun lichaam gaan “onderzoeken”. Dat wil je als ouder niet eens weten, maar dergelijke apparaten kunnen het wel waarnemen en onthouden… Ik moet opeens denken aan een “Harry Potter” speelgoed-bezem. Die had batterijen en gaf een meer realistisch gevoel voor kinderen die erop speelden door rond te “vliegen” op die bezem. Het ding vibreerde, dus. Veel ouders kochten het voor hun kinderen, niet beseffende dat kinderen nu een vibrator tussen hun benen hielden, met bepaalde “gevolgen”. Dus punt 6: mogen de ouders en voogd bij de informatie komen op het slimme speelgoed?

Beantwoorden

Nuttige reactie, +1! (1)

Eén reactie

Geef een reactie Reactie annuleren