Raad van State: Tweede Kamer hoeft broncode van debat-app niet openbaar te maken

| AE 12600 | Informatiemaatschappij | 1 reactie

De Tweede Kamer hoeft de broncode van de Debat Direct-app definitief niet openbaar te maken, meldde Tweakers donderdag. Dit is de einduitspraak in die zaak van laatst, waarin een IT’er al sinds 2018 probeert toegang te krijgen tot de broncode van de Debat Direct app van het parlement. De Raad van State oordeelt nu dat dit niet kan, omdat de ingezette wetten – de Wob en de Wet hergebruik overheidsinformatie – niet van toepassing zijn op de Tweede Kamer als orgaan. Het artikel bij Tweakers gaf vele reacties, inclusief speculatie waarom de overheid toch zo moeilijk zou doen met het achterhouden van deze informatie. Die nota bene feitelijk al online staat, want het is Javascript.

Mijn gevoel bij de zaak is dat men dacht, een Apple + Android app én een webapp dan kan iedereen erbij. Er is dan geen reden om ook nog de API’s vrij te geven. Misschien kortzichtig/naïef, maar ik zie het praktijkgerichte argument wel dat “iedereen er nu toch naar kan kijken”? De vraag om API’s is marginaal te noemen.

Je houdt dan het principiële punt over, en dat is natuurlijk een zeer geliefde kluif voor juristen. (Wat zegt een advocaat in een contractenzaak als eerste? “Pacta sunt servanda”. En als tweede? “Dit lijkt een eenvoudig geschil, maar het gaat om het principe”. De rechter weet dat het dan een lange dag gaat worden.)

Bij een principieel punt moet natuurlijk je algemene regels aandragen om je zaak te onderbouwen, en dan gaan andere belangen meespelen. Zoals hier, als je zegt “in principe heeft de burger recht op de broncode” dan moet je een wet zoals de Wet hergebruik overheidsinformatie erbij slepen. En dan is er een principieel verweer: de TK valt buiten die wet. Je wilt dan niet als TK het precedent scheppen dat je voor software wél onder die wet valt. Waarom niet? Uit principe niet. Dat werkt twee kanten op.

Vervolgens liet men de advocaten los en die zijn vanuit dat principieel verweer gaan terugvechten. Er is dan niemand die een stap terugdoet, zoals door te zeggen “jongens alles stáát al online” of “weet je wat, hier is een API definitie en onze endpoint staat hier, zullen we de rest van het geld besteden aan wat nuttigs”. Want het ligt onder de rechter, dus blijf je eraf.

Zoals ik wel vaker zeg, geen complot veronderstellen waarin simpele incompetentie of naïviteit genoeg is als verklaring.

Arnoud

Nederlandse politie geeft details over gebruik van Boston Dynamics-robot Spot

| AE 12586 | Informatiemaatschappij | 3 reacties

De Dienst Speciale Operaties van de Nederlandse politie heeft een Spot-robot van Boston Dynamics in gebruik genomen en die onlangs voor het eerst ingezet. Dat meldde Tweakers onlangs. Spot is een robothond met als unieke eigenschap zijn natuurlijke manier van bewegen en evenwicht bewaren, waarbij je dan moet zeggen dat het “AI aangedreven is”. De variant die onze politie inzet, kan niet autonoom opereren en wordt op afstand bestuurd. Doel is met name in gevaarlijke situaties zoals drugslabs veilig te kunnen opereren. Een mooie eerste stap, maar het roept natuurlijk wel de vraag op hoe zo’n robotpolitiehond (politierobothond?) dan in de toekomst ingezet kan worden.

Voor wie wil weten hoe de toekomst van AI in de Nederlandse gemeenschap eruit ziet, is de case van de gemeente Juinen een unieke kans. De gemeente is nu bijna een jaar bezig met de breedschalige implementatie van AI voor gemeente- en burgerprocessen. Zij heeft daarbij gekozen voor de insteek van wettig, ethisch en robuust conform de Europese Guidelines voor verantwoorde AI, en is tot veler verbazing gekozen tot een van de twintig steden die aan de wereldwijde competitie World City AI Ranking mee mag doen.

Als afsluiter van het eerste jaar is daarbij een onderzoek naar draagvlak gewenst. Onderzoeksbureau Akkermans c.s. heeft daarom in opdracht van Juinen haar burgers bevraagd naar hoe zij de belangrijkste AI projecten hebben ervaren. Gezien de inzet van deze robothond wil ik u één aspect alvast meegeven:

In Woon-zorgcentrum Dageraad wordt al geruime tijd gewerkt met zorgrobot Jorien, die de bewoners wat extra gezelschap biedt. Daarnaast werkt het Juridisch Loket met intake-lawyerbot Hugo en experimenteert het ziekenhuis met de inzet van Meredith de robotchirurg. De politie heeft een aanvraag ingediend om een autonome robothond (Koiro, lees meer) te laten patrouilleren. Al deze robots werken autonoom, dus zonder human-in-the-loop (HITL). Waar hebben de Juinense burgers het meest vertrouwen in, denkt u? En waarom?

  1. Zorgrobot Jorien
  2. Lawyerbot Hugo
  3. Robotchirurg Meredith
  4. Robotpolitiehond Koiro
Wie denkt dat zhij het antwoord weet, moet zich zeker inschrijven voor de tienweekse opleiding AI Compliance & Governance die in mei weer van start gaat!

Arnoud

Ombudsman over probleem etnisch profileren: draai bewijslast om

| AE 12589 | Informatiemaatschappij, Regulering | 81 reacties

De ombudsman heeft onderzocht hoe de overheid moet omgaan met klachten over etnisch profileren, las ik bij deze onafhankelijke instantie. De meest opmerkelijke uitkomst, volgens RTL, is het idee van de bewijslast omdraaien bij etnisch profileren. De burger mag verwachten, aldus het rapport, dat de overheid kan uitleggen op basis waarvan hij geselecteerd is en in hoeverre etniciteit daarbij een rol heeft gespeeld. Hiermee wordt voorkomen dat de burger zelf moet aantonen dat een uitkomst op basis van verboden etnisch profileren is gerealiseerd, iets wat gezien de black box van overheidsbesluiten vaak onmogelijk is. Sommigen zouden zeggen dat de AVG dit al eist.

Etnisch profileren is het gebruik van criteria als ras, huidskleur, nationaliteit, taal, geloof of afkomst bij opsporing of rechtshandhaving terwijl dat niet objectief te rechtvaardigen is, zo valt te lezen in het rapport “Gekleurd beeld” dat eerder deze week verscheen. Daarbij doet het er niet toe of dit de bedoeling was (zoals bij de toeslagenaffaire) of dat het een onbewuste bijkomstigheid is van bijvoorbeeld data-gedreven opsporing – dat de data een bepaalde wijk aanwijst, omdat de postcodes sterk correleren met een etnische verdeling. Waar het om gaat, is dat we als samenleving niet op basis van deze criteria willen handelen, ook al lijken ze goede voorspellers van het te bestrijden gedrag.

De reden is natuurlijk simpel: deze criteria zijn geen voorspellers.

Desondanks blijft het idee hardnekkig, met name nu we steeds vaker met data-analyses werken die dan objectief zouden zijn. Want ja, als uit de data blijkt dat criminelen vaker uit regio X komen, dan is dat een feit toch? Dan mag je daar best op sturen, toch? Nou ja, nee: je handelt dan omgekeerd, uit die data volgt niet dat mensen met afkomst uit regio X significant vaker crimineel zijn. Om eens wat te noemen. En zelfs als de correlatie beide kanten op klopt, dan nog heb je waarschijnlijk een onderliggende factor over het hoofd gezien. Net zoals ze in Maine al jaren het aantal echtscheidingen terugdringen door margarineconsumptie te bestrijden. De cijfers zijn overtuigend, immers.

Daar komt natuurlijk bij dat de AVG het gebruik van deze bijzondere persoonsgegevens eenvoudig verbiedt, tenzij met heel goede reden die wettelijk is vastgelegd (en met waarborgen). Nou, dat kun je vergeten.

En dan komen we bij het punt van de bewijslast. Inderdaad moet je normaal als burger aantonen dat je onrecht is aangedaan, en dat is lastig bij zoiets groots als een onderzoek naar uitkeringsfraude (want een fraudepercentage van 0,2% van de uitkeringen is natuurlijk een hele goede reden voor strikte handhaving, dit in tegenstelling tot zeg btw fraude die qua Europese omvang gelijk is aan het totaal van de uitkeringen in Nederland). Maar de AVG draait de bewijslast zelf al om, het voor mij cruciale artikel 5 lid 2:

2. De verwerkingsverantwoordelijke is verantwoordelijk voor de naleving van lid 1 en kan deze aantonen (“verantwoordingsplicht”).
Dit betekent dus dat je te allen tijde in staat moet zijn om uit te leggen hoe je tot bijvoorbeeld je keuze voor nader onderzoek bent gekomen. En dan mag het niet blijven bij mooie woorden over zorgvuldig gekozen datasets of historisch gevalideerde gegevens maar moet er echt een stappenplan bij, hoe kwam de conclusie tot stand en welke gegevens zijn daar precies bij gebruikt. Een simpele is “een willekeur-generator zegt bij 10% van de mensen ‘Nader controleren’ en dat was u”. Maar wat ook kan, is zeggen “we hebben alle uitkomsten gecorreleerd met etnische afkomst en zagen geen uitschieters”, daarmee toon je ook aan dat daar niet naar wordt gekeken.

Wat de meeste mensen willen, is gehoord worden en excuses krijgen als het misgegaan bleek:

De wijkagent kan als wit persoon nooit weten hoe het is. Maar hij kan wel zeggen: wat vervelend en naar dat dit u is overkomen. Dat hij mij het gevoel geeft: ik hoor u en zie u. Ik kan het niet oplossen, maar wel uw verhaal serieus nemen.
Helaas blijkt nou juist dát het moeilijkste om voor elkaar te krijgen. Maar misschien als we beginnen met die data-analyse en omgekeerde bewijslast, dat we dan de goede richting op geduwd worden.

Arnoud

Moet mijn internetprovider mijn mobiele data kosten vergoeden wanneer ik geen toegang internet heb?

| AE 12580 | Informatiemaatschappij | 17 reacties

Via Reddit: Ik heb glasvezel er is sinds [afgelopen woensdag] ergens een breuk in de kabel, het bedrijf zegt dat het nog wel 5 werkdagen (t/m volgende week woensdag) kan duren. Momenteel zitten er bij mij thuis 3 mensen in thuisquarantaine die online lessen moeten volgen. Vandaag is dat geregeld door alle devices op een… Lees verder

Pleeg je handel in voorkennis als je doet alsof je voorkennis verkoopt op het dark web?

| AE 12575 | Informatiemaatschappij | 11 reacties

Een intrigerend persbericht van de Amerikaanse beurstoezichthouder: “The Securities and Exchange Commission today charged James Roland Jones of Redondo Beach, California, with perpetrating a fraudulent scheme to sell what he called “insider tips” on the dark web.” Jones deed zich daar voor als een insider bij diverse beursgenoteerde bedrijven (en/of in contact met insiders) om… Lees verder

Aangeklaagd worden door je (oud) werkgever voor een hobbyproject, kan dat?

| AE 12573 | Informatiemaatschappij | 12 reacties

Een beetje mysterieus bericht bij Tweakers: De motivatie om deze topic te starten komt naar aanleiding van een bericht [link weggehaald]. Kort samengevat: Dennis en Ronald werkten bij een softwarebedrijf. Ze waren met een hobby-project bezig en hun (inmiddels) oud-werkgever klaagt ze aan voor 1 miljoen. Gebeuren dit soort zaken wel vaker? Ik ben nu… Lees verder

Kun je de stagiair aansprakelijk houden voor 600 te vervangen sloten?

| AE 12550 | Informatiemaatschappij, Privacy | 20 reacties

We kennen allemaal het stagiair-excuus: bij de meest uiteenlopende problemen (vaak de beschamende) wordt er dan gauw gezegd dat de stagiair het heeft gedaan. Lekker makkelijk, denk ik dan altijd, het is jóuw stagiair dus daar had je wel even mogen opletten. Maar bij dit Duitse geval weet ik het even niet. Deze stagiair was zo… Lees verder

Ombudsman: overheid moet burger bij gebruik algoritmen centraal stellen

| AE 12540 | Informatiemaatschappij, Innovatie | 4 reacties

Bij het gebruik van data en algoritmen moet de overheid burgers centraal stellen, aldus de Nationale ombudsman die hiervoor een ombudsvisie ontwikkelde (via). Onder de titel “Een burger is geen dataset” dringt de ombudsman aan op transparantie, duidelijkheid en bereikbaarheid bij problemen. Je zou zeggen dat dit voor zich spreekt bij inzet van algoritmes, maar nee. Ik weet… Lees verder

Mag je een elearning blijven geven als de docent ondertussen overleden is?

| AE 12533 | Informatiemaatschappij, Uitingsvrijheid | 12 reacties

Via Twitter: HI EXCUSE ME, I just found out the the prof for this online course I’m taking died in 2019 and he’s technically still giving classes since he’s literally my prof for this course and I’m learning from lectures recorded before his passing ……….it’s a great class but WHAT Het blijkt te gaan om… Lees verder

Toezichtsraad: Facebook moet vier onterecht verwijderde berichten herstellen

| AE 12488 | Informatiemaatschappij, Uitingsvrijheid | 19 reacties

Een onafhankelijke toezichtsraad van Facebook heeft in zijn eerste vijf in behandeling genomen zaken geoordeeld dat Facebook vier keer een foute beslissing maakte door berichten van zijn sociale media te verwijderen. Dat meldde Nu.nl onlangs. Gebruikers kunnen bij de toezichtsraad aankloppen als zij vinden dat Facebook actie onderneemt die indruist tegen de vrijheid van meningsuiting en… Lees verder