Hoe kunnen we transparantie toevoegen aan besluitvormende algoritmen?

| AE 10424 | Innovatie | 16 reacties

Bestuursrecht en bestuursrechtspraak zijn onvoldoende in staat om ketenbesluiten te toetsen omdat onbekend is hoe een beslisregel exact is opgebouwd en tot welke resultaten deze leidt. Dat las ik in juristenblad NJB. Steeds meer beslisregels en algoritmes worden ingezet om tot formele besluitvorming te komen, maar daarbij is volstrekt onduidelijk hoe dat besluit tot standkomt. Dit op gezag van Marlies van Eck die promoveerde op dit probleem. En ja, dat is een groot probleem want juist bij juridische besluitvorming wil je weten hoe men tot de conclusie is gekomen.

Toevallig las ik vorige week ook nog een Amerikaans artikel waarin wordt voorgesteld een Algorithmic Impact Assessment in te voeren, vergelijkbaar met de milieuimpactanalyse die in de VS al verplicht is. Het doel van een AIA is het begrijpelijk maken van de besluitvorming (bij overheidsinstanties). Dit kent vier aspecten:

First, it would require any government agency that wants to use an algorithm to publish a description of the system and its potential impact. Second, agencies would give external researchers access to the system so they can study it. Third, it would require agencies to publish an evaluation of how the algorithm will affect the public and how it plans to address any biases or problems. And lastly, an AIA would require the agency to create a system for regular people to hold agencies accountable when they fail to disclose important pieces of information about an algorithm.

Deze eisen klinken zeer redelijk, maar het zijn behoorlijk pittige voorwaarden om als bedrijf aan te voldoen. Zeker omdat de techbedrijven die deze AI’s leveren, de werking van hun systemen als een onschatbaar waardevol handelsgeheim zien en daar dus geen inzicht in zullen willen geven. Dat geeft een patstelling: zonder disclosure geen mogelijkheid om te toetsen wat eruit komt, maar met disclosure geen bereidheid het systeem in te zetten voor de publieke taak.

Ik ben er nog niet uit hoe dat dilemma op te lossen. Dat Amerikaans artikel zegt dat het juist een prikkel tot innovatie geeft om een fairder systeem te ontwikkelen. Als je wel moet om überhaupt te mogen leveren, dan wordt het ineens een kans. Klinkt leuk, maar waarom zouden bedrijven die nu hun AI geheim houden dan ineens een open, transparant systeem opzetten?

Arnoud

Geen strafvervolging naast alcoholslot mogelijk

| AE 7482 | Regulering | 49 reacties

alcoholslotIemand die verplicht moet deelnemen aan het alcoholslotprogramma kan daarnaast niet ook nog strafrechtelijk worden vervolgd. Dat bepaalde de Hoge Raad dinsdag. De reden hiervoor is erg formeel: het alcoholslot wordt op grond van het bestuursrecht opgelegd, en bestuursrecht bestaat naast het strafrecht. Zo zou iemand dus twee keer gestraft worden voor hetzelfde feit, en dat is tegen een basisbeginsel uit het recht: “ne bis in idem”, in het Latijn.

Het alcoholslotprogramma bestaat sinds 1 december 2011 en wordt opgelegd aan bestuurders van motorvoertuigen die worden aangehouden met een hoog ademalcoholgehalte of die de blaastest weigeren. In die situatie kun je naar het CBR gestuurd worden, die je rijbewijs dan intrekt en pas weer vrijgeeft als je toestemming hebt gegeven voor het inbouwen van een alcoholslot zodat je niet meer kunt rijden wanneer je alcohol in je bloed hebt. Het inbouwen kost zeker 4000 euro en dat moet je zelf betalen.

Een prima idee, wat mij betreft, zelfs al zit er het nadeel aan dat je eventueel een vriend kunt laten blazen als je zelf dronken bent. Maar het juridische probleem ontstond toen bleek dat mensen náást het alcoholslot ook nog boetes of zelfs gevangenisstraf konden krijgen.

Een basisprincipe uit het recht is dat je niet twee maal gestraft mag worden voor hetzelfde. Een boete krijgen (of de cel in moeten) is een straf, dat is duidelijk. Maar is een alcoholslot dat ook? Het is in theorie vrijwillig, je moet er formeel voor kiezen en je mág nee zeggen – alleen heeft ‘nee’ zeggen tot gevolg dat je vijf jaar geen auto mag besturen, pas daarna krijg je dan je rijbewijs terug. Dat komt in essentie neer op een verplichte opgelegde maatregel, zeg maar net zo vrijwillig als dat je bij een gevangenisstraf te horen krijgt dat je maandagochtend je mag melden bij de hoofdingang van het cellencomplex.

De Hoge Raad bepaalt dat het alcoholslot dan ook in feite een straf is, net zo goed als een boete die je opgelegd krijgt voor rijden onder invloed. En dan krijg je dus twee keer straf als je zowel een boete krijgt als een alcoholslot, en dat mag niet. Dat de een formeel uit het Wetboek van Strafrecht komt en de andere uit het bestuursrecht, doet daarbij niet ter zake.

Een belangrijke reden lijkt te zijn geweest dat je bij het CBR niet zomaar in beroep kunt gaan, en ook dat men de omstandigheden van de verdachte niet meeneemt. Dat soort zekerheden zitten in een rechtszaak bij de strafrechter wel ingebouwd. Dus daar ligt dan wellicht de oplossing: pas het wetboek van strafrecht aan en benoem het alcoholslot als een expliciete straf.

Het voelt voor mij dan ook een beetje als een formeel spelletje: ja klopt, je hebt gelijk dat het 2x straffen is maar dit is toch iets dat vrij simpel op te lossen is. Maar ja, als het om autorijden en straffen daartegen gaat, dan wordt elk formeel puntje aangegrepen om het proces zo veel mogelijk te vertragen.

Arnoud

Is een belastingsoftwaremaker aansprakelijk voor valse aangiftes?

| AE 7467 | Ondernemingsvrijheid | 19 reacties

turbotax-intuit-softwareBelastingsoftwaremaker Intuit heeft de e-filing van belastingaangiftes via TurboTax tijdelijk stopgezet vanwege vermoedelijke fraude, las ik bij Slashdot. Criminelen zouden de identiteit van derden hebben gestolen en via TurboTax grootschalig valse aangiftes doen. Het bedrijf deed dit nadat de staat Utah 28 zekere fraudegevallen en 8.000 mogelijke fraudegevallen bij hen meldde. Wat voor mij de interessante vraag oproept: is Intuit aansprakelijk voor een frauduleuze belastingaangifte?

In principe is het natuurlijk aan de gebruiker hoe deze de software gebruikt. Als ik een dreigbrief typ in Word, is Microsoft daar niet aansprakelijk voor. Dat is ook logisch: hoe kunnen zij in vredesnaam zien wat ik typ, laat staan daaruit concluderen dat ik iets strafbaars doe? Pas als men zelf routines zou toevoegen waarmee aangezet werd tot strafbare feiten, zou dat anders komen te liggen.

Een verschil is wel dat TurboTax niet alleen een aangifte faciliteert, maar deze ook instuurt. Je aangifte gaat dan naar de servers van Intuit, en wordt vanaf daar aangeleverd aan de belastingdienst. (Bij ons werkt dat geloof ik iets anders: het pakket Elsevier Belasting Aangifte stuurt direct je aangifte naar de Belastingdienst, niet naar een Elsevier-server. Dit voelt ook iets logischer.)

Als je in die rol gaat zitten als bedrijf, dan kun je onder zekere omstandigheden aansprakelijk worden voor wat er door je servers heengaat. Een dienst zoals van Intuit valt onder dezelfde regels voor aansprakelijkheid als die voor internet- en hostingproviders, omdat de wet (art. 6:196c BW) spreekt van een “dienstverlener van de informatiemaatschappij” oftewel een partij die diensten op of via internet levert. Het faciliteren van belastingaangiftes is dat net zo goed als het hosten van informatie.

Het maakt daarbij uit of je alleen informatie doorgeeft (zoals een ISP doet, eventueel met een tijdelijke cache) of dat je informatie opslaat en doorgeeft (zoals een hostingbedrijf doet). De laatste kan namelijk aansprakelijk worden voor de opgeslagen informatie wanneer hij niet ingrijpt na een klacht; dit is waarom elke hoster een notice/takedown-beleid heeft.

Ik kan op de site niet ontdekken of Intuit informatie opslaat of direct doorgeeft, dus dat maakt de vraag een tikje lastig om te beantwoorden. Het meest logisch is dat de informatie meteen doorgegeven wordt, en dan is Intuit niet aansprakelijk voor wat er door haar servers heengaat. Ook niet als ze het een paar minuten vasthoudt. Dat lijkt me ook normaal want wat kún je doen in die situatie, hoe kun je doorgifte van data tegenhouden als je deze niet opslaat?

Als men het lange tijd opslaat, dan zou de vraag worden wanneer zij weet dat een aangifte onmiskenbaar frauduleus is, want dat is de standaard voor aansprakelijkheid bij hosting van opgeslagen informatie. Ik denk dat daar weinig situaties zijn anders dan a) de gebruiker klaagt en b) de Belastingdienst klaagt. Dus dat is relatief makkelijk voor Intuit. Wacht op een klacht van een van beiden en grijp dan in.

In beide gevallen mag de rechter overigens een bevel uitspreken om aan het onrechtmatig handelen een eind te maken. Ook bij internetproviders; wel moet het verbod natuurlijk proportioneel zijn en effectief, iets dat bij de Piratebayblokkades niet bewezen kon worden.

Ik twijfel wel. Móet een partij als Intuit aansprakelijk gehouden worden voor zulke valse aangiftes? Het voelt wat gezocht. Aan de andere kant, ze kiezen er zelf voor om er met hun servers tussen te gaan zitten dus dan zet je jezelf in een positie om in te kunnen grijpen. En als je het kunt, dan zullen er situaties komen waarin je het moet.

Arnoud

De rechtsgeldigheid van een niet te openen pdf-bestand

| AE 7209 | Privacy | 39 reacties

Die kende ik nog niet: “Het is immers algemeen bekend dat er, afhankelijk van bijvoorbeeld het e-mailaccount van de ontvanger of van de apparatuur die hij gebruikt of het netwerk op de plaats van ontvangst, problemen kunnen optreden bij het openen van bijlagen bij e-mailberichten.” Citaat uit een vonnis met een discussie over of een… Lees verder