Categorie: Innovatie

About Innovatie

Subscribe Feeds

NVB: digitale euro heeft weinig meerwaarde voor burgers en bedrijven

Geplaatst op in Innovatie, Ondernemingsvrijheid, 19 reacties
angelolucas / Pixabay

De digitale euro heeft in de huidige opzet weinig meerwaarde voor burgers en bedrijven, maar kan een grote impact op de kwaliteit en stabiliteit van het geldstelsel en betalingsverkeer hebben. Dat las ik bij Security.nl. De Nederlandse Vereniging van Banken (NVB), die achter de uitspraak zit, pleit dan ook voor een maatschappelijk debat alvorens we deze nieuwe munt gaan invoeren. Want wat is een digitale euro eigenlijk en waarom zouden we dit willen?

De kern achter een digitale euro is “contant geld maar dan digitaal”. Dat is niet hetzelfde als elektronisch betalen met je bankrekening (iDeal, creditcard, Paypal) want dan betaal je niet met geld maar wordt je tegoed bij die bank verrekend met een opdracht richting een begunstigde. En er is nog een verschil: bij contant geld zie je niet wie aan wie betaalt, dus bij een digitale euro zou dat ook niet moeten.

Oh dat is bitcoin met Europese merknaam, denkt u nu misschien. Nee:

Een digitale euro is centralebankgeld. Dit betekent dat hij door een centrale bank zou worden gegarandeerd en op maat van de burgers zou worden ontworpen: risicovrij, met respect voor de privacy en aandacht voor gegevensbescherming. Centrale banken hebben als taak de waarde van het geld te handhaven, onafhankelijk van de fysieke of digitale vorm ervan. …

Bij crypto’s bestaat er niet iets als een entiteit die aansprakelijk is, wat betekent dat vorderingen niet afdwingbaar zijn.

Een digitale euro heeft met cryptomunten gemeen dat er geen centrale registratie is van eigenaren en hoe veel geld ze hebben. (Dus bij diefstal is het inderdaad weg, terugboeken door de bank is niet mogelijk.) Maar de waarde wordt gegarandeerd door de Europese of nationale centrale bank, waar bij cryptomunten de munt waard is wat de kopers vinden dat deze waard is. (hoi FTX)

Dit lost nog steeds niet de vraag op waarom we een digitale euro zouden willen. RTL Nieuws deed een poging:

Digitaal centralebankgeld is een soort middenweg daartussen. In plaats van een afspraak met de bank dat jij geld tegoed hebt, heb je een directe afspraak met de centrale bank. In theorie hoeft niemand zich dan ooit zorgen te maken over of een bank wel of niet omvalt en wat dat voor gevolgen heeft om de hele economie.
Tussen de regels door lees ik ook een paniekreactie op de inmiddels geflopte Facebookmunt Libra (weet u nog), waarmee het augmentedrealitybedrijf (waar zelfs vluchtende Twitteraars niet heen willen) de wereld wilde veroveren. Zij had een soort decentrale opzet gekozen, en hét voordeel van een centrale bank is dan natuurlijk een centrale, niet aan te tasten waardegarantie.

Een groot discussiepunt blijft nog wel hoe anoniem een digitale euro moet worden. De zorg over witwassen zit diep in de financiële sector, zoals ik terugzie in het paper van de NVB:

Het kabinet zet in op anonimiteit voor kleine transacties zonder inbreuk op wettelijke verplichtingen, in lijn met de motie-Alkaya/Heinen. Mocht de digitale euro vooral eigenschappen hebben van contant geld, dan lijkt een zekere anonimiteit bij kleine bedragen – en vooral bij peer-to-peerbetalingen – voor de hand te liggen. Deze anonimiteit mag evenwel onder geen beding de inspanningen van de bankensector op het vlak van [witwas/terrorisme-bestrijding] in de weg staan. Bij introductie van dergelijke anonimiteit dient de sector te worden gevrijwaard van eventuele aansprakelijkheden.
Ik snap ergens nog het idee van een digitale anonieme munt die waardevast is (gegarandeerd door een centrale bank), commercieel gezien heeft dat een duidelijke usp ten opzichte van de decentrale cryptovaluta van nu. Maar zodra je het koppelt aan een rekening met alle identificatie-eisen en transactielogging die daarbij horen, dan zie ik het verschil niet meer met mijn gewone digitale rekening?

Arnoud

 

Hoezo sluit de Tweede Kamer open source uit bij een aanbesteding?

Geplaatst op in Innovatie, 4 reacties
PeggyMarco / Pixabay

Via Twitter:

Gemiste kans: @2eKamertweets doet een aanbesteding voor #debatdirect waarin open source expliciet wordt uitgesloten (op basis van onjuiste aannames over open source). #opensourcetenzij?
Dit in reactie op stukken in de aanbestedingsprocedure waarin antwoord op vragen van inschrijvers wordt gegeven. Hier wordt “niet akkoord” gezegd bij twee vragen omtrent open source:
“Alle toebehoren zoals source codes, documentatie en intellectueel eigendom worden overgedragen aan de Tweede Kamer.” Is het akkoord dat bij het gebruik van open source software bij de (door)ontwikkeling van Debat Direct geen intellectueel eigendom wordt overgedragen, indien op de betreffende code een open source licentie(s) zonder virale effecten van toepassing is?
Hier wil de leverancier-in-spe dus weten of ze open source mogen verwerken in de applicatie, wat in strijd zou zijn met de aanbestedingseis dat alle eigendomsrechten naar de opdrachtgever (de TK) moeten gaan.
“Het is Opdrachtnemer niet toegestaan om broncodes te (her)gebruiken in de projectuitvoering indien het intellectueel eigendom en vrije gebruik niet volledig overdraagbaar is aan de Tweede Kamer.” Is het akkoord om hieraan toe te voegen: “Het is toegestaan software en code libraries van derden te gebruiken zolang de Tweede Kamer op ieder moment beschikking heeft tot de laatste versie van de betreffende source code en een niet-exclusieve, onbeperkte, wereldwijde licentie, inclusief het recht om te sublicentieren krijgt.”
Dit komt op hetzelfde neer, de leverancier wil graag werk van derden gebruiken maar kan daar natuurlijk niet het eigendom van overdragen. Dat wil de opdrachtgever dus niet. En ja, dat doet raar aan gezien al sinds jaar en dag de mantra is “open source, tenzij”, oftewel kies voor open tenzij je kunt uitleggen waarom dat niet kan.

Mijn vermoeden is dat het hier zuiver gaat om het verkrijgen van de eigendom, en niet perse omdat men open source niet moet. Dat is zo’n punt dat men als eis formuleert vanwege allerlei objectieve redenen, met name dat je dan afscheid kunt nemen van de leverancier en niet jaren later nog een restje eigendomsclaim in je gezicht kunt krijgen. (Het standaardspook daarbij is het faillissement: de curator kan dan de auteursrechten verkopen waarna de nieuwe eigenaar om geld komt vragen. Maar je weet nooit wat er nog op kan duiken in andere krochten van het auteursrecht.)

Het komt door de vraagstelling wel héél onhandig over zo, omdat er specifiek bij de opensourcevragen “niet akkoord” wordt gezegd maar bij een toch vrij essentiële gesloten component wél een uitzondering wordt gemaakt:

Uit het architectuur document blijkt dat het huidige Debat Direct een proprietairy videoplayer gebruikt waarvan de sourcecode niet beschikbaar is en een aparte licentie vereist is. Kan specifiek voor de ‘standaard’ videoplayer overeengekomen worden dat bepaling 21 en 24 van het Programma van eisen niet van toepassing zijn? Akkoord. De videoplayer wordt niet gezien als onderdeel van de sourcecode.
Het gaat dus om Debat Direct, een app en site waarmee je live de Kamerdebatten kunt volgen. Het voelt voor mij vrij essentieel dat daar een videospeler in zit, dus als ik inkoper was dan wilde ik daar toch zeker de eigendom van hebben, als we het hebben over continuïteit en vage claims in de toekomst. Om eens wat te noemen, video-protocollen zitten vol met patenten, door de player buiten “sourcecode” te zetten geldt er dus ook geen vrijwaring vanuit de leverancier. Dat zit me dan toch niet lekker.

Een dag later werd bekend dat een en ander is aangepast: zolang de Tweede Kamer maar onbeperkt en eeuwig kan beschikken over de software, is het goed waar het gaat om werken van derden. De werken van de leverancier zelf moeten wel in eigendom worden overgedragen.

Arnoud

Tesla eist dat beelden van aangereden kinderpoppen worden verwijderd

Geplaatst op in Innovatie, Regulering, Security, 16 reacties

Tesla eist dat een belangenorganisatie video’s verwijdert waarin auto’s van de fabrikant over etalagepoppen van kinderen rijden. Dat meldde Nu.nl op gezag van The Washington Post donderdag. In die video’s van The Dawn Project zag de nieuwste software van Tesla’s Full Self-Driving-functie meerdere keren een pop ter grootte van een kind over het hoofd. Dat gaf nogal wat ophef, en al snel doken berichten op dat de FSD niet aan zou staan en dat de groep vooringenomen tegen het bedrijf zou zijn.

De test is afkomstig van organisatie The Dawn Project, dat volgens haar site zich zorgen maakt om onveilige software in apparaten zoals auto’s. Directeur Dan O’Dowd vermeldt echter in zijn Twitterbio expliciet Tesla’s FSD te willen verbannen, dus dat komt dan toch wat gekleurd over.

Dan de test. De kern van de video is dat men een pad afbakende met pilonnen en daar midden op de weg een dummy ter grootte van een kind neerzette. De Tesla leek niet of nauwelijks te remmen en rijdt met volle snelheid over de dummy heen. De kritiek was niet mals: we zien bijvoorbeeld dat de mens op de bestuurdersstoel het stuur loslaat, iets dat volgens de algemene voorwaarden niet is toegestaan en leidt tot waarschuwingen. Ook zouden de pilonnen de optie tot uitwijken hebben beperkt.

De kritiek gaf aanleiding tot nieuwe video’s, onder meer deze, waar men op een echte straat zonder pilonnen rijdt, de handen op het stuur blijven en de auto op zich er omheen kon. Desondanks wederom dikke boem. Het scherm laat zien wat het systeem detecteert maar er is geen mannequin of kind te zien. Ook dit gaf weer de nodige kritiek op de wijze van uitvoering.

De video’s en rumoer er omheen gaven Elon “free speech absolutist” Musk aanleiding om een rechtszaak aan te kondigen wegens laster. En ja, juridisch is er een verhaal te maken dat het onrechtmatig is (oneerlijke reclame, zo je wil) een video te publiceren met een onjuiste voorstelling van zaken die extreem gevaar suggereert. Er zijn bedrijven failliet gegaan om zulke dingen.

De vraag is dan wel: wie moet wat bewijzen. Bij een smaad- of lasterclaim moet in de VS de belasterde bewijzen dat de uiting in de feiten onjuist is (opinie is nooit laster of smaad, in hun systeem). Dat komt dus al snel neer op “hoe werkt FSD dan wel”, en dat zal al snel betekenen dat Dawn Project in discovery inzage kan eisen in de documentatie van dat systeem. Zo werkt het in de VS namelijk, alle relevante bewijsstukken moet je aan de wederpartij geven als deel van de procedure. En dat betekent dus dat de wereld mee mag lezen hoe FSD werkt, wat nog interessant kan zijn.

Arnoud

VK wil zelfrijdende auto’s vanaf 2025 toestaan, houdt fabrikant aansprakelijk

Geplaatst op in Informatiemaatschappij, Innovatie, 30 reacties
ooceey / Pixabay

De Britse overheid heeft details van een nieuwe wet onthuld waardoor autonome voertuigen vanaf 2025 toegestaan zijn op de openbare weg in het Verenigd Koninkrijk. Dat las ik bij Tweakers. In het geval van een ongeluk wordt de fabrikant van de auto wel aansprakelijk gesteld, niet de eventuele ‘bestuurder’. Dat klinkt als een mooie stap, met natuurlijk wel de vraag hoe je dan “zelfrijdend” definieert en hoe je de aansprakelijkheid construeert.

Om maar met dat eerste te beginnen: het gaat als ik het goed begrijp om een definitie van “zelfrijdend” die ergens tussen SAE niveau 3 en 4 in zit:

Each specified ADS [Automated Driving System] feature must be able to control the vehicle so as to drive safely and legally, even if an individual is not monitoring the driving environment, the vehicle or the way that it drives. This test should apply to all ADS features, whether or not they require a user-in-charge. … Vehicles should not be authorised as self-driving if an individual is expected to respond to objects or events in the external environment (such as low impact collisions and emergency vehicles) in the absence of a transition demand.
Dit is juridisch gezien een hele mooie: iedere feature moet gewoon veilig werken, ook als er geen mens nodig is. Benieuwd hoe jullie techneuten dat gaan invullen, we horen het graag. Maar het biedt de industrie natuurlijk de meeste ruimte om daadwerkelijk aan de slag te gaan. Je kunt “veilig” immers op veel manieren invullen, inclusief dat het voertuig snel naar een gecontroleerde stop gaat als het er niet meer uit komt. Gaat er dan iets mis, dan was het product niet veilig en is de fabrikant dus aansprakelijk.

Inderdaad, men hangt het op aan het bekende begrip van productveiligheid, dat we al langer kennen. De fabrikant is aansprakelijk voor onveilige aspecten van een product, kort gezegd. Dat kan niet met een EULA of handtekening worden gepasseerd, maar je kunt je er wel tegen verzekeren. En dat is dan ook hoe het moet gaan werken. (Gaat er iets mis maar blijkt het product gewoon veilig, dan valt dat dus buiten de productaansprakelijkheid.)

Het moet daarbij gaan om een beperkte set taken, de “dynamic driving task” (DDT). Sturen, versnellen en remmen, daarbij reagerend op objecten en gebeurtenissen van buitenaf zoals overstekende passanten, gaten in de weg of verkeerslichten op rood. Dit moet het systeem autonoom kunnen. Zaken als parkeerregels uitzoeken of stoppen na een ongeluk omdat je verzekeringspapieren moet invullen valt erbuiten, dat is en blijft de verantwoordelijkheid van de mens-de-baas. Verder geldt het alleen wanneer het voertuig in overeenstemming met haar terms of use wordt gebruikt. Maar gelukkig is men daarbij wel realistisch:

We do not think that it is realistic to expect users to check detailed lists of terms of use before engaging an ADS. Instead, an ADS should not operate if it is outside its Operational Design Domain (ODD). We see this “safe by design” principle as essential to the successful introduction of AVs.
Als de auto bijvoorbeeld niet goed kan omgaan met ’s nachts rijden in stevige regen, dan moet deze dus weigeren naar autonome modus te gaan als het donker is en stevige regen wordt gedetecteerd, in plaats van gewoon te starten en in artikel 13.7 sub a lid 4 Algemene Gebruiksvoorwaarden op te merken dat zulks niet toegestaan is. Dat lijkt me een gezonde en logische stap. Natuurlijk is de fabrikant niet aansprakelijk als men die sensor gaat misleiden, bijvoorbeeld door met een lampje te schijnen op de lichtsensor of de regensensor af te plakken.

Als laatste moet er een fonds komen van waaruit schadeclaims worden betaald als een autonome auto een ongeluk veroorzaakt waarvoor de fabrikant niet aan te spreken blijkt. Dat is een slimme achtervang, die lijkt op ons Waarborgfonds Motorverkeer.

Dan krijg je natuurlijk meteen de Tesla-truc: zet de ADS één seconde voor de crash uit, zodat je kunt claimen dat het voertuig niet onder autonome besturing was ten tijde van het voorval. Ook hieraan is gedacht: je moet na een omschakeling genoeg tijd hebben om feitelijk de controle terug te winnen, want uitgangspunt is dat jij tijdens het autonoom rijden gerust wat anders moet kunnen doen. Een hard getal wil men echter niet noemen, omdat dat afhangt van de situatie (een lange snelwegrit om 3 uur ’s nachts versus een complexe navigatie door de binnenstad van Milton Keynes tijdens de ochtendspits). En het mooie is: de bewijslast ligt bij de fabrikant dat het door hen gehanteerde getal een veilige transitie gaf, in een situatie waarin na die transitie een ongeval is gebeurd.

Arnoud

Meerdere algoritmen van de overheid voldoen niet aan de basiseisen (excuses, lange blog maar dit is zeg maar mijn ding)

Geplaatst op in Informatiemaatschappij, Innovatie, 10 reacties

De algoritmes die door de Rijksoverheid worden gebruikt, voldoen lang niet altijd aan de basiseisen. Van de negen getoetste algoritmes voldeden er zes niet aan de eisen, las ik bij Nu.nl. Dit blijkt uit onderzoek van de Algemene Rekenkamer. Deze zes bieden dan ook bijzondere risico’s: gebrekkige controle op prestaties of effecten, vooringenomenheid, datalek of ongeautoriseerde toegang. En omdat het kan gaan om algoritmisch besluiten (zoals verkeersboetes), is dat best schokkend.

Het toegepaste toetsingskader komt uit een eerder onderzoek, Aandacht voor Algoritmes, en bestaat uit 5 perspectieven waarbij het perspectief ethiek als rode draad verbonden is met de andere 4 perspectieven:

  • Sturing en verantwoording: eenduidigheid doel;
  • Model en data: in lijn met doelstellingen;
  • Privacy: ondermeer wettelijke verplichting verwerkingsregister;
  • ITGC: toegankelijke loginformatie;
  • Ethiek: ethische richtlijnen.
Voor wie het wil toepassen: er is een downloadbaar Excel-model om in te vullen. En wie meer wil weten over dat perspectief ethiek, in september begint onze cursus AI Compliance en Governance weer.

Het rapport Algoritmes Getoetst past het kader nu toe op negen overheidsalgoritmes, namelijk:

  1. Rijksdienst voor Identiteitsgegevens: Ondersteuning bij de beoordeling van de kwaliteit van foto’s voor identiteitsbewijzen
  2. Rijksdienst voor Ondernemend Nederland: Risicomodel dat gebruikt wordt bij de beoordeling van aanvragen voor de Tegemoetkoming Vaste Lasten (TVL)
  3. Belastingdienst Toeslagen: Ondersteuning bij de beoordeling van aanvragen voor huurtoeslag in het toeslagenverstrekkingensysteem (TVS)
  4. Centraal Bureau Rijvaardigheidsbewijzen: Ondersteuning bij de beoordeling van de medische rijgeschiktheid van mensen
  5. Politie: het Criminaliteits Anticipatie Systeem (CAS) voorspelt waar en wanneer het risico op incidenten hoog is
  6. Directoraat-generaal  (DG) Migratie: Zoekt intelligent in vreemdelingenpersoonsgegevens of iemand al eerder in Nederland is geregistreerd
  7. Centraal Justitieel Incassobureau (CJIB): Koppelt gegevens voor verkeersboetes aan op kenteken geconstateerde verkeersovertredingen
  8. SZW Inlichtingenbureau: Levert signalen aan gemeenten voor rechtmatigheidscontrole op bijstandsuitkeringen
  9. Sociale Verzekeringsbank (SVB): Ondersteuning bij de beoordeling van AOW-aanvragen.
Allemaal algoritmes, maar niet allemaal van dezelfde soort. Het rapport legt netjes uit dat ook een simpele beslisboom telt als een algoritme, net als data-koppelingen voor uitwisseling (als dit veld door filter X komt dan is het een datum en dan is het volgende veld een achternaam, zulke dingen). Maar er zijn ook algoritmes die ik ervan verdenk machine learning te zijn, zoals dat fotokwaliteitsbeoordelingssysteem van de RvIG of het lerende algoritme van de politie.

Verder hebben de algoritmes verschillende functies: vaak ondersteuning (technisch voorbereiden van data, een preselectie klaarzetten, zoekresultaten sorteren) maar soms ook besluitvorming (agent 40404 bij het CJIB) en soms van die twijfelgevallen zoals bij de ‘signalen’ van de SZW die best sturend kunnen worden opgevat – precision bias, het vooroordeel dat de computer gelijk heeft omdat deze objectief rekent en tien cijfers achter de komma heeft. Of omdat er bij iedereen wel wat te vinden is als je goed zoekt (iedere lezer van deze blog schendt minstens één regel van socialezekerheids- of belastingrecht, gegarandeerd).

Besluitvormend gaat overigens niet perse samen met complex: het toekennen van toeslagen is een simpel algoritme dat toch besluiten neemt (u heeft recht op huurtoeslag, u bent medisch geschikt om te rijden). Dat kan logisch lijken in een standaardsituatie, zoals het rapport uitlegt:

Een aanvraag wordt automatisch goedgekeurd wanneer de aanvraag door het algoritme als laag risico is aangemerkt, bijvoorbeeld omdat het bedrag waarop de aanvrager aanspraak maakt laag is en er geen aanwijzingen voor misbruik of oneigenlijk gebruik zijn. In dat geval komt er geen ambtenaar meer aan te pas.
Bij elektronicawinkel Coolblue is er (volgens mij) zo’n simpel algoritme: een vaste klant (meer dan X aankopen in 6 maanden) die een product van minder dan 10 euro koopt en retourneert, mag het houden en krijgt zijn geld terug. En bij voedselbezorgers geldt vaak ook zoiets: minder dan X klachten per maand/kwartaal/jaar, dan klacht automatisch goedkeuren en geld terug. De kosten/baten analyse is dan evident.

Wat ging er zoal mis bij deze overheidsalgoritmes? Bij drie organisaties ging het eigenlijk om de IT-processen er omheen (beheer, beveiliging, toegang), dat sla ik even over. Een relevanter risico is de governance bij uitbesteding: de ontwikkeling en implementatie van de algoritmes of datamodellen wordt dan door een externe partij gedaan, maar de overheidsinstantie moet daar wel toezicht op houden. Dat ging bijvoorbeeld mis bij dat fotokwaliteitsbeoordelingssysteem, dat was een black box waar alleen goed/onvoldoende uit kwam zonder dat men kon zien waarom, laat staan bijstellen.

Het rapport noemt nog een belangrijke fout die ik ook herken uit de praktijk:

Vaak wordt bij de verwerking van gegevens in massale processen vertrouwd op foutmeldingen en gaat men ervan uit dat de afwezigheid van foutmeldingen een garantie is voor de juiste werking van het algoritme. Dat is niet altijd het geval.
Zeker als het gaat om ‘zwakke’ klanten (zoals bij bijstand of toeslagen) moet je echt meer hebben dan een piepsysteem. Dit is trouwens ook waarom dat systeem van “laag risico = automatisch goedkeuren” riskant is, mensen kunnen onterecht in de bak laag risico zitten (of juist niet) en dat wordt dan niet opgemerkt.

De laatste die ik eruit licht, is de bias of vooringenomenheid in model of data. Dit is een lastige, want er is veel over te doen maar dit onderwerp zit ook vol met misverstanden. Zo stellen mensen bias vaak gelijk aan het strafbare feit discriminatie. Bias kan echter over van alles gaan, denk aan een aselecte steekproef uit de brondata, zonder dat je meteen een ethische groep, gender of andere groep op de korrel wil nemen. En zelfs als zo’n systeem expliciet onderscheid maakt naar zeg gender of ethiciteit dan kan dat onbedoeld zijn, of het gevolg van een onbewust onderscheid bij de mensen die de dataset hebben gevoed.

Het onderzoek laat zien dat er zelden wordt gecontroleerd op bias of de over- of ondervertegenwoordiging van bepaalde groepen. Dat is wel belangrijk, want het kan zomaar je data in sluipen:

Stel dat in het verleden samenwoonfraude intensiever is aangepakt en dat met deze gegevens een algoritme wordt ontworpen voor fraudedetectie. Dan zal het algoritme samenwoonfraude beter voorspellen, omdat deze vorm van fraude vaker voorkomt in de data. En als samenwoonfraude vooral door vrouwen wordt gepleegd dan is sprake van bias naar vrouwen toe.
Van eerdere blogs weet ik dat er nu reacties komen van het soort: maar fraude is fraude, als je zo dus meer samenwoonfraude door vrouwen weet te vinden dan heb je meer fraude gevonden en die kun je dan bestrijden. Dat mag zo zijn, maar als overheid heb je ook de plicht om je fraudebestrijding eerlijk te verdelen, zonder onderscheid naar kenmerken zoals gender of etniciteit. Als de politie alleen mannen boetes geeft voor door rood licht fietsen, en de vrouwen laat gaan, dan klopt dat gewoon niet. Ook niet als de mannen het tien keer vaker doen.

Dan nog het onderwerp transparantie, wat van belang is omdat je (onder meer vanwege de AVG) moet uitleggen hoe zo’n systeem werkt, wat er gebeurt en hoe de uitkomst tot stand is gekomen. Het rapport maakt onderscheid tussen technische en procedurele transparantie, en merkt terecht op dat weinig mensen willen weten hoe het technisch precies werkt. De procedurele transparantie (welke data en waarom, welke controle op de machine en waarom überhaupt een algoritme) blijkt echter vaak afwezig, terwijl dat juist is wat de burger nodig heeft.

Het rapport sluit af met een set aanbevelingen om bovenstaande beter door te voeren, ook bij organisaties die meer op afstand staan van de Rijksoverheid. Ik zou zeggen: ook de private sector kan dit prima oppakken.

Arnoud

 

 

In Amerika kan een AI geen auteursrecht krijgen op gegenereerde kunst

Geplaatst op in Innovatie, 6 reacties

Voor het hiernaast getoonde kunstwerk is geen auteursrecht mogelijk, zo las ik bij The Verge. Ingenieur Steven Thaler had de door hem ontwikkelde Creativity Machine dit werk laten maken, “A Recent Entrance to Paradise”, als deel van een serie werken waarin een AI de weg naar het hiernamaals visualiseert. De Copyright Review Board van het Copyright Office weigerde de aanvraag met als reden dat de vereiste menselijke creativiteit niet aanwezig is. Bovendien is het niet mogelijk een auteursrecht op naam van een AI vast te leggen.

Net als in Nederland krijg je in Amerika automatisch auteursrecht op creatieve werken, maar in de VS heeft het nut je werk vast te laten leggen, bijvoorbeeld om statutory damages te mogen claimen. Er zit geen kwaliteitstoets aan de registratie, het is echt een minimaal onderzoek naar formaliteiten. Maar als er werkelijk nul creativiteit in het werk zit, dan zal men de registratie afwijzen. Een leeg vel papier inleveren gaat ‘m dus niet worden bijvoorbeeld.

Nou kun je van die tekening (schilderij?) hiernaast veel zeggen, maar een leeg vel is het bepaald niet. Zonder nadere toelichting zou iedereen vermoeden dat hier gewoon auteursrecht op zit. Maar het gaat natuurlijk niet alleen om de creativiteit, het gaat ook om de vraag of het menselijke creativiteit is. En dat is sinds de opkomst van generatieve netwerken een hele lastige vraag geworden.

Stephen Thaler timmert al decennia aan de weg (documentaire) en is onder meer de initiatiefnemer achter die AI-patentaanvragen waar ik in 2020 over blogde. De discussie daar was toen ook zuiver formeel: kan een AI als uitvinder vermeld worden op een octrooiaanvraag, los van hoe inventief / niet-voordehandliggend de uitvinding eigenlijk is? Nee, aldus zowel EPO als USPTO: de uitvinder moet een mens, een natuurlijk persoon zijn.

Idem in het auteursrecht, en dat is in de VS heel logisch omdat octrooirecht en auteursrecht dezelfde basis heeft, namelijk Article I, Section 8, Clause 8 van de Grondwet:

To promote the progress of science and useful arts, by securing for limited times to authors and inventors the exclusive right to their respective writings and discoveries.
Hieruit leidt men al tweehonderd jaar (dat is lang, in Amerika) af dat alleen mensen deze rechten kunnen aanvragen. Dit is ook waarom je als bedrijf je werknemers in Amerika een overdracht van octrooirechten moet laten tekenen, ook als het gewoon hun werk is om uitvindingen te doen. In Nederland (of Europa) hoeft dat niet, maar wel blijft het basisrecht op naamsvermelding als uitvinder bestaan.

In de afwijzing haalt de CRB oudere zaken erbij over fotografie: geen menselijke creativiteit immers, de machine doet al het werk. Daar is ondertussen wel wat nuance in ontstaan, omdat immers belichtingstijd, kijkhoek en compositie van wat er voor de lens komt, creatief kan zijn als je meer doet dan enkel de werkelijkheid natuurgetrouw vastleggen. Een mooi precedent vond ik nog de tuin onder architectuur: geen auteursrecht, want ook als je ‘m zorgvuldig aanlegt “a garden owes most of its form and appearance to natural forces”. Maar hoe dan ook: uit alle aangehaalde zaken volgt dat het moet gaan om een mens die de creatieve touch inbrengt, en dat de machine-inbreng daar fors ondergeschikt aan moet zijn.

Bij ons in Europa hebben we natuurlijk geen registratie, maar ik heb er geen twijfel over dat de rechter ook hier uit zou komen op “geen auteursrecht want geen menselijke creativiteit”. Los daarvan zou een AI die auteursrechtelijke bescherming ook niet nodig hebben, want wat zou de AI moeten met licentie-inkomsten? Ik hoorde laatst de gekscherende opmerking dat nu er AI-gegenereerde kunst en literatuur is, de menselijke kunstenaars méér betaald zouden moeten worden om nog overeind te blijven bij de oneindige uitvoer van werken die deze robots gaan maken.

Arnoud

Hoe laten we Legal dat broodje bedrijfscultuur eten? #legaltechtuesday

Geplaatst op in Innovatie, 1 reacties
Clker-Free-Vector-Images / Pixabay

Hoewel technologie een hoop vooruit kan helpen in de juridische sector, zou het een hoop schelen als de denkwijze, de cultuur van diezelfde sector eens op de schop ging. Dat las ik bij Artificial Lawyer onlangs. Voorbeeld: een AI-tool om discovery te doen: veel sneller door bergen en bergen bewijsmateriaal heen. Leuk, maar waarom héb je dat ouderwetse proces nog, is het echt nodig in iedere juridische procedure met die berg te komen? Is elke claim een marathon die moet leiden tot een winnaar die er met de zak geld vandoor gaat?

Legal tech heeft veel last van dit probleem. “Culture eats strategy for breakfast”, aldus een quote van managementconsultant Peter Drucker. Je kunt nog zo’n mooi plan hebben bedacht, maar als de strategie niet past bij de cultuur van het kantoor dan zal deze niet werken. Ja, misschien worden voor de vorm een paar elementjes opgepakt of komt er een implementatieteam dat de boel opzet en iemand voor de interne nieuwsbrief laat poseren bij het dashboard, maar daarna moet het echt vanzelf gaan.

Deze observatie is niet nieuw, ook niet in de legal tech sector, maar hij is wel erg hardnekkig. Zoals AL verzucht:

A cultural shift toward finding a shared solution in contracts, centred around a standard, would move deals forward more rapidly. Today we have all kinds of tools to help with drafting and reviewing contracts, as well as deal management tools – and all of that software is welcome and useful, but what it can do is limited if the initial engagement between the parties is hostile, overly complex, sometimes random in direction, and where the dominant goal is to defeat the other side on every possible point.
Dit omschrijft natuurlijk mooi hoe contractsonderhandelingen vaak gepresenteerd worden, al zijn er ook vele redelijke, meedenkende en zeker niet kwaadwillende onderhandelaars (ook als advocaat, even voor de duidelijkheid). Je standpunt verdedigen is niet hetzelfde als de wederpartij in een hoek willen schoppen.

De kern is voor mij denk ik vooral dat juristerij te weinig gestructureerd is. “Stand by and let me lawyer” is een uitspraak van de 3 Geeks and a Law blog die mooi laat zien hoe veel juristen denken. Laat me met rust, ik ga dit doen, dit is moeilijk en vereist handwerk. Dát is de juridische cultuur waar je doorheen moet, die je moet veranderen om echt effectief legal tech in te zetten.

Wat ik steeds vaker zie, is een soort van tegenbeweging: organisaties die vanuit andere afdelingen met legal tech experimenteren, en zo de bedrijfsjurist “omzeilen”. Denk aan een HR-afdeling die het opzetten van arbeidscontracten automatiseert, dat is handig voor hun werk (met drie vragen het juiste contract voor de nieuwe medewerker) en je hoeft niet meer naar de jurist bij iedere variatie. Of Sales, die zelf NDA’s of inkoopvoorwaarden laat checken en pas naar Legal gaat als er gekke dingen in blijken te staan. Voor een jurist voelt dit niet helemaal de bedoeling wellicht, maar organisatorisch is het te begrijpen. Er moet iets veranderen.

Arnoud

Europees Parlement wil niet langer bitcoin en ethereum verbieden

Geplaatst op in Innovatie, 19 reacties

Dat las ik met enige verbazing bij Tweakers. Wilde men deze virtuele valuta verbieden? Nee, maar wel een onderliggende technologie, namelijk proof-of-work validatie verbieden vanwege het hoge energieverbruik. Het Europees Parlement heeft namelijk een passage over het verbieden van cryptovaluta die te minen zijn met proof-of-work geschrapt uit de regelgeving over digitale eigendommen. In plaats van een direct verbod, wil het Europees Parlement dat investeringen in cryptovaluta met proof-of-work onder niet-duurzame investeringen komen te vallen.

Al langere tijd woedt er een discussie over het energieverbruik van bitcoin specifiek en cryptovaluta in het algemeen. De New York Times meldde vorig jaar september bijvoorbeeld dat gebruikers van Bitcoin meer energie verstoken dan Finland. Het land dus. Dat komt omdat voor iedere mining van bitcoins een serie complexe berekeningen moet worden gemaakt, waarbij die complexiteit periodiek ook nog toeneemt omdat rekenkracht van computers dat ook doet. Die berekeningen vreten enorme hoeveelheden energie.

Het bekendste alternatief heet proof of stake, en dat is een stuk energiezuiniger. Het lastige is enerzijds dat nog geen enkel groot cryptocurrency-netwerk op proof of stake zit, en dat dit zeker bij Bitcoin nooit zal gebeuren vanwege de enorme investeringen die mensen in bitcoin-mining computers hebben gedaan.

Europa is bezig met een richtlijn om cryptocurrencies te reguleren, en als deel van de discussie daar omheen kwam de klimaatimpact van deze virtuele valuta’s naar boven. Dat leidde tot een amendement dat cryptocurrencies verbood te werken met proof of work, wat effectief dus de doodsteek van bitcoin zou zijn en waarschijnlijk ook van ethereum. Die werken ook met POW maar daar is de kans iets groter dat men overstapt naar POS. Maar dat is dus nu van tafel.

Het nieuwe voorstel is om deze discussie te verhuizen naar een geplande Verordening over sustainability. Effectief zal het gevolg daarvan zijn dat Bitcoin en Ethereum minder interessant worden voor grote organisaties en investeerders. Het plan hier is namelijk om technologieën te labelen naar hun milieu-impact, waarbij het gebruik van ‘slechte’ technologie wordt ontmoedigd (even heel kort gezegd). Een verbod is dat niet, maar als er geen groot geld meer komt voor ontwikkeling en productvernieuwing dan komt dat op hetzelfde neer, volgens mij.

Arnoud

 

Hoe veel gebakken lucht zit er juridisch in een NFT?

Geplaatst op in Innovatie, 36 reacties
TheDigitalArtist / Pixabay

Hoeveel is een digitaal exemplaar van een column van de New York Times over NFT waard? Dat vroeg de NOS zich onlangs af in een overzichtsverhaal over de non-fungible tokens die nu enorme bedragen opbrengen. En zijdelings mocht ik wat mensen in de gordijnen jagen met mijn quote: “Het is puur een eretitel, de winnaar van de Formule 1 zijn, maakt je ook geen eigenaar van het racecircuit. Je koopt echt lucht, je doet het om te kunnen zeggen dat je een NFT hebt.” Wacht, wat?

Zoals ik vorig jaar al blogde:

De kern van een nft is dat ergens (op de blockchain dus) wordt genoteerd dat jij ‘eigenaar’ bent van een bepaald stukje informatie. Net zoals je eigenaar bent van zo’n zeldzaam voetbalplaatje, of van een koekblik van Rembrandt. En dat is dus niet hetzelfde als eigenaar zijn van waar het echt om gaat; de afbeelding van de voetballer (u mag zelf zeggen of u zich oud voelt bij a) Messi b) Gullit c) Van der Kuijlen) dan wel het schilderij van Rembrandt.
Er worden  nu grote winsten gemaakt met handel in NFT’s. Kritiek is er ook: de site Digiconomist becijferde dat één transactie zoveel rekenkracht van computers vergt dat daarbij 110 kilo CO2 wordt uitgestoten. Maar dat terzijde.

De handel in NFT’s roept de vraag op “hoe dat nou juridisch zit”. Ben je eigenaar van de NFT, heb je rechten op het onderliggende kunstwerk (of waar de NFT maar blijk voor is), wat doet het met de auteursrechten et cetera?

Nou ja, het korte antwoord is dus: helemaal niets. Het is een apart, buitenrechtelijk systeem waarbij eigenlijk op basis van eer wordt gehandeld. Binnen de context van zijn die aan NFT’s doen ben ik de eigenaar van die ene aap, en wie dat plaatje opslaat en als kopie ook gebruikt die schendt de mores, dat hoort niet. Maar juridisch gezien is er geen enkele regel waarmee de NFT-“eigenaar” kan optreden tegen zo’n vuile rechtermuisklikker (zoals dat heet).

De maker van de NFT kan dat wel: die heeft het auteursrecht op die tekening van die aap, en dat blijft bij hen, want alleen met een ondertekend document gaan die rechten over. Geen enkele NFT-handel omvat het overdragen van auteursrechten.

De reden dat we niet van eigendom spreken is trouwens precies omdat de NFT, het plaatje dus, vrij kopieerbaar is. Dat de registratie op de blockchain niet manipuleerbaar is, doet daar niet aan af. Natuurlijk, er is het Runescape-arrest uit 2012 dat bepaalde dat je virtuele goederen in online games kunt stelen. Maar er is een cruciaal verschil: games zijn zo gebouwd dat je spelobjecten niet kunt kopiëren maar alleen overdragen, en dát is wat er nodig is (naast economische waarde) om een object eigendomsvatbaar te noemen.

Daar komt bij dat dit arrest uit het strafrecht komt, waar men anders tegen “eigendom” aankijkt dan in het privaatrecht. Een simpel voorbeeld is dat een huurder in het strafrecht van het gehuurde bestolen kan worden, ondanks dat hij niet de eigenaar is. In het privaatrecht is het echt fout om de huurder de eigenaar te noemen.

Ik ben er nog niet uit over wat nu wenselijk is. Het voelt vrij logisch om NFT’s maar gewoon eigendommen te noemen, omdat je dan juridische bescherming aan NFT handelaren geeft. Alleen: wat voor bescherming? Binnen de kring is de blockchain immers het niet-manipuleerbare bewijs, wat voegt het recht daar nog toe? (Hacken van de blockchain, zo dat al kan, is al op te lossen via computervredebreuk.)

Buiten de kring heb je de vuige rechtermuisklikkers, zij die andermans NFT opslaan en gebruiken. Daar heb je het auteursrecht voor, zou het veel toevoegen om ook de NFT-eigenaar een procesbevoegdheid te geven? Of een eigendomsrecht, maar hoe verhoudt zich dat dan tot het auteursrecht van de ontwerper?

Arnoud

Worden inkoopvoorwaarden het volgende slachtoffer van legal tech?

Geplaatst op in Innovatie, Ondernemingsvrijheid, 19 reacties

Wie zaken doet, kent het fenomeen: inkoopvoorwaarden. Zeg maar algemene voorwaarden, maar dan die van de klant. Gemeenschappelijke kenmerken: lang, eenzijdig (héél eenzijdig) en ze benoemen punten waar jij nooit aan gedacht had. Oh ja, en de inkoper van de andere partij kan je snel vertellen dat er niets te onderhandelen valt, dit moet nu eenmaal zo. Dat onderhandelen zal blijven, maar het lange uren steken in het doorakkeren van die teksten en opschrijven wat er anders moet, dát gaat veranderen. Dankzij Lynn Legal.

Lynn reviewt en annoteert nu al geheimhoudingscontracten (NDA’s) en verwerkersovereenkomsten, gebruik makend van machine learning (je mag het AI noemen) op basis van vele duizenden voorbeelden en de juridische inzichten van mijn bedrijf ICTRecht. Waarom nog tijd besteden aan standaard issues zoeken als Lynn dat veel sneller en net zo scherp doet?

Dan krijg je natuurlijk de vraag, kun je dit bij meerdere soorten contracten doen. De zoektocht is lastig: je hebt contracten nodig die in bulk beschikbaar zijn (maatwerk-SLA’s blijven mensenwerk om te lezen), er moet genoeg te vinden zijn en de mens moet het de tijdsinvestering eigenlijk niet waard vinden. En ja, bij die omschrijving past prima het concept van de inkoopvoorwaarden.

Tijd dus om hier een checker voor te gaan bouwen. En dat kunnen wij natuurlijk niet alleen. We zoeken ervaringen, tips, voorbeelden en ideeën over wat zo’n checker moet zeggen, waarop te letten en welke issues zijn het allerbelangrijkste.

Tevens tijd voor een stukje verhalen bij het kampvuur: wat is de raarste discussie of bepaling bij inkoopvoorwaarden die jij ooit zag?

De mijne: een groot retailconcern wilde een nieuwe app, en liet mijn klant de inkoopvoorwaarden zien. Men had daarin bepaald dat alle producten de hoogste mate van versheid moesten hebben (als in: vanochtend geplukt, vanmiddag in het schap), maar elders ook “Product” gedefinieerd zodanig dat apps er ook onder vielen. Dat leek mij raar, maar ik heb nog nooit zo’n onwerkelijke discussie gehad als toen over waarom een app niet vers zou hoeven zijn. Mijn klant heeft nog drie maanden “alleen de meest verse libraries” als tagline gehad.

Arnoud