Thuisadressen getuigen vindbaar via online vonnissen, hoe erg is dat?

De adressen van burgers die camerabeelden delen met de politie zijn in sommige gevallen te herleiden uit online gepubliceerde vonnissen, blijkt uit onderzoek van BNR. Wie vonnissen goed leest met Maps erbij, kan zo vaststellen waar de camera’s hangen waar beelden van zijn gebruikt door justitie in ernstige strafzaken. De Raad voor de Rechtspraak laat in een reactie weten dat ze het probleem herkent.

Het onderzoek is een vervolg op waar ik in januari over blogde: De politie vordert vaak beelden van deurbelcamera’s waardoor adressen van nietsvermoedende burgers in strafdossiers terecht kunnen komen. Dat vorderen moet juridisch gezien, want anders mag de politie de beelden niet meenemen (vrijwillig ongevraagd ze krijgen van een burger daargelaten).

Letterlijke adressen (“op de camerabeelden van de camera aangebracht op het pand te Jollemanhof 12 Amsterdam”) worden netjes geanonimiseerd. Maar dat is niet genoeg: vaak wordt de context geschetst om de beelden te duiden, en wie dan een beetje handig is met Maps, kan dan alsnog de originele plek terugvinden:

De positie van de camera, het merk van de deurbel, de namen van aangrenzende straten: allen komen uitgebreid aan bod. [Getuige] Clara’s naam en adres zijn digitaal ‘weggelakt’, maar er staan zoveel details in de uitspraak, dat aan de hand van een kaart te achterhalen is waar de deurbelcamera ongeveer gehangen moet hebben. Foto’s op Google Streetview laten zien dat alleen bij Clara een deurbel van het genoemde merk hing ten tijde van de moord.
Waar ik dan mee blijf zitten: hoe ernstig is dit nu werkelijk, qua inbreuk op de persoonlijke levenssfeer? Het gaat hier niet om beschrijvingen van interieurs of persoonlijke aangelegenheden, maar een beschrijving van de locatie en wat er op die camera te zien was op de openbare weg. Die beelden hebben dan verder niets met de camera-eigenaar te maken, die was toevallig de getuige en dat was het.

Arnoud

Chinese spionagesoftware ontdekt op computersysteem van Nederlandse krijgsmacht

white Macintosh computer
Photo by bert b on Unsplash

China heeft een computersysteem van de Nederlandse krijgsmacht geïnfecteerd met geavanceerde spionagesoftware, meldt de MIVD dinsdag. Dat las ik bij Nu.nl. De impact lijkt beperkt maar de ontdekking is bijzonder genoeg. Het riep ook vele vragen op: is dit juridisch gezien bijvoorbeeld een oorlogsdaad?

Het achterliggende rapport is bij de NCSC te downloaden. De kern is dat de malware via een bekende kwetsbaarheid in FortiGate-apparaten van leverancier Fortinet binnendringt en toegang op afstand faciliteert. Technisch niet heel spannend, het is vooral opmerkelijk dat de MIVD hiermee naar buiten treedt én zo expliciet China aanwijst als organisator.

Is het nu oorlog? Niemand die het ziet, maar juridisch gezien is hier weinig over te zeggen. Er is namelijk niet echt een definitie van ‘oorlog’. In de Conventie van Genève van 1952 is staat bijvoorbeeld “any difference arising between two states and leading to the intervention of members of the armed forces”, oftewel het is oorlog als de strijdkrachten van twee landen tegen elkaar vechten.

De MIVD is deel van onze strijdkrachten en laten we aannemen dat deze malware ingezet is door de Chinese People’s Liberation Army Strategic Support Force, zeg maar hun cyberstrijdkrachten. Maar is dit een “interventie”, is hier sprake van gebruik van wapens?

Los daarvan: het is pas echt oorlog als minstens een van de twee landen dat vindt, of als een hogere macht (zoals de VN) dat verklaart. Daar is bij deze malware geen sprake van.

Arnoud

Heb je auteursrecht op iets dat je met behulp van AI schrijft?

robot playing piano

Een film die geheel met generatieve kunstmatige intelligentie (AI) was geproduceerd, kreeg in Korea voor het eerst auteursrechtelijke erkenning als ‘bewerkt werk’. Dat las ik bij de (Koreaanstalige) AI Times. Het is wereldwijd het tweede geval waarin een dergelijk werk wél voor auteursrecht in aanmerking kwam – de trend in het Westen is juist de andere kant op.

De film kwam vrijwel geheel via AI tools tot stand:

Bij de productie werd een aantal AI-programma’s gebruikt. Na het maken van scenario’s met grote taalmodellen (LLM) zoals ‘GPT-4’, ‘ClovaX’ en ‘GPT-3.5’, werden afbeeldingen gemaakt met behulp van ‘Midjourny’ en ‘Stable Diffusion’. Video’s zijn gemaakt met behulp van AI voor videocreatie, zoals ‘Zen 2’ en ‘D-ID’, en zelfs de stemmen van de personages zijn gemaakt met behulp van ‘Clova Dubbing’. Uiteindelijk is de muziek gemaakt met behulp van ‘Soundrow’.
Enigszins kort door de bocht kun je dus zeggen dat alles door AI is gegenereerd met alleen een aantal handige prompts van de regisseur. Dat was eerder bij de US Copyright Office niet genoeg, zo blijkt uit een beslissing uit december:
The Office stated that despite Sahni’s claim that the work includes some human creative input, the work is not registrable, as “this human authorship cannot be distinguished or separated from the final work produced by the computer program.”
In deze Amerikaanse visie gaat het erom wie de “traditional elements of authorship” heeft geïntroduceerd. Dat zijn zaken als wie de literaire of artistieke keuzes maakte, of bij beeld zaken als de belichtingstijd, hoek, compositie en dergelijke. In het werk van Sahni waren die elementen wel aanwezig maar kon niet worden gezegd of de mens dan wel de computer deze had geïntroduceerd.

De Koreaanse insteek lijkt hier sterk op, aldus het AI Times artikel:

Als elementen van het traditionele auteursrecht worden geïmplementeerd door kunstmatige intelligentietechnologie, wordt het auteursrecht niet erkend, maar hoewel mensen het kunstmatige intelligentieproduct hebben gewijzigd wat betreft selectie, rangschikking, enz., wordt het auteursrecht erkend als in beperkte mate.
Dit is voor mij eigenlijk hetzelfde argument, alleen dan andersom geformuleerd. Als je de menselijke bewerking van de AI-uitvoer kunt aanwijzen, en die bewerking brengt op zichzelf ook elementen van auteurschap in, dan heb je daar auteursrecht op. Is jouw bewerking en die van de AI niet te onderscheiden, dan kun je dus niet zeggen wie de maker was.

In Nederland bestaat deze constructie ook. Denk aan het creatief oppoetsen van een publiek-domeinwerk: dat geeft je ook auteursrecht op het opgepoetste resultaat (maar natuurlijk niet op het bronmateriaal). Ik zie geen reden waarom dit anders zou moeten werken als je een AI-werk ‘oppoetst’.

We komen dan terug bij de discussie over de invloed van de prompt waarmee het werk wordt gemaakt. Deze initieert het proces van genereren, maar met de mate van invloed op het creatieve gebeuren kun je veel kanten op. Ook bij een uitgebreide prompt die veel input geeft kun je nog fors verschillende resultaten krijgen, nog los van diensten als Midjourney die bij één prompt hoe dan ook meerdere resultaten genereren.

Dat laatste speelde begin 2023 toen werk van Kris Kashtanova werd afgekeurd voor (Amerikaans) auteursrecht met het argument dat Midjourney altijd meerdere beelden genereert en dus eigen creativiteit inbrengt bovenop de prompt. En omdat dergelijke creativiteit niet menselijk is, komt het werk niet voor auteursrecht in aanmerking.

De eigen creativiteit van Kashtanova zat enerzijds in de formulering van de prompt en anderzijds in de keuze van welke van de gegenereerde beelden moest worden gebruikt. Die laatste keuze is te weinig, en bij de formulering van de prompt zit het probleem dat je die niet echt terugziet in het werk zelf. En bij alle creatieve inbreng is nu eenmaal vereist dat je die in het werk zelf herkent.

Arnoud

 

 

FTC wil onrechtmatig gebruik van gekloonde stemmen door AI tegengaan

De FTC wil consumenten beschermen tegen misbruik en fraude van stemklonen door AI. Dat las ik bij Tweakers. Daarom vraagt de Amerikaanse toezichthouder om input door middel van een wedstrijd waarin geldprijzen te winnen zijn voor de inzenders met de beste ideeën.

Het probleem krijgt steeds meer aandacht, ook in Nederland. In augustus nog waarschuwde de politie voor een nieuwe oplichterstruc:

Met behulp van artificial intelligence (AI) is het mogelijk om de stem van iemand anders te imiteren, bijvoorbeeld van een familielid. Vervolgens gebruiken cybercriminelen deze stem om iemand telefonisch op te lichten. Ze laten de stem bijvoorbeeld zeggen dat hij/zij in acute nood zit en snel geld nodig heeft. In het buitenland zijn op deze manier al diverse mensen voor honderdduizenden euro’s opgelicht, en ook de nationale politie maakt zich zorgen over de snelle opmars van AI.
Ook binnen bedrijven is dit een mogelijke truc, denk aan het nadoen van de stem van de directeur (wat bunq-man Niknam overkwam) om zo een collega dingen te laten doen. Natuurlijk is zoiets strafbaar, maar hier geldt “voorkomen is beter dan genezen”. Alleen, hoe dan?

De technologie is vrij verkrijgbaar en eenvoudig genoeg toepasbaar. Dat maakt het lastig om vanuit dat punt nog te reguleren. Natuurlijk, de AI Act zal hier regels over stellen maar wie zulke software exploiteert voor oplichters zal daar weinig aan gelegen zijn. Net zoals het Amerikaanse voorstel va president Biden dat zulke uitvoer gewatermerkt moet zijn (zodra men uitgevogeld heeft hoe dat zou moeten werken).

Veel verder dan “spreek een codewoord af” ben ik nog niets tegengekomen.  Jullie wel? Het kan 25.000 dollar opleveren, lees ik.

Arnoud

 

Partijen overtreden cookiewet met plaatsen volgcookies

Meerdere politieke partijen overtreden de privacywet door zonder toestemming volgcookies te plaatsen, blijkt uit onderzoek van de NOS. Dankzij zulke cookies kan een partij bezoekers van zijn website later opnieuw bereiken met gepersonaliseerde advertenties, bijvoorbeeld op YouTube of een nieuwssite. Drie van de vier aangesproken partijen beloven dit direct te herstellen.

Meer te lezen over het onderzoek op de blog van Ron Roozendaal:
In de meting op 23 oktober 2023, bijna twee weken nadat de AP de politieke partijen gewaarschuwd had, werden de publieke websites bezocht van alle partijen die meedoen aan de verkiezingen op 22 november 2023. Daarbij werd vastgelegd welke cookies worden geplaatst. Van al deze cookies selecteerde ik die cookies van tracking partijen waarvan in ieder geval zeker is dat ze leiden tot tracking. Waar dat niet zeker is, tel ik ze niet mee. Daarom telde ik de cookies mee van prfct.co, adnxs.com, facebook.com, google.com (inclusief youtube.com), twitter.com (X), doubleclick.net en myfonts.net.
De resultaten zijn schokkend: zeventien partijen die meedoen aan de verkiezingen plaatsen één of meer tracking cookies van deze partijen.

Meelezende FG’s schrikken nu misschien extra hard, omdat het hier gaat om politiek georiënteerde websites waarmee de tracking dus gegevens over politieke voorkeur zou kunnen opleveren. Maar ik haal uit niets dat daar nadrukkelijk naar wordt gespeurd, hoewel je ook niet kunt uitsluiten dat Google een bezoeker van de site van de BBB classificeert als politiek die kant op neigend.

De Autoriteit Persoonsgegevens had zich al eerder kritisch uitgesproken over deze praktijk, met name omdat zij vreest voor politiek getinte microtargeting (precies, dat). Iets wat diezelfde NOS eerder deze maand ontdekte:

Politieke partijen doen ook deze verkiezingscampagne uitgebreid aan microtargeting op sociale media. Dat is het gericht advertenties sturen naar potentiele kiezers op basis van persoonlijke informatie, zoals hun zoekgeschiedenis.
Het gaat hier dan alleen niet om sluwe AI-algoritmes die verborgen patronen en voorkeuren herkennen in allerlei websitegedrag. Het ‘microtargeten’ gebeurt vrij rechttoe rechtaan:
Stel je zoekt op Facebook naar een recept of informatie van je bank, dan kan die informatie gebruikt worden om je gericht een campagnefilmpje of advertentie te laten zien. Ben je geïnteresseerd in het blad Happinez, de VPRO of veganisme dan wil GL-PvdA je graag benaderen.
Heel anders dan een full-page advertentie in de Happinez plaatsen of een billboard huren tegenover de ABN Amro lijkt me dat niet, maar omdat het hier gaat om persoonsgegevens is dit ineens een AVG-dingetje.

De Autoriteit Persoonsgegevens reageert geschrokken: “Zonder iemands toestemming volg-cookies gebruiken, is absoluut niet toegestaan. We willen opheldering van deze politieke partijen”, zegt een woordvoerder. Dat zou wel eens tijd worden, want dit speelt al vele jaren en er verandert niets.

Arnoud

 

 

 

YouTube stopt met Premium Lite-abonnement in Nederland en België

manfredrichter / Pixabay

YouTube stopt met zijn Premium Lite-abonnement in Nederland en België. Dat las ik bij Tweakers. Het gaf een nieuwe impuls aan een oude discussie: de gratis versie van Youtube komt met advertenties, mag je die nu blokkeren of niet? Ze zijn immers een deel van het inkomen van de content creator, maar waar staat in de wet dat het niet mag?

Al ongeveer sinds de eerste banner op internet (schijnbaar 1994) is er discussie over het mogen blokkeren daarvan. Ondertussen zijn we dertig jaar en drie boeken verder en is er nog geen juridische duidelijkheid. Dus laten we eens kijken of we een en ander op een rijtje kunnen zetten.

In de basis zijn advertenties de manier waarop de site-exploitant geld verdient waarmee de beoogde content wordt gerealiseerd. De juridische onderbouwing daarbij is nogal generiek: vrijheid van ondernemen is een grondrecht, dus als jij wil ondernemen via een gratis-met-advertenties model dan moet dat kunnen.

Soms wordt hierbij gesteld dat je ‘betaalt’ door advertenties te bekijken. Dat klopt niet, juridisch. Betalen doe je alleen met geld of, als je de term breed uitlegt, een andere tegenprestatie. Maar “ik laat jou advertenties erbij zetten” is niet hetzelfde als op zaterdag de buurman helpen verhuizen omdat hij je kat eten geeft tijdens je vakantie.

De redenen om advertenties te willen blokkeren zijn vaak te verdelen in drie categorieën:

  1. Advertenties kunnen hinderlijk of gevaarlijk zijn, denk aan malware, overmatig knipperende onzin of afleiding zoals popups die niet zomaar weggaan.
  2. Niemand kan je dwingen advertenties te ontvangen, want je kiest zelf wat je wil bekijken.
  3. Er zijn genoeg andere manieren om geld te verdienen als creator (sponsoring, abonnementen) en/of niemand heeft het recht om geld te verdienen met advertenties.
De eerste twee argumenten gaan niet rechtstreeks in tegen het argument dat een ondernemer dit moet kunnen doen als deze dat wil. Het komt eerder neer op “de inkomstenderving die ik toebreng door het blokkeren is gerechtvaardigd vanwege belangen die ik heb”. De derde is juridisch gezien een noodzakelijkheidsargument: jouw grondrecht van ondernemen mag niet zo ver reiken dat je mijn blokkeren mag verbieden.

Beide zijn op zich legitieme argumenten om iemands grondrecht in te mogen perken. De discussie komt dan neer op een balans zoeken: mag je álle advertenties blokkeren vanuit angst voor malware, of moet er dan wel iets van een check voor malware tussen zitten, bijvoorbeeld?

En wat dat dwang-argument betreft: in 2012 blogde ik nog dat je het idee van toegang-met-advertenties zou kunnen zien als een overeenkomst met specifieke voorwaarde. Ik heb daar nog steeds geen tegenargument tegen gevonden.

Arnoud

Nederland mag verdachte achter wereldwijde malware-operatie aan VS uitleveren

Nederland mag een Oekraïense man die een sleutelrol zou hebben gespeeld bij de ontwikkeling en verspreiding van de Raccoon Infostealer uitleveren aan de Verenigde Staten. Dat las ik bij Security.nl. Ik licht de zaak er even uit omdat het vaker discussie geeft bij ict- en cybercrimezaken. Wanneer kun je nou worden uitgeleverd en hoe toetst de Nederlandse rechter dat?

De Raccoon Infostealer steelt wachtwoorden en gegevens voor internetbankieren en cryptowallets en zou volgens de VS miljoenen computers wereldwijd hebben besmet. De verdachte werd door de FBI opgespoord maar bleek in Oekraïne te zijn. Na de Russische inval vluchtte hij via Polen en Duitsland naar Nederland, waar hij werd aangehouden.

De VS wil hem berechten en diende dus een uitleveringsverzoek in. (Soms zie je ook de term ‘overlevering’, dat gaat om uitleveren van personen specifiek van de ene naar de andere Europese lidstaat.) De verdachte maakte bezwaar, en dat ging tot de Hoge Raad, die het bezwaar afwees. Ik citeer vanaf hier uit de conclusie advocaat-generaal, want de HR deed de zaak zonder motivatie af.

Een uitleveringsverzoek vereist “een uiteenzetting van de desbetreffende feiten, met inbegrip, indien mogelijk, van het tijdstip waarop en de plaats waar het misdrijf werd gepleegd”. Dat is lastig bij ict-zaken: als jij in Oekraïne zit, je server ergens in Bulgarije en de slachtoffers fysiek in de VS, wat is dan de ‘plaats’? De rechtbank vond het duidelijk genoeg:

De omschrijving van de feiten is zodanig dat het voor de rechtbank mogelijk is te onderzoeken of aan alle voorwaarden voor uitlevering is voldaan en of de naleving van het specialiteitsbeginsel kan worden gewaarborgd. Verder neemt de rechtbank in aanmerking dat de feiten hebben plaatsgevonden in de digitale wereld, waardoor het begrijpelijk is dat niet in alle gevallen een concrete pleegplaats kan worden vermeld.
Die gebrekkige informatie over pleegplaatsen was ook een argument tegen jurisdictie van de VS: de malware was wereldwijd actief, dus hoezo mag de VS dan optreden? Het simpele antwoord is, omdat óók in de VS slachtoffers woonden. Er waren er vier genoemd, dat is relatief weinig maar eentje is formeel genoeg.

Ook de rol van de verdachte was duidelijk genoeg vastgelegd:

De rechtbank heeft op grond van de inhoud van de Affidavit [verklaring van de FBI, AE] vastgesteld dat de opgeëiste persoon ervan wordt verdacht sinds 2018 te hebben deelgenomen aan een criminele organisatie die zich bezighoudt met het ontwikkelen, aanbieden en verkopen van malware, te weten de Raccoon-infostealer. Die malware zou wereldwijd op grote schaal zijn gebruikt om computervredebreuk en (gegevens)diefstal te plegen. Uit de vier geconcretiseerde voorbeelden in de Affidavit volgt dat de malware ook zou zijn gebruikt ten aanzien van computers c.q. personen in de Verenigde Staten. De rechtbank heeft overwogen dat in de Affidavit het resultaat en het verloop van het onderzoek uiteen wordt gezet, dat daaruit blijkt hoe de opgeëiste persoon in beeld is gekomen en waaruit de handelingen van de opgeëiste persoon, zijn vermeende rol en zijn aandeel in het strafbare feit hebben bestaan en dat het op grond daarvan van oordeel is dat voldaan is aan de eis van art. 9 lid 3 aanhef en onder b van het Verdrag.
Inhoudelijk is er dan genoeg om te veronderstellen dat iemand in de VS vervolgd zou worden voor dit feit, en omdat het tenlastegelegde ook in Nederland strafbaar is, is er dan eigenlijk geen reden meer tegen uitlevering.

Dan blijven over persoonlijke omstandigheden. In dit geval worstelde de verdachte met gezondheidsproblematiek en psychische problemen. Dit kwam vervolgens bij de rechtbank Den Haag met het verzoek hierom de uitlevering tegen te houden.  Het argument is dan dat de omstandigheden in het vragende land zo ernstig zijn dat uitlevering leidt tot onmenselijke behandeling, artikel 3 EVRM dat ook marteling noemt, maar het gaat dus ook om mensonterende omstandigheden zoals geen toegang tot gezondheidszorg.

De rechtbank oordeelde anders:

De voorzieningenrechter verwerpt ook het betoog van [eiser] dat de door de Amerikaanse autoriteiten gegeven garanties niet voldoen aan de daaraan te stellen eisen. Daargelaten dat [eiser] niet aannemelijk heeft gemaakt dat hij bij uitlevering een reëel risico loopt op schending van artikel 3 EVRM, geven de strikt genomen niet noodzakelijke garanties [eiser] wel meer zekerheid over (onder meer) de detentieomstandigheden en de toegang tot medische zorg. Zo nodig kan [eiser] met consulaire bijstand – ook wanneer dat bijstand van [land] betreft – nakoming van deze garanties bevorderen. Weliswaar heeft [eiser] zich terecht op het standpunt gesteld dat de Staat nakoming van dergelijke garanties niet zelf monitort, maar daar staat tegenover dat er geen gevallen bekend zijn waarin de Verenigde Staten gegeven garanties niet zijn nagekomen.
Dat laatste is natuurlijk vaak een zorg: ze kunnen wel zo veel zeggen in dat vragende land, maar hoe weet je dat ze dat ook echt doen? Daar staat tegenover dat er weinig tot geen onderzoeken zijn waaruit blijkt dat het misgaat, terwijl er toch genoeg mensen uitgeleverd worden.

Arnoud

 

Amsterdamse politie krijgt steeds vaker meldingen van gestolen spullen door tracker

De Amsterdamse politie krijgt steeds vaker meldingen binnen van bedrijven en mensen die weten waar hun gestolen spullen zijn. Dat meldde de NOS onlangs. Dit omdat steeds meer mensen een tracker bij hun apparaten verstoppen. Maar wel frustrerend om te lezen: “Een melding is niet altijd een reden om in actie te komen.”

Het tracken van mensen of spullen is de laatste jaren sterk in opmars. De technologie wordt steeds toegankelijker, met name door Apple’s introductie van AirTag, een decentraal netwerk waarbij iedereen met een appelapparaat meehelpt signalen door te geven. Er zijn al vele zorgen over stalking met zulke tags.

Een praktisch probleem met trackers is dat ze wel een locatie kunnen geven, maar die is niet altijd geheel accuraat. Dat is de belangrijkste reden dat de politie geen gouden bergen wil beloven:

“Als een tag in beweging is, is het voor ons makkelijker om in actie te komen dan wanneer hij niet in beweging is”, zegt [politiewoordvoerder Marcel Baas]. “Amsterdam is een grote stad, overal staan flatgebouwen. Hoe moet ik dan weten in welke woning het voorwerp zich bevindt?”
Een bijkomend probleem is dat juridisch gezien het terugvinden van een gestolen voorwerp niet automatisch betekent dat je hem weer mag meenemen. Het is namelijk (in theorie) mogelijk dat dit voorwerp ondertussen echt eigendom van een ander is geworden.

Hoofdregel is natuurlijk dat je je eigendom kunt opeisen als dat ten onrechte bij een ander is (art. 5:2 BW, revindicatie). Echter, de wet (art. 3:86 BW) noemt als uitzondering de situatie dat de verkrijger (niet de dief zelf) de fiets kocht voor een geldbedrag en te goeder trouw was. Je kunt de fiets dan terugeisen bij die verkrijger, tenzij

de zaak door een natuurlijke persoon die niet in de uitoefening van een beroep of bedrijf handelde, is verkregen van een vervreemder die van het verhandelen aan het publiek van soortgelijke zaken anders dan als veilinghouder zijn bedrijf maakt in een daartoe bestemde bedrijfsruimte, zijnde een gebouwde onroerende zaak of een gedeelte daarvan met de bij het een en ander behorende grond, en in de normale uitoefening van dat bedrijf handelde
In normaal Nederlands: als een consument de zaak heeft gekocht bij een professioneel winkelier die handelde vanuit een winkel, dan is deze beschermd en heeft zhij de fiets legaal verkregen. De bestolene heeft dan pech en kan alleen de dief nog aanspreken voor de waarde van de fiets.

Dit is de reden dat politiediensten terughoudend zijn bij “hij staat daar”-meldingen, zelfs als de locatie duidelijk is. Dit is natuurlijk ter bescherming van die te goeder trouw handelende consument, maar ik heb wel altijd mijn vraagtekens bij hoe váák dat nou gebeurt en in hoeverre je daar nou rekening mee moet houden.

Enerzijds, je wilt niet mensen die in de winkel een fiets kopen aanpakken alsof ze heling hebben gepleegd. Anderzijds, je wilt niet dat gestolen waar verdwijnt vanwege een theoretische mogelijkheid dat de fiets legaal bij de huidige verkrijger is.

Arnoud

Google wilde chatbot Bard deze week uitbrengen in EU, maar moet dat uitstellen

Clker-Free-Vector-Images / Pixabay

Google had zijn chatbot Bard deze week willen uitbrengen in de Europese Unie, maar heeft dat uitgesteld na zorgen over de verwerking van persoonsgegevens. Dat meldde Tweakers vorige week. De Ierse privacytoezichthouder kwam verrassend genoeg vóóraf met de vraag “hoe gaat u om met persoonsgegevens”, en omdat Google daar nog niet schriftelijk over nagedacht had, moet men nu de invoering uitstellen. Tot mijn verbazing ging het in de comments al snel over een gebrek aan innovatie in Europa en het doodslaan van open source. Ik mis even iets?

Dat Google zijn chatbot nog niet online heeft gezet in Europa, komt volgens Google-ceo Sundar Pichai door twee factoren.

“We werken bij Bard meer met Reinforcement Learning from Human Feedback om de lokale sentimenten goed op te kunnen nemen.” … Behalve dat Europa veel talen heeft met nuances in de culturen, speelt er meer. “Regels variëren tussen landen. We willen ervoor zorgen dat het allemaal klopt.” Die zorgen zitten vermoedelijk in het gebruik van de trainingsdata en privacy.
Die laatste opmerking blijkt dus juist: Google had geen antwoord paraat en vreest dan een handhavingsactie (zoals in Italië) met alle PR-negativiteit van dien.

De reacties zijn uitgesproken negatief, en mooi samengevat als “Jammer dus, en helaas typisch, dat in Amerika alle innovatie plaatsvindt terwijl Europa weer eens uit reflex de handrem aantrekt.” Want volgens mij gaat het hier om regelgeving vanuit een terecht standpunt: dat we de risico’s van nieuwe technologie gecontroleerd willen hebben, omdat ongecontroleerd gebruik leidt tot enorme schade. Dat ze in de VS het prima vinden dat je van alles en nog wat breekt zal best, maar dat maakt je niet innovatief volgens mij.

Afgelopen dinsdag verscheen een essay in Le Monde dat overtuigend betoogt dat juist Europa fors aan het innoveren is.

The flow of emerging high-tech companies is almost equal to that in the United States. Both regions now create the same amount of new start-ups each year. Thirty per cent of all global funding for early-stage companies went to European start-ups, compared with 36% for the US. This gap has halved in five years. What’s more, Europe is showing greater dynamism, with a compound annual growth rate of 24% over the last 10 years, compared with 4% in the US. At this rate, Europe will overtake the US in five years’ time.
Verder zie je ook in de AI-space steeds meer opensourceinitiatieven. En het mooie is: de strekking van de AI Act wordt volgens mij juist makkelijker gehaald door open source dan door dit soort bedrijfjes. Toon aan waar je data vandaan komt en dat die kwalitatief goed is. Als ik iets goed zie gaan bij open data initiatieven dan is het wel de focus daarop, zie hoe ze bij Wikipedia omgaan met copyvio en hoe openstreetmap ieder verkeersbord laat controleren om maar te voorkomen dat ze ergens databankrechten schenden. Ook bij datasets (zoals LAION) zie je duidelijke focus op rechtenbeheer.

Verder gaat veel over toepassingen, geen AI ongecontroleerd inzetten om mensenrechten te schenden of mensen automatisch af te serveren. Dat kan met OSS of closed even goed, dus daar zie ik het verschil niet. En ik zie juist bij de toepassingen enorm veel Haarlemmerolie (snake oil) van het soort “onze AI detecteert micro-expressies om te zien of een sollicitant liegt” met dan een gesloten model en geheime data zodat je niets kunt vaststellen. Als dát is waar de markt naartoe gaat, dan mogen de teugels best even wat worden aangetrokken.

Arnoud

Juridisch taalgebruik is écht nergens goed voor, suggereert een experiment

Klagen over het wollig taalgebruik van juristen is meestal iets voor buitenstaanders, las ik in Trouw. Maar ze hebben er zelf ook een hekel aan. Maar waarom doen ze het dan? Nou ja, omdat iedereen het doet en je zo het snelste klaar bent. Ja, echt. MIT-onderzoeker Eric Martinez en collega’s trokken deze conclusies op basis van tekstevaluatie bij 100 advocaten en 100 juridisch leken. Kunnen we nu dan misschien met z’n allen afspreken naar klare taal te gaan?

De voornaamste reden waarom teksten zo moeilijk te lezen zijn, is het woordgebruik. Vaak archaïsch, in ieder geval met infrequent gebruikte woorden – dat hindert het snel scannen van teksten, want je brein struikelt over ‘heretofore’ of ‘dienaangaande’. Ook een probleem is de indirecte manier van verwijzen. Als men ambiguïteit wil wegnemen, wordt vaak een frase gecopypaste zodat duidelijk is dat je het steeds over hetzelfde hebt. Dat geeft dan lange zinnen. De oplossing is dan een definitie invoeren (hierna: “de Definitie”) en vanaf daar verwijzen naar de Definitie in plaats van die lange frase. Uit onderzoek blijkt dat juist die inline definities enorm vertragend werkt.

Er zijn vele hypotheses geopperd waarom juristen zo wollig of ingewikkeld schrijven. De bekendste verklaring voor gebruik van jargon is communicatie met peers: het is sneller om vaktermen te gebruiken dan ze in lekentermen uit te leggen, daarom zie je dat vaak terug in beroepsgroepen. Maar specifiek bij zeg contractsclausules of wollig taalgebruik gaat dat niet op, geen jurist zegt “met behoud van rechten en weren” om effectiever te communiceren. Het onderzoek van Martinez (publicatie) laat ook zien dat juristen zelf sneller door een document heen komen als zulke teksten er niet in staan.

Een andere verklaring is exclusiviteit: het buitensluiten van leken die niet door het jargon heenkomen. Dit weerlegt men met de bevinding dat de onderzochte juristen aangeven liever een klaretaalschrijvende collega te hebben dan eentje die “Een verordening adstrueert het supranationale karakter van de Europese Unie” meent te moeten zeggen (jémig, Wikipedia). Een variant daarop is dat juristen moeilijke taal gebruiken zodat de cliënt meer het gevoel heeft voor iets goeds te betalen, klare taal is geen 800 euro per uur waard zeg maar. Maar als advocaten zélf zeggen dat de klaretaalversie beter is, dan blijft ook dat moeilijk overeind.

Blijft over de copypastehypothese:

[L]awyers may simply draw from old, pre-existing templates laden with arcane and convoluted language due to that being easier and cheaper to produce than drafting a simpler contract from scratch. This finding is consistent with recent empirical work indicating that lawyers rely heavily on templates in drafting contracts, with future agreements only rarely deviating from previous ones even when deviations would apparently benefit the involved parties(42). In addition to cost, said stickiness may also be borne out of lawyers’ training in the importance of precedent, which overall might lead to an adherence to templates laden with old, archaic language by virtue of the fact (or assumption) that they worked before, and that the specific language may have been “defended in court” previously.
Tijd dus, je werkt onder tijdsdruk en deze clausule regelt opzegging in de bekende bijzondere omstandigheden dus hupsakee in het contract ermee, klaar. Dit verklaart ook waarom zo veel contracten van die riedels met wat ik Amerikaans strooigoed noem, iedereen doet het, het zal wel ergens goed voor zijn, ik ga écht niet uitzoeken of een “Headings” clausule zinnig is want dat kost meer dan het oplevert, handtekeningenblok en klaar.

Daarnaast dus het argument dat die clausules al eerder getest zullen zijn bij de rechter, waardoor het vanuit aansprakelijkheid slimmer is die te gebruiken. Als jij afwijkt van het gebruikelijke én dat blijkt niet te kloppen, dan was het jouw fout. Gebruik jij hetzelfde als iedereen en blijkt dat niet te kloppen, dan is dat vervelend maar niemand die dat kon weten, toch?

Kunnen we nu naar klare taal? Dat zou iedereen graag willen, maar als dit de redenen zijn dan is dat toch bijster ingewikkeld. Want waarom zouden juristen nu ineens meer tijd krijgen om aan die standaardclausules te mogen werken, en waarom zou het vooroordeel dat “oude clausules getest zijn bij de rechter” nu niet meer opgaan? Nee, daar ben ik behoorlijk cynisch over. Heel misschien is er wat te halen als kantoren meer templating software (#legaltech) in gaan zetten, omdat je bij de transitie naar zo’n systeem wél tijd hebt om oude clausules eens te herzien en wat er nodig is om de nieuwe teksten juridisch waterdicht te krijgen.

Arnoud