Categorie: Innovatie

Het punt met het bestaan van AI-muziek is dat je kunt gaan twijfelen aan muziek. Die mooie zin vond ik in een analyse van Tweakers over hoe streamingdiensten omgaan met AI-muziek. Ik leerde onder meer dat ik vorig jaar Zo Zomer gemist heb, en dat onduidelijk is wat we precies met “AI muziek” bedoelen.

Om maar met dat laatste te beginnen: de meeste aandacht gaat naar AI-muziek die zich voordoet als van echte artiesten, en AI-muziek die het systeem manipuleert. Zoals bij “liedjes” van 32 seconden, net lang genoeg om te tellen als een play en geld te krijgen. Maar niemand zit te wachten op dergelijke muziek.

Geheel nieuwe, als zodanig gepositioneerde AI muziek is vrij nieuw – al had ik in ons The Future is Legal-congres in 2019 al muzikaal behang uit AI-generatoren. Maar toegegeven, daarmee schoof ik wel menselijke artiesten geld uit de mond want ik hád iemand in kunnen huren.

Zoals Tweakers het enigszins aangezet formuleert:

Met de stappen van Deezer en Spotify is er in elk geval bescherming voor menselijke artiesten en menselijke muziek. Als AI-muziek een ‘doorgaande artistieke provocatie wil zijn, ontworpen om de grenzen te verkennen van auteurschap, identiteit en de toekomst van muziek in het tijdperk van kunstmatige intelligentie’, moeten ze dat vooral doen zonder schade toe te brengen aan muziek die mensen hebben gemaakt.

Die quote komt uit de biografie van AI-band The Velvet Sundown, die in een paar maanden miljoenen streams via Spotify verwierf. Niemand wist wie er achter zat en wat er uit een menselijke keel of mensbediend instrument kwam.

Vanuit juridisch perspectief lijkt hier weinig mis mee, zolang je niet misleidt over werkelijke artiesten die mee zouden werken. De AI Act vereist wel een digitale markering (zoals Content Credentials bij afbeeldingen) en daar zouden platforms als Spotify op kunnen sturen.

Arnoud

 

 

“Tijdens de mondelinge behandeling is vastgesteld dat alle verwijzingen in de conclusie van antwoord naar uitspraken van de Hoge Raad onjuist zijn.” Voor het eerst dat ik dat lees in een Nederlands vonnis, en zoals de rechtbank dan zegt roept het vele vragen op.

Het vonnis betreft een handelsnaaminbreuk, en de verwijzingenkwestie komt pas als laatste terzijde aan de orde, want de zaak kon ook zonder gewoon worden opgelost. Maar toch, ik zou knap balen als dit over mijn conclusie van antwoord werd gezegd:

In de conclusie van antwoord heeft [de gedaagde partij] verwezen naar (vermeende) uitspraken van de Hoge Raad ten aanzien van het handelsnaamrecht, met vermelding van een (vermeend) ECLI-nummer. Geen enkele van de aangehaalde (vermeende) arresten heeft betrekking op het handelsnaamrecht. Sommige ECLI-nummers horen bij strafrechtelijke uitspraken, andere bestaan in het geheel niet.

Ik denk dan meteen “ah, ChatGPT gebruikt”. Want die tool – en zijn vriendjes Claude en Copilot – heeft er een handje van de mooiste uitspraken op te lepelen die precies het betoog ondersteunen.

Mét een ECLI, want dat hoort er bij. Maar of die ook feitelijk bestaan en ondersteunen wat er wordt gezegd, dat is een heel ander verhaal. Het is meer Keyzer en de Boer: het klínkt goed, maar voor de feiten moet je elders wezen.

De rechtbank trekt geen conclusie, want je kunt immers niet zeker weten of iemand zo’n tool gebruikt tenzij die dat erkent. De verklaring hier doet voor mij als ict-er wat ongemakkelijk aan:

Desgevraagd heeft (de advocaat van) [de gedaagde partij] verklaard dat dit alles is veroorzaakt door een probleem bij het converteren van een word-bestand naar pdf. Deze verklaring roept vragen op.

Nou weet ik dat pdf-bestanden rare ondingen zijn, maar dat ze ECLI-nummers verbouwen heb ik nog niet gezien. Links die wegvallen, tekst die niet meer selecteerbaar is, tekst die na het plakken Unicode-prut wordt – zeker. Maar dit? Ik geloof het gewoon niet.

Arnoud

 

Het was me even ontgaan, maar in januari wees de HR een arrest over de vele no cure no pay claimbureaus. Deze zijn er rond diverse wetten, waarbij de Woz- en bpm-bezwaren denk ik de bekendste zijn. Ze drijven de proceskosten fors op, omdat ze daar een percentage van verdienen. Dat arrest was een forse aderlating, en ik ben een beetje bang dat de volgende stap een massale ChatGPT-inzet gaat zijn.

Per 1 januari 2024 zijn beperkingen in de proceskostenvergoedingen ingevoerd in zaken over de Wet waardering onroerende zaken (WOZ) en de belasting van personenauto’s en motorrijwielen (bpm). Dit ter bestrijding van no cure no pay kantoren die hier bezwaren tegen aandragen. De Hoge Raad definieert ze zo:

een beroepsmatig optredende gemachtigde, dan wel een kantoor, waarvan het bedrijfsmodel eruit bestaat dat

(i) wordt opgetreden op basis van no cure no pay,

(ii) daarbij zodanige afspraken met de cliënten worden gemaakt dat het bedrag van eventuele proceskostenvergoedingen aan de gemachtigde of aan het kantoor wordt afgedragen, en

(iii) de procedures op een zodanige wijze worden gevoerd dat de daarin toegekende proceskostenvergoedingen de in redelijkheid gemaakte kosten ver overtreffen.

Met name dat laatste steekt natuurlijk: dat gaat niet meer over het werkelijke geschil, maar is een manier om de inkomens van dat kantoor te vergroten. Zij krijgen immers die vergoeding, de cliënt krijgt enkel de hoofdsom (of een brief met een hogere dan wel lagere Woz).

Een ander bezwaar staat in de conclusie P-G:

Uit het onderzoek, dat gepubliceerd is op onze site, komt naar voren dat in 2022 (waardepeildatum 1 januari 2021) gemiddeld 27 % van de bezwaren tegen de WOZ-waarde van een woning op basis van no cure no pay zijn gehonoreerd. Van de overige bezwaren is in dat jaar 45 % gehonoreerd.

Oftewel, je krijgt meer kansloze zaken én ze drijven de proceskosten nodeloos op. Vandaar dat de vergoedingen bij Woz en bpm nu fors omlaag zijn gezet tot 0,25 of 0,1 keer de gewone.

Hoe herken je zo’n bureau? Deze vond ik een aardige:

Aanwijzingen dat dit laatste het geval is, kunnen bijvoorbeeld worden gevonden in de omstandigheid dat vaak geheel of ten dele gebruik wordt gemaakt van gestandaardiseerde tekstblokken die niet zijn toegespitst op de desbetreffende zaak.

Het moet immers zo goedkoop mogelijk, dus één bezwaarschrifttekst met wat puntjepuntje tekstvlakken en hier en daar een “weghalen tenzij” aanwijzing is dan een simpele invulling. Naar zijn aard zijn die teksten generiek.

Dit is belangrijk, want de HR merkt ook op dat als je niét met zo’n bureau werkt, je wél gewoon recht hebt op de normale proceskostenvergoeding. Ik geloof dus onmiddellijk dat die bureaus hard aan het nadenken zijn hoe ze zichzelf kunnen verstoppen.

Hoe krijg je met minimale meerkosten een bezwaarbrief die op de zaak is toegespitst én niet leest als een standaardtekst waar hier en daar een puntjepuntje is ingevuld? Precies, met zo’n groot taalmodel en een leuke prompt. En dat is lastig, want er zullen ook genoeg burgers handig genoeg zijn om dit zelf uit te vogelen, dus hoe maak je dan nog het onderscheid?

Arnoud

 

Chatbots voor virtuele vriendschappen en therapie bij mentale problemen geven onbetrouwbare informatie en zijn soms schadelijk. Dat meldde Nu.nl onlangs. Uit een onderzoek van de Autoriteit Persoonsgegevens (AP) naar 9 populaire chatbotapps blijkt dat deze ongenuanceerde, ongepaste en soms zelfs schadelijke reacties geven op gebruikers die mentale problemen ter sprake brengen.

Het onderzoek is de halfjaarlijkse Rapportage AI- & Algoritmerisico’s Nederland (RAN). De risico’s van deze chatbots worden inderdaad geschetst, zij het als verwijzing naar externe media:

Daarbij is er de kans dat een chatbot de gebruiker aanraadt om contraproductief te handelen. Bijvoorbeeld door eenzame gebruikers aan te raden vooral de chatbot te gebruiken als sociale uitlaatklep. In de ergste gevallen kan de chatbot de gebruiker aanraden, of bevestiging geven aan iemands overtuiging, om zichzelf iets aan te doen. In het nieuws zijn meerdere beschuldigingen verschenen over chatbots die gebruikers aanspoorden tot zelfdoding.

Het bekendste voorbeeld van dat laatste komt uit Florida een paar maanden terug. Deze incidenten waren voor de Europese Commissie reden om in hun Richtsnoeren voor verboden praktijken onder de AI Act “promotes self-harm to users or incentivises them to commit suicide or harm other persons or groups of persons” aan te merken als schadelijk. Een chatbot die “doelbewust manipuleert” of “misleidende technieken” gebruikt en daarbij deze schade veroorzaakt, is in de EU dan verboden.

Je kunt natuurlijk zeggen dat chatbots nooit expliciet geprogrammeerd worden met deze doelstelling, zodat je het element “doelbewust” simpelweg niet rond krijgt. Maar de Commissie stelt in de richtsnoeren dat “doelbewust” gaat om een door de AI herkend doel, niet perse een door mensen ingeprogrammeerd doel.

Ietwat vreemd aan de AI Act is dat de verboden al wel in werking zijn (per 2 februari jl.) maar dat de AI Act toezichthouders pas 2 augustus aangewezen worden. Maar er is een oplossing: vrijwel alle verboden uit de AI Act vereisen gebruik van persoonsgegevens, zodat de AP als AVG-toezichthouder kan optreden bij de handhaving hiervan. Het argument is dan dat de praktijk niet ‘wettig’ is (artikel 5.1 AVG) omdat deze wettelijk verboden is (artikel 5 AI Act).

Arnoud

Wat is het verschil tussen AI, algoritmes en beslisregel? Die vraag krijg ik steeds vaker langs, onder meer bij die recente discussie over het DUO-algoritme dat neerkwam op R1*(R2+R3) en wat vuistregels over die drie variabelen. Is dat wezenlijk anders dan een data-analyse op een set met miljoenen datapunten en maakt het nog uit of je het door ChatGPT haalt voordat je het besluit communiceert?

De wet doet niet echt uitspraken over de technische complexiteit van je systeem. Grofweg zijn er twee wetten die inhoudelijk relevant zijn:

1. De AI Act, die een systeem “AI” noemt als dat zelfstandig afleidt wat de regels zijn en wat de uitvoer moet zijn gegeven de invoer.
2. De AVG, die “geautomatiseerde besluitvorming” verbiedt, wat dan weer neerkomt op geen (betekenisvolle) menselijke tussenkomst bij een besluit. Maar niet perse dat dat besluit door AI moet zijn genomen.

Dan zijn er indirect nog wat kaders, met name de Algemene wet bestuursrecht (Awb) waar een jurisprudentie-kader staat over motivatie en duidelijkheid van geautomatiseerde overheidsbesluiten.

Mijn eigen grove schets:

• Besluiten kunnen via regels worden genomen, waarbij de uitkomst uit een berekening volgt. “Wie meer dan 100 euro besteedt krijgt gratis verzending” is zo’n regel. Dit ter onderscheid van vagere regels als “vaste klanten krijgen korting”.
• Een samenstel van regels noemen we algoritmes als ze complex beginnen te klinken (ja, zeer subjectief) maar wel via berekeningen tot uitkomsten leiden. Het belastingaangifteformulier is een algoritme: je stopt er allerlei gegevens in, het systeem weegt dit af tegen grenswaarden en criteria en er komt een aangiftebedrag uit. Het dikkeduimsysteem van DUO met hun R1*(R2+R3) is ook een algoritme.
• Een algoritme noemen we AI als de regels niet door mensen zijn geformuleerd maar door de computer zijn afgeleid. Dat kan bij het bouwen van het systeem (een ML model) of bij het toepassen van het systeem op een casus.

Het plaatje bij deze blog komt van platformdienst Grab, dat veel onderzoek doet naar fraude. Het is een tweedimensionale plot van fraudegevallen en echte bestellingen. Datagedreven inzicht, dus AI in mijn categorisering hierboven. Maar iedereen ziet twee mooie geclusterde groepen fraude (de rode bolletjes), en daar zijn vrij eenvoudig beslisregels van te maken: (X > 25) OR (X > -25 AND Y > 50) isoleren volgens mij 90% van de fraudegevallen.

Een bestelling afwijzen wegens fraude met deze regels is dus algoritmisch, en als daar geen mens bij komt kijken dan loopt dat onder het verbod van de AVG. De regels zijn via data-analyse tot stand gekomen, dus noemen we dat een AI systeem. (Fraude-detectie bij ecommerce is geen hoogrisico-toepassing dus daar komt men mooi weg onder die wet.)

Ik zie in de praktijk veel systemen waarbij die regels door mensen geformuleerd zijn – zoals die regel hierboven – maar wel uit data komen. Dat is dan nog steeds een AI-model in de zin van de AI Act, ook al heeft een mens de exacte grenzen getrokken. Enige menselijke tussenkomst maakt niet dat je systeem geen AI meer is.

Arnoud