De uitlegbaarheid van AI-uitspraken

| AE 9654 | Innovatie | 11 reacties

Steeds meer legal tech diensten maken gebruik van kunstmatige intelligentie oftewel AI. Dit is een belangrijke ontwikkeling: hiermee kunnen machines zelf beslissingen nemen of analyses uitvoeren die voorheen alleen door mensen gedaan konden worden. Denk aan dossiers doorspitten op zoek naar belastend materiaal, of juist oude afspraken terugvinden in een berg correspondentie. Maar steeds vaker wordt AI ook gebruikt om besluiten te nemen. En dat is juridisch toch wat riskant.

AI is in de praktijk meestal machine learning, een analysemodel waarbij een computer informatie leert te herkennen aan de hand van inhoudelijke kenmerken. In eerste instantie krijgt hij een berg vooraf gelabelde informatie aangedragen: deze clausule is oké, deze is problematisch. Daaruit destilleert de AI dan de verschillen, waarna hij vervolgens nieuwe informatie kan labelen. Deze clausule lijkt meer op de oké clausules dan op de problematische, dus is hij ook oké.

Dit klinkt heel simpel, maar de praktijk is behoorlijk ingewikkeld. Machines leren niet zoals mensen. Ze kijken niet naar betekenis maar naar woorden. Een AI zou zomaar kunnen denken dat een clausule oké is omdat hij “Leverancier” zegt – toevallig gebruikten de aangedragen oké trainingsvoorbeelden allemaal die term, en de problematische clausules spraken van “Opdrachtnemer”. Een goede dataset met labels is dus lastiger dan je zou denken.

Nog lastiger wordt het wanneer de analyse wordt gebruikt om uitspraken te doen over concrete zaken. Deze aanvraag moet worden afgewezen want hij bevat geen steekhoudende argumenten. Of: het profiel van deze verdachte lijkt erg op dat van veroordeelden uit vergelijkbare zaken, dus zal hij schuldig zijn.

AI of machine learning kan op deze manier worden ingezet, maar een belangrijk probleem daarbij is dan wel dat deze uitspraken moeten kunnen worden onderbouwd. En daar schort het nogal eens aan. De analyses van AI’s zijn normaliter niet direct naar redeneringen om te zetten. Een juridische AI moet dat wel kunnen.

Nieuwe ontwikkelingen op dit gebied focussen dan ook op het onderwerp van “white box” machine learning, lerende systemen die wél kunnen uitleggen hoe zij tot hun uitspraken komen. Dat zal helpen bij dit soort uitspraken. Maar fundamenteel blijft het issue dat AI’s uitspraken doen op basis van gelijkenis met eerdere zaken. Een novum hoeven we daar dus niet van te verwachten.

Arnoud

Sonos-speakers mogelijk onbruikbaar bij weigeren privacyvoorwaarden

| AE 9622 | Innovatie | 28 reacties

Gebruikers die niet instemmen met de nieuwe privacyvoorwaarden van Sonos, riskeren mogelijk dat hun speakers op termijn niet meer werken. Dat meldde Nu.nl eerder deze week. De speakerfabrikant gaat de apparaten voorzien van stemassistent Alexa van AmazonGoogle, en dat vereist een akkoord op privacyvoorwaarden. Wie dat weigert, kan geen updates meer installeren en zal dus op zeker moment functionaliteit verliezen. Ja, dat krijg je er van als je van een producten- naar een dienstenmaatschappij verschuift.

Voor veel mensen is dit nogal een verrassing: koop je een duur apparaat, en krijg je na een jaar of zo te horen dat er ineens allerlei privacy-dingen aan vast zitten waar je mee akkoord moet gaan als je niet wilt blijven zitten met een dure presse-papier. Maar juridisch klopt het, en niet omdat je bij aankoop maar beter de voorwaarden had moeten lezen: een Sonos is een abonnement, geen productaanschaf.

Natuurlijk, dat ding met stekker is een best wel feitelijk object dus dat koop je. Maar dat ding is op zich voor weinig dingen bruikbaar. Daar heb je een account voor nodig, zodat je bijvoorbeeld radiostations kunt ontvangen, een koppeling met Spotify of andere diensten kunt maken en andere muziekbronnen kunt streamen. En daar zit hem de crux: het zwaartepunt van de transactie om de Sonos te krijgen is die dienstverlening, dus wordt die transactie in principe als dienst gezien.

De wet kent al heel wat decennia regels over dienstverlening. Alleen zijn die geschreven voor situaties waarin mensen (of bedrijven met mensen) die diensten leveren. Denk aan schoonmakers, nannies, bezorgdiensten, vuilophaling, onderhoudscontracten en dergelijke. De regels uit de wet zijn dan ook geschreven om die situaties te reguleren. Zo staat er best goed geregeld wanneer een dienstverlener mag opzeggen of hoe en wanneer hij recht heeft op geld.

Wat niet in de wet staat, is hoe de voorwaarden mogen worden gewijzigd. Daar komen mensen onderling wel uit, was de gedachte. Specifiek bij consumentencontracten staat er een en ander op de zwarte en grijze lijsten voor algemene voorwaarden, om hen te beschermen tegen al te eenzijdige voorwaarden van dienstverleners. Kort gezegd komt het erop neer dat je kosteloos van je contract af kunt als men het zomaar ineens helemaal omgooit.

Dat is heel leuk bij een vuilophaaldienst of een schoonmaker, maar bij een Sonos heb je daar weinig aan. Daar wil je juist niet opzeggen, want dan heb je niets meer aan het apparaat. Je wilt eigenlijk juist dat bij afwijzen van de voorwaarden de huidige diensten geleverd blijven, zodat je in ieder geval kunt genieten van de dienst zoals oorspronkelijk afgenomen. Maar daar biedt de wet geen grondslag voor.

Conformiteit van het apparaat dan? Dat doet ineens niet meer wat je ervan mocht verwachten. Daar twijfel ik dus over. Volgens mij is er nog steeds niets mis met het apparaat. De slechte werking of geschonden verwachtingen zitten hem in de dienst die bij het apparaat hoort, en volgens mij kun je dat niet toerekenen aan het apparaat. (Iets juridischer: ik zie de overeenkomst namelijk niet als een koopovereenkomst, maar als een gemengde koop/dienst-overeenkomst met het zwaartepunt op de dienst.)

Nieuw mantra: Je bent geen eigenaar van je data, alle diensten die je koopt mogen zomaar stoppen of wijzigen en apparaten kunnen zomaar onbruikbaar worden. Leuk man, die informatiemaatschappij.

Arnoud

Jatten werkt: Instagram verplettert Snapchat met zijn Stories

| AE 9608 | Innovatie | 8 reacties

Een jaar geleden kopieerde Instagram de belangrijkste functie van Snapchat: de verdwijnende fotoverhalen, genaamd Stories. En met succes, las ik bij RTL Z. Beter goed gejat dan slecht bedacht, leken ze bij Instagram te hebben gedacht. En ja, dat is volkomen legaal, zo een feature overnemen van een concurrerende dienst. Er is weinig tot niets te doen aan het ‘jatten’ van ideeën of concepten voor je nieuwe internetdienst.

Ongeveer wekelijks krijg ik van mensen vragen hoe ze hun idee kunnen vastleggen, of voorkomen dat een ander hun concept gaat overnemen en tot een groter succes gaat maken. Het korte antwoord: vergeet het maar, juridisch gezien is er niets aan te doen.

Natuurlijk zijn er juridische rechten, zoals het auteursrecht, merkenrecht of octrooirecht. Maar die gaan je weinig helpen. Een merkrecht helpt je alleen tegen gebruik van de náám van je dienst. Kwestie dus van andere naam verzinnen. Ook het auteursrecht zal niet helpen, want dat beschermt tegen overname van de broncode van je software, en die kan je concurrent toch al niet te pakken krijgen.

Patenten oftewel octrooien zijn het aangewezen middel om features van een product te beschermen, ook als ze geheel onafhankelijk zijn gebouwd en onder eigen naam op de markt komen. Maar specifiek in de ICT sector is ook dat erg moeilijk. Ik hoef maar ‘softwarepatent’ te zeggen en de halve sector begint te schuimbekken, en met reden want er zijn me een partij idiote patenten verleend op totale trivialiteiten, volslagen bekende ideeën en ga zo maar door. Dat kon ook allemaal door steeds ruimere jurisprudentie, met name in de VS.

Recent lijkt daar een kentering in te zijn gekomen door het Alice-arrest uit 2014, waarin grofweg werd gezegd dat bekende dingen automatiseren niet patenteerbaar is en dat je voor een uitvinding toch echt een stukje technische, hardwarematige verbetering nodig hebt. 99% van de lopende softwarepatenten voldoet daar niet aan. Langzaam maar zeker begint het softwarepatent dan ook ten onder te gaan.

Praktisch gezien zie ik dan ook weinig tot niets dat je kunt doen tegen zulk ‘jatwerk’ van je concurrenten. Ja, één ding: zorgen dat je steeds blijft innoveren, zodat men altijd twee features achterloopt. Ergens wel grappig, want het is dus juist het gebrek aan patenten in deze wereld dat zorgt voor de innovatie.

Arnoud

Augmented reality mag je als gemeente niet zomaar reguleren

| AE 9577 | Innovatie | 11 reacties

Een rechter in Wisconsin heeft een gemeentelijke vergunningseis voor augmented reality games ongrondwettig verklaard, las ik bij Ars Technica. De maker van het spel Texas Rope ‘Em (een soort Pokémon Go) had bezwaar gemaakt tegen de regeling dat dergelijke aanbieders een vergunning moeten aanvragen en aan diverse eisen moeten voldoen, zoals de rotzooi van je… Lees verder

De opmars van de blockchain en haar gevolgen voor het contractenrecht

| AE 9552 | Innovatie | 6 reacties

Wezenlijk nieuw in het recht zijn de mogelijkheden voor nieuwe diensten op basis van blockchaintechnologie. Deze technologie is ontwikkeld in 2009 als onderdeel van de virtuele valuta bitcoin. Het betaalsysteem Bitcoin is in 2009 op de markt gebracht als opensourcesoftware door – vermoedelijk – de Japanner Satoshi Nakamoto. Het betaalsysteem realiseert een virtuele valuta: geen… Lees verder

Duizenden virtuele konijnen gaan dit weekend dood vanwege de diensteconomie

| AE 9440 | Innovatie | 26 reacties

Dit weekend zullen duizenden virtuele konijnen in Second Life permanent in ‘winterslaap’ gaan, las ik bij Vice. Het gaat om een keiharde en onomkeerbare dood van de gerenderde beestjes – de leverancier achter de Ozimal ‘breedables’ trekt de stekker uit de server waarmee de konijnen periodiek hun virtuele voedsel aangereikt krijgen. En dat krijg je… Lees verder

EU legt Facebook 110 miljoen euro boete op voor misleiding bij overname WhatsApp

| AE 9438 | Innovatie, Privacy | 7 reacties

De Europese Commissie heeft Facebook een boete van 110 miljoen euro opgelegd voor het geven van misleidende informatie bij de overname van WhatsApp. Dat las ik bij Tweakers. Bij deze overname had Facebook beloofd geen gegevens van hun sociale netwerk te combineren met de dienst van WhatsApp, maar dat gebeurde twee jaar later toch. Vanwege… Lees verder

Het nieuwste hot issue voor juristen: #legaltech

| AE 9431 | Innovatie | 5 reacties

Legal tech, wat een prachtige term. Hip en technologie-georiënteerd, en gericht op een sector die de afgelopen tien jaar veel aanzien heeft gewonnen. Harvey Specter meets Mission Impossible. De term legal tech verwijst eigenlijk naar alle technologie, met name ICT-technologie, die het werk van de juridische dienstverlener raakt. De recente opkomst van big data en… Lees verder

Mag Microsoft nu wel gebruik van andere browsers aan banden leggen?

| AE 9414 | Innovatie | 40 reacties

In Windows 10 S wordt het een stuk lastiger om van browser te wisselen, meldde de NOS recent. Microsofts nieuwe browser Edge blijft altijd standaard aanwezig: andere browsers kun je wel installeren met enige moeite, maar ze zullen nooit als standaardbrowser kunnen opereren. Maar hee, in 2013 kregen ze een megaboete voor precies dat: te… Lees verder