Mag een online game je bannen als hun algoritme zegt dat je je niet gedraagt?

| AE 7701 | Innovatie | 2 reacties

league-of-legendsDe ontwikkelaars van het spel League of Legends, Riot, hebben een algoritme ontwikkeld waarmee ze spelersgedrag kunnen herkennen dat zeer problematisch is: lastigvallen van andere spelers, gescheld, doodsbedreigingen en seksisme. Dat las ik bij Ars Technica. Wanneer mensen klagen, evalueert het algoritme de klachten en het spelersgedrag, waarin (na de nu lopende testperiode) je automatisch een tijdelijke of permanente ban krijgt. Op het gevaar af de trollen te voeren: mag dat?

Wangedrag van spelers in online spellen is al jaren een probleem. Dat varieert van gescheld, homofobie en seksisme in de chat tot het op zeer irritante wijze je verbinding ‘kwijtraken’ net wanneer je op het punt staat te verliezen. Met name het lastigvallen van andere spelers, in het bijzonder van vrouwelijke spelers, is de laatste tijd zeer in de aandacht (gamergate) en steeds meer dienstverleners nemen stappen om hier iets tegen te doen.

De voor de hand liggende stap is een klachtensysteem, maar het afhandelen van klachten is buitengewoon tijdrovend voor mensen. Niets zo simpel immers als even een klachtknopje indrukken als iemand niet speelt zoals jij wil, of als iemand te goed bezig is. Plus, je krijgt altijd een subjectieve afweging van het gedrag: is dit gewoon een opgewonden uiting of een scheldpartij?

Een algoritme zou die subjectiviteit moeten vermijden, en bovendien kun je een algoritme opschalen zodat je altijd alle klachten kunt afhandelen. Geweldig dus, nooit meer vertraging en geen subjectieve mensen die wat van je vinden. Bovendien kan zo’n algoritme sneller doorkrijgen wat nieuwe scheldwoorden of vervelende uitdrukkingen zijn.

Alleen: als je de Wet bescherming persoonsgegevens erbij pakt, dan zie je dat dat eigenlijk niet mag. Art. 42 lid 1 Wbp bepaalt:

Niemand kan worden onderworpen aan een besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem in aanmerkelijke mate treft, indien dat besluit alleen wordt genomen op grond van een geautomatiseerde verwerking van persoonsgegevens bestemd om een beeld te krijgen van bepaalde aspecten van zijn persoonlijkheid.

Het idee hierachter is dat je niet wil dat mensen ineens in een “computer says no”-situatie terechtkomen op basis van een profiel. Op zijn minst moet er een mens kijken naar de uitkomst van het algoritme, en bij voorkeur wordt er ook eerst geluisterd naar de reactie van de betrokken persoon.

Geen hypotheek krijgen omdat het bank-algoritme zegt dat jouw soort mens een risico is, dat is onwenselijk. Of nee, onmenselijk, want het Cbp gebruikt geen kleine woorden:

De menselijke waardigheid vereist dat dergelijke beslissingen over iemand ook door een andere persoon, en niet slechts door een geautomatiseerd systeem, worden genomen.

Een algoritmische ban is mensonterend. Oef.

Specifiek in de situatie dat er een contract is tussen de partijen (zoals bij een online spel), biedt lid 2 van dit artikel enige hoop: als je reageert op input van de betrokken persoon of “passende maatregelen zijn genomen ter bescherming van zijn gerechtvaardigd belang”, dan mag het wél. Zo’n passende maatregel kan zijn dat je mensen bezwaar laat aantekenen of tegenbewijs laat leveren en er dan nog eens over nadenkt.

Het is me niet duidelijk of Riot een systeem heeft ingebouwd waarbij je kunt klagen over je ban of andere automatisch opgelegde maatregel. Natuurlijk, je kunt altijd de helpdesk mailen maar de ervaring bij veel online diensten is dat daar niet snel een inhoudelijke reactie op komt. (Dat was ook de hele reden voor het automatiseren, immers.)

Los daarvan, eigenlijk is het niet genoeg, eerst automatisch bannen en dán pas naar de reactie luisteren. Eigenlijk moet je eerst zeggen “ons algoritme zegt nee, wat heeft u daarop te zeggen” en pas daarna te beslissen. Maar ja, dan heb je dus toch weer een mens nodig bij elke overtreding en die waren we nu net aan het wegautomatiseren omdat dat niet werkt. Dus wat nu? Toch maar een mensonterend algoritme laten beslissen?

Arnoud

Wanneer is auteursrechtinbreuk kunst?

| AE 7695 | Auteursrecht | 6 reacties

instagram-kopie-richard-princeKunstenaar Richard Prince verdiende tonnen met het uitprinten en in een galerij ophangen van Instagram-foto’s van andere mensen, meldde Boing Boing vorige week. Geen kritisch commentaar of sterk bewerkte eigen creatieve interpretaties van het banale van de vluchtige online maatschappij, nee gewoon een printout op groot formaat (wel op stevig karton, zo te zien). Dus eh, hoezo is dat dan legaal? Nou ja, kennelijk omdat het kunst is.

Dit is niet de eerste keer dat meneer Prince zoiets doet, en ook niet de eerste keer dat een rechtbank verklaart dat het legaal is. Al sinds de jaren zeventig presenteert hij kopieën (schilderijen) van eerder gemaakte foto’s als kunst, hoewel menig fotograaf dat als een auteursrechtschending zag.

Onder Amerikaans auteursrecht is bij zoiets de vraag of sprake is van “fair use”. Daarbij was een belangrijke vraag of Prince op een of andere manier wilde reageren op die foto’s of er commentaar op wilde geven – ongeveer zoals wij zouden beoordelen of iets een geldig citaat is. Maar dat was totaal niet zijn punt: hij had in het geheel geen mening over het eerdere werk, of zelfs maar een boodschap met zijn werk. Kunst is gewoon kunst, zoiets.

De Amerikaanse rechter gaf Prince gelijk: fair use onder Amerikaans recht vereist niet perse dat je commentaar levert op het werk waar je gebruik van maakt. Bij ons geldt die eis ook niet altijd, maar je komt wel in een grijs gebied als je een werk citeert voor een doel dat niets te maken heeft met het werk waaruit je citeert. Het wordt dan al snel een versiering, en versiering is het tegenovergestelde van een citaat.

Maar eh, ja, het zou kunnen, een argument dat dit een geldig citaat is omdat het Kunst is wat hier wordt vertoond. Net zoals het urinoir van Duchamp dat kunst was, ook al ging het om een bestaand gebruiksvoorwerp. Alleen vraag ik me serieus af wat de boodschap is van deze Instagramgalerij. Oh wacht, dát is natuurlijk kunst. Hmm.

Arnoud

Is embedded software het einde van het concept ‘eigendom’?

| AE 7693 | Innovatie, Software | 32 reacties

copyright-symbol-printed.pngVoertuigfabrikanten John Deere en General Motors willen het concept eigendom afschaffen, gilde Wired onlangs. In de VS staat de DMCA ter discussie: welke uitzonderingen op het auteursrecht moeten er in de wet blijven staan, en met name wat gaan we doen met de regels over het omzeilen van technische kopieerbeveiligingsmaatregelen in software. En de reden voor het gillen is de positie van Deere: je koopt weliswaar een tractor, maar de software krijg je slechts in licentie dus daar moet je van afblijven.

Het is decennialang het mantra geweest in software-auteursrechtland: je koopt geen software, je krijgt slechts een gebruiksrecht waarvan de scope niet verder reikt dan het de licentiehouder goeddunkt. Wie wil afwijken van dat contractueel gegunde recht, is eigenlijk maar een piraat.

Steeds vaker grepen softwareleveranciers ook naar technische maatregelen om kopiëren of aanpassen van hun software tegen te gaan. En om het hacken dáárvan weer tegen te gaan, staat sinds alweer heel wat jaartjes in de wet dat het verboden (‘onrechtmatig’) is om effectieve kopieerbeveiligingen te omzeilen of uit te schakelen.

Maar in de wet staat er niet bij dat dat alléén geldt wanneer je de software illegaal wilt kopiëren. Ook het uitschakelen van een beveiliging met een legitiem doel – zeg, omdat je een citaat uit het beschermde werk wilt kopiëren, of omdat je je tractor wil opvoeren met een softwarehack – is strikt gesproken verboden. En Deere en General Motors betogen nu dus dat dit niet alleen maar een ongelukkige lezing van de wet is. In prachtig ronkend auteursrechtenpropaganda heet het dan dat:

[Circumventing the protection may] make it possible for pirates, third-party developers, and less innovative competitors to free-ride off the creativity, unique expression and ingenuity of vehicle software.

Dat het in veel gevallen niet gaat om “minder innovatieve concurrenten” maar om mensen die hun legaal gekochte auto willen aanpassen, zeggen ze er dan niet bij. Die mensen hebben de auto wel gekocht, maar de software slechts in licentie gekregen.

In Europa koop je je software wél, zeker als hij embedded zit in een apparaat. Alleen: daarbij is het zeker niet gezegd dat je de software mag aanpassen. Het auteursrecht op dat exemplaar is uitgeput, maar dat betreft eigenlijk alleen het recht om dat ene exemplaar van de software opnieuw op de markt te brengen.

Het aanpassen van die software valt buiten de uitputting. Net zoals het strikt gesproken niet toegestaan is om in een boek correcties te maken of pagina’s eruit te scheuren en in te lijsten. Alleen dát vinden we doodnormaal. Waarom dan met aanpassen van software niet?

Natuurlijk, het aanpassen van embedded software in een apparaat zoals een auto kan gevaarlijk zijn. Maar dat reguleer je door in de Wegenverkeerswet op te nemen wat er wel en niet mag, zodat de overheid daar toezicht op kan houden. Niet door een auteursrechthebbende te laten bepalen óf je de software in je auto mag aanpassen.

Arnoud

Duitse sites aangeklaagd om gebruik vind-ik-leuk-knop

| AE 7691 | Privacy | 29 reacties

Een Duitse privacywaakhond heeft twee webwinkels aangeklaagd wegens het doorsturen van gegevens van bezoeker via de vind-ik-leuk-knop van Facebook, las ik bij Nu.nl. Het gaat om consumentenorganisatie Consumer Advice Centerde Duitse Consumentenbond, afdeling Noordrijn-Westfalen (dank Sanne), die de webwinkels verwijt dat zij persoonsgegevens van bezoekers zonder toestemming naar de perfide Verenigde Staten doorgeeft. En ja,… Lees verder

Moet je bij een notice/takedown je hele GitHub repository verwijderen?

| AE 7673 | Auteursrecht, Software | 14 reacties

Een lezer vroeg me: Als ik in mijn GitHub repository een pull-request binnenhaal waar ik later een notice and takedown over krijg, voldoet het dan om met een nieuwe commit de omstreden code te verwijderen (de omstreden code blijft dan in in de git historie beschikbaar) of moet ik dan de hele repository verwijderen? Voor… Lees verder

Kan je huurcontract opgezegd worden als je via AirBnB onderverhuurt?

| AE 7687 | Contracten | 15 reacties

De rechtbank in Amsterdam heeft een huurder die zijn appartement via Airbnb aan toeristen onderverhuurde veroordeeld tot ontruiming. Dat las ik bij AMS Advocaten. De rechtbank vond de overlast die dit veroorzaakte, samen met de overtreding van de huurovereenkomst, zo ernstig dat de verhuurder de huurovereenkomst mocht opzeggen. Ook moet de huurder een boete betalen… Lees verder

Gemeentemedewerker moet Facebookprotestberichten weghalen van werkgever

| AE 7677 | Arbeidsrecht, Meningsuiting | 9 reacties

Een medewerker van de gemeente Eindhoven, werkzaam bij het IJssportcentrum en tegenstander van het sluiten van deze accommodatie, heeft op last van zijn leidinggevende berichten van zijn Facebook-pagina tegen de voorgenomen sluiting moeten verwijderen. Dat las ik in het ED. De man had diverse posts geplaatst die het verzet tegen de sluiting ondersteunen. Merkwaardig zou… Lees verder

Mag je foto’s van je zieke kind publiceren in een klachtblog?

| AE 7679 | Meningsuiting, Privacy | 14 reacties

Mag je als ouder foto’s van je zieke kind publiceren als je wilt klagen over handelen van een reisoperator? Een lezer (dank) wees me op dit Tweakerstopic waarin iemand zijn ontevredenheid uit over reisoperator Arke naar aanleiding van de ziekte van zijn tweejarig kind tijdens een vakantie in Turkije. Gezien de situatie snap ik best… Lees verder

Is een stagiair aansprakelijk voor illegale software tijdens zijn stage?

| AE 7665 | Aansprakelijkheid, Arbeidsrecht | 37 reacties

Een lezer vroeg me: Bij mijn stagebedrijf moest ik met Photoshop werken, maar mijn opdrachtgever had geen licenties meer. “Torrent het maar” werd er toen gezegd, ik heb dat gedaan en nu heeft het bedrijf een boete gekregen voor illegale software. Die willen ze nu op mij verhalen! Maar kan dat zomaar? In theorie is… Lees verder

Hoe zet ik mijn aansprakelijkheid op nul?

| AE 7667 | Aansprakelijkheid | 22 reacties

Een lezer vroeg me: Ik ga als kleine zzp’er internetdiensten leveren, maar ik kan en wil geen claims dragen. Hoe zet ik in mijn voorwaarden mijn aansprakelijkheid op nul? Ik snap dat dat minder aantrekkelijk is voor opdrachtgevers, maar met één claim ben ik gelijk failliet. Juridisch is een zo vérgaande aansprakelijkheid toegestaan, zij het… Lees verder