Tag: Fout

About Fout

Subscribe Feeds

De AI Hall of Shame laat zien waarom AI compliance officers nodig zijn

Geplaatst op in Innovatie, 4 reacties

Heb je je wel eens afgevraagd hoe deze innovatie bijdraagt aan een afschuwelijke dystopie? Zo prikkelt machine learning engineer Sean McGregor zijn collega’s als die weer eens enthousiast doen over de inzet van AI voor het een of ander. Want maar al te vaak blijkt een goed idee uiteindelijk vooral nadelen voor kwetsbare mensen op te leveren of nodeloze rechtlijnigheid te introduceren in een op zich prima werkend menselijk proces. En om dat kracht bij te zetten, onderhoudt hij sinds een tijdje de AI Incident Database.

Zoals de site het zelf toelicht:

The AI Incident Database is a collection of harms or near harms realized in the real world by the deployment of intelligent systems. You are invited to submit reports to the database, whereupon accepted incidents will be indexed and made discoverable to people developing and deploying the next generation of AI technology to the world. Artificial intelligence will only be a benefit to people and society if we collectively record and learn from its failings. Learn more about the database, or read about it on the PAI Blog, Vice News, Venture Beat, and arXiv among other outlets.
Soms gaat het om gewoon hilarische storingen, zoals een surveillancerobot die zichzelf de fontein in rijdt omdat hij water niet van tegels kon onderscheiden. Wat ook weer heel naar kan uitpakken, zoals bij de lasrobot die niet geprogrammeerd was om mensen te vermijden – en iemand doodde toen die een losgelaten metalen plaat wilde verwijderen.

De pijn zit hem vaker niet in zulke extreme dingen, maar in de vaak schimmige manier waarop een AI tot haar conclusie komt. Bijvoorbeeld omdat je geen uitleg krijgt, zoals bij incident 96 waar een door de fabrikant geheimgehouden algoritme leraren beoordeelt en laat ontslaan. Of bij incident 78, waar een studente geweigerd werd bij geneeskunde in Duitsland omdat de AI had ingeschat dat ze lage cijfers zou halen. Of bij incident 95 waarin gezichts- en stemanalyse ertoe leidt dat sollicitanten geweigerd worden.

Die laatste is interessant omdat de gebruikte data is geanalyseerd en vrij van bias zou zijn bevonden. Ja, ik ben skeptisch want ik geloof dat niet – bijvoorbeeld omdat ik me niet kan voorstellen dat men bij stemanalyses de moeite neemt om stotteraars of mensen met slokdarmspraak te vragen om een representatieve hoeveelheid data aan te leveren.  (De kans is groter dat men het ding op porno getraind heeft, daar is immers veel sneller een grote hoeveelheid data voor te krijgen.)

Dat gebrek aan representativiteit zie je vaak opduiken. Bijvoorbeeld in incident 48, waarbij paspoortfoto’s worden gescreend op “ogen volledig open” wat natuurlijk misgaat bij Aziatische mensen. Die overigens ook niet hoog scoren in beauty contests waarbij een AI de jury speelt. Op het gorilla-incident van Google hoef ik al helemaal niet op in te gaan. Het aantal voorbeelden is talrijk.

De vraag is, hoe moet het dan wel. Daar zijn alweer eventjes geleden de EU Ethics Guidelines for trustworthy AI voor geformuleerd. Deze bevatten geen juridische eisen (die komen er wel aan, de Verordening AI) maar juist ethische kaders: hoe moet het wel, wat mag de burger verwachten en wat moet een bouwer of gebruiker van AI aan verplichtingen op zich nemen.

Wie wil leren hoe dat werkt: op 20 september start mijn tienweekse cursus AI Compliance in de praktijk weer. Leer in je eigen tijd (ongeveer 4 uur per week) de techniek én de ethische kaders rondom AI, met echte cases en echte data. Ik laat je zoeken naar bias in een dataset met leningaanvragen of puzzelen over waarom een snel en vrijwillig AI-loket bij de gemeente in strijd is met de mensenrechten. En ondertussen zet je je ook in om de gemeente Juinen met haar miljoenen kostende AI initiatieven hoog in de wereldranglijst te krijgen. Wees er snel bij!

Arnoud

 

Dronter gezin al jaren bedreigd vanwege geografische coördinaten

Geplaatst op in Informatiemaatschappij, 23 reacties

Veel mensen die digitaal opgelicht zijn, komen in hun zoektocht naar het postadres van een internetsite vaak uit bij de coördinaten 52°30 0 N, 5°45 0 E. Dat meldde de NOS onlangs. En dat is vervelend voor een gezin uit Dronten, want dat is waar hun huis staat. De coördinaten blijken de algemene plaatsbepaling van Nederland te zijn, deze Dronters wonen dus exact in het midden van het land. Maar het lastige is dus dat allerlei databases dit geven als de locatie van degene die je zocht, in plaats van “geen idee, maar ergens in dit land”. Wat is daar nu aan te doen?

Het verhaal deed me denken aan een zaak uit 2016 in Amerika, waar een stel uit Kansas vergelijkbare problemen had:

As any geography nerd knows, the precise center of the United States is in northern Kansas, near the Nebraska border. Technically, the latitudinal and longitudinal coordinates of the center spot are 39°50?N 98°35?W. In digital maps, that number is an ugly one: 39.8333333,-98.585522. So back in 2002, when MaxMind was first choosing the default point on its digital map for the center of the U.S., it decided to clean up the measurements and go with a simpler, nearby latitude and longitude: 38°N 97°W or 38.0000,-97.0000.
En natuurlijk woonden de eisers in deze zaak exact op die locatie. Er is geschikt, en het midden van de VS ligt nu in een meertje daar in de buurt. De Dronters met ditzelfde probleem hopen dat het midden van Nederland nu het Markermeer gaat worden, wat inderdaad de makkelijke oplossing zou moeten zijn.

Maar het probleem is wel iets fundamenteler. Er zijn dus kennelijk hele hordes systemen die deze coördinaten opvatten als gewoon een locatie, in plaats van als een default “we weten het niet”. Wie had er ooit het onzalige idee dat je een land kon aanduiden als een GPS locatie van een plekje in dat land?

Nou, dat blijkt dus de CIA te zijn geweest. Die publiceren het World Factbook, en daarin staat onder Geographic coordinates opgegeven “52 30 N, 5 45 E” en dat is de Haringweg in Dronten. Echt fout is dat niet perse te noemen, want ik zie in Maps wel hoe je dat soort van het midden van het land kunt noemen. Maar gezien het beoogde gebruik was het Drontermeer of voor mijn part het gemeentehuis van Dronten een minstens zo goede keuze.

Dit lijkt ergens een probleem van valse precisie te zijn, want je wekt de indruk dat deze coördinaten de straat zijn die je zoekt, maar het gaat alleen om het land waar je moet wezen, bepaald niet hetzelfde antwoord.  Maar het is lastig één actor in de keten aan te wijzen die het fout doet. De CIA heeft een algemene locatie zodat je het land met de grootste zekerheid vindt. Sites die dit herpubliceren, doen dit ook om over Nederland wat te melden. Diensten die beweren IP-adressen naar locaties te vertalen, gaan in goed vertrouwen af op de databases die ze hanteren. En daar is het ergens ooit misgegaan, want in plaats van (null) is daar dus die algemene locatie in gekomen. Maar om nu te zeggen dat dat een fóut is?

Arnoud

Grote kosten gemaakt voor werkgever, heb ik een probleem?

Geplaatst op in Ondernemingsvrijheid, 18 reacties

“Ik zat dit weekend nog eens te lezen maar kwam er toen achter dat deze api helemaal niet gratis is en dat elke call een paar centen kost. Nu zijn alle calls al gemaakt en heb ik berekend dat er ongeveer $40.000 in rekening gebracht zal worden… oeps”. Dat las ik bij Tweakers. Denk je een leuk testprogrammaatje te hebben gemaakt dat tegen een gratis API van Google aan praat, blijk je een paar cent per call gerekend te krijgen. Leuke rekening voor de werkgever. En leuke discussie natuurlijk, maar diverse mensen mailden me: moet deze persoon Koptelefoontje dit zelf betalen?

‘Koptelefoontje’ was als werknemer aan de slag gegaan om een aantal data zaken voor het werk te verbeteren. Zhij had daarvoor een gratis Google API gevonden, en ingezet in combinatie met een bestaand Google cloud account. Tabel aanmaken, script uitwerken en de boel lekker laten lopen. Voor wie het nu technisch duizelt: 100.000 bedrijfsadressen opvragen bij de KVK om te controleren of de eigen klantadministratie nog op orde is.

Alleen, die API (Google Places) bleek niet gratis maar enkele centen per aanroep. Dus dan zit je achteraf met een rekening van 40.000 dollar, hoewel dat na enig naspeuren ‘slechts’ 15.000 Euro bleek te zijn. Die dus niet goedgekeurd was door de werkgever maar wel binnenkort geïncasseerd zal worden door Google.

Een stevige fout dus, dat is duidelijk. Maar hoe veel pijn gaat dit doen bij de werknemer?

Om met het goede nieuws te beginnen, je hoeft je als werknemer geen zorgen te maken dat jij dit bedrag gekort krijgt op je salaris. Dat kan gewoon niet in het arbeidsrecht. De kosten van fouten bij het werk worden gedragen door de werkgeverwerknemer.

Het slechte nieuws is natuurlijk dat (een beetje afhankelijk van de omvang van het bedrijf) een fout van 15.000 euro arbeidsrechtelijk wel een forse is. Ontslag zal er niet in zitten, maar het riekt naar een stukje slecht inschatten van wat je mag en kan op het werk en dat kost je punten op je volgende beoordelingsgesprek. Bij een klein bedrijf kan ik me voorstellen dat je iemands contract dan niet verlengt.

Daar staat wel tegenover dat je ook als werkgever wel enige stappen moet nemen om zulke dingen te voorkomen. Zo kan een organisatie budgetten instellen bij Google’s clouddiensten, die werknemers dan niet kunnen overschrijden. Ook zou je de toegang tot die API’s kunnen beperken of loggen zodat je toezicht hebt op wie wat doet. Dat maakt dat ik het nogal cru zou vinden om dit zonder meer te zien als alleen maar een fout van de werknemer.

Ik kan niet zeggen zelf ooit zo’n dure fout te hebben gemaakt. Enkele duizenden euro’s uitgeven en dan concluderen dat iets niet werkt, dat wel. De verkeerde backup terugzetten op mijn home server, ja dat ook.

Arnoud

Ben ik nog aansprakelijk als ik het IE op mijn software overdraag?

Geplaatst op in Intellectuele rechten, Ondernemingsvrijheid, 8 reacties

software-disc-cd-dvd-dragerEen lezer vroeg me:

Voor een klant heb ik maatwerksoftware ontwikkeld. Zij willen nu het intellectueel eigendom daarop verkrijgen. Op zich prima, alleen wil ik dan geen aansprakelijkheid meer voor fouten. Ik heb er dan immers geen controle meer over. Daar reageerden ze heel verbaasd op. Maar dit is toch geen gekke vraag?

Nee, een gekke vraag is dit niet. Maar ik kan me de verbazing ook wel weer een beetje voorstellen.

Aansprakelijkheid en intellectueel eigendom staan in principe los van elkaar. Aansprakelijk ben je als je een fout maakt in de opdracht, en dat heeft niets te maken met wie eigenaar wordt van de auteursrechten op het resultaat.

De verwarring hier gaat volgens mij over fouten die de opdrachtgever aanbrengt nadat de software klaar is. Wie het auteursrecht verwerft, mag ook zelf gaan knutselen in het geleverde. Maar het is natuurlijk evident dat je de leverancier niet aansprakelijk kunt houden voor je eigen fouten. Dit heeft niets te maken met eigendom op het werk. Als ik een huis laat bouwen, is de aannemer aansprakelijk voor fouten terwijl ik er eigenaar van ben. Hetzelfde gebeurt bij auteursrechten.

Het lijkt me wel verstandig dit even uit te werken in het contract, om bewijsproblematiek te verkleinen. Je zegt dan bijvoorbeeld dat iets alleen een fout is als het ook zit in de code zoals overgedragen. Je hebt dan een manier nodig om vast te leggen exact welke code dat is. Denk aan een hash, een lijst bestandsnamen met datum en grootte of het nummer van een github-repository.

Arnoud

Hoe rechtsgeldig is een foutief toegepaste kortingscode?

Geplaatst op in Ondernemingsvrijheid, 58 reacties

teufel-winter-wonderland-korting-coupon-codeDiverse lezers wezen me op een Tweakersdiscussie over een kortingscode van het Duitse bedrijf Teufel. Die code gaf 50% korting op je bestelling, maar Teufel meldde zich achteraf in de mail met dat dit een vergissing was en of men de spullen even terug wilde sturen. Hoe werkt die variant op het Otto-arrest eigenlijk?

Een basisregel in het recht is dat je pas een koopovereenkomst hebt als beide partijen het eens zijn over wat er moet worden geleverd en wat er moet worden betaald. Als dat niet zo is, dan is er nog één redmiddel: mag de wederpartij er redelijkerwijs op vertrouwen dat het aanbod zo bedoeld was? Dit is waar de toets over “kennelijke typefouten” uit het Otto-arrest op gebaseerd is. Typt men 99 terwijl men 999 bedoelde, dan is het verschil te groot en heb je geen overeenkomst. Typte men 888 terwijl men 999 bedoelde, dan is de kans groot dat je wél gewoon een overeenkomst hebt. Die getallen liggen niet bijster ver uit elkaar.

Hier gaat het om een kortingscode, die een stevige korting van 50% opleverde. Geloofwaardig? Gezien de kerstactie (zie screenshot hierboven, bron) op zich wel, 50% korting is niet gek in een “Winter Wonderland” actie met korte looptijd.

Teufel zegt in de annuleringsmail echter:

Bij deze bestelling werd een actiecode geactiveerd, die weliswaar in ons systeem is aangemaakt, maar niet openbaar is gemaakt. De code is door iemand toevallig ontdekt en o.a. op internet verspreid. Bij het gebruik van de niet vrijgegeven code werd in het bestelproces een foutieve prijs aangegeven.

Ik volg niet helemaal hoe dat kan gebeuren, maar op zich hebben ze daar wel een punt áls het zo is. Dan ontbrak de wil van de verkoper om die korting te geven. Het tegenargument moet dan zijn “maar ik mocht erop vertrouwen dat jij dit wilde, een code van 50% uitgeven”. Alleen dan moet er wel bewijs komen: waar komt die code vandaan, wat zei Teufel bij de aankondiging van de code en welke voorwaarden zaten er eventueel op?

Dat iets technisch werkt, is geen bewijs dat je erop mocht vertrouwen dat het juridisch bindend was. Net zoals wanneer de kortingscode technisch zou werken maar in strijd met de voorwaarden gebruikt werd. Staat er in de voorwaarden bijvoorbeeld “alleen bij bestellingen vanaf €100” en hij werkt toch bij een bestelling van €50, dan heb je gewoon per definitie pech. Voorwaarden winnen het van implementatie.

Verder had Teufel nog een mailtje gestuurd met daarin de frase “bindende opdrachtbevestiging”. Ik denk niet dat dat veel betekenis heeft: die mail is automatisch gegenereerd, en uit het Otto-arrest blijkt dat je geen rechten kunt ontlenen aan zulke automatische mails, zeker niet als ze wettelijk verplicht verzonden moeten worden:

Otto heeft daarmee enkel bevestigd dat de bestelling van de consument haar heeft bereikt (artikel 3:37 lid 3 BW). Juist omdat bij een bestelling die via elektronische weg wordt gedaan geen direct menselijk contact plaatsvindt, is … wettelijk vereist dat de dienstverlener, in casu Otto, zo spoedig mogelijk via elektronische weg de ontvangst van de bestelling bevestigd (artikel 6:227 c lid 2 BW). Het betreft dus geen ‘opdrachtbevestiging’ doch enkel een ontvangstbevestiging. Een ontvangstbevestiging geeft geen uitsluitsel over de vraag of er al dan niet een overeenkomst tot stand is gekomen.

En als laatste melden sommige mensen dat ze het product gehad hebben en dat Teufel ‘dus’ erkend heeft dat de overeenkomst rechtsgeldig is. Nou, vergeet het maar. Die bestel- en leverprocessen zijn automatisch, en daarmee geen (sterk) bewijs dat men dit daadwerkelijk wilde. De afdeling orderafhandeling gaat niet over de prijzen. Het is natuurlijk buitengewoon slordig, maar als het aanbod of de kortingscode niet geloofwaardig was, dan is er geen rechtsgeldige koop gesloten en dan moet het geleverde terug want daar heb je geen recht op.

(Misschien dat je nog kunt zeggen, never mind die code, ik betaal het verschil bij en koop zo voor het originele bedrag. Maar formeel doe je dan een nieuw aanbod aan Teufel in plaats van ze te houden aan een eerdere koop.)

Wat mij betreft komt de vraag dus zoals altijd neer op: hoe reëel was de kortingscode en waarom mocht je erop vertrouwen dat die code correct en legaal gepubliceerd was?

Arnoud

Is mijn provider aansprakelijk voor bugs in zijn router?

Geplaatst op in Security, 15 reacties

Een lezer vroeg me:

Is mijn Internet Service Provider aansprakelijk voor schade die ontstaat door een fout of een bug in de door hem aan zijn klanten beschikbaar gestelde router? Hierbij ga ik er van uit dat mijn eigen PC qua veiligheid op orde is.

Wie een product levert, moet zorgen dat die aan de redelijkerwijs gewekte verwachtingen voldoet. Of het nu gaat om een appel, een wasmachine of een tablet. Blijkt dat niet zo te zijn, dan heeft de consument recht op gratis herstel of vervanging van het product.

Deze ‘conformiteitseis‘ staat geheel los van eventuele garanties of toezeggingen van de fabrikant of leverancier. Een fabrikant kan garanderen dat de tablet een jaar lang perfect werkt, maar als na anderhalf jaar de batterij de geest geeft dan kun je toch écht bij de winkel gratis herstel daarvan verlangen. Ja, bij de winkel. Want volgens de wet is niet de fabrikant maar de winkel verantwoordelijk.

Probleem is altijd wel: wat is een redelijke verwachting bij dit soort dingen? Dit is namelijk niet hetzelfde als “is foutloos”. Dat een appel na een week bruin en oneetbaar wordt, is niet onredelijk. Die appel voldoet dus aan de conformiteitseis, en je kunt geen herstel of vervanging van de appel eisen. Een wasmachine die na een week defect is, is evident niet conform de verwachtingen.

Bij ICT-producten is dit een groot grijs gebied, met name als het gaat om security. We blijken met z’n allen nog steeds niet in staat om veilige en foutloze producten af te leveren. Dus enige fouten of problemen moet je helaas verwachten. Er is nog geen norm zoals we die wel kennen voor veiligheid: een router mag niet fysiek ontploffen of 240 volt op de netwerkaansluitingen zetten. Dat is per definitie buiten de conformiteitseis, ongeacht de reden voor een dergelijke fout.

Je moet dus op zoek naar de aard van de fout: hoe kon deze schade ontstaan, hoe moeilijk was het geweest dit te fixen en vooral had je redelijkerwijs mogen verwachten dát de fout er niet zou zijn? En daar is weinig zinnigs over te zeggen zonder te weten wat voor fout, wat voor router en wat voor gebruik daarvan.

Het lijkt mij dat wanneer een bedrijf een router levert met verouderde firmware – dus met bekende fouten – je al heel snel mag spreken van een conformiteitsgebrek. Dat hoort gewoon niet te gebeuren. Maar dat er fouten worden ontdekt in wat er is uitgeleverd, dat is nu eenmaal de praktijk. Meer dan een upgrade installeren, kun je niet doen denk ik. Natuurlijk moet die dan wel gratis beschikbaar gesteld worden.

Arnoud

Mijn router heeft een backdoor, mag ik mijn geld terug?

Geplaatst op in Ondernemingsvrijheid, Security, 21 reacties

ziggo-modem-wifi.jpgEen lezer vroeg me:

Ik las op Tweakers dat mijn oude router een backdoor bevat. Dat is natuurlijk niet wat ik mocht verwachten, dus kan ik nu bij de winkel mijn geld terug vragen?

Een product zoals een router moet aan de redelijkerwijs gewekte verwachtingen voldoen. Dat heet de conformiteitseis, soms ook wel de wettelijke garantie genoemd.

Een router die niet routeert, is niet conform de verwachtingen. Die mag dus terug, en de winkel moet deze herstellen of een vervangend product geven. En lukt dat niet, dan heb je recht op je geld terug.

Maar niet elke verrassing bij het product is een conformiteitsgebrek. Zo hadden we ooit de discussie over IPv6 versus conformiteit in de context van netneutraliteit; die zou je ook hier kunnen voeren. Mag je anno 2014 van een router verwachten dat hij een IPv6-netwerk aan kan? Natuurlijk, als het op de doos staat dan moet hij dat doen. Maar als er niet over v4 of v6 gesproken wordt, wat mag je dan verwachten?

Je moet dan gaan kijken naar wat de stand der techniek is, wat gebruikelijk is in de markt, oftewel wat de redelijke verwachting mocht zijn bij dit soort producten. Prijs en doelgroep tellen mee. Een simpel routertje van €10 zal minder kunnen dan een topmodel van een als innovatief bekendstaand bedrijf. En bij dat simpele routertje mag je dan ook eerder storingen of problemen verwachten.

Onbedoelde backdoors zou ik in eerste instantie niet meteen als conformiteitsgebrek zien. Fouten worden overal gemaakt, en zeker bij IT-producten. Het is bekend dat dat kan gebeuren, en dat weegt mee bij het bepalen van de verwachtingen.

Een opzettelijk ingebouwde backdoor wordt een ander verhaal. Daarmee introduceert de fabrikant opzettelijk een beveiligingslek of kwetsbaarheid, en dat kan toch niet de bedoeling zijn. Maar bewijzen dat de backdoor opzettelijk ingebouwd was, lijkt me niet echt haalbaar.

Arnoud

Een prijs van nul euro, kan dat?

Geplaatst op in Ondernemingsvrijheid, 32 reacties

speciale-aanbieding.pngEen lezer vroeg me:

Bij een webshop in kantoorartikelen vond ik ineens een hele mooie aanbieding: de postbakjes waren nul euro! Ik heb er meteen honderd genomen, ik moest wel verzendkosten betalen maar dat lijkt me logisch als ze op deze manier hun magazijn leeg willen hebben. Alleen werd een dag later de bestelling geannuleerd want het had 4 euro per bakje moeten zijn. Kan dat zomaar? In de voorwaarden stond niets over typefouten in de prijs!

Ja, dat kan zomaar en nee de disclaimer of voorwaarden zijn hierbij totaal niet relevant.

Je sluit alleen een koop bij een webwinkel wanneer de prijs reëel is. Wanneer dat precies het geval is, hangt heel erg af van hoe de prijs wordt gepresenteerd, wat voor soort winkel het is (design/exclusief of juist prijsvechter) en wat het product elders kost. En in twijfelgevallen ben je als koper verplicht om navraag te doen (OTTO-arrest). Doe je dat niet, en was de prijs niet reëel dan mag de winkel de ‘koop’ annuleren. Koop tussen aanhalingstekens ja, want juridisch is er geen koopcontract gesloten als de genoemde prijs niet reëel was.

Recent hadden we een discussie over Dell, dat een prijsfout van zo’n 500 euro had gemaakt bij een laptop van 1600 euro (met SSD schijven). Daar stond “SPECIALE AANBIEDING” bij, en bovendien hadden werknemers van Dell bevestigd dat de informatie juist was. In dat geval mag je wel op de prijs vertrouwen.

Een prijs van nul euro kan volgens mij nóóit kloppen. Een winkel zal vast wel eens dingen gratis weggeven, maar dan staat er niet een prijsje van nul euro bij, dan staat er “Gratis!”. En in mijn ervaring krijg je alleen dingen gratis als je iets anders koopt. Ik heb nog nooit een (web)winkel gezien die gewoon een product in de gratis gooit. Jullie wel?

Arnoud

Dell doet een solid state OTTO

Geplaatst op in Informatiemaatschappij, 104 reacties

dell-prijs-besparing.pngGaan we weer een keer: nu is het Dell dat een hele strakke aanbieding doet en vervolgens annuleert omdat de prijs een fout lijkt te zijn geweest. Bij Tweakers hadden ze een aanbieding bij Dell ontdekt voor een XPS laptop met twee 512 GB SSD schijven voor 1099 totaal. Dat is wel héél mooi; die schijven op zich kosten al zo’n 1000 euro. De draad begint dan ook met “zal wel een foutje zijn” maar Dell verwerkt de bestellingen gewoon – en bevestigt desgevraagd dat de prijzen echt kloppen.

We stoffen het OTTO-arrest maar weer eens af. Bij prijsfouten, zeker naar consumenten, is de winkel verplicht te leveren tenzij de fout zo evident is dat je daar niet op mocht vertrouwen. Disclaimers en voorbehouden in de voorwaarden zijn irrelevant. Als de prijs ongeloofwaardig is, dan moet je navraag doen. In de OTTO-zaak was dat niet gebeurd, en daar ging men dus op onderuit.

Een beetje Tweaker weet dat het eigenlijk niet kan, 1000 euro aan SSD opslag als de laptop 1099 euro kost. Maar een échte Tweaker weet ook wel een verklaring waarom het wél kan: men kocht dit net wat oudere type groot in, en moet nu van de voorraad af.

En er stond wél bij dat het een speciale aanbieding was:

dell-speciale-aanbieding.png

Maar goed, dat kan een geautomatiseerde feature van de site zijn: is de prijs X eurolager dan de normale prijs, zet dan het plaatje “speciale aanbieding” erbij.

Kortom, navraag doen dus. En dan krijg je dus dit te horen:

dell-chat-bevestiging.png

En ja ik geloof onmiddellijk dat deze helpdeskdrone ook alleen maar op de site keek en niet zelf nadacht of navraag deed. Maar dát is echt het probleem van Dell. Je mag verwachten dat een helpdeskmedewerker bevoegd is om namens het bedrijf dingen te bevestigen of te ontkennen over producten bestellingen. (Niet natuurlijk als het een chatscript was.) Dus als die medewerker zegt “ja dat klopt wat op de site staat” dan heb je de verplichte navraag gedaan en mag je afgaan op de mededeling van de medewerker.

Een tijd geleden hadden we ook zoiets met Nokia, dat een aanbieding deed die ze niet wilden leveren. Ook daar werd bevestigd dat de site klopte, en ook daar werden de bestellingen vervolgens geannuleerd met “foutje, bedankt”. En ook toen wilden mensen graag naar de rechter om hun gelijk te halen. Alleen ging dat toen (zoals eigenlijk elke keer) als een nachtkaars uit.

Voor 1099 euro lijkt het me toch wel de moeite waard om eens een OTTO II arrest te gaan halen. Dus nogmaals, en nu écht: wie wil er naar de rechter, en welke jurist helpt (net als ik) mee met de dagvaarding en dergelijke?

Arnoud

Ben ik aansprakelijk voor de fouten in mijn software?

Geplaatst op in Intellectuele rechten, Ondernemingsvrijheid, 41 reacties

bug-fout.pngEen lezer vroeg me:

Ik heb als freelancer een stukje software gemaakt voor een groot bedrijf. Nu melden ze me dat er een bug in zit waardoor ze maanden aan data kwijt zijn, en ze willen mij aansprakelijk stellen voor de schade! Ik werk eigenlijk altijd zonder algemene voorwaarden, omdat ik niet houd van dat formele gedoe, maar nu maak ik me toch wel zorgen. Kunnen ze zomaar een grote claim indienen?

Dat zou zomaar kunnen inderdaad. Wanneer een leverancier geen algemene voorwaarden hanteert, dan geldt de wettelijke regel voor aansprakelijkheid. Die zegt dat de ontwikkelaar aansprakelijk is voor alle schade, als de fout hem te verwijten was. Daarvan is kort gezegd sprake als hij niet de gebruikelijke mate van zorg heeft betracht die een normaal ontwikkelaar in acht zou nemen.

Het zal dus aankomen op de aard van de fout. Was dit een zeer subtiele moeilijke fout of juist een triviale bug die de vraagsteller gewoon had moeten ontdekken bij het testen? En zit de fout wel in de door hem geleverde code, of zit het hem in de interactie tussen zijn code en die van het bedrijf? In het laatste geval is het moeilijk de ontwikkelaar te verwijten dat de fout er zat.

Ik moet zeggen dat ik schrik van hoe veel programmeurs blijken te werken zonder algemene voorwaarden, of met een generiek modelletje van de Kamer van Koophandel of van een op internet gevonden concurrent dat dan net niet de clausules heeft die je wilt. Of die wel aansprakelijkheid uitsluit maar dan zó ver gaat dat de clausules ongeldig zijn (“Leverancier is te allen tijde nergens voor aansprakelijk”).

<reclame style=’schaamteloos’>Het starterspakket voor softwareontwikkelaars van mijn bedrijf zou hier goed geholpen hebben.</reclame> De ICT~Office voorwaarden zijn ook een gratis optie, hoewel die dan weer zó eenzijdig zijn dat grote klanten ze vaak direct afwijzen. Maar in gevallen als deze helpen ze wel: vorig jaar kon een ontwikkelaar een schadeclaim pareren van 300.000 euro dankzij de algemene voorwaarden.

Meelezende ontwikkelaars: Hoe zijn jullie gekomen tot de algemene voorwaarden die je nu hebt?

Arnoud