Welke wetswijzigingen zijn er nodig om een zelfrijdende auto op de weg te laten?

| AE 7438 | Innovatie | 45 reacties

google-zelfrijdende-autoMinister Schultz van Haegen (Infrastructuur en Milieu) wil Nederland een voortrekkersrol geven op het gebied van zelfrijdende auto’s, las ik bij Nu.nl. Daarvoor zijn wel een aantal wetswijzigingen nodig, en dat intrigeert me dan: wat zou je nu in de wet moeten veranderen om met een zelfrijdende auto de weg op te kunnen? Plus, wat gebeurt er bij een ongeluk?

De voorgestelde regels zijn via internetconsultatie alvast bekend gemaakt.

Het komt er in het kort op neer dat de RDW gaat bepalen wat er bij wijze van test de weg op mag. Zij mogen een ontheffing verlenen onder de regeling voertuigen aan fabrikanten van zelfrijdende auto’s, logisch want anders mogen ze de weg niet op. Ook kunnen ze bepalen dat bij wijzigingen aan de prototypes niet meteen een herkeuring nodig is.

En intrigerend: men mag ontheffing van bepaalde verkeersregels verlenen. Dat lijkt te gaan over het moeten voeren van verlichting, reflectoren en dergelijke maar het intrigeert me wel: welke verkeersregels zou een zelfrijdend voertuig mogen schenden? De enige die ik kan bedenken, is afstand houden tot je voorganger. Zelfrijdende auto’s kunnen vaak heel efficiënt in een treintje rijden, dat scheelt brandstof en zij kunnen snel genoeg reageren op de acties van hun voorganger.

Tot mijn verbazing zag ik niets over aansprakelijkheid bij een ongeval. Dat is namelijk een hele lastige, omdat volgens de Wegenverkeerswet de bestuurder verantwoordelijk is voor het weggedrag van de auto. Maar een zelfrijdende auto hééft niet noodzakelijkerwijs een bestuurder. Er kan iemand in zitten die op een noodknop kan drukken of het stuur kan overnemen, maar er zijn ook varianten waarbij de auto als volledig autonome robot de weg op gaat. En wie is dan de bestuurder?

Als je de eis van een bestuurder letterlijk neemt, dan kan zo’n volledig autonome robot de weg dus niet op. Er zal altijd iemand in de auto moeten zitten, en die is dan aansprakelijk. Ook al kan hij in feite nauwelijks ingrijpen omdat de computer in de auto het allemaal sneller en beter weet. Overigens, als die persoon een werknemer dan is de werkgever aansprakelijk voor de schade natuurlijk.

Bij de proeven zal het wel meevallen maar ik vraag me wel af wat er zou gebeuren als we werkelijk massaal met zelfrijdende auto’s gaan rondrijden. Zou dan de producent van het voertuig aansprakelijk zijn? Je bent immers als producent aansprakelijk voor veiligheidsgebreken in je product, en er is niet echt verschil tussen een televisie die ontploft en een auto die tegen een andere auto aanrijdt. Of leggen we het toch bij de eigenaar, net zoals we dat doen bij dieren? Ook soort van autonome robots immers.

Arnoud

Deel dit artikel

  1. Wat ik een beetje vrees is dat mensen hier (weer) last krijgen van “computer says no”. De computer is de toekomst, de computer is perfect, de computer kan niet verkeerd doen, dus als je als zelf-bestuurder een aanrijding hebt met zo’n robotding dan moet ’t haast wel je eigen schuld zijn.

  2. Of leggen we het toch bij de eigenaar, net zoals we dat doen bij dieren? Ook soort van autonome robots immers.

    Dat lijkt mij een goed idee.

    Daarnaast lijkt het me een goed idee om voorlopig alleen “semi-autonome” voertuigen toe te staan, waarbij er nog steeds een bestuurder aanwezig is die kan ingrijpen. Dan zien we daarna wel hoe goed dat in de praktijk gaat.

    De enige uitzondering die ik daarop kan bedenken is voor autonome voertuigen die zo licht zijn dat ze geen lichamelijke schade bij mensen kunnen aanrichten:mini-drones met afgeschermde rotors of zo.

      • Ik denk dat het nog wel een tijdje best handig kan zijn om de auto’s bestuurbaar te maken om situaties af te dekken die het computersysteem niet ondervangt. Maar dan op lage snelheid (tot 10km/u of zoiets). Een heel lage snelheid die dan in de toekomst geen rijbewijs vereist maar waarmee je wel kan bijvoorbeeld een weiland in kan rijden dat voor een evenement is omgebouwd naar een parkeerplaats.

    • Lijkt mij geen goed idee. Een huisdier kan je namelijk trainen. Als mijn hond gedrag vertoont dat onwenselijk is dan kan dat beest corrigeren en leren dat hij/zij zich anders moet gedragen. Ik kan hem leren om geen andere mensen te bijten op straat.

      Een zelfrijdende auto kan ik niets (aan/af) leren. De fabrikant heeft dat ding ontworpen en is dan dus ook verantwoordelijk voor het gedrag van het apparaat.

    • Daarnaast lijkt het me een goed idee om voorlopig alleen “semi-autonome” voertuigen toe te staan, waarbij er nog steeds een bestuurder aanwezig is die kan ingrijpen. Dan zien we daarna wel hoe goed dat in de praktijk gaat.

      Ik snap een dergelijke instelling niet helemaal. Zelfrijdende auto’s maken nu al, statistisch gezien, minder brokken dan menselijke bestuurders. Het is ook een vrij bekend fenomeen dat mensen er bijzonder slecht in zijn om in kritieke situaties een schade-beperkende beslissing te maken.

      Maakt het verplichten van semi-autonome auto’s i.p.v. volledig autonome auto’s niet gewoon de kans op een ongeluk groter, in plaats van andersom?

            • Autorijden is leuk, passagier in een auto zijn niet

              Kennelijk staat niet iedereen te springen om de controle op te geven. Ik vind het zelf geen enkel probleem om passagier te zijn; maar ik ga dan ook veel met het openbaar vervoer en dan geef je de controle over het voertuig ook over aan de bestuurder van de trein/tram/bus/taxi in kwestie. Maar hier blijkt duidelijk dat dat niet voor iedereen geldt, en hoewel ik persoonlijk met Elroy oneens ben op dit ene punt, heeft hij zeer zeker wel gelijk dat emotionele redenen ook redenen zijn. Om dat als “geleuter” af te doen vind ik eigenlijk niet erg sterk.

              Verder denk ik dat conservatief zijn in de zin van voorzichtig zijn bij de zelfrijdende auto wel een goed idee is, vooral omdat elke nieuwe technologie tegenwoordig gepaard lijkt te gaan met tientallen pagina’s EULA in juridische en dus voor de meeste mensen onleesbare taal (zoals Franc hieronder al terecht opmerkt). En daarnaast komt DRM ook steeds meer naar real life, en brengt met zich mee de eigendomsbeperkende zaken die dat nou eenmaal automatisch in zich heeft. Denk maar eens aan het topic van de wii-upgrade op dit blog een tijdje terug, de smart-tvs die je tegenwoordig bijna moet jailbreaken, of de beruchte je-mag-lekker-alleen-maar-onze-koffiecupjes-gebruiken-DRM van koffiemachinemaker Keurig. Hoe gaat dit de zelfrijdende auto beïnvloeden? Moeten we straks niet alleen telefoons en tv’s jailbreaken maar ook auto’s jailbreaken?

              Tenslotte is er de vraag hoe de auto beslist in een noodgeval (ook al elders in deze commentaardraad genoemd, door lezer): is het algoritme in het belang van de fabrikant (schade afwentelen op de ander) of is het algoritme in het algemeen belang. Gezien de steeds maar dalende populariteit van het concept “algemeen belang” in onze maatschappij vind ik dat een terecht zorgpunt. Een punt waar dus best wat aandacht voor mag zijn.

                • Oke, dus jij vindt 99.9% van de situaties waar een zelfrijdende auto beter is dan de meeste menselijke bestuurders (en stukken beter dan sommige idioten) minder belangrijk dan de 0.1% van de situaties waar de programmeurs geen rekening mee hebben gehouden, waar de fail-safe reactie van het programma de verkeerde beslissing is, en waar het ook nog zo is dat een mens wel de goede beslissing zou nemen?

                  Ik bedoel, de meeste vliegtuigcrashes zijn ook door menselijk falen, en het komt maar heel af en toe voor dat de automatisce piloot het verkloot en het vliegtuig wordt gered door menselijk ingrijpen.

                  • Wat ik vooral bedoel is dat de mens te alen tijde de mogelijkheid moet hebben om te overrulen. Omdat op tijd te doen moet die zijn aandacht bij het verkeer hebben. Hoe minder te doen, hoe lastiger dat is. Ik merkte in de VS dat met keep your lane en een automaat het een stuk moeilijker is je aandacht bij het verkeer te houden als in het europese systeem met een handgeschakelde auto.

                    Piloten zijn altijd op hun plek en letten (als het goed is) altijd op wat er gebeurt om in te grijpen. En dat is soms nodig. Mij ga je niet wijsmaken dat jan met de pet dat ook doet als hij in zijn autonome auto zit.

                    • Waarom moet dat? Het kan net zo goed zijn dat mensen ingrijpen omdat ze denken dat het fout gaat en het dan juist verknallen, terwijl de automatische piloot juist het goede aan het doen was.

                      Piloten letten (als het goed is) altijd op. En ze hebben ook nog eens meer tijd om op een situatie te reageren (een vliegtuig heeft wel even nodig om uit de lucht te vallen, maar een botsing gebeurt in fracties van seconden). En desalniettemin zijn de meeste crashes door menselijk falen, en komt het regelmatig voor dat een piloot de automatische systemen niet vertrouwt en daardoor de verkeerde dingen doet.

                      Bij auto’s is dat dus nog veel erger, en dat is dus juist een goed argument om geen overrule-mogelijkheid te hebben, en het rijden gewoon aan de auto over te laten.

                      (En dan hebben we het nog niet eens over een jan met de pet die haast heeft en daardoor de veilige keuzes van de autopiloot overrulet.)

                      • Het is niet aleen het vliegtuig, ook de trein heeft een machinist met dodemansknop. Je kan hoog of laag springen, maar ik stap niet in een auto, trein of vliegtuig waarin niet iemand de automatische systemen kan overrulen. En ik zou het een hele kwalijke zaak vinden als dat de standaard op de wegen wordt. De mens is nog altijd creatiever dan een computer en kan oplossingen zoeken waar een computer nooit op zal komen omdat ze domweg niet voorzien zijn bij het programmeren.

                        Ik zie volledig autonome autos zonder override niet gebeuren. En wat veel interessanter is: wie is verantwoordelijk in een auto met een handmatige override als het mis gaat en de inzittende grijpt niet in omdat die een boekje zat te lezen? Als je een boek wil lezen pak je maar een tram, bus of trein is mijn standpunt. In de auto is er minimaal 1 persoon die oplet en ingrijpt indien nodig.

                          • Hoezo niet rationeel?

                            Ik heb meer vertrouwen in het automatiseren van een treinstelsel met baanvak beveiliging, waar geen verder verkeer op reist dat niet deelneemt aan het automatiserings systeem, dan in automatische autos. Ik haalde treinen aan omdat dit een stuk eenvoudiger systeem is om te automatiseren en hier het systeem toch nog de fout in gaat in de praktijk. Daarom hebben zelfs die systemen meestal nog een persoon achter de knoppen die de boel in de gaten houden. Met dodemansknop om de trein stil te zetten als die persoon niet meer op kan letten.

                            Ik heb er geen enkel vertrouwen in dat een mix van automatische en handbestuurde autos op het wegennet een veilige situatie op gaat leveren. Zoals gezegd, een programma reageert op situaties waarvoor hij geprogrammeerd is, wat gebeurt er in de overige situaties? Wat dat betreft zou ik er meer vertrouwen in hebben als alle autos geautomatiseerd worden, waardoor het hele systeem voorspelbaarder wordt. Aangezien ik echter ook plezier heb aan auto rijden (ik rijdt zo’n 25000 km per jaar) zou ik dat zeer jammer vinden. Praktisch zie ik het ook niet gebeuren, je kan nooit iedereen dwingen een nieuwe auto te kopen en dus heb je een kip en ei probleem.

                            En wat risico bereidheid, ik ben inderdaad niet bereid mijn leven in de handen te geven van een volledig automatisch systeem zonder enige menselijke supervisie.

                            • 1 – Als je op die link kijkt die ik heb gegeven zie je dat automatische metrosystemen vaak helemaal geen mensen meer achter de knoppen hebben. 2 – Als er al iemand achter de knoppen zit van een automatisch systeem dan is het om mensen zoals jij emotioneel gerust te stellen. 3 – De dodemansknop in een trein heeft helemaal niks te maken met geautomatiseerde treinen. Die zit er juist in treinen die met de hand bediend worden, om te zorgen dat de boel stopt als de bestuurder onwel wordt. 4 – De situaties waarvoor een zelfrijdende auto is geprogrammeerd zijn 99.99% van alle situaties. Dat zijn veel meer situaties dan het aantal waarin een gemiddelde mens adequaat zal reageren.

                              De vraag die je jezelf moet stellen is niet: “Is een zelfrijdende auto 100% veilig” maar: “Is een zelfrijdende auto veiliger dan een mens die auto rijdt” en het antwoord is: Vele malen veiliger!

                              Wat ik dus gewoon niet snap is dat je wel bereid bent om je leven in handen te geven van andere (feilbare) mensen, maar niet in een geautomatiseerd systeem, ook al is dat vele malen veiliger.

                            • Ik heb er geen enkel vertrouwen in dat een mix van automatische en handbestuurde autos op het wegennet een veilige situatie op gaat leveren. Zoals gezegd, een programma reageert op situaties waarvoor hij geprogrammeerd is, wat gebeurt er in de overige situaties?

                              Verreweg de meeste ongelukken gebeuren niet in hele uitzonderlijke situaties. De meeste letsels bij ongelukken komen voort uit eenzijdige ongelukken (dus waar slechts één deelnemer betrokken is). Ik durf de stelling wel aan dat bij automatische auto’s 99% van deze ongelukken voorkomen hadden kunnen worden.

                              Verder valt op dat zowel jongeren als ouderen oververtegenwoordigd zijn bij de verkeersdoden. Dat geeft ook weer aan dat dit voornamelijk komt door de kwaliteiten van de deelnemer en niet door extreme omstandigheden.

                      • Als we er van uit mogen gaan dat de autonome zelfrijdende auto het altijd beter doet dan een menselijke bestuurder, dan vind ik dat in de wetgeving mag komen te staan dat bij een ongeluk een zelfrijdende auto altijd de schuldige is. Blijkbaar heeft die niet voldoende geanticipeerd. Net zoals een automobilist altijd schuldig wordt bevonden als er een voetganger of fietser in het spel is.

            • Ik snap best dat jij autorijden leuk vind, en er zijn veel meer mensen die dat vinden. Maar als je het vraagt onder mensen die meer dan 40.000 km per jaar rijden, zal het percentage dat zich wil laten rijden groter zijn, dan onder de mensen die minder rijden. Er is ook een zeker percentage automobilisten die autorijden eng vindt, of zelfs niet de snelweg op durft. Die zullen een sterke emotionele reden hebben, om juist wel volautomatisch te gaan rijden. Vrachtwagenchauffeurs maakt het niet van uit of ze autorijden leuk of niet vinden, die hebben een werkgever die een groot economisch belang heeft bij automatisering. Zelfs als alleen snelwegrijden geautomatiseerd wordt voor vrachtwagens, scheelt dat enorm in de kosten voor wegvervoerders, want de rijtijdenwet wordt opeens een stuk minder een obstakel voor efficient vrachtwagengebruik.

            • Ik vertrouw mezelf meer dan een programma dat ongtwijfeld aan alle kanten is dichtgetimmerd ivm bedrijfsgeheimen en dus niet te controleren is.

              Wij vertrouwen gewoon op de statistiek. Als autonome auto’s duidelijk voor minder slachtoffers in het verkeer zorgen dan worden ze vanzelf verplicht. Wie heeft er dan een boodschap aan individuen. die denken dat ze beter zijn.

          • Het gaat volgens mij om het gevoel zelf controle te hebben. De meeste mensen rijden 10000% liever met 10% kans hun eigen auto zelf in de prak dan dat ze het met 1% kans door een systeem laten doen waar ze geen controle over hebben.

            Ik denk dat een meerderheid van de automobilisten voor zelfrijdende auto’s is, zolang het daarbij om de auto’s van medeweggebruikers gaat.

  3. Ook nu ben je als bestuurder afhankelijk van veel software in auto’s. Als die software verkeert werkt, blijft de bestuurder aansprakelijk. Die kan de schade wellicht verhalen op de producent. Volgens mij kan hetzelfde principe toegepast worden op (semi-)autonome auto’s. De ‘bestuurder’, inzittende of eigenaar van de auto is primair verantwoordelijk tenzij er duidelijk fouten in de software zitten.

  4. De bestuuder moet gewoon verplicht verzekerd zijn, en de verzekering mag het dan bij de producent gaan halen. Of, nog beter, de producent biedt gewoon bij de auto meteen een verzekering aan zodat de bestuurder netjes gedekt is.

    Zelfrijdende auto’s hebben ook het voordeel dat ze al vol camera’s zitten, en andere meetapparatuur, dus als er een ongeluk gebeurt zal het onderzoek naar de aanleiding een stuk eenvoudiger zijn dan nu. Dan moet je misschien wel wettelijk regelen dat er een soort black-box principe is, waardoor alle data niet alleen vastgehouden wordt, maar misschien ook in iets van escrow gezet zodat er niemand kan roepen dat de producent er mee heeft geknoeid.

  5. Nog los van de geschetste problemen: totaal idiote prioriteitsstelling van het Nederlandse voorzitterschap. Alsof er geen urgentere zaken Europees te regelen zijn.

    De aansprakelijkheidsproblematiek speelt natuurlijk vooral als de (producent van) de semi-autonome auto niet altijd en standaard aansprakelijk is en er wordt ingegrepen door de bestuurder: je kunt dan ontbeantwoordbare vragen – en dus ellenlang juridisch getouwtrek – verwachten als ‘had de bestuurder eerder moeten ingrijpen?”en kon hij dat weten?”was er ook een ongeluk gebeurd als hij niet had ingegrepen?”en was dat even ernstig/kostbaar geweest?’

    Verder: zien jullie niet voor je dat er fabrikanten zullen zijn die in die EULA’s allerlei verboden zullen opnemen in de trant van ‘niet bestemd voor het vervoer van [minderjarigen/levensmiddelen/auteursrechtelijk beschermd materiaal/pornografisch materiaal/…]’ en ‘niet bestemd voor vervoer naar [demonstraties/stakingen/de Wallen/buitenland X/…] en dat met de besturingssoftware zullen proberen af te dwingen?

  6. Als alle op zelfrijdende auto’s die verkocht worden automatisch een afdracht wordt gedaan in een of ander verzekeringsfonds voor zelfrijdende auto’s, dan kun je daar alle financiële schade mee opvangen die voortvloeit uit situaties waarin die dingen een ongeluk veroorzaken, of er partij in zijn. Je hoeft dan ook niet op zoek naar een schuldige, want het geld komt toch uit hetzelfde fonds, en er hoeft ook niemand op z’n no-claim gekort te worden.

    Als hard te maken valt dat de zelfrijdende wagen een ongeluk heeft veroorzaakt door menselijk ingrijpen (bijvoorbeeld een modificatie), dan kun je de persoon die daar voor verantwoordelijk is nog steeds aansprakelijk houden.

    Het is voor de verzekeraars natuurlijk wel een stuk minder aantrekkelijk, want er wordt nu grof verdiend aan premies van mensen die niet kunnen autorijden

  7. Ik denk dat er nieuwe aansprakelijkheidsregels moeten komen. Je zit nu in een soort prisoner’s dilemma: elke zelfrijdende auto zal de beslissing nemen die voor zijn eigenaar of fabrikant zo min mogelijk aansprakelijkheid met zich meebrengt. Dat is onwenselijk omdat de schade voor anderen daardoor wellicht groter wordt (en als alle auto’s zo zijn geprogrammeerd, wordt de schade ook voor de eerste auto mogelijk ook groter). In plaats daarvan wil je dat de auto’s samenwerken en zich zo manoeuvreren dat de totale schade minimaal is. Daarvoor is het wellicht nodig om de schade op een eerlijke manier te verdelen en niet op een enkele eigenaar af te wenden, zodat het voor geen enkele auto aantrekkelijk is om afwijkend gedrag te vertonen (Nash evenwicht).

    • Misschien. Je zou ook kunnen argumenteren dat “zo manouvreren dat de aansprakelijkheid wordt geminimaliseerd” inherent betekent “zo manouvreren dat er zo min mogelijk schade wordt gedaan”, omdat je nu ook al als automobilist verplicht bent om zo te handelen dat schade beperkt of voorkomen wordt. Bijvoorbeeld als een andere auto door rood rijdt, dan mag ik hem niet zomaar vol overhoop rijden, maar moet ik zo goed ik kan remmen en ontwijken.

      Als je nou zegt dat een zelfrijdende auto zo is geprogrameerd dat hij als allereerste zoveel mogelijk de schade voor de inzittende(n) beperkt, dan zou je wel kunnen argumenteren dat dat ten koste gaat van de veiligheid van anderen. Maar ik denk niet dat dat zal gebeuren.

      • Het kan ook anders gaan. Enkele jaren geleden kreeg ik geen voorrang terwijl ik op een voorrangsweg reed. Door een succesvolle uitwijkmanoeuvre de schade weten te beperken tot een door mij zelf omver gereden paaltje. Volgens de verzekeraar was er echter geen sprake van een aanrijding en mocht ik mijn schade zelf betalen. De volgende keer gaat hij dus wel degelijk vol er op!

        Hoe gaan we dit implementeren in de AI van een zelfrijdende auto?

        Overigens ging die bestuurder aan de haal, en heb ik die 1km verderop tot staan kunnen dwingen. Heel verbouwereerd: Ik heb u toch niet geraakt?!

        • Er mag misschien geen aanrijding zijn geweest in jouw situatie, de andere bestuurder was zeer zeker aansprakelijk voor de schade. Als je dat kunt bewijzen (met een dashcam bijvoorbeeld) kun je die gewoon aansprakelijk stellen en desnoods voor de rechter slepen.

          Als dit in een zelfrijdende auto gebeurt, dan zit daar een groot bedrijf achter met een stapel juristen die zonder moeite bij de rechter gelijk kunnen halen. Nog een goede reden om het bedrijf de aansprakelijkheid te laten dragen.

          • Bewijs is inderdaad een groot goed, bij alles wat er gebeurd. Helaas leven wij in een maatschappij waar het steeds vaker gaat om bewijs, en steeds minder om het nemen van je verantwoordelijkheid. Ik vind dat in elk geval géén goede ontwikkeling. En ja, google heeft natuurlijk een hele batterij juristen aan het werk, al was het maar om Apple en Samsung te treiteren.

            Maar als het hebben van juristen noodzakelijk wordt om je bedrijf overeind te houden vraag ik me toch echt af waar we mee bezig zijn. “Product X kost 30% aan marketing, 20% aan garantie, 30% aan juridische kosten en 10% aan materiaalkosten. Na inhaligheid van de aandeelhouders à 7% mogen de werknemers nog 3% verdienen.”

  8. In 2013 is de voor gehandicapten aangepaste Renault Laguna door een bug in de software blijven accelereren tot 200 km/u, zonder dat de chauffeur iets kon doen. Hij wist de politie te bellen, die met een stel auto’s om hem heen zijn blijven rijden tot de benzine op raakte. Er is niemand gewond geraakt, maar er was wel de nodige schade. In Frankrijk is dus misschien al jurisprudentie over dit.

    http://www.theguardian.com/world/2013/feb/13/french-driver-200kmh-car-chase?CMP=SOCNETTXT6966

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS