Tesla-baas Elon Musk hoopt op snelle toestemming van de Nederlandse en Europese toelatingsautoriteit om zijn lane switch-feature van het Autopilot-systeem toe te laten. Dat meldde BNR onlangs. De kennelijke bedoeling is om zo snel Europa in te kunnen: als onze RDW een auto typegoedkeurt, mag het in de hele EU de weg op.
Het gaat om de Tesla Model Y met ‘FSD Unsupervised’, de opvolger van haar Full-Self Driving (FSD) feature waarbij menselijk toezicht wél nog nodig is. Zoals Tesla het uitlegt in die typische toon die ik sterk met ChatGPT associeer (wat vast komt omdat het machinevertaald ronkend Engels is):
De momenteel beschikbare Autopilot-, Enhanced Autopilot- en Full Self-Driving-functies vereisen actief toezicht van de bestuurder en maken de auto niet autonoom. Volledig autonoom rijden is afhankelijk van het behalen van een betrouwbaarheid die menselijke bestuurders ruimschoots overtreft en die door miljarden gereden kilometers is bewezen. Daarnaast is het ook afhankelijk van wettelijke goedkeuring, wat in sommige landen meer tijd kan vergen.Na de nodige heisa over de term “FSD” die dus niet betekent dat het ding volledig zelf rijdt, werd dit “FSD Supervised”. En de logische opvolger is dan FSD Unsupervised. Kennelijk zal op 28 juni een Tesla voor het eerst autonoom de fabriek verlaten en naar de koper toe rijden. En dat moet in Europa ook, maar daar is een toelating voor nodig.
Om toelating vragen doe je via X, want daar komt dan genoeg herrie in de media (en in de Linkedin-boxen van de RDW-directie) dat men op hoog niveau bij de RDW streng gaat kijken:
Als één EU-land een dergelijk systeem goedkeurt, moeten andere landen dat volgen. Dat maakt de rol van de RDW cruciaal, weet ook Musk. ‘Het is zeer frustrerend en schadelijk voor de veiligheid van mensen in Europa; rijden met de geavanceerde Autopilot resulteert in vier keer minder verwondingen! Verzoek daarom uw bestuursorganen om de veiligheid van Tesla in Europa te versnellen’, zegt hij in zijn tweet.De timing is opvallend, zoals dat dan heet, omdat heel recent nog bekend werd dat er in 2015 wat raars gebeurde: Tesla’s FSD werd door de RDW goedgekeurd, ondanks dat de regels alleen automatische ondersteuning toestaan die zeer korte tijd en op een lage snelheid konden ingrijpen.
De door de RDW en Tesla gevonden ‘achterdeur in de regelgeving’ maakte goedkeuring toch mogelijk. “Je kon de regels zo interpreteren dat er stond: het systeem maakt één manoeuvre, gevolgd door nog een manoeuvre, en nog één, enzovoorts”, aldus de betrokken ambtenaar. “En als je dat aan elkaar knoopt kan de auto voor een langere periode rijden. De meesten van ons zagen deze uitleg als een maas in de wet.”In een reactie maakt de RDW duidelijk dat hier geen sprake is van een ‘maas’ in de wet, zoals de Zweedse toezichthouder lijkt te betogen. De wet is in ieder geval verduidelijkt sindsdien.
De druk is wellicht te begrijpen gezien het doel om nog in 2025 de Europese markt te betreden met FSD Unsupervised.
Arnoud
Haha! Briljant: “Om toelating vragen doe je via X, want daar komt dan genoeg herrie in de media (en in de Linkedin-boxen van de RDW-directie)”. Ik ben hier ook beland via Linkedin, wat dus iets zegt over mijn functieniveau.
Wetend hoe Tesla werkt raad ik de RDW aan om de software lekker af te keuren tot deze goed is, en dan alleen deze specifieke goedgekeurde versie van de software toe te laten. Je weet nooit welke bugs Tesla meestuurt in haar online updates.
Wat ik wil weten is of we in de EU slim zijn geweest en dat als 1 land het afkeurt vanwege tekortkomingen dat dan pas een ander land het kan toelaten als die tekortkomingen zijn opgelost.
Of zijn we weer zo dom geweest een situatie te scheppen waar geshopt kan worden tot een land gevonden wordt die het toelaat en dat alle andere landen die het afgekeurd hadden dan alsnog gedwongen worden het toe te laten.
Ik weet niet zeker of ik je goed begrijp. Dit type, met die Unsupervised FSD, is hier nog niet goedgekeurd, dus die modellen of versies rijden hier nog niet. Hoe weet je al hoe het werkt en dat de software niet goed is?
Ik denk ook dat de vraag “Is de software 100% bugvrij en helemaal perfect en maakt het nooit fouten” niet de juiste is. Ik denk dat we moeten vragen “Is de software zo goed en werkt het systeem zo goed dat het aanmerkelijk veiliger is dan een menselijke bestuurder”. Ik dat geval namelijk zie ik geen reden het niet goed te keuren, mits natuurlijk aan alle andere voorwaarden is voldaan. Voor wat betreft die software updates; dat doen we bij andere auto’s ook niet, en daar zou door een update met foute software ook ineens wat kapot kunnen gaan waardoor een ongeluk veroorzaakt wordt.
Daar raak je wel aan twee fundamentele problemen.
Als de software veiliger is dan een menselijke bestuurder… ik kom op de weg een heleboel slechte bestuurderstegen die echt waanzinnige dingen doen. Er zijn echter ook genoeg – de meerderheid gelukkig – die wel netjes en goed rijden. Een FSD die beter dan de gemiddelde bestuurder is zal nog altijd minder goed zijn dan een groot deel van de goede bestuurders. Als juist de goede bestuurders, omdat ze bijvoorbeeld veel rijden, die FSD gaat gebruiken wordt de situatie op de weg juist slechter!
Een tweede issue: als die FSD een fout maakt, wie is verantwoordelijk voor de schade: de eigenaar van de auto, of de fabrikant die een fout in de software heeft laten zitten?
En wat dat laatste betreft heb je gelijk. Ik ben ooit bijna vermoordt door een bug in de software van de auto. Op een 80km/uur weg ging het file zelkstuursysteem (dat uit stond!) spontaan aan en begon rechts de berm in te sturen. Als ik niet links had gezeten omdat ik net een inhaal aan het afronden was had ik nooit op tijd kunnen reageren en was ik met 80 tegen een boom of de sloot in gereden. Die auto heeft meer dan 6 maanden in de garage gestaan omdat ik weigerde erin te rijden tot dat probleem was opgelost.
De fabrikant vond dat maar onzin want de kans op de bug was heel klein, maar mijn argument was: Als ik ondanks de kleine kans toch iemand dood rijdt of verwond door die bug, dan gelooft niemand mij en wordt ik uitgemaakt voor Marco Bakker!
Nou ja, “aanmerkelijk veiliger” kan je goed lezen als “net zo veilig of nog veiliger dan de beste 0.1% van bestuurders”.
Wie er verantwoordelijk is voor de schade als er een fout zit in de FSD van de auto lijkt mij dezelfde die nu verantwoordelijk is als, bijvoorbeeld, de adaptive cruise-control ineens vol op de rem gaat staan midden op de snelweg, of als de lane-keep assistent ineens een ruk aan het stuur geeft, of als het pedestrian protection system ineens in plaats van te remmen door een bug vol gas geeft. Ik zie het verschil niet zo goed tussen die FSD-mode en alle andere al langer bestaande systemen die zelfstandig gas geven, remmen, en sturen. Het de auto met FSD toestaan om zelfstandig van rijstrook te wisselen betekent ook niet dat we dan daarmee zeggen dat de bestuurder op de achterbank kan gaan zitten om de krant te lezen, dat zijn twee verschillende zaken.
Voor high-dependability software is certificering per versie wel normaal.
In de luchtvaartindustrie is het heel normaal dat een specifieke versie van de software gecertificeerd wordt.
In de ruimtevaart is het normaal dat het gehele ruimtevaartuig opnieuw gecertificeerd moet worden, omdat veranderingen aan een deelsysteem gevolgen kunnen hebben voor de warmtehuishouding, energiebeslag, processorbudgetten, geheugenbudgetten, gewichtsverdeling, reactietijden, enz.
Dat is zo, althans ik neem dat zonder meer van je aan, maar die twee dingen zijn niet zo goed vergelijkbaar. Uit de ruimtevaart weten we dat de kleinst mogelijke afwijking desastreuze gevolgen kan hebben wegens de buitengewoon extreme omstandigheden waarin geopereerd wordt.(ik herinner me nog Richard Feynman en de rubberen ring in dat bakje ijswater). Zo’n certificeringstraject kan bij een raket van een paar miljard dollar, maar is niet redelijk voor een toch vrij massaal consumentenproduct als een auto. Weliswaar in mindere mate, maar bij de luchtvaart speelt hetzelfde. De kostenafweging daar is volkomen anders dan bij een auto. En het hoeft ook niet. We hoeven niet te controleren of de uitlaatpijp nog voldoet aan de eisen als we een software-bug in de navigatie hebben opgelost. Nee je kan moeilijk met zekerheid uitsluiten dat er geen invloed is, maar je kan wel met een aan zekerheid grenzende mate van waarschijnlijkheid zeggen dat er geen invloed is, wat bij een auto voldoende is gezien de aard van het gebruik, terwijl dat bij een raket niet voldoende is.
Ik zie alle redenen om veiligheidsprincipes uit de luchtvaart ook bij het wegverkeer toe te passen. Er sterven jaarlijks meer weggebruikers op de Nederlandse wegen van vliegtuiggebruikers wereldwijd.
Als weggebruikers mogen we hoge eisen aan de techniek van autonome auto’s stellen. Dat ze in de US veilig op de snelweg rijden betekent nog niet dat de fietsers in de Nederlandse binnensteden veilig zijn. En met de attitude van Tesla (We’ll fix the bug in the next release) voorspel in slachtoffers als we (het RDW) daar geen goede controle op houden.
Terzijde, ruimtevaart: Er is weer een SpaceX raket in vlammen opgegaan. Op de grond. Zelfde eigenaar als Tesla.
We passen bepaalde principes uit de luchtvaart ook toe, maar niet allemaal want dat is onredelijk bezarend en financieel en organisatorisch onhaalbaar. Piloten zijn professionals, zij doen dat vliegen voor hun beroep en dragen een enorme verantwoordelijkheid voor een vliegtuig vol passagiers. Een vliegtuig is ook een buitengewoon complex apparaat dat jaren van specialistische training vereist, inclusief certificering voor een specifiek type toestel. Auto’s daarentegen zijn aanzienlijk veel simpeler apparaten; met enkele tientallen rijlessen kunnen de meeste mensen een auto van elk merk of type voldoende gekwalificeerd besturen. Het is ook mogelijk om piloten met regelmaat in een simulator te zetten om te controleren of hun vaardigheden nog op orde zijn. Het is niet realistisch om dat op dezelfde manier te doen bij alle autobestuurders, al was het maar omdat we miljoenen chauffeurs hebben, en maar duizenden piloten. Bepaalde principes uit de luchtvaart doen we wel. Autofabrikanten onderzoeken auto’s die betrokken waren bij een ongeluk om ze zo veiliger te maken. Beroepschauffeurs moeten ook met enige regelmaat bepaalde certificeringen bijhouden. Dat er op de weg meer weggebruikers sterven is zeker zo, wat grotendeels verklaard wordt door de veel grotere hoeveelheid reiskilometers van de auto ten opzichte van het vliegtuig. Vergelijken in absolute getallen is dan niet zo nuttig. Dodelijke ongelukken per passagier-kilometer is een betere vergelijking. Dan zijn vliegtuigen zeker veiliger, maar niet zoveel veiliger als je denkt als je alleen naar absolute aantallen zou kijken. Is er te verbeteren? Ja zeker, dat kan. We zouden strenger kunnen controleren op rijvaardigheid boven een bepaalde leeftijd. We kunnen mensen die herhaaldelijk bekeurd worden een tijdelijke rijontzegging geven. De politie zou meer aandacht kunnen geven aan mensen gevaarlijk rijgedrag vertonen (of dat veroorzaken bij anderen) omdat ze te langzaam en te twijfelend rijden (we kennen allemaal de voorbeelden van mensen die met 50km/h invoegen op de snelweg) in plaats van vooral aan mensen die te snel en te aggressief rijden. Maar dat is ook een politieke en maatschappelijke afweging, we hebben ook maar zoveel politiecapaciteit en er zijn ook andere taken.
En dat er weer een SpaceX raket is ontploft is volgens mij geen factor van belang hier, dat was een test en geen raket die mensen of lading moest vervoeren. SpaceX test allerlei innovaties en accepteert dat daarbij soms dingen ontploffen. Musk heeft ooit gezegd “als er nooit wat ontploft dan innoveren we niet snel genoeg”. Die testen zijn nodig om mooie dingen te doen zoals die zelfstandig landende herbruikbare boosters.
Mijn pleidooi beperkt zich tot het beperken van het gebruik in Tesla’s tot extern (door de RDW of vergelijkbare instelling) gecertificeerde software voor (semi-) autonome voertuigbesturing. Dergelijke software is veiligheidskritisch en een kleine wijziging kan grote gevolgen hebben voor de verkeersveiligheid van derden. Daarom zou deze software na wijzigingen voor ieder gebruik opnieuw gevalideerd dienen te worden.
Over de andere suggesties on de verkeersveiligheid te verbeteren, het zou helpen om de slechtste paar procenten van de automobilisten van de weg te halen… Maar “verworven rechten” afnemen is niet populair in Den Haag.
P.S. de regels voor een private pilot licentie zijn maar een klein beetje strenger dan die voor een rijbewijs. Je komt daarmee niet bij KLM binnen, maar mag wel tal van kleine vliegtuigtypen besturen. Aan een buschauffeur worden ook hogere eisen gesteld dan iemand die in zijn eigen auto rijdt.
Wat ik zorgelijk vind is dat de rijkste man van aarde nu zijn pijlen richt op de RDW om zijn zin door te drijven en zijn portefeuille verder te vullen. Gezien de houding van de V.S., en Elon Musk specifiek, met zijn D.O.G.E. acht ik zeer grote terughoudendheid vereist, om te voorkomen dat de V.S. ook in Nederland haar politiek ten uitvoer gaat brengen c.q. haar rechten claimt. De V.S. is nu niet onze vriend, want wij moeten blijven bij onze Europese waarden en autonomie.
Wat mij terzijde nog verbaast is dat – bij mijn weten – niemand er zich van bewust (b)lijkt te zijn dat D.O.G.E. zonder punten een Italiaans woord is en “leider” betekent. Ook meen ik te weten dat Mussolini de titel: ‘Il duce’ voerde. Veelzeggend of niet!?
ik vermoed dat je er teveel achter zoekt. Het lijkt slechts een verwijzing naar de DOGEcoin te zijn, die in het verleden door Musk is gesteund door er over te tweeten.
Hij heeft wel gelijk in dat het RDW nou niet echt bekend staat om zijn snelle procedures. Denk bijvoorbeeld ook aan het traject voor de goedkeuring van de e-step wat 9 jaar heeft moeten duren. Daar zijn weliswaar allerlei redenen voor aan te wijzen, maar feit blijft wel dat het allemaal altijd wel heel erg lang moet duren voordat er dan iets uit komt waar niemand blij mee is. Dat Musk via X daar wat over zegt moet hij toch kunnen doen lijkt me, waarom zou Musk niet mogen zeggen dat ‘ie denkt dat de regelgeving erg traag verloopt? Ik mag dat tenslotte ook zeggen. Het is aan het RDW om gewoon de procedure uit te voeren, ongeacht de mening van wie dan ook op X, maar als blijkt dat ze die procedure met wat media-aandacht wel veel sneller kunnen doorlopen dan had Musk gelijk dat ze gewoon traag zijn. Dat zou ook best het geval kunnen zijn, ik denk dat we onderschatten in welke mate de uitvoering van wetten, regels en procedures afhangt van de overtuigingen en motivatie van een paar individuele ambtenaren. We weten hoezeer die je het leven moeilijk kunnen maken terwijl ze zich toch heel strak aan de regels houden (denk toeslagenschandaal), en ook hoezeer de ambtenaren de uitvoering kunnen frustreren (denk de weigering van ambtenaren om uitvoering te geven aan opdrachten van minsters van bepaalde politieke partijen op bepaalde gevoelige dossiers). Maar goed, dat terzijde verder want Musk werkt niet meer bij DOGE, hij is teruggetreden enige tijd geleden en het had sowieso al niets te maken met Tesla. Wat het precies te maken zou hebben met trage besluitvorming rond goed- of afkeuring van bepaalde features op auto’s begrijp ik ook niet.
Dat laatste overigens is echt heel erg vergezocht, zeker omdat de oorsprong van D.O.G.E tamelijk helder is:
Er is geen enkele aanleiding om te veronderstellen dat het ook maar iets te maken heeft met Mussolini of titel daarvan. Als je maar in genoeg talen zoekt kan je voor bijna elk term wel een taal vinden waarin het iets anders betekent.