Tag: autopilot

About autopilot

Subscribe Feeds

Tesla eist dat beelden van aangereden kinderpoppen worden verwijderd

Geplaatst op in Innovatie, Regulering, Security, 16 reacties

Tesla eist dat een belangenorganisatie video’s verwijdert waarin auto’s van de fabrikant over etalagepoppen van kinderen rijden. Dat meldde Nu.nl op gezag van The Washington Post donderdag. In die video’s van The Dawn Project zag de nieuwste software van Tesla’s Full Self-Driving-functie meerdere keren een pop ter grootte van een kind over het hoofd. Dat gaf nogal wat ophef, en al snel doken berichten op dat de FSD niet aan zou staan en dat de groep vooringenomen tegen het bedrijf zou zijn.

De test is afkomstig van organisatie The Dawn Project, dat volgens haar site zich zorgen maakt om onveilige software in apparaten zoals auto’s. Directeur Dan O’Dowd vermeldt echter in zijn Twitterbio expliciet Tesla’s FSD te willen verbannen, dus dat komt dan toch wat gekleurd over.

Dan de test. De kern van de video is dat men een pad afbakende met pilonnen en daar midden op de weg een dummy ter grootte van een kind neerzette. De Tesla leek niet of nauwelijks te remmen en rijdt met volle snelheid over de dummy heen. De kritiek was niet mals: we zien bijvoorbeeld dat de mens op de bestuurdersstoel het stuur loslaat, iets dat volgens de algemene voorwaarden niet is toegestaan en leidt tot waarschuwingen. Ook zouden de pilonnen de optie tot uitwijken hebben beperkt.

De kritiek gaf aanleiding tot nieuwe video’s, onder meer deze, waar men op een echte straat zonder pilonnen rijdt, de handen op het stuur blijven en de auto op zich er omheen kon. Desondanks wederom dikke boem. Het scherm laat zien wat het systeem detecteert maar er is geen mannequin of kind te zien. Ook dit gaf weer de nodige kritiek op de wijze van uitvoering.

De video’s en rumoer er omheen gaven Elon “free speech absolutist” Musk aanleiding om een rechtszaak aan te kondigen wegens laster. En ja, juridisch is er een verhaal te maken dat het onrechtmatig is (oneerlijke reclame, zo je wil) een video te publiceren met een onjuiste voorstelling van zaken die extreem gevaar suggereert. Er zijn bedrijven failliet gegaan om zulke dingen.

De vraag is dan wel: wie moet wat bewijzen. Bij een smaad- of lasterclaim moet in de VS de belasterde bewijzen dat de uiting in de feiten onjuist is (opinie is nooit laster of smaad, in hun systeem). Dat komt dus al snel neer op “hoe werkt FSD dan wel”, en dat zal al snel betekenen dat Dawn Project in discovery inzage kan eisen in de documentatie van dat systeem. Zo werkt het in de VS namelijk, alle relevante bewijsstukken moet je aan de wederpartij geven als deel van de procedure. En dat betekent dus dat de wereld mee mag lezen hoe FSD werkt, wat nog interessant kan zijn.

Arnoud

Tesla-baas Musk zegt dat automatische piloot was uitgeschakeld bij fatale crash

Geplaatst op in Ondernemingsvrijheid, Privacy, 9 reacties

Tesla-oprichter Elon Musk weerspreekt maandag de bewering dat de automatische piloot was ingeschakeld bij de Tesla die vorig weekend in de VS bij een eenzijdig ongeluk betrokken was. Dat meldde Nu.nl eerder deze week. De Amerikaanse lokale politie had eerder gemeld dat het “bijna 99,9 procent zeker” was dat er niemand achter het stuur zat, met de implicatie dat het dan wel Tesla’s roemruchte “Autopilot” (ik verwijs naar de handleiding voor de disclaimer) moet zijn geweest die tegen een boom had gestuurd.

De Tesla Model S uit 2019 was volgens de politie met grote snelheid uit de bocht gevlogen, vervolgens tegen een boom beland en daarna in brand gevlogen. Het ongeval komt op een ongelukkig moment voor het bedrijf, dat van plan is om de software voor de volledig zelfrijdende auto binnenkort beschikbaar te maken voor meer klanten.

Het verbaast dan ook niet (maar toegegeven, niets verbaast bij Musk) dat de topman meteen in de Twitter klom om te melden dat

Data logs recovered so far show Autopilot was not enabled & this car did not purchase FSD. Moreover, standard Autopilot would require lane lines to turn on, which this street did not have.
En dat riep bij mij de lastige vraag op, mag een bedrijf zich op deze manier verweren tegen verwijten dat hun product slecht werkte? Enerzijds is het natuurlijk logisch dat als je kwaliteit ter discussie wordt gesteld, dat je dan met interne informatie komt om aan te geven dat het wél goed zit. Anderzijds betekent dat hier dat je de klantgeschiedenis openbaar maakt, wat een dingetje met privacy is.

Het verrast denk ik vooral omdat de politie deze gegevens nog niet had, waarschijnlijk omdat er nog geen subpoena was verkregen om dit op te eisen bij Tesla. En je wilt misschien eerst dat de politie nagaat welke informatie juist is, voordat het bedrijf alvast zelf zegt hoe het zit. Maar het blijft  raar, dat een autobedrijf kan nagaan én vertellen wat ik heb gekocht, wat ik aan had staan en wat niet.

Arnoud

Je blijft echt gewoon bestuurder als je de AutoPilot van je Tesla aanzet

Geplaatst op in Ondernemingsvrijheid, Regulering, 11 reacties

Het gerechtshof in Leeuwarden stelt dat de bestuurder van een ‘zelfrijdende’ Tesla terecht is beboet, omdat hij tijdens het rijden zijn telefoon vasthad. Dat meldde Nu.nl gisteren. Hiermee wordt de uitspraak in eerste instantie van afgelopen november bevestigd. De Tesla-bestuurder was Vincent Evers, die stelde dat niet hij de bestuurder van de Tesla was, maar de Autopilot-software. Ook het Hof had er weinig moeite mee om die stelling omver te helpen, en ik blijf erbij dat het weinig verrassend is. Maar goed, dat internetrecht hè, nieuwe technologieën roepen nieuwe vragen op. Eh, goed.

Zoals ik vorig jaar al zei, de term ‘Autopilot’ vind ik dubieus omdat het zo klinkt alsof de auto volledig automatisch bestuurd wordt. Ongeveer zoals een vliegtuig op de automatische piloot kan vliegen en zelfs landen zonder dat er een mens nodig is. Daar zijn we softwaretechnisch nog lang niet met auto’s, dus ik vind het ergerlijk dat Tesla doet van wel en dat mensen daar in zodanige mate op vertrouwen dat we dit soort discussies moeten voeren.

Het argument in hoger beroep komt er als ik het zo lees op neer dat een rij-instructeur geen bestuurder is (en dus een telefoon mag vasthouden) terwijl een instructeur meer bij het rijden betrokken is (want leerling bij de les houden) dan de Tesla Autopilot-aanzetter. En dat is dan oneerlijk. Het Hof gaat daar niet direct op in, ik vermoed omdat “hullie mocht het wel” in het verkeersrecht geen argument is.

Uiteindelijk komt het erop neer dat je een auto al heel snel bestuurt, ook als je niet alle besturingshandelingen zelf verricht. Aan het stuur zitten terwijl je auto wordt geduwd of gesleept, maakt je bijvoorbeeld al bestuurder. Dat trekt het Hof hier logischerwijs door:

Het inschakelen en ingeschakeld houden van de Autopilot – die immers rechtstreeks de bedieningsorganen beïnvloedt – brengt mee dat op die wijze of met behulp daarvan de bedieningsorganen worden gehanteerd waardoor de voortbeweging en rijrichting van het motorvoertuig worden beïnvloed. Het gebruikmaken van een dergelijk systeem betekent dat de betrokkene als feitelijk bestuurder dient te worden aangemerkt.

Oftewel: jij zet een heel procedé in gang waarmee de auto gaat rijden, daarom noemen we jou de bestuurder. Dat er onder de motorkap dan een heleboel gebeurt, en dat dat veel meer slimmigheidjes betreft dan in een DAF 55, is dan uiteindelijk niet relevant. Er is een bestuurder, want er moet een bestuurder zijn. Dus dan maar de persoon die op de knop drukt.

Heel praktisch, maar volgens mij ook heel rechtsfilosofisch uiteindelijk wel juist: zolang een computer geen rechtspersoonlijkheid heeft, kun je daar moeilijk motieven of keuzevrijheid of andere menselijke eigenschappen aan toekennen. Alles dat een computer doet, wordt dan toegerekend aan de mens die hem aanzet. Denk daar eens diep over na.

Arnoud

Politie wekt beschonken Tesla-bestuurder op A27 met sirene

Geplaatst op in Regulering, 17 reacties

Een aangeschoten en slapende automobilist is vannacht van de A27 geplukt in zijn rijdende Tesla. Dat las ik bij de NOS vrijdag (dank Franc). De auto bleef maar doorrijden omdat deze op automatische piloot stond en de bestuurder wel zijn handen aan het stuur had, zodat het automatische noodmechanisme (remmen en parkeren) niet in werking trad. Nadat men er uiteindelijk toch in slaagde de auto tot stilstand te krijgen, werd het rijbewijs van de bestuurder in beslag genomen. Maar eh, wát krijgen we nou.

Dat van die autopilot, pardon gedeeltelijke bestuurdersondersteuning, gaat nog eens een dingetje worden. Ik zie het inderdaad zomaar gebeuren dat iemand dronken instapt, nog net de boel gestart krijgt (toch makkelijker dan een benzine-auto) en wegrijdt, waarna het bij het rechte stuk snelweg lekker makkelijk en loom wordt met de autopilot aan. En dan val je zomaar in slaap.

Ontzettend gevaarlijk natuurlijk, en daarom heeft Tesla ook wat bedacht: als de autopilot merkt dat je geen twee handen aan het stuur hebt, dan treedt de noodprocedure in werking waarbij zo snel mogelijk automatisch wordt geparkeerd. Alleen ging dat hier dus mis omdat de bestuurder met de handen aan het stuur in slaap was gevallen. Voelt onwaarschijnlijk maar goed het is gebeurd, dus het kan.

De agenten wisten de auto tot stoppen te krijgen door met de sirene de man wakker te maken, waarna deze handmatig wist te parkeren. Vervolgens werd dus zijn rijbewijs ingenomen, ik lees bij RTV Utrecht op grond van artikel 5 – Koos z’n kapstok over potentieel gevaar op de weg. Want zelfs al reed de auto veilig, potentieel had het mis kunnen gaan en dat is al genoeg voor artikel 5. Dus bezwaren van het soort “ja maar Tesla’s rijden autonoom veiliger dan gewone auto’s” zijn juridisch dus niet geldig.

Persoonlijk zou ik er zeker wel wat in zien als autonome auto’s dronken mensen thuis brengen. Maar daar is wel een wetswijziging voor nodig.

Arnoud

Als je in je Tesla de Autopilot aanzet, blijf je gewoon bestuurder (en daar was een rechtszaak voor nodig?)

Geplaatst op in Ondernemingsvrijheid, 15 reacties

De rechter van de rechtbank Midden-Nederland heeft bepaald dat de persoon achter het stuur van een Tesla ondanks het gebruik van het Autopilot-systeem als feitelijke bestuurder van het voertuig is aan te merken. Dat las ik bij Tweakers vorige week. Tesla-bezitter Vincent Evers was vanwege een verkeersboete naar de rechter gestapt omdat hij deze onterecht was. Weliswaar had hij zijn telefoon vast, maar hij was niet de bestuurder van de Tesla nu die in de Autopilot-stand stond. Nee, leek mij ook geen sterk verhaal en het verrast geen seconde dat het afgewezen is.

De term ‘Autopilot’ vind ik al vanaf het begin dubieus (en met mij de Duitse minister van transport). Het suggereert dat de auto volledig automatisch bestuurd wordt zodat je als mens achter het stuur je verantwoordelijkheid compleet kunt opgeven. Ongeveer zoals een vliegtuig op de automatische piloot kan vliegen en zelfs landen zonder dat er een mens nodig is.

De technologie is bij lange na niet zo ver. Ja, hardwarematig heeft een Tesla alles aan boord om niveau 5 volledig autonoom te rijden, maar dat is niet het moeilijke stuk. Dat de auto uit zichzelf kan remmen, versnellen en sturen is mooi, maar het gaat om bepalen wannéér je dat gaat doen en waarom. En dat kan een Tesla nog bepaald niet. Dat zegt Tesla zelf ook, getuige hun site:

Bij gebruik van Autopilot moet de bestuurder altijd zelf opletten en actief blijven en gereed zijn elk moment in te grijpen.

Met die omschrijving kun je hooguit zeggen dat je handen- en voetenwerk wat ontspannener wordt tijdens de rit, maar niet dat de auto volledig zelfstandig rijdt. Oh en detail, als je drie keer niet reageert op een signaal van de Autopilot dan schakelt deze zichzelf uit. Zeer autonoom, inderdaad.

En daarmee is er geen reden om de mens in de auto anders aan te merken dan de bestuurder, volgens de wet:

bestuurder van een motorrijtuig: degene die het motorrijtuig bestuurt of degene die, overeenkomstig de bij algemene maatregel van bestuur gestelde voorwaarde, wordt geacht het motorrijtuig onder zijn onmiddellijk toezicht te doen besturen;

Vanwege dat continu vereiste toezicht en opletten is dat voor mij volkomen evident. Niet gek dus dat het vonnis hem gewoon schuldig verklaart aan het vasthouden van een telefoon als bestuurder.

Meer algemeen vind ik het raar om zoiets bij de rechter te brengen: de keuze of autonome auto’s de weg op mogen, is immers een politieke, die vraag ligt bij de wetgever. De rechter toetst alleen maar binnen het huidige stelsel, en het doet dan ook raar aan om aan de rechter te vragen een buitenwettelijke situatie legaal te verklaren.

Arnoud

Mag je in een Tesla met autopilot een telefoon in je hand houden?

Geplaatst op in Regulering, 26 reacties

Een tipgever (dank!) wees me op deze tweet van Vincent Evers:

Reed met @Tesla autopilot en politie hield me aan. Flinke boete. Rechter hoe lang blijft deze regel?

De staandehouding bleek echter niet te zijn geweest vanwege het loslaten van het stuur (wat op een snelweg in principe redelijk risicoloos kan als je de Autopilot van Tesla aan hebt), maar vanwege het feit dat hij als bestuurder van een motorvoertuig een telefoon in de hand hield. Iets dat apart in de wet verboden is, los van of het gevaar geeft of niet.

Ik ben er nog niet uit of het inschakelen van de Autopilot-feature van een Tesla en dan het stuur loslaten nu verboden is. Er is immers geen expliciete regel om te allen tijde je handen aan het stuur te hebben. In de praktijk kom je dan al snel uit bij het kapstokartikel 5 van de Wegenverkeerswet: gevaar of potentieel gevaar (het verschil blijft me ontgaan) veroorzaken op de openbare weg.

Het argument zou dan zijn dat als je het stuur loslaat, je bij een plotseling veranderde situatie niet op tijd het stuur terug kunt pakken om uit te wijken. Zeker als je ondertussen wat anders aan het doen was, nog los van of dat een telefoon vasthouden betrof of een roman lezen. In al die situaties ben je niet in staat om snel genoeg weer de aandacht terug te krijgen om het voertuig veilig verder te laten rijden.

Een gang naar de rechter lijkt me absoluut kansloos. De wet is duidelijk, en hoewel een rechter best een eindje deze op mag rekken wanneer een harde handhaving onredelijk is, is hier gewoon keihard een specifieke regel tegen. Ook nog eens vanuit een veiligheidsbelang (je aandacht op de weg houden) en dat overtreed je ook wanneer je een stuurondersteuning aan hebt staan. Ik zie dus geen reden waarom een rechter hier van de wet af zou kunnen wijken.

Arnoud