Tesla eist dat beelden van aangereden kinderpoppen worden verwijderd

| AE 13517 | Innovatie, Regulering, Security | 16 reacties

Tesla eist dat een belangenorganisatie video’s verwijdert waarin auto’s van de fabrikant over etalagepoppen van kinderen rijden. Dat meldde Nu.nl op gezag van The Washington Post donderdag. In die video’s van The Dawn Project zag de nieuwste software van Tesla’s Full Self-Driving-functie meerdere keren een pop ter grootte van een kind over het hoofd. Dat gaf nogal wat ophef, en al snel doken berichten op dat de FSD niet aan zou staan en dat de groep vooringenomen tegen het bedrijf zou zijn.

De test is afkomstig van organisatie The Dawn Project, dat volgens haar site zich zorgen maakt om onveilige software in apparaten zoals auto’s. Directeur Dan O’Dowd vermeldt echter in zijn Twitterbio expliciet Tesla’s FSD te willen verbannen, dus dat komt dan toch wat gekleurd over.

Dan de test. De kern van de video is dat men een pad afbakende met pilonnen en daar midden op de weg een dummy ter grootte van een kind neerzette. De Tesla leek niet of nauwelijks te remmen en rijdt met volle snelheid over de dummy heen. De kritiek was niet mals: we zien bijvoorbeeld dat de mens op de bestuurdersstoel het stuur loslaat, iets dat volgens de algemene voorwaarden niet is toegestaan en leidt tot waarschuwingen. Ook zouden de pilonnen de optie tot uitwijken hebben beperkt.

De kritiek gaf aanleiding tot nieuwe video’s, onder meer deze, waar men op een echte straat zonder pilonnen rijdt, de handen op het stuur blijven en de auto op zich er omheen kon. Desondanks wederom dikke boem. Het scherm laat zien wat het systeem detecteert maar er is geen mannequin of kind te zien. Ook dit gaf weer de nodige kritiek op de wijze van uitvoering.

De video’s en rumoer er omheen gaven Elon “free speech absolutist” Musk aanleiding om een rechtszaak aan te kondigen wegens laster. En ja, juridisch is er een verhaal te maken dat het onrechtmatig is (oneerlijke reclame, zo je wil) een video te publiceren met een onjuiste voorstelling van zaken die extreem gevaar suggereert. Er zijn bedrijven failliet gegaan om zulke dingen.

De vraag is dan wel: wie moet wat bewijzen. Bij een smaad- of lasterclaim moet in de VS de belasterde bewijzen dat de uiting in de feiten onjuist is (opinie is nooit laster of smaad, in hun systeem). Dat komt dus al snel neer op “hoe werkt FSD dan wel”, en dat zal al snel betekenen dat Dawn Project in discovery inzage kan eisen in de documentatie van dat systeem. Zo werkt het in de VS namelijk, alle relevante bewijsstukken moet je aan de wederpartij geven als deel van de procedure. En dat betekent dus dat de wereld mee mag lezen hoe FSD werkt, wat nog interessant kan zijn.

Arnoud

Mag de politie je Tesla leegslurpen bij een strafrechtelijk onderzoek?

| AE 12987 | Regulering, Security | 23 reacties

webandi / Pixabay

De data die in Tesla’s is opgeslagen bevat een schat aan informatie voor strafrechtelijke onderzoeken, las ik bij Security.nl, op gezag van het Nederlands Forensisch Instituut (NFI). Dat was erin geslaagd  gecodeerde rijgegevens die Tesla opslaat in haar auto’s uit te lezen, te vertalen en te publiceren. Volgens de onderzoeker is het belangrijk om te weten welke data de auto allemaal opslaat, zodat justitie weet welke gegevens het kan vorderen en hoe exact die gegevens kloppen met de werkelijkheid. Maar mag dat?

Het artikel meldt meteen al hoe het nu gaat: de politie komt met een bevel van de officier van justitie bij Tesla en die lezen het op afstand uit. Dat moet ook wel, want Tesla’s zijn niet zo eenvoudig toegankelijk dat je ze met standaardspullen open kunt maken en de data naar een USB-stick kunt halen.

De experts van het NFI is het dus wel gelukt, en bij het lezen van het paper viel op dat het dus wél een kwestie is van auto openmaken en SD-kaart uitnemen:

Acquiring this micro-SD card requires access to the ‘car computer’ located in the passenger footwell, behind the glovebox. On Autopilot generation 2 and 2.5 systems, there is a metal cover on  the bottom left corner (when viewing it from the footwell) that can be unscrewed to reach the PCB and subsequently the SD card as shown in Figure 2.
Vervolgens blijk je de kaarten gewoon te kunnen lezen als typische Linux-logbestanden, dus platte tekst en je kunt met een beetje raden al achterhalen wat er staat. De onderzoekers hebben dit geverifieerd door de logs te vergelijken met wat ze met een bevel bij Tesla hadden gekregen. Identiek, alleen beperkt Tesla de resultaten tot exact het gevraagde interval en de genoemde gegevens uit het bevel.

Logisch, maar wel lastig voor Justitie want je moet wel weten wat je kunt vragen. Dat is dan ook de meerwaarde van dit onderzoek: weten wat een Tesla allemaal logt, zodat je gerichter kunt vragen.

Maar mij bekruipt dan de gedachte, móet je Tesla nog wel wat vragen als je die SD-kaart gewoon uit de auto kunt halen?

Dit is een open vraag volgens mij. In 2017 bepaalde de Hoge Raad dat de politie smartphones van verdachten niet zomaar mag doorzoeken, omdat deze een zeer persoonlijk voorwerp van mensen vertegenwoordigen:

Indien dat onderzoek zo verstrekkend is dat een min of meer compleet beeld is verkregen van bepaalde aspecten van het persoonlijk leven van de gebruiker van de gegevensdrager of het geautomatiseerde werk, kan dat onderzoek jegens hem onrechtmatig zijn.
Er is geen expliciete wettelijke regeling, het mag als er bewijs te verwachten valt maar hoe breder de scope van het onderzoek, hoe meer waarborgen men moet nemen bij het onderzoeken. En het maakt daarbij niet uit of je de telefoon moest ontgrendelen of kunstgrepen moest uithalen om bij de data te kunnen.

Ik zou zeggen dat een auto gelijk te stellen is aan een telefoon qua persoonlijk en wat je over iemand te weten kunt komen. Dan kom je dus in hetzelfde kader terecht als wat de Hoge Raad voor smartphones schetste, en zal al te gretig uitlezen van allerhande logs dus onrechtmatig verkregen bewijs opleveren. Maar omgekeerd: als je heel gericht gaat zoeken op basis van een concrete verdenking, dan is dat niet perse een probleem.

Een interessante is dan nog in hoeverre “je kunt het ook aan Tesla vragen met een bevel” relevant is. Dit voelt gek, maar door het via Tesla te spelen maak je het zorgvuldiger. Dat bedrijf maakt dan als professionele partij immers een afweging, er zit zo een extra check op.

Arnoud

Tesla-baas Musk zegt dat automatische piloot was uitgeschakeld bij fatale crash

| AE 12630 | Ondernemingsvrijheid, Privacy | 9 reacties

Tesla-oprichter Elon Musk weerspreekt maandag de bewering dat de automatische piloot was ingeschakeld bij de Tesla die vorig weekend in de VS bij een eenzijdig ongeluk betrokken was. Dat meldde Nu.nl eerder deze week. De Amerikaanse lokale politie had eerder gemeld dat het “bijna 99,9 procent zeker” was dat er niemand achter het stuur zat, met de implicatie dat het dan wel Tesla’s roemruchte “Autopilot” (ik verwijs naar de handleiding voor de disclaimer) moet zijn geweest die tegen een boom had gestuurd.

De Tesla Model S uit 2019 was volgens de politie met grote snelheid uit de bocht gevlogen, vervolgens tegen een boom beland en daarna in brand gevlogen. Het ongeval komt op een ongelukkig moment voor het bedrijf, dat van plan is om de software voor de volledig zelfrijdende auto binnenkort beschikbaar te maken voor meer klanten.

Het verbaast dan ook niet (maar toegegeven, niets verbaast bij Musk) dat de topman meteen in de Twitter klom om te melden dat

Data logs recovered so far show Autopilot was not enabled & this car did not purchase FSD. Moreover, standard Autopilot would require lane lines to turn on, which this street did not have.
En dat riep bij mij de lastige vraag op, mag een bedrijf zich op deze manier verweren tegen verwijten dat hun product slecht werkte? Enerzijds is het natuurlijk logisch dat als je kwaliteit ter discussie wordt gesteld, dat je dan met interne informatie komt om aan te geven dat het wél goed zit. Anderzijds betekent dat hier dat je de klantgeschiedenis openbaar maakt, wat een dingetje met privacy is.

Het verrast denk ik vooral omdat de politie deze gegevens nog niet had, waarschijnlijk omdat er nog geen subpoena was verkregen om dit op te eisen bij Tesla. En je wilt misschien eerst dat de politie nagaat welke informatie juist is, voordat het bedrijf alvast zelf zegt hoe het zit. Maar het blijft  raar, dat een autobedrijf kan nagaan én vertellen wat ik heb gekocht, wat ik aan had staan en wat niet.

Arnoud

Mag je de claxon van je Tesla een eigen ringtone geven?

| AE 12429 | Ondernemingsvrijheid | 24 reacties

Tesla-auto’s krijgen een update waarmee gebruikers het geluid van de toeter van hun auto kunnen aanpassen, las ik bij Tweakers. Naast het geluid van de claxon als waarschuwingssignaal is het ook mogelijk om geluid af te spelen terwijl er geen bestuurder in zit, zoals bij de “summon” modus waarbij de auto naar je toe komt… Lees verder

Tesla schakelt features achteraf uit bij tweedehands auto, wat krijgen we nou?

| AE 11765 | Intellectuele rechten, Ondernemingsvrijheid | 10 reacties

Autofabrikant Tesla heeft bij de wederverkoop van een tweedehands Tesla enkele features uitgeschakeld, las ik bij The Verge. De wederverkoper had deze features per abuis meegekregen bij de aanschaf bij Tesla zelf(!), dus pardon wij komen even uw auto downgraden, sorry foutje bedankt. De wederverkoper zou niet hebben betaald voor die features “Enhanced Autopilot” en… Lees verder

Tesla-eigenaren kochten per ongeluk peperdure updates

| AE 11730 | Innovatie, Ondernemingsvrijheid | 10 reacties

Sinds kort is het mogelijk om in de app van je Tesla een software-update te kopen, waaronder de zelfrijdende AutoPilot-functies. Sommige mensen deden dat per ongeluk en werden verrast met een rekening van bijna 10.000 dollar. Dat meldde Bright onlangs. Men noemt het voorbeeld van een acceleratieboost die je voor 2000 euro een halve seconde… Lees verder

Je blijft echt gewoon bestuurder als je de AutoPilot van je Tesla aanzet

| AE 11430 | Ondernemingsvrijheid, Regulering | 11 reacties

Het gerechtshof in Leeuwarden stelt dat de bestuurder van een ‘zelfrijdende’ Tesla terecht is beboet, omdat hij tijdens het rijden zijn telefoon vasthad. Dat meldde Nu.nl gisteren. Hiermee wordt de uitspraak in eerste instantie van afgelopen november bevestigd. De Tesla-bestuurder was Vincent Evers, die stelde dat niet hij de bestuurder van de Tesla was, maar… Lees verder

Politie wekt beschonken Tesla-bestuurder op A27 met sirene

| AE 11288 | Regulering | 17 reacties

Een aangeschoten en slapende automobilist is vannacht van de A27 geplukt in zijn rijdende Tesla. Dat las ik bij de NOS vrijdag (dank Franc). De auto bleef maar doorrijden omdat deze op automatische piloot stond en de bestuurder wel zijn handen aan het stuur had, zodat het automatische noodmechanisme (remmen en parkeren) niet in werking… Lees verder

Mag een Tesla zichzelf bewaken met camera’s rondom het voertuig?

| AE 11089 | Ondernemingsvrijheid, Privacy | 20 reacties

Elon Musk laat weten dat Tesla binnenkort een zogeheten Sentry Mode uitbrengt voor alle auto’s die beschikken over Autopilot 2.5. Dat meldde Tweakers vorige week. Deze modus zorgt ervoor dat verscheidene camera’s worden gebruikt om een beeld van 360 graden rondom de auto op te nemen. De nieuwere Tesla’s hebben acht camera’s rondom het voertuig… Lees verder

Als je in je Tesla de Autopilot aanzet, blijf je gewoon bestuurder (en daar was een rechtszaak voor nodig?)

| AE 10979 | Ondernemingsvrijheid | 15 reacties

De rechter van de rechtbank Midden-Nederland heeft bepaald dat de persoon achter het stuur van een Tesla ondanks het gebruik van het Autopilot-systeem als feitelijke bestuurder van het voertuig is aan te merken. Dat las ik bij Tweakers vorige week. Tesla-bezitter Vincent Evers was vanwege een verkeersboete naar de rechter gestapt omdat hij deze onterecht… Lees verder