Hoe programmeer je een zelfrijdende auto bij botsingen?

| AE 8170 | Informatiemaatschappij | 50 reacties

google-zelfrijdende-autoEentje voor de vrijmibo: hoe programmeer je wat een zelfrijdende auto moet doen in het geval van een botsing? Dit onderwerp kwam ik tegen bij Technology Review. De vraag is natuurlijk een specifiek voorbeeld van de meer algemene discussie hoe je een zelfrijdende auto programmeert, maar het is een prangende vraag omdat de impact ervan zo enorm is.

Wanneer een mens een ongeluk krijgt met een auto, zien we dat in principe als overmacht. Pas als blijkt dat de bestuurder dingen verzaakt heeft (verkeerstekens genegeerd, gedronken, met zijn telefoon zitten spelen) komen er juridische processen op gang en kun je wellicht spreken van dood door schuld of misschien zelfs doodslag door voorwaardelijk opzet (bewust de aanmerkelijke kans nemen dat je iemand zou doden). Maar dat zijn uitzonderingen. Hoe pijnlijk ook, in veel gevallen is zo’n ongeval echt een ongeluk, overmacht.

Bij zelfrijdende auto’s is dat veel lastiger voor te stellen. Daar is het niet een mens die uit instinct handelt, of van wie je onmogelijk kon verwachten dat hij in een halve seconde koos tussen zelf tegen een vrachtwagen aan knallen of dat kind op de stoep omver rijden. Maar een computer heeft geen instinct, en voor een computer is een halve seconde ruim voldoende om een paar honderd scenario’s door te rekenen.

Daar sta je dan als programmeur. Er moet nu een algoritme bedacht voor deze situatie, graag maandag af want dan willen we gaan experimenteren op de weg.

Simpele gedachte: de auto moet de keuze maken die het minst aantal mensen verwondt (of laat overlijden, wat ik maar even als extreme verwonding zie). Logisch, zou Spock zeggen, the need of the many outweigh the need of the few. Echter, logischerwijs kom je dan al heel snel uit bij een keuze waarbij de bestúúrder komt te overlijden. Rijd maar tegen die vrachtwagen (de chauffeur daarvan overleeft het wel) of van die brug af. Dat is één leven versus meerdere – die groep fietsende kinderen naast je.

Leuk, maar wie koopt er een zelfrijdende auto wetende dat hij opgeofferd wordt zodra er twee buitenstaanders naast hem fietsen en er iets gebeurt? Het onderzoek dat Technology Review citeert, laat zien dat mensen daar best wat in zien – zolang anderen de zelfrijdende auto maar besturen, en zijzelf het stuur vasthouden bij een ouderwetse auto.

De bestuurder uitzonderen van die keuze is echter ook zo wat. U kunt vast de krantenkoppen al verzinnen: auto bleek geprogrammeerd voor fietsersmoord. Misschien dan niet uitzonderen maar zwaarder laten wegen? Dan ga je dus een getal zetten op mensenlevens of ongeluk.

De typische ICT-oplossing is dan de gebruiker maar laten kiezen. Instellingen > Geavanceerd > Incidentbeheer, knop “Wijzig instellingen”, disclaimer wegklikken en dan kiezen uit drie profielen of handmatig de registry tweaken of je fietsers belangrijker vindt, of de verwachte aanwezigheid van airbags bij de andere auto een factor is, of de motorrijder een codicil met RFID-chip heeft, en ga zo maar door.

Ik zie het zomaar gebeuren. Alleen: dan rijd ik dus in een auto die ik heb geprogrammeerd om tot maximaal vijf fietsers aan te rijden alvorens mezelf op te offeren bij een ongeluk. Volgens mij noemen ze dát moord met voorbedachte rade (en voorwaardelijke opzet). Dat is ook weer niet de bedoeling.

Maar wat dan? Het enige dat ik nog kan bedenken, is dat de auto een rand()-muntje opgooit en op basis van de uitkomst beslist wie er aangereden moet worden. Dan programmeer je overmacht als het ware in, en zijn we weer comfortabel terug bij de situatie die we nu ook al hebben. Maar het voelt niet echt bevredigend.

Arnoud

Vrijspraak voor smaad op MSN

| AE 2517 | Uitingsvrijheid | 9 reacties

Het gerechtshof heeft een vrouw (39) in hoger beroep vrijgesproken voor smaad via MSN, meldde Cops in Cyberspace. Ze had aan haar vrienden op MSN bepaalde berichten gestuurd, maar het Uit het Hof vindt dat geen smaad omdat de groep beperkt was. Pas als de teksten kenbaar waren geworden voor een bredere kring van betrekkelijk willekeurige derden, kan dat smaad opleveren. We hebben er dus weer eentje in de discussie over openbaarheid van sociale media.

MSN is op zich een 1-op-1 communicatiemiddel (afgezien van groepsgesprekken), maar er is een manier om een bericht meteen aan je hele contactenlijst te sturen: voeg aan je MSN-naam of -status de tekst toe. Iedereen in de lijst krijgt dat dan meteen te zien. Dat had deze vrouw ook gedaan, met opmerkingen als

mensen pas op met klusjes door [slachtoffer] want hij licht iedereen op met materiaal halen en zegt een bedrag dat het niet is’ en/of – ‘[slachtoffer] moet wel oplichten met zo’n duur wijf die alles moet hebben, anders is ze chagarijnig als ze niks heeft’ en/of – ‘mensen pas op met [slachtoffer] hij licht mensen op voor duizenden Euro’s met klussen, trap er niet in’

Het Gerechtshof had er geen twijfel over dat deze uitingen op zich smadelijk kunnen zijn, maar twijfelt over één punt: voor smaad is vereist dat er “ruchtbaarheid” aan de uitingen wordt gegeven. Daarvoor moeten ze ter kennis komen van een bredere kring van betrekkelijk willekeurige derden. In principe, zo oordeelt het Hof, kan dat het geval zijn. Je kunt via MSN (of andere digitale netwerken zoals Facebook of Hyves) prima zo’n kring met mensen bereiken.

Alleen, er moet dan wel bewijs zijn dat in dit geval ook een brede groep mensen bereikt werd. En dat is waar de zaak hier op stukliep. De vrouw had gesteld dat haar contactenlijst slechts tien personen telde, allen afkomstig uit haar directe omgeving (familie). Ook had ze de berichten al snel weer van MSN gehaald, zodat “niemand de berichten gelezen kon hebben”. Het was in ieder geval niet haar bedoeling dat iedereen de berichten kon lezen. Het OM had daar niets tegenover gesteld:

In de onderhavige zaak is door de politie geen nader onderzoek verricht naar de omvang van de groep van personen (“vriendenkring”) die verdachte tot haar MSN-account had toegelaten en evenmin is er onderzoek verricht naar de samenstelling van deze groep. Ook ontbreekt verdere informatie omtrent de vraag hoe lang de teksten op MSN voor anderen zichtbaar zijn geweest.

Het Hof vindt de groep van tien familieleden te klein om van “kring van betrekkelijk willekeurige derden” te mogen spreken. Daarom volgt vrijspraak.

De discussie over de openbaarheid van sociale media loopt al langer. In een Bossche zaak ging het om slechts 10 à 12 personen (voornamelijk familieleden) die toegang hadden tot de gewraakte krabbels op Hyves. Dat was ook een te kleine kring om van smaad te spreken. In een Leeuwardse zaak werd een groep van 25 Hyvesvrienden wél groot genoeg geacht, omdat hier sprake was van

een in potentie ruimere kring van personen, die kennelijk naar eigen inzicht en zonder enige restrictie over de uitlatingen mocht beschikken, waarbij daarnaast een verdere verspreiding van de gewraakte tekst door de oorspronkelijk geadresseerden -gezien de aard van de beschuldiging- voor de verdachte niet alleen in theorie voorzienbaar was maar ook op voorhand feitelijk te verwachten viel.

Het gaat er echter niet alleen om hoe veel mensen er bereikt worden, maar ook welke relatie ze hebben tot de plaatser van het bericht en of er expliciet of impliciet een sfeer van vertrouwelijkheid bestaat. Je kúnt dus met 100 familieleden chatten zonder smaad te plegen, of juist aan 20 vreemden iets vertellen en dan wél een boete krijgen wegens smaad.

Arnoud