Waarom moeten robots rechten krijgen?

| AE 10536 | Innovatie | 14 reacties

Geef robots alsjeblieft geen aparte juridische status, las ik bij NRC Handelsblad. In een open brief waarschuwen 150 prominente onderzoekers op het gebied van robots, kunstmatige intelligentie en rechtsgeleerdheid de Europese Commissie. Het argument om robots rechtspersoonlijkheid te geven hoor ik vaker de laatste tijd. Het zou aansprakelijkheidsproblemen oplossen, ethische dilemma’s kortsluiten en een belangrijke stap voorwaarts zijn in de volwassenwording van de Vierde Revolutie van onze samenleving. U hoort aan de ietwat sarcastische toon dat ik dat niet helemaal zie.

Recent nam het Europees Parlement een resolutie aan, waarin onder meer de aanbeveling stond:

Creating a specific legal status for robots in the long run, so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause, and possibly applying electronic personality to cases where robots make autonomous decisions or otherwise interact with third parties independently;

Door robots rechtspersoonlijkheid te geven (zeg maar net zoals een bv of een vereniging dat heeft) kunnen zij zelf rechtshandelingen verrichten, geld bezitten en aansprakelijkheid dragen voor schade of wanprestatie. Daarmee los je, op papier dan, een hoop problemen op. Immers als er schade is, dan heb je nu een rechtspersoon bij wie je de claim kunt neerleggen. Alle bestaande regels over aansprakelijkheid, toerekenbaarheid et cetera gelden automatisch, en we hebben 100 jaar jurisprudentie om die regels toe te passen op een rechtspersoon.

De onderzoekers dragen hier een aantal stevige bezwaren tegen aan. Allereerst vind ik een mooie dat je hiermee robots zwaar overschat. Er loopt nog lang geen Daneel Olivaw door de straten om de stoep te vegen of een medische behandeling uit te voeren. Het soort robots dat we wel hebben, is zo basaal en beperkt dat het altijd evident is welke mens of welk bedrijf erachter zit, en het ook zeer logisch is om díe dan gewoon aansprakelijk te houden.

Nog sterker vond ik het tweede argument: als je iemand een (rechts-)persoon maakt, geef je hem ook rechten, en wat betekent dát dan?

A legal status for a robot can’t derive from the Natural Person model, since the robot would then hold human rights, such as the right to dignity, the right to its integrity, the right to remuneration or the right to citizenship, thus directly confronting the Human rights. This would be in contradiction with the Charter of Fundamental Rights of the European Union and the Convention for the Protection of Human Rights and Fundamental Freedoms.

Die laatste zin lijkt te zeggen dat mensenrechten aan robots geven in strijd is met de mensenrechten voor mensen, wat ik niet helemaal volg. Maar het eerste punt zie ik wel: als je een robot rechtspersoonlijkheid geeft, mag je hem niet meer uitzetten als dat in het belang van mensen is. Dat is dan immers zeg maar moord. Ook zou je niet zomaar meer ín de robot mogen kijken zonder medische behandelovereenkomst (herstelovereenkomst?). Ja, dat krijg je er van als je 100 jaar standaardregels op een nieuwe situatie plakt.

Hoe het dan wel moet, laten de onderzoekers een beetje in het midden. Er moet goed over nagedacht worden en zonder vooringenomenheid naar een oplossing worden gestreefd. Daar kan niemand het mee oneens zijn, maar opschieten doet het natuurlijk ook weer niet. Toch maar dat aansprakelijkheidsfonds?

Arnoud

Deel dit artikel

  1. Het geven van een rechtspersoonlijkheid aan robots zou het aansprakelijkheidsprobleem juist niet oplossen. Een robot kan je niet straffen dus is er voor een robot geen enkele incentive om zich aan de wet te houden.

    Natuurlijk kan je een robot uit zetten als ultieme straf maar zolang in geprogrammeerd is dat dat helemaal niet erg is, is het ook geen straf.

    • Een bedrijf heeft wél recht op mensenrechten, zoals bescherming van eigendom of vrijheid van meningsuiting. Natuurlijk geldt dat niet voor rechten die per definitie alleen voor mensen relevant zijn (zoals privacy of slavernij). Voor een robot zou je dus evenzo moeten bepalen welke rechten specifiek des mens zijn en welke rechten ook een robot zou verdienen. Ik zou het slavernijverbod bijvoorbeeld erg relevant vinden voor een robot, en ook menen dat een robot recht heeft op eigendomsrechten en denk ik ook wel privacy en vrijheid van meningsuiting.

      • Maar een bedrijf heeft geen recht op leven, een rechtspersoon kan worden ontbonden. Ook heeft een rechtspersoon niet altijd recht op privacy, de bestuurders, aandeelhouders en eventuele commissarissen van een BV zijn bijvoorbeeld openbaar.

        Ik zie eigenlijk het voordeel niet van een robot met rechten. Waarom kun je de robot niet in een bv stoppen als je de aansprakelijkheid wilt ontlopen?

      • Ik zou dan eerder pleiten voor een verbod van robots met een bewustzijn dan heb je al die rechten voor robots ook niet nodig. Een verbod op slavernij voor robots? Laat m’n vaatwasser het maar niet horen….

        Compleet offtopic en whataboutism maar laten we op z’n minst eerst eens nadenken over hoe we om moeten gaan met de dieren op deze planeet voordat we dit voor robots doen.

        • Robots worden snel slimmer, krachtiger, en gevarieerder en streven de mensheid op steeds meer punten voorbij. De ontwikkeling zal waarschijnlijk ook steeds sneller gaan omdat robots ook steeds meer gaan bijdragen aan hun eigen ontwikkeling. Zeker wanneer zij slimmer worden dan mensen (misschien al wel in 20 Jaar?), dreigen de ontwikkelingen totaal onbeheersbaar te worden. Zelfs robots die met goede bedoelingen worden ontwikkeld vormen een steeds sneller groter wordend risico. En dan zijn er ook nog robots die vanuit militaire of criminele hoek worden ontwikkeld… Wat mij betreft kunnen we het nadenken hierover NIET uitstellen.

          Robots met ‘bewustzijn’ lijken me in deze ook een extra groot risico. Daarbij vraag ik me wel af of je daar juridisch iets mee kan: hoe zou je bewustzijn moeten definieren en hoe kun je bewustzijn (bij een robot) dan vaststellen?

          • Als we het nadenken hier over uitstellen dan is ook een super geavanceerde robot juridisch niets meer dan mijn vaatwasser. Ik heb dat juist graag omdat ik die op elk moment uit kan zetten en als mijn vaatwasser toch schade veroorzaakt bij jou dan kan je bij mij aankloppen voor de schade. Ik kan het vervolgens misschien verhalen op de fabrikant.

            Juist voor de robots die de mensen voorbij streven moeten we oppassen dat deze niet meer rechten te krijgen dan mijn vaatwasser.

            • Inderdaad; eerder meer plichten.

              Is dat dan misschien het idee van het voorstel? Een juridische entiteit zonder eigenaar en/of waar eigenaar/creator verminderde rechten/verhoogde plichten op heeft? Als de robot zijn plichten niet nakomt, mag deze worden gestraft zonder dat een derde daar bezwaar tegen kan maken of claims voor indienen?

              Filosofisch een puntje: als we in toekomst ooit robots met hogere vormen van bewustzijn/intelligentie creeeren, zouden we hen dan moreel mogen berechten of zal dat dan eerder andersom moeten; of zullen die robots uberhaupt hun eigen orde afdwingen?

              PS uitzetten van een super-intelligente robot / bewustzijn zou nog wel eens lastig kunnen blijken, bijv. als deze intelligentie zich weet te verspreiden, bijv. via een netwerk. (B films genoeg).

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS