Wanneer verdient een AI rechtspersoonlijkheid?

| AE 9832 | Innovatie | 11 reacties

In India kun je door een rivier worden gedagvaard, las ik onlangs (dank, tipgever). De rivieren de Ganges en de Yumana hebben daar dit voorjaar rechtspersoonlijkheid toegekend gekregen, zodat ze zelfstandig claims kunnen indienen tegen hun vervuilers. Ook bij dieren speelt die discussie. Dat is een opmerkelijke noviteit, en voor de tipgever aanleiding me te vragen of dit soort precedenten ertoe kunnen leiden dat ook Artifical Intelligences (AI’s) zelfstandige rechtspersoonlijkheid kunnen krijgen.

Rechtspersoonlijkheid is het concept dat iets anders dan een mens dezelfde status krijgt. De bekendste voorbeelden zijn bedrijven en verenigingen: die bestaan volgens de wet geheel los van hun bestuurders, aandeelhouders, leden en andere mensen die baat hebben bij die organisaties. Het idee erachter is dat de organisatie zo de individuele personen erachter kan ontstijgen, onder meer doordat die niet automatisch aansprakelijk zijn voor eventuele fouten of schulden veroorzaakt door het bedrijf. (En ja, dat is dan ook precies het probleem met rechtspersonen als het uit de hand loopt.)

Rechtspersoonlijkheid ken je toe aan een object wanneer je wil dat deze zelfstandig aan het rechtsverkeer deelneemt. Deze entiteit moet bijvoorbeeld geld of goederen kunnen bezitten, claims kunnen indienen of juist kunnen dragen en vergoeden. Het is handig dat een vereniging een rechtspersoon is bijvoorbeeld, omdat deze zo los komt van haar bestuurders, en met eigen vermogen activiteiten kan opzetten (zoals een zaaltje huren of donaties ontvangen) voor hun doel. Je kunt die entiteit dan ook aan nadere regels onderwerpen: dit is het stemrecht, en als je activiteiten zus en zo zijn dan zijn donaties belastingaftrekbaar.

Dat wil natuurlijk niet zeggen dat rechtspersoonlijkheid altijd de manier is om entiteiten te beschermen. In Nederland zijn dieren bijvoorbeeld geen rechtspersoon, maar toch beschermd tegen bijvoorbeeld mishandeling: het is mensen verboden dieren onnodig pijn te doen. Met zo’n regel is er specifiek voor dat belang dan geen rechtspersoonlijkheid meer nodig. Optreden tegen vervuiling in rivieren kan ook op zo’n manier, stel strafbaar het loze van vuil in de rivier. Het voornaamste voordeel van rechtspersoonlijkheid zou zijn dat de schadeclaim op zo’n vervuiler nu in de portemonnee van de rivier zelf terecht komt, in plaats van als boete bij de staat in de algemene schatkist. Ook kan de rivier dan zelf kiezen wie aan te klagen, in plaats van afhankelijk te zijn van het Openbaar Ministerie dat wellicht andere prioriteiten kiest.

Zou rechtspersoonlijkheid voor AI’s interessant zijn? Dat komt dus neer op de vraag welke belangen of beschermingen we vinden dat zij moeten hebben in het rechtsverkeer. Wat zou een AI doen met een eigen vermogen, bijvoorbeeld? Hebben haar bestuurders/programmeurs stemrecht nodig, moet de AI boven deze mensen uit kunnen stijgen? Moeten ze worden beschermd tegen anderen die ze schade gaan berokkenen?

Een argument voor rechtspersoonlijkheid dat ik vaak zie is aansprakelijkheid voor schade berokkend door AI’s, zoals bij zelfrijdende auto’s. Wie de weg op gaat en mensen schade berokkent (bijvoorbeeld door een aanrijding), moet die schade vergoeden aan het slachtoffer. Maar wie moet dat bij een zelfrijdende auto? Dat probleem is opgelost als je de AI in de auto tot rechtspersoon verklaart: dan heeft deze eigen vermogen, een verzekeringsplicht en ga zo maar door waarmee schadeclaims opgevangen kunnen worden. Maar het heeft ook bijeffecten, zoals dat je bij een aanrijding waarbij de autonome auto schade lijdt, aan die auto de schade moet vergoeden.

Voor mij is een belangrijke overweging hoe zelfstandig de AI aan het rechtsverkeer meedoet. De huidige AI’s doen dat nauwelijks. Een beslisboom, chatbot of machine learning model vind ik nauwelijks zelfstandig opererend. Mijn AI NDA Lynn opereert weliswaar autonoom, maar volledig binnen de grenzen die ik heb getrokken in haar programmering. Ze kan niet eens leren van haar fouten, dat doe ik door nieuwe trainingsdata erin te stoppen. Een systeem dat wél zelf leert van gemeten feedback op eerder handelen zou ik eerder die kant op vinden gaan.

De argumentatie erachter zou dan zijn dat het op dat moment niet redelijk meer is dat de personen achter de AI nog verantwoordelijk gehouden worden voor hetgeen die AI doet. Na een flink aantal rondjes bijleren is die AI dan immers niet meer vergelijkbaar met het ding waarmee men begon. Dat zou zoiets zijn als wanneer mijn kat ontsnapt en een eigen leven begint op de Veluwe: is het beest dat daar na vijf jaar rondsluipt, nog wel ‘mijn’ kat te noemen? Verdien ik de schadeclaims wanneer het Wim zijn hond opvreet?

Tegelijk blijf ik zitten met het punt dat als het maar om één ding gaat, en dan ook nog eens aansprakelijkheid, er meer oplossingen zijn dan dit zware middel. Je kunt immers ook van de eigenaren eisen dat ze zich verzekeren, bijvoorbeeld. Of een wettelijke regeling over aansprakelijkheid opnemen in de wet die een andere oplossing biedt. Want het punt is wel, als je een AI tot rechtspersoon verheft dan mogen ze gelijk (vrijwel) álles dat mensen ook mogen. Dus ik denk dat je die route niet snel moet willen.

Arnoud

Deel dit artikel

  1. De argumentatie erachter zou dan zijn dat het op dat moment niet redelijk meer is dat de personen achter de AI nog verantwoordelijk gehouden worden voor hetgeen die AI doet. Na een flink aantal rondjes bijleren is die AI dan immers niet meer vergelijkbaar met het ding waarmee men begon. Dat zou zoiets zijn als wanneer mijn kat ontsnapt en een eigen leven begint op de Veluwe: is het beest dat daar na vijf jaar rondsluipt, nog wel ‘mijn’ kat te noemen? Verdien ik de schadeclaims wanneer het Wim zijn hond opvreet?

    Die vergelijking gaat natuurlijk alleen maar op als de AI op magische wijze uit jouw server is ontsnapt en een eigen stroomvoorziening heeft gemaakt. Zolang Lynn op jouw server draait waar jij de stekker uit kan trekken, blijft Lynn jouw verantwoordelijkheid.

    Dat geldt wat mij betreft ook voor autonome auto’s. Als jij een zelf lerende en zelf rijdende auto maakt die zichzelf kan opladen door op willekeurige plekken een laadstation te hacken en zo verder kan gaan zonder dat jij daar invloed op hebt dan heb je een risico genomen dat je de controle kwijt raakt en blijf je juist daarom verantwoordelijk.

      • Ik zie het niet. Stel jij ontwikkelt een AI die geld kan verdienen en die laat je los in de vrije wereld. Ik vermoed dat die kans niet zo heel groot is want mensen willen liever zélf dat geld hebben. En anders richt je een bedrijf op en stopt dáár de AI in. Maar goed, stel dat dat toch gebeurd. Waarom zou jouw verantwoordelijkheid dan ophouden?

        Als ik een leuk tijgerwelpje als huisdier neem en die drop ik in het bos omdat hij toch te groot wordt, dan blijf ik gewoon verantwoordelijk.

        Het is misschien prettig als een AI zelfstandig contracten kan afsluiten maar daarbij hoort ook een verantwoordelijkheid. De nadelen van AI dit soort verantwoordelijkheid geven weegt m.i. in geen geval op tegen de voordelen. Zeker met criminele intenties is het prettig als mijn code verantwoordelijk wordt ipv ik.

        • “Stel jij ontwikkelt een AI brengt een mens op de wereld die geld kan verdienen en die laat je los in de vrije wereld. Ik vermoed dat die kans niet zo heel groot is want mensen willen liever zélf dat geld hebben.” Klinkt dat net zo logisch of niet?

          Een AI die zelfstandig economisch kan handelen moet, net als een mens, concurreren met anderen in de economie. Ik zie het er nu nog niet van komen, omdat mensen op dit moment nog een heel stuk concurrerender zijn dan AI’s: the DAO was een mislukking doordat er ergens een bug in zat die door een mens werd ontdekt en uitgebuit. Dat betekent niet dat het nooit mogelijk zal worden dat AIs economisch zelfstandig kunnen overleven.

  2. Ik heb de indruk dat kunstmatige rechtspersonen (dus ook bedrijven) vooral middelen zijn voor mensen om hun verantwoordelijkheden te ontlopen. Niet alleen voor investeerders (beperkte aansprakelijkheid) maar ook bijvoorbeeld voor werknemers, doordat “de werkgever” al snel verantwoordelijk is voor hun handelen, waardoor het veel makkelijker is om gewoon te doen wat de baas van je vraagt.

    Ik begrijp wel dat dit model populair is geworden: we kunnen in de vorm van bedrijven veel meer risico’s nemen, en dus ook meer vooruitgang boeken, dan we anders zouden accepteren als maatschappij. Bedenk alleen wel dat de keerzijde ook bestaat. Milieuvervuiling, uitbuiting, financiële crises en dergelijke houden hier denk ik wel mee verband. Een alternatief model zou kunnen zijn dat je een bedrijf puur ziet als een verzameling overeenkomsten tussen individuen, die de verantwoordelijkheid van die individuen aan derden op geen enkele manier verminderen.

    Die rivieren in India zijn een apart verhaal. Rivieren zijn niet in staat hun eigen “belang” te verdedigen, dus ik neem aan dat er ergens in India mensen zijn die rivieren “vertegenwoordigen”? Als een rivier een schadevergoeding ontvangt, welke mensen bepalen dan hoe het ontvangen geld uitgegeven mag worden, en hoe hebben die mensen dat recht ontvangen? Het lijkt mij dat, aangezien een rivier een publiek goed is, dit soort beslissingen alleen collectief, dus democratisch, genomen zou moeten kunnen worden. Je zou dan een soort “rivier-overheid” hebben, wat op zich helemaal geen slecht idee is; misschien net zoiets als de waterschappen hier.

    Het probleem lijkt misschien een beetje op dat van vermoorde mensen: die kunnen ook niet meer zelf juridische stappen ondernemen, waardoor het nodig is dat anderen (de politie) hun recht halen.

    Waarom zou je een AI een eigen rechtspersoon geven? Is dat weer om als mens je eigen verantwoordelijkheid te ontlopen? Als jij een zelfrijdende auto in het verkeer loslaat, en die zelfrijdende auto rijdt iemand aan, hoe ben jij als mens daar dan niet voor verantwoordelijk?

    Die verwilderde kat is een interessant voorbeeld. Het laten ontsnappen van een potentieel schadelijk dier zou je ergens wel kunnen zien als een soort milieuvervuiling. Vind je dat je verantwoordelijkheid ergens ophoudt, als de gevolgen maar ver genoeg in de toekomst zijn en/of voldoende indirect zijn? Als mijn verbranding van fossiele brandstoffen een klein beetje bijdraagt aan de toename van CO2 aan de atmosfeer, waardoor het klimaat een klein beetje sneller opwarmt, waardoor er in de arctische permafrost een klein beetje meer methaan vrijkomt waardoor het klimaat weer een klein beetje sneller opwarmt, waardoor er weer wat meer ijs afsmelt, waardoor de polen weer wat warmer worden en er nog meer ijs afsmelt, waardoor na een eeuw of wat de zeespiegel tientallen meters is gestegen en miljoenen mensen moeten migreren, ben ik dan niet verantwoordelijk voor mijn aandeel in dat proces?

    • De rechtvaardiging van een rechtspersoon is vooral dat de entiteit dan zelfstandig kan opereren en daardoor dingen kan doen die de draagkracht van de individuele bestuurders kan ontstijgen. Een stichting kan honderd jaar bestaan, en een vereniging gaat door als de oprichters er genoeg van hebben.

      Natuurlijk zit er het punt dat de bestuurders hun verantwoordelijkheid ontlopen. Maar ik zie dat als een bug die we voor lief moeten nemen. Als je alles voor de volle 100% op je privé bordje kunt krijgen, dan blijven we op het niveau eenmanszaak opereren. Wie zou contracten van het niveau “Philips verkoopt televisie-divisie aan JVC” aandurven als hij privé aansprakelijk was voor een fout in het contract? Daarom denk ik dat het uiteindelijk beter voor de maatschappij is dat er een rechtspersoon kan zijn die zo’n deal van x miljard kan maken (en de claims kan dragen, de omzet is immers navenant) zonder dat er privépersonen direct hoeven te vrezen voor hun huis en eigen vermogen.

      • Als je alles voor de volle 100% op je privé bordje kunt krijgen, dan blijven we op het niveau eenmanszaak opereren.

        Daar zou zeker een goede kant aan kunnen zitten, als je niet meer te maken hebt met onpersoonlijke, ongrijpbare, machtige multinationals.

        De vraag is natuurlijk vooral in hoeverre onze welvaart kan (blijven) bestaan zonder de schaalvoordelen van het grote kapitaal. Kunnen we net zo goedkoop auto’s, televisies en dergelijke maken als de hele productielijn bestaat uit kleine onafhankelijke bedrijfjes die niet meer kapitaal en risico dragen dan een enkel persoon aan kan?

        Misschien heeft de ICT dit in sommige bedrijfstakken al mogelijk gemaakt; denk bijvoorbeeld aan Uber en AirBnB, waarbij de auto’s en huizen geen eigendom zijn van de centrale organisatie, maar van individuele gebruikers. De centrale organisatie zou zelfs vervangen kunnen worden door een peer-to-peer-netwerk; als je maar een goed reputatie- betalings- en conflictoplissings-systeem hebt. Voor andere bedrijfstakken is het denk ik nog een toekomstdroom.

  3. De vraag wie is verantwoordelijk voor een zelfrijdende auto is een interessante. En dat is een specifieke toepassing van een AI. Mij lijkt het redelijker de makers aan te kunnen spreken dan de eigenaar/gebruiker. Het komt immers door een fout van de maker dat er schade ontstaat.

    Een aanpassing van bv de software zou je ook onder de makers kunnen laten vallen.

  4. De rivieren de Ganges en de Yumana hebben daar dit voorjaar rechtspersoonlijkheid toegekend gekregen, zodat ze zelfstandig claims kunnen indienen tegen hun vervuilers.

    Leuk idee! Kun je als die rivier overstroomt, en je huis omver kegelt, ook een schadeclaim indienen. De rechtspersoon “Ganges” heeft dan toch een onrechtmatige daad begaan?

    (Dit was destijds een argument van mij in een discussie over iemand die de aarde tot rechtspersoon wilde laten verklaren voor milieubescherming)

  5. Rob van den Hoven van Genderen heeft het hier veel over (in woord, o.a. zeer regelmatig op de radio, en geschrift), rechtspersoonlijkheid voor robots en andere producten van kunstmatige intelligentie. Harari (Homo Deus) heeft het zelfs over rechtsperoonlijkheid voor algoritmes. De discussie is overigens al meer dan 15 jaar oud, zoals parallel met slaaf in Romeinse recht, bijvoorbeeld. Indertijd (jaren negentig) werd de discussie uitgebreid gevoerd in de context van intelligent agents (software dus), zelfs in Computerrecht (maar ook internationaal), toen ging het ook veelal over rechtshandelingen verrichten door computers.

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS