Hoe ethisch verantwoord kan een AI of robot zijn?

| AE 10293 | Innovatie | 21 reacties

Toen ik tien of elf was, kocht ik mijn eerste boek van SF-schrijver Isaac Asimov. Wat ik me er vooral nog van herinnerde, waren de vele korte verhalen over zijn Drie Wetten van de Robotica: een robot mag een mens geen kwaad doen, een robot moet doen wat de mens zegt tenzij daarmee wet 1 wordt overtreden en een robot moet zichzelf beschermen tenzij dat in strijd blijkt met wetten 1 of 2. Hele mooie ethische principes, en je ziet ze dan ook steeds terugkomen in discussies over ethiek bij robotica en kunstmatige intelligentie. Maar ik zie het zo even niet werken.

Het idee dat robots en/of kunstmatig intelligente systemen in onze samenleving mee gaan draaien, krijgt steeds meer overtuiging in de maatschappij. Voor een deel is dat een hype, maar er zit zeker een kern van waarheid in de verwachting dat dergelijke systemen een vast onderdeel worden van productie en dienstverlening, en ook wel vanuit de overheid.

De manier waarop deze systemen handelen en vooral beslissen roept dan vragen op, verloopt dat wel ethisch verantwoord. Je beslissing kunnen motiveren is daarbij één ding, maar een veelgehoorde eis is ook dat zo’n beslissing rechtmatig en verantwoord is. Horen dat je geen lening krijgt omdat je moslim bent, is een inhoudelijk duidelijke motivatie maar natuurlijk een onacceptabele.

Een dergelijk beslissysteem moet dus een set ethische randvoorwaarden en wettelijke grenzen ingebouwd krijgen. Alleen, hoe doe je dat? Haast per definitie zijn ethische principes algemeen en weinig vastomlijnd, maar ook wettelijke regels (zoals de AVG, die zo’n leningweigering verbiedt omdat sprake is van profilering op een bijzonder persoonsgegeven) zijn moeilijk in automatisering te vatten.

Een interessant initiatief is het Ethics for AI project van de Oxford University. Zij bekeken allerlei ethische codes, en kwamen toen met de conclusie

The very idea of parcelling ethics into a formal ‘code’ is also dangerous, if it leads to the attitude that ethics itself is just some separate part of life and of activities; it’s not. It’s more meaningfully looked at as a part and parcel of how we live, individually and collectively. So it would be unfortunate indeed, if the presence of a code of ethics encouraged the view that you could do the ethics, and then get on with life, get on with the job.

Het idee dat je ethiek kunt inprogrammeren in een systeem zie ik ook als een waangedachte. Het is geen functionele eis dat iets ethisch moet zijn, je kunt niet werken op basis van een lijst ethische randvoorwaarden. Het is natuurlijk mooi dat je een voorwaarde vanuit ethisch standpunt kunt rechtvaardigen, maar dat is zeer zeker geen garantie dat je systeem ethisch verantwoord werkt.

Ik vrees dat we er niet aan ontkomen om te zeggen, AI en robotica zal miskleunen slaan, dingen doen die ethisch onverantwoord zijn. Daar komen dan bezwaren tegen, en die worden in nieuwe systemen opgelost. Maar het blijft lapmiddelen en gedeeltelijke oplossingen die het probleem voor nu uit de weg gaan, en het zal nooit een fundamentele oplossing zijn waardoor onethische beslissingen onmogelijk worden.

Arnoud

Bericht verwijderd, excuses

| AE 1531 | Ondernemingsvrijheid, Uitingsvrijheid | 19 reacties

Gistermiddag stond op deze plaats een blogbericht dat als 1-aprilgrap bedoeld was. Ik had me echter niet gerealiseerd dat dit bericht gemakkelijk verkeerd te lezen zou zijn geweest. Hierdoor heb ik een aantal personen zwaar geschoffeerd, hetgeen ik ten zeerste betreur want dat was niet mijn bedoeling. Mijn welgemeende excuses aan de betrokkenen.

Ik heb het bericht alsmede alle reacties per direct verwijderd en deze post ervoor in de plaats gezet. Ook de RSS-feed is aangepast. Mensen die het bericht nog in hun cache hebben staan, verzoek ik vriendelijk doch dringend deze per direct te verwijderen en niet verder te verspreiden. Ook wil ik u verzoeken hieronder niet uit te wijden over de inhoud van dit bericht.

Het is jammer dat het niet altijd even duidelijk is wanneer een bericht wel of niet serieus is bedoeld. Achteraf gezien had ik meer aandacht moeten besteden aan hoe de tekst over zou komen en meer hints had moeten geven waaruit mensen meteen hadden kunnen afleiden dat deze post slechts als (droge) humor bedoeld was.

Volgend jaar zal ik ervoor zorgen dat de grap binnen de grenzen van het goed fatsoen blijft. Nogmaals, het spijt me!

Arnoud

Keyword meta-tags zijn dood; lang leve de magneetwoorden

| AE 447 | Ondernemingsvrijheid | 4 reacties

Ooit, toen zoekmachines nog naïef waren, kon je met een META-tag in je webpagina extra trefwoorden toevoegen. “Britney Spears” was een populaire (dit is lang geleden), en als je het een paar keer herhaalde, kwamen fans van de zangeres vanzelf op jouw homepeetsj met foto’s van je cavia. Nee, het nut van die truc heb ik nooit echt begrepen.

Trefwoorden toevoegen kan natuurlijk wel een nuttig doel hebben. Bijvoorbeeld synoniemen of fout gespelde varianten van het onderwerp van de pagina vermelden. Maar er werd zo veel misbruik van gemaakt dat zoekmachines er steeds minder waarde aan hechtten. En nu zijn meta-tags dood, meldt Search Engine Land (gevonden via Technology & Marketing Law Blog).

Ondertussen gaf het onderwerp de nodige commotie bij juristen: mag je andermans merk in je meta-tag vermelden? Is dat gebruik van het merk? Geen triviale vraag (wel een leuk afstudeeronderwerp. Bij merkgebruik moet het merk wel zichtbaar zijn voor de klant, maar meta-tags zijn onzichtbaar. Is het dan wellicht subliminaal adverteren?

Tegenwoordig draait het om de Google Adwords, Yahoo Search Marketing, gesponsorde koppelingen of magneetwoorden: advertenties die verschijnen bij bepaalde zoekopdrachten of trefwoorden bij zoekmachines. In principe zijn die toegestaan, zo blijkt uit de jurisprudentie.

De oudste zaak is VNU/Monsterboard. In hoger beroep werd het toegestaan dat Monsterboard haar vacature-advertenties toonde bij zoekopdrachten met het woord “intermediair” er in. Dit ondanks het merkrecht op de tijdschrift-titel Intermediair van VNU.

In de zaak van Douwe Egberts (Sara Lee) tegen koffieveroper Capriole werd toegestaan dat Capriole advertenties toonde voor DE koffie bij zoekopdrachten voor “douwe egberts”:

Door het handelen van Capriole worden de eigen websites van Sara Lee/DE niet minder bereikbaar dan zij zonder dat handelen geweest zouden zijn. Capriole maakt gebruik van de mogelijkheden die het internet biedt om hoog op de resultatenpagina’s te komen en daardoor de kans te vergroten dat de eigen website wordt bezocht. Dat is, zonder bijkomende omstandigheden waarvan in dit geval niet is gebleken, ten opzichte van anderen die die mogelijkheden niet wensen te benutten niet als misbruik te kwalificeren.

De zoekmachine zelf pleegt trouwens ook geen merkinbreuk, zo bepaalde de rechter in de Farm date-uitspraak.

Arnoud