Hoe westers is artificial intelligence, en wie durft dat met mij te onderzoeken?

| AE 11956 | Informatiemaatschappij | 33 reacties

Hoe Westers is AI? Met die vraag bleef ik zitten na het lezen van een Q&A-artikel over Ubuntu-ethiek, waar je een heel andere kijk ziet op mens en maatschappij. Het idee alleen al dat je de datasubjecten, de mensen dus, betrekt bij het maken en reviewen van je AI model.. ik moet het eerste AI-bedrijf nog tegenkomen dat daarom vraagt. Ook kun je in deze ethische visie niet zomaar een AI inzetten om wat van mensen te vinden.

Eens nader lezen dus. De geïnterviewde (Sabelo Mhlambi, Berkman Klein Center, Harvard) werkte zijn ideeën al eerder uit in een paper waar ik uit haal dat de inzet van AI (machine learning) niet eens een privacydiscussie is maar een isolatieprobleem: in de Afrikaanse visie ben je als mens deel van de gemeenschap, en wie mensen apart zet of individualiseert ontdoet mensen van die verbinding.

Dat gaat dus nog een stap verder: waar wij zouden zeggen dat je in je privéleven geschonden wordt, zegt hij dat je in je menszijn geschonden wordt. Ik citeer:

The process of individualization that breaks a person’s connectedness, humanity, is a process of dehumanization. As artificial intelligence is not able to infer causality in the data it processes, it is difficult to provide recommendations that are based on the assessment of user’s needs. Most widely used recommendation systems are not able to determine the motivations behind a user’s interaction in their platform and are not able to provide value based recommendations.

Heftig. Maar het zet me ook aan het denken: welke rol moet de mens gaan spelen in het AI-ecosysteem. Welke rol heeft de consument, de burger, ja wat is eigenlijk het juiste woord om de ethische en beleidsaspecten van deze discussie mee te beschrijven?

Dit is een van de vier thema’s uit de IT Law Summer School die ik eind juli organiseer: de mens als datapunt. (Ik moet eerlijk zeggen dat ik toen ik die term formuleerde ik nog niet zo diep als dit had nagedacht over het onderwerp.) Binnen dit thema zou je dus “de visie op AI in de wereld” kunnen pakken als onderwerp, bijvoorbeeld het contrast tussen Europese, Amerikaanse, Chinese en Afrikaanse visies. En dat zou je dan uitwerken als bijvoorbeeld een visueel verhaal dat die contrasten laat zien, met toetsvragen door kunst te tonen waar de lezer uit moet kiezen. Ik zou dat in ieder geval heel gaaf vinden.

Ondertussen zit ik dan ineens met de vraag wat de Europese ethische visie op AI en machine learning is. Wat ik namelijk opmerkelijk vind aan deze hele discussie, is dat de term AI vaak gebruikt wordt terwijl men eigenlijk ML bedoelt, maar daarbij meteen maar fors extrapoleert van wat ML eigenlijk kan. Een stuk onbekendheid met de materie vermoed ik, maar het is wel jammer want je loopt gelijk voorbij het waarschijnlijke. Ik zie over tien jaar geen AI-politici bijvoorbeeld maar wél AI-HR-medewerkers. En dat heeft volgens mij minstens zo veel impact op de maatschappij.

Arnoud

Deel dit artikel

  1. Bij het lezen van dit artikel merk ik, dat ik philosophisch word. Thorbecke (in de periode van zijn werken in Gießen en Göttingen) en Ds. Klaas Schilder (ergens in 1917/18) zagen al hoe de samenleving steeds meer naar het individuele tendeerde. Het “ik” werd steeds belangrijker, de samenleving werd meer en meer het individu onderworpen. Dat je dus nu, n.a.v. het interview met Mhlambi, iets dieper wil gaan kijken naar de mogelijkheden om resultaten van ML (AI) meer vanuit de samenleving te beoordelen, vind ik een goed idee. Vooral omdat een deel van de samenleving vrijwel blind schijnt te accepteren, wat de computer als resultaat geeft. Als je dan tegelijk naar de (schijnbaar?) toenemende invloed van “Verschwörungstheoretiker” (nederlandse woord ken ik niet) kijkt, lijkt het nog veel belangrijker de resultaten vanuit de samenleving te toetsen. Nu ben ik geen IT-specialist of jurist maar een gewoon weldenkend mens (zelf inschatting), dus gaat de ITLSS aan mij voorbij, bekangrijk en interessant vind ik het initiatief desondanks.

  2. Denk dat het wel relevant is om te constateren dat de filosofische stroom achter [“meta-objectiveren” –> “dehumanisatie”] een heel verregaande is. Als je die zou ontlenen, verwacht ik, kom je erop uit dat een groot deel van de menselijke geschiedenis een proces van dehumanisatie betreft. Dat is iets wat ik zou bestrijden. Het is “vooruitgang”. Met dezelfde redenering zou de overgang van jager naar seditentaire boer een proces van dehumanisatie betreffen, want het aantal vrijheidsgraden loopt terug en het aantal verwachtingen loopt op. Idem ditto voor de industriele revolutie. Ergens in mijn filosofische binnenkant zou ik het er nog wel mee eens kunnen zijn, maar het is wel een relatief verregaande (en politiek gekleurd) om iedere wezenlijke verandering in onze omgevingswereld direct als een proces van dehumanisatie te zien. Deltahumanisatie lijkt me een mooier woord.

      • Ja, ik denk dat deze meneer daar wel onder valt. Dat is niet ‘erg’, in de zin van dat een Afrikaanse ontologie net zo goed een toegevoegde waarde kan hebben in de wetenschap, als bijv. de feministische ontologie (zeg de Beauvoir). Laten we hem kort houden: ik hoop dat niemand kolonisatie níet beschouwt als de-humanisatie. Maar niet alles is (actief) kolonisatie. En ja, de dominantie van Silicon Valley (denk de huidige discussies rond Google als wetgever én rechter rond corona-uitingen) moet te denken zetten.

        Punt dat ik zou willen maken is dat in een goed gegronde ontologie die bezwaren heeft tegen bepaalde maatschappelijke ontwikkelingen de analyse van wat de-humanisatie betreft heel secuur moet zijn.

    • Ik denk dat daar twee dingen spelen, ongeacht de volgorde waarin ik die nu schrijf.

      Ik ben het met je eens, dat niet iedere vooruitgang lscht is en dat er inderdaad een angst bestaat, dat onze sameleving dehumaniseerd en dat deze angst de houding t.o.v. AI (ML) beinvloed. Of deze angst terecht is hoeven we niet te discusieren, angst is altijd subjectief en moet door de omgeving als zodanig serieus worden genomen, tenminste als het dan over de afweging van belangen gaat. Is mijn angst belangrijker dan jou recht iets te doen (of te laten)?. In deze afweging komt dan weer het Algemeen Belang om de hoek, en daarmee ben ik aan een tweede punt.

      De mens is van naturr uit eigenlijk een in een sociale struktuur ingebonden mens. Zo zie je dat kinderen die zonder binding aan een familie opgroeien en ook verder niet of nauwelijks sociale contacten hebben, als volwassenen vaak problemen hebben. Bij het evauleren van AI systeme en de resultaten van de daar lopende processen schijnt het mij dan ook van groot belang deze altijd in de context van de omgeving (samenleving) te zien. Daarbij mag (moet) je zelfs rekening houden met het feit, dat de samenleving als “levend organisme” voortdurend veranderingen ondergaat, zij het, dat die binnen een bepaalde bandbreedte blijven. Het blijft wat de gedragscodes aangaat een pendelbeweging, de uitslag naar links of naar rechts is beperkt door de lengte van het pendel en schijnt min of meer vast verankert te zijn. Dat blijkt wel uit het feit, dat vroegere generaties zich de zelfde zorgen maakten over “het verval van goede zeden en moraal”, “de jeugd van tegenwoordig” en zelfs “de moderne techniek die alles goede vernietigt…”

      Het terugbrengen van de mens tot een “datapunt” lijkt mij daar een gevaarlijke ontwikkeling, tenzij je je realiseert, dat data op zich een niet nader gedefinieerde hoeveelheid informatie is en deze hoeveelheid in de mens in de regel onmeetbaar groot is. Reken daarbij het feit, dat deze hoeveelheid en inhoud per mens oook nog verschilt, heb je een voor een AI moeilijk te vatten probleem. Er komt het moment, dat een mens iets doet, waar niemand ooit rekening mee heeft gehouden. Heb je dan een AI die in de evaluatie niet ingebonden is in een sociale en voor al menselijke structuur, loop je inderdaad het gevaar, dat je dehumaniseerd. De mens wordt de maschine onderdaan. Dat is iets wat van mijn perspektief gezien volkomen onwenselijk is. (en nu stop ik, nog duizende andere ideen gaan door mijn hoofd, te veel voor hier en nu)

    • Een Nederlands spreekwoord zegt: iedere verandering is nog geen verbetering. Daar wil ik als wiskundige aan toevoegen dat verandering objectief vast te stellen is, maar dat verbetering een waarde-oordeel betreft. Als jij zegt “vooruitgang” dan erken ik de verandering, maar geef gelijk aan dat ik daar verbeteringen en verslechteringen in zie.

      We zijn het er met elkaar wel over eens dat slavernij slecht is, maar is loonslavernij zoveel beter? Waar ligt deze bron van horigheid aan een werkgever? Marx en Piketti zouden zeggen “de verdeling van geld, eigendom van productiemiddelen.” Extrapolatie hiervan wijst richting het claimen van landbouwgrond door de eerste boeren. Aan de andere kant, de landbouw heeft het mogelijk gemaakt om steden te voeden en daarmee de basis te leggen voor wetenschap en cultuur.

      • Het fundamentele verschil tussen slavernij en veel werk aan de onderkant van de arbeidsmark is toch echt wel keuzevrijheid. In nederland heb het recht om vakkenvullen bij een blauwe supermarkt te verruilen voor vakkenvullen bij een gele supermarkt. Mijn loon, uren en voorwaarden gaan er misschien niet op vooruit. Maar het is een keuze die ik vrij kan maken.

        Terug naar de stelling van AI het probleem van AI is niet zo zeer dat de AI een bepaalde conclusie trekt. Maar het gevolg van de conclusie. Het probleem met Ai is de “computer says no” scenario’s. Waar we vervolgens niet eens meer begrijpen (of in discussie kunnen) over waarom een bepaald antwoord is gegeven. En in de praktijk worden discussies over de juistheid van AI ook niet altijd meer gevoerd. Nog los van het feit of de AI conclusies kan trekken op basis van keuzes die we verwerpelijk vinden (het is niet moeilijk om een racistische Ai te bouwen als onze training data biassed is)

        Het is waarom een minimum in komen baantje zo veel beter is dan slavernij. Ik kan mijn werkgever aanspreken, en in discussie gaan, over zijn beslissingen. En als ik het niet eens ben met dat standaardbriefje ontslag kan ik naar de rechter stappen en hem verantwoordelijk houden. Die fundamentele keuzevrijheid is een belangrijk deel van het verschil.

        • Er is een reden dat het beroep vakkenvuller nog bestaat; mensen zijn goedkoper dan robots in dit werk. De baron/graaf/kapitalist kiest voor de goedkoopste manier om zijn invloed uit te breiden. Minimumloon-baantjes zijn geen slavernij, maar het is wel een vorm van horigheid waarbij je als horige mag kiezen voor welke meester je werkt.

          AI of ML last in hetzelfde patroon, als een computer beslissingswerk beter en goedkoper kan doen dan mensen is het economisch interessant om de mensen aan de kant te zetten en het werk door computers te laten uitvoeren.

          • maar het is wel een vorm van horigheid waarbij je als horige mag kiezen voor welke meester je werkt

            Ik snap niet waarom je de term ‘horige’ steeds zo graag aan de huidige gang van zaken wil koppelen. Op het moment dat er sprake is van vrije wil of keuze kan er geen koppeling met die term meer zijn. Dat je het kapitalistische systeem misschien niet ideaal vindt, of de manier waarop de inzet van menselijke arbeid wordt geregeld, is een hele andere discussie.

            • Om de term nog een keer te gebruiken: Horigen hadden vrije wil, maar geen vrije keuze. Zoals ik de situatie in Nederland nu zie is dat je keuzemogelijkheden worden bepaald door de hoeveelheid geld die te ter beschikking hebt en dat onvermogenden een speelbal van de bijstandsambtenaar zijn. (Wil je daar een SP-tomaatje bij?)

              Maar laten we teruggaan naar de AI en ML: uit welke cultuur komen die? Uit welke subcultuur?

              De ontwikkeling is ingezet in de VS: Cultuur gebaseerd op de West-Europese, met een stuk pionleersgeest. Welke subcultuur: universitair opgeleiden (upper-middle class). Door wie wordt de ontwikkeling be[pt]aald: bedrijven en overheid. Wie is een heel fanatiek gebruiker van ML: De Chinese overheid, waarvoor: onderdrukking bevolking.

              Ik zeg daarmee niet dat alle AI/ML slecht is, ik constateer dat cultureel/sociale aspecten invloed hebben op de uitwerking van AI. En het is mijn stelling dat je je bewust moet zijn van je eigen culturele invloeden en vooroordelen voordat je een analyse vanuit een andere cultuur kunt proberen te begrijpen.

      • Vooruitgang bewust tussen aanhalingstekens, omdat inderdaad daarin het (voor ons, gezien je reactie) interessante onderscheid in de discussie te maken valt. Iets als “de-humaniserend” bestempelen is veel te gemakkelijk (intellectueel).

        Op zich zou ik in mijn eigen filosofische systeem relatief snel klaar zijn met deze discussie, maar dat is wat een relatief rechts / libertijnse inslag en econoom-zijn met je doet. (En zeker ook niet ‘juist’.) Er zijn voor mij geen “mensen binnen een AI-ecosysteem” alleen “AI-ecosystemen binnen een mensenwereld”. Mensen hebben rechten (deels zelfs grondrechten, natuurrechten), die deels nog niet voldoende beschreven zijn om hun rechten jegens entiteiten die AI inzetten voldoende te omschrijven. In de basis lijkt me erg veel in onze rechtshistorie en huidige rechtssituatie al geregeld: transparantie, kenbaarheid, verbod op geautomatiseerde beslissingen, etc. Proof of the pudding is in the eating. We hebben nu zelfs een overheid die m.i. het verbod op geautomatiseerde beslissingen niet erkent.

        Ah, nog relevant voor de vraag van Arnout. Er is m.i. geen (overkoepelende) “Europese” ethiek, althans niet een die we af kunnen zetten tegen een sino-ethiek, of een Afrikaanse ethiek. Die laatste gebieden zijn in vergelijking met onze ethiek te beperkt beschreven / niet toegankelijk. (Dat is jammer. Een goede brug tussen bijv. de Oosterse geloven en onze Westerse filosofische stromingen heb ik nog nooit gevonden, terwijl ik daar echt ruimte zie voor comparatieve filosofie. Zeg maar het Christendom en haar denkers zijn ook een integraal onderdeel van de filosofische geschiedenis.) Gezien de wereldgeschiedenis hebben we hele grote blinde vlekken. Als ik de filosofie kort zou indelen kom je op: Aristotelisch vs. Platoons, Angelsaksische versus Continentaal, ik zou nog een onderscheid maken tussen Frans en Germaans, dan nog stromingen binnen Germaans. Binnen de ethiek kun je op inhoud sorteren met woorden als teleologisch, ultilitaristisch, deontologisch, … Iedere filosoof en zijn moeder uiteraard nog behept met een eigen mening.

  3. Ik hak ‘em er maar in hoor. Dat artikel is idealistisch en zweverig. Het woord “AI” is een betekenisloze katvanger. Een betere maatschappij is een economisch gezonde maatschappij. Leg de verantwoordelijkheid bij het individu en niet het systeem. Een betere maatschappij begint immers bij jezelf.

    Het artikel leest als een communistisch spiritueel manifesto in een philosophisch ethnisch techno-sausje. Als het Ubuntu systeem zo goed zou werken, dan zou Sub-Saharisch Afrika nu een wereldleider zijn. Geenszins duidelijk dat dit Ubuntu systeem werkt voor de moderne maatschappij, dus waarom dit concept uitbreiden naar de moderne maatschappij en als maatstaf nemen? Misschien dat het werkt in een kleine stam in Africa, maar wat is de waarde voor het Westen?

    Individueel handelen en verantwoordelijkheid nemen is juist de weg naar rijkdom en orde, maar wordt hier weggezet als chaos en verderf. Ik stel dat chaos en verderf een grotere rol speelt in Sub-Saharisch Africa, dan in het Westen, ondanks de zogenaamde helende werking van het Ubuntu systeem.

    Dan groeit het Westen met kop en schouders boven Afrika uit, door de individue en het kapitalisme voorop te zetten, en dan mekkeren over ongelijkheid. Ja natuurlijk: als je macht heb, kun je macht uitoefenen. Individualisme maakt je machtig. Idealisme en socialisme handicapt je, omdat je even hard moet rennen als de sloomste in de samenleving. Waarom zou je dan hard trainen? Waarom dan nog voor man en paard opstaan, om te werken aan de nieuwste Iphone of winstgevend machine learning systeem?

    AI kan prima aan causale inferentie doen. En weer de schuld leggen bij het systeem en niet het individu: bedrijven maken winst door het optimalizeren van onze korte attentie span. Alsof dit weg zou gaan als we ergens anders (sub-optimaal) voor zouden optimalizeren. Als Facebook niet optimaliseerd voor kliks, dan gaan mensen lekker naar een site die wel een dopamine fix geeft. En natuurlijk geef je die klik data niet zomaar weg, daar ligt juist de kracht. Wat zou je kunnen doen met geanonimiseerde klik data om gelijkheid te promoten? Gelijkheid en non-individualisme is iedereen hetzelfde voorschotelen. Daar heb je geen AI voor nodig.

    Het hele verhaal is slap en onrealistisch. Kenmerkend voor een links-socialistisch georienteerde universiteit. “De samenleving staat voorop!” zeg je trots, terwijl je jezelf natuurlijk op de borst klopt voor zo’n deugende opmerking. Ja, in een kapitalistische maatschappij, heb je wettelijke regels nodig om te zorgen dat ethiek ook een plek op het podium krijgt, dat gaat niet vanzelf. Maar in een communistische tribalistische maatschappij heb je niet eens AI. De Westerse AI onderzoekers werken met man en macht om AI in Afrika van de grond te krijgen, uit de goedheid van ’t hart zegmaar, maar eigenlijk een soort modern kolonianisme: Afrikaanse AI zonder Westerse hulp bestaat niet. Of is de Ubuntu ethiek de bijdrage? Lijkt meer op een handicap en afremmen.

    • Wat bedoel je met economisch gezonde maatschappij? Is dat een maatschappij waarin de superrijken alleen maar rijker worden, de armen armer, de werkers het gif inademen wat door de fabrieken via de schoorstenen in de lucht verspreid wordt en het via het drinkwater vergiftigd worden met het vaste en vloeibare afval van de industrie? En als kers op het toetje mag de hele wereld meegenieten van de klimaatverandering veroorzaakt door de uitstoot van broeikasgassen. :-/

      • Met een economisch gezonde maatschappij doel ik op het kapitalistische Westen: er is technologische vooruitgang, meer kennis, en innovatie. Iedereen die bijdraagt, of zelfs zij die even niet kunnen bijdragen, plukken de vruchten van bijvoorbeeld verbeterde medische wetenschap. Er is een groeiende middenklasse. De rechten van de arbeiders worden beschermd en er is vrijheid van mening en vakbondvorming. Mensen worden afgerekend op hun individuele kunnen, ongeacht ras of groepsidentiteit.

        Geschetst beeld zie ik meer in China, een communistisch land, waar je onderdeel bent van het systeem en de individu afgevlakt wordt. Waar de maatschappij voorop staat. Waar iedereen inwisselbaar is, fabriekswerkers gif inademen, de luchtkwaliteit slecht is, en de uitstoot van broeikasgassen even moet onderdoen aan de gezamenlijke groei van China. Waar je je niet kunt losweken van de maatschappij.

        • Toch krijg ik ergens kromme tenen van. Het kapitalistische systeem is namelijk gebaseerd op uitbuiting en expansie. Alles wordt opgeslokt door het te voorzien van een prijskaartje, en jaar na jaar moet er groei zijn, want anders gaat het slecht. Het is duidelijk dat dit niet houdbaar is: we lopen op allerlei manieren tegen de klippen op. De natuur gaat naar de klote, culturen worden vernietigd en mensen vereenzamen. Ik denk dat een ander geluid nodig is, en geloof niet dat het kapitalisme zoals we dat nu kennen het nog lang gaat uithouden.

          • Onzin. Het kapitalistische systeem leidt, wanneer het niet in toom wordt gehouden, onvermijdelijk naar uitbuiting en expansie. Maar het is zeker niet de basis. En kapitalisme, wanneer het gereguleerd wordt is best een goed systeem.

            En laten we eerlijk zijn van alle systemen die op het moment op aarde worden gebruikt is het westerse toch echt wel veruit het beste. Om even een bekende quote te verbasteren: “Capitalism is the worst form of economy, except for all the others.”

            • Misschien gaan we uit van verschillende definities van kapitalisme, maar voor mij is juist het kenmerkende dat het kapitalisme als een soort van dogma heeft dat de “onzichtbare hand van de markt” op magische wijze alles goedmaakt. Dat is natuurlijk onzin, maar op het moment dat je gaat reguleren, verlaat je het pad van pur sang kapitalisme, en ga je dus al een heel eind de kant op die ik voorsta — ik beschouw mijzelf “liberaal.” Ik ben niet tegen marktwerking daar waar het kan, en voor veel persoonlijke vrijheid, zowel cultureel als economisch — maar de paradox is dat je om die vrijheid te bewaren, je continue regelend moet optreden: onze maatschappij is geen stabiel systeem. Kapitalisme is anti-liberaal. Het eindpunt van kapitalisme verschilt voor mij niet bepaald veel van een maatschappij zoals we die zien in Noord-Korea, met een kleine kliek die alle welvaart opslokt en de rest die daar dienstbaar aan moet zijn.

  4. Ik heb een tijdje overwogen om in een analyse van Thorvald’s berichten bloot te leggen waar zijn culturele “kleuring” (je mag ook vooroordeel zeggen) ligt; maar dat is een pijnlijk proces, voor mij, maar waarschijnlijk nog wel meer voor Thorvald. Daarom een ander onderwerp:

    De mens als datapunt bekeken vanuit een Ubuntu wereldbeeld

    Ik wil beginnen met Sabelo Mhlambi citeren:

    Ubuntu says, “A person is a person through other persons.”

    That means that people are only people through recognizing their interconnectedness to others, the rest of humanity. It doesn’t mean that the community overpowers the individual. It’s not that at all. The community has to allow the person to be an individual. But not too far away, not too distant. That requires honoring the context of others, bringing in their world views, their differences, and trying to understand them.Dit betekent dat wanneer je een mens als singulier datapunt bekijkt en zijn/haar interacties met anderen in jouw analyses negeert, je geen mens analyseert, maar slechts een datapunt. In meer westerse woorden: LinkedIn is relevanter dan demografische en inkomensgegevens.

    Wat zou ons dit kunnen leren voor ML/AI. Een voor de hand liggende hypothese is dat wanneer je de (huidige) relaties van een persoon analyseert, dat meer over de persoon zou vertellen dan wanneer je de persoon in isolatie analyseert. Een simpel voorbeeld van zo’n hypothese: als een persoon zich begeeft in kringen waar het gebruikelijk is om leningen netjes op tijd af te betalen, dan zal hij/zij zijn/haar leningen met grote waarschijnlijkheid ook op tijd afbetalen.

    Zoiets lijkt me experimenteel te verifiëren, maar ik weet niet in hoeverre privacywetten en ethische comités een proefopzet in de weg staan.

    • @MathFox: Even kort dan: Thorvald leeft blijkbaar nog in de tijd van de “white man’s burden” en de illusie van de superieuriteit van de westerse cultuur. Na wat er allemaal in de twintigste eeuw is gebeurd, zou duidelijk moeten zijn dat dat toch echt lariekoek is — zo niet, dan is een bezoekje aan Auschwitz of Yad Vashem wel op zijn plaats.

      Of een Afrikaanse “AI” fundamenteel anders is dan die van ons, ik betwijfel het ten sterkste. Ondanks significante verschillen, lijken mensen veel meer op elkaar dan ze van elkaar verschillen, en onze hersenen werken op precies dezelfde manier. Mijn ervaring is ook, na een tijd in India te hebben gewoond, dat individuele verschillen vaak belangrijker zijn dan culturele verschillen. Daarmee wordt een samenleving die ruimte geeft aan het individu, en die toestaat zichzelf te ontwikkelen volgens zijn eigen talenten en capaciteiten uiteindelijk veerkrachtiger en welvarender dan een die iedereen in een een vast stramien probeerd te duwen. Daarvoor is het wel nodig dat je je angst voor mensen die anders zijn overwint. Wat dat betreft is de opkomst van het rechts-populisme van het laatste decenia wat mij betreft vooral een uiting van angst — angst die is gegroeid door de excessen van datzelfde kapitalisme, dat allerlei zekerheden afbreekt, en de maatschappij veranderd in een oorlog van allen tegen allen, en niet zozeer door niet zozeer door de influx van mensen uit allerlei landen en de groeiende acceptatie van andere manieren van leven, al gooien de populisten het wel steeds op die laatste dingen.

      • Ik kan me een prima reclameslogan tegen AI voorstellen:

        “Gebruik onze AI, uit de cultuur die jullie ook Kolonialisme en Apartheid heeft gebracht!” 😉
        Ik ben het met je eens dat “ruimte geven aan individuen om zich te ontplooien” belangrijk is voor de welvaart en veerkracht van een samenleving. Maar is dat een pleidooi voor onbegrensd individualisme of moeten we het vanuit een Ubuntu standpunt bekijken: Een mens ontplooit zich in zijn sociale interactie. Voor mij heeft dat laatste standpunt ook de implicatie dat een samenleving de ontplooiing van een individu ook een zekere richting mag geven.

      • Dat de Westerse kapitalistische cultuur superieur is blijkt wel uit het feit dat Sabelo naar een Westerse universiteit ging voor zijn intellectuele vorming. Dat we deze discussie uberhaupt kunnen voeren is compleet te danken aan de technologische vooruitgang van in het Westen uitgevonden techniek.

        De verwijzing naar Auschwitz irriteert mij enorm. Dit was immers een produkt van Nationaal Socialisme. Kapitalisme is voor het Globalisme en is Individueel, niet Sociaal. Maar, prima, ik neem ‘em voor mijn rekening, ondanks dat mijn grootvader van Bergen-Belsen naar Holland is teruggelopen.

        Mijn AI onderzoek wordt ingezet in gebieden waar een tekort is aan modern opgeleide dokters, zoals in Afrika of India. Of ik werkelijk zo eenzijdig rechts of populistisch ben valt te betwijfelen. Ik ben voor een Universeel Basisinkomen en voor een Universele Gezondheidszorg. Zeker in de gezondheidszorg kan de Westerse AI bijdragen, bijvoorbeeld in het bijdragen van fraudebestrijding, een enorm probleem in arme, communistische, vaak corrupte, landen, waar te veel geld blijft hangen aan de handen van de elite.

        Er zijn altijd twee kanten aan de medaille. De Westerse wereld staat voorop in het maken van schone energie, bijvoorbeeld betere zonnepannelen. En alleen in een kapitalistische maatschappij, waar je geen nummertje bent, maar wordt afgerekend op individueel kunnen, kun je, als je voor een dubbeltje bent geboren, best een daalder worden. Het rechts-populisme mag dan tegen economische immigratie zijn, feit blijft dat economische vluchtelingen allemaal in een Westers kapitalistisch land, met goede gezondheidszorg, willen eindigen. Blijkbaar zijn ze niet zo tevreden met hun lokaal systeem.

        Ook ik zie naast de kracht en natuurlijkheid van het Kapitalisme de noodzaak van regulatie. Failliet gaan omdat je ziek wordt is niet een menselijk systeem. Dat kan best samengaan: kapitalisme maakt de rijkdom en techniek, die daarna kan worden verspreid aan de minder bedeelden. Maar dit socialisme als basispunt nemen, maakt ons allemaal een stuk armer.

        Afrikaanse AI bestaat niet. Dit heeft te maken met cultuur, economie, verhoudingen, natuurlijk niet omdat het Afrikaanse brein anders is. Je kan die verhoudingen oneerlijk noemen, prima, maar toch sta ik liever in een goede verhouding, aan de kant van ondernemende mensen, die een individualistische cultuur aanhangen. De uitgroei daarvan Noord-Koreaans noemen is intentioneel naief.

        Over het afbetalen van rekeningen en de kringen waarin je je begeeft: Aziaten betalen het beste af, dit uit een angst dat men door anderen wordt gezien als wanbetaler en deadbeat. Joden hebben een sterker sociaal vangnet dan bijvoorbeeld Afrikaans-Amerikaanse Christenen en dit zie je terug in kredietwaardigheid. Westerse mensen zijn meer financieel mature dan Afrikaanse mensen, waar Westerse AI techniek bepaald wie een microkrediet krijgt.

        Het is onzinnig om het Westers systeem non-superieur te noemen aan iets wat nog uitgevonden moet worden. Geef dan tenminste toe dat het Westers systeem superieur is aan de hedendaags bestaande vormen, of noem een systeem dat hoegenaamd superieur is. Het zal lastig worden om het Ubuntu systeem op te voeren, zeker omdat Afrikanen nu sterven aan compleet vermijdbare ziektes en er bar weinig technische of financiele innovatie uit Afrika komt. Nemen we het abstracte “geluk” als maatstaf, dan voeren Westerse landen ook de boventoon.

        • Wat een boel generalisaties weer bijelkaar… Joden dit, Aziaten dat, en Afrikanen zus. Kunnen we dat station alsjeblieft passeren?

          Ook “arme communistische landen” zijn zo goed als uitgestorven, als ze ooit hebben bestaan. Die landen die het nu nog in het vaandel voeren zijn het alleen nog maar in naam. China is juist het schoolvoorbeeld van hyper-kapitalisme geworden.

          Over China gesproken, deze slapende reus is duidelijk wakker geworden na wat zij zelf de “eeuw van vernedering” noemen, waarbij Westerse grootmachten op een schandalige manier de structuren van dat land kapot hebben gemaakt — denk aan de opiumoorlogen. De Chinese overheid propagandeerd dat hun systeem beter is, en is prima instaat om steeds meer de nieuwe koloniale grootmacht te worden. Zij lachen zich waarschijnlijk krom om de verdeeldheid en besluiteloosheid waar het westen zich in bevindt. De isolationistische trekken van Trump in de VS zal ze doen herinneren aan de zelfgekozen en uiteindelijk rampzalige isolatie onder de Qing dynastie.

          • Kunnen we dat station alsjeblieft passeren? Jij was diegene die Auschwitz er bij de haren bijsleepte. Het onderwerp gaat precies over verschillen tussen Europa, Amerika, Azie, en dergelijke. De generalisaties zijn gewoon waar: ras maakt een groot verschil in kredietwaardigheid, en dit komt niet door het ras zelf, maar door de cultuur / kringen waarin men zich begeeft: https://arxiv.org/abs/1610.02413 bevestigd MathFox’s hypothese met harde cijfers.

            China is absoluut geen kapitalistisch land. Landbouw en mijnbouw genationaliseerd. Complete (AI) industrie in handen van de overheid. Centrale planning. Strenge controle op de munt en financiele instellingen. Obstructie van buitenlandse ondernemingen, en een Communistische Politieke Partij die alles in handen heeft.

            • “”China is absoluut geen kapitalistisch land. Landbouw en mijnbouw genationaliseerd. Complete (AI) industrie in handen van de overheid. Centrale planning. Strenge controle op de munt en financiele instellingen. Obstructie van buitenlandse ondernemingen, en een Communistische Politieke Partij die alles in handen heeft.””

              Als je uitgangspunt is om iets als geen kapitalistisch land te noemen…. Wat vind je dan van Nederland waar de overheid in veel grote bedrijven een vinger in de pap heeft. Notabene bij de KLM die verkocht is en ze aandelen aangekocht hebben juist om die reden DSM dat zonder staatssteun niet kon overleven, En vergeet niet dat de ovegheid in extreem veel gevallen subsidie uitdeelt, wat dus eigenlijk gewoon staatssteun is. Om die reden is Nederland al een paar keer op het matje geroepen bij de EU en in het verleden bij de EEG.

              Wij hebben niet te wijzen naar ander landen wat want een beter communisme is niet mogelijk, alles samen delen en geen privé eigendom. Dus wat feitelijk hier gebeurd in NL , alleen onder een andere noemer.

            • Ik denk dat we inderdaad langs elkaar praten, en ons begrip van bepaalde termen volslagen anders is.

              Ik heb Auschwitz er bijgesleept om duidelijk te maken dat onze “Westerse” cultuur, waar ik de Duitse dus ook onder reken, ook verschrikkelijk uit de bocht kan vliegen, en in dat opzicht zeker niet superieur is aan “Oosterse” of “Afrikaanse” culturen. Veel van wat er in Duitsland mis is gegaan in heeft diepe wortels in onze geschiedenis, zoals bijvoorbeeld het eeuwenoude anti-semitisme. Met wat daar gebeurd is nog steeds stug volhouden dat “onze” cultuur superieur is getuigt niet bepaald van historisch bewustzijn.

              Natuurlijk kun je nu bergumenteren dat Nazi Duitsland geen uitspatting van de westerse cultuur was, maar dat riekt dan sterk naar een “no true Scotsman” argument; bovendien kan ik dan ook verwijzen naar de vele koloniale excessen, slavernij en genocide op de inheemse bevolking in de VS, of de opium-excessen in Nederlands-Indie: het zijn allemaal uitwassen geweest, gedreven door financiele belangen van kapitalisten. Vind voor mij een oude multinational die niet zijn wortels in koloniale uitbuiting heeft. Voordat de Europeanen er kwamen, had Afrika welvarende koninkrijken met een rijke culturele traditie. Natuurlijk was het technologische minder ver ontwikkeld en waren er mistanden, maar wat er was hebben Europeanen kapotgemaakt en gestolen — om daarna te klagen dat de “inlanders” lui zijn — ja, dank je de koekoek, als alles wat je opbouwt gesloopt en gestolen wordt.

  5. Ik denk dat zeker mensen buiten de techniek nogal eens de neiging hebben om stevig door te draven in de implicaties van de buzzwoorden. “Artificial Intelligence” slaat historisch slechts op de klasse algoritmes, nl. die op de functionele werking van neuronen gebaseerd zijn. Je maakt een boom van neuronen (in essentie een tabel met getallen) en elke keer als één van de getallen veranderd, veranderen aangekoppelde cellen/neuronen mee. Hoewel dus verbluffend effectief voor bepaalde toepassingen uit dit Machine Learning zich welisweer in intelligent-achtig gedrag, maar “intelligent” zoals je dat instinctief zou benoemen is het zeer zeker niet.

    Dus wát zou dan een “Afrikaanse” AI moeten zijn? Als Facebook een nieuwe plaatjes-categoriseer-AI wil maken, programmeren ze die met teams van over de hele wereld, en trainen die vervolgens omg-de-training AI heeft belachelijke hoeveelheden training nodig, als jij denkt dat jouw kleuter hardleers was… En die training gebeurt weer door mesjokke hoeveelheden plaatjes erdoor te trekken en de conclusies daarvan handmatig te laten corrigeren,veelal door duizenden goedkope arbeidskrachten uit bijv. de Filipijnen en/of de gebruikers zelf.

    Al met al heeft een AI dus in code, ontwikkeling, runtime etc. dus een enorm divers internationaal karakter. Maar door die grote getallen zie je ook automatisch de bias ontstaan. Als 70% van de gezichten op Facebook blank is, moet je niet vreemd staan op te kijken dat de resulterende AI zwarte gezichten slechter herkent. Dus worden er nog meer mensen ingezet om de trainingsset opzettelijk te verminken zodat het eindresultaat ‘minder racistisch’ wordt.

    Of neem het voorbeeld van Tesla: Een belangrijke reden dat hun zelfrijdende AI zo goed is, is omdat elke Tesla ter wereld trainingsdata terug stuurt. Zo kun je de ontwikkeling van Tesla’s AI een beetje als het gezamenlijke kind van elke Teslarijder ter wereld zien.

    Als ik een computer Nederlandse taal wil leren, kan ik bij een Amerikaans bedrijf door een internationaal team van mensen geprogrammeerde toolkit gebruiken met een door Nederlandse universiteiten samengestelde AI. Daarmee kan ik elke stukje tekst inlezen en keurig terug krijgen wat de zelfstandige naamwoorden, onderwerpen etc. in de zinnen zijn. Maar deze AI ‘begrijpt’ nog steeds niet wat er gezegd is; hij heeft alleen maar dat eindeloze matrixje getallen doorberekend en wat labeltjes aan andere labeltjes geknoopt.

    Zijn deze AI’s dan “Nederlands”, “Westers”? Een “Afrikaanse” AI zal precies dezelfde berekeningen uitvoeren slechts met een andere datatabel en andere input.

    Zolang wij mensen zelf bepalen dat AI geen beslissingsbevoegdheid krijgt, zal geen AI ter wereld die ooit op gaan eisen. De gezichtsherkennings-AI is niet in staat om te bedenken wat koffie is, laat staan grondrechten. De Tesla AI, zo gevoedt en getraind door chauffeurs is niet het grootste collaboratieve superorganisme ooit, maar nog steeds een kwestie van plaatjes herkennen, positiebepalen, spelregels meten en voldoen, en binnen dat beperkte universum dan “intelligent” zijn. Ook daar zal nooit een spannende roman of mooi schilderij uit komen.

    Dus het is voor mij dan ook een beetje onzinnig om langs identitaire lijnen over AI/ML na te denken. Je kunt slechts de menselijke auteurs en originele trainingsets verdenken op grondslag, motivatie en kwaliteit van werk, niet het resulterende eindproduct. Menselijke levensstijlen en filosofiëen zijn niet van toepassing op een set draaiende computerinstructies, maar op de auteurs ervan en de trainingssets die zij gebruiken.

    • Volgens mij is het “Westerse” versus “Afrikaanse” aspect van een machine learning systeem meer wát je gaat leren en waarvan. Zoals ik Mhlambi begrijp, is het verschil in culturen dat je in de Westerse uitgaat van het individu, en in het Afrikaanse/Ubuntu model uitgaat van de groep. Je verzamelt dan andere data (hoe gedraagt de groep zich, wat wil de groep en hoe reageert de groep) en krijgt daarmee ook een ander model.

      Meer algemeen groeit een AI (wat ik zie als een marketingterm voor “machine learning met een menssimulerende interface”) natuurlijk op basis van wat je erin stopt. En dan is dus de keuze van wat je in je dataset stopt de kern. Die keuze is dan cultureel bepaald. Om eens een voorbeeld te noemen: stel ik wil de chat in mijn videogame via AI modereren. Ik train dan met spamdatasets want ik weet dat spam heel vervelend is, en gooi er ook racisme in want dat is tegenwoordig ook een ding. Dan krijg je een prachtige moderator – alleen doet die niets tegen seksueel lastigvallen, want ik vond dat geen issue. Vrouwelijke spelers denk ik wel, die zouden wellicht daar eerder op filteren dan op reclamespam, ik weet het niet. Maar je zou ook kunnen zeggen, de dataset wordt gelabeld langs de lijn “is een teamspeler” versus “speelt individualistisch/doet niet leuk mee” en dan krijg je wéér een heel andere AI.

      Het gaat dus niet om of de AI iets ‘begrijpt’ maar op welke manier deze functioneert. Welke aannames stop je erin bij het bouwen, welke data neem je mee en welke niet. Vanuit welke filosofie zeg je “dat gegeven is niet relevant” of “ik heb liever dat hij stuurt op A dan op B”.

      • Ik snap, zeker met bovenstaande uitleg, niet goed waarom je de vraag stelt hoe westers AI is. We gaan in het westen veel uit van het individu. Ook het rechtssysteem is m.i. erg gericht op (gelijk behandelen van) individuen. Westers lijkt in deze context van een juridisch blog dan op zich een goede zaak? Ik zie echter in meeste vormen van AI en wellicht zelfs meer in ‘westerse AI’ een gevaar dat het te veel op groepen is gebaseerd: de AI trekt conclusies over individuen op basis van veelal niet begrepen en ondoorzichtige overeenkomsten in input data, omdat daar dan makkelijk mee te scoren is (als de verbanden tussen input en output wel duidelijk zijn heb je m.i. geen AI nodig). AI is dan een ‘mooi’ excuus om te kunnen discrimineren: de AI constateert een verhoogde kans/risico op bepaalde eigenschap omdat individu veel overeenkomsten met bepaalde (minderheids-) groep(en) heeft… M.a.w. zolang een AI het bepaalt, kun je discrimeren (op basis van (nog) onbegrepen verbanden.) En waar geld te verdienen is, denk ik dat in het westen zeker ook de “Afrikaanse AI” ingezet zal worden om (weer op basis van onbegrepen verbanden) conclusies over groepen te trekken).

        PS Waarom eigenlijk de term “Afrikaanse AI”? Chinese en Indiase cultuur zijn toch ook meer op de groep gericht en ik heb de indruk dat daar veel ontwikkeling op gebied van AI is.

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS