AI net zo goed als willekeurige mensen in het voorspellen van recidive

| AE 10360 | Innovatie | 22 reacties

AI-software blijkt net zo goed als een groep willekeurige mensen in het voorspellen van recidive bij Amerikaanse veroordeelden, las ik bij Ars Technica. Onderzoekers van Dartmouth College vergeleken de uitkomsten van de COMPAS software (die met machine learning technieken recidive probeert te voorspellen) met de inschatting van willekeurige mensen geworven via Amazon’s Mechanical Turk. Beiden bleken ongeveer even accuraat (65 en 62% respectievelijk), opmerkelijk genoeg inclusief de vooringenomenheid die eerder bij de software tot controverse leidde.

De COMPAS software (Correctional Offender Management Profiling for Alternative Sanctions) berekent op basis van een hele berg factoren de kans dat een bepaald persoon in recidive zou vervallen. Deze uitkomst wordt in Californië meegenomen in het besluit welke straf aan een veroordeelde op te leggen. In 2016 bleek uit onderzoek dat de software enige bias oftewel vooringenomenheid vertoonde, namelijk dat gekleurde mensen vaker ten onrechte als recidivist werden gesignaleerd en witte juist vaker ten onrechte als géén recidivist.

Accuratesse in AI en machine learning is een heel lastig onderwerp. Wat betekent het dat je software 94,1% nauwkeurig is (de huidige score van mijn NDA Lynn geheimhoudingscontractenanalyserobot)? Meestal wordt ermee bedoeld dat in 94,1% van de gevallen de uitkomst van de AI gelijk is aan de verwachte of correcte uitkomst. En 5,9% van de gevallen is dus onjuist. Maar dat kan twee kanten op:

  1. Vals positief: een uitkomst wordt als positief (juist) aangemerkt, maar is eigenlijk negatief (onjuist). Bij de COMPAS software dus dat iemand recidivist zou zijn terwijl hij dat niet is.
  2. Vals negatief: een uitkomst wordt als negatief (onjuist) aangemerkt, maar is eigenlijk positief (juist). Bij COMPAS dus dat iemand recidive pleegt terwijl de software voorspelde dat hij dat niet zou doen.

Beide onjuiste uitkomsten zijn onwenselijk, maar om verschillende redenen. Een vals positief zorgt ervoor dat je meer energie in iemand steekt dan nodig is: je gaat iemand langer opsluiten of intensiever begeleiden om recidive te voorkomen terwijl dat helemaal niet speelt. En een vals negatief kost je meer achteraf, je hebt immers een nieuw misdrijf van die recidivist en dat had je nu net willen voorkomen.

Het is niet goed mogelijk beiden tegelijk te minimaliseren. Vaak zie je dat wanneer je de één in aantallen terugdringt, de ander groter wordt. Je kunt bijvoorbeeld eerder concluderen dat mensen recidive zullen plegen, waardoor je de vals negatieven vermindert. Er worden immers minder mensen vrijgelaten die recidivist blijken. Maar je hebt nu wel meer mensen ten onrechte als recidivist aangemerkt. En omgekeerd zou precies hetzelfde gebeuren, als je strenger bent in je beoordeling zul je minder mensen ten onrechte als recidivist aanmerken, maar daardoor ook eerder recidivisten laten gaan.

De kritiek op de COMPAS software richtte zich natuurlijk op de bias die de valse uitkomsten zou baseren op etnische afkomst. De vergelijking met gewone mensen laat nu zien dat dit niet perse de oorzaak is. Deze kregen namelijk de gegevens zónder indicatie van etnische afkomst, en gaven grofweg dezelfde voorspelling over recidive. Inclusief een hogere vals positief bij gekleurde mensen en een hogere vals negatief bij witte mensen. Dat zou dan eerder de conclusie rechtvaardigen dat die software er ook maar een gooi naar doet. Geen bias dus maar ook geen inhoudelijke analyse.

Arnoud

Deel dit artikel

        • Het is inderdaad een discussie waar je nooit uit gaat komen. Maar stel dat je dit soort lui eerst straft conform een initiële veroordeling, en dan op basis van een hoog ingeschatte kans op recidive besluit om ze over te brengen naar een gesloten community met verder prima kwaliteit van leven maar geen terugkeer in de maatschappij. Hoeveel ‘onterechte’ bewoners van die community vinden we dan acceptabel om het leven van een onschuldig toekomstig slachtoffer te redden? Ik zou daar best ver in willen gaan, ongeacht de kosten.

          • Het aantal moorden, zeker buiten het criminele circuit, in Nederland is vrij laag volgens mij. Het is al gauw nationaal nieuws, zeker als er een verhaal is waarom het voorkomen had kunnen worden. En achteraf is altijd makkelijk praten. In feite is iedereen in staat een moord te plegen, en we sluiten niet iedereen preventief op. Natuurlijk zijn er wel mensen met dusdanige psychische problemen dat ze het vermoorden van iemand op geen enkele manier als een probleem zien, en daar is dan ook levenslang voor.

            Een gevangenisstraf heeft een aantal doelen: Het straffen voor het vertoonde criminele gedrag; Het recht doen aan de slachtoffers; Het ontnemen uit de samenleving om meer schade te voorkomen; En het rehabiliteren van de crimineel. Dat laatste is, wat mij betreft, erg belangrijk. Natuurlijk mag er nagedacht worden over wat een goede plaats is voor iemand en wat voor een begeleiding iemand moet krijgen na gevangenisstraf, maar in feite moeten we uitgaan van een gerehabiliteerd mens. Natuurlijk is het vreselijk voor een slachtoffer en zijn of haar omgeving als er iets gebeurt tijdens een verlof, proefverlof of na een gevangenisstraf, maar het is lastig te voorspellen, en mensen die een fout hebben gemaakt, hoe erg ook, en nu een nieuw mens zijn mogen we niet preventief opsluiten. Dat is simpelweg onmenselijk.

      • Maar dat moet afhangen van het type delict, niet van de persoon. Het is absurd dat iemand een langere straf krijgt omdat er een kans is dat die het vaker zal gaan doen. Je komt dan ernstig dicht bij het preventief opsluiten van mensen…

        Overigens ben ik van de lijn dat ik liever een extra slachtoffer heb dan een onschuldige levenslang opgesloten.

      • Ik denk dat je de impact van het gebruik van dit soort voorspellingen verkeerd inschat. De recidive kans bij moord is in Nederland vrijwel nihil. Seriemoordenaars zijn zelfzaam en vrijwel iedereen die na een gevangenisstraf met of zonder TBS vrijkomt, zal nooit meer een moord plegen.

        Dikke kans dus dat de voorspelling van zo’n AI zal zijn dat er geen recidive kans is bij een moordenaar, want dat is wat vrijwel alle trainingsdata je zal laten zien.

        Dit in tegenstelling tot het recidive percentage bij verkrachters (ca 40%) en pedofielen (ca 50%), waarbij het recidive percentage stijgt hoe langer je de veroordeelden volgt na hun invrijheidstelling. En voor deze gevallen blijkt het met klassieke (niet AI) methoden al mogelijk om recidive goed te voorspellen. Ook blijkt TBS erg effectief bij daders waarvoor die kans hoog wordt ingeschat, dus lang opsluiten in de gevangenis is juist voor de ergste gevallen het minst effectieve middel. Het voordeel van die klassieke methoden is ook nog eens dat ze volledig uitlegbaar zijn.

        Het hoeft niet altijd een neuraal netwerk te zijn 😉

  1. Die 62% en 65% ‘accuratesse’ vind ik nietszeggend, want is maar marginaal beter dan puur gokken (50%). Als je de gevallen eruit pikt die al meerdere keren zijn veroordeeld en daar dan het label ‘wordt recidivist’ aan hangt (logisch…) heb je waarschijnlijk die extra paar procenten nauwkeurigheid al te pakken.

    Veel interessanter dan die 62% en 65% is om te kijken wat de overlap is van de juist voorspelde individuele gevallen door die 2 groepen (AI / mensen). Als een groot deel geen overlap heeft kan je dus concluderen dat het gewoon puur gokwerk was met wat extra goede voorspellingen van overduidelijke gevallen. De percentages lijken die kant wel op te wijzen…

  2. Volgens mij zit er een denkfout in het verhaal.

    Het grootste probleem wat we tegenwoordig zien is niet zozeer direct racisme. Dat bestaat wel, maar vaak beseffen mensen dat het sociaal onwenselijk is of doen ze zelfs hun best niet racistisch te zijn. Er is veel meer indirect racisme. Regels die bepaalde bevolkingsgroepen treft waarin zwarten en andere niet-blanken in worden overgerepresenteerd. Je kunt hierbij denken aan hoe het verlagen van werkloosheids- en bijstandsuitkeringen onevenredig allochtonen zou raken, of hoe scholen in rijke buurten vaak beter zijn en van hoger niveau, maar waar je ook weinig allochtonen vindt.

    Datzelfde speelt hier, denk ik. Het zou me niet verbazen als de bias erin zit dat bepaalde criminaliteit wordt ingeschat als hogere kans op recidive dan andere. Mogelijk gaat dit om laag niveau criminaliteit, waarin zwarte mensen typisch overgerepresenteerd zijn. Je krijgt dan een oneerlijke bias tegen zwarte mensen, omdat er een oneerlijke bias is tegen arme mensen. Het zou overigens ook kunnen dat het iets directer is en dat criminaliteit dat typisch wordt geassocieerd met zwarte mensen eerder kans op recidive wordt beoordeeld.

    Als puur hypothetisch voorbeeld kun je je bijvoorbeeld voorstellen dat straatdieven als draaideurcriminelen worden gezien, mogelijk met associaties als junkies. Tegelijkertijd wordt huiselijk geweld gezien als “Tsja, dat kan gebeuren, maar ik lees de redenen van de veroordeelde en ergens snap ik het wel, zelfs als ik het niet zo had gedaan. Hij zal wel geleerd hebben van een tijdje in de cel.” Dit terwijl de straatdief misschien wel heeft geleerd van zijn/haar fouten of door de gevangenisstraf hulp heeft gekregen met het managen van zijn financiën zodat de dief niet langer hoeft te roven om rond te komen. Dat terwijl de veroordeelde voor huiselijk geweld gewoon ontzettend losse handjes heeft en alles oplost met vuisten.

    Overigens valt het me wel op hoe laag het percentage is. Wellicht is het erg moeilijk te voorspellen of wordt gekeken naar de verkeerde variabelen om te kunnen zien hoe het zal gaan. Ook kan het zijn dat de training en/of testset niet specifiek genoeg was. In Amerika is er een probleem met private prisons en een hoop andere vreemde constructies, die waarschijnlijk ook per staat verschillen. Daarom kan de hulp om niet weer op het verkeerde pad te komen per gevangene erg verschillen. Bovendien ligt de nadruk in Amerika erg op straf en is rehabilitatie erg op de achtergrond. Kortom, er zijn nogal wat vraagtekens te zetten bij dit onderzoek.

    • Dennis, je schrijft:

      Het grootste probleem wat we tegenwoordig zien is niet zozeer direct racisme. Dat bestaat wel, maar vaak beseffen mensen dat het sociaal onwenselijk is of doen ze zelfs hun best niet racistisch te zijn. Er is veel meer indirect racisme. Regels die bepaalde bevolkingsgroepen treft waarin zwarten en andere niet-blanken in worden overgerepresenteerd. Je kunt hierbij denken aan hoe het verlagen van werkloosheids- en bijstandsuitkeringen onevenredig allochtonen zou raken, of hoe scholen in rijke buurten vaak beter zijn en van hoger niveau, maar waar je ook weinig allochtonen vindt.

      Maar is dat racsime? Ja, misschien worden allochtone bevolkingsgroepen wel harder getroffen hij een verlaging van een uitkering, maar dat maakt het nog niet racistisch. De uitkeringen worden democratisch bepaald: iemand (ongeacht geslacht, etnische afkomst etc) die zich in een bepaalde situatie bevindt, krijgt X euro per maand. Wat is daar racistisch aan?

      Met jouw voorbeeld kun je net zo goed zeggen dat uitkeringen tegen-racistisch zijn, want allochtonen profiteren er in jouw voorbeeld (ik weet niet of het waar is, dus ik neem het maar even aan) meer van.

      Het ligt er maar helemaal aan waar je de basislijn legt.

      Voor mij ligt die nogal bij het individu: het individu heeft rechten en plichten, en die kunnen veranderen met de tijd. Daar is niks mis mee. Dat individu heeft natuurlijk een bepaalde afkomst, geloof, geslacht. Juist het groeperen van dat ene individu met anderen met dezelfde afkomst of hetzelfde geloof is een racistische daad. Dat is een groepering die je maakt die misschien helemaal niet gemaakt wordt, of helemaal niet gewenst is, door de leden van die groep. Die leden zeggen misschien wel: ‘Ja, ok, ik ben een Chinese moslim, maar ik ben vooral een individu, ik heb niets te maken met die andere Chinese moslims, en ben niet representatief voor hen, net zoals zij dat niet voor mij zijn’

      • Ja, het is racisme. Het is niet bewust en niet persoonlijk gericht. Wat je je moet voorstellen, en dit geldt voor Amerika en Nederland, is dat als je in een kansarme groep zit, dat er vaak weinig voor je is geregeld. Natuurlijk is er een vangnet van de overheid in de vorm van uitkeringen, maar het systeem houdt families generaties lang in laag inkomen.

        Als een familie arm is, dan moeten ouders vaak meer werken om rond te komen (in de VS is dit erger dan Nederland, maar ook hier zijn er mensen die meerdere banen hebben en veel meer dan 40 uur per week maken). Ze zijn dan niet thuis om hun kinderen te onderwijzen, en zijn bovendien vaak ook lager opgeleid. Ook ontbreekt het daardoor aan opvoeding. De kinderen gaan naar school met een leerachterstand, en die wordt alleen maar groter. Want terwijl ze thuis nog steeds minder meekrijgen dan een gemiddeld kind, zitten ze ook nog eens op een school waar het algehele niveau lager is, omdat er veel lotgenoten op zitten. Zelfs als het kind grote potentie heeft, wordt dit verder geremd door het lagere niveau onderwijs dat wordt gegeven omdat de meerderheid van de klasgenoten anders niet kan meekomen. En geld voor extra les ter stimulatie is ook minder vaak aanwezig. School wordt ook vaak minder gewaardeerd in het gezin en er is niet altijd geld voor een vervolgopleiding op niveau, zeker met de afbraak van de studiefinanciering van de overheid. Kinderen groeien dus op tot laag opgeleide volwassenen die dezelfde financiële situatie hebben als hun ouders een generatie geleden. De cyclus blijft zich dus herhalen en is lastig om, zonder hulp, te doorbreken. Hierdoor zien we dus dat het slavernijverleden, de segregatie, de slechte integratiepolitiek, en racisme uit het verleden dus door blijven dreunen in een racistisch handelend systeem, gezien dat vaak leidt tot moeite met werk vinden, slecht betaald werk, leerachterstand en lage opleiding. De personen zijn niet langer racistisch, maar de gelijke behandeling zorgt dat het racisme uit het verleden zijn effect blijft hebben.

        Dit geldt ook voor de criminaliteit. Onderzoek uit de VS wijst uit dat zwarte en latino kinderen vaak harder gestraft worden voor gelijke vergrijpen dan blanke kinderen. Er wordt ook eerder tot schorsing en schoolverwijdering gekozen. Ook komen kinderen eerder met politie in aanraking door dit handelen van de school, waardoor er daadwerkelijk een zogenaamde school-gevangenis-pijplijn ontstaat. Opnieuw zijn de leraren niet per se racistisch, maar is er een onbewust racisme en sommige rotte appels aan leraren die hier een belangrijke invloed hebben op de statistieken. En het is niet moeilijk voor te stellen dat bepaalde criminaliteit bepaalde bevolkingsgroepen aantrekt. Het is moeilijk boekhoudfraude te plegen als je nooit boekhouden kunt studeren. Ook is het moeilijk op te lichten, als mensen je uiterlijk al niet vertrouwen vanwege een kleurtje, of je aan de telefoon niet vertrouwen vanwege een accent. Niet-blanken zullen dus oververtegenwoordigd zijn in bepaalde criminele velden. En als die velden dan toevallig meer false-positives opleveren bij de vraag “zal deze persoon opnieuw in de fout gaan na een justitiële straf”, kan dat erg goed diepgeworteld racisme zijn waarvan men zich niet bewust is. Mensen hoeven niet bewust racistisch te zijn om racistische gevolgen van hun acties te hebben. Het speelveld moet eerst gelijkgetrokken worden voordat we echt af zijn van racisme en diens gevolgen.

        • Ja, het is racisme. Nee, het is per definitie geen racisme, dit begrip wordt veel te vaak buiten zijn context en betekenis gebruikt. Racisme betekent dat je keuzes maakt op basis van etnische eigenschappen, dat is in het voorbeeld van de uitkeringen niet het geval. Dat echter na een keuze, waarin etniciteit geen rol heeft gespeeld, blijkt dat vooral individuën uit een bepaald etnische groep daar de dupe van zijn is slechts een constatering waar je wat mee kan doen of niet, maar die constatering maakt het geen racisme.

          • Right, want het is nog nooit gebeurd dat zo’n keuze wel op basis van etniciteit wordt gedaan. Er zijn mensen die in zo’n “democratische” keuze hun keuze baseren op etniciteit (“Al die luie gelukszoekers verdienen geen uitkering. Ik moet er hard voor werken!”). En dan heb je nog mensen die zeggen geen probleem te hebben met allochtonen, maar als er een Marokkaan achter ze staat tijdens het pinnen, toch even hun tasje beschermend wegtrekken. Niet al te bewust, maar toch.

            En daarbij, zelfs daar waar mensen niet langer racistisch zijn, maar de racisme uit het verleden nog wel een effect laat zien, wordt het vaak afgedaan met “Oh, maar we zijn niet meer racistisch, dus het is opgelost.” Als we er mild over doen, wordt de situatie al gauw okay gevonden, maar er is duidelijk nog een slag te maken.

            • Right, want het is nog nooit gebeurd dat zo’n keuze wel op basis van etniciteit wordt gedaan. Er zijn mensen die in zo’n “democratische” keuze hun keuze baseren op etniciteit (“Al die luie gelukszoekers verdienen geen uitkering. Ik moet er hard voor werken!”)

              Je haalt een paar dingen door elkaar. Wat mensen in onze maatschappij roepen (al dan niet racistisch) moeten ze natuurlijk zelf weten, maar draagt verder niet bij aan de feitelijke besluitvorming (uitkeringsniveau bijvoorbeeld). Dat wordt namelijk gedaan door de Tweede Kamer, en ik geloof niet gauw dat daar racistische criteria aan ten grondslag liggen.

              Ik ben het met je eens dat er nog wel een slag te maken is, maar naar mijn mening wordt het label ‘racisme’ of ‘discriminatie’ veel te gemakkelijk op allerlei situaties geplakt. Het is onderhand meer een troefkaart geworden om bepaalde groepen extra voorzichtig te moeten behandelen dan dat het daadwerkelijk hout snijdt…

            • In jouw voorbeeld is de keuze dus gebaseerd op racisme, wat vervolgens omdat men niet als racist gezien wil worden, wordt verpakt in een niet racistische redenatie.

              Persoonlijk ben ik echter een voorstander van lagere uitkeringen en vooral lagere subsidies, omdat deze er nu voor zorgen dat mensen met een uitkering banen voor minimum loon (volkomen terecht) weigeren omdat ze dan achteruit gaan in besteedbaar inkomen!

              En aangezien ik het niveau van het minimum loon voldoende vind is verhoging daarvan geen oplossing en moet je het dus zoeken in lagere uitkeringen/subsidies. En ja ik ben mij bewust dat dit gezien de demografie meer allochtonen dan autochtone Nederlanders treft.

              Alleen weiger ik in het onproductieve politiek correcte gedrag van onze politici te vervallen en problemen maar te negeren, omdat sommige tere zieltjes het wellicht als racisme zien. Dat is namelijk het gedrag waardoor een PVV met één a4-tje aan standpunten de tweede partij van dit land kan worden. En dan krijg je uiteindelijk naar mijn mening geen oplossingen of nog erger: hele slechte oplossingen.

        • Ik begrijp de redenering, en ik zie ook dat er een probleem is met een zichzelf over generaties instandhoudende armoede. Maar dat is een probleem voor iedereen in armoede, zwart of blank. En het zal best dat historisch gezien donkere mensen (of vrouwen) als minderwaardig werden beschouwd en dat daardoor donkere mensen nog steeds meer in armoede leven. Maar dat feit alleen is geen racisme. Het is misschien een gevolg van historisch racisme.

          Je kunt er lang over twisten in hoeverre je zelf/je ouders verantwoordelijk zijn de hoeveelheid kansen die je krijgt en de mate waarin je ze pakt, en in hoeverre de samenleving daarvoor verantwoordelijk is. Uiteindelijk is dat een keuze gebaseerd op ieders politieke voorkeur.

          Maar het is geen racisme dat bepaalde mensen minder kansen krijgen.

          Als mensen je niet vertrouwen vanwege je kleurtje of je accent, dan zijn die mensen racisten, wellicht onbewust. Dat is op zich een probleem van ‘de samenleving’, die daar wat aan moet doen, bijvoorbeeld door die mensen op te leiden en/of te straffen. [en trouwens, hebben die racisten ook niet het excuus dat zij alleen maar het product van hun opvoeding zijn, net zoals die armen, en dat ze er zelf niets aan kunnen doen?]

          Maar dat maakt het nog geen ‘racistisch handelend systeem’ zoals jij beweert.

          Het is een systeem waar nog resten racisme zitten, en je kunt het systeem verwijten daar niet hard genoeg tegen op te treden, maar meer niet.

          We hebben dat hele verhaal ook gehad met vrouwen in hogere posities. En dan kwamen er quota, of iets milder, richtlijnen, voor het aantal vrouwen in hoger management. Maar het gevolg is wel dat ik als blanke man minder kansen krijg, omdat er een historische inhaalbeweging moet gebeuren. Is dat dan eerlijk? Ik kan er ook niets aan doen dat mensen van de vorige generaties rare ideeen hadden, waarom moet ik daar het slachtoffer van worden.

          • We hebben dat hele verhaal ook gehad met vrouwen in hogere posities. En dan kwamen er quota, of iets milder, richtlijnen, voor het aantal vrouwen in hoger management. Maar het gevolg is wel dat ik als blanke man minder kansen krijg, omdat er een historische inhaalbeweging moet gebeuren. Is dat dan eerlijk? Ik kan er ook niets aan doen dat mensen van de vorige generaties rare ideeen hadden, waarom moet ik daar het slachtoffer van worden.

            Dit dus! Ik ben zelf in de Amsterdamse poort verschillende keren door activisten aangesproken op mijn ‘wit privilege’ en dat dat racisme is. Mijn antwoord daarop is standaard: “Moet ik dan maar werkloos blijven, omdat misschien degene die mij aanneemt dat doet omdat hij liever een blanke heeft? Ik moet ook eten, ga lekker zeuren bij de mensen die mij dat privilege, voor zover het echt bestaat, geven”

            Uiteraard ben ik dan een vuige racist, maar zo is het wel. Veel mensen lijken blind te zijn dat het tweede woord in “positieve discriminatie” iets is wat slecht is en niet goed wordt als je het woord “positeve” ervoor zet.

            • Zie het als een estafette race. Bij de eerste renners moet de renner van één team met loden schoenen lopen. Of dat nu is omdat hij zwart is, of vrouw, of allochtoon, maar die renner moet dat. Vanaf de tweede renner zijn alle renners gelijk, geen loden schoenen. De vierde renners rennen naar de finish, en natuurlijk wint het team die begon met de loden schoenen niet, ze begonnen met een achterstand. De laatste renners werden gelijk behandeld, dus er was daar geen racisme. Leuk, maar de achterstand is van eerder. En zelfs als het niet maar één race is, maar een kampioenschap, in de volgende race wordt de winnaar gesponsord door de rijkste sponsoren. Het team dat met de loden schoenen begon moet verder op blote voeten, omdat niemand hun schoenen wil betalen. Terecht toch? Want op basis van hun resultaten kunnen ze toch niet winnen. Dit is precies waar we nu zitten. Het is geen schuldvraag, maar we moeten het speelveld gelijktrekken, en dat betekent dat je de achtergestelde groep naar boven moet trekken. Of je kunt natuurlijk de andere groep naar beneden drukken, maar ik denk niet dat het een goed idee is om met z’n allen elkaar naar beneden te trekken om maar gelijk te zijn.

              Een optie daarin is, zoals in Amerika is gedaan, kinderen uit arme buurten naar rijkelui scholen brengen. Vaak is dat duurder en moet er vervoer geregeld worden, dus het kost wat geld, maar het blijkt dat dit positieve gevolgen heeft voor de arme kinderen, terwijl het geen negatieve gevolgen heeft voor de rijke kinderen. Echter, het blijkt dat er altijd veel verzet is tegen dit soort systemen van de ouders bij die school in de rijke buurt en vaak wordt de subsidie dan weer ingetrokken.

              En daarbij, gezien er op de arbeidsmarkt standaard positieve discriminatie is voor blanke mannen, is het belachelijk om je druk te maken over quota, richtlijnen of subsidies om andere groepen “positieve discriminatie” te geven. Natuurlijk moet er wat gespeeld worden met bedragen/aantallen om ervoor te zorgen dat het eerlijk wordt, maar gezien je als blanke man automatisch om geen andere reden dan je kleur en geslacht al pluspunten krijgt in de waardering, mag het geen probleem zijn dat een ander pluspunten krijgt om andere redenen. Als er een precies aantal banen is en er wordt geconstateerd dat vanwege discriminatie een onevenredig aantal banen naar een bepaalde groep gaat, en de overheid besluit dat te proberen tegen te gaan, dan wordt het wat lastiger om een baan te vinden als je in die ene groep zit, maar dat is alleen omdat het ineens eerlijk is geworden.

  3. Als je als blanke man om je geslacht en kleur pluspunten krijgt, moet aan de onderliggende houding wat gedaan worden, niet een compensatiesysteem, met alle nadelen, in het leven geroepen worden. Dat werkt beter, langer en is goedkoper.

    Iedereen is voor ‘eerlijk’. Jij wilt ‘eerlijk’ op basis van groepskenmerken, ik wil ‘eerlijk’ op basis van individuele kenmerken (onafhankelijk van het voortraject van die individuele kenmerken. Als er fouten zitten in dat individuele voortraject, moet je dat aanpakken, maar niet het individu straffen omdat hij een blanke man is, of een Chinese moslimvrouw)

  4. Ik ben in het kamp die problemen heeft met de methode en conclusie van het ProPublica onderzoek. Het is geen overbodige luxe om bijvoorbeeld een criminoloog en een statisticus in te huren, in plaats van journalisten en datawetenschappers, bij zulks fundamenteel onderzoek.

    De vergelijking met gewone mensen laat nu zien dat dit niet perse de oorzaak is. Deze kregen namelijk de gegevens zónder indicatie van etnische afkomst, en gaven grofweg dezelfde voorspelling over recidive.

    Etnische afkomst is terug te vinden (in aggregaat) in het type misdaad. Zo komt autodiefstal, moord, en straatroof vaker voor bij zwarte mensen, en fraude of valsmunterij komt vaker voor bij witte mensen.

    Dat zou dan eerder de conclusie rechtvaardigen dat die software er ook maar een gooi naar doet.

    Deze gebruikt slechts 6 variabelen, dus: erg inzichtelijk/transparant, maar niet enorm sterk. We vinden het uiteraard niet wenselijk dat men op ras gediscrimineerd wordt, maar dit wil niet zeggen dat ras zelf niet informatief is. Zwarte mensen in de US hebben een zwakker sociaal vangnet (vrienden en familie die je op het rechte pad houden, je borg betalen, aan je rehabilitatie meewerken) wat je ook terugziet in statistieken over kredietwaardigheid.

    Tot slot: Correlatie is geen causatie. Deze modellen inzetten is een zwaktebod. In plaats van voorspellingen doen, moet het model sterke correlaties geven aan beleidsmakers. Dan kan men via A/B tests de echte factoren achter recidive bewijzen, en iets doen aan de kern van het probleem (bijvoorbeeld: strengere doelgerichte voorwaarden stellen aan verlof, economische stimulans geven in gebieden waar het hopeloos is, en effectieve recidive-verminderende methodes vinden: enkelband vs. opsluiten met andere criminelen).

Laat een reactie achter

Handige HTML: <a href=""> voor hyperlinks, <blockquote> om te citeren en <em> en <strong> voor italics en vet.

(verplicht)

Volg de reacties per RSS