Hoe westers is artificial intelligence, en wie durft dat met mij te onderzoeken?

| AE 11956 | Informatiemaatschappij | 30 reacties

Hoe Westers is AI? Met die vraag bleef ik zitten na het lezen van een Q&A-artikel over Ubuntu-ethiek, waar je een heel andere kijk ziet op mens en maatschappij. Het idee alleen al dat je de datasubjecten, de mensen dus, betrekt bij het maken en reviewen van je AI model.. ik moet het eerste AI-bedrijf nog tegenkomen dat daarom vraagt. Ook kun je in deze ethische visie niet zomaar een AI inzetten om wat van mensen te vinden.

Eens nader lezen dus. De geïnterviewde (Sabelo Mhlambi, Berkman Klein Center, Harvard) werkte zijn ideeën al eerder uit in een paper waar ik uit haal dat de inzet van AI (machine learning) niet eens een privacydiscussie is maar een isolatieprobleem: in de Afrikaanse visie ben je als mens deel van de gemeenschap, en wie mensen apart zet of individualiseert ontdoet mensen van die verbinding.

Dat gaat dus nog een stap verder: waar wij zouden zeggen dat je in je privéleven geschonden wordt, zegt hij dat je in je menszijn geschonden wordt. Ik citeer:

The process of individualization that breaks a person’s connectedness, humanity, is a process of dehumanization. As artificial intelligence is not able to infer causality in the data it processes, it is difficult to provide recommendations that are based on the assessment of user’s needs. Most widely used recommendation systems are not able to determine the motivations behind a user’s interaction in their platform and are not able to provide value based recommendations.

Heftig. Maar het zet me ook aan het denken: welke rol moet de mens gaan spelen in het AI-ecosysteem. Welke rol heeft de consument, de burger, ja wat is eigenlijk het juiste woord om de ethische en beleidsaspecten van deze discussie mee te beschrijven?

Dit is een van de vier thema’s uit de IT Law Summer School die ik eind juli organiseer: de mens als datapunt. (Ik moet eerlijk zeggen dat ik toen ik die term formuleerde ik nog niet zo diep als dit had nagedacht over het onderwerp.) Binnen dit thema zou je dus “de visie op AI in de wereld” kunnen pakken als onderwerp, bijvoorbeeld het contrast tussen Europese, Amerikaanse, Chinese en Afrikaanse visies. En dat zou je dan uitwerken als bijvoorbeeld een visueel verhaal dat die contrasten laat zien, met toetsvragen door kunst te tonen waar de lezer uit moet kiezen. Ik zou dat in ieder geval heel gaaf vinden.

Ondertussen zit ik dan ineens met de vraag wat de Europese ethische visie op AI en machine learning is. Wat ik namelijk opmerkelijk vind aan deze hele discussie, is dat de term AI vaak gebruikt wordt terwijl men eigenlijk ML bedoelt, maar daarbij meteen maar fors extrapoleert van wat ML eigenlijk kan. Een stuk onbekendheid met de materie vermoed ik, maar het is wel jammer want je loopt gelijk voorbij het waarschijnlijke. Ik zie over tien jaar geen AI-politici bijvoorbeeld maar wél AI-HR-medewerkers. En dat heeft volgens mij minstens zo veel impact op de maatschappij.

Arnoud

Gaat Europa een Grote Firewall rond internet zetten die filtert op grondrechten?

| AE 11954 | Informatiemaatschappij, Innovatie | 31 reacties

Gaan we toe naar een afgesloten Europees internet naar het voorbeeld van de ‘Great Chinese Firewall’? Dat las ik bij Linkedin, een update van DDMA-counsel Matthias de Bruyne. Hij reageerde op een Europese studie over New Developments in Digital Services, waarin men op de korte, middellange en lange termijn. In de kern: Diensten van buiten de EU zouden alleen toegang krijgen wanneer ze laten zien dat ze aan de EU standaarden voldoen, waaronder democratische waarden, gegevensbescherming, toegankelijkheid, transparantie en gebruiksvriendelijkheid. Creatief idee, en dit is dus waarom je naar mijn Summer School moet. Maar houdt het stand?

Het Europese onderzoeksrapport – dat overigens geen juridische status heeft, er is nog niet eens een wetsvoorstel – was opgesteld om de wat langere termijn visie van de EU in kaart te kunnen brengen. Digitalisering gaat alleen maar sneller, zeker nu iedereen nog wel een paar jaar massaal op afstand blijft leven en werken. Gezondheid krijgt daarbij een forse boost, maar IoT zal ook veel aan belang toenemen.

En oh ja, de cloud gaat natuurlijk piepen en kraken want die staat in Amerika en dát land rammelt zo hard dat het niet grappig meer is. Zeker nu steeds meer wetgeving (en bijbehorende praktijk) er komt die Europese rechten en waarde bedreigt, zoals de Cloud Act alweer een tijdje geleden. Dat maakt het waard om de Europese Cloud weer eens af te stoffen. Dan zit je als afnemer niet gelijk met al die bedreigingen voor persoonsgegevens, bedrijfsgeheimen en kernwaarden van het Europese leven.

Complicatie is natuurlijk dat het perfide Pangea dan nog steeds in staat is om diensten te verkopen, met mooie praatjes en goedkopere prijzen (want ze hoeven al die regelgeving niet te implementeren). Vandaar de langetermijnvoorstellen om de levering van dergelijke diensten alleen toe te staan als de dienstverlener aan Europese basisnormen voldoet. Ik moet zeggen, ik heb me altijd afgevraagd waarom we zomaar toestaan dat buitenlandse dienstverleners over onze grondrechten heen mogen denderen. Maar het is natuurlijk wel weer érg radicaal om gewoon een Europees internetje te maken.

Ga je naar mijn Summer School, dan kun je de uitdaging oppakken om zo’n Europese cloud te ontwerpen (infrastructuur of juridisch, of allebei). Nog leuker lijkt me om het perspectief te nemen van een parlementaire enquêtecommissie die vijf jaar later terugkijkt waar het misging en hoe. Van fouten leer je, dus denk eens na wat hier allemaal mis kan gaan!

Arnoud

Als jurist of IT-er aan de slag met de toekomst van internetrecht? Dan móet je mijn Summer School komen volgen

| AE 11916 | Informatiemaatschappij | 2 reacties

Wil jij deze zomer écht iets nieuws leren op het snijvlak van recht en techniek? Dan heb ik de uitdaging voor je. Of je nu jurist of IT’er bent: mijn IT Law Summer School neemt je op diepgravende en unieke wijze mee door de toekomst van het internetrecht. Vijf weken lang, elke week een ander, nieuw thema en online opdrachten om je de kennis eigen te maken en in de praktijk te brengen. Ik ben de hoofddocent.

Wie internetrecht zegt, denkt natuurlijk aan thema’s als auteursrecht, privacy/AVG, blockchain en zelfrijdende auto’s. Dat is leuk maar ik wil deze keer wel eens écht iets anders doen. Wat gaat de komende jaren speerpunt zijn in de juridisch/technische discussie. Nou, daar heb ik over nagedacht en ik kom hier op uit:

  • De mens als datapunt: persoonsgegevens, algoritmes, Artificial Intelligence en besluitvorming.
  • Wiskunde als wapen: beveiliging, encryptie, afluisteren, criminaliteit en veiligheid.
  • Werken en leven op afstand: online samen zijn, werk en privé en de Europese cloud.
  • De drone-dokter: gezondheid, genezen, preventie en persoonlijke ontwikkeling.

Inschrijven kan vanaf vandaag. Je gaat in groepjes van 4 mensen aan de slag, twee juristen en twee IT-ers (ik wil geen “techneut” zeggen). Je kiest één thema waar je met je groep een eindopdracht voor maakt, bij de andere drie thema’s ondersteun je de andere groepen én beoordeel je hun eindproduct. Dus elke week ben je druk bezig met de stof verwerken.

De Summer School is online, dus we werken écht online. En dat is niet een webinar plus een mail met wat je in een essay moet schrijven of iets dergelijks. Nee, ook dit is wat nieuws en ik hoop dat je het net zo gaaf en uitdagend vind als ik. Een greep uit wat je kunt doen:

  • Kamerrapport: over vijf jaar blijkt het gekozen onderwerp zo rampzalig te zijn verlopen dat dit leidt tot een parlementaire enquête. Schrijf (een deel van) het rapport van de commissie en blik zo terug, inclusief aanbevelingen voor de toekomst.
  • Kennisclip met toetsvragen: documenteer het onderwerp in een video van maximaal 10 minuten, en verwerk daarin toetsvragen waarmee de kijker kan vaststellen dat hij het heeft begrepen.
  • Game-pitch: schrijf een briefing voor een game (app of online) waarmee de speler kennis over het onderwerp zich eigen maakt.

Uiteraard verwacht ik juridische én technische diepgang, maar je gaat zo ook echt wat leren. Praktisch, to the point en met enige humor zoals je van mij gewend bent. Ik ga er wat van maken, doe je mee?

Arnoud

Studenten protesteren tegen tentamensoftware die beelden van hun huiskamer opslaat

| AE 11897 | Informatiemaatschappij, Privacy | 25 reacties

Kijk. Dit is dus wat ik gisteren bedoelde. “Studenten ervaren software voor online tentamens als een inbreuk op hun privacy”, meldde de Volkskrant onlangs. Schandalig, je moet tijdens tentamens iemand mee laten kijken via je webcam (én je mobiel die je op 3 meter afstand op je werkplek moet richten) zodat ze kunnen nagaan of… Lees verder

Inderdaad, bescherming van persoonsgegevens gaat over veel meer dan privacy

| AE 11887 | Informatiemaatschappij, Privacy | 8 reacties

Maar pas deze week zag ik welk fundamenteel maatschappelijk misverstand door dat rare begrip ‘privacy’ is ontstaan. Dat schreef Maxim Februari vorige week in NRC Handelsblad. Hij noemt het een ‘gruwelijk misverstand’ dat het steeds maar over de private kwestie van privacy gaat – de omgang met persoonsgegevens is een kwestie van algemeen belang. Het… Lees verder

Misschien is nu het moment om gewoon alleen nog Europese videovergadersoftware te gebruiken?

| AE 11865 | Informatiemaatschappij | 35 reacties

Videobelbedrijf Zoom heeft zijn excuses aangeboden voor de vele beveiligingslekken die in de software blijken te zitten. Dat meldde Tweakers onlangs. En dat was weer vlak nadat mijn kantoor blogde dat Zoom AVG-compliant is en nadat ik zelf een webinar met die tool gaf. Dit is dus waarom juristen altijd “in principe” bij zoiets zeggen…. Lees verder

Mijn theorie waarom nepnieuws zo’n hoge vlucht kon nemen

| AE 11841 | Informatiemaatschappij, Iusmentis | 15 reacties

Oké het is vrijdag na twee weken thuiswerken, dus dan mag ik mezelf even een uitstapje veroorloven. Recent deed ik mee aan een Tweakersdiscussie over het bericht dat WhatsApp gebruikers oproept om niet zomaar informatie die verspreid wordt over het nieuwe coronavirus te delen. De discussie focuste daar op de vraag waarom mensen hun informatie… Lees verder

Is het weghalen van een gps-tracker van je auto diefstal?

| AE 11795 | Informatiemaatschappij | 21 reacties

Het verwijderen van een gps-tracker van je auto is geen diefstal, zo las ik bij Ars Technica. En dan ging het hier dus over een gps tracker van de politie; hij werd gevolgd op verdenking van het handelen in methamfetamine. Na zes dagen verdween het signaal, waarop de politie bij hem binnenviel wegens diefstal van… Lees verder

Oh help, nu gaan robots ook al patent aanvragen bij het Europees Octrooibureau

| AE 11772 | Informatiemaatschappij | 8 reacties

Help, de robot-uitvinders komen eraan. Maar gelukkig staat het EPO pal (via) : wie octrooi wil aanvragen op een uitvinding, moet daarbij de mens(en) noemen die de uitvinding hebben gedaan. Het noemen van “a type of connectionist artificial intelligence” getiteld DABUS in het veld voor ‘uitvinder’ voldoet niet aan de formele eisen en maakt de… Lees verder

Mag Sonos een speaker in recycle oftewel deurstoppermodus zetten?

| AE 11692 | Informatiemaatschappij, Ondernemingsvrijheid | 12 reacties

Sonos’s “recycle mode” intentionally bricks good devices so they can’t be reused. Dat twitterde Ralph waldo cybersyn onlangs. Alle mooie woorden over sustainability en minimale impact op het milieu ten spijt blijkt de maker van de slimme netwerkmuziekspelers apparaten in de “recycle mode” gewoon keihard onbruikbaar te maken en weg te gooien. Dat gaf de… Lees verder