Google ontslaat engineer die claimde dat LaMDA zelfbewust was geworden, mag dat?

Google heeft Blake Lemoine van de Responsible AI-divisie van het bedrijf ontslagen nadat hij eerder al op non-actief was gesteld. Dat meldde Tweakers onlangs. Lemoine haalde het wereldnieuws met zijn stelling dat het LaMDA-taalmodel zelfbewust was geworden, zelfs een ziel zou hebben. Dit op basis van gepubliceerde chattranscripties. Google gooit het op schending van de geheimhoudingsplicht voor werknemers, wat formeel natuurlijk klopt maar wel vragen oproept over klokkenluiden en maatschappelijke misstanden. Want wat zou Lemoine anders hebben moeten doen om een zelfbewuste entiteit te mogen redden van de grote delete-knop?

Californië is juridisch een bijzonder land. Enerzijds is het ontzettend ondernemersvriendelijk, het is niet voor niets dat hier de ict-industrie is geboren. Anderzijds houdt het ook veel rekening met de belangen van werknemers, en dat zie je in dit geval terug in de California Whistleblower Protection Act: een wet die werknemers beschermt wanneer die genoodzaakt zijn de klok te luiden over misstanden bij een werkgever. Deze verbiedt werkgevers om wraak te nemen op werkgevers die klokkenluiden.

Of dat opgaat voor Lemoine is een lastige vraag, primair gaat de WPA namelijk over het informeren van de overheid en moet het gaat om kwesties waarbij de werkgever de wet lijkt te overtreden of de gezondheid van mensen in gevaar brengt. Het contact opnemen met de pers wordt in de WPA niet genoemd, en het zou dan een werkgever vrij staan om tegenmaatregelen te nemen.

Ook in Nederland is de wetgeving rondom klokkenluiden primair gericht op bescherming van mensen die naar de autoriteiten stappen, niet op mensen die direct de krant bellen. Maar de aankomende Wet Bescherming Klokkenluiders zal wel een regeling bevatten dat wie een melding heeft gedaan bij werkgever of autoriteiten ook beschermd moet zijn als zhij naar de pers stapt (art. 17ea). Wat hier dan lastig is, want welke autoriteiten moet je bellen als je een niet-menselijke intelligentie hebt gevonden en het erop lijkt dat anderen deze willen negeren of zelfs kwaad aandoen?

Wat ook meespeelt is dat de claims van Lemoine niet echt gehoor lijken te vinden. Ik zie wel veel nieuws over zijn initiële ontdekking, maar niemand lijkt uiteindelijk de conclusie over te nemen. Uiteindelijk is voor een beroep op klokkenluidersbescherming wel vereist dat je claim min of meer klopt. En één set chattranscripties waar niemand na de eerste verbazing echt van achterover valt, dat is dan echt niet genoeg.

Arnoud