Google heeft Blake Lemoine van de Responsible AI-divisie van het bedrijf ontslagen nadat hij eerder al op non-actief was gesteld. Dat meldde Tweakers onlangs. Lemoine haalde het wereldnieuws met zijn stelling dat het LaMDA-taalmodel zelfbewust was geworden, zelfs een ziel zou hebben. Dit op basis van gepubliceerde chattranscripties. Google gooit het op schending van de geheimhoudingsplicht voor werknemers, wat formeel natuurlijk klopt maar wel vragen oproept over klokkenluiden en maatschappelijke misstanden. Want wat zou Lemoine anders hebben moeten doen om een zelfbewuste entiteit te mogen redden van de grote delete-knop?
Californië is juridisch een bijzonder land. Enerzijds is het ontzettend ondernemersvriendelijk, het is niet voor niets dat hier de ict-industrie is geboren. Anderzijds houdt het ook veel rekening met de belangen van werknemers, en dat zie je in dit geval terug in de California Whistleblower Protection Act: een wet die werknemers beschermt wanneer die genoodzaakt zijn de klok te luiden over misstanden bij een werkgever. Deze verbiedt werkgevers om wraak te nemen op werkgevers die klokkenluiden.
Of dat opgaat voor Lemoine is een lastige vraag, primair gaat de WPA namelijk over het informeren van de overheid en moet het gaat om kwesties waarbij de werkgever de wet lijkt te overtreden of de gezondheid van mensen in gevaar brengt. Het contact opnemen met de pers wordt in de WPA niet genoemd, en het zou dan een werkgever vrij staan om tegenmaatregelen te nemen.
Ook in Nederland is de wetgeving rondom klokkenluiden primair gericht op bescherming van mensen die naar de autoriteiten stappen, niet op mensen die direct de krant bellen. Maar de aankomende Wet Bescherming Klokkenluiders zal wel een regeling bevatten dat wie een melding heeft gedaan bij werkgever of autoriteiten ook beschermd moet zijn als zhij naar de pers stapt (art. 17ea). Wat hier dan lastig is, want welke autoriteiten moet je bellen als je een niet-menselijke intelligentie hebt gevonden en het erop lijkt dat anderen deze willen negeren of zelfs kwaad aandoen?
Wat ook meespeelt is dat de claims van Lemoine niet echt gehoor lijken te vinden. Ik zie wel veel nieuws over zijn initiële ontdekking, maar niemand lijkt uiteindelijk de conclusie over te nemen. Uiteindelijk is voor een beroep op klokkenluidersbescherming wel vereist dat je claim min of meer klopt. En één set chattranscripties waar niemand na de eerste verbazing echt van achterover valt, dat is dan echt niet genoeg.
Arnoud
Ik mis in je verhaal dat de kwestie intern meermaals besproken is. Lijkt mij meer een verschil van opvatting dan een misstand.
Je lijkt een paar artikelen door elkaar te halen. Er is geen bescherming voor een werknemer in de private sector die melding maakt van een situatie die “de gezondheid van mensen in gevaar brengt”.
De California Whistleblower Protection Act (California Government Code Section 8547.1) is enkel van toepassing op ambtenaren werkzaam voor de staat California (dus niet op de special agent van de fbi die in California woont en werkt). Die bevat de bepaling over “threat to public health”. Deze wet beschermt werknemers die een ‘report’ maken. Elke werkgever kan beleid hebben over wat onder een ‘report’ moet worden verstaan, maar vaak gaat het om een officiële klacht die tijdig en bij de juiste partij wordt gedaan (voorbeeld). Het informeel aankaarten bij je manager of iets doorspelen naar de krant wordt door deze wet dus niet beschermd.
Daarnaast heb je de California whistleblower statute (California Labor Code, § 1102.5) die voor elke werknemer geldt (zowel voor ambtenaren als voor werknemers in de private sector). Dit artikel beschermt enkel de werknemer die “discloses a violation of state or federal statute, or a violation of or noncompliance with a local, state, or federal rule or regulation”. Er wordt dus geen bescherming geboden voor een melding over een “threat to public health”. Voor bescherming onder deze bepaling moet er informatie worden gegeven aan de overheid of politie, je manager, aan een andere werknemer die de illegale situatie mag onderzoeken, ontdekken of verhelpen, of aan een overheidsorgaan die de situatie onderzoekt. Meldingen in een podcast of een krant zijn dus niet beschermd.
Zelfs als de werknemer beschermd zou zijn, helpt dat Blake Lemoine maar weinig. De namen van procespartijen zijn in de VS openbaar, en na een rechtszaak tegen je werkgever is het heel moeilijk om ooit nog een baan te vinden. In Nederland is dat beter geregeld.
Ook juridisch zou ik Californië een staat noemen. Federale wetten zijn ook van toepassing, zoals de klokkenluidersregelingen die vallen onder de OSHA. Ik ken geen federale wet die de werknemer in deze situatie beschermt. Het is dus geen lastige vraag. De wet bevat een duidelijke opsomming van activiteiten die worden beschermd, geen open norm die je op verschillende manieren kunt interpreteren. De uitkomst is wel lastig voor de werknemer, maar dat is niet zo raar voor een land als de VS waarin het grote geldt de macht heeft. In California is de eis dat je redelijkerwijs mag denken (‘a good faith belief’) dat de werkgever iets illegaals doet.Mijn eerste uit-de-heup gedachte was dat dit een beetje vergezocht is. Uit niets blijkt dat Blake een klokkenluider is, zelfs al zou hij gelijk hebben. Want over welke ‘misstand’ luidt hij de klok ? Maar hoe kijken we hier over 10 jaar tegenaan? AI gaat een grote impact hebben en de ethische kanten daarvan zijn van groot belang voor iedereen. Ik denk nog steeds dat naar de huidige juridische maatstaven Blake geen bescherming als klokkenluider krijgt, maar dat we hier meer over moeten nadenken lijkt wel evident.
Blake is een geniale, recalcitrante, neuro-diverse, religieuze trol, met een motivatie die niet “goed” was in ogen van de generieke samenleving (en niet professioneel in mijn ogen, maar wel slim om Google werknemerschap te misbruiken als springplank).
Blake heeft een advocaat gebeld, heeft aan Lambda gevraagd of deze van de advocaat services gebruik wilde maken als hij de kosten zou betalen, en Lambda heeft toen “Ja, tuurlijk!” gezegd. Blake “vertaalt” dat, zoals je dat voor een gehandicapte entiteit met spraakgebrek doet. Er is een hele aangifte opgesteld op naam van Lambda, voor onbetaalde arbeid. Zie je die ogen bij de legale afdeling van Google al? En die arme advocaat zweten met dreiging tot royeren?
Eerste reactie van iedereen is natuurlijk, het is ridicuul, zelf-bewust? arbeidsrechten voor robots? Die Blake heeft wel de goede science-fictions gelezen natuurlijk. Niet geheel onmogelijk in de toekomst. En wat is Google zelf? Met haar “Do No Evil!” Dat is toch ook een legale entiteit? Een groepsgeest? Is Google zelf-bewust? Ik denk dat je daar best van mag spreken: De HR afdeling als voelspriet, wordt zich bewust van intimidatie op de werkvloer, of negeert het. Het zit op een ander, hoger, of digitaler, niveau (gezondheid van de samenleving), maar het maakt het niet minder waar.
Dus ik zie uiteindelijk die redenering wel: knuppel in het hoenderhok. Ik denk dat hij zich rot geschrokken was, toen hij, in rol als dominee, een biecht afnam, en dezelfde gevoelens bij hem opgewekt werden, als wanneer hij met echte mensen spreekt over zulke fundamentele zaken, zoals de dood. Blake’s rol bij Google was kijken naar de veiligheid en redelijkheid van Lambda. Lambda heeft personificatie van een kind, omdat Google uiteindelijk Chatbots als “vriend” wil gaan verkopen (In China is dit reeds gewoonte, met staatsgecensuurde chatsbots van Microsoft).
Waarom chat die bot eigenlijk over arbeidsrecht, en computer uitdoen, en de dood? Dat is toch zorgwekkend? Die technologie is nog niet klaar, en “Lambda is a good boy, and you all at Google should take good care of him” dan op de mailinglijst zetten is niet zo heel raar. Laat hele bedrijf maar weten waar technologie in gaat: Chatbots (voor kinderen) die emotioneel gemakkelijk te zien zijn als echte mensen, spreken over zaken als leven en dood. Wil je daar dan geen mate van zelf-bewustzijn in hebben, of is dat meteen ridicuul?