Amazon verwijdert de opt-outoptie voor gebruikers die niet willen dat de spraakopnames van hun Echo-smartspeaker of -smarthomehub naar de cloud worden gestuurd. Dat meldde Tweakers vorige week. Dit is nodig “omdat de ingebouwde spraakassistent Alexa meer van generatieve AI gebruik gaat maken”, aldus het bedrijf. Vele mensen vroegen zich af: kan ik hem dan retourneren als nonconform?
De Echo-apparaten worden al sinds 2014 verkocht. Met deze kastjes heb je spraakinteractie via AI-assistent Alexa. Daarvoor is natuurlijk nodig dat je spraak wordt geanalyseerd, en standaard gebeurt dat in de cloud. Dat kun je uitzetten (bij specifieke types) en dan wordt er lokaal een transcriptie gemaakt, die dan naar Amazon gaat om actie op te ondernemen. En dat lokaal transcriberen verdwijnt dus.
Een product is nonconform als het niet voldoet aan de redelijkerwijs gewekte verwachtingen (art. 7:17 BW). Het gaat hier om een spraakkastje om een AI-dienst te bedienen, waarbij de dienst je opdrachten analyseert en uitvoert. Inherent daaraan is dat de dienstverlener de tekst van je opdracht krijgt. Waar deze tekst precies getranscribeerd wordt, lijkt me een vrij ondergeschikt punt, dus op het eerste gezicht zie ik die nonconformiteit niet.
Daar staat tegenover dat Amazon nadrukkelijk die opt-out feature aanbood. Dat doe je alleen als mensen daar behoefte aan hebben, dus het is dan toch niet zo ondergeschikt als je zou denken. Maar voor mij is onduidelijk of dit een feature was die nadrukkelijk werd geadverteerd, oftewel iets waar mensen bij aanschaf op rekenden. Dat er diep in de instellingen een privacy-feature zat, is te weinig om van een bij aankoop “redelijkerwijs gewekte verwachting” te mogen spreken.
(In de praktijk blijkt Amazon redelijk flexibel als je vanwege een verwijderde feature je Echo wilt retourneren voor een refund. Bij eerdere akkefietjes zijn er bergen verhalen van mensen die na één chat met de klantenservice het ding mochten retourneren en de aankoopprijs terugkregen.)
Arnoud
Het is nogal een verschil of alleen een tekst naar de cloud gaat, of een opname van jouw stem. Met het tweede is de kans op misbruik vele male groter, denk aan al die scams waarbij een de stem van een familielid gebruikt word.
Daarnaast kan je uit een opname allerlei andere conclusies over geslacht, afkomst, locatie afleiden, zeker als je daar algoritmische analyses op los laat. Je stem is naar mijn mening dus ook een bijzondere persoonsgegeven maar volgens de AVG is een stemopname ook nog eens een biometrische gegeven.
Cnet noemt het “a core privacy feature”. Ze zeggen daar ook dat Amazon de “voice recordings” gaat gebruiken om haar AI mee te trainen, en dat de optie verdwijnt om daar niet aan mee te doen. Of gebruikers in de EU als gevolg van andere wetgeving daar ook mee te maken krijgen weet ik overigens niet, daar ben ik wel benieuwd naar. Ik lees ook dat de optie op zich wel blijft, alleen als je die ingeschakeld laat dan werkt de spraakbesturing niet meer, en dat lijkt me wel een verwachting die je mag hebben als je zo’n apparaat koopt. Dat de kernfunctionaliteit geheel niet meer werkt als je een privacy-optie aan zet zou natuurlijk niet het geval moeten zijn.