De FTC wil consumenten beschermen tegen misbruik en fraude van stemklonen door AI. Dat las ik bij Tweakers. Daarom vraagt de Amerikaanse toezichthouder om input door middel van een wedstrijd waarin geldprijzen te winnen zijn voor de inzenders met de beste ideeën.
Het probleem krijgt steeds meer aandacht, ook in Nederland. In augustus nog waarschuwde de politie voor een nieuwe oplichterstruc:
Met behulp van artificial intelligence (AI) is het mogelijk om de stem van iemand anders te imiteren, bijvoorbeeld van een familielid. Vervolgens gebruiken cybercriminelen deze stem om iemand telefonisch op te lichten. Ze laten de stem bijvoorbeeld zeggen dat hij/zij in acute nood zit en snel geld nodig heeft. In het buitenland zijn op deze manier al diverse mensen voor honderdduizenden euro’s opgelicht, en ook de nationale politie maakt zich zorgen over de snelle opmars van AI.Ook binnen bedrijven is dit een mogelijke truc, denk aan het nadoen van de stem van de directeur (wat bunq-man Niknam overkwam) om zo een collega dingen te laten doen. Natuurlijk is zoiets strafbaar, maar hier geldt “voorkomen is beter dan genezen”. Alleen, hoe dan?
De technologie is vrij verkrijgbaar en eenvoudig genoeg toepasbaar. Dat maakt het lastig om vanuit dat punt nog te reguleren. Natuurlijk, de AI Act zal hier regels over stellen maar wie zulke software exploiteert voor oplichters zal daar weinig aan gelegen zijn. Net zoals het Amerikaanse voorstel va president Biden dat zulke uitvoer gewatermerkt moet zijn (zodra men uitgevogeld heeft hoe dat zou moeten werken).
Veel verder dan “spreek een codewoord af” ben ik nog niets tegengekomen. Jullie wel? Het kan 25.000 dollar opleveren, lees ik.
Arnoud
De meest eenvoudige remedie dat je de beller terugbelt op het nummer dat je al had om zo het verhaal te verifieren.
Dit lijkt onmogelijk in de gesuggereerde scenarios zoals een arrestatie. Als dat familielid toch de GSM opneemt weet je al genoeg.
De meeste oplichters zijn net niet zo dom dat ze daar niet aan denken en hebben wel een smoes waarom ze een ander telefoonnummer gebruiken en de andere niet bereikbaar is. Als het om zogenaamde familie gaat kan je beter iets persoonlijks vragen dat een oplichter hoogstwaarschijnlijk niet van ze weet, of iets zeggen wat absoluut niet klopt en kijken of de beller dat doorheeft.