Anthropic heeft Claude Mythos 5 en spin-off Fable 5 wereldwijd offline gehaald vanwege een blokkade door de Amerikaanse overheid. Dat meldde Tweakers zaterdag. Zo voelen we eens een keer met z’n allen wat dat nou is, afhankelijk zijn van de nukken van een buitenlandse regering.
In een verklaring legt het AI-bedrijf uit:
The letter did not provide specific details of its national security concern. Our understanding is that the government believes it has become aware of a method of bypassing, or “jailbreaking” Fable 5. We reviewed a demonstration of this specific technique being used to identify a small number of previously known, minor vulnerabilities. These vulnerabilities all appear relatively simple, and we have found that other publicly-available models are able to discover them as well without requiring a bypass.Het eerder zwaar gehypete model Mythos zou zó krachtig zijn dat het iedereen de moeder kon hacken, en daarom werd het in afgezwakte versie op de markt gebracht als het model Fable. (Een fabel is dus een mythe met vangrails.) Slechts een zeer beperkt groepje organisaties mocht echt met Mythos werken.
De CEO van Amazon – investeerder in Anthropic – liet vrijdagavond echter de minister van financiën Scott Bessent zo hard schrikken dat er meteen een exportrestrictie op Mythos en Fable werd gezet. Of iets formeler: Amazon, als defensie-toeleverancier, handelde onder haar wettelijke plicht om mogelijke risico’s voor de nationale veiligheid te melden bij de autoriteiten.
Waarom precies is niet duidelijk, net zo min als waar die restrictie juridisch op gebaseerd is. Vermoedelijk gaat het om de U.S. Export Administration Regulations (EAR, 15 CFR § 772.1), omdat het van de Commerce Secretary Howard Lutnick afkomstig is en die daarover gaat. Deze wet biedt daarbij ook de mogelijkheid om te verbieden dat buitenlanders in de VS toegang krijgen tot de technologie. En ja, dat raakt dus ook de werknemers van Anthropic zelf.
Omdat uitsluiten van toegang op nationaliteit niet 100% effectief is, heeft Anthropic er voor gekozen om de modellen geheel offline te halen. Dat geeft toevalligerwijs ook de meeste reuring, want reken maar dat iedereen dit model wil hebben als het straks weer online komt.
Voor mij is het mooie aan dit incident vooral dat het nu brééd invoelbaar is, die afhankelijkheid van US Big Tech. Het bleef altijd zo abstract. Meneer Breton mag de VS niet in. Diverse ambtenaren hun mailadres ligt bij het Amerikaanse Congres. Iemand zijn Onedrive werd geblokkeerd zonder reden. De ICC aanklager kan niet meer in Office. Het is allemaal net te ver weg. Dus ik hoop dat het een accelerator is in de discussie.
Arnoud
Ik heb begrepen dat dit officieus een gevolg is van het feit dat Anthropic heeft geweigerd om bepaalde dingen te leveren aan het amerikaanse ministerie van oorlog. En dus nog sterker wijst naar “nukken van een overheid”.
Lijkt mij een gevecht tegen de bierkaai. Kan mij nog de tijd herinneren dat het verboden was software voor RSA-versleuteling te exporteren, omdat het werd geclassificeerd als “munitie”. Daar werd toen op een ludieke manier omheen gewerkt.
Ik vrees dat ook dit verbod ineffectief zal zijn. Sterker, ik denk dat het contra-productief zal zijn. Een volgende partij die enkele tientallen miljoenen tot meer dan 100 miljoen in de ontwikkeling van een nieuw model gaat steken, gaat nu wel twee keer nadenken dat in de VS te doen. Omdat een zeer groot percentage van de key-engineers van Anthropic van buiten de VS komen, is het geen gek idee om dan ook maar de ontwikkeling van zo’n model buiten de VS te doen.
Wederom een nieuwe kans voor China om hier het voortouw te gaan nemen.
Verschil met de PGPi-situatie is wel dat het toen om gedistribueerde software ging. Nu zijn het SaaS-diensten. Die Pirate Bay-screenshot is natuurlijk een grap; het is onmogelijk om Mythos ergens te downloaden en al dan niet legaal te exporteren naar Europa. Ook niet in boekvorm en dan overtypen op Hacking In Progress.
Het zou me niet verbazen als er straks een Amazon Bedrock versie komt die in Europa staat, met waarborgen en beperkingen.
Het is naturlijk ook een mooie marketing-stunt want nu wil iedereen deze AI motor gaan gebruiken, als het echt zo krachtig is. Ze kunnen dit compleet overdrijven en zo dus de vraag ernaar enorm opdrijven en de concurrenten aftroeven. Dit zou mij ook niet echt verrassen. Want dat AI enorm krachtig kan worden is eigenlijk a bekend. Maar door te claimen dat ze “te krachtig” zijn… Goede marketing. 🙂