Amazon avslöjade Anthropics AI-modeller för Vita huset
Amazon genomförde säkerhetstester på Anthropics AI-modell Fable 5 och lyckades få den att dela information som kunde användas i cyberattacker. Andy Jassy, Amazons VD, delade sedan forskningsresultaten med Vita huset. Kort därefter beordrade den amerikanska regeringen Anthropic att blockera tillgången till både Fable 5 och Mythos 5 för alla utländska användare på grund av nationella säkerhetsskäl.
Anthropics position är minst sagt besvärlig. Företaget säger att regeringen inte gav specifika detaljer om säkerhetsproblemen, utan bara nämnde mindre sårbarheter som "även finns i andra modeller". För att följa ordern har Anthropic helt stängt av tillgången till modellerna för alla kunder, inklusive sina egna anställda.
Det som gör situationen extra pikant är att Amazon både är en stor investerare i Anthropic (20 miljarder dollar) och samtidig konkurrent inom AI-området. Att Jassy aktivt rapporterade säkerhetsbrister till regeringen väcker frågor om motivationen bakom forskningen. Var det genuint säkerhetsarbete eller strategisk positionering?
För utvecklare som använder Anthropics API:er är budskapet tydligt: även stora modeller kan försvinna över en natt på grund av geopolitiska beslut. Det här är första gången amerikanska myndigheter använder exportkontroller för att blockera AI-modeller, vilket skapar ett prejudikat. Företag som bygger kritiska produkter på externa AI-tjänster bör fundera på backup-strategier.
