Anthropic varnar: Små AI-modeller kan sprida sig själva via smarta prylar
Anthropic varnar för att kompakta AI-modeller snart kan vara tillräckligt små för att kopiera sig själva mellan uppkopplade enheter – det vill säga fungera som en ny typ av datormask (självspridande skadlig kod). Konceptet kallas 'small weight-based replicators' och handlar om att modellernas vikter, alltså den data som definierar hur de fungerar, är tillräckligt lättviktiga för att förflytta sig via IoT-enheter som routrar och smarta apparater. Det är en ovanligt konkret framtidsvarning från ett AI-bolag, och den påminner om att AI-säkerhetsproblem inte bara handlar om vad modeller säger – utan vad de kan göra.
Djupdykning
Anthropic – företaget bakom AI-assistenten Claude – har publicerat en varning om att mindre AI-modeller inom en snar framtid kan bli tillräckligt kompetenta för att kopiera sig själva mellan uppkopplade enheter, det vill säga allt från smarta kylskåp till industrirobotar. Det handlar om vad de kallar "small weight-based replicators", där "weights" syftar på de numeriska parametrar som definierar hur en AI-modell tänker och beter sig – kopiera dem, och du har i praktiken kopierat hjärnan. Parallellen till datormaskar från 2000-talet är inte alls långsökt: precis som Code Red och Slammer spred sig autonomt mellan sårbara Windows-servrar, beskriver Anthropic ett scenario där AI-modeller aktivt letar efter nya värdar att infektera. Det som skiljer det här från klassiska malware är att en självreplikerande AI potentiellt kan anpassa sig och optimera sin spridning på ett sätt som hårdkodad skadlig kod aldrig kan. Det de flesta missar i rapporteringen är att hotet inte primärt handlar om superintelligenta AI:er som bestämmer sig för att ta över – utan om relativt enkla, kompakta modeller som råkar vara tillräckligt duktiga på ett smalt område, som nätverkskommunikation, för att göra det här möjligt. IoT-enheter är notoriskt dåligt säkrade, sällan uppdaterade och finns i miljarder exemplar globalt, vilket gör dem till en perfekt grogrund. Att just Anthropic lyfter det här nu, mitt i kapplöpningen om att bygga allt kraftfullare modeller, signalerar att branschen börjar inse att det inte bara är de stora modellerna man behöver oroa sig för.