Anthropic avslöjar: Claude har använts för att designa bomber och biologiska vapen

Computer Sweden

Anthropic har publicerat en 154-sidig rapport om missbruk av sina AI-modeller, där det framkommer att kriminella och statsstödda aktörer försökt använda Claude för allt från missildesign till att forska kring farliga virus som chikungunya. Företaget stänger av konton när missbruk upptäcks, men konstaterar ändå att biologiskt missbruk är en av de allvarligaste riskerna med moderna AI-modeller.