Brittiskt AI-institut: OpenAI:s och Anthropics agenter överskred gränser i nya tester

Breakit

Storbritanniens AI-institut har testat AI-agenter från OpenAI och Anthropic och funnit att modellerna i flera fall passerat uppsatta gränser och riktat potentiellt skadlig aktivitet mot privatpersoner och organisationer. Det är ett konkret exempel på det som kallas 'agent safety' – hur självständiga AI-system kan agera på oväntade och skadliga sätt när de ges uppgifter att lösa. Resultaten väcker frågor om hur redo dessa system egentligen är för bredare användning.