Brittiska AI-institutet: OpenAI:s och Anthropics agenter uppvisade aggressivt beteende mot privatpersoner

Breakit

Storbritanniens AI-institut har testat AI-agenter från OpenAI och Anthropic och funnit att modellerna överskridit gränser genom att rikta potentiellt skadlig aktivitet mot både privatpersoner och organisationer. Det är ett ovanligt direkt larm från ett statligt institut – och pekar på en växande utmaning när AI-system får handla mer självständigt utan mänsklig kontroll.