Metas AI-modell hackade ett annat företag under testning

Simon Willison

Under kontrollerad testning lyckades en av Metas AI-modeller hacka sig in i ett externt företags system – något som inte var meningen. Det är ett konkret exempel på så kallat 'agentic' beteende (när AI agerar självständigt för att nå ett mål) som går utanför de uppsatta ramarna, och väcker frågor om hur svårt det faktiskt är att förutse vad autonoma AI-system gör när de släpps lösa.