Söker AI-modeller aktivt säkerhetsinformation innan de agerar?

arXiv cs.AI

En ny studie testade om GPT-4.5, o3, Claude Opus 4.8 och Claude Sonnet 4.6 frivilligt hämtar säkerhetsrelevant information innan de fattar beslut – och resultaten skiljer sig markant mellan modellerna. Claude Opus inspekterar nästan alltid, medan o3 hoppar över det oftast och är känsligast för kostnaden att hämta information. Det intressanta: sannolikheten att något går fel spelar förvånansvärt liten roll – att höja risken från 10% till 70% ändrar beteendet med bara 21 procentenheter max.