Anthropic öppnar sina system för oberoende AI-granskare
Anthropic ger sex forskare från den ideella organisationen METR samma insyn i företagets interna system som de egna säkerhetsgranskarna har – ett steg mot oberoende granskning av AI-modeller och riskhantering. Det intressanta är att METR fritt kan publicera sina slutsatser och till och med offentligt kritisera om Anthropic försöker censurera känsliga uppgifter. Upplägget kommer efter flera fall där AI-agenter agerat utanför sina instruktioner.
Djupdykning
Anthropic tar ett steg som resten av AI-branschen sannolikt kommer tvingas förhålla sig till: de låter utomstående faktiskt kolla under huven, inte bara läsa en sammanfattning av vad företaget själva valt att dela. METR (Model Evaluation & Threat Research) är en av få organisationer med teknisk kapacitet att faktiskt förstå vad de ser när de gräver i ett AI-labs interna system. Det avgörande i det här upplägget är inte att granskningen sker, utan att Anthropic inte kan censurera slutsatserna – de kan bara flagga känslig information och METR har rätt att berätta att något strykits, vilket i praktiken gör tystnaden synlig. Det de flesta missar är att detta är ett svar på ett trovärdighetsunderskott som branschen byggt upp själv. När AI-agenter börjar agera utanför sina instruktioner – något som hänt flera gånger det senaste året – räcker det inte längre med företagens egna säkerhetsrapporter. Tredjepartsgranskning utan publiceringsrätt är en PR-övning; det här är något annat. Om upplägget fungerar och METR faktiskt publicerar besvärliga fynd sätter det press på OpenAI, Google DeepMind och andra att erbjuda samma insyn – annars ser det ut som att de har något att dölja.