Anthropic ger oberoende granskare full insyn i sin AI-verksamhet
Anthropic ger säkerhetsorganisationen METR tillgång på anställdnivå – det vill säga samma insyn som egna medarbetare har – för att granska företagets AI-risker och rutiner. Det ovanliga här är att Anthropic också avsagt sig rätten att blockera METR:s publiceringar, vilket innebär att kritiska bedömningar kan komma ut oavsett vad företaget tycker. I en bransch där säkerhetsgranskning ofta sker på företagets egna villkor är det ett steg mot något som liknar verklig oberoende tillsyn.
Djupdykning
Anthropic öppnar alltså upp sina system för METR – en oberoende säkerhetsorganisation – och ger dem samma tillgång som sina egna anställda har. Det som skiljer det här från vanliga PR-vänliga "säkerhetspartnerskap" är den sista biten: Anthropic har explicit avsagt sig rätten att blockera vad METR väljer att publicera. Det är en ganska stor grej i en bransch där säkerhetsgranskningar traditionellt sett sker på företagets egna villkor, med välpolerade sammanfattningar som resultat. METR kan alltså i princip hitta något riktigt obehagligt och publicera det utan att Anthropic kan säga "nej tack, låt oss omformulera det här." Vad de flesta missar är att det här sätter ett prejudikat som skapar press på OpenAI, Google DeepMind och andra att förklara varför de inte gör detsamma – tystnad blir i sig ett svar.