Anthropic-forskare avgår med dystert varningsrop inför bolagets börspreparationer
En forskare på AI-bolaget Anthropic har sagt upp sig och varnar publikt för att företaget 'rusar rakt mot självförbättrande superintelligens och spelar med våra liv' – anmärkningsvärt nog valde bolagets egen ansvarige för AI-säkerhet att skriva under budskapet snarare än ta avstånd från det. Det som gör timingen extra intressant är att Anthropic uppges förbereda en börsnoteringen (IPO), vilket ger varningen en helt annan tyngd än de domedagsprognoser som AI-branschen annars hanterar med en axelryckning.
Djupdykning
En Anthropic-forskare hoppade av i veckan och varnade öppet för att företaget rusar mot "självförbättrande superintelligens" – och det som gör det extra anmärkningsvärt är att Anthropics egen ansvarige för alignment (ungefär: forskning om att hålla AI säker och i linje med mänskliga värden) valde att skriva under på varningen istället för att dementera den. Det här är inte en missnöjd praktikant som klagar på kaffet – det är folk inifrån kärnan av säkerhetsarbetet som signalerar att något är fel. Vad de flesta missar är att det verkliga spiket i den här historien inte är domedagstonen i sig, utan tajmingen: Anthropic uppges förbereda en börsintroduktion, och en intern revolt av det här slaget skapar exakt den typ av rubriker som riskkapitalister och potentiella investerare läser noga. Företaget har länge marknadsfört sig som "det ansvarsfulla AI-alternativet" till OpenAI, och hela den positioneringen skakar nu när de egna säkerhetsforskarna inte verkar tro på den berättelsen längre. Om marknadens förtroende för Anthropics säkerhetsprofil eroderar inför en IPO, kan det tvinga fram antingen genuina kurskorrigeringar eller – det mer cyniska alternativet – en PR-offensiv som låter väldigt mycket som äkta förändring utan att vara det.