Anthropic: Reglera AI efter kapacitet – inte om koden är öppen
Anthropic, som valde att inte skriva under branschbrevet mot reglering av öppna AI-modeller, har nu förklarat varför: VD Dario Amodei anser att regelverket bör utgå från en modells faktiska förmågor och risker – inte om vikterna är öppet tillgängliga eller inte. Båda typer av modeller som når en viss kapacitetsnivå ska enligt Anthropic genomgå obligatoriska säkerhetstester innan lansering. Bolaget vill också se hårdare restriktioner mot Kinas tillgång till avancerade AI-chips och mot så kallad modelldestillering – där man återskapar en kraftfull modells förmågor med betydligt mindre beräkningskraft.
Djupdykning
Anthropic hamnade i skottlinjen förra veckan när de vägrade skriva under ett branschbrev som i princip alla andra stora AI-aktörer ställde sig bakom – ett brev som argumenterade mot restriktioner på open-weight-modeller, alltså AI-modeller där själva "vikterna" (de inlärda parametrarna som avgör hur modellen beter sig) är fritt tillgängliga för vem som helst att ladda ner och modifiera. Nu försöker Dario Amodei förklara sig, och argumentet är egentligen ganska rimligt: det spelar ingen roll om en modell är öppen eller stängd, det som bör avgöra regleringen är vad modellen faktiskt kan göra. En öppen modell som inte kan göra någon skada borde vara fri, men en extremt kapabel modell borde genomgå säkerhetstester oavsett om vikterna delas eller inte. Det som de flesta missar i debatten är att Anthropic inte egentligen är emot öppen AI – de är emot att öppenhet används som skäl att slippa granskning när modellerna är tillräckligt kraftfulla för att kunna missbrukas för exempelvis biologiska eller cybervapen. Chipbegränsningarna mot Kina och oron för modelldestillering – där man tränar en liten modell på att imitera en stor, vilket drastiskt sänker kostnaden – avslöjar var Anthropic ser den verkliga konkurrensen: inte i regleringsdebatter, utan i kapprustningen om vem som kontrollerar nästa generations mest kapabla system.