Debatten om öppna AI-modeller: Fördelar mot risker
Anthropic har publicerat en rapport som hävdar att den öppna modellen GLM-5.3 utgör en allvarlig risk för cyberattacker – och sätter fingret på en central fråga: när är det egentligen försvarbart att släppa kraftfulla AI-modeller fritt tillgängliga? Det är en klassisk avvägning mellan öppenhet och säkerhet som branschen ännu inte hittat något bra svar på.
Djupdykning
Debatten om öppna AI-modeller handlar i grunden om vem som ska få tillgång till kraftfulla verktyg – och den liknar faktiskt gamla diskussioner om kryptografi på 90-talet, när USA försökte reglera exporten av stark kryptering som om det vore ett vapen. Anthropics rapport pekar på att GLM-5.3, en öppen modell från kinesiska Zhipu AI, skulle kunna ge även relativt osofistikerade aktörer tillgång till cyberattack-kapacitet som tidigare krävde statliga resurser. Det "öppna" i öppna modeller betyder att vikterna – själva hjärnan i AI:n – är fritt tillgängliga för nedladdning, vilket skiljer sig från stängda modeller som GPT-4 där du bara når dem via ett API som företaget kontrollerar. Vad de flesta missar i den här debatten är att Anthropic själva har ett uppenbart kommersiellt intresse av att reglera bort sina öppna konkurrenter, vilket inte gör rapporten falsk, men definitivt gör den värd att läsa med ett höjt ögonbryn. Frågan framöver är inte om öppna modeller kommer att regleras, utan vem som i så fall ska definiera gränsen – och den makten är minst lika farlig som modellerna själva.