Anthropics vd: inget emot öppen AI – men orolig för Kina
Anthropics grundare och vd Dario Amodei klargör att han inte är motståndare till öppna AI-modeller (modeller vars kod är fritt tillgänglig), men att han ser Kinas snabbt växande AI-kapacitet som ett reellt problem. Det intressanta här är nyanseringen – Amodei sätter fingret på att debatten om öppen kontra sluten AI inte kan separeras från geopolitiken.
Djupdykning
Dario Amodei har länge setts som en mer försiktig röst i AI-världen – han lämnade ju OpenAI delvis för att han tyckte de tog för stora risker – så hans nuanserade hållning till öppen källkod inom AI är värd att ta på allvar. Open-weight-modeller (alltså AI-modeller där vikterna, det vill säga "hjärnan", är fritt tillgängliga för vem som helst att ladda ner och modifiera) har blivit en het politisk fråga i Silicon Valley, där Meta driver hårt för öppenhet medan Anthropic och OpenAI är mer slutna. Amodeis egentliga oro handlar inte om öppen källkod i sig – utan om att avancerade modeller hamnar i händerna på kinesiska aktörer som kan använda dem utan de säkerhetsfilter västerländska företag bygger in. Det här är en subtil men viktig distinktion som ofta försvinner i debatten: kritiken är inte mot open source som filosofi, utan mot geopolitisk asymmetri där USA delar med sig av sin teknologiska fördel medan Kina inte gör detsamma. Om Amodei har rätt innebär det att hela open-source-rörelsen inom AI omedvetet kan fungera som en tekniköverföring till rivaliserande stater – ungefär som att designa ett lås och sedan publicera ritningarna online.