Forskare kräver verkligt öppen källkod för AI – inte bara öppna vikter
Stanford HAI argumenterar för att så kallade 'open-weight'-modeller (där man kan ladda ner modellens parametrar men inte se träningsdata eller kod) inte räcker – för att AI verkligen ska kunna granskas och förbättras av forskarsamhället krävs fullt öppen källkod. Skillnaden är viktig: utan tillgång till träningsdata och metodbeskrivningar är det svårt att förstå varför en modell beter sig som den gör eller upptäcka potentiella problem. Det handlar i grunden om vem som faktiskt kan hålla AI-system ansvariga.
Djupdykning
Debatten om "öppen" AI handlar egentligen om en ganska subtil men avgörande distinktion: open-weight betyder att du kan ladda ner och köra modellens parametrar (tänk det som att få receptet men inte veta varifrån ingredienserna kommer), medan verkligt öppen källkod innebär att träningsdata, kod och hela processen är transparent och reproducerbar. Meta kallar Llama "open source" men släpper varken träningsdatan eller den fullständiga träningskoden – vilket gör det omöjligt för forskare att verifiera, reproducera eller bygga vidare på grunderna. Det här spelar enorm roll för vetenskap: om en läkemedelsforskare använder en AI-modell vars interna logik är ogenomskinlig, hur ska hen då veta om resultaten är tillförlitliga eller om modellen har lärt sig på skev data? Peer review-systemet – grunden för hur vetenskap fungerar – kräver reproducerbarhet, och det går inte att reproducera något du inte kan se. Det de flesta missar i den här diskussionen är att "open-weight" som standard i praktiken gynnar stora teknikbolag som redan har råd att träna egna modeller från grunden. Forskare vid universitet och offentliga institutioner får tillgång till något som ser ut som frihet men som i verkligheten är ett låst ekosystem – de kan anpassa men aldrig granska fundamentet. EleutherAI och initiativ som BLOOM har visat att genuint öppna modeller är möjliga, men de kräver massiva samordnade resurser som vetenskapssamhället sällan har tillgång till utan extern finansiering. Frågan är inte längre teknisk utan politisk: vem bestämmer vad "öppen" får betyda när AI blir kritisk infrastruktur för forskning om klimat, medicin och samhälle?