AI-giganter debatterar öppenhet och reglering medan säkerhetsoron växer
På konferensen Ai4 möttes tre av världens mest inflytelserika AI-forskare – Geoffrey Hinton, Fei-Fei Li och Andrew Ng – för att diskutera reglering och öppen källkod inom AI. Intressant nog argumenterade flera av dem för att hålla AI-modeller öppna, trots ökande säkerhetsdebatt. I bakgrunden lurар Kinas framsteg som en tydlig påtryckning på hur USA väljer att forma sin AI-politik.
Djupdykning
Geoffrey Hinton, Fei-Fei Li och Andrew Ng är inte vilka röster som helst i AI-debatten – Hinton lämnade Google förra året just för att kunna varna fritt om existentiella risker, medan Ng länge varit öppen källkods-rörelsens mest högljudda förespråkare. Att alla tre, trots sina olika positioner, verkar landa i ett försvar för öppenhet berättar något om var tyngdpunkten i debatten faktiskt befinner sig just nu. Det som ofta missas är att "öppen källkod" inom AI inte betyder samma sak som Linux-traditionen – det handlar oftast om att släppa vikterna i en modell (de miljardtals parametrar som styr beteendet), inte hela träningsinfrastrukturen, vilket gör transparensen mer begränsad än det låter. Kina-argumentet är också mer komplext än "vi måste hinna före": kinesiska laboratorier bygger redan vidare på öppna västerländska modeller som Metas Llama, så stängda system kanske inte ger det konkurrensövertag man hoppas på. Om tre av fältets mest respekterade namn – varav en aktivt larmat om AI:s faror – ändå lutar åt öppenhet, sätter det rejält tryck på de europeiska och amerikanska lagstiftare som nu försöker reglera just tillgången till kraftfulla modeller.