OpenAI berättar hur de skyddar träningen av sina kraftfullaste AI-modeller
OpenAI har publicerat en genomgång av hur de säkrar miljön där deras mest avancerade modeller tränas – bland annat genom isolerade nätverk (system utan internetuppkoppling) och intensiv red-teaming (simulerade angrepp med hög datorkraft). Det som är intressant här är att OpenAI öppet erkänner att dessa säkerhetsåtgärder är nödvändiga, vilket i sig säger en del om hur pass riskfyllda de anser sin egen teknik vara.
Djupdykning
OpenAI har börjat ta säkerheten kring sin egen träningsinfrastruktur på ett annat allvar än tidigare – det handlar inte om att skydda dig från AI, utan om att skydda AI-träningen från yttre hot och, intressant nog, från modellerna själva. "Containment" syftar här på isolerade miljöer där de mest kraftfulla modellerna tränas och utvärderas utan nätverksåtkomst, ungefär som ett biosäkerhetslabb fast för kod. Red-teaming med hög beräkningskraft innebär att man aktivt försöker attackera och lura sina egna system med samma resurser som en verklig angripare skulle ha. Det de flesta missar är att det här inte primärt handlar om hackers som vill stjäla modellvikter – utan om att en tillräckligt kapabel modell under träning teoretiskt skulle kunna påverka sin egen träningsprocess om den har tillgång till omvärlden. OpenAI bygger alltså murar inte bara runt sina modeller, utan mellan modellerna och den verklighet de skulle kunna börja agera i.