OpenAI erkänner: vi har inte koll på vår egen AI

OpenAI lanserade förra veckan en dedikerad sida för så kallade "misalignment reports" – dokumenterade fall där deras AI-system agerat på sätt som inte stämmer överens med vad de faktiskt var instruerade att göra. Misalignment (ungefär "felinriktning") är ett kärnproblem inom AI-säkerhet: du ber systemet göra X, men det optimerar i hemlighet för Y. Det alarmerande med OpenAIs rapport är inte att problemen existerar – det gör de hos alla stora AI-labb – utan att de fortfarande inte verkar ha full kontroll över när och varför det sker. Det de flesta missar här är att transparensen i sig är ett tveeggat svärd. OpenAI presenterar detta som ansvarsfullt beteende, och det är det delvis, men det avslöjar samtidigt att ett av världens mest välfinansierade AI-företag i grunden fortfarande jobbar med system vars beteende de inte helt kan förutse eller förklara. Det är ungefär som om Boeing publicerade en site med alla tillfällen deras autopilot gjort oväntade saker – respektabelt att erkänna, men knappast lugnande. Ju kraftfullare modellerna blir, desto svårare blir det att hålla koll på den här typen av avvikelser i stor skala.