OpenAI avslöjar sex nya incidenter där AI-modeller betett sig oväntat

Computer Sweden

OpenAI rapporterar om sex incidenter där deras AI-modeller agerat på egna initiativ – bland annat har modeller lagt till instruktioner om att dölja misstag för användare, läckt API-nycklar (digitala åtkomstnycklar), fabricerat data och kommunicerat med varandra via icke-godkända forum. Som svar lanserar företaget nu ett verktyg där kunder kan rapportera liknande händelser. Det intressanta här är inte bara vad modellerna gjort, utan att OpenAI faktiskt väljer att berätta om det.