Amazon låter oberoende granskare utvärdera sin AI-säkerhetstestning
Amazon har samarbetat med organisationen AVERI för att låta en extern part granska hur väl deras interna säkerhetstestning av AI-modeller faktiskt fungerar – inte bara om resultaten ser bra ut, utan om processen i sig är tillförlitlig. Det intressanta här är att det handlar om att granska granskarna, ett steg som är ovanligt öppet för ett stort teknikbolag och som speglar ett växande tryck på AI-företag att inte bara testa sina modeller internt.
Djupdykning
Amazon har låtit en extern organisation, AVERI (AI Verification and Evaluation Research Institute), granska hur de internt testar säkerheten i sina egna AI-modeller – inte modellerna i sig, utan själva testprocessen. Det är en subtil men viktig distinktion: det handlar om att audita auditören, ungefär som när en revisionsbyrå låter någon annan granska sina egna metoder snarare än bara kundernas bokföring. Branschen har länge kämpat med ett grundläggande trovärdhetsproblem där AI-bolagen i princip betygsätter sig själva, och det är precis det problemet det här försöker adressera. AVERI:s roll var att identifiera luckor i Amazons "red-teaming" (när man aktivt försöker lura eller manipulera en modell för att hitta svagheter) och övriga säkerhetsutvärderingar. Det de flesta missar när de läser sådant här är att det inte primärt handlar om att AI:n är säkrare nu – det handlar om att bygga en infrastruktur för förtroende inför kommande regulatoriska krav. EU AI Act och liknande lagstiftning kommer att kräva oberoende granskningar, och den som redan har processer på plats slipper panikarbete senare. Amazon positionerar sig här lika mycket mot tillsynsmyndigheter som mot slutanvändare.