Apple begränsar buggrapporter efter AI-flod av dåliga rapporter
Apple har sedan juni infört ett tak på antalet öppna säkerhetsrapporter per forskare, plus en 30-dagars karensperiod – detta efter att generativ AI gjort det mycket enklare att hitta sårbarheter men också skapat en störtflod av bristfälliga rapporter som kräver manuell granskning. Det är en intressant bieffekt av AI-verktyg: de sänker tröskeln för att hitta buggar, men kvaliteten på rapporterna följer inte alltid med.
Djupdykning
Apple har börjat sätta tak på hur många säkerhetsbrister enskilda forskare kan rapportera samtidigt – och det är egentligen ett symptom på ett större problem som hela techbranschen börjar brottas med. Generativ AI har gjort det trivialt enkelt att skanna kod efter potentiella svagheter, vilket låter låter både seriösa forskare och opportunister skicka in enorma volymer rapporter utan att ha gjort ordentligt förarbete. Problemet är att varje rapport kräver att en människa på Apples säkerhetsteam faktiskt läser, testar och bedömer den – AI:n kan hitta kandidater för buggar på sekunder, men verifieringen är fortfarande handarbete. Det de flesta missar här är att det här egentligen handlar om ett asymmetriproblem: kostnaden för att generera brus har sjunkit till nära noll, medan kostnaden för att granska det är oförändrad. Apple begränsar alltså inte säkerhetsforskning i sig, utan försöker bromsa det AI-drivna noise som riskerar att begrava de faktiska kritiska sårbarheterna under en hög av halvbakade rapporter – vilket paradoxalt nog skulle göra deras produkter mindre säkra, inte mer.