Vem kontrollerar egentligen AI:n när du inte äger modellen?
En ny studie pekar på ett praktiskt problem som ofta förbises i AI-säkerhetsforskningen: många kontrollprotokoll förutsätter att den som driftsätter en AI-modell också äger och kan inspektera den – vilket sällan stämmer när organisationer använder modeller via API:er. Forskarna introducerar begreppet 'bounded sovereignty' (begränsad teknisk kontroll) och visar via 1,35 miljoner syntetiska simuleringar att tillgång till loggar, körningsgateway och modellversioner är avgörande för att säkerhet och feldiagnos ska fungera i praktiken. Slutsatsen är enkel men underskattad: säkerhetslösningar bör tydligt redovisa vilka åtkomstantaganden de bygger på.
Djupdykning
De flesta diskussioner om AI-säkerhet utgår från att den som driftsätter ett AI-system faktiskt äger och kontrollerar det – men verkligheten för banker, myndigheter och annan reglerad sektor är att de kör GPT-4 eller Claude via ett API och inte har en aning om vad som händer inuti. Den här artikeln myntar begreppet "bounded sovereignty" för att beskriva det gap som uppstår när du kontrollerar affärsprocessen men inte modellvikterna, loggarna, infrastrukturen eller uppdateringscykeln – och "sovereignty discount" är priset du betalar för att försöka kompensera det via kontrakt, arkitekturval och tredjepartsgranskningar istället. Det som de flesta missar i debatten om AI-kontroll är att säkerhetsprotokollen som forskarvärlden föreslår ofta är skrivna med en implicit förutsättning om fullständig teknisk tillgång – vilket gör dem i praktiken oanvändbara för de organisationer som faktiskt har störst behov av dem, som betalningsinfrastruktur och sjukvård. Studiens syntetiska experiment med 1,35 miljoner simulerade fall är inte verklighetsdata, utan ett sätt att testa om deras teoretiska ramverk hänger ihop logiskt – och slutsatsen att komplett loggning och ett "pre-execution gateway" (ett filter som kan stoppa en AI-åtgärd innan den utförs) är de mest kritiska kontrollpunkterna är egentligen ganska obekväm för molnleverantörerna som ofta säljer just dessa funktioner som tillval.