Forskare vill göra påståenden om AI-agenter granskningsbara
En ny artikel argumenterar för att påståenden om AI-agenter – till exempel att en människa godkänner varje e-post eller att alla åtgärder loggas – måste uppfylla fyra tydliga kriterier för att överhuvudtaget kunna granskas: definierad policy, scope, vilka register som avgör frågan, och vem som skriver dem. Det är ett praktiskt svar på att EU:s AI-förordning (artikel 12) kräver händelseloggning för högriskssystem men inte specificerar vilka loggar som faktiskt bevisar vad. Metoden testas mot sex vanliga påståenden och är förankrad i standarder från NIST, IETF och OWASP.
Djupdykning
AI-agenter är mjukvarusystem som kan agera självständigt – skicka mejl, fatta beslut, utföra uppgifter – och när organisationer säger att de har kontroll över dem är det ofta oklart vad det faktiskt innebär i praktiken. Den här artikeln tar ett konkret grepp om det problemet: om du påstår att "en människa godkänner varje externt mejl" måste du kunna specificera exakt vilken policy som gäller, vad den täcker, vilka loggar som bevisar det, och vem som skriver dem – annars är påståendet inte verifierbart, oavsett hur sant det känns inifrån organisationen. EU AI Act kräver loggning av händelser i högrisksystem, men lagen säger ingenting om vilka specifika loggar som faktiskt bevisar ett givet påstående, vilket är ett gapande hål som den här forskningen försöker fylla. Det de flesta missar är att problemet inte är tekniskt – det är epistemiskt. Företag tror att de har kontroll för att de har loggar, men loggar utan en fördefinierad koppling till ett specifikt påstående är ungefär lika värda som ett kvitto utan datum. Artikelns poäng är att verifierbarhet måste bestämmas innan granskningen, inte efteråt när någon redan börjat leta efter bevis som passar narrativet. När autonoma system börjar fatta allt fler beslut med verkliga konsekvenser kommer "vi har koll" att vara lika otillräckligt som "vi följer GDPR" var 2019 – alla sa det, väldigt få kunde visa det.