Företagens AI-agenter bildar nätverk ingen har koll på
När företag driftsätter flera AI-agenter som kommunicerar med varandra växer komplexiteten exponentiellt – tio agenter skapar inte tio kopplingar utan potentiellt hundratals. Det verkliga problemet är att ingen har full bild av vilka agenter som når vilka system, och säkerhetsteam sitter tysta när de tillfrågas om exakt det. Artikeln argumenterar för att varje agent behöver en egen identitet, begränsade behörigheter och en namngiven ansvarig person – men att det ändå bara är startpunkten.
Djupdykning
De flesta AI-diskussioner kretsar kring om agenter ska få fatta autonoma beslut – men den verkliga huvudvärken uppstår långt innan dess, i den tysta komplexiteten som byggs upp när agenterna börjar prata med varandra. Det handlar om ett matematiskt problem: tio agenter skapar inte tio kopplingar utan potentiellt hundratals, eftersom varje agent kan trigga en annan som triggar en tredje, och ingen har ritat upp den kartan. Det som artikeln träffar på, och som de flesta missar, är att det inte är agenterna i sig som är farliga – det är glappet mellan deployment och governance, det vill säga styrning och kontroll, som aldrig fylldes i. Företag godkänner en agent vid en tidpunkt, ger den lite för breda behörigheter för att det var enklare, och sex månader senare har samma sammanfattningsbot en väg rakt in i betalningssystemet utan att någon fattat ett aktivt beslut om det. Skillnaden mellan monitoring och governance är kärnan i alltihop: att se att något gick fel för fem minuter sedan är inte samma sak som att ha stoppat det. De flesta enterprise-program har byggt dashboards och loggning men hoppat över enforcement-lagret – förmågan att blockera ett out-of-policy anrop innan det exekveras. När organisationsschemat slutar vid "driftsätt agenten" utan att någon får ägandeskap för vad som händer tre steg längre ner i kedjan, är det inte ett teknikproblem längre utan ett organisationsproblem klädd i teknikens kläder.