AI-agenter tappar bort sig när verktygslådan växer
Forskning visar att LLM-agenter (AI som kan använda externa verktyg och instruktioner) börjar misslyckas med att hitta rätt verktyg när biblioteket växer – vid 1 000 irrelevanta verktyg sjunker träffsäkerheten från 73,6% till 27,4%, och i hälften av fallen laddar agenten inga verktyg alls. Det intressanta är att problemet inte beror på att verktygen saknas, utan på att beskrivningstexterna skapar semantisk brus som förvirrar agenten. En enkel lösning är att låta människan välja verktyg i förväg, vilket behåller 73,9% träffsäkerhet – men det motverkar ju hela poängen med självständiga agenter.
Djupdykning
Tänk dig att du bygger en AI-agent som kan anlita rätt specialist beroende på uppgiften – en "skill" är i princip ett paket med instruktioner som talar om för agenten hur den ska lösa en specifik typ av problem. Det låter smidigt, men den här studien visar att när biblioteket av skills växer börjar agenter helt enkelt sluta leta. Med 1 000 irrelevanta skills i listan föll träffrätten från 73,6% till 27,4%, och i hälften av fallen laddade agenten inga skills alls – trots att rätt skill fortfarande låg där och väntade. Det de flesta missar är att problemet inte handlar om att agenten hittar fel skill, utan om att den ger upp sökningen helt. Forskarna kallar det "semantic interference" – när beskrivningarna av tusen orelaterade skills skapar så mycket brus att agentens förmåga att resonera kring vad den faktiskt behöver kollapsar. Det är lite som att be någon hitta en specifik bok i ett bibliotek med tusen böcker om liknande ämnen: till slut slutar hjärnan försöka kategorisera och tar genvägen att inte bry sig. Det riktigt talande resultatet är att om man tar bort beskrivningstexterna för de irrelevanta skills återhämtar sig prestandan nästan helt – vilket avslöjar att det är själva metadata-labyrinten, inte uppgiftens svårighetsgrad, som saboterar systemet. Och när forskarna testade explicit förval, alltså att skills väljs ut innan agenten börjar jobba, höll träffrätten sig stabilt på 73,9% oavsett biblioteksstorlek. Det här sätter ett stort frågetecken vid hela arkitekturen bakom självständiga AI-agenter i produktionsmiljöer – de flesta företag som bygger agentsystem räknar med att biblioteket av capabilities kommer att växa, men sällan med att det växandet i sig är det som bryter systemet.