Amazon bygger verktyg för att förbättra träning av AI-agenter
Amazon Science presenterar Turnstile, en proxy (mellanhand som vidarebefordrar data) skriven i programspråket Rust, som placeras mellan en AI-modell och dess agentramverk för att fånga upp detaljerad tokeninformation under interaktioner. Poängen är att vanliga textloggar missar viktig data som behövs för förstärkningsinlärning (en träningsmetod där modellen belönas för rätt beteende), och Turnstile löser det utan att ändra befintlig infrastruktur.
Djupdykning
När AI-agenter jobbar autonomt – alltså navigerar webbsidor, skriver kod eller fattar beslut utan mänsklig hand-hållning – loggas vanligtvis bara den färdiga texten. Men bakom kulisserna kommunicerar modellen i token-IDs, ungefär som råkoordinater innan de ritas upp på kartan, och de avslöjar saker om modellens interna beslutsprocess som den slutliga texten inte gör. Turnstile är en proxy skriven i Rust (ett programspråk känt för låg latens och minnessäkerhet) som klipper in sig mellan modellen och agentramverket för att fånga just dessa IDs i realtid utan att störa flödet. Det de flesta missar är att det här i grunden handlar om datakvalitet för reinforcement learning – träningsparadigmet där modeller lär sig av belöningssignaler snarare än direkta exempel. Bättre loggning av vad modellen faktiskt "såg och valde" under en agentic session ger betydligt rikare träningsdata, vilket kan vara skillnaden mellan en agent som lär sig generaliserbart beteende och en som bara memorerar ytan av lyckade körningar. Det är ett infrastrukturproblem som sällan syns i rubriker men som sitter djupt i rörmokerilagret av hur nästa generations AI-system faktiskt byggs.