Amazons ControlG låter AI-modeller jonglera flera uppgifter utan att kompromissa
Amazon har utvecklat ControlG, ett system som lånar idéer från industriell maskinstyrning för att träna AI-modeller på flera uppgifter samtidigt. Istället för att blanda alla träningsmål på en gång – vilket ofta leder till att modellen presterar medelmåttigt på allt – hanteras målen ett i taget och dynamiskt, så att varje uppgift får tillräckligt med beräkningsutrymme. Det är en ganska elegant lösning på ett klassiskt problem inom maskininlärning: att lära sig mycket utan att glömma hälften av det.
Djupdykning
Multitask-inlärning är lite som att försöka vara en bra förälder, chef och vän samtidigt – du kan antingen försöka vara medioker på allt på en gång, eller faktiskt fokusera på en sak i taget. De flesta AI-system idag kör på det förra sättet: de tar uppdateringar från flera olika träningsmål och kompromissar ihop dem till en enda röra, vilket ofta innebär att ingen uppgift egentligen löses optimalt. ControlG lånar istället logiken från industriella regulatorer – alltså den typ av styrsystem som håller koll på trycket i ett rör eller temperaturen i en ugn – och applicerar den på hur modellen fördelar sin beräkningskapacitet över tid. Istället för att blanda alla mål i en enda uppdatering hanteras de sekventiellt och dynamiskt, ungefär som en fabriksrobot som faktiskt avslutar ett steg innan den börjar på nästa. Det som folk missar i den här diskussionen är att flaskalsen i multitask-AI sällan är bristen på data eller modellstorlek – det är koordinationsproblemet, och det har länge behandlats som ett andrahandsbekymmer trots att det direkt avgör om du får en generalist-modell som är bra på ingenting eller en som faktiskt kan jonglera flera uppgifter med precision.