Smarter avkodning: AI-modell anpassar sin tanketid efter frågans svårighetsgrad

arXiv cs.AI

Forskare har tagit fram en metod som låter diffusions-baserade vision-språkmodeller (AI som kombinerar bild- och textförståelse) automatiskt avgöra hur länge de ska 'tänka' på ett svar – enkla frågor avslutas tidigt, medan komplexa resonemang får mer utrymme. Systemet fungerar utan extra träning och styrs av signaler från modellens egna mellansteg, ungefär som att läsa av om en person verkar klar med sin tanke eller fortfarande funderar. Det låter kanske tekniskt, men poängen är rätt elegant: en universal svarstid passar lika dåligt alla frågor som att ge alla elever exakt samma provtid.