GPT-6 Astra och transformers som tänker i loopar

Ahead of AI

Ny forskning utforskar så kallade 'looped transformers' – där samma beräkningslager körs upprepade gånger istället för linjärt – vilket kan ge AI-modeller djupare resonemang utan att öka antalet parametrar. Tekniken kallas 'recurrent depth' och kopplas till spekulationer om GPT-6 Astra, som uppges kunna dölja mellansteg i sitt tänkande (hidden chain of thought) innan det ger ett slutsvar. Det intressanta här är att man försöker få modeller att 'tänka mer' utan att bara göra dem större.