LEV: En beslutsmodell som tänker djupare utan att generera text

arXiv cs.AI

Forskare presenterar LEV, en AI-modell som förbättrar sin noggrannhet genom att köra sina lager i en loop istället för att generera text – lite som att tänka om ett svar utan att skriva ut varje tankesteg. En 2,6-miljardersparametersmodell förbättrades från 63,2% till 76,2% korrekthet när den fick köra fyra loopar istället för en, framför allt på svårare frågor. Systemet sparar dessutom 15–24% beräkningskraft automatiskt genom att avgöra per fråga hur djupt den behöver tänka.