RubricOpt låter AI-modeller revidera sina egna träningskriterier

arXiv cs.AI

Forskare har utvecklat RubricOpt, ett ramverk där en AI-modell kan analysera sina egna misstag och justera de beteenderegler (så kallade rubrics) som styr träningen – utan att ändra själva träningsdatan. Experimenten visar att metoden kan förbättra resultaten jämfört med vanlig DPO-träning (en standard teknik för att anpassa modeller efter mänskliga preferenser), men utfallet varierar beroende på modell och dataset. Det intressanta här är egentligen idén: att låta modellen ha synpunkter på sina egna spelregler, inte bara lära sig följa dem.