Ny metod får diffusionsmodeller att följa grammatikregler – upp till 46 gånger snabbare

arXiv cs.AI

Forskare har tagit fram DConstrain, ett system som tvingar diffusionsspråkmodeller (en typ av AI-modell som genererar flera ord samtidigt, till skillnad från GPT-liknande modeller som gör det ett i taget) att följa strikta scheman som JSON. Resultatet är imponerande: DiffusionGemmas träffsäkerhet på ett standardtest hoppade från 37% till 82%, och avkodningshastigheten ökade med upp till 46 gånger. Det intressanta här är att diffusionsmodeller länge haft problem med just strukturerad output – ett hinder som nu verkar ha en konkret lösning.