Ny metod gör osäkerhetsuppskattning i neurala nätverk mer skalbar

arXiv cs.AI

Forskare presenterar en metod som gör det möjligt att uppskatta hur säker ett neuralt nätverk är på sina förutsägelser – utan den enorma beräkningskostnad som full bayesiansk inferens (statistisk sannolikhetsberäkning) normalt kräver. Tricket är att fokusera på ett litet antal 'aktiva riktningar' i nätverkets parameterrum och skala posteriorvariansen på ett smartare sätt. Det intressanta fyndet är att den vanliga skalningsmetoden gör att nätverket behöver fler dimensioner än nödvändigt, vilket faktiskt försämrar kvaliteten på konfidensintervallen.