Nvidia utvecklar ljussnabb textgenerering med diffusionsmodeller

Hugging Face Blog

Nvidia har lanserat Nemotron-Labs, en ny typ av språkmodell som använder diffusion istället för traditionella autoregressiva metoder för att generera text parallellt. Tekniken kan potentiellt göra textgenerering betydligt snabbare genom att producera alla ord samtidigt istället för ett ord i taget, även om modellerna än så länge är experimentella.