Ny plattform låter AI-modeller tävla om priset per fråga

arXiv cs.AI

Forskare har byggt en marknadsplattform där LLM-leverantörer bjuder mot varandra i realtid för att hantera användarfrågor, istället för det vanliga fastprismodellen per token. Experimenten med Llama- och Qwen-modeller visar att prisskillnaderna kan vara enorma – det billigaste alternativet som klarar kvalitetskravet kostade mellan 10% och 71% mindre än konkurrenterna beroende på uppgift. Det antyder att dagens fasta prissättning lämnar ganska mycket pengar på bordet för slutanvändarna.