TokenBank: Finansiell infrastruktur för att hantera kostnader i AI-tjänster

arXiv cs.AI

Forskare föreslår TokenBank – ett system för finansiella avtal som hjälper operatörer av AI-tjänster att hantera det klassiska problemet att inferenskostnader (vad det kostar att köra modellen) uppstår nu medan intäkterna kommer senare. Systemet stödjer bland annat terminskontrakt som låser API-priser i förväg: i ett stigande prisscenario sänkte det genomsnittliga utgifterna med 304,88 USD, om än med något högre volatilitet. Idén är sund – AI-tjänster är i grunden finansiella instrument med osäkra kostnader och intäkter, men det saknas infrastruktur för att hantera det.