Axiom Math skapar verifierad AI för matematisk bevisföring
Carina Hong från Axiom Math diskuterar hur företaget bygger AI-system som kan verifiera matematiska bevis och resonemang formellt, istället för bara att generera trovärdiga svar. Målet är att skapa 'sammansatt intelligens' där AI kan bygga vidare på tidigare korrekt verifierade resultat för att lösa mer komplexa problem.
Djupdykning
AI-forskningen står inför samma problem som matematiken hade på 1800-talet - vi behöver gå från informella bevis till formella, verifierbara system. Carina Hongs arbete på Axiom Math handlar om att bygga AI-system som inte bara genererar svar, utan kan bevisa att svaren är korrekta genom matematisk verifiering. Det här är egentligen en attack på AI:s största svaghet: hallucineringar och opålitlighet. Medan de flesta fokuserar på att träna större modeller, försöker Hong istället skapa system där varje slutsats kan spåras och verifieras steg för steg, precis som en matematisk kedja av resonemang. "Compounding intelligence" - tanken att AI-system kan bygga på varandras verifierade resultat över tid - skulle kunna vara nyckeln till verklig AGI. Istället för att börja om från början varje gång, kan framtida AI-system ärva ett växande bibliotek av bevisade sanningar. Tänk på det som skillnaden mellan Wikipedia (där vem som helst kan skriva vad som helst) och peer-reviewed forskning där varje påstående måste backas upp med bevis.