Experter har världsmodeller. LLM:er har ordmodeller
Experter arbetar genom att välja strategiska drag baserat på andra aktörer och dolda tillstånd, medan stora språkmodeller (LLM:er) fokuserar på att producera enskilda artefakter. LLM:er behöver utveckla världsmodeller för att hantera mer komplex expertarbete som kräver strategiskt tänkande.
Djupdykning
Den här analysen pekar på en fundamental begränsning hos dagens stora språkmodeller (LLMs) som går till hjärtat av skillnaden mellan mänsklig expertis och AI-kapacitet. Medan experter inom olika områden bygger interna mentala modeller av hur världen fungerar och kan resonera om komplexa scenarier med dolda variabler och andra aktörer, är LLMs främst tränade på att producera troliga textsekvenser baserat på mönster i träningsdata. Detta förklarar varför LLMs ofta misslyckas med uppgifter som kräver strategiskt tänkande, långsiktig planering eller förståelse för andras intentioner – de saknar verkliga "världsmodeller" som kan simulera komplexa system och interaktioner. För att AI ska nå nästa nivå krävs därför inte bara bättre språkförståelse, utan fundamentala genombrott inom hur maskiner kan bygga och använda interna representationer av verkligheten. Detta har stora konsekvenser för vilka områden där AI kan vara verkligt användbar idag kontra framtiden, och förklarar varför många AI-implementationer fortfarande kräver omfattande mänsklig översyn inom komplexa domäner. Nyckelinsikt: Framtidens AI-genombrott ligger inte i bättre textgenerering, utan i att utveckla system som kan bygga och resonera med interna modeller av verkligheten.