Startup vill lösa AI-modellernas flockmentalitetsproblem
LLM:er (stora språkmodeller) tenderar att ge förvånansvärt likartade svar – be dem välja ett slumpmässigt tal och de flesta svarar 7, varje gång. Ett startup jobbar nu på att bryta det mönstret och få AI-modeller att producera mer genuint varierande och oberoende svar. Det är ett subtilt men viktigt problem: om alla AI-system tänker likadant försvinner mycket av poängen med att rådfråga dem.
Djupdykning
Be om ett slumpmässigt tal mellan 1 och 10 från din AI-assistent, och chansen är stor att du får 7. Inte för att AI:n slumpar – utan för att den tränat på mänsklig text där 7 råkar vara det tal människor oftast uppfattar som "slumpmässigt". Det kallas groupthink-problemet i LLM-världen (Large Language Models, alltså de stora språkmodeller som driver ChatGPT och liknande): när modeller tränas på samma gigantiska pool av internettext absorberar de inte bara fakta, utan också mänskliga bias, konsensusåsikter och statistiska mönster som gör att de konvergerar mot samma svar. Startupens approach handlar om att aktivt injicera oenighet i systemet – antingen genom att träna på mer kontroversiella eller ovanliga perspektiv, eller genom att låta flera modeller argumentera mot varandra innan ett svar levereras. Det folk missar i den här diskussionen är att problemet inte bara handlar om "fel svar" – det handlar om att miljarder människor nu konsulterar verktyg som systematiskt återspeglar majoritetssynen, vilket riskerar att göra vår kollektiva tankeprocess ännu mer homogen än den redan är. Om AI blir vår primära informationskälla och den AI:n är inbyggt konservativ i statistisk mening, har vi i praktiken byggt en global konsensusmaskin.