Forskare vill ge 'emergenta AI-förmågor' en precis definition

arXiv cs.AI

När ett AI-system plötsligt klarar saker som dess enskilda delar inte kan – det som kallas 'emergence' – brukar påståendena vara löst grundade och svåra att jämföra eller motbevisa. Forskare föreslår nu att ett matematiskt ramverk kallat informationsdekomposition ska användas för att avgöra när något verkligen är emergent: beteendet måste bära 'synergistisk information', alltså information som bara uppstår när delarna kombineras. Ramverket testas på allt från uppmärksamhetshuvuden (attention heads) i språkmodeller till människa-AI-team, och det intressanta är att det öppnar för jämförelser som tidigare siloiserade forskningsfält aldrig gjort.