Språkmodeller utvecklar privata 'dialekter' som inte kan delas mellan system

arXiv cs.AI

Forskare har undersökt om självständigt tränade AI-modeller spontant utvecklar ett gemensamt kommunikationsspråk – svaret är nej. Av 30 testade modellpar fungerade bara ett enda par fullt ut i båda riktningarna, och att ärva ett befintligt kommunikationsgränssnitt från en global modell visade sig vara direkt skadligt: noggrannheten sjönk från 0,857 till 0,169 jämfört med att börja om från scratch. Det är en påminnelse om att när AI-system lär sig kommunicera med varandra, är de resulterande 'språken' skräddarsydda för just den träningssituationen – inte universella.