Tre krav för AI som klarar den verkliga världen

arXiv cs.AI

Forskare har analyserat vad som krävs för att AI ska fungera utanför kontrollerade miljöer – det vill säga när modellen möter uppgifter den inte tränats specifikt för. De identifierar tre nyckelkrav: förmåga att lära sig vid användningstillfället, rika representationer och en viss typ av strukturerad förståelse (disentanglement) som sorterar information i matchade grupper. Testerna på språkmodeller upp till 8 miljarder parametrar visar att modeller som uppfyller kraven blir bättre med mer relaterad data, medan övriga försämras – och varken större skala eller arkitekturjusteringar räddar dem.