Varför dagens AI fastnar i sin egen tankeram – och vad som krävs för att ändra det
Forskare pekar på två grundläggande brister hos moderna AI-system: de kan inte uppfinna genuint nya begrepp ('vocabulary gap') och de har svårt att bedöma värdet av en ny idé innan den visat sig användbar i framtida sammanhang ('verifier gap'). Det intressanta här är att GPT-liknande modeller egentligen bara kombinerar om det de redan känner till – de söker inom ett givet problemrum snarare än att rita om kartan. Artikeln föreslår bland annat minnessystem för nyuppfunna representationer och mekanismer för utvärdering som kan växa med modellen över tid.
Djupdykning
Dagens AI-system är bra på att lösa problem inom givna ramar – men vad händer när själva ramen behöver bytas ut? Det är kärnan i det här pappret, som pekar på två fundamentala luckor: "vocabulary gap" (svårigheten att uppfinna nya grundläggande begrepp snarare än att bara kombinera gamla) och "verifier gap" (svårigheten att bedöma värdet av ett nytt begrepp när det kanske inte visar sin fulla nytta förrän långt senare). Tänk på det så här: nuvarande AI är extremt bra på att spela schack inom schackets regler, men saknar förmågan att inse att ett helt annat spel vore mer värdefullt att uppfinna. Det forskarna egentligen beskriver är skillnaden mellan en bra lönearbetare och en äkta pionjär – båda arbetar hårt, men bara den ena kan omdefinieras vad "arbete" ens betyder. Det de flesta missar i AI-debatten är att vi pratar om kapacitet inom fördefinierade domäner när vi säger att modeller "resonerar" eller "löser problem" – matematikolympiader, koduppgifter, logikpussel. Allt det är intra-space, alltså rörelse inom ett känt koordinatsystem. Den verkliga frågan är om ett system kan skapa koordinatsystemet självt, vilket är precis vad mänskliga genombrott som kvantmekanik eller evolutionsteorin innebar. Och det svåra med verifier-problemet är att du inte kan träna ett system att belöna bra idéer om du inte redan vet vilka idéer som är bra – en cirkel som mänskligheten löst med något så oprecist som "tid och efterföljd".