AI:s självförbättring kanske dröjer längre än väntat
Branschens hetaste löfte just nu är att AI snart ska kunna förbättra sig självt utan mänsklig inblandning – en process som kallas rekursiv självförbättring. Men ny analys tyder på att den där brytpunkten inte är lika nära som optimisterna hävdar. Intressant nog är det de tekniska detaljerna – inte bristen på ambition – som bromsar utvecklingen.
Djupdykning
Drömmen om en AI som förbättrar sig själv i en evig uppåtgående spiral – och gör mänskligheten till passagerare – är en av de mest spridda föreställningarna i techvärlden just nu. Men det finns ett grundläggande problem som ofta glöms bort: för att en AI ska kunna förbättra sig själv på ett meningsfullt sätt måste den faktiskt förstå vad "bättre" innebär, och det kräver utvärderingsförmåga som är minst lika sofistikerad som förmågan att generera förbättringarna. Nuvarande LLM:er – det vill säga de stora språkmodeller som driver ChatGPT och liknande – är duktiga på att producera kod och syntetisk träningsdata, men de har en välkänd tendens att inte märka när de har fel, vilket är ett rätt centralt hinder om du ska lita på dem som sina egna kvalitetskontrollanter. Det folk missar i hype-cykeln är att rekursiv självförbättring inte är ett enda tekniskt problem att lösa, utan ett helt knippe separata problem som måste lösas i rätt ordning – och vi vet inte ens säkert vilken ordningen är. Analogin är ungefär som att anta att en student som kan skriva uppsatser också automatiskt kan bli en bättre lärare, sätta bättre betyg och designa ett bättre skolsystem – det är fundamentalt olika kompetenser.