Import AI 469: Science AI; RSI simulator; and Zuck's technological pessimism
Nästa stora utmaning inom AI är att bygga system som kan bedriva forskning på egen hand – utan att en människa håller i handen hela tiden. Import AI:s senaste nummer tar upp Science AI, en RSI-simulator (repetitive strain injury, alltså ett verktyg för att simulera belastningsskador) och Mark Zuckerbergs teknikpessimism som gemensamt tema: vart är egentligen den autonoma AI-agenten på väg?
Djupdykning
OpenAI, Google DeepMind och ett växande gäng startups har börjat rikta in sina starkaste modeller mot ett enda mål: att bygga AI som kan bedriva vetenskaplig forskning på egen hand – inte bara sammanfatta papers, utan faktiskt formulera hypoteser, designa experiment och iterera på resultat. Det handlar om så kallade "autonoma forskaragenter", där AI får tillgång till verktyg som kodexekvering, databaser och ibland till och med robotiserade laboratorier. Zuckerberg har samtidigt uttryckt en slags teknologisk pessimism som sticker ut i branschen – en oro över att AI-framstegen kanske inte automatiskt leder till de genombrott folk hoppas på, vilket är en ovanlig signal från någon som investerar tiotals miljarder i just den tekniken. Det många missar i hypen kring "AI-forskare" är att flaskhalsen sällan är själva idégenereringen – det är verifikation, replikation och det tråkiga grovjobbet att avgöra om ett resultat faktiskt håller, och där är nuvarande modeller fortfarande remarkabelt svaga. En RSI-simulator – RSI står för Recursive Self-Improvement, alltså AI som förbättrar sig själv – dyker också upp som forskningsverktyg, vilket antyder att fältet börjar ta på allvar vad som händer när förbättringsslingorna stängs och människan inte längre är i loopen.