USA presenterar strategi för superintelligens – och frågan om AI:s gränser
Import AI:s senaste utgåva täcker tre teman: USA:s officiella strategi för att nå superintelligens, experiment där mänskliga hjärnceller odlas i musskalle, och 'maskinhermeneutik' – hur AI tolkar text. Det verkligt intressanta är frågan som löper genom hela numret: börjar AI stöta på en verklig prestationsplatå, eller inbillar vi oss det?
Djupdykning
AI-communityt har länge trott att nästa genombrott alltid är ett skalsteg bort – mer data, fler parametrar, kraftfullare chips – men det börjar se ut som att den ekvationen håller på att gå sönder. USA:s superintelligens-strategi, som diskuteras i senaste Import AI, handlar i grunden om att staten börjar ta på allvar att AGI inte är en science fiction-fråga utan en geopolitisk kapprustning, ungefär som kärnvapenprogrammen på 40-talet fast med oklara regler och inga fördrags-ramverk. Parallellt pågår faktiskt forskning på att sätta mänsklig hjärnvävnad i råttskallar för att studera kognition på ett sätt som AI-modeller fortfarande är hopplöst dåliga på att replikera – den typen av forskning antyder att vi kanske inte förstår intelligens tillräckligt bra för att bygga det. Och maskinermeneutik – tolkning av text och mening med hjälp av AI – är ett fält som pekar på en djupare problematik: modeller kan producera övertygande text om mening utan att ha något som liknar förståelse. Det de flesta missar är att "väggen" inte nödvändigtvis är teknisk – det kan lika gärna vara konceptuell. Vi bygger kraftfullare versioner av system vars grundläggande arkitektur kanske inte skalas till det vi faktiskt vill ha, och strategidokument från Washington löser inte det problemet, de investerar bara mer pengar i det.