Import AI: Platoniskt sinnesrum, TPU:er i rymden och Zhipus AI-självförbättring
Import AI:s senaste utgåva (nr 474) täcker tre teman: begreppet ett 'platoniskt sinnesrum' för hur språkmodeller representerar kunskap, Google-TPU:er (AI-chips) som skickas ut i rymden, samt att det kinesiska AI-företaget Zhipu påstår sig ha startat en yttre rekursiv självförbättringsloop – det vill säga att en AI börjar förbättra sig själv utan mänsklig inblandning. Det sistnämnda är det intressantaste påståendet, men källan är ännu oklar och bör tas med en nypa salt.
Djupdykning
Jack Clarks veckobrev Import AI har länge varit en av de mest vällästa insiderkällorna i AI-världen, och den här veckan packar han in tre teman som alla pekar mot samma grundläggande spänning: vad händer när AI-system börjar forma sina egna utvecklingsbanor? Det kinesiska AI-labbet Zhipu uppges ha startat en "outer RSI loop" – recursive self-improvement på systemnivå, alltså att AI:n bidrar till att förbättra sig själv i en återkopplingsslinga – vilket är precis den typ av kapabilitetsutveckling som säkerhetsforskare brukar peka ut som en potentiell tröskel. Googles TPU-chips i rymden låter som en teknisk kuriositet men signalerar något mer substantiellt: beräkningskraft håller på att bli en infrastrukturfråga i geopolitisk mening, inte bara en industriell sådan. Konceptet "platonic mindspace" – idén att det finns en sorts universal tankestruktur som alla tillräckligt stora modeller konvergerar mot oavsett träningsdata – är fortfarande spekulativt, men om det stämmer innebär det att olika AI-system från olika länder i grunden tänker mer likt varandra än vi tror, vilket underminerar hela narrativet om att "kinesiska AI" och "västerländska AI" är fundamentalt olika. Det som de flesta missar när de läser den här typen av rundningar är att de tre ämnena tillsammans beskriver ett system som accelererar på flera lager samtidigt – hårdvara, arkitektur och självförbättring – och att frågan "var överstiger du en LLMs förmågor?" som Clark ställer inte är retorisk, utan ett genuint mätproblem vi ännu inte har bra verktyg för.