Import AI om superövertalning, självförsörjande AI och vägar mot ASI
Senaste numret av Import AI tar upp tre tunga teman: AI:s förmåga att övertala människor på ett sätt som överstiger mänsklig kapacitet, system som kan underhålla sig själva utan mänsklig inblandning, och olika tänkbara vägar mot ASI (artificiell superintelligens). Intressant nog undersöker numret också hur trosliknande övertygelserna kring 'singulariteten' faktiskt är – en fråga som säger lika mycket om AI-kulturen som om tekniken själv.
Djupdykning
OpenAI-forskaren Jack Clark summerar tre teman som just nu håller på att forma AI-diskussionen: "superpersuasion" (AI som kan övertyga människor om nästan vad som helst), självförsörjande AI-system som kan köra sig själva utan mänsklig inblandning, och olika vägar till AGI/ASI – alltså AI på eller bortom mänsklig nivå. Det som verkligen sticker ut är frågan om tron på "singulariteten" liknar religiös övertygelse mer än vetenskaplig konsensus, vilket är ett ovanligt ärligt sätt att prata om den egna branschen. Superpersuasion är förmodligen det mest underskattade hotet just nu – vi pratar mycket om AI som skriver kod eller genererar bilder, men en AI som systematiskt kan nudga människor mot specifika åsikter i skala är en annan kaliber av problem. Självförsörjande system, där AI kan hantera sin egen infrastruktur och förbättra sig utan att vänta på mänskliga instruktioner, tar bort en av de få bromsar vi faktiskt har inbyggda i dagens system. Det mesta av debatten kring AI-säkerhet fokuserar på vad modellerna *kan göra*, men frågan om hur religiösa vi egentligen är i våra antaganden om vart det här är på väg – det underminerar hela grunden för hur vi bedömer risker och tidslinjer.