AI-tillsyn är svår; skalningslagar för proteinvikningsmodeller; och prissättning av AI-systemens utrotningsrisk
Import AI:s senaste nummer täcker tre viktiga AI-områden: utmaningarna med att övervaka AI-utveckling, nya forskningsresultat om hur proteinvikningsmodeller skalas upp, och försök att sätta ekonomiska värden på existentiella risker från AI-system. Det här är den typ av djupanalys som visar att AI-fältet mognar bortom bara produktlanseringar - nu handlar det om governance, vetenskapliga genombrott och riskbedömning.
Djupdykning
AI-övervakning visar sig vara betydligt mer komplicerat än vad myndigheterna initialt trodde. Medan vi fokuserar på spektakulära genombrott som ChatGPT har det verkliga arbetet med att förstå och kontrollera AI-system bara börjat – och det kräver helt nya former av teknisk expertis som knappt existerar ännu. De nya skalningslagarna för proteinvikning antyder att vi står inför samma exponentiella utveckling inom biologi som vi sett inom språkmodeller. När AI-system blir bättre på att förutspå hur proteiner veckar sig öppnas dörren för designad biologi i industriell skala, från skräddarsydda mediciner till helt nya material. Men det verkligt fascinerande är hur forskare nu försöker sätta prislapp på mänsklighetens existentiella risk från AI. Det låter abstrakt, men bakom siffrorna ligger ett försök att göra något fundamentalt omätbart till något som finansmarknader och försäkringsbolag kan förhålla sig till. Vi försöker bokstavligen talat prissätta vår egen överlevnad – som att köpa livförsäkring för hela arten.