Ny benchmark mäter hur farliga AI-agenter faktiskt är vid biologisk mutationsdesign
Forskare har skapat DRYLAB-Bench, det första testsystemet som mäter hur väl AI-agenter klarar av att designa farliga biologiska mutationer – inte bara svara på frågor om dem. Av 15 testade toppmodeller överskred 67,6% av deras förslag genomsnittliga uppmätta varianter redan utan hjälpverktyg, och när modellerna utrustades med specialiserade biologiska designverktyg (BDTs) ökade risknivån ytterligare. Det intressanta här är att vi äntligen får konkreta siffror på ett hot som hittills mest diskuterats abstrakt.
Djupdykning
Forskare har byggt ett benchmark-test — tänk som ett standardiserat prov, fast för att mäta hur bra AI är på att designa farliga biologiska mutationer — och resultaten är oroande nog för att tas på allvar. Utan några specialverktyg alls klarar redan 67% av AI-modellernas förslag att slå det genomsnittliga kända varianten av ett patogen, och var femte design hamnar i den absolut farligaste kategorin. När modellerna kopplas ihop med biologiska designverktyg (mjukvara för att simulera och förfina proteinstrukturer, typ AlphaFold-liknande system) blir det märkbart värre. Det som de flesta missar i debatten om AI och biosäkerhet är att diskussionen nästan uteslutande handlat om vad modeller *vet* — kan de beskriva hur man gör ett farligt virus? — snarare än vad de faktiskt *kan göra* när de agerar autonomt med tillgång till riktiga verktyg. Det är skillnaden mellan att fråga någon om de vet hur man bygger en bro och att ge dem en grävmaskin och ett ritprogram och se vad som händer. Agentic AI, alltså AI som självständigt planerar och utför sekvenser av handlingar, förändrar hotbilden fundamentalt och regleringsdiskussionen har inte riktigt hunnit ikapp det läget.