OpenAIs nya tänkande-teknik oroar AI-säkerhetsexperter

TechCrunch AI

OpenAIs kommande modell Astra ska använda en teknik kallad 'recurrent depth' – vilket innebär att modellen kan resonera utanför den steg-för-steg-logik som de flesta nuvarande AI-modeller är begränsade till. Det är just den oförutsägbarheten som får säkerhetsforskare att höja ett varningens finger: när en modell inte längre tänker i ordnade, granskningsbara steg blir det svårare att förstå vad den faktiskt gör.