Anthropic kikar in i Claudes tankevärld – och hittar ett dolt rum
Anthropic har fått den tydligaste inblicken hittills i vad som faktiskt händer inne i stora språkmodeller (AI-system som Claude) när de bearbetar frågor – de har identifierat ett slags dolt mellanrum där modellen 'funderar' på begrepp innan den svarar. Samtidigt rapporteras OpenAI arbeta på en så kallad super-app som ska samla flera tjänster under ett tak.
Djupdykning
Anthropic har gjort något ganska remarkabelt – de har hittat vad de kallar ett "dolt utrymme" inuti Claude där modellen faktiskt verkar bearbeta och resonera kring koncept innan den svarar, ungefär som ett mentalt utkast ingen får se. Det här är ett genombrott inom interpretability-forskning, alltså den gren av AI-säkerhetsarbete som handlar om att förstå vad som faktiskt händer inne i modellerna snarare än att bara titta på output. De flesta diskussioner om AI-säkerhet fastnar i abstrakta resonemang om hypotetiska risker, men Anthropic gräver i maskinens faktiska innanmäten. Det som de flesta missar i rapporteringen kring det här är att det inte primärt är en teknisk nyhet – det är en signal om maktbalansen i branschen, för det bolag som bäst förstår vad som händer inne i modellerna kommer att ha ett enormt försprång när reglering väl kommer på allvar. Om den här typen av insyn skalas upp kan det förändra hela premissen för hur vi diskuterar AI-tillsyn – från "lita på våra riktlinjer" till faktisk verifierbar transparens.