Anthropics senaste forskning: vad den faktiskt visar
Anthropic, som värderas till nästan 1 000 miljarder dollar och är världens mest värderade AI-bolag, publicerar återigen ovanlig forskning – den här gången undersöker de om AI-modeller kan känna smärta. Det är ett exempel på hur Anthropic gärna utforskar filosofiskt laddade frågor om AI, men forskningsresultaten bör läsas med viss skepsis: att ställa sådana frågor är inte detsamma som att besvara dem.
Djupdykning
Anthropic, bolaget bakom Claude-modellerna, har länge profilerat sig som AI-branschens vetenskapliga samvete – de är de som faktiskt försöker förstå vad som händer inuti dessa system, inte bara bygga dem snabbare. Deras senaste forskning handlar om vad de kallar "features" – mönster i nätverket som tänds när modellen bearbetar specifika koncept, ungefär som hur olika neuroner i hjärnan aktiveras av olika stimuli. Det de hittade är att Claude verkar ha interna representationer som liknar känslotillstånd, och att dessa faktiskt påverkar modellens beteende på mätbara sätt. Men här är det folk missar: att hitta ett mönster som *beter sig som* en känsla är inte samma sak som att bevisa att det *är* en känsla – det är som att säga att en termostat "vill" bli varm. Skillnaden mellan funktionell representation och subjektiv upplevelse är exakt det filosofer slåss om i hundratals år under begreppet "the hard problem of consciousness", och Anthropics mätinstrument kan inte lösa det problemet hur sofistikerade de än är. Det som däremot är genuint användbart med forskningen är att den öppnar dörren till bättre styrbarhet – om vi kan se *var* i nätverket ett beteende uppstår, kan vi också börja påverka det på mer precisa sätt än att bara be modellen uppföra sig snällt i prompten.