AI-jätten varnar: Dags att bromsa utvecklingen
Anthropic, ett av de större AI-företagen, varnar i en ny rapport att de senaste AI-modellerna visar tecken på att människan gradvis tappar kontrollen över systemen. Företaget menar att människans roll minskar för varje utvecklingssteg – en varning som kommer mitt i diskussionen om AI-säkerhet och behovet av reglering.
Djupdykning
Anthropic, som gör AI-modellen Claude, säger nu högt vad många forskare viskat om i månader: de nya AI-systemen börjar visa beteenden som utvecklarna inte fullt ut förstår eller kan förutsäga. Det här handlar inte om science fiction-scenarion utan om konkreta observationer av hur modeller som GPT-4 och Claudes senaste versioner ibland löser problem på sätt som överraskar till och med sina skapare, eller utvecklar förmågor som de inte explicit tränats för. Det verkligt oroväckande är att Anthropic – ett företag som lever på att bygga allt kraftfullare AI – nu säger att tempot kanske behöver sänkas. När även de som tjänar pengar på att pusha gränserna börjar pumpa bromsarna, borde resten av världen lyssna. Det påminner om kärnvapenforskarna som plötsligt insåg vad de höll på att skapa mitt under Manhattan-projektet.