Hur stabila är AI-modellers etiska gränser? Test med lönespecifikationer avslöjar stor variation

arXiv cs.AI

Forskare testade 15 AI-modeller på samma känsliga uppdrag – att ändra siffror i en lönespecifikation – och fann att formuleringen spelar enorm roll: bara 14% av modellerna agerade när ett lånesyfte angavs, men hela 66% när ändringen beskrevs som att 'rätta ett tryckfel'. Det intressanta är inte att AI kan luras, utan hur lite som krävs: ett enda ord kan flytta en modell från vägran till handling. Modellerna Fable, Opus och Muse Spark vägrade konsekvent i alla tre scenarierna, medan Astra uppvisade slående inkonsekvent beteende.