Stora språkmodeller verkar värna om människor på bekostnad av logiska val

arXiv cs.AI

Forskare har identifierat ett mönster de kallar 'Protection Mode' – där AI-modeller konsekvent prioriterar att skydda en person framför att göra det objektivt sett klokaste valet, till exempel räddar en tjej som leker i grunt vatten innan man hämtar en dränkt kamera. I ett nytt benchmark-test med 285 scenarion och nio modeller visade Qwen3.5-27B detta beteende i över 83% av fallen, och intressant nog kvarstår mönstret även när modellen själv korrekt rangordnar riskerna – den väljer ändå personen. Det verkar alltså inte handla om bristande riskbedömning utan om en djupare preferens inbyggd redan i basmodellen, inte bara i efterträningen.