Fel i astronomisk AI-modell: ett dolt detektionslager snedvrider mätningar drastiskt

arXiv cs.AI

Forskare har granskat AION-1, en AI-modell tränad på över 200 miljoner astronomiska objekt, och hittat ett allvarligt systematiskt fel: en intern kartläggningssignal (survey segmentation map) påverkar modellens utdata 110–4400 gånger mer än ett kontrollexperiment borde tillåta. Felet uppstår för 3,68% av observationerna och kan i värsta fall skeva kosmologiska rödflyktsmätningar (ett mått på avstånd i universum) upp till 8,3 gånger utanför acceptabla gränser. Det intressanta är att lösningen är enkel – ta bort detektionskanalen helt – men att problemet förvärras ju större modellen blir.