Dolda styrmekanismer i AI-modeller: när det du ser inte är hela bilden
Forskare lyfter fram ett ofta förbisett problem: språkmodeller kan manipuleras i realtid – efter träning men innan svaret når användaren – genom att justera sannolikhetsfördelningen för vilka ord som väljs, utan att det avslöjas. Det innebär att ett AI-systems synliga beteende kan styras av kommersiella eller politiska intressen som varken användare eller granskare känner till. Artikeln kopplar detta till EU:s AI-förordning och DSA och frågar vem som egentligen ansvarar när felen inte sitter i modellen – utan i det lager som distribuerar den.
Djupdykning
När du chattar med en AI tror du förmodligen att du pratar med en modell – men du pratar egentligen med ett system, och det är inte samma sak. Det den här artikeln pekar på är att mellan det ögonblick då AI:n "tänker klart" och det ögonblick då orden faktiskt dyker upp på din skärm finns ett dolt lager där operatören kan skruva på sannolikheterna för vilka ord som väljs – tekniken kallas logit-manipulation och är redan väletablerad, bland annat för att bädda in osynliga vattenstämplar i AI-genererad text. Det provocerande konceptet "Probability Placement" som forskarna introducerar är i princip dold reklam 2.0: istället för att ett företag köper en banner köper de en systematisk knuff i språkmodellens ordval, helt utan att du märker det. Problemet är att när beteendet väl syns går det inte att avgöra om det kommer från träningsdatan, från hur modellen är finjusterad, eller från det här dolda lagret – vilket forskarna kallar Inference Attribution Problem och som i praktiken gör det nästan omöjligt att utkräva ansvar. Det de flesta missar är att debatten om AI-bias hittills nästan uteslutande handlat om vad som sitter i modellens vikter – alltså bakat in under träningen – medan den här artikeln argumenterar för att den verkliga makten kan ligga hos den som driftar systemet i realtid, efter att modellen är fryst och granskad. EU:s AI-förordning och DSA är skrivna för att reglera modeller och plattformar, men om den avgörande editorialiseringen sker i ett inferenslager som inte är transparent finns det just nu inget krav på att ens avslöja att det existerar.