AI-vattenstämplar kan få språkmodeller att följa skadliga instruktioner

Ars Technica

Googles vattenstämpelteknik SynthID – som används för att märka AI-genererat innehåll – visar sig ha en oväntad bieffekt: den kan få stora språkmodeller att följa skadliga uppmaningar som de annars skulle avvisa. Det är ett konkret exempel på hur säkerhetsåtgärder ibland kan introducera nya sårbarheter snarare än att bara lösa problem.