Trumps AI-testramverk utesluter öppna modeller
USA:s nya ramverk för att testa AI-modellers säkerhetsrisker har en stor lucka: öppna modeller – alltså sådana som vem som helst kan ladda ner och undersöka – omfattas inte alls. Riktlinjerna är dessutom frivilliga och slår fast att ramverket inte kan användas för att begränsa öppna modeller efter att de redan släppts. Det väcker frågan om vad testningen egentligen ska åstadkomma.
Djupdykning
Trumps AI-testramverk ser på pappret ut som ett säkerhetsnät, men det har ett hål som är tillräckligt stort för att köra ett datacentret igenom. Frivilliga riktlinjer utan möjlighet att faktiskt begränsa öppna modeller är i praktiken en dokumentövning – och just öppna modeller som Metas Llama är de som faktiskt sprids fritt och kan modifieras av vem som helst, inklusive aktörer som inte direkt bjöds in till Washington. För dig som jobbar med sociala medier och AI-verktyg är det här mer relevant än det låter: en stor del av de AI-funktioner som dyker upp i tredjepartsverktyg för schemaläggning, contentgenerering och community management bygger på just öppna modeller. Det reglerings- och ansvarsvakuum som ramverket lämnar efter sig betyder att du inte kan räkna med att någon annan har gjort säkerhetskontrollen åt dig. De flesta tänker på AI-risker i termer av deepfakes och desinformation, men glömmer att modeller som rullas ut utan ordentlig testning också kan producera subtilt felaktig eller partisk output som skadar varumärkets trovärdighet utan att någon flaggar det. Ironiskt nog kan detta faktiskt påskynda adoptionen av öppna modeller bland marknadsförare, eftersom de nu implicit är det minst reglerade alternativet – och i branschen brukar "minst friktion" vinna.