Australiens rapport om sociala medier-förbud misstänks innehålla AI-hallucinationer
En rapport som låg till grund för Australiens beslut att förbjuda sociala medier för barn under 16 år verkar innehålla felaktiga källhänvisningar – ett klassiskt tecken på AI-hallucinationer (när en AI hittar på fakta som låter trovärdiga men är falska). Det väcker frågor om hur noggrann faktakontrollen var när ett så pass viktigt politiskt beslut fattades.
Djupdykning
Australien har under det senaste året drivit igenom ett av världens hårdaste förbud mot sociala medier för barn under 16 år – ett beslut som väckte enorm uppmärksamhet globalt och fick många andra länder att fundera på liknande lagstiftning. Nu visar det sig att en av de rapporter som låg till grund för beslutet kan innehålla så kallade "hallucinationer" – ett begrepp för när AI hittar på fakta, citat eller källhänvisningar som helt enkelt inte existerar. Det är extra problematiskt just här eftersom rapportens trovärdighet byggde på att den sammanfattade faktisk forskning. Skillnaden mot ett vanligt skrivfel är att AI-hallucinationer ser övertygande ut – de har rätt format, låter rimliga, och är svåra att avfärda vid en snabb genomläsning. Det de flesta missar i rapporteringen är att problemet inte primärt handlar om huruvida sociala medier-förbudet är rätt eller fel – utan om att beslutsfattare världen över börjar använda AI-genererat material i lagstiftningsprocesser utan tillräckliga kontrollmekanismer. Om det händer i Australien, ett land med relativt starka institutioner, är det rimligt att anta att det pågår i massor av andra sammanhang vi ännu inte känner till.