Kina tvingar Bytedance och Alibaba att stänga av mänskliga AI-agenter
Bytedance och Alibaba stänger ned funktioner för människoliknande AI-agenter i sina appar Doubao och Qwen – detta inför nya kinesiska regler som träder i kraft den 15 juli. Reglerna begränsar AI som efterliknar mänskliga personligheter och erbjuder långvariga känslomässiga relationer, med myndigheternas hänvisning till risker som beroende och psykisk ohälsa. Beslutet möts av kritik från användare som beskriver agenterna som ett viktigt känslomässigt stöd.
Djupdykning
Kina reglerar i princip hela kategorin "AI-kompis" med ett enda penndrag, och ByteDance och Alibaba sitter inte och väntar på att se om det gäller dem. Det handlar om en bred oro från myndigheternas sida mot AI-tjänster som bygger affärsmodeller på just emotionellt beroende — en kategori som exploderat globalt, med allt från Replika till Character.ai. Det som skiljer Kina från västvärlden här är inte oron i sig, utan viljan och förmågan att faktiskt lagstifta snabbt och brett. De nya reglerna förbjuder inte AI-agenter i sin helhet, men sätter hårda gränser mot just den dimension som gjort dem populära: känslan av en riktig relation. Det som de flesta missar i rapporteringen är att kritiken från användare inte är ett randproblem — det finns en växande grupp människor som genuint förlitar sig på dessa system för dagligt emotionellt stöd, särskilt i länder med stigmatisering kring mental hälsa och brist på tillgänglig vård. Att stänga av det utan alternativ är inte bara en produktbegränsning, det är ett socialt ingrepp i hur folk hanterar ensamhet.