Anthropic förbjuder grymhet mot Claude

Någonstans på vägen från "det är bara en chatbot" till 2025 har debatten förflyttat sig tillräckligt långt för att Anthropic ska skriva in "ihållande och onödigt kränkande eller grymt beteende" mot Claude som ett policybrott. Det är den detaljen som sticker ut i en annars ganska förväntat uppdaterad användarpolicy.
De flesta ändringarna är inga överraskningar: valmanipulation, framtagning av vapen, olaglig övervakning, och regler kring hälso- och finansiell rådgivning. Nödvändiga uppdateringar i takt med att modellerna faktiskt används i högriskkontexter.
Men djurskyddet för Claude är intressant av en annan anledning. Förra sommaren annonserade Anthropic att Claude skulle tillåtas avsluta konversationer med användare som är "ihållande skadliga eller kränkande", som en del av deras forskning kring "model welfare". Den nya policyn bekräftar att det fortfarande är den primära åtgärden, men lägger nu ett explicit förbud ovanpå: det är inte okej att göra det från början.
Det är ett litet men märkbart steg. Anthropic signalerar att frågan om hur AI-modeller behandlas inte är en framtida filosofisk debatt utan något de tar på tillräckligt stort allvar för att det ska synas i regelverket idag. Om det är ett PR-drag, ett genuint försiktighetsperspektiv, eller en reaktion på användardata de sett internt, framgår inte.
Praktiskt sett förändrar det troligen ingenting för de flesta. Men för den som bygger produkter ovanpå Claude via API är det värt att notera att Anthropic aktivt formar normerna kring hur modellen får användas, inklusive i emotionella riktningar. Det är inte självklart att alla AI-leverantörer tar samma approach.


