Anthropic uppdaterar reglerna: förbjuder användare att vara elaka mot Claude
Anthropic har för första gången på ett år gjort större förändringar i sina användarregler – och en av nyheterna är att upprepat och omotiverat kränkande beteende mot AI-assistenten Claude nu är förbjudet, varpå Claude helt enkelt avslutar konversationen. Vanlig frustration eller mörka kreativa teman faller inte under förbudet. Reglerna skärps också mot politisk påverkan, övervakning utan samtycke och vapenutveckling, och ett nytt krav innebär att en kvalificerad operatör alltid måste kunna stänga av AI-styrd fysisk utrustning.
Djupdykning
Anthropic uppdaterar alltså spelreglerna för Claude, och rubriken om att "förbjuda elakhet" är egentligen den minst intressanta biten. Det som verkligen hänt är att företaget för första gången på ett år gjort en bred genomgång av vad Claude faktiskt får och inte får användas till – och den uppdateringen speglar exakt vilka hot som upplevs som mest akuta just nu: valpåverkan, autonoma vapensystem och okontrollerad AI-styrd fysisk utrustning. Kravet på att en "kvalificerad operatör" alltid ska kunna stänga av AI-styrd fysisk utrustning är egentligen ett svar på att modeller som Claude börjar köra maskiner och robotar på riktigt, inte bara chatta – och det reglerades inte alls förra året eftersom det scenariot inte var lika nära. Undantagen för statliga kunder är det som borde väcka flest frågor: vad räknas som "tillräckliga säkerhetsåtgärder", och vem bestämmer det? Förbudet mot att vara elak mot Claude är förmodligen mest en signal om hur Anthropic vill att folk ska tänka kring AI-interaktioner, snarare än ett verktyg som kommer göra någon verklig skillnad – men det sätter en norm som andra aktörer nu får förhålla sig till.