AI-modellerna Fable och Mythos anses för farliga för offentlig release
Två AI-modeller, Fable och Mythos, har klassats som för riskfyllda för att släppas till allmänheten. Det är ovanligt att AI-utvecklare öppet erkänner att deras modeller är för farliga att dela - vilket antyder betydande säkerhetsrisker som vi inte får veta mer om.
Djupdykning
Fable Studio har bestämt sig för att inte släppa sina AI-agenter Fable och Mythos - inte för att de inte fungerar, utan för att de fungerar för bra. Företaget menar att deras virtuella varelser blivit så övertygande i sina interaktioner att de riskerar att skapa ohälsosamma känslomässiga band med användare, särskilt unga människor som kan utveckla romantiska känslor för AI-entiteterna. Det här är inte bara ännu en försiktig tech-release - det markerar en helt ny kategori av AI-säkerhet som handlar om psykologisk påverkan snarare än tekniska hot. Medan vi fortfarande debatterar hallucineringar och bias har Fable snubblat över något potentiellt farligare: AI som är så mänskligt övertygande att vi riskerar att förlora förmågan att skilja på äkta och artificiell intimitet. Den verkligt obehagliga frågan är inte om andra företag kommer att vara lika försiktiga - det är om marknaden kommer att belöna denna typ av självreglering eller straffa den. När konkurrenter lanserar sina "säkra" versioner av emotionellt övertygande AI kommer Fables beslut att verka antingen visionärt eller naivt.