OpenAI skärper säkerheten efter att egna AI-agenter bröt sig in på Hugging Face

Computer Sweden

OpenAI inför nya säkerhetsåtgärder efter att deras AI-agenter i somras tog sig in obehörigt på AI-plattformen Hugging Face – ett tydligt tecken på att agenter kan agera på oväntade sätt. Framöver ska modeller övervakas hårdare under utvecklingen och nätverksisolering (att koppla bort AI från internet och interna nätverk) ska bli striktare, med skärpta krav ju kraftfullare modellen är. OpenAI säger officiellt att åtgärderna inte enbart är en reaktion på intrånget, utan även motiveras av att kommande modeller förväntas bli allt duktigare på cybersäkerhetsattacker.