Anthropic lanserar säkerhetsmodell tillsammans med teknikjättar
Anthropic har utvecklat Claude Mythos Preview, en AI-modell som kan hitta säkerhetsluckor i företagssystem nästan helt utan mänsklig inblandning. Modellen lanseras genom Project Glasswing i samarbete med Nvidia, Google, AWS, Apple och Microsoft, men kommer inte att släppas publikt på grund av säkerhetsskäl.
Djupdykning
Anthropic håller sin starkaste AI-modell, Claude Mythos Preview, borta från allmänheten av säkerhetsskäl – samtidigt som de använder den för att hitta säkerhetsluckor åt världens största teknikjättar. Det är ungefär som att ha en mästertjuv som hjälper banker att förbättra sina valv, men som är för farlig för att släppa lös på gatan. För dig som jobbar med sociala medier betyder det här att AI-verktygens kapacitet utvecklas exponentiellt snabbare än vad vi ser i de publika versionerna. Medan du kanske funderar på hur ChatGPT kan hjälpa dig skriva copy, sitter företagen bakom kulisserna med modeller som kan hacka operativsystem. Project Glasswing visar också hur cybersäkerhet blir en competitive advantage – de företag som kan skydda sina plattformar bäst kommer att vinna förtroendet när nästa stora säkerhetsskandal slår till. Om Anthropic kan automatisera säkerhetsanalyser för hela operativsystem, hur långt är det egentligen till att de kan automatisera hela branschens innehållsmoderation och varumärkessäkerhet?