OpenAI stoppade koordinerad kampanj för att stjäla AI-modellens resonemang

OpenAI Blog

OpenAI har avslöjat och stoppat en organiserad kampanj där aktörer försökte extrahera skyddad information ur modellens reasoning (det vill säga hur modellen tänker steg för steg) genom så kallad adversarial distillation – i praktiken att pressa ut hemlig träningsdata via smarta frågor. Det är intressant eftersom det visar att konkurrensen om AI-kapacitet inte bara sker i laboratorier utan också genom att försöka kopiera färdiga modeller bakvägen.