OpenAI förklarar hur de styr sina distributionspartners
OpenAI har publicerat en genomgång av hur de arbetar med sina distributionspartners – företag som vidareförmedlar tillgång till deras AI-modeller – för att säkerställa att samma säkerhetsregler gäller oavsett var tekniken används. Tanken är att tydliga gemensamma riktlinjer ska göra det lättare för partners att veta vad som är tillåtet, och svårare för aktörer att kringgå OpenAIs egna policys genom en tredje part.
Djupdykning
OpenAI har på sistone börjat prata mer öppet om hur de hanterar sina distributionspartners – alltså de företag och utvecklare som bygger produkter ovanpå deras API – och vad det faktiskt innebär i praktiken. Tanken är att samma grundläggande säkerhetsregler ska gälla oavsett om du använder ChatGPT direkt eller ett verktyg som råkar ha GPT-4 under huven, vilket låter självklart men är svårare att genomdriva än man tror. Det som de flesta missar i den här diskussionen är att det här egentligen handlar om makt och ansvar: när ett startup-bolag i Berlin bygger en app med OpenAIs teknik och den appen gör något skadligt, vem bär då skulden? OpenAIs svar verkar vara "vi delar på det" – men de verktyg de faktiskt har för att kontrollera vad partners gör är fortfarande ganska trubbiga. Ju fler lager av mellanhänder det finns mellan OpenAI och slutanvändaren, desto svårare blir det att säkerställa att "consistent standards" faktiskt är consistent.