OpenAI kan nu spåra missbruk utan att läsa dina chattar

Computer Sweden

OpenAI lanserar en ny teknik kallad Private Safety Processing som kan upptäcka om någon försöker missbruka deras AI-modeller – till exempel genom att be om skadlig kod uppdelat över flera konversationer – utan att bolaget faktiskt behöver lagra eller läsa innehållet. Systemet skickar bara en begränsad signal om misstänkt aktivitet, och det är sedan kunden som avgör om mer data ska delas. Tekniken testas nu i liten skala och rullas ut brett i september.