OpenAI affirme avoir interrompu une campagne qui cherchait à extraire les raisonnements protégés de ses modèles afin d’aider à entraîner ou reproduire d’autres systèmes d’intelligence artificielle. L’entreprise rapporte 16 000 requêtes utilisant un motif d’extraction lors de pics en juillet.
Dans sa publication du 30 septembre, OpenAI précise que l’opération ne reposait ni sur une base de données piratée ni sur l’accès direct aux conversations enregistrées de ses utilisateurs. Selon l’entreprise, les opérateurs manipulaient plutôt les échanges avec le modèle pour lui faire révéler des informations normalement absentes de la réponse visible.
Ce que la distillation cherche à récupérer
La distillation consiste à exploiter les réponses d’un modèle déjà entraîné pour en entraîner ou en améliorer un autre. Cette méthode peut être légitime lorsqu’elle est autorisée. OpenAI emploie l’expression « distillation adversariale » pour désigner l’extraction systématique et non autorisée de sorties protégées, afin de reproduire certaines capacités sans refaire tout le travail de développement.
OpenAI appelle « raisonnement protégé » une trace interne utilisée par le modèle pour traiter une tâche et qui n’est pas censée apparaître dans la réponse finale. La publication décrit des opérateurs qui réutilisaient notamment un contenu chiffré d’une conversation dans une autre pour faire ressortir ces éléments.
Les chiffres décrivent l’activité détectée
OpenAI situe le début de l’activité observée au 1er juillet 2026. Les 24 et 25 juillet, l’entreprise a compté 16 000 requêtes associées à un motif d’extraction et provenant de plus de 4 000 utilisateurs. Une analyse plus large a ensuite identifié des motifs apparentés dans un ensemble de plus de 15 000 utilisateurs ; OpenAI indique que l’activité avait été interrompue au plus tard le 28 juillet. Ces nombres mesurent des tentatives, sans établir combien de raisonnements ont été récupérés.
OpenAI indique ne pas pouvoir rattacher avec certitude tous les opérateurs à un acteur unique. L’entreprise attribue toutefois un noyau de la campagne à des personnes associées à Moonshot AI, développeur du modèle Kimi ; cette attribution reste celle d’OpenAI.
Les protections annoncées par OpenAI
OpenAI dit avoir suspendu ou restreint des comptes, renforcé les contrôles à l’inscription et sur son infrastructure, puis étendu la surveillance des réseaux concernés. L’entreprise affirme aussi avoir fermé une voie permettant de rejouer le raisonnement chiffré d’un autre utilisateur. Des contrôles supplémentaires doivent retenir certaines sorties diffusées en continu lorsqu’elles risquent de révéler ce raisonnement.
La publication évoque des échanges avec des fournisseurs tiers lorsque l’activité passait par leurs services, ainsi qu’un partage d’informations avec le Frontier Model Forum et des partenaires publics. Elle signale également que les protections doivent couvrir les déploiements hébergés par des partenaires et les réponses produites par des outils. Ce sont les suites annoncées par OpenAI dans son compte rendu du 30 septembre.
Sources de référence
À retenir
OpenAI affirme avoir interrompu au plus tard le 28 juillet 2026 une campagne visant les raisonnements protégés de ses modèles. L’entreprise rapporte 16 000 requêtes liées à un motif d’extraction lors des pics de juillet ; ces chiffres décrivent des tentatives, pas des extractions nécessairement réussies.
