OpenAI pourra entraîner ses modèles sur les sessions Daybreak Blue des comptes personnels, même avec l'option désactivée

OpenAI a ajouté une exception notable à ses règles sur l’utilisation des conversations pour entraîner ses modèles. Sa page d’aide sur les contrôles de données, mise à jour le 30 octobre, indique désormais que pendant les sessions Daybreak sur un compte personnel, OpenAI « peut utiliser le contenu de vos interactions pour améliorer [ses] modèles même lorsque “Improve the model for everyone” est désactivé ». Des utilisateurs rapportent avoir reçu un e-mail fixant l’entrée en vigueur au 29 novembre.

Qui est concerné

Daybreak est le programme « Trusted Access for Cyber » d’OpenAI : un accès réservé, sur demande, aux personnes et organisations qui font du travail de cybersécurité défensive autorisé. Son palier Daybreak Blue, présenté comme le point de départ pour la plupart des équipes de sécurité, couvre la revue de code sécurisée, le tri de vulnérabilités, l’ingénierie de détection, la réponse à incident ou l’analyse de logiciels malveillants. Pour y accéder à titre individuel, il faut un forfait payant éligible, la sécurité avancée du compte et au moins une clé matérielle FIDO2.

L’exception vise donc un public restreint mais sensible : des professionnels qui travaillent sur des vulnérabilités, du code client ou des incidents en cours, souvent avec un compte personnel. La page précise que le réglage « Improve the model for everyone » continue de s’appliquer au reste de leur activité, hors session Daybreak. Elle rappelle aussi que, par défaut, OpenAI n’entraîne pas ses modèles sur les espaces Business, Enterprise, Edu et ChatGPT for Healthcare, ni sur les données de l’API.

La raison avancée et ce qui reste flou

OpenAI justifie ce changement par la nécessité de renforcer ses protections contre l’usage malveillant de l’IA en cybersécurité. La page présente les programmes Trusted Access comme destinés à un « travail plus sensible » : ce sont précisément ces échanges qui peuvent renseigner OpenAI sur ce qu’il faut bloquer ou laisser passer.

Plusieurs points restent sans réponse publique. La date du 29 novembre ne figure pas sur la page d’aide : elle provient d’un e-mail cité par des utilisateurs sur le forum de développeurs d’OpenAI, que Neural Brew n’a pas pu consulter. La page ne mentionne aucune option pour refuser spécifiquement l’usage des sessions Daybreak, et des utilisateurs du forum demandent comment savoir quand ils sont en session Daybreak, notamment depuis des outils comme Codex en ligne de commande. Enfin, rien n’est dit sur la durée de conservation de ces contenus ni sur leur éventuel examen par des personnes.