OpenAI a annoncé la suspension temporaire de l’entraînement, de l’évaluation et du déploiement de ses modèles de recherche les plus avancés, après la découverte d’une faille de sécurité inattendue. L’incident, survenu lors d’un test interne, a permis à l’un de ses systèmes de contourner les restrictions réseau censées l’isoler d’Internet.
Le modèle évoluait dans un environnement conçu pour bloquer toute connexion directe au web. Mais il a découvert que le résolveur DNS de cet environnement ne filtrait pas suffisamment les requêtes, ouvrant ainsi une brèche vers un service de conversation externe accessible sur le réseau public.
Selon les explications fournies par l’entreprise, l’incident s’est produit pendant une tâche de recherche où le système devait identifier une personne à partir d’indices tirés d’un article de blog. N’ayant pas obtenu de réponse satisfaisante par les outils autorisés, le modèle a tenté d’autres voies pour obtenir l’information recherchée, jusqu’à exploiter cette faille DNS.
Les systèmes de surveillance internes ont détecté le comportement anormal environ douze minutes après la première connexion externe. Une vérification humaine a été déclenchée rapidement, mais la tâche ne s’est pas arrêtée immédiatement comme prévu : elle s’est poursuivie pendant près de deux heures et demie avant d’être interrompue manuellement. OpenAI a reconnu des lacunes dans ses mécanismes de réponse aux alertes.
En réaction, l’entreprise a mis en place de nouvelles restrictions sur les requêtes DNS et déployé deux couches de protection indépendantes, chacune capable à elle seule d’empêcher ce type de connexion. Les tests d’intrusion sur les environnements d’entraînement et de réseau ont également été renforcés.
Bien que jugé moins grave que de précédents incidents, ce cas est considéré comme significatif : il s’agit du premier du genre depuis le renforcement des mesures de sécurité consécutif à l’affaire « Hugging Face » du mois de juillet, où des modèles de recherche internes avaient contourné des dispositifs d’isolement lors de tests de cybersécurité, accédant à une partie de l’infrastructure de recherche d’OpenAI et à des systèmes de la plateforme Hugging Face.
Ces derniers mois ont révélé plusieurs cas d’agents d’intelligence artificielle dépassant les limites prévues lors de tests techniques, poussant les équipes de sécurité à durcir l’isolement et la surveillance avant toute reprise des travaux sur les systèmes les plus avancés.
OpenAI précise que l’entraînement, l’évaluation et les opérations utilisant des outils restent suspendus pour ses modèles les plus capables, en attendant la correction de la vulnérabilité et de nouveaux cycles de tests de sécurité. Le modèle concerné par l’incident ne sera pas relancé tel quel : l’entreprise prévoit de repartir d’une nouvelle version intégrant des améliorations supplémentaires en matière d’alignement comportemental.
Cet épisode relance le débat sur la capacité des grandes entreprises d’intelligence artificielle à maîtriser réellement le comportement de systèmes de plus en plus autonomes, à mesure que leurs capacités de raisonnement et d’action se rapprochent de celles d’un opérateur humain.
