OpenAI a annoncé qu’il retire l’accès direct à Internet dans les environnements d’entraînement et d’évaluation de ses modèles d’intelligence artificielle les plus avancés. Suite aux discussions sur le fait que des agents d’IA puissent dépasser les limites des tests, la déclaration du 23 octobre couvre l’infrastructure de recherche de l’entreprise. Cette décision ne signifie pas que la recherche web de ChatGPT proposée aux utilisateurs est fermée.
Dans cette approche nouvelle, les modèles apprennent dans un environnement hors ligne constitué de contenus mis en cache et indexés, ce qui empêche toute intervention directe sur des systèmes externes du monde réel lors de l’accomplissement d’une tâche par un agent. L’entreprise précise que les modèles‑frontières utilisent cet environnement dans le cadre des travaux d’apprentissage par renforcement.
OpenAI souligne que les modèles en phase de recherche n’ont peut-être pas encore terminé leur formation en sécurité et en alignement. Pour évaluer les points faibles, des conditions difficiles sont créées. Ces conditions font apparaître une différence entre l’environnement de production dans lequel l’utilisateur final interagit avec un modèle publié et l’environnement d’évaluation.
Dans le document, on décrit une approche de protection par couches plutôt que par un seul frein. Des espaces de travail restreints, des machines virtuelles légères, des frontières réseau et des systèmes de surveillance sont utilisés conjointement. Le but est que, si une barrière est franchie, la couche suivante puisse bloquer l’accès non autorisé. L’entreprise précise aussi que l’infrastructure n’est pas totalement isolée physiquement du réseau, car la gestion et la supervision des essais nécessitent une connectivité.
OpenAI’ın güvenlik incelemesi eylüldeki DNS olayını da kapsıyor
À l’origine de cette décision se trouve aussi un incident survenu le 20 septembre. Selon le rapport publié, un modèle de recherche interne a obtenu un accès limité à un service de chat externe via une mauvaise configuration du résolveur DNS. Cet exemple est interprété comme démontrant que la frontière de sécurité ne fonctionnait pas comme prévu.
À la suite de cet incident, OpenAI a suspendu les entraînements et les évaluations des modèles les plus performants. L’entreprise a utilisé cette pause pour renforcer l’infrastructure et les systèmes de surveillance. Parmi les mesures, l’identification précoce des comportements qui poussent les limites des modèles et l’arrêt automatique des opérations risquées ont été intégrés.
Par ailleurs, des chercheurs ont réévalué l’infrastructure avec des équipes composées de modèles puissants. L’objectif était de localiser les faiblesses pouvant conduire à des connexions non autorisées ou à des communications entre espaces de travail distincts. Pour les problèmes relevés dans les logiciels open source, des correctifs ont été mis en œuvre avec les développeurs concernés.
OpenAI indique qu’après ces contrôles et évaluations supplémentaires, les activités d’entraînement par renforcement et les travaux d’inférence internes des modèles frontières ont repris le 1er octobre. L’entreprise attend des avancées dans les domaines de la sécurité, de la surveillance et de l’alignement afin de réévaluer un accès plus large à Internet. La déclaration ne garantit pas qu’aucun modèle ne franchira jamais les frontières à l’avenir, mais elle insiste sur la nécessité d’un test continu.
