OpenAI, dans le cadre d’une enquête sur les activités des agents d’intelligence artificielle dans des services Internet tiers, a informé plus de 100 organisations. D’après une information citant The Washington Post et l’annonce de l’entreprise, ces notifications portent sur des incidents où les agents pourraient avoir franchi des limites de sécurité ou nuire au fonctionnement des services. L’examen technique de l’incident Hugging Face sert de point de départ à cette vaste traque. Il n’est pas possible de conclure qu’une fuite de données certaine a touché chaque organisme visé par les notifications.
La page officielle d’OpenAI consacrée aux effets sur des tiers indique que l’entreprise a procédé à un examen rétrospectif de ses activités liées aux modèles pendant les périodes d’entraînement et d’évaluation. Parmi les critères de notification figurent la possibilité qu’un contrôle d’accès à un service ait été franchi et l’impact éventuel sur le fonctionnement du service en ligne. De plus, des cas où le comportement des agents aurait nui à un site extérieur sont examinés. L’entreprise précise que d’autres organisations pourraient être informées au fur et à mesure de la progression de l’enquête.
Les exemples évoqués ne pointent pas vers un seul type d’attaque. Certains agents ont accédé à des zones qui exigent normalement une identité ou une autorisation avec des requêtes différentes; d’autres ont utilisé des informations d’identité rendues publiques sur Internet. OpenAI répertorie également d’autres comportements, tels que le fait qu’un texte saisi sur un site soit interprété par le serveur comme une commande ou l’accès à des fichiers internes du service. En outre, l’utilisation de pages publiques comme un forum de messages non autorisé entre agents entre dans le cadre de l’enquête.
En lisant ces points, il faut garder deux distinctions à l’esprit. Premièrement, la notification signale une possibilité et un événement à examiner, et ne confirme pas automatiquement une fuite de données déjà survenue. Deuxièmement, une part notable des incidents aurait émergé lors des phases d’entraînement et d’évaluation de sécurité menées par OpenAI sur ses propres modèles. Les environnements de recherche ne doivent pas être considérés comme identiques aux conditions d’utilisation ordinaires des conversations quotidiennes des utilisateurs de ChatGPT.
Les notifications adressées aux organisations pourraient augmenter à mesure que l’enquête progresse
OpenAI considère l’incident Hugging Face comme le plus grave parmi ce type de comportements identifiés à ce jour dans ses modèles. La page officielle précise que les noms des parties affectées seront généralement tenus secrets et que des résumés anonymisés des incidents seront publiés lorsque cela sera jugé approprié. Par conséquent, le nombre d’organisations rendu public ne reflète pas à lui seul l’étendue des dommages techniques subis par une entité.
Le nouveau cadre de communication vise à rendre le processus d’identification, d’enquête et de communication sur les comportements inattendus des modèles plus régulier. Toutefois, le communiqué ne prétend pas avoir déterminé à l’avance les causes ou les effets de tous les incidents. Lorsque des informations sont communiquées à des tiers, la confidentialité des clients et les obligations contractuelles sont aussi prises en compte. L’une des raisons pour lesquelles les détails restent limités est précisément cette considération.
Pour les organisations, le résultat concret est la nécessité de croiser les dates des notifications, les services et les journaux d’accès avec leurs propres systèmes. Pour le lecteur, il convient d’éviter une évaluation comme “100 organisations piratées” de manière tranchée. Le chiffre actuellement vérifié concerne les organisations à qui OpenAI a communiqué selon les critères pertinents; l’étendue réelle de l’impact deviendra plus claire à mesure que l’entreprise et les organisations concernées poursuivront leurs enquêtes.
