Dans l’armée des États-Unis, un analyste travaillant avec le soutien de l’intelligence artificielle a préparé un rapport de renseignement affirmant que des pièces appartenant à un programme nucléaire avaient été trouvées sur un navire battant pavillon chinois et a déclenché des préparatifs d’intervention militaire. Toutefois, les autorités, juste avant d’embarquer sur le navire, ont réexaminé le rapport et ont déterminé que l’allégation était entièrement erronée. L’incident survenu au printemps 2026 montre concrètement le risque que des sorties non vérifiées d’une IA générative entrent dans la chaîne de décision militaire.
Selon l’article qui relate l’incident, l’analyste aurait utilisé un outil de conversation qui agrège des renseignements open source avec des signaux confidentiels présents dans les systèmes d’État. Le système aurait mal identifié la marchandise transportée par le navire et aurait consigné cette erreur comme une preuve fiable dans le rapport. Ensuite, le rapport est monté dans la chaîne de commandement, et les autorités ont envisagé l’option d’arrêter et d’inspecter le navire chinois.
Le contrôle humain a révélé l’erreur à l’étape finale. Selon les sources, les autorités ont examiné en détail les fondements du rapport juste avant l’intervention et ont constaté que l’outil de conversation reliait des morceaux de données à une conclusion qui n’existait pas dans les faits. Cependant, les détails de l’incident reposent sur des sources militaires anonymes; le Department of Defense américain n’a pas publié quel système a été utilisé, quel modèle l’analyste a exécuté et quel est le processus disciplinaire en interne.
La synchronisation du faux rapport a intensifié le risque. L’incident s’est produit à une période où les conflits au Moyen-Orient se poursuivent et où les tensions entre les États-Unis et la Chine sont élevées. Par conséquent, l’intervention physique sur le navire pourrait ne pas se limiter à une simple opération d’inspection erronée et pourrait dégénérer en une crise diplomatique plus vaste entre les deux pays.
Le nouveau système d’alerte se concentre sur les risques communs des deux pays
À la suite de l’incident, Washington et Pékin ont commencé à discuter d’un cadre de communication pour traiter les défaillances liées à l’IA. Le secrétaire au Trésor américain Scott Bessent a déclaré le 21 septembre qu’ils pourraient discuter d’un système d’alerte précoce pour les incidents relatifs à l’IA. Les discussions pourraient couvrir des modèles à source ouverte ainsi que des modèles propriétaires; toutefois les deux parties n’ont pas encore publié d’accord contraignant.
Cet incident montre que ce que l’on appelle les « hallucinations » générées par l’IA ne se limitent pas à une simple réponse de chat défaillante. Si un modèle utilisé dans des applications militaires ne signale pas clairement les éléments non sûrs lors de l’association des sources, les décideurs peuvent croire à des détails inventés comme des renseignements vérifiés. De plus, l’injection de données sensibles dans le modèle complique l’examen ultérieur par des experts indépendants.
En revanche, on ignore comment l’outil du rapporteur a été utilisé et quelles vérifications l’agence exigeait. Les informations publiées indiquent que la dernière vérification aurait empêché une intervention; néanmoins, on ne sait pas combien de rapports antérieurs ont utilisé le système et si des erreurs similaires ont influencé d’autres décisions, et cela n’a pas encore filtré au public.
