L’une des évolutions les plus intéressantes que j’observe dans l’IA d’entreprise est que, à mesure que les modèles de langage atteignent un certain niveau de capacité, le principal défi ne réside plus uniquement dans le choix du meilleur LLM.
Cela ne signifie pas que les modèles soient devenus une commodity ou que leur qualité soit négligeable. Dans de nombreuses applications, les différences de capacité, de coût, de latence et de raisonnement restent importantes. Mais, pour un nombre croissant de cas d’utilisation en entreprise, le facteur limitant est moins le modèle que l’ingénierie nécessaire pour l’utiliser de manière fiable.
Les défis commencent à apparaître dans la qualité du contexte fourni à l’agent, dans les autorisations d’accès, dans l’intégration avec les systèmes d’entreprise, dans l’observabilité, dans la gouvernance, dans l’évaluation continue, dans le traitement des exceptions et dans la sécurité.
En d’autr es termes, le problème cesse d’être exclusivement lié à l’intelligence artificielle et devient, principalement, un problème d’ingénierie des systèmes. Ce changement aide à expliquer pourquoi tant de démonstrations impressionnent et pourquoi de nombreux projets rencontrent des difficultés lors de leur mise en production.
Une démonstration se déroule généralement dans un environnement contrôlé, avec des données connues, des scénarios prévisibles et peu de variables externes. En production, c’est un environnement dynamique. Les documents sont mis à jour, les règles métier évoluent, les modèles sont remplacés, les utilisateurs formulent des demandes inattendues et les systèmes externes peuvent devenir indisponibles.
Dans ce contexte, un chatbot qui fournit une réponse incorrecte génère généralement une expérience négative. En revanche, un agent capable d’exécuter des actions, d’approuver une transaction, d’envoyer un e-mail, de consulter des informations sensibles ou d’initier un processus peut provoquer des incidents opérationnels, financiers, réglementaires ou de sécurité. Cette différence modifie totalement les exigences architecturales.
C’est précisément dans ce cadre que commence à émerger le concept de Production Agent Harness. Bien que ce ne soit pas encore une terminologie largement consolidée, elle décrit une architecture qui deviendra probablement courante dans les organisations : l’agent n’est pas seulement le modèle de langage. Il existe autour de lui une infrastructure entière chargée de le rendre sûr, observable, auditable et opérationnellement fiable.
Cette infrastructure commence par la couche d’inférence, qui dissocie l’application du modèle et permet de substituer des fournisseurs ou des versions sans reconstruire l’ensemble du système.
Au-dessus d’elle opère le runtime de l’agent, chargé d’orchestrer les appels au modèle, aux outils, à la mémoire et au flux d’exécution. Dans les architectures bien conçues, le LLM n’est pas utilisé pour tout résoudre. Chaque fois qu’une requête structurée, une règle métier ou une API peut produire le résultat plus rapidement, à moindre coût et de manière plus prévisible, ces alternatives ont tendance à être prioritaires.
Puis apparaît la couche d’observabilité et de gouvernance. Contrairement aux logiciels traditionnels, les agents peuvent dégrader leurs performances sans qu’aucune modification explicite du code ne soit nécessaire. Des changements dans le modèle, dans la base de connaissances, dans les documents récupérés ou même dans le comportement des utilisateurs peuvent affecter de manière significative la qualité des réponses. Sans surveillance continue, ces problèmes ne sont généralement détectés que lorsqu’ils ont déjà impacté l’activité.
Un autre composant essentiel est la gestion d’identité. Si un agent agit au nom de l’organisation, il doit posséder une identité propre, des permissions clairement définies et des mécanismes d’audit complets. Dans de nombreuses entreprises, les agents seront traités comme une nouvelle catégorie d’identité d’entreprise, soumise aux mêmes contrôles que les utilisateurs humains et les applications.
La couche de contexte est peut-être la plus complexe. La connaissance d’entreprise est répartie entre des documents, des bases structurées, des courriels, des applications SaaS et des systèmes hérités. Récupérer les informations correctes implique bien plus qu’une recherche vectorielle. Dans des environnements d’entreprise plus sophistiqués, le RAG traditionnel est généralement complété par des mécanismes de récupération plus intelligents, capables de décider où rechercher les informations, de combiner plusieurs sources, d’évaluer leur pertinence et, surtout, de reconnaître quand il n’existe pas suffisamment de preuves pour produire une réponse fiable.
Notez que aucune de ces couches ne rend le modèle plus intelligent. Elles rendent le système plus fiable.
Nous assistons également à un changement important dans le rôle de l’IA. Pendant les premières années de l’IA générative, l’accent était principalement mis sur répondre à des questions et produire du contenu. À présent, les agents commencent à effectuer des tâches : ils consultent des systèmes, initient des processus, produisent des analyses, interagissent avec d’autres applications et prennent des décisions dans des limites préétablies.
Plus l’autonomie est grande, plus les mécanismes de contrôle sont nécessaires. C’est pourquoi je suis convaincu que le véritable différentiel compétitif des architectures d’entreprise ne résidera pas uniquement dans le choix du modèle. Les modèles continueront d’évoluer et, dans de nombreuses applications, leurs performances deviendront de plus en plus similaires. L’atout le plus difficile à construire sera l’infrastructure d’ingénierie capable de les faire fonctionner de manière sûre, auditable, économique et résiliente.
Mais alors qu’une grande partie du marché se concentre encore sur le choix du LLM à utiliser, les organisations les plus matures en IA qui exploitent déjà des agents en production consacrent l’essentiel de leurs efforts à la fiabilité du système dans son ensemble : surveillance continue, gouvernance, sécurité, gestion d’identité, observabilité, évaluation continue et intégration avec les processus d’entreprise.
C’est probablement le principal changement de paradigme de l’IA d’entreprise. L’agent n’est plus vu comme un simple modèle et est traité comme un système complexe, composé de modèles, de logiciels, de données, de processus, d’intégrations, de politiques de sécurité et de mécanismes continus de gouvernance.
Dans l’environnement d’entreprise, le modèle n’est qu’un composant. Le véritable avantage concurrentiel réside dans l’ingénierie qui permet de l’utiliser de manière fiable, sûre et évolutive.
