Nous assistons à une course effrénée visant à automatiser toujours davantage de tâches grâce à l’IA. L’argument revient sans cesse : productivité, rapidité et réduction des coûts.
Mais il existe un problème qui est ignoré. L’IA est déjà capable de générer d’importants volumes de code, de texte, d’analyses et de décisions en quelques minutes. Ce qu’elle n’arrive pas à faire avec la même efficacité, c’est garantir que ce qu’elle produit est correct. Et pire : nous ne parvenons pas non plus à tout vérifier.
Voici le paradoxe qui échappe à beaucoup. Produire du travail est devenu peu coûteux. Valider ce travail reste cher, lent et dépendant de l’expérience humaine.
Pendant des années, la narration dominante était que l’IA remplacerait le travail humain et générerait des gains de productivité presque illimités. Mais la productivité sans vérification n’est pas nécessairement de la valeur. Bien souvent, il s’agit simplement de volume.
Le problème est que la capacité de génération croît de manière exponentielle, tandis que celle d’audit progresse beaucoup plus lentement. Il n’existe pas suffisamment d’experts pour examiner tout ce qui est produit. Et à mesure que les modèles évoluent, cet écart ne cesse de se creuser.
Et ce faisant, de plus en plus d’organisations seront tentées de mettre leurs systèmes en production avant qu’ils soient correctement validés.
Et apparaît alors la solution apparemment évidente. Pourquoi ne pas utiliser l’IA pour vérifier l’IA elle-même ? Mais cela peut créer une dangereuse illusion de sécurité. Si les systèmes partagent les mêmes biais, limitations ou présupposés, ils peuvent tout simplement valider les mêmes erreurs les uns chez les autres. Le résultat est une fausse sensation de confiance. Le risque ne disparaît pas. Il reste simplement caché.
La partie la plus inquiétante de cette dynamique est que nous détruisons justement le mécanisme qui permet de former les professionnels capables d’effectuer cette vérification.
Si les tâches d’entrée de carrière sont progressivement automatisées, où les futurs spécialistes acquerront-ils de l’expérience ? Comment former les professionnels qui, demain, seront responsables de superviser des systèmes de plus en plus complexes ?
Nous enlevons les échelons inférieurs de l’échelle et nous nous demandons ensuite pourquoi il manque des personnes qualifiées au sommet.
Pendant ce temps, le marché continue de célébrer des métriques d’adoption, le nombre d’agents, le volume de code généré et la réduction des effectifs. Peu parle-t-on de responsabilité. Peu parle-t-on de qui répond lorsque l’automatisation échoue. Peu parle-t-on du coût croissant pour vérifier des systèmes qui produisent plus rapidement que n’importe quel être humain ne peut suivre.
Le véritable avantage concurrentiel de la prochaine décennie ne résidera pas dans celui qui peut générer le plus de contenu, le plus de code ou le plus de décisions avec l’IA. Il résidera dans celui qui peut garantir que ces résultats soient fiables.
Parce qu’une économie fondée sur des résultats que personne ne peut valider n’est pas une économie plus efficace. C’est simplement une économie accumulant une dette technique, un risque caché et des problèmes qui seront découverts trop tard.
