Je participe à un groupe de débats qui oscille entre philosophie et intelligence artificielle et, toutes les deux semaines, nous organisons une rencontre virtuelle particulièrement stimulante. Lors d’une de nos dernières sessions, nous avons discuté du rôle de l’IA dans la découverte scientifique. La discussion a rapidement glissé vers une question bien plus philosophique que technique : qu’est-ce que cela signifie créer du savoir ?
Si créer du savoir signifiait produire quelque chose de complètement détaché de tout ce qui l’a précédé, peut-être que l’humanité n’aurait jamais produit de connaissance. La théorie de la relativité n’est pas apparue de nulle part. La mécanique quantique non plus. Darwin s’est appuyé sur des décennies d’observations et sur des idées élaborées par d’innombrables naturalistes. La science a toujours progressé en s’appuyant sur les connaissances antérieures.
Mais elle n’avance pas non plus uniquement par recombinaison d’idées. Bon nombre de découvertes sont nées de l’observation de phénomènes inattendus, de l’invention de nouveaux instruments, tels que le microscope et le télescope, ou de la disponibilité de nouvelles données. La science mêle créativité, théorie, observation et expérimentation.
Par conséquent, l’affirmation selon laquelle les LLMs ne créent rien de nouveau et ne font que réorganiser des connaissances existantes peut sembler intuitive, mais elle simplifie trop la question.
L’un des participants a donné l’exemple suivant : si un LLM était entraîné uniquement avec des techniques de fabrication d’outils en pierre, il n’apprendrait jamais à produire un couteau en acier.
Cet exemple est correct. Si la métallurgie n’a jamais fait partie de l’univers d’entraînement, il n’y a pas de raison d’espérer que le modèle découvre, seul, l’exploitation minière, la fusion, les alliages métalliques et la fabrication de l’acier.
Mais cette constatation ne montre pas que les LLMs « ne créent rien de nouveau ». Elle révèle simplement que, comme nous, ils dépendent d’une base préalable de connaissances pour explorer de nouvelles possibilités.
Lors de l’inférence, un LLM ne récupère pas des phrases toutes faites comme un moteur de recherche. À partir des représentations apprises lors de l’entraînement, il construit de nouvelles séquences de texte et établit des relations entre les concepts à une échelle pratiquement inaccessible pour un être humain. La plupart de ces combinaisons n’ont pas de valeur. Certaines sont incorrectes. D’autres peuvent suggérer des hypothèses qui n’avaient pas encore été envisagées par les chercheurs dans ce contexte. Mais les hypothèses ne constituent pas du savoir.
Depuis Platon, on distingue d’ordinaire opinion, croyance et connaissance. En science, le critère est encore plus rigoureux. Une hypothèse ne devient connaissance que lorsqu’elle résiste au contact de la réalité : expérimentation, reproductibilité indépendante, revue par les pairs et examen par la communauté scientifique.
C’est précisément là que réside la limite actuelle des LLMs. Ils peuvent proposer de nouvelles pistes d’investigation, combiner des théories provenant de domaines différents, aider à explorer des architectures alternatives ou identifier des relations improbables entre des informations dispersées. Mais, aujourd’hui, ils ne mènent pas d’expériences de manière autonome et ne valident pas empiriquement leurs propres hypothèses.
La bonne question n’est pas de savoir si un LLM « crée du savoir ». Il faut plutôt se demander à quel stade de la découverte scientifique il peut être utile ?
Il existe encore une étape souvent oubliée: avant les hypothèses viennent les questions. L’histoire de la science montre que les grandes découvertes commencent souvent non pas par des réponses extraordinaires, mais par des questions que personne n’avait posées. Peut-être, à l’avenir, les LLMs contribueront aussi à formuler de nouvelles questions. Aujourd’hui toutefois, leur plus grande contribution semble résider dans l’élargissement de l’espace des hypothèses qui mérite d’être exploré.
Bien que Karl Popper ait surtout mis l’accent sur l’importance de réfuter les hypothèses, la philosophie contemporaine des sciences reconnaît que le progrès scientifique dépend autant de la génération que de l’élimination des hypothèses. C’est précisément dans cette première étape que les LLMs semblent particulièrement prometteurs.
Le modèle peut suggérer : « Existe-t-il une relation possible entre ces deux protéines ? ». Mais cela ne constitue pas une preuve. Il restera nécessaire de concevoir des expériences, de collecter des données, de contrôler les variables, de réaliser des analyses statistiques, de reproduire les résultats dans d’autres laboratoires et de soumettre le travail à l’évaluation par les pairs. La méthode scientifique demeure le mécanisme qui transforme les hypothèses en connaissance.
Les LLMs ne remplaceront pas les scientifiques. Mais ils peuvent profondément transformer l’une des phases les plus créatives de la recherche : l’exploration des possibilités. Le savoir continuera d’émerger uniquement lorsque ces possibilités survivront au test de la réalité. Et si nous parvenons à explorer un espace bien plus vaste d’hypothèses, peut-être la dynamique même de la découverte scientifique se mettra-t-elle à changer.
