OpenAI entre désormais dans la course au silicium. Cette semaine, l’entreprise a dévoilé Jalapeño, son premier processeur développé en interne. De plus, l’annonce porte un message clair au marché du matériel. Autrement dit, la bénéficiaire de ChatGPT cherche à maîtriser la base qui soutient ses modèles. Pour les développeurs, ce mouvement influe donc sur le coût de chaque réponse d’IA.
Jalapeño naît avec un focus total sur l’inférence
Le puce a été conçu pour l’inférence, et ce choix en dit long. L’inférence est le processus consistant à faire tourner un modèle déjà entraîné pour générer des réponses. Former un modèle à partir de zéro, en revanche, coûte cher et nécessite des semaines de calcul. Comme l’inférence se produit à chaque appel d’API, elle domine la facture de production. Ainsi, optimiser cette étape permet d’économiser à l’échelle.
OpenAI a développé Jalapeño conjointement avec Broadcom, le fabricant de semi-conducteurs. De cette façon, l’entreprise associe sa connaissance des modèles à l’ingénierie des puces de son partenaire. Fait intéressant, OpenAI elle-même affirme que ses modèles ont aidé à concevoir la puce. Autrement dit, l’IA a participé au design du matériel qu’elle va elle-même faire fonctionner.
Jalapeño et les performances par watt que vous ressentez
L’entreprise met en avant un chiffre précis : les performances par watt. Selon OpenAI, les premiers tests indiquent un gain significatif sur ce point. Bien que l’évaluation finale soit encore en cours, ce critère n’est pas choisi au hasard. Après tout, l’énergie est devenue le véritable goulet d’étranglement des data centers dédiés à l’IA.
Chaque watt économisé réduit donc le coût par jeton livré à l’utilisateur. Pour ceux qui maintiennent une application en production, cela pèse sur la facture mensuelle. De plus, une plus grande efficacité libère de la capacité sans nouveaux investissements en infrastructures. Ainsi, le même data center peut traiter davantage de requêtes avec la même consommation d’énergie.
Jalapeño vise à réduire la dépendance vis-à-vis de Nvidia
Aujourd’hui, Nvidia domine le marché des puces pour l’IA. C’est pourquoi maîtriser son propre silicium permet de diminuer la dépendance vis-à-vis d’un seul fournisseur. En concevant Jalapeño, OpenAI obtient une marge de négociation et une prévisibilité des coûts. Toutefois, l’entreprise ne abandonne pas Nvidia pour autant.
La puce sera déployée dans les data centers de Microsoft et d’autres partenaires dès cette année. Fait intéressant, Jalapeño a été pensé pour faire tourner divers modèles, pas seulement ceux d’OpenAI. Ainsi, le matériel se veut utilisable dans un cadre plus large. Hock Tan, président de Broadcom, a qualifié la puce de simple début du partenariat.
Ce qui change pour ceux qui développent avec l’IA
Pour le développeur, le changement apparaît d’abord au niveau du coût. Lorsque l’inférence devient moins coûteuse, la marge de chaque produit basé sur l’IA s’améliore. En outre, la latence et la disponibilité ont tendance à progresser grâce à un matériel dédié. Ainsi, des ressources autrefois inaccessibles par leur prix entrent désormais dans le budget.
La consolidation verticale mérite également une attention particulière. À mesure que les fournisseurs contrôlent le modèle et la puce, la performance dépend désormais de la chaîne complète. Il est donc utile de suivre comment chaque plateforme combine le matériel propre et l’API. Cette lecture aide à choisir où héberger ses charges d’inférence.
Le message derrière le nom piquant
Le Jalapeño marque une nouvelle phase du secteur. Plutôt que de se contenter d’acheter des puces, les géants de l’IA les conçoivent désormais. Par conséquent, la compétition ne porte plus uniquement sur les modèles et s’étend aussi au matériel. Pour le marché technologique brésilien, l’avertissement est clair : ceux qui développent avec l’IA doivent regarder l’infrastructure avec la même attention que le code.
