Demis Hassabis vient de poser une proposition gênante sur la table. Dans un manifeste publié le 14 juillet, le PDG de Google DeepMind préconise la création d’un organisme international chargé de superviser les modèles dits de frontière. De plus, il souhaite que cet organisme bénéficie de l’approbation du gouvernement américain. Pour ceux qui écrivent du code, la question n’est pas philosophique. Autrement dit: que devient votre stack lorsque qu’un modèle doit être approuvé avant même d’exister?
DeepMind voit le marché financier comme miroir réglementaire
La référence choisie par Hassabis n’est pas académique. Il cite la FINRA, une entité privée qui supervise le marché financier américain. Ainsi, le mécanisme proposé ne serait pas une agence étatique classique. Ce serait un organisme financé par l’industrie elle-même, composé d’experts techniques et supervisé par Washington.
En pratique, le mécanisme fonctionnerait ainsi. Premièrement, les laboratoires partageraient leurs modèles avec l’organisme jusqu’à 30 jours avant leur lancement commercial. Puis viendraient les tests de sécurité. L’objectif se concentrerait sur des capacités dangereuses telles que les cyberattaques, la manipulation, les risques biologiques et les comportements trompeurs. Enfin, si le processus fonctionne, Hassabis préconise de le rendre obligatoire.
Dans ce scénario, tout modèle de frontière devrait obtenir l’approbation pour accéder au marché américain. D’ailleurs, le conseil serait majoritairement indépendant. Les lauréats du Prix Turing y accéderaient, aux côtés de représentants du gouvernement, de l’industrie et de la communauté open source.
DeepMind indique 18 mois jusqu’à ce que le problème devienne concret
Voici le chiffre qui devrait vous intéresser. Selon Hassabis, dans environ 18 mois, des modèles avancés pourraient développer des capacités liées à des menaces biologiques et nucléaires. Même dans des systèmes open source échappant au contrôle des gouvernements.
Cependant, il ne présente pas le code source ouvert comme le vilain principal. Au contraire. Les plus grands risques, selon lui, résideront dans les futurs modèles propriétaires des grands laboratoires. Autrement dit, le doigt pointe aussi vers l’intérieur.
Pendant ce temps, les risques actuels servent déjà d’alerte. L’utilisation de l’IA dans les attaques cybernétiques est l’exemple cité. Et c’est un terrain que toute personne de la sécurité connaît trop bien.
Ce que la fenêtre de 30 jours fait au cycle de publication
Pensez à la proposition comme à une porte d’accès dans le pipeline. Une barrière externe, hors de votre contrôle, avec une latence minimale de 30 jours. Ainsi, certaines conséquences apparaissent rapidement.
La première est le rythme. Aujourd’hui, un fournisseur annonce un modèle et l’API est disponible le jour même. Avec une approbation préalable, ce calendrier change. Ainsi, des feuilles de route dépendant d’un modèle spécifique acquièrent une nouvelle incertitude.
La deuxième est le versionnement. Si chaque modèle de frontière doit passer par une évaluation, les mises à jour incrémentales deviennent une décision stratégique. De la sorte, les fournisseurs peuvent espacer les sorties et regrouper les améliorations.
La troisième est le code open source. La proposition prévoit une place pour cette communauté au conseil. Cependant, la frontière entre les poids ouverts et le modèle de frontière demeure nébuleuse. Par conséquent, ceux qui publient des poids doivent suivre cette définition de près.
La quatrième est la portabilité. Un modèle approuvé aux États-Unis peut ne pas avoir le même statut dans d’autres marchés. Par conséquent, les architectures avec une abstraction du fournisseur cessent d’être du pur pédant et deviennent une sécurité.
DeepMind a dialogué avec les gouvernements avant de publier le manifeste
Le manifeste se nomme « Une Structure pour l’IA de Frontière et l’Aube d’une NouvelleÈre Ère ». Avant de publier, toutefois, Hassabis a passé des mois à discuter. La liste comprend des membres du gouvernement Trump, des autorités européennes et des dirigeants d’autres laboratoires.
Il décrit les signaux reçus comme très positifs. De plus, il affirme qu’il existe une compréhension croissante dans le secteur qu’une régulation va venir. Ce n’est pas un consensus, mais ce n’est pas non plus une voix isolée.
Dans le même document, il soutient que l’AGI est probablement à quelques années de distance. Dans un autre passage, il résume le moment avec une image qui a circulé énormément : « nous avons découvert une manière de faire penser le sable ».
Comment se préparer sans attendre que la loi sorte
Rien de tout cela n’est encore une loi. Cependant, trois mouvements semblent pertinents quoi qu’il en soit.
Dissocier le fournisseur. Maintenez une couche d’abstraction entre votre application et le modèle. Ainsi, changer de prestataire devient une configuration, non une refonte.
Documentez le comportement, pas seulement le code. Les évaluations de capacités dangereuses dépendent de preuves. Donc, ceux qui enregistrent déjà les invites, les sorties et les cas limites seront mieux préparés.
Traitez le modèle comme une dépendance critique. On marque les versions de bibliothèque. De la même manière, on marque les versions de modèle et on effectue des tests de régression avant le déploiement.
Le point que personne n’a résolu
La proposition présente une faille apparente. Le partage commence sur une base volontaire. Autrement dit, cela dépend de la bonne volonté des entreprises qui sont en course directe les unes contre les autres. Hassabis reconnaît cela en défendant que le processus devienne obligatoire après avoir prouvé sa valeur.
Pendant ce temps, l’asymétrie persiste. Ceux qui collaborent perdent du temps sur le marché. Ceux qui ne coopèrent gagnent. C’est le même dilemme qui traverse l’histoire de la sécurité logicielle.
Pour finir, il convient de noter ce que la proposition signale réellement. L’un des noms les plus influents du secteur appelle à une pause. Non pas par peur abstraite, mais pour une échéance courte. Par conséquent, la discussion sort du champ spéculatif et entre dans votre backlog.
Aenean suivi notre profil sur Instagram !
