Un ralentissement du développement de l'IA ?

Coup de théâtre, plusieurs acteurs de l’IA demandent un ralentissement sur le développement des modèles frontières et la mise en place d’une régulation. Les progrès de l’IA seraient trop rapides et pourraient poser de sérieux problèmes à l’avenir.

Mais est-ce que ça ne cacherait pas quelque chose ? Est-ce que ce ne serait pas encore un coup marketing pour continuer à alimenter la hype du secteur ? Ou bien est-ce que ce serait une sorte de mouvement désespéré pour verrouiller le marché et sortir d’une situation financière compliquée ?

La lettre de Dario

Tout part de la lettre de Dario Amodei publiée il y a quelques jours : “we must pace the frontier”.
(Dario Amodei est l’actuel CEO de Anthropic qui édite Claude)

Dans cette lettre, Dario appelle à réguler/ralentir/sécuriser le développement de l’IA. Il met en avant les récents incidents autour de l’attaque cyber de Hugging Face et l’emballement lié à l’accélération du développement avec des modèles qui s’auto améliorent.

Il propose donc plusieurs mesures :

• la mise en place d’organismes d’audit et de contrôle
• une mise en place de normes de sécurité et de développement des modèles
• une coordination internationale pour réguler à l’échelle internationale

Dans la foulée, Sam Altman (OpenAI) et Elon Musk (xAI) ont tout deux validé la demande sur les réseaux sociaux, ce qui déjà en soit constitue une énorme surprise, les 3 n’étant pas spécialement du genre à passer des vacances ensemble.

Mais il faut sans doute lire entre les lignes.

Une période Pré IPO et un modèle bancal

Petit rappel de contexte, OpenAI et Anthropic prévoient une entrée en bourse prochaine. Les deux entreprises sont loin d’être rentables et dépensent des milliards en entrainement de modèle ou en cout d’inférence. Pour gagner, ou conserver, des parts de marché, les deux géants cassent les prix et sponsorisent le cout du token à perte. Mais entre investissements gigantesques et constant, et concurrence en hausse, notamment par les modèles chinois, le modèle économique semble très bancal et pourrait bien refroidir les investisseurs boursiers.

On assiste a une véritable course à l’armement, dans une industrie largement en surchauffe, dans laquelle le premier qui ralentit perd. Mais surtout, dans laquelle le niveau des investissements déjà réalisées ne permet pas de ralentir. Ce serait compliqué pour les investisseurs d’accepter que d’un coup les performances des modèles stagnent. Les plans d’investissements incluent des constructions de datacenter, des achats de composants électroniques, de la capacité électrique etc… Annoncer ralentir aujourd’hui, ce serait un gros coup pour de nombreux acteurs, mais aussi un signe négatif à envoyer pré IPO.

Sauf que accélérer pour foncer dans le mur avec un modèle économique qui ne tient pas la route, c’est pas non plus un scénario séduisant.

Alors peut-être que cette lettre serait un moyen de créer une porte de sortie.

Un marketing de la peur permanent

La lettre de Dario s’inscrit dans une stratégie marketing qui a déjà fait ses preuves. Rappelez vous des précédents :

• En 2023, une lettre ouverte avait déjà été publié pour ralentir, déjà signé par Elon Musk
• En 2023 toujours, la déclaration sur le risque d’extinction signé par Sam Altman et Dario Amodei
• En 2024, des déclarations de chercheurs OpenAI sur le risque de sécurité et de gouvernance
• En 2026, les déclarations de Jacob Coxon (Anthropic)

Je pourrais faire une liste encore très longue et même remonter à la première déclaration de Musk en 2014.

Il est bien évident que certaines personnes dans cette liste peuvent être sincère sur ces déclarations mais j’ai du mal à ne pas y voir une certaine forme de mise en scène marketing.

Mettre en avant qu’une technologie est un risque existentiel pour l’humanité, notamment si elle tombe entre de mauvaises mains ou si elle est conçus sans garde fous, ça permet deux choses :

• de mettre en valeur qu’on travaille sur une technologie surpuissante et qui méritent qu’on y investisse ou qu’on l’achète
• d’appeler à réguler les nouveaux acteur en verrouillant le marché

La lettre de Dario sur laquelle beaucoup d’experts débattent depuis 1 semaine n’est rien de plus que le prolongement de ce marketing. Mais on commence quand même à y voir quelques nouveautés.

Un appel à la régulation pour freiner la concurrence ?

Dans le texte, le CEO d’Anthropic vise explicitement l’interdiction des acteurs qui font de la distillation :

Crack down on unauthorized distillation by companies in authoritarian countries. Distillation of frontier models allows lagging companies to narrow the gap using a fraction of the cost it would take to develop their own AI independently.

La distillation permet en effet d’entrainer un modèle à partir d’un modèle frontière en économisant sur les couts.

On retrouve également :

• un appel à limiter la vente des puces les plus puissantes à la Chine (mais plus globalement aux concurrents non US)
• différences indices dans le texte qui vise à freiner/bloquer les modèles open weight (renforcement des méthodes d’audit, incompatibilité avec la notion de checkpoint de certification)

Donc à votre avis, qui serait pénalisé par une régulation sur l’IA telle qu’elle est demandé par Amodei ?

• Les acteurs Chinois qui utilisent massivement la distillation pour proposer des modèles concurrents à une fraction du prix
• L’open source et la recherche qui s’appuie sur les modèles open weight et qui de toute façon n’aura pas les moyens de mise en place des mécanismes d’audit, sans parler que les organismes de certifications ne seront pas forcément si indépendant que ça
• Mistral, qui ne pourrait plus exploiter des modèles en open weight dans ces infrastructures et devrait aussi mettre en place des mécanismes de certification sans doute très couteux et piloté par les US
• Les nouveaux entrants pour lesquels le ticket d’entrée sera trop fort
• Les hébergeurs qui vendent du calcul sur des modèles open weight

Bref, ce serait un coup dur pour l’open source, l’Europe et sa souveraineté, et les entreprises avec à la clé la création d’un oligopole capable de fixer les prix beaucoup plus facilement.

Des oppositions importantes

On pourrait penser qu’avec des bénéfices aussi forts, toute l’industrie américaine serait derrière ce projet. Eh bien, surprenamment, pas tant que ça.

Si on peut reprocher à Amodei, Altman et Musk de cacher leurs ambitions de créer un oligopole et de verrouiller le marché, il n’en reste pas moins que l’objectif affiché reste d’encadrer les risques de l’IA, en imposant une régulation mondiale, certes, mais enrobé d’un beau papier cadeau.

Mais ce n’est pas du tout l’approche des “accélérationistes”, notamment représenté par Peter Thiel et Alex Karp (Palantir) qui souhaite au contraire une dérégulation totale du marché et dont la priorité absolue est de battre la Chine.

Sans surprise on va retrouver ce même discours chez Trump (on peut rappeler que JD Vance a été présenté à Trump par Thiel), qui nous a pondu des déclarations aussi lunaire que d’habitude et dont je vous laisse apprécier la teneur :

Le seul garde-fou dont l'IA a besoin, c'est un PRÉSIDENT FORT ET INTELLIGENT (à QI élevé !), et les États-Unis en sont pourvus, et même plus ! L'administration Trump a empêché les spécialistes de l'IA de commettre des actes malveillants, ou potentiellement malveillants, comme Dario (anthropic !), qui se fait maintenant passer pour un « petit ange parfait » – et nous continuerons sur cette voie ! Nous disposons déjà d'un pouvoir considérable, tant pénal que réglementaire, sur ces entreprises ! Un complot sordide se trame contre l'IA et les centres de données, et la seule à s'en réjouir est la Chine. Celui qui domine l'IA gagne ! Nous sommes en tête face à la Chine et à tous les autres, et nous le resterons. Théoriciens du complot, traîtres, et fuiteurs, prenez garde ! Merci de votre attention ! Président DONALD J. TRUMP

Heureusement qu’il est là, le spectacle est toujours garanti…

Mais on retrouve aussi cette opposition chez Jensen Huang (CEO Nvidia) qui, rappelons-le, vient d’acheter Hugging Face pour 13 milliards de dollars et qui vient d’investir chez Mistral. L’entreprise vend des puces et de la capacité de calcul à tout le monde et voit dans l’open source une opportunité, au moins business en tout cas, alors le ralentissement demandé par Amodei est loin d’être sa priorité.

Et l’Europe ?

Le simple fait que Trump soit opposé au projet de ralentissement enterre ce projet à minima le temps de son mandat aux US. On peut difficilement imaginer un ralentissement d’ici 2028, en tout cas pas pour ces raisons là. Et même à l’avenir, il me semble incertain d’envisager que les USA acceptent de voir passer la Chine devant sans réagir.

Côté Europe, la discussion risque au contraire de laisser des traces. Elle donne du grain à moudre pour les régulateurs de l’UE qui verraient bien la mise en place de normes plus contraignantes, et pour certains gouvernements qui aimeraient bien prendre la main. Sans parler de certains politiques qui sont un peu perdus face aux enjeux et pourraient jouer contre leur camp sans même le comprendre.

Ces hésitations risquent de nous mettre en mauvaise posture si jamais nous rajoutions des barrières sur le monde open source, sur les modèles open weights ou nos champions locaux.

Bref, cet appel à ralentissement me paraît surtout une manœuvre pour s’assurer un peu de stabilité sur un marché qui s’est emballé. Si les auteurs étaient vraiment sincères sur les soucis d’alignement des modèles, s’ils étaient inquiets sur les risques d’échappement d’IA, ils ont déjà les moyens de travailler sur le problème.
Le vrai risque existentiel aujourd’hui porte surtout sur leurs futures IPO, une concurrence qui monte et un marché européen qui pourrait choisir une autre voix avec des modèles open weights.
Il parait de toute façon peu probable que la Chine souscrive à cet appel, pas plus que l’administration Trump et j’espère que l’Europe ne cédera pas à la tentation de renforcer des législations au prix de notre souveraineté future.