Alors qu’avec @moniaceleste nous venons de lancer la première IA adossée à un média, impossible de ne pas constater que, plus l’intelligence artificielle se déploie, plus les craintes de la voir s’autonomiser et nous échapper augmentent. Plus progresse également la peur d’une prééminence de ses usages néfastes sur les utilisations vertueuses. Nulle surprise alors de lire, à longueur de médias et de réseaux, une prolifération de messages angoissés appelant à stopper cette course.
Mais il en est un, publié cette semaine, qui retient particulièrement notre attention, en plus de nous faire légèrement sourire. Il nous vient d’Anthropic, la société conceptrice du LLM Claude. Il propose l’édiction d’un moratoire mondial coordonné sur le développement des systèmes les plus avancés. L’entreprise plaide pour une coordination internationale permettant de ralentir ou de suspendre temporairement les avancées lorsque les risques de perte de contrôle deviennent trop élevés. Cette initiative s’inscrit dans la droite ligne de l’encyclique Magnifica Humanitas, publiée par le pape Léon XIV fin mai, qui appelle à préserver la dignité humaine face aux disruptions de l’IA et qui a vu Christopher Olah, l’un des cofondateurs d’Anthropic, participer à sa présentation.
Les inquiétudes exprimées ne sont pas infondées. Malgré ses formidables promesses, dont nous tenons régulièrement la chronique dans nos colonnes, l’IA est aussi source de dangers. Notamment ceux d’une concentration extrême du pouvoir entre quelques acteurs et/ou États totalitaires, d’une transformation radicale du marché du travail, d’usages militaires dévastateurs, voire, selon des scénarios extrêmes, d’une perte de contrôle par l’humanité. Dario Amodei, le PDG d’Anthropic, a évoqué à plusieurs reprises la possibilité de conséquences catastrophiques si le rythme effréné de développement de ces technologies n’est pas maîtrisé.
Pourtant, cette posture morale mérite d’être analysée à l’aune de la réalité de son émetteur. Anthropic publie régulièrement des modèles performants, figure parmi les entreprises les plus valorisées du secteur, approchant les 965 milliards de dollars après une levée de fonds massive et un dépôt confidentiel d’introduction en bourse, et continue de repousser les frontières technologiques. Proposer un moratoire mondial alors que l’on occupe une place de leader revient à demander aux autres de marquer une pause pendant que l’on consolide son avance. Rappelons qu’en 2023, Elon Musk, pourtant loin d’être un parangon de vertu, cosignait une lettre appelant à une pause de six mois sur les systèmes plus puissants que GPT-4, au nom des mêmes risques sociétaux. Quelques années plus tard, avec xAI en pleine accélération, il semble avoir largement abandonné ses éphémères scrupules.
Cette ambivalence n’est pas surprenante. Les entreprises les plus critiques de la régulation étatique, lorsqu’elle entrave leur liberté d’innover, deviennent souvent les premières à la réclamer dès qu’elle peut freiner la concurrence. Anthropic, fondée par d’anciens d’OpenAI précisément au nom d’une approche plus prudente, illustre ce paradoxe. Son insistance sur la nécessité de maintenir une avance occidentale face à la Chine, via des contrôles d’exportation stricts sur les puces, renforce cette impression. Dario Amodei argue avec constance que Pékin pourrait déployer l’IA de manière plus agressive et que toute coordination doit préserver l’avantage démocratique. L’argument n’est pas dénué de fondements géopolitiques, mais il apparaît quelque peu naïf ou opportuniste. Coordonner un moratoire effectif avec un rival stratégique relève de la gageure, et l’invocation de la Chine sert commodément à justifier à la fois la prudence et le maintien d’une suprématie technologique.
Au fond, l’opération révèle l’hypocrisie structurelle d’un secteur qui oscille entre discours messianique sur les bienfaits universels de l’IA et appels à la retenue dès que la dynamique concurrentielle l’exige. Les risques sont réels, la prudence nécessaire, mais elle doit s’appliquer avec cohérence, transparence et sans double discours. Faute de quoi, ces moratoires sélectifs risquent surtout de protéger les positions acquises plutôt que l’humanité.
