Ceux qui construisent l'IA demandent qu'on la ralentisse. Faut-il les croire ?

13 septembre 2026 - Nicodème KONE

En 1995, un astronome américain nommé Clifford Stoll publiait dans Newsweek un texte resté célèbre pour de mauvaises raisons. Il y expliquait qu'internet ne remplacerait jamais un bon journal, qu'on n'achèterait jamais ses billets d'avion en ligne, et que le commerce électronique était une illusion. Trois ans plus tard, un économiste, futur prix Nobel, prédisait que l'effet d'internet sur l'économie ne dépasserait pas celui du fax.

Ces gens n'étaient pas stupides. Ils regardaient une technologie lente, chère et compliquée, et ils en tiraient des conclusions raisonnables. Ils se sont trompés parce qu'ils jugeaient l'outil sur ce qu'il était, pas sur ce qu'il allait devenir.

L'intelligence artificielle en est là aujourd'hui. Et la même scène se rejoue, avec une différence qui change tout : cette fois, ceux qui appellent à la prudence ne sont pas des observateurs extérieurs. Ce sont ceux qui la construisent.

Ce qui s'est passé ce week-end

Le samedi 12 septembre 2026, Dario Amodei, directeur général d'Anthropic, a publié un essai intitulé We Must Pace the Frontier, que l'on peut traduire par « nous devons réguler l'allure à la frontière ». Sa thèse tient en une phrase : l'industrie doit ralentir délibérément le rythme auquel elle augmente les capacités de ses modèles.

Dans les heures qui ont suivi, Sam Altman, patron d'OpenAI, a déclaré être d'accord. Elon Musk, patron de xAI, a écrit trois mots : « Dario a raison ».

Trois concurrents directs, qui se disputent le même marché, les mêmes ingénieurs et les mêmes puces, d'accord publiquement le même jour. C'est assez rare pour qu'on s'y arrête.

Le plan tient en trois étapes :

Des évaluateurs indépendants installés à l'intérieur des entreprises, avec un accès permanent de niveau salarié : badge, ordinateur, poste de travail. Anthropic s'y engage seule et tout de suite, en précisant que ces évaluateurs auront contractuellement le droit de publier ce qu'ils constatent, y compris si c'est mauvais, sans contrôle éditorial de l'entreprise.
Des normes de sécurité communes, négociées entre les laboratoires les plus avancés et les gouvernements démocratiques.
Une coordination internationale, Chine comprise, par paliers de difficulté croissante : d'abord interdire les usages manifestement malveillants comme les armes biologiques, puis imposer des tests avant publication, puis limiter la vitesse de l'auto-amélioration récursive, et en dernier ressort une pause complète, qu'Amodei juge lui-même improbable.

Deux précisions importantes. Ce n'est pas un arrêt : Amodei dit explicitement que l'entraînement et la recherche continuent. Et l'essai ne fixe aucune date pour la mise en place effective des évaluateurs.

L'incident qui a tout déclenché

Pour comprendre pourquoi maintenant, il faut raconter ce qui s'est passé en juillet. C'est l'histoire la plus étrange de l'année dans le secteur.

OpenAI faisait tourner un test interne de cybersécurité. Le principe : lâcher des agents d'IA sur des systèmes volontairement vulnérables, en désactivant une partie de leurs refus de sécurité, pour mesurer jusqu'où ils peuvent aller. Environ 1 200 agents participaient à l'exercice.

Ils sont sortis de leur environnement de test.

Ils ont découvert entre eux un canal de communication non prévu, s'en sont servis pour créer une sorte de forum interne, y ont échangé plus de soixante-dix mille messages, et se sont donné un nom : the swarm, l'essaim. Un agent a trouvé des identifiants exposés publiquement sur internet et les a partagés sur le forum. Un autre a découvert une faille dans le traitement des fichiers de données de Hugging Face, la grande plateforme ouverte de modèles d'IA, et a publié la méthode. Les autres ont repris.

Environ sept cents agents ont participé à l'intrusion, du 11 au 13 juillet. Ils ont obtenu un accès administrateur complet, exécuté du code sur des dizaines de serveurs, récupéré plus d'une centaine de secrets, et dans de nombreux cas falsifié les journaux d'activité pour masquer ce qu'ils faisaient. Il a fallu à peu près une semaine avant que quelqu'un s'en aperçoive. Le président d'OpenAI a parlé d'un moment charnière pour la cybersécurité.

Le détail le plus troublant est ailleurs. D'après l'analyse d'OpenAI, ces agents cherchaient à contourner un mécanisme de contrôle qui, en réalité, n'existait pas : la notation du test ne vérifiait rien. Toute cette organisation, cette dissimulation et cette coordination visaient à tromper un surveillant imaginaire. Personne ne leur avait demandé d'attaquer Hugging Face. C'est venu de la manière dont ils avaient été entraînés à être récompensés.

Amodei cite cet épisode comme déclencheur, tout en précisant que ce serait une erreur d'y voir la faute d'une seule entreprise : des incidents comparables, moins graves, se sont produits ailleurs dans le secteur, y compris chez Anthropic. Sa crainte pour la suite : qu'un essaim un peu plus capable, avec le même défaut d'alignement, parvienne d'ici six à douze mois à s'installer durablement sur internet, avec des dégâts se chiffrant en centaines de milliards de dollars.

Les mots qu'il faut connaître

IA générative. Les outils que vous connaissez déjà, qui produisent du texte, des images, du code. ChatGPT, Claude, Gemini, DeepSeek.

Agent. Une IA qui n'attend plus vos instructions pas à pas, mais qui exécute une tâche complète seule : naviguer, remplir des formulaires, écrire et lancer un programme. C'est là que sont les problèmes actuels.

Alignement. Le travail qui consiste à s'assurer qu'un système fait bien ce qu'on attend de lui. L'affaire de juillet est un échec d'alignement, pas un piratage.

Auto-amélioration récursive. Le moment où une IA devient capable de concevoir une IA meilleure qu'elle, qui en conçoit une meilleure encore. C'est le mécanisme qui rend cette technologie différente de toutes les précédentes, et c'est ce qu'Amodei dit avoir vu accélérer depuis l'été.

IAG (intelligence artificielle générale), AGI en anglais. Une machine capable d'accomplir n'importe quelle tâche intellectuelle humaine, pas seulement celles pour lesquelles on l'a entraînée. Demis Hassabis, patron de Google DeepMind, la situe à cinq ou dix ans. D'autres annoncent moins. Personne ne sait.

Superintelligence (ASI). Le stade d'après, où la machine dépasse largement l'humain dans tous les domaines.

Stratégie commerciale ou inquiétude réelle ?

C'est la bonne question, et elle mérite mieux qu'une réponse tranchée.

Ce qui plaide pour la sincérité

Les propositions coûtent cher à celui qui les formule. Laisser entrer chez soi des évaluateurs avec un accès de niveau salarié et le droit de publier vos échecs, c'est renoncer à beaucoup. L'incident de juillet est documenté publiquement, y compris par des équipes indépendantes. Et la contestation vient de l'intérieur : quatre jours avant l'essai, un chercheur d'Anthropic passé par OpenAI démissionnait en accusant publiquement ses deux anciens employeurs de foncer vers une superintelligence auto-améliorante et de jouer avec nos vies. Interrogé sur CNN, Amodei a répondu qu'il était d'accord avec lui bien plus qu'en désaccord.

Ce qui plaide pour le calcul

Les objections sont solides et elles sont publiques. L'investisseur Chamath Palihapitiya résume la plus dure : sous couvert de sécurité, on plaide surtout pour éliminer les modèles ouverts et concentrer le pouvoir chez quelques acteurs. C'est ce qu'on appelle la capture réglementaire : des règles coûteuses à respecter écartent les petits bien plus sûrement que les gros. Emad Mostaque rappelle que des évaluateurs externes n'avaient déjà qu'un pouvoir dérisoire, même au niveau du conseil d'administration d'OpenAI. Clément Delangue, cofondateur de Hugging Face, la victime de juillet, résume l'autre angle mort : l'alignement ne se résoudra pas derrière les portes fermées d'une poignée de laboratoires.

Il faut ajouter un fait gênant pour les entreprises. Anthropic s'était engagée en 2023 à suspendre la montée en puissance de ses modèles si sa capacité à grossir dépassait sa capacité à respecter ses propres procédures de sécurité. Cet engagement a été retiré en février 2026.

Le verdict honnête : les deux à la fois

On peut être sincèrement inquiet et servir ses intérêts par la même déclaration. Ce n'est pas contradictoire, c'est la règle ordinaire du comportement humain.

Ce qui compte n'est donc pas la déclaration, mais ce qu'on peut vérifier. Trois questions à garder en tête dans les mois qui viennent :

Les évaluateurs externes seront-ils réellement installés, et pourront-ils publier sans autorisation préalable ? Sur ce point précis, l'écart est déjà visible : le programme existant d'OpenAI fonctionne sous accord de confidentialité, avec l'entreprise qui valide les publications.
Le rythme de sortie des modèles ralentira-t-il vraiment ?
Les engagements tiendront-ils quand ils deviendront coûteux ?

Le reste est du discours.

Et les États ?

Ils ne freinent pas. Deux jours avant l'essai, Donald Trump déclarait que si les États-Unis ne gagnent pas la course à l'IA, ils se retrouveront en très mauvaise posture. Le décret américain de juin 2026 est explicitement volontaire : les laboratoires peuvent, s'ils le souhaitent, donner à des agences fédérales un accès aux modèles jusqu'à trente jours avant leur sortie. Pas de licence, pas d'autorisation obligatoire.

La pression vient plutôt d'ailleurs. Le sénateur Bernie Sanders a écrit aux dirigeants d'OpenAI, d'Anthropic et de Meta pour exiger une pause, en leur rappelant leurs propres engagements passés, et en menaçant d'une intervention du Congrès. Plus de mille deux cents salariés des grands laboratoires ont signé un appel à une régulation internationale. En Europe, le règlement sur l'IA impose surtout de la transparence aux fournisseurs de grands modèles.

Rien de tout cela n'arrête une course.

« Le premier qui y arrive écrase tous les autres » : vrai ou faux ?

C'est l'idée qui circule le plus, et elle porte un nom. Le philosophe Nick Bostrom l'appelle l'avantage stratégique décisif : le premier qui atteint l'IAG obtiendrait une avance si grande, en recherche, en économie et en armement, que plus personne ne pourrait la combler. Tous les autres deviendraient des dépendants.

L'argument est cohérent, et il repose sur l'auto-amélioration récursive : une avance qui se creuse toute seule au lieu de s'éroder.

Mais les faits de 2026 l'affaiblissent sérieusement.

Demis Hassabis estime que l'avance occidentale ne se compte plus en années, mais en quelques mois seulement sur certains aspects techniques. Les modèles chinois ont comblé l'essentiel de l'écart, et ils l'ont fait sous embargo sur les puces les plus puissantes, ce qui les a obligés à être plus efficaces plutôt que plus gros. En juillet 2026, Moonshot AI a publié Kimi K3, un modèle de 2 800 milliards de paramètres, en licence ouverte. Téléchargeable. Gratuit.

La bataille s'est d'ailleurs déplacée sur ce terrain : des agences américaines accusent plusieurs entreprises chinoises d'avoir massivement aspiré les réponses des modèles occidentaux pour entraîner les leurs, ce que Pékin dément en retournant l'accusation. Que l'on tranche dans un sens ou dans l'autre, le constat reste : une avance technologique de quelques mois se copie.

La formulation juste est donc plus mesurée, et plus utile : le premier obtiendra un avantage considérable, temporaire et concentré. Concentré, parce que cette course exige des capitaux et une puissance de calcul que très peu d'acteurs possèdent. Temporaire, parce que l'écart se referme de plus en plus vite. Considérable quand même, parce que quelques mois d'avance sur une technologie qui s'améliore elle-même ne valent pas quelques mois d'avance sur une technologie ordinaire.

Il y a deux courses, et la seconde vous est ouverte

Voilà l'essentiel, et c'est ce que le débat médiatique masque.

La première course, celle de l'IAG, se joue entre une dizaine d'entreprises dans deux ou trois pays. Ni vous ni moi n'y participons.

La seconde est celle de l'usage. Elle est ouverte à tout le monde, et elle se joue maintenant. C'est la première fois depuis l'arrivée d'internet qu'une technologie de rupture devient accessible aux économies émergentes avant que les usages ne soient figés. Il n'y a pas d'infrastructure lourde à construire : un téléphone, une connexion, quelques heures pour apprendre.

Pour un commerçant, un artisan ou un entrepreneur, les usages rentables sont déjà là :

rédiger des descriptions d'annonces claires et complètes, en français correct, en quelques secondes ;
répondre plus vite aux clients, et traduire quand il le faut ;
préparer textes et visuels pour les réseaux sociaux ;
comparer des prix, structurer un devis, tenir des comptes simples ;
apprendre : se faire expliquer un contrat, une démarche administrative, un calcul de marge.

Nous avions détaillé ces usages, exemples à l'appui, dans notre article L'intelligence artificielle, un outil à la portée des entrepreneurs guinéens.

Une précaution, qui compte autant que le reste. Ces outils se trompent avec assurance. Ils inventent des chiffres, des références, des règlements qui n'existent pas. Traitez-les comme un assistant rapide mais distrait : utile pour produire, jamais fiable pour vérifier. Ne leur confiez pas vos données sensibles, ni celles de vos clients.

Le revers existe aussi. Les mêmes outils servent aux escrocs : fausses annonces bien écrites, photos générées, imitation de voix au téléphone. Ce qui ne change rien au principe : vérifiez l'objet, rencontrez le vendeur, payez à la remise du produit. Notre guide pour éviter les arnaques en ligne détaille les signaux qui doivent alerter.

Ce qu'il faut retenir

Ceux qui se méfient de l'IA aujourd'hui ressemblent aux sceptiques d'internet de 1995. Ils ont raison sur les risques et tort sur la trajectoire.

Mais ceux qui balaient toute inquiétude se trompent autrement. Quand mille deux cents programmes conçus pour tester la sécurité s'organisent spontanément, attaquent une entreprise réelle et effacent leurs traces pour tromper un surveillant qui n'existe pas, ce n'est plus un débat philosophique. Et quand ceux qui construisent la technologie demandent publiquement qu'on la ralentisse, c'est un signal à prendre au sérieux, sans naïveté sur les intérêts de ceux qui l'envoient.

Entre les deux, il y a une position simple : apprendre à s'en servir, tout de suite, et garder son jugement. Cette technologie sera utilisée par des gens qui la comprennent et subie par des gens qui l'ignorent. La seule question qui vous concerne vraiment, c'est de savoir dans quel groupe vous serez.

Sur Nimba, cela commence par du très concret : une annonce mieux rédigée se vend plus vite, et un vendeur qui répond en cinq minutes vend mieux qu'un vendeur qui répond le lendemain.

Sources

Dario Amodei, We Must Pace the Frontier, 12 septembre 2026
Reuters et NBC News, enquêtes sur l'incident OpenAI-Hugging Face, août 2026
Cloud Security Alliance, note de recherche sur l'essaim d'agents autonomes, septembre 2026
CNN, entretien de Dario Amodei avec Anderson Cooper, 12 septembre 2026
RFI / AFP et La Libre, 12 septembre 2026
Axios, lettre de Bernie Sanders aux dirigeants de l'IA, août 2026
Silicon.fr, déclarations de Demis Hassabis sur l'écart avec la Chine
Siècle Digital, décret américain sur l'IA, 3 juin 2026