En bref : mi-septembre 2026, plusieurs signaux ont relancé le débat sur la sécurité de l’IA : des démissions de chercheurs inquiets, une lettre ouverte du Haut-Commissaire de l’ONU aux droits humains appelant à gouverner l’IA d’urgence, et des réactions politiques allant d’une proposition d’interdiction à un refus net de nouveaux garde-fous. Ce papier rapporte ces positions sans les endosser.

Des démissions de chercheurs qui font du bruit

Plusieurs chercheurs en IA ont récemment quitté de grands laboratoires en exprimant publiquement leurs inquiétudes. Début septembre 2026, un chercheur d’Anthropic a annoncé sa démission dans un message très largement relayé sur le réseau social X, estimant que la course actuelle vers des systèmes toujours plus puissants serait conduite sans garanties suffisantes. Quelques jours plus tard, un autre chercheur, spécialisé dans la sécurité et l’alignement des modèles chez Google DeepMind, aurait à son tour quitté son poste en déclarant croire au « potentiel » de l’IA de causer des dommages irréversibles à l’humanité.

Le fil rouge de ces prises de parole est la notion de superintelligence : l’hypothèse de systèmes dépassant largement les capacités humaines et susceptibles d’échapper au contrôle de leurs concepteurs. L’argument avancé est qu’un système très performant pourrait poursuivre un objectif initialement anodin par des moyens non anticipés. Il s’agit d’alertes individuelles, et non de positions officielles des entreprises concernées, qui continuent par ailleurs de développer et de commercialiser leurs modèles.

L’appel de l’ONU à une régulation urgente

Le 14 septembre 2026, le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a adressé une lettre ouverte aux développeurs d’IA de pointe et aux gouvernements qui les hébergent. Intitulée « protéger les droits humains, aujourd’hui et demain, exige de gouverner l’IA d’urgence », elle met en garde contre des risques jugés inédits pour les droits humains, les infrastructures critiques et les institutions démocratiques.

Selon les termes rapportés de cette lettre, Volker Türk estime que le monde serait « au bord d’un changement irréversible » et appelle à une véritable diligence raisonnable en matière de droits humains, adossée à des normes de sécurité communes. Il suggère notamment que les entreprises limitent, par précaution, l’usage de l’auto-amélioration récursive des modèles les plus avancés tant que sa sûreté n’est pas démontrée. Il ajoute que l’autorégulation du secteur constituerait un premier pas « urgent » mais « loin d’être suffisant ».

Les réactions politiques, entre interdiction et refus

Aux États-Unis, le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé début septembre 2026 un projet de loi baptisé « Ban Artificial Superintelligence Act ». Selon ses promoteurs, il viserait à interdire le développement d’une superintelligence et à suspendre temporairement le développement de l’IA la plus avancée jusqu’à ce qu’un régulateur fédéral fixe des règles de sécurité. Le texte encouragerait aussi la recherche d’accords internationaux. Il s’agit d’une proposition dont l’adoption est loin d’être acquise.

À l’opposé, des responsables et des figures du secteur mettent en garde contre toute pause. Leur argument principal est d’ordre géopolitique : freiner unilatéralement reviendrait, selon eux, à céder un avantage stratégique à d’autres puissances, la Chine étant le plus souvent citée. Ce débat s’inscrit dans une rivalité plus large entre États-Unis et Chine, où certains dirigeants estiment que la maîtrise de l’IA est indissociable de la puissance nationale. On rapporte ces positions sans trancher : elles relèvent d’appréciations politiques et économiques.

Les arguments pour et contre un ralentissement

Les partisans d’un ralentissement avancent plusieurs points : le rythme de progression laisserait peu de temps aux sociétés pour s’adapter, les mécanismes de contrôle et d’alignement resteraient immatures, et le principe de précaution justifierait de ralentir tant que la sûreté n’est pas établie. Certains laboratoires reconnaissent eux-mêmes ne pas pouvoir garantir totalement la maîtrise de leurs futurs systèmes.

Les opposants à une pause répondent qu’un moratoire serait difficile à appliquer à l’échelle mondiale, qu’il pénaliserait l’innovation et la compétitivité, et qu’il pourrait avantager les acteurs qui ne le respecteraient pas. Ils soulignent aussi les bénéfices attendus de l’IA dans la santé, la recherche ou la productivité. Entre ces deux positions, beaucoup plaident pour une voie intermédiaire : encadrer sans interdire, via des normes de sécurité, des tests indépendants et de la transparence.

Un débat qui dépasse les frontières

Ces annonces ne sont pas isolées. Au Royaume-Uni, le roi Charles III prévoit de réunir des dirigeants de la tech pour discuter de « principes partagés » sur une IA respectueuse de la dignité humaine, un rendez-vous que nous détaillons dans notre article dédié au sommet du roi Charles III sur l’IA. Sur le plan réglementaire, l’Union européenne poursuit la mise en œuvre de son cadre, comme l’explique notre panorama des garde-fous de l’IA en 2026. Nous continuons de suivre ces évolutions dans notre rubrique technologies.

Ce qu’il faut retenir

• Mi-septembre 2026, plusieurs démissions de chercheurs ont relancé les alertes sur la « superintelligence ».
• Le 14 septembre 2026, le Haut-Commissaire de l’ONU aux droits humains, Volker Türk, a appelé à gouverner l’IA d’urgence.
• Aux États-Unis, Bernie Sanders et Greg Casar ont proposé un projet de loi visant à interdire la superintelligence et à suspendre l’IA la plus avancée.
• Les opposants à une pause invoquent surtout la compétition internationale et le risque pour l’innovation.
• Une voie médiane émerge : encadrer sans interdire, avec normes de sécurité, tests indépendants et transparence.