L’IA rebat les cartes des risques biologiques et nucléaires : le processus d’Asilomar

Résumé en français de l’analyse AI is changing biological and nuclear risks; governance must change accordingly du Bulletin of the Atomic Scientists (18 juin 2026), par Stephen Herzog, Allison Berke, Yanliang Pan, William C. Potter et Douglas B. Shaw.

Le 7 avril 2026, Anthropic annonçait qu’elle restreignait l’accès public à son modèle le plus avancé, Claude Mythos Preview, parce que le système pouvait découvrir et exploiter des failles de sécurité inconnues dans des logiciels. L’entreprise est loin d’être seule à s’inquiéter, et ces risques dépassent largement le piratage informatique.

Un important rapport sectoriel de 2026 sur la sécurité révélait que plusieurs laboratoires d’IA de pointe avaient récemment ajouté des restrictions à leurs systèmes, faute de pouvoir écarter l’hypothèse que leurs modèles aident des novices à développer des armes chimiques ou biologiques. Les entreprises d’IA prennent généralement conscience des risques sérieux bien avant que les gouvernements et les organisations internationales ne puissent réagir — ce qui rend leur participation à l’élaboration des règles de surveillance essentielle dès le départ. Mais quand vient le temps de restreindre leurs propres modèles, commercialement précieux, l’industrie s’arrête souvent en chemin.

C’est dans ce contexte que le James Martin Center for Nonproliferation Studies a réuni, les 8 et 9 avril, plus de cent experts au centre de conférences d’Asilomar, en Californie. Le lieu n’est pas anodin : Asilomar est associé depuis longtemps aux efforts marquants de gouvernance des technologies transformatrices. Universitaires, groupes de réflexion, laboratoires nationaux, gouvernements et — élément déterminant — représentants de l’industrie de l’IA y ont lancé un « processus d’Asilomar » visant à élaborer des garde-fous concrets.

Le diagnostic commun est simple : les modèles d’IA du secteur privé progressent bien plus vite que les institutions chargées de prévenir la guerre nucléaire et les catastrophes biologiques. Les entreprises sont peut-être les premières à repérer une nouvelle capacité, mais ce sont les spécialistes des armements et des conflits qui peuvent juger du moment où cette capacité devient un risque concret. Aucun des deux camps ne peut y arriver sans l’autre.

Du côté biologique, la COVID-19 a montré l’ampleur des dommages qu’une pandémie peut infliger — sans même l’ajout d’un agent pathogène délibérément conçu — et à quel point l’information manipulée peut orienter les comportements pendant une urgence sanitaire. Les auteurs s’inquiètent de la multiplication des laboratoires infonuagiques, qui rendent des expériences complexes accessibles à distance et mettent à l’épreuve des mesures de sécurité pensées pour l’accès à des installations physiques. Attendre une pandémie bien pire que la COVID-19 pour clarifier les responsabilités serait, écrivent-ils, une erreur grave.

Du côté nucléaire, les préoccupations sont d’un autre ordre. L’usage de l’IA dans les systèmes d’alerte précoce et l’aide à la décision en situation de crise pourrait comprimer les délais de réflexion et accroître la pression sur les dirigeants pour qu’ils lancent des armes nucléaires en réponse à des informations fausses ou manipulées. En décembre 2025, l’Assemblée générale de l’ONU a adopté une résolution sur les risques liés à l’IA dans le commandement et le contrôle nucléaires. Pourtant, à la conférence d’examen du Traité sur la non-prolifération de 2026, toute mention explicite des risques nucléaires liés à l’IA a été retirée du document final.

Le secrétariat de la conférence a adopté sept principes de gouvernance, reproduits publiquement pour la première fois. Premièrement, l’IA doit protéger la survie humaine : les systèmes doivent renforcer, jamais éroder, les barrières contre l’emploi d’armes nucléaires et biologiques.

Deuxièmement, les décisions d’emploi d’armes nucléaires doivent rester sous contrôle humain significatif. Aucun système d’IA ne doit déclencher ou autoriser l’usage d’armes nucléaires; les décideurs humains doivent pouvoir réviser et annuler les productions de la machine, même sous forte pression temporelle et malgré le biais d’automatisation. Tout système d’aide à la décision nucléaire doit être auditable, dans ses données comme dans sa logique.

Troisièmement, la gouvernance de l’IA doit renforcer la non-prolifération et la stabilité stratégique, notamment par des engagements réduisant les risques d’escalade, d’erreur de calcul ou de prolifération.

Quatrièmement, les développeurs d’IA doivent contribuer à une gouvernance anticipative des risques. Le texte est direct : les entreprises d’IA sont des acteurs géopolitiques dont les choix affectent la sécurité mondiale, et leurs obligations juridiques, financières et institutionnelles devraient refléter la priorité absolue qu’est la prévention des risques d’extinction.

Cinquièmement, la surveillance et la vérification assistées par l’IA doivent être responsables et éthiques, sans affaiblir les normes établies d’explicabilité, d’objectivité, de traçabilité des données et d’imputabilité humaine. Sixièmement, la gouvernance doit être mondialement inclusive : les mesures restreignant l’accès aux capacités dangereuses devraient s’accompagner d’efforts pour réduire les motivations qui poussent des États à vouloir les acquérir.

Septièmement, l’IA ne doit pas servir à la désinformation ni aux attaques contre les installations nucléaires et biologiques. De fausses informations très réalistes dans ces domaines peuvent causer des dommages considérables, et il faut développer une résilience active contre les attaques combinées — informatiques, physiques et informationnelles.

Les auteurs présentent ces principes comme un point de départ ouvert à la révision, appelé à évoluer avec l’expérience et les capacités des systèmes.