INTELLIGENCE ARTIFICIELLE · DOSSIER UNRIC

IA et paix : peut-on laisser une machine décider de la force ?

L'intelligence artificielle intervient dans des domaines sensibles de la sécurité, de l'analyse d'informations et des systèmes militaires. Ces usages peuvent présenter des avantages techniques, mais aussi des risques d'erreur, d'escalade et de dommages pour les civils. Les Nations Unies et les États discutent de nouveaux instruments, tandis que le droit international humanitaire continue de s'appliquer aux moyens et méthodes de guerre existants. L'autonomie d'un système soulève notamment des questions sur le contrôle humain, la responsabilité et la protection des populations.

Les positions et travaux des Nations Unies

Le droit international humanitaire continue de s'appliquer aux situations de conflit, y compris lorsque des technologies autonomes sont utilisées. Les principes de distinction, proportionnalité et précaution restent centraux.
Des discussions intergouvernementales concernant les systèmes d'armes létaux autonomes se poursuivent en 2026 : UNODA, réunions et documents (EN). Elles ne prouvent pas qu'une interdiction mondiale générale soit déjà en vigueur.
L'UNIDIR publie des scénarios de réflexion pour éclairer le droit et les politiques : Navigating Humanitarian Law in the Age of Autonomy (EN). Un scénario n'est pas la preuve d'un déploiement.

L'intelligence artificielle intervient dans des contextes très différents : analyse de données, cybersécurité, renseignement, surveillance ou systèmes d'armes. Ces usages ne peuvent pas être discutés comme s'ils présentaient tous les mêmes conséquences. Lorsqu'une décision peut blesser ou tuer, la question du contrôle humain et de la responsabilité devient centrale.

Qu'appelle-t-on système d'armes autonome ?

Le débat international porte notamment sur des systèmes capables de sélectionner et d'engager des cibles après leur activation, avec différents degrés d'intervention humaine. Tous les systèmes d'armes autonomes ne reposent pas nécessairement sur les modèles génératifs qui produisent des textes ou des images. Il faut distinguer l'autonomie de fonctionnement, les fonctions de ciblage et la place du jugement humain.

SCHÉMA 08 · PAIX ET SÉCURITÉ

Le contrôle humain : quatre questions à examiner

Cette grille aide à comprendre les débats sur les fonctions autonomes ; elle ne remplace pas une évaluation juridique complète.

CADRE
Qui définit les limites ?
Dans quelles conditions le système est-il autorisé à fonctionner ?
RISQUES
Qui évalue les effets ?
Comment apprécier les risques pour les civils et les situations imprévues ?
SUPERVISION
Qui peut intervenir ?
Quel contrôle humain est possible avant et pendant l'utilisation ?
RESPONSABILITÉ
Qui répond des actes ?
Quelles personnes et institutions demeurent juridiquement responsables ?

À retenir Autonomie de fonctionnement, IA générative et responsabilité juridique ne sont pas des notions interchangeables.

Source officielle : UNODA · documents sur les armes autonomes (EN)

Les questions posées par le droit international humanitaire

Les conflits armés sont soumis à des règles, notamment celles concernant la distinction entre civils et combattants, la proportionnalité et les précautions. Les technologies nouvelles ne rendent pas ces principes caducs. Les débats examinent la capacité d'un système à fonctionner dans des situations imprévues, la traçabilité des décisions et l'identification des personnes juridiquement responsables.

Les États ne partagent pas tous les mêmes positions sur les instruments internationaux qu'il faudrait adopter. Des discussions se poursuivent dans les mécanismes de désarmement, notamment avec l'appui du Bureau des affaires de désarmement des Nations Unies (UNODA) et de l'Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR).

Les risques ne sont pas tous des faits établis

Les chercheurs étudient également les usages d'agents d'IA plus autonomes, les risques de défaillance, de manipulation ou de perte de contrôle, et les possibles effets de l'IA sur les infrastructures critiques. Les évaluations scientifiques doivent distinguer les incidents documentés des scénarios possibles.

La gouvernance des usages militaires ne doit pas être confondue avec le Pacte numérique mondial ni avec le Dialogue mondial sur l'IA, dont les mécanismes portent sur le domaine non militaire.

Pourquoi ce débat concerne tout le monde

Le sujet ne se limite pas à la technologie : il pose des questions de responsabilité politique, de droit international, de protection des populations et de possibilité de contrôle des systèmes. Le rôle de l'ONU est d'offrir des cadres où les États peuvent examiner ces problèmes et rechercher des accords.

Un exemple non militaire : aider sans déléguer toute responsabilité

Le HCR explique certaines utilisations de l'IA à l'appui des réfugiés et des opérations (EN). L'intérêt de l'exemple est précisément de séparer une assistance informationnelle de décisions individuelles sensibles. Il ne faut pas en déduire qu'une machine serait chargée de reconnaître seule le statut de réfugié.

Contrôle humain : quatre questions essentielles

La responsabilité d'une décision ne disparaît pas lorsqu'un outil automatisé intervient. En contexte de conflit, les exigences particulières du droit international humanitaire s'ajoutent aux questions générales de transparence et de contrôle.

Questions fréquentes

Toutes les armes autonomes reposent-elles sur l'IA générative ?

Non. L'autonomie de certaines fonctions et la génération de contenu par un modèle sont deux notions distinctes.

Existe-t-il déjà une interdiction mondiale générale de toutes les armes autonomes ?

Non. Il faut distinguer les obligations juridiques existantes et les discussions sur de nouvelles règles spécifiques.

Une machine peut-elle devenir seule responsable de ses actes ?

Les responsabilités juridiques demeurent celles des acteurs humains et institutions soumis au droit applicable. Il est essentiel de déterminer qui conçoit, autorise, déploie et contrôle chaque usage.