Les Lundis de l'IHEDN sont maintenant disponibles en version audio !
Cliquez ci-dessous pour écouter :
Lauréat en juin dernier d’un prix spécial de l’IHEDN pour sa thèse « La régulation juridique internationale de l’intelligence artificielle militaire », Louis Perez est docteur en droit public de l’université Paris-Panthéon-Assas. Sa thèse, financée par une allocation de recherche de la Direction générale des relations internationales et de la stratégie (DGRIS) du ministère des Armées, est issue de travaux menés à l’Institut de recherche stratégique de l’École militaire (IRSEM).
Il poursuit actuellement ses recherches comme post-doctorant à la chaire en études stratégiques du Centre Thucydide de Panthéon-Assas, où il mène un projet sur l’intelligence artificielle militaire et les technologies stratégiques. Ses travaux portent sur le droit international humanitaire, les systèmes d’armes létales autonomes (SALA), la régulation des GAFAM et le lawfare.
Vous rappelez que les « robots tueurs » (SALA) ne sont que l’arbre qui cache la forêt. Selon vous, quels sont les usages actuels de l’intelligence artificielle militaire (IAM) qui sont le plus sous-estimés par le grand public ?
Les SALA concentrent l’attention parce qu’ils répondent à un imaginaire de science-fiction, celui du « robot tueur ». Comme le disait l’ancienne ministre des Armées Florence Parly dans son discours sur l’IA militaire, « Terminator ne défilera pas au 14-Juillet ». Pourtant, l’IA militaire est une technologie polyvalente qui se glisse dans presque toutes les fonctions des armées. Les usages les plus structurants sont aussi les moins visibles, comme le renseignement ou l’aide à la décision.
Un système d’IA peut intervenir de diverses manières dans la décision militaire. Il peut produire une analyse, formuler une recommandation ou mettre lui-même la décision en œuvre. Le débat public se focalise généralement sur le troisième cas. Or la frontière entre ces trois cas est beaucoup plus mince qu’il n’y paraît.
Pressé par l’urgence, face à un système qu’il ne comprend pas entièrement, l’opérateur se retrouve souvent devant une alternative binaire qui consiste à faire confiance ou non. Si la recommandation est acceptée sans examen critique, l’aide à la décision devient de fait une mise en œuvre autonome. Un système présenté comme un simple outil d’appui peut donc avoir, dans les faits, des effets comparables à ceux d’une arme autonome. Il échappe pourtant largement au débat sur les SALA.
D’autres usages sont parfois omis, comme le recours à l’IA dans les opérations cyber ou informationnelles. L’IA ne doit donc pas être pensée comme un objet isolé, mais comme une couche qui irrigue toute la chaîne de décision. C’est là que se joue l’essentiel des enjeux, notamment juridiques.
Vous opposez l’humanisme à la cybernétique. En quoi le paradigme cybernétique et ses outils de calcul menacent-ils directement la conception traditionnelle du droit international et de la politique ?
Le droit international moderne repose sur un héritage humaniste. Il est fait par et pour l’Homme, sujet rationnel et politique, et s’appuie sur l’institution de l’État souverain qui le crée et le met en œuvre. Sur un tout autre plan, la cybernétique, discipline fondée par le mathématicien Norbert Wiener au sortir de la Seconde Guerre mondiale, est la matrice de l’IA. Si ce domaine technique n’a a priori pas grand-chose à voir avec le droit, ni plus largement avec les sciences sociales, la cybernétique porte en réalité une autre vision de la société et de l’Homme, qu’elle conçoit comme des systèmes répondant aux mêmes lois.
Selon ses préceptes, machines, humains et sociétés sont des systèmes d’information qui s’autorégulent par rétroaction. Elle renoue ainsi avec ce que le juriste Alain Supiot appelle la « gouvernance par les nombres ». On passe du gouvernement à la gouvernance, de la législation à la programmation. La légitimité ne vient plus de la loi, mais de l’efficacité des calculs.
Pour le droit international, cette tension se manifeste à deux niveaux. Le premier est celui de l’interprétation. Une machine peut-elle appliquer le droit des conflits armés ? Évaluer la proportionnalité d’une attaque ou prendre les précautions requises suppose un jugement contextuel, voire un débat intérieur. La lecture humaniste refuse de déléguer ce jugement à une machine et de réduire l’Homme à des données.
La lecture cybernétique considère au contraire que le droit, et plus largement la réalité à laquelle il s’applique, peuvent être codifiés numériquement dès la conception des systèmes (by design). Un système suffisamment performant pourrait ainsi appliquer le droit, peut-être même mieux qu’un humain. Le second niveau est celui des sources du droit. Le droit traditionnel est contourné au profit d’une régulation qui se déplace vers des normes souples, techniques ou éthiques, souvent d’origine privée.
Sur un plan plus politique, la menace est celle du projet que portait déjà au XIXe siècle le philosophe Henri de Saint-Simon, qui appelait de ses vœux le remplacement du gouvernement des hommes par l’« administration des choses ». Cette logique se retrouve dans ce que la juriste Antoinette Rouvroy et le philosophe Thomas Berns appellent aujourd’hui la gouvernementalité algorithmique.
Le développement de l’IAM repose en grande partie sur des géants technologiques civils (comme les GAFAM). Comment cette dépendance technologique privée redéfinit-elle la souveraineté et le pouvoir régalien des États ?
Il y a là un véritable renversement historique. L’IA est née des financements militaires américains. Les technologies circulaient alors du militaire vers le civil. Aujourd’hui, le mouvement s’est inversé. Ce sont quelques grandes entreprises du numérique qui détiennent les compétences, les données, la puissance de calcul et les talents. Les armées, habituées à traiter avec les entreprises de défense traditionnelles, se tournent nécessairement vers ces nouveaux acteurs du numérique.
Cette dépendance va bien au-delà d’une simple relation de fournisseur. Un système d’IA est complexe et évolutif. L’entreprise ne livre donc pas un produit clé en main. Elle reste généralement nécessaire pour l’évaluer dans la durée, le mettre à jour, voire l’utiliser en conditions réelles, comme on peut le voir avec Palantir en Ukraine.
L’État devient dès lors dépendant de la sphère privée jusque dans ses fonctions les plus régaliennes. Ces entreprises ont par ailleurs acquis des attributs de puissance quasi étatiques. Elles disposent de services d’affaires publiques qui exercent, dans les faits, des missions quasi diplomatiques. Elles jouent un rôle normatif déterminant, que ce soit par leur lobbying sur l’élaboration des règles juridiques ou par leur expertise dans la production de normes techniques, éthiques ou politiques. Elles ont enfin, évidemment, un poids économique démesuré, supérieur à celui de nombreux États. L’État entrerait ainsi dans une forme postmoderne, décrite avec acuité par le juriste Jacques Chevallier, qui montre que cette figure politique se trouve aujourd’hui concurrencée et démythifiée.
Toutefois, il ne faut pas enterrer l’État trop vite. Il demeure le seul souverain. Si les entreprises ont acquis cette puissance, c’est grâce à l’État plutôt que contre lui. Ce qu’il a indirectement donné, il peut le reprendre. Le récent bras de fer entre le Pentagone et Anthropic l’illustre bien. Le Pentagone a officiellement désigné l’entreprise comme un « risque pour la chaîne d’approvisionnement » après qu’elle a refusé de lever ses restrictions concernant la surveillance de masse et les armes autonomes. Face à une entreprise qui cherche à lui poser des limites, l’État est donc en mesure de réaffirmer sa souveraineté. En revanche, face à une entreprise étrangère soutenue par son État de nationalité, le rapport de force peut s’avérer moins favorable.
Concernant la phase de développement et l’examen de licéité, les États ont-ils réellement les moyens techniques d’auditer et de maîtriser la « boîte noire » de ces algorithmes avant de les déployer ?
Ils le peuvent partiellement, et de façon très inégale. L’article 36 du Protocole additionnel I aux Conventions de Genève impose un examen de licéité des nouvelles armes et des nouveaux moyens et méthodes de guerre. En théorie, les États doivent donc s’assurer que les systèmes d’IA fonctionneront conformément au droit international. En pratique, cela conduit à une confusion entre certification technique et certification juridique. Si le système fonctionne bien techniquement, on le considère comme licite.
Il devient donc crucial de pouvoir certifier le bon fonctionnement de ces systèmes. Or ce n’est pas chose aisée, notamment parce que certains systèmes d’IA produisent leurs résultats de manière opaque. Si l’on connaît les données d’entrée, on ne sait pas vraiment comment le système parvient à ses résultats. Le paradoxe est que ces systèmes sont justement employés pour leur rapidité. Même s’il était possible de retracer leur raisonnement, cela ferait perdre le temps gagné, qui est précisément la raison de leur utilisation. Le champ de l’IA explicable (explainable AI ou XAI) est ainsi en pleine expansion afin de permettre de comprendre comment ces systèmes parviennent à leurs résultats, sans perdre le bénéfice de leur rapidité et de leur précision.
Au-delà de ces difficultés purement techniques, les capacités des États en la matière sont particulièrement disparates. Il y a, d’un côté, les États et les entreprises qui développent ces systèmes et en ont l’expertise ; de l’autre, les États acheteurs, contraints de s’en remettre à l’examen réalisé par d’autres. Certains États résistent à cette tendance, comme la France qui rappelle par exemple que l’examen incombe à l’État et ne peut être délégué à un industriel.
Certaines grandes entreprises technologiques créent désormais leurs propres structures internes pour évaluer la conformité de leurs outils. Assiste-t-on à une « privatisation » progressive du contrôle juridique et éthique des armes ?
L’article 36 évoqué précédemment impose une obligation aux États parties au Protocole. Les entreprises n’ont pas d’obligation spécifique en la matière. Elles ont cependant intérêt, en pratique, à développer des systèmes performants, et tendent donc à internaliser leur propre examen de conformité. Palantir s’est par exemple dotée d’une équipe pluridisciplinaire (Privacy and Civil Liberties Engineering), composée de juristes, de philosophes et d’ingénieurs, qui adresse de véritables directives aux ingénieurs et s’appuie sur un conseil consultatif d’experts indépendants.
En parallèle, des sociétés de conseil proposent même leurs services aux États pour les aider à réaliser leurs examens de licéité. Le risque est toutefois que les États en viennent à se dispenser de conduire eux-mêmes cet examen, alors que l’obligation repose avant tout sur eux.
À l’heure où les armées cherchent à automatiser la vitesse de décision pour obtenir une « supériorité informationnelle », la prolifération de l’IAM ne risque-t-elle pas de provoquer une escalade incontrôlable que le droit international ne pourrait endiguer ?
Le risque est réel. Les armées cherchent à accélérer la boucle « observer, orienter, décider, agir » pour obtenir une supériorité informationnelle. Poussée à l’extrême, cette accélération a été théorisée aux États-Unis sous le nom d’« hyper-guerre ». Par ailleurs, le recours à l’IA par des acteurs non étatiques devient une menace de plus en plus concrète. Quand tous les belligérants recourent à des systèmes automatisés, la vitesse peut dépasser l’humain, provoquer une perte de contrôle et donc une escalade involontaire.
Deux facteurs aggravent ce risque. Le premier est un climat de compétition qui rappelle celui du nucléaire. Mais des lignes de code sont bien moins visibles que des ogives. La perception des capacités de l’adversaire compte autant que ses capacités réelles, ce qui nourrit un dilemme de sécurité. Le second facteur est la nature diffuse et duale de l’IA, renforcée par la culture de l’open source, qui rend les régimes classiques de non-prolifération largement inopérants.
Le droit des conflits armés ne fixe pas de « vitesse maximale » pour les opérations, mais le principe de précaution impose de prendre en temps utile toutes les mesures pratiquement possibles pour épargner les civils.
Il pourrait donc y avoir une incompatibilité entre l’accélération des hostilités et le temps nécessaire à l’application du droit. La seule issue serait alors de déléguer aussi ces évaluations juridiques aux machines, qui les appliqueraient à une vitesse excluant toute intervention humaine.
Qui est responsable quand un système d’IA militaire se trompe ?
Tous les acteurs se réclament d’une « IA responsable », mais l’établissement des responsabilités en cas d’erreur d’un système est précisément délicat.
La responsabilité des individus, notamment des militaires, est la première qui vient à l’esprit, mais c’est aussi la plus difficile à établir. La plupart des violations commises avec ces systèmes ne seront pas intentionnelles, mais résulteront de dysfonctionnements, d’erreurs ou d’accidents. Or le droit international pénal est conçu pour des crimes commis intentionnellement. L’élément matériel prend souvent la forme d’une omission, comme le fait de ne pas avoir vérifié une recommandation. L’élément moral se réduit souvent à la négligence, qui ne relève pas, par exemple, de la compétence de la Cour pénale internationale.
La piste la plus prometteuse est celle de la responsabilité du supérieur hiérarchique. Elle fonctionne comme une obligation de diligence et correspond bien à la logique de gestion des risques propre à ces systèmes. Sa mise en œuvre reste toutefois largement entre les mains des États eux-mêmes.
La responsabilité de l’État constitue une voie parallèle, qui se heurte elle aussi à la difficulté de rattacher le fait d’un système à l’État. Une piste émergente est celle de la responsabilité pour fait licite, qui dispense d’établir l’existence d’un fait illicite. Ce régime existe déjà en droit international pour certaines activités dangereuses (nucléaire, spatial, etc.). S’il inciterait les armées à mieux tester leurs systèmes et à en restreindre l’emploi, il devrait être prévu par un instrument international, ce qui n’est pas encore le cas.
Restent les entreprises, qui sont pourtant au cœur du développement de ces systèmes. Elles n’ont pas de personnalité juridique internationale. Leur responsabilité ne peut donc être recherchée que de façon résiduelle, devant les juridictions nationales ou indirectement à travers celle de leurs dirigeants.
Où en sont les négociations internationales ? Un traité est-il envisageable à court terme ?
Le sujet est discuté depuis plus de dix ans dans le cadre de la Convention sur certaines armes classiques (CCAC), au sein d’un groupe d’experts gouvernementaux consacré aux SALA. Ce forum a longtemps été le symbole d’un enlisement. Il fonctionne au consensus, ce qui permet à une poignée d’États, souvent ceux qui développent ces systèmes, de bloquer ce que souhaite une large majorité.
L’année 2026 marque toutefois une étape. Le 5 septembre, le groupe d’experts a adopté par consensus un rapport qui clôt son mandat 2024-2026. Ce rapport propose une caractérisation des SALA et retient une approche à deux niveaux qui vise l’interdiction des systèmes incompatibles avec le droit des conflits armés et la réglementation des autres. La suite se jouera lors de la Conférence d’examen de la CCAC, du 16 au 20 novembre. Les États y décideront s’il faut ouvrir de véritables négociations, option soutenue par de nombreux États.
Face aux incertitudes de la CCAC, l’Assemblée générale des Nations unies s’est parallèlement saisie de la question. Depuis 2023, elle adopte chaque année une résolution sur les SALA. Le Secrétaire général a également exhorté les États à adopter un instrument juridiquement contraignant. Ces initiatives ont conduit les États à se réunir à New York en 2025 pour des consultations consacrées à la question. La résolution de décembre 2025 sur les SALA a été adoptée par 164 voix pour et 6 contre (Bélarus, Burundi, Corée du Nord, Israël, Russie, États-Unis).
Surtout, l’Assemblée a commencé à élargir le sujet au-delà des SALA. En 2024 et 2025, elle a adopté plus généralement des résolutions sur l’IA dans le domaine militaire ainsi qu’une résolution en 2025 sur les risques liés à l’intégration de l’IA dans les armes nucléaires. Ces résolutions ont également suscité des discussions internationales et un rapport du Secrétaire général sur la question.
Pour aller plus loin :
French 
English