Il suffit de jeter un coup d’œil aux récents titres de presse concernant la prise de décision automatisée et accélérée dans le cadre du ciblage à Gaza, en Iran, en Ukraine et ailleurs pour constater à quel point le temps nécessaire au doute, à la réflexion – et à l’assistance humaine – a été réduit, sans que l’on mette suffisamment l’accent sur la compréhension et la prise en compte de ce que perdent les civils contraints de vivre et de survivre au milieu de ces conflits.
Au cours des deux dernières décennies, l’intelligence artificielle (IA) dans le domaine militaire, qui repose notamment sur des systèmes algorithmiques d’aide à la décision et sur le ciblage prédictif basé sur des habitudes de vie, a radicalement modifié la manière dont la guerre est vécue, et l’interprétation de certains éléments essentiels du droit international humanitaire (DIH), comme le statut des civils.
Début septembre 2026, la dernière réunion du groupe d’experts gouvernementaux (GGE) des Nations unies sur les technologies émergentes dans le domaine des systèmes d’armes léthales autonomes (SALA) a abouti à un texte final intitulé « Éléments pour un instrument », adopté par les États et disponible en ligne. Ce texte sera présenté aux délégations réunies à Genève, capitale suisse de la diplomatie, lors de la 7e Conférence d’examen de la Convention sur certaines armes classiques – communément appelée « CCAC » –, qui se tiendra du 16 au 20 novembre 2026.
Un sixième protocole à la CCAC en perspective ?
La lecture de ce texte – souvent qualifié de « régulation des robots tueurs » – offre un décalage inquiétant avec la réalité des guerres d’aujourd’hui et interroge sur la capacité d’un traité élaboré dans ce cadre à restreindre un jour le recours à la force de manière autonome ou assistée par l’intelligence artificielle.
La CCAC de 1980 est un traité international qui interdit ou restreint l’emploi d’armes considérées comme pouvant causer des souffrances inutiles ou injustifiables aux combattants et des dommages indiscriminés aux civils, tant dans les conflits armés internationaux que non internationaux. Elle s’applique à travers cinq protocoles annexés, conçus pour être actualisés, qui traitent de catégories spécifiques d’armes dangereuses :
Protocole I (1980) sur les fragments non détectables
Protocole II (1980, amendé en 1996) sur les mines, pièges et autres dispositifs
Protocole III (1980) sur les armes incendiaires
Protocole IV (1995) sur les armes à laser aveuglantes
Protocole V (2003) sur les restes explosifs de guerre
Pourrait-il exister un sixième protocole sur les SALA ? C’est possible. La CCAC a été conçue pour être une convention flexible, de sorte que de nouveaux protocoles sur les armes puissent y être ajoutés au fil du temps. En vertu de l’article 8 de la CCAC, tout État ayant ratifié le traité a le pouvoir de proposer un protocole additionnel relatif à des catégories d’armes conventionnelles qui ne sont pas encore prises en compte, et une conférence visant à négocier un protocole peut être organisée si une majorité d’États y consent. Les États peuvent également décider collectivement, lors d’une réunion, d’entamer des négociations sur un nouveau protocole.
Puisque la CCAC fonctionne par consensus, une décision ne peut être prise que si aucun État membre ne s’y oppose activement. Cela permet une large participation mais cela signifie aussi que la CCAC requiert l’accord passif ou explicite de chaque État participant, ce qui a des implications sur la manière dont le texte est négocié : il peut faire l’objet d’un veto et être bloqué, ou faire l’objet de compromis et être édulcoré. Certains États adhèrent au consensus tandis que d’autres l’instrumentalisent, affaiblissant la volonté et l’ambition collectives, comme l’a souligné Yvette Issar, du Bureau Quaker auprès des Nations unies, à Genève.
La Convention sur les armes à sous-munitions de 2008 illustre bien comment les impasses passées ont contraint des États frustrés à négocier des interdictions contraignantes en dehors des structures de l’Onu, par le biais de processus indépendants. Après que les États se sont retrouvés dans une impasse lors de la troisième Conférence d’examen de la CCAC en 2006, les puissances militaires et les pays producteurs tels que les États-Unis, la Russie et la Chine ayant bloqué et retardé les propositions, les États déterminés à instaurer une interdiction des armes à sous-munitions ont préféré s’engager dans un processus distinct lancé par la Norvège, appelé « processus d’Oslo ». Celui-ci n’exigeait pas de consensus universel, il a donc avancé à une vitesse fulgurante. Plus de 100 États ont mené à bien les négociations et adopté la Convention sur les armes à sous-munitions, le 30 mai 2008 à Dublin, au terme de seulement deux ans de négociations.
156 États favorables à la poursuite du processus
Selon les données de suivi de l’étude automatisée menée par l’organisation Stop Killer Robots, début octobre 76 États avaient publiquement exprimé leur soutien à la poursuite des négociations sur un instrument relatif aux SALA – un chiffre qui est depuis passé à 84 États. Par ailleurs, 130 États se sont prononcés en faveur d’une forme quelconque d’instrument juridiquement contraignant et, en octobre 2026, 163 États ont voté en faveur de la poursuite de ce processus lors de l’Assemblée générale de l’Onu, s’appuyant sur les votes précédents de l’Assemblée.
Le Royaume-Uni a approuvé les résolutions de l’Onu sur les risques liés aux armes autonomes, mais il n’a pas soutenu l’adoption d’un traité international juridiquement contraignant. Toutefois, lors d’une table ronde organisée par Stop Killer Robots UK en marge du congrès du Parti travailliste, fin septembre, les intervenants ont conclu qu’en vue de la conférence d’examen de novembre, le Royaume-Uni devrait soutenir une réglementation contraignante.
« La raison pour laquelle nous avons besoin d’un véritable instrument juridiquement contraignant, qui précise de façon efficace des modalités d’application, c’est que si nous ne définissons pas clairement ce qui est légal et ce qui ne l’est pas dans l’utilisation de ces technologies, cela reste sujet à interprétation », a déclaré Alexi Drew, ex-conseillère sur les politiques technologiques du Comité international de la croix rouge. « Nous avons vu ce que l’interprétation entraîne dans le contexte actuel de conflits armés entre pairs : elle élargit le champ d’application », a-t-elle ajouté.
« Des vies perdues, sans l’intervention d’un humain »
Le texte qui sera présenté ce mois-ci est un compromis politique qui établit une définition des SALA dans le cadre et le champ d’application de la CCAC.
« Un système d’arme létale autonome peut être défini comme une combinaison d’une ou de plusieurs armes et de composants technologiques opérant de façon conjointe, capable d’identifier, de sélectionner et d’engager une cible d’une manière qui entraîne des vies perdues, sans intervention d’un être humain pilotant le système », stipule le paragraphe 25 du projet.
Le cadre juridique applicable du texte se limite au droit international humanitaire, excluant le droit international des droits de l’homme malgré ses liens évidents et étroits avec la question – notamment en matière de maintien de l’ordre, de contrôle des frontières et de sécurité. Les armes qui causent des souffrances inutiles ou qui ne peuvent être utilisées en permettant de faire la différence entre combattants et civils sont interdites. La CCAC vise à garantir le maintien d’une distinction entre ces catégories et la protection des civils, en prévoyant des garanties supplémentaires pour réglementer les moyens et les méthodes de guerre adoptés par les parties à un conflit armé. D’autres dispositions du texte soulignent que le contrôle doit rester entre les mains des humains, et non des machines – et que le jugement humain doit prévaloir pour faire respecter le droit international humanitaire.
Des interdictions supprimées du texte initial
Un examen plus approfondi montre comment les négociations finales à huis clos ont modifié une version antérieure du texte, datée du 5 juin 2026. Ce projet de texte comportait des formulations plus fermes sur l’exigence du « contrôle humain » et d’une « considération éthique » ; cependant, dans la version finale, ces termes ont été remplacés par une formulation plus permissive de « contrôle et jugement humain », qui reflète le type de langage de compromis privilégié par certains États, dont le Royaume-Uni, et permet que le contrôle humain soit exercé « directement ou indirectement ».
De même, toutes les interdictions radicales ont été entièrement supprimées du texte. La mention proposée auparavant, où « les États s’abstiendront de fabriquer, d’acquérir, de stocker ou de transférer des SALA qui ne peuvent être utilisés dans le respect du droit international humanitaire » a été retirée du texte final. Il en est de même des passages demandant à ce que « que les SALA puissent être désactivés ou neutralisés en temps opportun » et « veillant à ce que les SALA, dans leurs fonctions d’identification, de sélection et d’engagement, soient suffisamment prévisibles et fiables dans leur fonctionnement, et que leur fonctionnement et leurs effets soient traçables et explicables à ceux responsables de leur développement et de leur utilisation », supprimant ainsi toute référence à la prévisibilité, la fiabilité, la traçabilité et l’explicabilité.
Plutôt que de militer en faveur d’une interdiction, les lignes directrices permissives du texte laissent des brèches par lesquelles la guerre automatisée continuera à mettre à rude épreuve, voire à briser les protections juridiques établies.
Qu’est-ce que cela signifie pour la protection des civils ?
Le texte final mentionne la protection des civils, mais la manière dont ces dispositions sont formulées pose problème : elles s’orientent vers une atténuation procédurale des risques, exigeant des États qu’ils testent les systèmes, évaluent les risques et mettent en œuvre des mesures contre les biais involontaires ou liés à l’automatisation, plutôt que de prendre en compte les biais préjudiciables en amont et au lieu d’établir des interdictions juridiques structurelles qui peuvent être comprises, respectées ou contestées après une attaque.
Le texte exige des États qu’ils mettent en œuvre des mesures pour intervenir ou désactiver ces armes, mais introduit une faille flagrante en précisant qu’ils ne doivent le faire que « dans la mesure du possible ou du faisable ». Cette réserve permet aux forces armées de déployer des systèmes sachant qu’elles ne pourront pas les rappeler efficacement.
Même en considérant les SALA comme une question distincte – ce qu’ils ne sont évidemment pas –, une autre préoccupation réside dans la manière dont le texte s’intègre dans le droit international humanitaire existant : il met en effet l’accent sur la gestion des risques, le commandement et le contrôle humains ainsi que la responsabilité tout au long du cycle de vie, plutôt que d’établir des interdictions juridiques structurelles. Le texte insiste sur le fait que « la responsabilité ne peut être transférée à des machines » ; cependant, en dissociant les SALA de l’IA militaire au sens large et en se concentrant sur des solutions techniques à des menaces fondamentales telles que les biais, qu’ils soient délibérés ou pas, cette fragmentation occulte les mécanismes par lesquels les dommages sont causés.
À mesure que les conflits se numérisent de plus en plus et que les civils interagissent avec des renseignements issus d’une production participative en ligne, notamment via des applications mobiles, des cyber-opérations en source ouverte, des drones disponibles dans le commerce et d’autres objets et technologies à double usage, les limites temporelles et comportementales d’une question clé du droit international humanitaire – la participation directe des civils aux hostilités – risquent également d’être dangereusement compromises.
Les civils doivent continuer à être protégés par une « règle du doute » stricte, ce qui signifie qu’en cas de doute, une personne est présumée être un civil.
Les réseaux de ciblage automatisés et les cycles de compression dans le renseignement et la surveillance risquent de confondre des comportements civils dictés par la survie avec des intentions hostiles, effaçant ainsi la distinction entre les populations protégées et les cibles, ce qui laisse de béantes lacunes en matière de responsabilité lorsque des civils sont massacrés. La guerre algorithmique s’appuie sur des algorithmes prédictifs pour générer des listes de cibles, et l’IA militaire accélère cette abstraction juridique, les civils étant implicitement contraints de prouver leur statut de non-combattants en adoptant des comportements que les algorithmes peuvent reconnaître.
À cet égard, le CICR a appelé, entre autres recommandations, à l’interdiction des systèmes imprévisibles et des SALA antipersonnels, afin d’exclure totalement le ciblage de personnes.
« Les décisions de vie ou de mort ne devraient jamais être laissées aux machines »
Quoi qu’il arrive ce mois-ci, la dynamique doit continuer de croître en dehors du processus de la CCAC à Genève. Elizabeth Minor, responsable des politiques à Stop Killer Robots, souligne que « pour traiter de manière sérieuse et globale les menaces humanitaires, éthiques et juridiques que représentent l’IA et l’automatisation dans le recours à la force, les États devront faire bien plus que conclure des accords de base sur la manière dont le droit international humanitaire s’applique à ces nouvelles technologies en temps de guerre. Quand il s’agit de systèmes d’armes autonomes, de systèmes qui ciblent de manière autonome des personnes et qui ne peuvent pas être contrôlés de manière significative, ils doivent être clairement interdits par le droit international ».
« De toute urgence », ajoute-t-elle, « nous exigeons que les États instaurent un moratoire immédiat sur l’utilisation de tout système d’IA, y compris l’IA générative, comme base pour les décisions de ciblage, compte tenu des rapports choquants dont on a eu connaissance, selon lesquels des parties au conflit utilisent l’IA pour déterminer qui vit et qui meurt sans délibération réelle sur les résultats produits par ces systèmes. Cette automatisation déshumanisante et irresponsable de la violence est inacceptable et doit cesser immédiatement : les décisions de vie ou de mort ne devraient jamais être laissées aux machines. »
Lorsque les États se réuniront à Genève ce mois-ci, les délégations devront faire preuve du courage politique nécessaire pour exiger des limites juridiques contraignantes, soutenues par une action de sensibilisation, d’éducation et d’engagement aussi large que possible, et presser pour avoir le mandat de négocier un protocole juridique d’ici un an.
POUR VÉRIFIER LA POSITION DES ÉTATS
Pour vérifier la position d’un État, les lecteurs de Justice Info peuvent consulter cet outil de surveillance de la position des États de l’ONG Automated Decision Research. Ils peuvent également consulter la liste des pays qui ont spécifiquement déclaré qu’ils étaient prêts à entamer des négociations sur la base des travaux menés au sein du Groupe d’experts gouvernementaux de la CCAC. Vous pouvez vérifier ici si votre pays est membre de la CCAC, et voir également les notes d’information régionales pour plus d’informations sur les déclarations et positions collectives et régionales, disponibles en ligne en anglais, arabe, français et espagnol.
Alannah Travers est doctorante à la faculté de droit de l’université Queen’s de Belfast, en collaboration avec le Ceasefire Centre for Civilian Rights, où elle mène des recherches sur la guerre menée par algorithmes et les dommages qu’elle cause aux civils. Elle était auparavant basée en Irak, où elle travaillait avec la Coalition for Just Reparations (C4JR) sur la mise en œuvre de la loi irakienne de 2021 sur les survivants yézidis, et sur la fermeture de l'Unitad. En tant que journaliste et chercheuse, Alannah a reçu le Fetisov Journalism Award dans la catégorie ‘excellence en journalisme environnemental’ pour ses reportages sur le torchage du gaz et a remporté la médaille d’argent du prix Elizabeth Neuffer Memorial Prize 2023 de l’Association des correspondants des Nations unies.
