Certes, la situation iranienne se distingue par le niveau de sophistication sans pr\u00e9c\u00e9dent de ces moyens et par la d\u00e9pendance in\u00e9dite des arm\u00e9es \u00e0 leur \u00e9gard. Elle diff\u00e8re \u00e9galement du conflit \u00e0 Gaza en ce que, cette fois, l\u2019IA a \u00e9t\u00e9 d\u00e9ploy\u00e9e contre un adversaire \u00e9tatique dans le cadre d\u2019une guerre de haute intensit\u00e9. Enfin, jamais les \u00c9tats n\u2019avaient aussi ouvertement communiqu\u00e9 sur leur recours \u00e0 ces syst\u00e8mes<\/a>. C\u2019est cette communication conjugu\u00e9e aux cons\u00e9quences dramatiques de certaines frappes qui invite \u00e0 s\u2019interroger sur la compatibilit\u00e9 de ces pratiques avec le droit international.<\/p>\n\n\n\n L\u2019utilisation de l\u2019IA par Isra\u00ebl dans sa guerre contre le Hamas avait \u00e9t\u00e9 r\u00e9v\u00e9l\u00e9e par le journal +972<\/em><\/a>. Ce m\u00e9dia avait expos\u00e9 ce que bon nombre de sp\u00e9cialistes soup\u00e7onnaient depuis quelques ann\u00e9es. Dans le cadre du conflit en Iran, en revanche, ce sont les autorit\u00e9s am\u00e9ricaines elles-m\u00eames qui ont annonc\u00e9<\/a> leur emploi de l\u2019IA.<\/p>\n\n\n\n Effectivement, les forces militaires am\u00e9ricaines ont admis avoir recouru \u00e0 des syst\u00e8mes d\u2019IA pour \u00e9tablir et trier la liste des objectifs \u00e0 une vitesse fulgurante. Ce proc\u00e9d\u00e9 aurait entra\u00een\u00e9 plus de 1.000 frappes<\/a>, qualifi\u00e9es de tr\u00e8s pr\u00e9cises, durant les vingt-quatre premi\u00e8res heures du conflit. Elles se seraient notamment servies du syst\u00e8me Maven Smart System<\/a>, un projet conjoint utilisant un logiciel d\u2019IA de surveillance et de collecte de donn\u00e9es de Palantir, coupl\u00e9 au syst\u00e8me d\u2019IA g\u00e9n\u00e9rative Claude, d\u00e9velopp\u00e9 par Anthropic.<\/p>\n\n\n\n Cependant, lors du premier jour de guerre, l\u2019une des frappes am\u00e9ricaines a vis\u00e9 une \u00e9cole de Minab<\/a>, causant la mort d\u2019environ 170 victimes civiles, principalement des enfants. Les \u00c9tats-Unis ont reconnu leur responsabilit\u00e9<\/a> dans cette frappe, pr\u00e9sent\u00e9e comme une erreur. L\u2019\u00e9cole \u00e9tait en effet situ\u00e9e \u00e0 proximit\u00e9 d\u2019une base navale des Gardiens de la r\u00e9volution. Elle faisait autrefois partie int\u00e9grante du m\u00eame complexe, avant d\u2019en \u00eatre s\u00e9par\u00e9e. C\u2019est donc une information non actualis\u00e9e qui aurait conduit \u00e0 autoriser la frappe.<\/p>\n\n\n\n Une telle m\u00e9prise n\u2019est pas anodine. De nombreux m\u00e9dias<\/a> et ONG<\/a> ont rapidement \u00e9tabli le lien entre l\u2019\u00e9cole et la base navale. Il a ainsi \u00e9t\u00e9 avanc\u00e9 que l\u2019arm\u00e9e am\u00e9ricaine aurait probablement cibl\u00e9 ce b\u00e2timent sur la base de donn\u00e9es obsol\u00e8tes en suivant aveugl\u00e9ment une recommandation issue d\u2019un syst\u00e8me d\u2019IA<\/a> sans proc\u00e9der \u00e0 la v\u00e9rification qui s\u2019imposait.<\/p>\n\n\n\n Dans quelle mesure l\u2019utilisation de l\u2019IA pour mener ces frappes, et l\u2019erreur commise, sont-elles licites au regard du droit international ?<\/p>\n\n\n\n Il convient d\u2019abord de pr\u00e9ciser que l\u2019IA n\u2019est pas interdite en tant que telle par le droit des conflits arm\u00e9s (DCA, \u00e9galement appel\u00e9 droit international humanitaire). Pour l\u2019heure, aucune r\u00e8gle juridique n\u2019envisage sp\u00e9cifiquement la question de sa lic\u00e9it\u00e9. Pour autant, la question n\u2019\u00e9volue pas dans un vide juridique. Les r\u00e8gles g\u00e9n\u00e9rales du DCA s\u2019appliquent \u00e0 la conduite des hostilit\u00e9s, quels que soient les moyens et m\u00e9thodes d\u00e9ploy\u00e9s.<\/p>\n\n\n\n L\u2019une de ces r\u00e8gles est le principe de distinction<\/a> selon lequel seules les cibles militaires peuvent faire l\u2019objet d\u2019attaques, les personnes civiles et les biens civils devant \u00eatre pr\u00e9serv\u00e9s. Viser directement une \u00e9cole, comme celle de Minab, en l\u2019absence de tout objectif militaire en son sein, constitue donc une violation manifeste de ce principe. Il est toutefois peu probable que l\u2019arm\u00e9e am\u00e9ricaine ait eu l\u2019intention d\u00e9lib\u00e9r\u00e9e de d\u00e9truire l\u2019\u00e9cole en tant que telle. Comme indiqu\u00e9, il s\u2019agit plus vraisemblablement d\u2019une erreur d\u2019identification de la cible, possiblement li\u00e9e \u00e0 un syst\u00e8me d\u2019IA entra\u00een\u00e9 sur des donn\u00e9es obsol\u00e8tes, datant de l\u2019\u00e9poque o\u00f9 le b\u00e2timent \u00e9tait encore rattach\u00e9 \u00e0 la base navale.<\/p>\n\n\n\n En cons\u00e9quence, la violation est plut\u00f4t relative au principe de pr\u00e9caution. Ce dernier prescrit notamment que les parties au conflit doivent faire tout ce qui est pratiquement possible pour v\u00e9rifier que les objectifs \u00e0 attaquer sont bien des objectifs militaires<\/a>. En l\u2019esp\u00e8ce, l\u2019arm\u00e9e am\u00e9ricaine ne semble pas avoir proc\u00e9d\u00e9 aux v\u00e9rifications n\u00e9cessaires pour s\u2019assurer que la cible \u00e9tait une \u00e9cole. Une v\u00e9rification \u00e9l\u00e9mentaire, comme celle effectu\u00e9e par certains m\u00e9dias, aurait pu rapidement dissiper le moindre doute.<\/p>\n\n\n\n Il faut rappeler que, lors de la guerre \u00e0 Gaza, il avait \u00e9t\u00e9 rapport\u00e9<\/a> que des soldats isra\u00e9liens ne disposaient parfois que de vingt secondes pour valider une cible, ce qui interroge sur la possibilit\u00e9 mat\u00e9rielle de respecter effectivement ce principe. Les pr\u00e9occupations relatives \u00e0 l\u2019IA militaire se cristallisent souvent autour de la question de l\u2019autonomie et du risque qu\u2019un syst\u00e8me d\u00e9signe et engage seul une cible ; c\u2019est l\u2019enjeu des syst\u00e8mes d\u2019armes l\u00e9tales autonomes. Cet exemple d\u00e9montre toutefois qu\u2019un contr\u00f4le humain formellement maintenu peut n\u2019\u00eatre que fictif si l\u2019op\u00e9rateur ne dispose ni du temps ni de l\u2019esprit critique n\u00e9cessaires pour \u00e9valuer une recommandation algorithmique.<\/p>\n\n\n\n Du c\u00f4t\u00e9 iranien, il y a lieu de relever que le principe de pr\u00e9caution n\u2019a pas davantage \u00e9t\u00e9 respect\u00e9. Ce principe impose non seulement des obligations \u00e0 l\u2019attaquant, mais requiert \u00e9galement de l\u2019attaqu\u00e9 qu\u2019il prenne certaines pr\u00e9cautions passives : les parties doivent notamment \u00e9loigner les personnes civiles et les biens de caract\u00e8re civil des objectifs militaires<\/a>. En l\u2019esp\u00e8ce, transformer un b\u00e2timent d\u2019une base navale en \u00e9cole, tout en la maintenant \u00e0 proximit\u00e9 imm\u00e9diate du reste du complexe militaire, exposait d\u00e9lib\u00e9r\u00e9ment cette installation civile aux risques li\u00e9s \u00e0 la conduite des hostilit\u00e9s.<\/p>\n\n\n\t Si l\u2019attaque constitue une violation du DCA, il est probable qu\u2019aucun militaire am\u00e9ricain ne soit condamn\u00e9 pour de tels faits. Outre les questions de comp\u00e9tence juridictionnelle, le principal obstacle tient \u00e0 ce que ni la violation du principe de pr\u00e9caution<\/a> ni les erreurs<\/a> conduisant \u00e0 des violations du DCA ne constituent des crimes de guerre au sens du droit international p\u00e9nal.<\/p>\n\n\n\n L\u2019acte mat\u00e9riel est bien caract\u00e9ris\u00e9, mais l\u2019\u00e9l\u00e9ment intentionnel, c\u2019est-\u00e0-dire la volont\u00e9 de commettre l\u2019infraction, fait d\u00e9faut. Le r\u00e9gime de responsabilit\u00e9 p\u00e9nale internationale actuel ne reconna\u00eet pas la responsabilit\u00e9 pour n\u00e9gligence dans ce contexte. Cette approche pragmatique pourrait n\u00e9anmoins \u00e9voluer. D\u2019une part, si les erreurs algorithmiques de ciblage se multiplient, le caract\u00e8re \u00ab raisonnable \u00bb de l\u2019erreur sera de plus en plus difficile \u00e0 invoquer et l\u2019utilisation consciente d\u2019un syst\u00e8me connu pour ses d\u00e9faillances pourrait induire une forme d\u2019intention indirecte de cibler des civils. D\u2019autre part, le droit pourrait \u00e0 l\u2019avenir se d\u00e9velopper pour sanctionner les militaires qui, par leur n\u00e9gligence, causent la mort de civils.<\/p>\n\n\n\n Un autre point de vigilance tient au r\u00f4le des entreprises priv\u00e9es sp\u00e9cialis\u00e9es en IA qui d\u00e9tiennent aujourd\u2019hui la majeure partie des comp\u00e9tences technologiques mobilis\u00e9es sur le champ de bataille. Ces entreprises pourraient \u00eatre tenues responsables lorsqu\u2019elles d\u00e9veloppent des syst\u00e8mes d\u00e9faillants, mais, au-del\u00e0 de cette responsabilit\u00e9, une question morale et politique fondamentale se pose au regard de la vente de technologies d\u2019IA \u00e0 des fins militaires.<\/p>\n\n\n\n Juste avant l\u2019entr\u00e9e en guerre des \u00c9tats-Unis, Anthropic, qui produit le syst\u00e8me Claude, s\u2019\u00e9tait oppos\u00e9 \u00e0 une coop\u00e9ration sans limite<\/a> avec le Pentagone, notamment sur les armes autonomes, en invoquant ses engagements \u00e9thiques et les limites de fiabilit\u00e9 technique de ses syst\u00e8mes pour les usages envisag\u00e9s. Le Pentagone avait alors accus\u00e9 Anthropic de trahison<\/a>, bien que ses syst\u00e8mes continuent d\u2019\u00eatre utilis\u00e9s par l\u2019arm\u00e9e.<\/p>\n\n\n\n D\u2019autres entreprises du secteur, comme OpenAI, Google, Amazon ou Microsoft, semblent, quant \u00e0 elles, collaborer sans r\u00e9serve avec les arm\u00e9es, s\u2019imposant de facto<\/em> comme de v\u00e9ritables entreprises de d\u00e9fense. Il est int\u00e9ressant de noter que des entreprises, normalement guid\u00e9es par le profit, ont parfois plus d\u2019\u00e9tats d\u2019\u00e2me en la mati\u00e8re que certains \u00c9tats pourtant garants de l\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral.<\/p>\n\n\n\n Les \u00c9tats qui d\u00e9veloppent et utilisent l\u2019IA militaire portent une responsabilit\u00e9 particuli\u00e8re. En l\u2019esp\u00e8ce, les \u00c9tats-Unis engagent leur responsabilit\u00e9 internationale pour la commission d\u2019un fait internationalement illicite. Cette responsabilit\u00e9 sera, certes, difficile \u00e0 mettre en \u0153uvre dans la pratique. Mais au-del\u00e0, il \u00e9merge une responsabilit\u00e9 tant juridique que politique. Aux termes de l\u2019article 1 commun aux conventions de Gen\u00e8ve, les \u00c9tats ont en effet l\u2019obligation de respecter et de faire respecter le DCA. Or, le d\u00e9veloppement de l\u2019IA militaire tend \u00e0 miner ce respect, voire \u00e0 favoriser et \u00e0 dissimuler les violations du droit.<\/p>\n\n\n\n Divers m\u00e9canismes pourraient endiguer ce ph\u00e9nom\u00e8ne, comme la formation des militaires aux sp\u00e9cificit\u00e9s des syst\u00e8mes d\u2019IA, l\u2019\u00e9laboration de r\u00e8gles d\u2019engagement propres \u00e0 l\u2019IA, des garanties techniques de fiabilit\u00e9 et de transparence des syst\u00e8mes ainsi que des tests et \u00e9valuations r\u00e9guliers. Plusieurs initiatives internationales appellent \u00e0 int\u00e9grer de telles mesures au sein de nouveaux instruments juridiques. Pourtant, la volont\u00e9 politique fait d\u00e9faut, notamment chez les \u00c9tats \u00e0 l\u2019avant-garde du d\u00e9veloppement et de l\u2019utilisation de l\u2019IA militaire.<\/p>\n\n\n\n Ainsi, Pete Hegseth, secr\u00e9taire \u00e0 la d\u00e9fense des \u00c9tats-Unis, semble en r\u00e9alit\u00e9 agir dans le sens contraire. Il a r\u00e9cemment limog\u00e9 des conseillers juridiques militaires qu\u2019il consid\u00e9rait comme des entraves \u00e0 la bonne conduite des hostilit\u00e9s<\/a> et a qualifi\u00e9 les r\u00e8gles d\u2019engagement de stupides<\/a>. Plus largement, les \u00c9tats-Unis s\u2019opposent \u00e0 toute r\u00e9glementation juridique internationale de l\u2019IA militaire. L\u2019IA appara\u00eet ainsi comme \u00e0 la fois l\u2019un des moteurs et le r\u00e9v\u00e9lateur d\u2019une \u00e9rosion profonde du DCA.<\/p>\n\n\n\n Jacques Lacan disait\u00a0: \u00ab\u00a0Le r\u00e9el, c\u2019est quand on se cogne.\u00a0\u00bb L\u2019accident de Minab constitue un \u00e9v\u00e8nement dramatique qui confirme les risques sur lesquels les experts en IA militaire alertent depuis plusieurs ann\u00e9es et qui aurait d\u00fb susciter bien davantage de r\u00e9actions.<\/p>\n\n\n\n En r\u00e9alit\u00e9, cette information semble avoir \u00e9t\u00e9 \u00e9clips\u00e9e par d\u2019autres consid\u00e9rations per\u00e7ues comme plus urgentes et plus visibles dans le cadre de cette guerre, \u00e0 commencer par le risque nucl\u00e9aire<\/a>. L\u2019accident de Minab n\u2019aura pas \u00e9t\u00e9 l\u2019\u00e9lectrochoc attendu pour inciter les \u00c9tats \u00e0 s\u2019entendre sur un cadre juridique sp\u00e9cifique applicable \u00e0 l\u2019IA militaire. Il reste \u00e0 savoir si un tel \u00e9lectrochoc est encore possible ou m\u00eame souhaitable.<\/p>\n\n\n\n Cet article, l\u00e9g\u00e8rement modifi\u00e9 par Justice Info, est republi\u00e9 \u00e0 partir de The Conversation France<\/a> sous licence Creative Commons. Lire l\u2019article original<\/a>.<\/em>L\u2019utilisation de l\u2019IA dans la guerre en\u00a0Iran<\/h2>\n\n\n\n
L\u2019IA dans le droit des conflits arm\u00e9s<\/h2>\n\n\n\n
Quelles responsabilit\u00e9s juridiques, politiques et morales\u00a0?<\/h2>\n\n\n\n
Responsabilit\u00e9 individuelle\u00a0: l\u2019attaque ne constitue pas un crime de guerre.<\/h3>\n\n\n\n
La responsabilit\u00e9 des entreprises d\u2019IA\u00a0: un bras de fer entre puissances \u00e9conomique et politique.<\/h3>\n\n\n\n
La responsabilit\u00e9 \u00e9tatique\u00a0: r\u00e9pondre de ses actes et pr\u00e9venir les prochaines violations.<\/h3>\n\n\n\n
\n\n\n\n![\"The](\"https:\/\/counter.theconversation.com\/content\/238018\/count.gif?distributor=republish-lightbox-basic\")
<\/p>\n\n\n
![\"En](\"https:\/\/www.justiceinfo.net\/wp-content\/uploads\/Iran_Minab-school-memory_@AFP-540x360.jpg\")
<\/div><\/a>\r\n\t\t\t![\"Louis](\"https:\/\/www.justiceinfo.net\/wp-content\/uploads\/Louis-Perez.jpg\")
LOUIS PEREZ<\/strong><\/p>\n