Le sujet des drones tueurs défraie, depuis quelques années, la chronique en Europe et aux États-Unis. Association entre des drones militaires armés, et des intelligences artificielles dotées d’une grande autonomie, ils représentent, simultanément, un enjeu militaire majeur pour la conduite des conflits à venir, ainsi qu’un terreau fertile pour les imaginaires, qu’ils soient publics ou politiques.

Cette contradiction, entre le besoin militaire d’une part, et la crainte publique de l’autre, va bientôt être au cœur de nombreux débats, alors que d’autres pays, et non des moindres comme la Russie, la Chine ou l’Iran, avancent rapidement dans ce domaine porteur d’une recomposition profonde des rapports de force.

Car, qu’on le veuille ou non, la guerre des drones aura probablement lieu dans un avenir relativement proche, et la course pour s’équiper de ces systèmes, est belle et bien lancée, entre les grandes puissances militaires mondiales.

Les drones tueurs, entre imaginaire collectif et application militaire bien réelle

Si les progrès de l’Intelligence Artificielle sont, globalement, perçus positivement par les opinions publiques, l’émergence possible de « drones tueurs« , capables de choisir eux-mêmes leurs cibles, et de les frapper, embrase l’imaginaire collectif, et le débat politique, depuis de nombreuses années, au point que de nombreux parlements ont déjà pris des mesures pour tenter d’en encadrer l’apparition.

Cependant, les bénéfices attendus par l’embarquement d’IA à bord des drones, n’a échappé à aucun état-major dans le monde, et la plupart des programmes de drones militaires en cours de développement, sont déjà dotés de certaines capacités déléguées à l’Intelligence Artificielle, que ce soit pour alléger le travail des opérateurs, ou pour en améliorer les performances.

Comme on pouvait s’y attendre, un conflit majeur, comme celui qui se déroule en Ukraine, aura rapidement fait évoluer les certitudes dans ce domaine, y compris des militaires, et les drones en cours de développement, dans de nombreux pays, se voient dotés d’IA bien plus évoluées, et surtout, capables de substituer, au besoin, à l’arbitrage humain.

De fait, en dépit des nombreuses assurances données il y a encore quelques mois à ce sujet, la course au développement de drones tueurs, tout contestable que puisse être ce terme, est bien lancée entre grandes puissances militaires, qui désormais l’envisage comme un pilier majeur de leurs capacités militaires à venir, pour tenter de contenir, ou de vaincre l’adversaire.

Et la dynamique engagée, sera très probablement impossible à arrêter, venant profondément modifier la nature même des conflits et des rapports de force dans les années à venir.

Pourquoi l’Intelligence Artificielle change-t-elle la donne à bord des drones militaires.

Il faut dire que l’intégration de modules d’intelligence artificielle à bord des drones, démultiplie objectivement leurs performances et efficacités. En effet, si les drones ont déjà profondément changé la nature des engagements, que ce soit dans les airs, mais aussi sûr et sous les océans et, dans une moindre mesure encore, sur terre, ils souffrent encore de nombreuses faiblesses, entamant significativement leur potentiel opérationnel.

Ainsi, si certaines fonctions de vol et de navigation sont déjà assurées par des intelligences artificielles, la plupart de ces drones, aujourd’hui, emploient une liaison de données, permettant à un opérateur d’en contrôler la trajectoire, mais aussi la mission, y compris dans l’identification des éventuelles cibles. Surtout, la décision de feu reste encore la seule décision d’un opérateur humain.

Or, cette liaison de données, constitue aujourd’hui la plus importante faiblesse, et la plus grande limitation, concernant l’utilisation des drones militaires. Celle-ci est non seulement peu discrète, puisque le drone est émitif, ses émissions pouvant donc être détectées par certains dispositifs adaptés, mais elle représente aussi l’une des plus grandes faiblesses actuellement employées pour venir à bout des drones, à savoir sa vulnérabilité au brouillage électromagnétique.

Privée de sa liaison de données, ou simplement du signal des satellites de géolocalisation, l’immense majorité des drones employés aujourd’hui, se retrouvent incapables d’agir, et donc sans utilité au combat.

En outre, cette liaison de données oblige un opérateur à contrôler le drone. Il est ainsi nécessaire de disposer de presque autant d’opérateurs que de drones déployés, ce qui en limite le nombre, donc le potentiel d’utilisation, en particulier pour venir saturer les défenses adverses.

Les IA apportent des réponses à tous ces domaines. Elles peuvent naviguer avec précision, même privées d’un signal GPS. Elles peuvent rechercher, détecter et identifier des cibles, sans qu’une liaison de données soit nécessaire, renforçant de fait sa résistance au brouillage et sa discrétion. Elles permettent, enfin, à un unique opérateur, de diriger le vol et la mission de nombreux drones simultanément, que ce soit, ou non, dans le cadre d’un vol en essaim.

Bien évidemment, l’absence de liaison de données n’est pas sans imposer quelques contraintes, en particulier dans le domaine de l’évaluation de l’efficacité des frappes, mais aussi concernant les risques d’identification erronée d’une cible.

Cependant, pour de nombreux état-majors, les bénéfices de se doter de drones capables de mener une mission en parfaite autonomie, y compris avec des frappes létales, surclassent nettement les contraintes et risques.

États-Unis, Russie, Chine … : les grandes puissances se sont lancées dans le développement d’IA autonomes pour leurs drones militaires

C’est la raison pour laquelle, depuis quelques mois, maintenant, les annonces se multiplient au sujet du développement de drones militaires dotées d’intelligences artificielles bien plus étendues qu’ils ne pouvaient l’être jusqu’il y a peu.

Le conflit en Ukraine agit, dans ce domaine, comme un accélérateur puissant. Ainsi, à l’occasion du salon Army 2023, qui s’est tenu en septembre dernier à Moscou, les industriels russes ont présenté plusieurs modèles de drones de reconnaissance, mais aussi de combat, équipés d’IA avancées. Selon l’agence TASS, l’utilisation de ces drones aurait d’ailleurs débuté en Ukraine depuis quelques mois.

La Chine, aussi, investit massivement dans les IA embarquées à bord de drones. Bien que la communication, comme pour tout ce qui attrait aux questions de défense, est parfaitement maitrisée par Pékin, des publications récentes attestent des avancées chinoises en matière d’IA embarquées, et de drones autonomes, sans que l’on puisse attester, avec certitude, sur le fait que ces technologies soient, ou non, déjà employées par l’Armée Populaire de Libération.

Longtemps contraints par des considérations politiques et éthiques, le Pentagone est resté pendant plusieurs années accroché à la doctrine « Man in the Loop« , obligeant que le tir létal d’un drone soit exclusivement lié à une intervention humaine.

Toutefois, face à l’évolution rapide des menaces, aux avancées russes et chinoises dans ce domaine, et au rapport de force défavorable face à l’APL dans le Pacifique, les lignes bougent rapidement aux États-Unis, en particulier autour du programme Replicator, qui prévoit de doter les armées US d’une gamme de drones autonomes évoluant en essaim d’ici à 2026.

Cette nouvelle course aux IA autonomes embarquées sur des drones, n’est cependant pas exclusivement réservée aux seules grandes puissances militaires. Ainsi, des pays comme l’Iran, mais aussi la Corée du Nord, ont annoncé d’importants progrès dans ce domaine ces derniers mois.

Si les allégations de Téhéran et de Pyongyang sont, bien souvent, à prendre avec les plus grandes précautions, tant ces deux régimes exagèrent les performances et caractéristiques de leurs nouveaux armements, l’accessibilité des algorithmes d’IA, et les savoir-faire reconnus de ces deux pays en matière de développement numérique, rendent toutefois ces déclarations crédibles.

Les Européens, comme fréquemment, sont plus en retrait à ce sujet, du fait de son importante dimension étique et de la pression des opinions publiques. Beaucoup de pays européens, dont l’Allemagne, refusent toujours d’employer des drones armés, en lien avec des débats étiques parfois très houleux au sein de leurs parlements respectifs, voire du Parlement européen.

Néanmoins, si les IA autonomes ne sont pas encore prévues d’embarquer à bord des drones de facture européenne, de nombreux travaux sont réalisés dans ce domaine, par plusieurs pays et plusieurs armées, conscients qu’il ne s’agit, aujourd’hui, que d’une question de temps, avant que le besoin pour ce type de drones s’impose de lui-même.

Des risques bien réels, et partiellement maitrisés

Les hésitations des européens, et dans une moindre mesure, des américains, pour se tourner vers les drones autonomes, ne sont pas dénuées de fondement. En effet, plusieurs risques et contraintes liés à leur utilisation, ont été mis en évidence, y compris récemment, tant part les armées que par certaines équipes de chercheurs.

Le taux d’erreur admis concernant les IA militaires

La première faiblesse, concernant ces drones autonomes, concerne le taux d’identification constaté lors des essais. Les données, à ce sujet, sont le plus souvent confidentielles, bien qu’il soit possible, en cherchant bien, de trouver certaines indications en ce domaine.

Ainsi, une équipe russe a dernièrement annoncé un taux d’identifications correctes des matériels et équipements adverses, de l’ordre de 93 %, pour son nouveau réseau neural destiné à être embarqué à bord de drones légers.

Si 93 % apparait un taux très élevé d’identification, il indique aussi que 7 fois sur 100, l’IA a fait une erreur dans son processus, erreur pouvant entrainer la destruction de véhicules civils, voire, pire (du point de vue militaire), d’un véhicule allié.

Toutefois, la portée de ce chiffre est à mettre en perspective. En effet, les opérateurs humains, eux aussi, font des erreurs de ce type. Et s’il est difficile de trouver des informations de ce type concernant les IA, c’est encore plus difficile concernant les opérateurs humains, tant les implications sont problématiques.

Reste que, dans l’imaginaire collectif, les erreurs d’identification d’une IA, constitue une peur bien réelle, et un frein important à leur déploiement, en particulier au sein des armées protégeant les démocraties.

L’évolution du seuil d’engagement et l’augmentation des risques d’escalade des conflits

À l’autre bout du spectre, l’utilisation des drones autonomes et des IA engendre un risque à l’échelle du conflit lui-même. On peut ainsi se demander si Téhéran aurait pris le risque, en juin 2019, de détruire un avion américain doté d’un équipage, plutôt qu’un drone RQ-4. Pourtant, même s’il ne s’est agi que d’un drone, Donald Trump ordonna des frappes massives contre l’Iran en riposte à cette destruction.

Si la riposte américaine fut annulée in extremis par le président américain, probablement sous les conseils avisés de ses conseillers du moment, cet épisode montre toute l’imprévisibilité nouvelle qu’engendre l’utilisation de drones, dans les conflits humains, et notamment leur influence sur l’abaissement du seuil d’engagement, et l’augmentation des risques d’engrenages et d’escalade.

Le sujet avait donné lieu à une analyse poussée par la Rand Corporation en janvier 2020, qui montrait, justement, l’influence délétère des drones dans ces deux domaines. Celle-ci montra que l’utilisation des systèmes non pilotés augmentait sensiblement la prise de risque de la part des deux protagonistes d’un éventuel conflit, mais aussi le manque de discernement des IA pour répondre à des situations complexes, qui engendre un risque d’escalade bien plus élevé, et plus rapide.

L’IA hors de contrôle, un scénario pas seulement cinématographique

Le troisième risque, concernant l’utilisation des IA autonomes à bord de systèmes d’armes, semble avoir plus qu’un pied dans la science-fiction et la littérature apocalyptique. Il s’agit, bien évidemment, des intelligences artificielles qui deviendraient, soudainement, hors de contrôle, se retournant contre leurs concepteurs, voire contre toute l’humanité.

De Terminator à Ghost in the Shell, en passant par le cycle des Robots (Asimov) et le djihad Buttlérien de Dune (Herbert), la menace qu’une IA hors de contrôle peut représenter, a été un thème récurrent ces dernières décennies. Ce qui a, incontestablement, joué un rôle non négligeable dans les réserves qui ont encadré l’arrivée des drones et des IA dans les armées depuis 10 ans.

Pourtant, le risque est loin d’être aussi imaginaire qu’il n’y parait. Il y a bientôt un an, un officiel de l’US Air Force relata ainsi, à l’occasion d’une conférence, l’histoire d’un drone dont l’IA aurait décidé de se retourner contre ses opérateurs, car ils l’empêchaient de frapper ses cibles. L’histoire a depuis été plus enterrée que vraiment démentie, même s’il ne fait guère de doutes que les opérateurs de l’USAF conservaient en permanence la possibilité de désactiver l’IA pour reprendre le contrôle du drone.

Quoi qu’il en soit, de nombreux scientifiques de renoms, dont Stephen Hawking, ont appelé à la prudence quant à l’utilisation faite des IA, en particulier dans le domaine militaire, avec le risque, bien réel, de comportements hiératiques, voire d’une perte de contrôle complète de la part des opérateurs.

En outre, plus le système est autonome, et plus il est partagé, plus les risques seraient élevés. Ce sans même parler des comportements induits par des attaques cyber, qui font l’objet de recherches dans de nombreux pays.

À l’aube d’une nouvelle ère dans les conflits humains

Reste qu’en dépit de ces risques, comme de ces contraintes, il semble, désormais, que l’arrivée des drones dotés d’une intelligence artificielle autonome, ne puisse plus être contenu, ce dans toutes les armées.

En effet, au-delà de leurs capacités individuelles déjà évoquées, ces drones dotés d’une IA autonome, apportent une dernière caractéristique, qui en fait, pour ainsi dire, son principal atout de promotion : il permet de hiérarchiser, à nouveau, les capacités militaires des pays, en fonction de leurs capacités technologiques, industrielles et surtout, économiques.

Comme l’ont montré de nombreux conflits récents, y compris en Ukraine, les armements légers sont devenus à ce point économiques et performants, qu’ils nivellent par le bas le gradient opérationnel, la masse reprenant l’ascendant sur les performances technologiques et industriels des pays.

Or, ce nivellement ne fait pas du tout l’affaire des grandes puissances économiques mondiales qui, justement, peinent de plus en plus à répondre à cet objectif de masse, et qui voient ainsi leur avantage opérationnel s’étioler, en dépit de leurs richesses très supérieures.

Les drones autonomes dotés d’IA, en revanche, ressuscitent cette hiérarchie, les pays les plus riches, et les plus avancés technologiquement parlant, n’ayant aucun mal à produire un grand nombre de drones, pour reprendre l’avantage face à un adversaire disposant d’une masse très supérieure, mais de technologies et de moyens moindres.

De fait, et pour ainsi dire, paradoxalement, puisque ce sont les européens et américains qui sont les plus rétifs dans ce domaine, les drones autonomes sont surtout à l’avantage de ces pays, pour préserver leurs positions dominantes mondiales.

Pour autant, les pays moins riches, n’en seront pas nécessairement exclus, le ticket d’entrée pour developper une vaste flotte de drones autonomes à capacités stratégiques ou tactiques, étant à la portée de nombreux pays ne disposant pas, aujourd’hui, de moyens de projection de puissance significatifs.

Ces deux constats, mis bout à bout, dessinent un avenir dans lequel le drone autonome représentera l’un des outils clés des équilibres mondiaux, mais aussi de la conduite des opérations militaires

On peut d’ailleurs supposer que ces drones dotés d’une IA auront une influence, à terme, probablement aussi importante que ne l’a été l’arrivée de l’électronique, de l’arme nucléaire, du moteur à explosion, ou de la poudre noire, en matière de technologies militaires, et donc l’émergence d’une nouvelle ère des conflits humains, qui, pour le coup, risquent de l’être de moins en moins… humains.