La guerre sévit dans le monde et les nations les plus puissantes de la planète s’affrontent une fois de plus. Mais cette fois, ce sont des machines qui tuent, échappant à toute surveillance et à toute responsabilité humaines.
C’est un tableau sombre de l’avenir des conflits, et pourtant, le Parti communiste chinois (PCC) s’efforce d’en faire une réalité.
Le PCC investit dans des plateformes dotées d’intelligence artificielle (IA) qui, espère-t-il, mèneront un jour des missions meurtrières en temps de guerre, sans aucune intervention ni contrôle de la part de l’homme.
Gregory Allen, directeur du Wadhwani Center for AI and Advanced Technologies au Centre d’études stratégiques et internationales, affirme que le régime a largement dépassé le stade des tentatives visant à maintenir un être humain dans le circuit décisionnel de l’IA.
« La Chine poursuit le développement d’armes autonomes létales basées sur l’IA », a écrit Gregory Allen dans un témoignage préparé pour l’audition du 13 avril de la Commission d’examen de l’économie et de la sécurité entre les États-Unis et la Chine.
« Les meilleures indications disponibles […] suggèrent que la stratégie de la Chine est ambitieuse, allant au-delà de toute forme de supervision humaine sur le champ de bataille vers une guerre de plus en plus autonome fondée sur l’IA. »
Selon Gregory Allen, le PCC investit massivement dans un large éventail de nouvelles technologies, mais l’IA est la plus importante d’entre elles. La capacité du régime à construire des machines de guerre pilotées par l’IA atteint rapidement la parité avec celle des États-Unis, et pourrait même la dépasser bientôt.
« La suprématie des États-Unis dans le domaine de l’IA militaire n’est pas du tout garantie », affirme Gregory Allen.
« Même si les États-Unis disposent d’avantages importants, la Chine pourrait être en mesure de prendre rapidement la tête en matière d’adoption des capacités d’IA par les gouvernements et les forces armées. C’est un résultat que les États-Unis devraient s’efforcer d’éviter ».
Les plateformes d’IA autonomes sont inévitables
Cela fait des années que le PCC cherche à se doter d’armes et d’autres plates-formes militaires pilotées par l’IA, même si ce n’est pas évident pour de nombreux Occidentaux.
Gregory Allen explique qu’il s’est rendu compte pour la première fois de l’ambition remarquable de ces objectifs en 2018. À l’époque, il a assisté à une conférence au cours de laquelle il a transcrit un discours prononcé par Zeng Yi, un cadre supérieur de l’entreprise militaire publique chinoise Norinco.
Zeng Yi y a décrit les ambitions de Norinco — et les attentes du PCC — pour la mise en œuvre future des armes d’IA en disant que « dans les futurs champs de bataille, il n’y aura pas de personnes qui se battent. »
« Zeng Yi a prédit que d’ici 2025, les armes autonomes létales seraient monnaie courante », note Gregory Allen, ajoutant que Zeng Yi avait qualifié d' »inévitable » l’adoption en masse de plates-formes d’IA autonomes.
Gregory Allen a également remarqué que les censeurs du PCC ont supprimé les commentaires de Zeng Yi, et même sa participation, du compte rendu officiel de la conférence peu de temps après.
« Il n’était pas dans l’intérêt de la Chine que ces informations soient rendues publiques », selon Gregory Allen.
Peu de temps après, cependant, la société militaire Ziyan, affiliée au PCC, a commencé à exporter ses drones Blowfish A2 et A3 au Moyen-Orient. Le Blowfish, un drone de type hélicoptère capable d’attaquer des cibles de manière autonome à l’aide de mitrailleuses et de missiles, n’était que la première réalisation de l’ambition du régime de transformer la guerre d’un domaine humain en un domaine robotisé.
Des décisions militaires sans humanité
Les ambitions du régime en matière d’IA ne se limitent pas aux robots tueurs. Le PCC investit également dans le développement de capacités d’IA liées à la prise de décision militaire et au commandement et au contrôle.
Au cœur de cet effort se trouve l’objectif du PCC d’ « l’intelligentisation », une transformation de la guerre par l’intégration massive de l’IA, de l’automatisation et du big data.
Zeng Yi a affirmé que « la suprématie de l’intelligence sera au cœur de la guerre future » et que « l’IA peut complètement changer la structure de commandement actuelle, qui est dominée par les humains », en une structure dominée par une « grappe d’IA » qui fonctionne « comme le cerveau du corps humain ».
Dans cette optique, des entreprises chinoises comme 4Paradigm ont été engagées par l’aile militaire du PCC pour développer des modèles décisionnels d’IA et des logiciels d’équipe homme-machine destinés à être utilisés au niveau de la compagnie et du bataillon.
Ces programmes visent essentiellement un objectif : la restructuration de l’armée chinoise en un cadre de plus en plus centralisé d’officiers qui dirigent des essaims de systèmes autonomes dotés d’IA pour mener les combats proprement dits.
Sam Kessler, analyste pour le cabinet de conseil en gestion des risques North Star Support Group, estime que l’importance accordée par le régime au transfert de la charge de la conduite de la guerre de l’homme vers les systèmes dotés d’IA est révélatrice d’une reconnaissance plus large par les dirigeants du PCC de la nature révolutionnaire des systèmes autonomes intelligents.
« L’armée [chinoise] accorde une grande importance aux technologies de rupture telles que les systèmes autonomes », indique Sam Kessler dans un courrier électronique adressé à Epoch Times.
« Les systèmes de combat sans pilote dotés de programmes de prise de décision numérisés peuvent potentiellement accélérer le processus d’exécution des tâches sur le champ de bataille », ajoute-t-il. « Il s’agit notamment de frappes de précision, de reconnaissance précise, de réapprovisionnement des forces et de modifications plus précises et plus efficaces sur le terrain.
Selon Sam Kessler, de telles capacités pourraient permettre à une armée, même modeste, de bénéficier d’un puissant multiplicateur de force et de modifier l’équilibre des forces dans les conflits à venir.
« Quiconque possède ce type de technologie peut contribuer à donner à la puissance militaire conventionnelle la plus faible ou la plus moyenne un avantage sur le champ de bataille, ou à le prolonger », conclut Sam Kessler.
L’avenir de la guerre est robotisé
Le PCC n’est pas le seul à vouloir mener une nouvelle révolution dans les affaires militaires. De nombreux chefs militaires américains pensent que l’aube des systèmes autonomes létaux basés sur l’IA est proche.
Le président de l’état-major interarmées, le général Mark Milley, partage une vision similaire à celle du Chinois Zeng Yi. Il pense que les armées les plus puissantes du monde seront principalement robotisées d’ici 10 à 15 ans.
« Au cours des 10 à 15 prochaines années, une grande partie des armées des pays avancés deviendront robotisées. Si vous ajoutez à la robotique l’intelligence artificielle, les munitions de précision et la capacité de voir à distance, vous obtenez le mélange d’un véritable changement fondamental. »
« C’est ce qui s’annonce. Ces changements, cette technologie… nous les envisageons dans les dix ans à venir », selon le général Mark Milley.
Le lieutenant-général Ross Coffman, chef du Army Futures Command, présume que les États-Unis entreront dans une ère caractérisée par des machines à tuer artificiellement intelligentes d’ici 2040.
Le lieutenant-général Coffman décrit le partenariat entre les soldats et l’IA comme celui entre un chien et son maître lors d’un sommet du 28 mars réunissant des dirigeants du département de la Défense et des experts en technologie.
Toutefois, dans une guerre future, ce seront les soldats qui aideront l’IA à s’engager dans le combat, et non l’inverse.
« Je pense qu’en 2040, nous assisterons à un renversement de situation : les humains assumeront les fonctions qui permettent à la machine de se placer dans une position d’avantage relatif, et non la machine qui place les humains dans une position d’avantage relatif », estime M. Coffman.
Selon Sam Kessler, cet objectif est susceptible de connaître un parcours semé d’embûches, les États-Unis devant faire face à l’adoption par la Chine de systèmes d’intelligence artificielle mortels.
« Le ministère de la Défense a récemment annoncé son intention de poursuivre le développement de l’IA et de systèmes létaux autonomes (…) qui lui permettront de conserver une longueur d’avance dans l’environnement sécuritaire mondial en pleine évolution », affirme Sam Kessler. « Toutefois, le maintien d’un élément humain impliqué dans le fonctionnement des systèmes létaux autonomes et semi-autonomes d’IA reste également une priorité. »
« Étant donné que l’armée chinoise ne s’est pas engagée dans cette stratégie et ce système de croyances du ministère de la défense, les États-Unis devront investir massivement dans ce domaine. Les États-Unis devront également veiller à ce que l’équilibre entre l’éthique et la surveillance n’empêche pas d’être létal et opérationnel en même temps. »
Robots chinois et recherche américaine
Alors que le PCC poursuit sa quête d’une guerre intelligente, Gregory Allen estime qu’une faiblesse essentielle que les États-Unis doivent surmonter est le soutien indirect qu’ils apportent à l’industrie chinoise de l’IA.
Étant donné que les États-Unis considèrent l’IA comme une technologie distincte plutôt que comme une catégorie de technologie à usage général comme l’électricité ou les ordinateurs, le PCC est en mesure de développer par mégarde ses capacités militaires par le biais de partenariats de recherche et de développement avec les États-Unis, qui sont par ailleurs tout à fait banals.
« Les liens entre le secteur de l’IA de la Chine et celui des États-Unis sont extraordinairement profonds », affirme Gregory Allen. « Il n’y a vraiment aucune partie de l’écosystème chinois de l’IA qui ne s’appuie pas d’une manière ou d’une autre sur l’écosystème américain de l’IA.
Gregory Allen fait remarquer que la moitié des articles universitaires chinois publiés sur le thème de l’IA comportaient des coauteurs américains.
Certains de ces projets de recherche comprennent même des collaborations entre de grandes entreprises américaines et les entreprises responsables du développement de l’IA militaire chinoise.
Par exemple, Intel a mené des recherches avec 4Paradigm, alors même que l’entreprise était chargée de développer des modèles de prise de décision en matière d’IA pour l’armée chinoise. Google, quant à lui, a largement collaboré avec des entités liées à l’armée en Chine par l’intermédiaire de ses centres d’IA basés en Chine.
Cette recherche et tout développement technologique ultérieur basé sur elle en Chine sont ensuite en mesure d’être efficacement cooptés par le PCC grâce à sa stratégie de fusion militaire et civile ( Military-Civil Fusion : MCF), qui décrète que toutes les recherches et technologies servent les besoins de sécurité nationale en plus des besoins civils.
Selon Elsa Kania, membre associée du groupe de réflexion Center for a New American Security, le volume de recherche et de développement en matière d’intelligence artificielle compilé par le régime dans le cadre de la MCF permet au PCC de rattraper efficacement les États-Unis sur le plan technologique.
« Nous devons reconnaître que le MCF est un élément extrêmement important de l’objectif de la Chine pour rattraper ou supplanter les États-Unis », déclare Elsa Kania. « À un certain moment, la quantité et les ressources consacrées à ces efforts commencent à produire de la qualité. »
Elsa Kania ajoute que l’un des principaux objectifs du MCF était de réaliser le souhait du régime de devenir un « pionnier à l’avant-garde des technologies définissant une nouvelle révolution dans les affaires militaires » et « d’accéder à des technologies à double usage et de les exploiter », y compris l’intelligence artificielle et la robotique.
« L’écriture est sur le mur depuis un certain temps », poursuit Elsa Kania. « L’APL considère l’intelligentisation comme l’avenir de la guerre. »
En l’absence de mesures de surveillance adéquates, le développement par le régime d’armes dotées d’intelligence artificielle se poursuivrait au détriment de la sécurité nationale des États-Unis.
« Tout investissement en Chine [sans contrôle] risque de contribuer involontairement à la modernisation militaire », affirme Elsa Kania. « Il est nécessaire de renforcer la surveillance et le contrôle des investissements sortants dans ces technologies (…) [pour s’assurer que] les flux de financement américains ne sapent pas par inadvertance les intérêts des États-Unis ».
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
