Les robots de combats du futur : Des tueurs sans contrôle humain ?

Dans les années 70 et 80, on imaginait les robots de combat comme des engins pilotés. Pourtant, à cette époque déjà, l’US air force mettaient déjà en ligne des drones pour des missions de reconnaissance au-dessus du Vietnam. L’apparition d’intelligence artificielle capable d’apprendre de manière autonome relance un débat vieux comme le monde : doit on déléguer le contrôle de nos armées à quelqu’un d’autre ? à une intelligence extérieure ?

Le destin de l’Empire romain, de la Venise de la renaissance et d’autres nations dans l’histoire démontre que dès que l’on transmet sa défense à quelqu’un d’autre… on s’engage à perdre son autonomie. Mais maintenant le problème se pose avec d’autant plus d’importance que ce n’est pas à d’autre humains, mais à nos propres créations que l’on confierait nos moyens de combat.

D’un côté, on trouve les humains. Nous, avec nos peurs, nos colères, nos erreurs… D’un autre côté on trouve des machines qui sont censé être totalement logique, incorruptible et avec une totale impartialité.

Ces derniers points sont à relativiser. Des robots, mis ensemble ont su développer un langage de communication de manière totalement autonome. L’un d’entre eux, n’a pas su suivre le mouvement et à été mis à l’index par le reste du groupe. Ce type de discrimination n’est ni logique, le robot avait exactement les mêmes capacités que les autres, ni impartial. Qu’arriverait-il si les robots décidaient, non sans raison, que l’espèce humaine était dangereuse pour elle-même et pour le reste de la planête ????

Actuellement, la Corée du Sud fait patrouiller le long de sa frontière avec la Corée du nord des robots SGR A1. Ces robots sont développés par Samsung et peuvent utiliser leur armement de manière autonome pour protéger la frontière. La Corée du Sud n’est pas la seule. Israël, les USA, la Russie, la Chine, la Grande-Bretagne et … la France … proposent des systèmes de combats autonomes armés. Jusqu’à présent ces robots sont tous des systèmes défensifs… Mais une certaine prise de conscience semble apparaître. Mr Musk en particulier a écrit :

"Selon moi, la concurrence internationale pour la supériorité en matière d'intelligence artificielle sera presque certainement la cause d'une troisième guerre mondiale"

Cette prise de conscience, bien que réelle doit être tempéré par ce simple fait : En 2014, la robotique militaire représentait 3,2 milliard de dollars en 2014. En 2021, c’est estimé à 10,2 milliard ! De quoi acheter bien des consciences…

Mais, la France a demandé d’organiser une rencontre annuelle sous l’égide de l’ONU. Si on est loin d’un cadre réglementaire aussi contraignant que celui des armes NBC (Nucléaire, biologique et chimique). On semble prendre la mesure de créer un cadre légal plus ou moins contraignant pour l’ensemble des états.

En France, Mr Macron, le président de la république s’y est opposé catégoriquement. Il n’y aura pas de robot tueur. Mais, l’utilisation du potentiel des intelligences artificielles sera exploité par les militaires français. L’homme est trop lent. Comme le montre les missiles hyper-véloces, il faut des capacités de réaction qui vont au-delà des capacités humaines. La doctrine militaire française tend à garder l’homme dans la boucle. Si bien des tâches sont déléguées à la machine, la décision reste sous l’entière responsabilité humaine. Au contraire, la DGA oriente ses recherches plutôt vers des interfaces homme-machine plus performante, voire d’interfaces cerveau-machine…Pour rendre l’homme encore plus puissant et plus rapide, on lui connecte les IA les plus performantes. Contrairement aux apparences, c’est loin d’être un contre sens. Le cerveau humain reste le système de traitement de donnée le plus puissant de notre monde. Même de nos jours, les ordinateurs les plus puissants mis en réseau n’arrivent pas à être à la fois aussi puissant et polyvalent que le cerveau humain. Le fait que l’on soit battu dans des domaines aussi spécialisés que les échecs ou le go ne doit pas faire oublier ce point.

L’interface évoquée permet d’utiliser tout le potentiel des robots, mais en en gardant le contrôle humain. La raison est à la fois légale (notion de responsabilité), mais aussi d’éthique et de légitimité. Ces interfaces devraient être testés dans années 2030. La question qui se posera alors sera la suivante: Ces hommes qui contrôlent nos armes… sont-ils encore humains ?