Robot de combat et Intelligence artificielle ; un risque accru de conflit ?

En 1962, l’équipage du sous-marin soviétique B59, refusa de lancer une torpille avec une charge nucléaire contre la flotte US qui faisait le blocus autour de Cuba. Cette information, rendue publique après la chute du mur de Berlin, lors de l’effondrement soviétique, montre l’importance du jugement humain pour éviter une escalade, voire un conflit. Un sous-marin robotisé aurait obéi sans discuter à l’ordre, et la troisième guerre mondiale aurait commencé. Cette information est d’autant plus importante, qu’à la même époque, ce sont les officiers américains qui ont dû débrancher en urgence les systèmes de défenses automatisés US… pour éviter eux aussi de commencer la troisième guerre mondiale lors de la Crise de Cuba.

En 2019, la Rand Corporation a fait plusieurs simulations sur l’impact de la robotisation et de l’intelligence artificielle dans la gestion des conflits. Le constat de l’étude est sans appel, l’implication de ces technologies ne fait que rendre beaucoup plus probable l’apparition d’une guerre.

Comme l’a montré les exemples précédents, les humains, concernant des décisions aussi graves, sont capables de remettre en cause un ordre, voire tout simplement de le temporiser, ce qui permet de laisser aux deux parties le temps de trouver des solutions plus pacifiques. Un robot, une Intelligence artificielle appliquera les consignes programmées sans que les conséquences soient prises en compte. De fait, l’expérience montre que les programmes d’aide à la décision font appliquer sans le moindre état d’âme les consignes programmées. Les impacts potentiels, surtout moraux, sont totalement ignorés… car non programmable actuellement.

Même l’utilisation de drones et de robots engendre un risque. Sans équipage humain à bord, les drones peuvent être pris pour cible sans dilemme moraux, bien au contraire. Mais au vu du coût de tels engins, ces derniers ont des protections (escorte, soutien armé …) qui peuvent, qui doivent réagir. Ce qui va provoquer une contre-attaque adverse… et un risque d’escalade difficilement maîtrisable.

Laisser les intelligences artificielles, et les robots sans équipages humains dans les conflits armés semblent actuellement particulièrement dangereux de ce fait. La voie la plus sûre est sans doute de recourir à des engins pilotés, mais assisté par des intelligences artificielles. L’humain se chargeant de la supervision et de la gestion de conflit. De manière très amusante, on s’orienterait vers une conception de la robotisation comparable à celle proposées dans les années 1980. Il faut noter que c’est vers cette conception de la robotique militaire que s’orientent les industriels et les forces armées françaises. Le financement des armements de haute technologie explique cette orientation, mais ce n’est pas la seule raison. Pour les Russes c’est la surface de leur pays qui implique des moyens en nombre important que ne pourront pas permettre leur démographie. Les Américains ont toujours considéré que les militaires étaient faillibles. A ce titre, la robotisation permet à l’état de parfaitement contrôler leurs moyens militaires sans aucune remise en raison possible. La révolution, puis la guerre de Sécession ont laissé des traces dans l’esprit des élites américaines. Quand au Chinois, les projets de robots et d’Intelligence artificiels sont peu connus…

Dans tous les cas, les avancées en matière robotiques sont des succès technologiques et industriels dont on mesure encore mal les conséquences. Mais en matière d’intelligence on arrive actuellement à un palier, qui permet de prendre conscience de l’importance de notre propre intelligence.