Les robots… de futurs terminator ???

La conjugaison de l’intelligence artificielle à des robots militaires inquiètent de nombreux experts. Les ONG, elles aussi sont inquiètent. En effet de plus en plus de gouvernements (Chine, Russie, Etats Unis), mais aussi de sociétés spécialisées proposent des robots de combat autonomes. Ces systèmes sans « homme dans la boucle » sont dénommés systèmes d’armes létales autonomes (Sala). Cette perte de contrôle sur l’armement pose des questions techniques, politiques, légales et aussi éthiques.

Actuellement, l’automatisation concerne la détection et la lutte contre les mines, la surveillance et la Défense contre Avion (aéronefs, mais aussi missiles). Les détecteurs embarqués dans les robots (ou drones selon appellation) sont considérablement plus efficaces que les senseurs biologiques humains. Mais, même pour les drones chargés de bombes et capable de détruire une cible (potentiellement humaine) à l’autre bout de la planète. La décision reste humaine. C’est l’homme qui commande et qui donne l’ordre final.

Avec des intelligences artificielles embarquées, la question du contrôle se pose car l’humain ne contrôle plus rien. Cette évolution risque d’être plus rapide qu’on le pense pour plusieurs raisons. Tout d’abord, l’être humain à des besoins physiologiques. En particulier, il doit régulièrement dormir. Au vu de l’endurance des robots actuels, cela implique de mobiliser des équipages nombreux… qu’il faut former, entraîner et payer. Ensuite, les récents déboires US montrent que les liaisons entre les robots et les humains qui les commandes peuvent être coupées (brouillage, destruction de satélittes …) ou même piratés ! Dans ce dernier cas, rien n’empêche l’adversaire de retourner vos armes contre vous. Les parades existent (codage, renforcement au brouillage …) mais cela coûte cher, et doit évoluer régulièrement…

Enfin, le dernier point faible de l’humain est sa vitesse… Par rapport aux robots et aux intelligences artificielles spécialisées, l’homme est faible, fragile et surtout lent. Dans le domaine de la défense anti-aérienne, l’apparition de technologies hypersoniques (missiles à la vitesse supérieure à Mach 2) implique des temps de réaction qui dépassent largement les capacités humaines.

Si les défenses aériennes sont déjà largement automatisées (systèmes Aégis par exemple), de nombreux industriels réfléchissent à des systèmes opérationnels d’attaques pour se débarrasser de ces systèmes. Ces systèmes offensifs deviendront forcement des Sala pour éliminer toute menace en faveur des troupes qui suivront. Actuellement les tests menés en simulation donnent un avantage marquant aux intelligences artificielles même face à des vétérans entrainés (simulation Alpha de l’US Air Force en octobre 2015). Surtout que la perte d’une Sala ne pèse rien par rapport à celle d’un soldat. Il est donc certain que dès qu’une armée déploiera une Sala, elle sera suivit par d’autre…

Il n’en reste pas moins que si les robots progressent sans cesse (certains font même du ski), leur capacité à analyser un environnement complexe est trop limité. Pour faire simple : les intelligences artificielles ne comprennent pas (encore). Il faut donc apprendre aux intelligences artificielles à comprendre le monde et ce que l’on demande aux militaires. Ce qui est un travail énorme. Il faut indexer chaque donnée, souvent à la main et répéter l’expérience jusqu’à pouvoir la traiter statistiquement. Les meilleurs taux de réussite envisager actuellement ne peuvent tout simplement pas dépasser 70 %, 80 % pour les experts les plus optimistes. La fiabilité des intelligences artificielle qui est maintenant connue pour les voitures autonomes (qui ont tué pour la première fois un piéton qui faisait son jogging sur un trottoir cette année) est reconnue comme médiocre et surtout impossible actuellement à quantifier. Le gros problème, c’est qu’avec l’apprentissage par le biais du big data, l’homme ne comprend déjà plus la programmation de ces systèmes. Ce qui fait des Sala des tueuses impossible à comprendre… et d’autant plus effrayantes