Un nouveau concept d’Intelligence artificielle

Ainsi que je le disais il y a quelque temps, l’intelligence artificielle (IA) actuelle est à un palier technologique. Elle offre des capacités réelles à la fois en technologie de l’information, en communication, mais aussi en robotique. Mais si ces capacités d’évolution surtout par apprentissage, semblent offrir des possibilités d’évolution, il n’en reste pas moins un gros, un énorme souci : On ne sait pas comment fonctionnent les nouvelles intelligences artificielles !

Les nouvelles intelligences artificielles sont basés sur des « réseaux de neurones », des zones mémoires dotés d’une programmation autonome capable de créer des liens avec d’autres zones mémoires. Soumis à quantité de données (l’apprentissage). On précise au programme lorsqu’il réagit correctement, ou lorsque son action est fausse.

Il y a deux soucis, il faut des masses de données pertinentes en nombre suffisamment importants. Ensuite, il faut pouvoir dire à l’intelligence artificielle lorsqu’elle est dans le vrai ou lorsque son résultat est erroné.

Il existe des tonnes de données sociales, ce qui explique les progrès des intelligences artificielles de traduction par exemple… mais pour le reste….

Mais le pire dans ce système, c’est qui si les intelligences artificielles se programment dans une relative autonomie. On ne sait pas comment elles se programment et pourquoi on obtient tel ou tel résultat. Et si maintenant le résultat est juste. Rien ne prouve qu’il sera correct demain ou dans cinq ans. Si c’est peu important dans le cadre d’une traduction automatique pour un touriste à Paris (Au pire, il visitera le musé d’Orsay au lieu de celui du Louvre). Cela pose de grave soucis pour une intelligence artificielle chargée de la conduite de véhicules autonome tels que des cars, des trains ou des navires. C’est pourquoi, la tendance actuelle est à des engins non plus autonomes, mais commandés à distance…

Conscient de cette limitation, la DARPA vient de lancer un nouveau programme de recherche afin de doter les industriels US d’intelligence artificielle « prédictive ». Il s’agit de créer des réseaux de neurone dont on peut suivre l’agence afin de suivre, de comprendre et au besoin de corriger. Ce programme de recherche est tout sauf innocent. Si les forces US sont actuellement les plus puissantes, la Chine progresse et vise la parité en termes de puissance de combat et de projection de force. En même temps, la Russie se réarme. Les USA sont certes les plus puissants, mais ils ne sont pas suffisamment nombreux pour combattre sur deux fronts. Des intelligences fiables guidant des armes autonomes est une solution logique… quoique terrifiante...