Robots : Un danger déjà si ancien …

Les actions de Hawking, Musk, Gates et bien d’autres montrent que beaucoup commencent à s’inquiéter du perfectionnement continu des robots et de l’intelligence artificielle pour l’homme. C’est une peur qui est aussi ancienne que le concept même de « robot ». L’histoire, mais aussi la littérature et le huitième art montre que cette peur est déjà bien ancienne.

Au XVIe siècle, à Prague, le Rabbi Yeouda Loew ben Bezalel dit le « Maharal » créé le Golem pour protéger la communité juive. Si les intentions du Maharal sont louables, son contrôle sur la créature n’est pas suffisant. Le Golem provoque des massacres et la destruction de son créateur. Ce mythe va inspirer à Mary Shelley « Frankenstein ».

Pour la première fois, on a une création artificielle de l’homme doté d’une certaine autonomie décisionnelle. Mais cette dernière se révèle au final un danger pour tout le monde. Toutefois, ce genre d’avertissement est en général associé aux dangers que provoque la recherche scientifique sans contrôle.

La révolte des Luddites (ou luddisme) est à relier aux grandes peurs de liés à la robotique. En pleine révolution industrielle. Ludd détruit deux machines à tisser automatiques. Les métiers Jacquards permettent une industrialisation de la production de tissus. En pleine famine, les artisans tisserands se révoltent et détruisent les machines des industriels. Beaucoup d’économistes en profitent pour rappeler que l’industrialisation de l’Angleterre permettra de devenir la première économie du monde jusqu’au XXe siècle. Mais, ils oublient que la société anglaise sera l’une des plus inégalitaire et que la majorité des britanniques vivront dans une misère extrême. L’automatisation que permettent les mécanismes Jacquards liés à l’utilisation de la vapeur, font que pour la première fois l’homme n’est plus le principal « outil » de production. A ce titre, on est dans les prémices de la robotisation. Cette peur de perdre sa place sociale au profit d’un autre (robot, mais aussi émigré… ) tant à prendre une importance de plus en plus importante alors que l’occident n’arrive pas à renouveler son modèle de société depuis la fin de la guerre froide.

En 1920, Karel Capek écrit « R U R » (Rossum’s universal Robot). Le robot (le terme est inventé à ce moment précis) désigne un humain mécanique. Dénués de sentiments, les humains utilisent les robots comme des esclaves. Pour les rendre plus performant, un ingénieur les dote d’une intelligence plus performante, mais aussi de sentiments. Il leur faudra dix ans pour détruire l’humanité… et découvrir l’amour. Cette pièce de théâtre est fondatrice. Capek créé le terme robot. Pour la première fois, l’être humain est capable de créer un automatisme artificiel autonome capable de le remplacer. S’il ressemble beaucoup au mythe du Golem. Capek n’utilise plus la magie ou une intervention divine (qu’il détourne plus ou moins). Dans sa pièce l’homme créé une nouvelle forme de vie, artificielle. Cette nouvelle forme de vie prend alors sa place dans une sorte de processus « darwinien ». Cette histoire va inspirer directement la série des « Terminator », mais aussi la dernière mouture de « Galactica ».

Le mythique film « Métropolis » est à la fois très proche de RUR (création d’un être artificiel) et du mythe du Golem (perte de contrôle catastrophique de la « créature »). Mais, Fritz Lang dénoncent surtout une société industrielle ingalitaire à deux vitesse. Si on retrouve des préoccupations du Luddisme, on a surtout une dénonciation des conditions de vie de la classe ouvrière.

En 1942 Asimov commence à écrire le cycle des robots et définit « les trois lois de la robotique ». Il est clair que pour lui, l’accélération de la science va permettre à l’homme de créer une nouvelle forme d’intelligence qui finira inévitablement par le dépasser. C’est dans cette perspective qu’il faut voir les dernières initiatives du milliardaire Musk : Trouver l’équivalent pour des ordinateurs numériques des trois lois de la robotique afin d’éviter tout risque pour l’humanité.

Si les trois lois d’Asimov ont été étudiées depuis des décennies ; elles sont inadaptables pour nos ordinateurs modernes. Elles ont été pensées pour des ordinateurs analogiques, où tout se décomposes en fonctions mathématiques plus ou moins continues. Les machines de Turing fragmentent toute information en « bits », des morceaux d’informations élémentaires qui se combinent entre eux.

Asimov définit aussi les notions d’androïde et de cyborg. Il définit aussi les limites et les intérêts relatifs et aussi les dangers de chaque création. La notion de coévolution technologique de l’être humain est posée.

Le cyber punk des années 90 fait apparaître la notion de réseau. L’intelligence artificielle n’est plus directement liée à un organisme artificiel mais à une sorte de « matrice ». Cette matrice est connectée à tous les centres de calcul, mais aussi aux intelligences humaines. On ne parle plus alors de destruction de l’humanité, mais aussi de perte de repère, voire d’asservissement de l’intelligence humaine. Le film le plus emblématique est « Matrix ».

Dans les années 1990, la série japonaise Patlabor « démontre » que le principal danger pour l’homme n’est pas le robot en tant que tel. Mais des pertes de contrôle du robot. Les robots sont des outils, mais s’ils tombent en panne, ils peuvent provoquer des catastrophes.

La série démontre que les interventions humaines qu’elles viennent des fabriquants, des autorités ou même de simples particuliers peuvent se révéler tout aussi catastrophiques si les robots sont impliqués. Le robot démultipliant les capacités humaines, ils montrent alors un potentiel de destruction incomparable. Malgré son âge, cette série est sans doute celle qui correspond le plus aux dangers actuels de la robotique industrielle, mais aussi militaire comparable à celle que l'on trouve de nos jours.

Les animes et la série « Ghost in the shell » fait une sorte de synthèse de toutes ces tendances. La série explore les améliorations artificielles humaines, mais aussi leur impact sur une société humaine. Les liens entre les diverses intelligences et les dangers que cela provoque sont alors explorés un par un. Mais c’est aussi la question de « l’humanité » des intelligences artificielles qui se pose aussi.

Enfin la dernière série « Galactica » est certainement la plus emblématique de toute : l’humanité est attaquée par des être artificiels qu’ils ont créé : les Cylons. Ces derniers ont évolués et sont capables de produire des unités capables de prendre la place des humains dans leur propre société. Capable même de se reproduire avec les humains !

Mais même si les Cylons détruisent la société humaine et qu’ils provoquent l’exode des survivants… le principal danger pour ces derniers… restent les humains. Pas les robots !

Ces exemples montrent que la peur du robot est déjà ancienne. Actuellement personne ne peut dire si elle est fondée ou pas. Comme toute activité ou création humaine (nucléaire, manipulation génétique…), la robotisation et l’intelligence humaine sont porteuses d’espoir, de risques et aussi de fantasmes. Mais ne pas tenir compte des risques pourrait faire des fantasmes les pires des réalités pour nous et nos descendants.