La conscience, le propre de l’homme … et du robot ???

Les robots tueurs, les IA qui tentent de prendre le pouvoir sur les humains sont devenues des piliers de la culture populaire. Initié dans le fameux « Métropolis » de 1936, C’est le film « Terminator » qui va devenir la référence en la matière.

Actuellement, les robots et les IA suivent des instructions codées, (ou apprises à partir d’une base de données validée par des humains) pour effectuer des tâches. Si les robots peuvent être impliqués dans des accidents mortels, c’est à cause de dysfonctionnement divers ou d’erreurs humaines. Les armes automatisées ou télécommandés suivent des décisions humaines et ne me semblent pas (encore?) plus dangereuses que d’autres. Ce sont ceux qui les activent qui me terrifient.

Pour moi, il ne peut y avoir de rebellion des robots tant que ceux ci n’ont pas conscience de leur propre existence et de celle du monde qui les entoure. Cette conscience est jusqu’à présente l’apanage du vivant.

Toutefois, ce point pourrait être remis en cause. Pour la première fois, on a réussi à apprendre à un robot (ici, un bras articulé ) à avoir une vision de lui même lorsqu’il exécute un mouvement. Ainsi, le programme de contrôle du robots peut décider, sans avoir besoins de données ou d’ordre extérieur comment se mouvoir dans l’espace dans lequel il se trouve. On simule ainsi un être vivant qui va décider d’une action en fonction de ses capacités propres et selon les contraintes extérieures qui s’impose à lui. Si on est loin de la conscience de soi et du monde environnant, cette expérience en est la base et semble remettre en cause de nombreux faits acquis. Bien conscient des objections qu’une telle expérience peut soulever, les savants avancent la notion d’"auto-modélisation". On peut nommer une mine de toute les façons que l’on veut, lorsqu’elle vous explose à la figure… vous êtes mort. Sans aller jusqu’à de telles extrémités, cette expérience, en l’absence de toute discussion éthique, me semble irresponsable par principe. Chose amusante, les scientifiques qui ont réussi cette expérience espère que cette « auto-modélisation », va permettre au robot de définir ses propres limitations, mais aussi ses problèmes techniques. Or dans la conscience de soi, la notion de douleur et de contrainte est primordiale… C’est ce point qui n’est pas que sémantique qui pose des questions.

Pour ceux qui souhaitent s’informer, l’article est paru dans Science Robotics