Published On : 11 octobre 2012 |Last Updated : 14 octobre 2016 |842 words|3,5 min read|0 Commentaire|

Je lisais voici quelques mois un article consacré à la cybernétique, publié dans la revue L’essentiel de la Science (qui par ailleurs, n’est pas un modèle de qualité éditoriale), et qui accordait une longue interview à Philippe BIDAUD, directeur de l’Institut des Systèmes Intelligents et de Robotique (ISIR).

#La cybernétique en 2012 

Cet article dresse d’abord un bilan des avancées en matière de robotique, avec notamment le développement de robots humanoïdes très perfectionnés, capables d’interagir avec leur environnement tout en conservant un équilibre relatif, dotés de facultés de préhension, d’expression et d’analyse multisensorielle de leur environnement.

Tout ceci passe bien évidemment par l’usage d’une armée de capteurs (altitude, accélération, caméras, etc.) et fait appel à de nombreuses compétences (mécanique, automatique, génie logiciel, électronique, mais également biologie et psychologie puisque le fonctionnement cognitif et mécanique des animaux est « simplement » copiés par les robots).

L’article reste malheureusement assez vague, vulgarisation oblige, mais une des questions de la journaliste à tout de même retenu mon attention. Elle porte sur la question éthique du robot, à la lumière de l’usage des drones pour l’assassinat de chefs Talibans.

La réponse de M.BIDAUD est à peine plus longue que la question : il déclare que ces problèmes « ont été bien identifiés » , « commencent à être abordés dans la communauté » et que « de trop nombreux exemples doivent nous rendre inquiets ».

Soit. Mais encore ?

Rien d’autre. Sujet suivant.

#Et la question de l’éthique ?

En réalité, je trouve navrant que la question la plus épineuse, donc la plus intéressante en soit restée là. Car elle nous ramène à une question qui me taraude depuis longtemps et à laquelle je n’ai toujours pas trouvé de réponse :

« Quelle est la responsabilité du scientifique vis à vis de son travail et de l’usage qui en est fait ? »

Je vois d’ici les esprits fâcheux rétorquer que ceux qui crééent la connaissance ne peuvent prévoir comment d’autres la détourneront. C’est vrai. Mais c’est aussi trop facile. Parce que justement, on commence à avoir un peu de recul.

On peut d’abord penser à la bombe atomique. Considérer le potentiel destructeur de la maîtrise de l’atome n’avait rien d’évident, avant le début du projet Manhattan. L’expérience a montré que l’écart entre la recherche fondamentale et son implémentation technologique, en particulier à des fins militaires, demande désormais moins de 30 ans. Un gros tiers de vie humaine…

Dans le cas de la robotique, le problème est exactement le même : on a d’un côté l’aspect civil et politiquement correct (opérations en milieu dangereux, mission spatiales, opérations chirurgicales, aide à la personne), et de l’autre les applications militaires, certes controversées, mais néanmoins largement subventionnées (ou comment donner la mort à distance sans prendre le moindre risque humain).

Faut-il alors arrêter les recherches ? Cela paraît impossible, pour deux raisons : d’abord, ce que nous ne trouverons pas, d’autres le trouverons à notre place, ensuite parce qu’il se trouvera toujours des militaires pour financer ces recherches. De plus, leur bénéfice est indiscutable dans le domaine civil.

Faut-il donc réglementer leurs applications ? La tâche paraît ardue, quand on pense que la Convention de Genêve n’est pas systématiquement respectée depuis 1864, même par la France. Coucher des bonnes volontés sur le papier n’empêchera jamais les hommes de se massacrer, avec la bénédiction des industriels voire des chefs religieux.

#Même dans le civil

Sans aller jusqu’aux applications militaires, rien que dans le domaine « acceptable », on peut encore se demander s’il est inoffensif de vouloir à tout prix modéliser dans un appareil le comportement humain, et le recréer ex-vivo. Quel serait l’impact d’un « faux humain » dans l’environnement des humains en chair et en os ? Les petites amies électroniques commencent à être développées par Sega, un homme pourra-t-il un jour tomber amoureux d’un robot ? Quel en serait l’impact sur son psychisme ?

Recréer un humain bionique finit par poser la question de l’homme lui-même. Qu’est-il ? Quelle sera sa place dans une société qu’il devra partager avec des hommes électroniques ?

On annonce dans quelques années les premiers robots dotés de fonctions d’apprentissage, c’est à dire capables d’adapter leurs fonctionnalités de traitement en réaction à leur environnement. L’émotion et le sentiment ne sont plus très loin, et les films de science-fiction du genre deviennent des futurs possibles.

Alors, oui, la question n’est pas tranchée, oui elle est très complexe. Mais que les scientifiques ne prétendent pas aujourd’hui découvrir ces réalités dérangeantes, ou même les éluder d’un revers de main en prétendant qu’il faut s’inquiéter.

Une chose est sûre, cependant : l’humanité n’apprendra jamais de ses erreurs. Elle est condamnée à rester une horde d’adolescents qui découvrent l’ivresse, cherchant combien de verres ils pourront avaler avant de rouler sous la table.