Tisserand de la compréhension du devenir
Conférencier, expert et auteur

La morale, les robots et l'IA

Les faux problèmes que la religion des "Intelligences Artificielles" voudrait imposer…

Philosophiquement, la simulation de quelque chose n'est pas ce quelque chose ; la représentation de quelque chose, n'est pas ce quelque chose. La question éthique vis-à-vis des systèmes artificiels ne se pose pas.

Un robot ou un système d'Intelligence Amplifiée peuvent-ils être considérés comme des "personnes" autonomes et conscientes devant avoir des droits semblables aux droits de l'homme ?

Cette question que l'on pourrait se poser face à des robots ou à des systèmes d'Intelligence Amplifiée n'a vraiment rien à voir, comme parfois suggéré, avec la controverse de Valladolid où l’Église catholique s'interrogeait sur l'humanité des "indiens" et des "nègres". Ceux-ci ne sont pas des artefacts. La question n'était pas, alors : "Existent-ils réellement en tant qu'être ?", mais bien : "En tant qu'êtres qui existent, sont-ils des humains à part entière (avec un âme venue de Dieu et donc partie prenante de la rédemption christique) ou sont-ils des animaux "inférieurs" ?" … et là, la question : "qu'est-ce qu'un humain ?" peut avoir un sens, du moins d'un point de vue non biologique (en effet, on peut faire une différence entre un "humain" au sens moral, intellectuel ou social, et un "homo sapiens" au sens biologique strict … Hitler fut un "homo sapiens", mais fut-il un "humain" ?).

Les questions sont : quelle est la différence ontologique entre un humain et une machine ? quelle est la différence phénoménologique entre une personne humaine et un personnage artificiel ?

Du point de vue ontologique …

Parce qu'elle est précisément purement mécanique, une machine est strictement déterministe alors que, tout aussi précisément, rien dans le Réel complexe n'est strictement déterministe. Une machine n'a donc ni choix, ni liberté, ni conscience, ni volonté, ni désir, ni rêve, … Elle n'est qu'une … machine. Aucune question morale ne s'y rattache (en revanche, elle pose des problème de droit : suite à des bugs dans ses programmes, un robot se met à détruire des choses ou des vies : qui est pénalement responsable ?).

Alan Turing avait imaginé un test pour différencier un "humain" d'un "robot" : il s'agissait en fait d'un test pour évaluer l'indécidabilité de cette différenciabilité.

La vraie question derrière ce test n'est pas : "existe-t-il une différence entre l'humain et la machine ?", mais bien : jusqu'à quel point un artefact simulateur (conçu, inventé et programmé par une intelligence humaine) peut-il faire illusion ? Car il s'agit bien d'illusion (représentation, simulation), pas de réalité.

Du point de vue phénoménologique …

Prenons un exemple. Des systèmes experts son capables de générer un personnage artificiel, hologrammique et hyperréaliste, très semblable à un humain … qui n'existe pas - mais qui est l'amalgame de millions de visages ou de silhouettes ou de gesticulations réels.

Ce personnage créé et virtuel n'est pas une personne … mais une représentation fort bien faite qui est un amalgame artificiel de millions de personnes et qui fait illusion.

Un tel personnage pourra devenir vedette de cinéma ou top-modèle (et coûtera nettement moins cher et sera plus parfait que les humains qui exercent ces métiers ridicules).

Vis-à-vis d'un tel personnage artificiel, quelque hyperréaliste soit-il, la question morale ne se pose pas plus que pour cet Hercule Poirot dont Agatha Christie décida la mort dans un de ses romans (ou était-ce le Sherlock Holmes de Conan Doyle ?). En revanche, la question juridique des copyrights se pose éminemment : à qui appartient le personnage en question ?

Il ne faut jamais confondre morale et droit.

En ce qui concerne les machine artificielles ou les personnages artificiels, c'est le mot "artificiel" qui est essentiel et qui s'oppose à "réel".

Du point de vue philosophique …

Là me semble être la seule vraie question : celle de la frontière entre le Réel qui existe indépendamment de sa perception par un esprit humain, et ces objets artificiels qui n'existent que dans et par la représentation psychique que s'en fait cet esprit humain.

Cette question a été au cœur de la philosophie européenne du 20ème siècle : l'opposition entre ontologie (réalisme ou philosophie de l'étant) et phénoménologie (subjectivisme ou philosophie du sujet). Depuis Descartes ("Je pense donc je suis") et, surtout, Kant ("Critique de la raison pure") jusqu'à Husserl et ses disciples (Levinas, Heidegger, Merleau-Ponty, …), la pensée européenne s'est enfermée dans une philosophie du sujet (aux exceptions remarquables près des penseurs romantiques allemands, de Nietzsche ou de Teilhard de Chardin). Ce subjectivisme philosophique a été poussée jusqu'à la démesure, aux USA comme toujours, avec la "philosophie analytique" dérivée de Russell.

Aujourd'hui, je pense que ce débat est clos et qu'il est admis que l'homme n'est ni le centre, ni l'arbitre, ni le juge du Réel qui dépasse infiniment l'humain insignifiant. Avec la modernité, se clôt aussi le subjectivisme et les angoisses existentialistes et phénoménologiques.

Seul le Réel existe et l'humain fait partie intégrante de ce Réel. Seul le Réel importe et les phantasmes, délires, illusions ou artifices de l'humain y sont insignifiants.

Marc HALEVY, 10/2/2019