Intelligence artificielle, simulation et conscience

par Jean-Jacques VOLLMER

7 janvier 2021

Ce n'est pas la première fois que nous parlons d'intelligence artificielle au Café-Débat, ni de transhumanisme, ni de conscience. Pourtant, je dois réagir au dossier de « Sciences et Avenir-La Recherche » de décembre 2020 intitulé : « L'IA au service de l'intelligence humaine », et plus spécifiquement sur un point.

Catherine Pelachaud, qui est Directrice de Recherche au Laboratoire ISIR (Institut des Systèmes Intelligents et de Robotique) affirme péremptoirement, comme beaucoup de scientifiques d'ailleurs et comme un nombre très élevé de personnes « ordinaires », que jamais un robot, aussi évolué soit-il, ne pourra éprouver d'émotions, ni être conscient comme le sont les êtres humains. D'après elle, tout cela n'est que « simulation », c'est à dire qu'on leur a appris à « faire comme si », même si leur comportement devient indiscernable de celui d'une « vraie » personne. Qu'on ne s'y trompe pas, je pense à peu près comme elle, même si je suis plus prudent, car on ne peut vraiment pas juger aujourd'hui de ce que sera la science et la philosophie de demain. Mais ce qui m'agace quelque peu, c'est qu'elle n'essaie pas la moindre justification de ce qui n'est qu'une opinion fondée uniquement sur son statut de scientifique, assimilé à une supposée rationalité universelle. Tout cela provient finalement de la croyance que l'Homme est plus qu'un simple assemblage fonctionnel de molécules, et plus encore, que l'Homme ne peut créer quelque chose qui le dépasse.

Le deuxième point qui me fait réagir, sans polémique cette fois, c'est que je me demande bien quelle est la différence entre une vraie émotion et une émotion simulée, si personne ne peut distinguer l'une de l'autre. Si on se réfère à la personne humaine, on dit souvent que le « moi » objectif, la seule réalité, réside dans ce qui transparaît au travers de nos actions et qu'on peut observer, et non dans un espèce de « moi » virtuel qui constituerait notre personnalité profonde non exprimée. Pour revenir à des concepts plus philosophiques, c'est l'existence qui définit l'essence, et non le contraire. Transposé au domaine de la robotique, rien ne peut infirmer qu'un réseau de neurones numériques de grande taille constituant le « hardware », programmé par apprentissage comme le fait un enfant dès sa naissance, ne pourrait acquérir un semblant de conscience.

Et dernier point justement, le problème de la conscience. Il faudrait y revenir en détail, car j'ai beau tourner et retourner ce concept dans ma tête, je n'arrive pas à le définir et je n'ai trouvé nulle part de définition claire ni convaincante. On en est toujours à la tautologie : « La conscience, c'est d'abord la conscience de soi » ou encore : « La conscience, c'est avoir la connaissance de ses pensées ». On tourne en rond, et ce n'est pas parce que les cherheurs ont trouvé paraît-il les zones du cerveau où se manifeste cette conscience qu'on est plus avancés. C'est pourquoi je me demande bien pourquoi un robot n'arriverait pas à être conscient, puisqu'on ne sait pas ce qu'est la conscience...

http://discussions.eklablog.com/la-conscience-morale-a49295888

http://quentin-philo.eklablog.com/la-technologie-va-t-elle-changer-la-nature-de-l-homme-a118981596

http://quentin-philo.eklablog.com/qu-est-ce-que-la-conscience-morale-a47606485