• Intelligence artificielle, simulation et conscience

    par Jean-Jacques VOLLMER

    7 janvier 2021

     

    Ce n'est pas la première fois que nous parlons d'intelligence artificielle au Café-Débat, ni de transhumanisme, ni de conscience. Pourtant, je dois réagir au dossier de « Sciences et Avenir-La Recherche » de décembre 2020 intitulé : « L'IA au service de l'intelligence humaine », et plus spécifiquement sur un point.

    Catherine Pelachaud, qui est Directrice de Recherche au Laboratoire ISIR (Institut des Systèmes Intelligents et de Robotique) affirme péremptoirement, comme beaucoup de scientifiques d'ailleurs et comme un nombre très élevé de personnes « ordinaires », que jamais un robot, aussi évolué soit-il, ne pourra éprouver d'émotions, ni être conscient comme le sont les êtres humains. D'après elle, tout cela n'est que « simulation », c'est à dire qu'on leur a appris à « faire comme si », même si leur comportement devient indiscernable de celui d'une « vraie » personne. Qu'on ne s'y trompe pas, je pense à peu près comme elle, même si je suis plus prudent, car on ne peut vraiment pas juger aujourd'hui de ce que sera la science et la philosophie de demain. Mais ce qui m'agace quelque peu, c'est qu'elle n'essaie pas la moindre justification de ce qui n'est qu'une opinion fondée uniquement sur son statut de scientifique, assimilé à une supposée rationalité universelle. Tout cela provient finalement de la croyance que l'Homme est plus qu'un simple assemblage fonctionnel de molécules, et plus encore, que l'Homme ne peut créer quelque chose qui le dépasse.

    Le deuxième point qui me fait réagir, sans polémique cette fois, c'est que je me demande bien quelle est la différence entre une vraie émotion et une émotion simulée, si personne ne peut distinguer l'une de l'autre. Si on se réfère à la personne humaine, on dit souvent que le « moi » objectif, la seule réalité, réside dans ce qui transparaît au travers de nos actions et qu'on peut observer, et non dans un espèce de « moi » virtuel qui constituerait notre personnalité profonde non exprimée. Pour revenir à des concepts plus philosophiques, c'est l'existence qui définit l'essence, et non le contraire. Transposé au domaine de la robotique, rien ne peut infirmer qu'un réseau de neurones numériques de grande taille constituant le « hardware », programmé par apprentissage comme le fait un enfant dès sa naissance, ne pourrait acquérir un semblant de conscience.

    Et dernier point justement, le problème de la conscience. Il faudrait y revenir en détail, car j'ai beau tourner et retourner ce concept dans ma tête, je n'arrive pas à le définir et je n'ai trouvé nulle part de définition claire ni convaincante. On en est toujours à la tautologie : « La conscience, c'est d'abord la conscience de soi » ou encore : « La conscience, c'est avoir la connaissance de ses pensées ». On tourne en rond, et ce n'est pas parce que les cherheurs ont trouvé paraît-il les zones du cerveau où se manifeste cette conscience qu'on est plus avancés. C'est pourquoi je me demande bien pourquoi un robot n'arriverait pas à être conscient, puisqu'on ne sait pas ce qu'est la conscience...

    http://discussions.eklablog.com/la-conscience-morale-a49295888

    http://quentin-philo.eklablog.com/la-technologie-va-t-elle-changer-la-nature-de-l-homme-a118981596

    http://quentin-philo.eklablog.com/qu-est-ce-que-la-conscience-morale-a47606485



     

    « La vaccinationTrump et le libéralisme »

  • Commentaires

    1
    Jeudi 7 Janvier à 23:07

    Je crois que l'Homme est capable en effet de produire un nouvel Homme assez différent de celui que nous sommes. Et c'est déjà arrivé: qu'y a-t-il de commun entre un homme du moyen âge et nous? Et même entre nos grand-parents et nous? En fait l'homme invente en permanence un Homme nouveau, psychiquement, et même physiquement. C'est même une de ses principales propriétés.  Depuis quelques décennies est apparue la possibilité de modifier nos génômes, de produire donc des Hommes nouveaux, pour le meilleur ou pour le pire!

    Mais cet Homme nouveau n'est pas à rechercher dans les tas de ferraille de ce qu'on appelle les robots. Et là, je suis bien d'accord avec cette enseignante qui t"agace. Je crois (et là je n'en ai pas la preuve, donc tu as peut-être raison) qu' en effet ces robots là ne sauront jamais faire que ce que leurs inventeurs ont programmé dans leur ordinateur de bord. Tout au plus l'ordinateur de bord pourra contenir un générateur de hasard, qui pourra simuler de temps en temps des évènements improbables, qui étonneront la galerie.

      • charlotte
        Dimanche 10 Janvier à 15:56

        Je réponds à la personne qui s'appelle Quentin, Quentin Philo.

        Bonjour Quentin ! Donc c'est arrivé : l'Homme a créé un Homme, différent de celui que nous sommes ! Qu'est-il devenu et où vit-il ? Tu nous poses la question : qu'y a t-il de commun entre un homme du Moyen-Âge et nous ? TOUT, mon cher Quentin, TOUT  ! Nous n'avons certes pas pas la même espérance vie, mais cela ne fait pas de nous des êtres différents : nous avons le coeur qui bat au même rythme que le sien, les cheveux qui poussent, comme les siens, sur le sommet de notre crâne, nous n'avons rien changé dans la manière de faire les bébés, nous avons juste trouvé des techniques plus agréables que les siennes pour ne pas en faire. Et puis c'est la même sensibilité que l'on retrouve chez les poètes d'antan et ceux d'aujourd'hui. Celui qui a dessiné les plans de Notre Dame avait la même puissance d'imagination et certainement plus de problèmes techniques à résoudre que Jean Nouvel lorsqu'il élabore les plans et construit le musée du Louvre au Qatar. Ils souffraient comme nous des mêmes chagrins et se réjouissaient des mêmes joies.

         Ce qui a changé ce sont les outils : l'Homme a toujours transformé les outils qu'il avait  créés, ainsi on est passé du silex à la lame, de la charrette à la berline, du haut de chausse au jean... Bon ! je vais un peu vite  mais je veux dire par là que nous ne sommes pas une espèce nouvelle, nous devons tout ce qu'il y a de bien et ce qu'il y a de moins bien aux générations qui nous ont précédés et celles qui nous suivront nous devront ce que nous sommes en train de leur laisser  et ce sera, peut-être (?), un homme en quincaillerie  qui dansera le rock'n roll sur une musique produite par une IA devant une galerie étonnée comme toi, Quentin, tu le prévois.

        On dit souvent qui vivra verra, ça se chante même . Mais qui de nous vivra encore d'ici-là ? Est-ce que ce seront des hommes, des femmes des enfants, cafouillés par quelque hurluberlu coiffé d'un entonnoir ? Ou de braves gens, comme nous et ceux du Moyen-Âge : nos descendants, donc avec des histoires à raconter, des rêves fous, des fantasmes plein la caboche pour que passe le temps de leur vie... 

        That's the question?  

         

         

         

         

      • Lundi 11 Janvier à 22:57

        Charlotte, Quentinphilo c'est Benoît !

        Je venais de pondre 15 lignes pour répondre à vous trois, mais j'ai appuyé sur un mauvais bouton et tout a disparu ! J'ai la flemme de recommencer, tant pis. Mais je suis d'accord avec toi plutôt qu'avec Benoît, l'homme d'aujourd'hui n'a rien de changé, il a simplement plus de confort, une meilleure santé, une connaissance approfondie du monde, mais rien sur son comportement de base, peut-être même aurait-il régressé moralement depuis le Moyen-Age.

        Et Pierre a raison : l'IA des tas de ferraille n'a rien a voir avec la conscience, la seule question que je posais était la suivante: un robot très évolué fabriqué par l'homme pourra t-il avoir un jour un brin de conscience comparable à la nôtre ? Benoît, tu réponds non sans dire ce qui justifie ce point de vue, c'est un a priori, une opinion si tu n'essaies pas d'argumenter

    2
    Pierre M.
    Vendredi 8 Janvier à 11:03

    C’est là un point de vue pertinent. Il faudrait l’approfondir.

    Pour ce faire il faudrait distinguer deux choses : la question de la conscience et celle de l’intelligence artificielle (IA). Sur le premier point, comme le rappelle Jean-Jacques, beaucoup a déjà été dit et écrit à l’occasion de nos débats. Sans doute serait-il opportun d’y revenir afin de compléter et de mettre en ordre tout cela. Le sujet est passionnant et les idées ont beaucoup évolué depuis le temps où l’on réservait cette faculté à l’être humain.

     

    Pour ce qui est de l’IA, nous sommes en plein fantasmes. Fantasmes entretenus par des « gourous », situés aux franges de la science, de la philosophie et de l’entreprise (Ray Kurzwell, Nick Bostrom, Elon Musk, Philippe Alexandre…) pour ne citer que quelques-uns des plus connus. Même un grand scientifique comme Stephen Hawking semblait convaincu des conséquences graves et irréversibles de l’avènement de l’IA. Et derrière ces personnages, des institutions disposant de moyens colossaux  et affublés de noms ronflants (Institut sur le Futur de l’humanité, Institut de recherche sur l’intelligence des machines, Université de la Singularité… et même Institut des Extropiens !). Les qualificatifs de post- et de trans-humanisme sont souvent liés à ces mouvements.

     

    Que faut-il en penser ? Le mieux est d’interroger un expert en la matière, en l’occurrence Jean-Gabriel Ganascia, président du Comité d’éthique du CNRS (COMETS), informaticien et philosophe, qui a un point de vue bien plus mesuré sur la question. Sans résumer ici son argumentation on peut en extraire quelques bribes : ceux qui professent de telles idées seraient des « pompiers pyromanes » qui allumeraient un feu avant de l’éteindre pour se donner le beau rôle. Cette idéologie serait fondée sur plusieurs éléments : la démesure, l’hubris, des patrons du web ; l’inquiétude ressentie devant le risque de perte de contrôle des manettes de la société contemporaine ; la stratégie de communication des industries de haute technologie ; la prise en main par de puissantes organisations de fonctions régaliennes jadis réservées aux Etats (biométrie, cadastre, monnaie : voir le bitcoin),…

    Lire Jean-Gabriel Ganascia, Le mythe de la singularité (Faut-il craindre l’intelligence artificielle ?), Seuil, février 2017.

    3
    Lundi 11 Janvier à 23:25

    Cette fois, je n'ai pas oublié de me connecter sous mon nom.

    C'est vrai, je suis incapable de donner la preuve de ce que je dis sur les tas de ferraille qui ne seront jamais des être humains. Je l'ai bien dit. Personne d'ailleurs ne peut le faire, ou démontrer le contraire. Simplement, ayant programmé des machines depuis60 ans, je ne vois pas du tout comment ces machnes pourraient échapper à ce que je leur fais faire.

    je pense contrairement à Charlotte et Jean-Jacques, que l'être humain a beaucoup changé depuis le moyen âge. Physiquement, l'être humain est beaucoup plus grand et beaucoup moins musclé. Il vit beaucoup plus longtemps. Dire qu'il est complètement différent, cela je n'ose le dire. car l'unité de temps pour les changements, c'est le millénaire. Psychiquement, l'Homme a fait de gros progrès, son intelligence s'est développée, notamment depuis la guerre. Quand je pense à l'enfant que j'étais, qui n'était pas encore admis comme une personne vraiment humaine, et que je compare à ce que je vois dans mon milieu, il y a vraiment une différence. Et cela va s'accélérer avec tout ce que les généticiens nous promettent, pour le meilleur comme pour le pire!

      • charlotte
        Vendredi 15 Janvier à 12:51

        Désolée, Benoît, mais c'est qui cet homme efflanqué pas musclé qui a remplacé tous les  trapus du Moyen-Âge et a colonisé la planète ??? Tu es déjà allé sur un terrain de rugby ? Tu sais, des p'tis gros, des grands maigres, il y en a eu partout et à toutes les époques (François 1er mesurait 1m98,  Jeanne d'Arc 1m65, Joseph Staline, lui,  était tout petit ) il y a toujours eu et partout de jolies filles,  des gens intelligents et d'autres beaucoup moins ! C'est ça l'Humanité Benoît, elle est faite d'hommes et de femmes plus ou moins bien finis :  la nature est injuste envers l'Homme dit JJ Rousseau. Mais Pierre a raison lorsqu'il dit que nous ne sommes ni plus forts, ni plus sages, ni plus intelligents que nos ancêtres ... et ça c'est vérifiable ! 

         

    4
    Pierre M.
    Mardi 12 Janvier à 11:45

    1. L’être humain a-t-il changé ?

    Il faut démontrer ou apporter des preuves de ce que l’on avance. Il est permis de croire qu’il n’a pas changé – génétiquement, physiologiquement, intellectuellement – sur une période aussi courte de 3 ou 4 millénaires, courte au regard du rythme d’évolution des espèces. Nous ne sommes ni plus sages, ni plus forts, ni plus intelligents que nos ancêtres. Einstein était-il plus génial qu’Aristote ou Léonard de Vinci ou Mozart ? D’autre part on a connu bon nombre de personnes centenaires avant le XXe siècle, Fontenelle par exemple.

    Ce qui a changé c’est que les conditions matérielles d’existence telles que l’alimentation et la santé se sont améliorées au point de permettre au potentiel génétique de l’être humain de s’exprimer pleinement et dans la durée (taille, longévité).

     

    2. Les tas de ferraille concurrenceront ils les êtres humains ?

    Pour l’instant du moins, on ne voit pas la possibilité que la quincaille, même douée d’une puissante mentaille, puisse concurrencer l’être humain. Ni même n’importe quel être vivant.  

    Car il y a une différence fondamentale entre ces deux mondes, le degré d’autonomie. Une machine, même la plus perfectionnée est hétéronome, c’est-à-dire que son fonctionnement lui est dicté par des règles qui lui sont extérieures. Alors que les êtres vivants sont autonomes, c’est-à-dire capables de fonctionner sans contrôle extérieur. Hans Jonas voit cette faculté dans le métabolisme qui définit ce qui vit, cette perpétuelle autoconstitution à partir d’éléments extérieurs. Là réside la liberté du vivant : liberté mais aussi mise en danger permanente.

     

    La différence est claire : j’ai passé moi-aussi l’essentiel de ma carrière à travailler avec des ordinateurs, et j’ai également enseigné. Dans les deux cas donc j’ai diffusé de l’information. La différence est flagrante : les ordinateurs ne perdent aucune parcelle de l’information qu’on y introduit et ne sortent rien d’autre qu’un produit élaboré à partir de celle-ci. D’où le danger encouru par les modélisateurs, en économétrie par exemple, de vouloir faire dire à leurs modèles autre chose que ce qu’ils avaient prévu d’y mettre. Un étudiant, même dans le meilleur des cas, ne retiendra qu’une infime partie de l’information qu’on lui transmet. Mais il est capable d’agréger, d’organiser, de supplémenter, d’imaginer, etc.  cette information : la science produite par Einstein n’est pas la somme de celle élaborée par ses prédécesseurs (Galilée, Planck, etc.).

    La question est maintenant de savoir si un jour une machine pourra devenir totalement autonome. On n’en sait rien, mais on en est bien loin quand on sait qu’un petit cerveau humain compte pas loin de 90 milliards de neurones, connectés par 10 000 milliards de synapses. Si l’on ajoute l’extrême miniaturisation de ce système et sa faible consommation d’énergie, force est de constater que les ordinateurs les plus puissants ne sont que des petits gadgets en comparaison.

    Et la conscience dans tout ça ? Emerge-t-elle à partir d’un certain niveau de complexité ? Qui peut savoir ?

    5
    charlotte
    Mardi 12 Janvier à 13:22

    Après avoir répondu à la question de Benoît alias Quentin, je vais tenter de répondre à celle de Jean-Jacques : un robot très évolué et fabriqué par l'Homme pourra-t-il avoir une conscience comparable à la nôtre ? 

    HEBE !!!

    Après avoir été,  selon la Genèse,  créé à l'image de Dieu, voici que l'Homme veut créer un dieu... à l'image de l'Homme puisqu'il aurait une conscience comparable à la nôtre. Je m'explique : depuis qu'il est arrivé sur terre, l'Homme, à force de recherche, de découvertes, de technicité de plus en plus performante, est devenu, d'ère en ère,  maître de la planète et aujourd'hui, une partie de l'Humanité  - je dis bien une partie seulement - vit dans le confort et la sécurité...

    MAIS TREMBLEZ BONNES GENS !

    Cette ère n'est plus. L'Homme a conscience qu'il est en train de perdre le contrôle sur tout ! La Terre souffre d'étouffement, le climat se déstabilise, incendies, tsunamis déciment des populations d'hommes et d'animaux. Et puis voilà qu'arrive en galopant à travers toute la Planète, un virus qui s'emballe comme un cheval fou et échappe aux virologues et chercheurs qui s'emploient, tête baissée sur leurs microscopes et fioles, à arrêter sa course. 

    Alors quoi de plus rassurant que d'imaginer un surhomme, un robot (donc contrôlé par l'Homme) capable de résoudre la problématique de la survie de l'Humanité.  

    Je vais poursuivre ma réflexion sur l'emplacement suivant car je crains de voir disparaître mon commentaire : c'est ce qui est arrivé à Jean-Jacques. A tout de suite, donc !  

    6
    charlotte
    Mardi 12 Janvier à 14:43

    ...

    Donc, si c'est bien de la survie de l'humanité qu'il s'agit et qu'on la confie à un tas de ferraille, celui-ci ne pourra rien faire d'autre que grincer de toutes ses articulations s'il n'est pas doté d'une intelligence et d'une conscience supérieures à celles de l'Homme.

    Mais qu'est-ce que la conscience ? Première définition : C'est ce qui permet à un être humain de se sentir exister, d'être présent à lui-même.  Deuxième définition : C'est l'organisation du psychisme qui  permet à l'Homme d'avoir connaissance de ses états de ses actes, de leur valeur morale. (J'ai tout copié !) 

    Donc, ce surhomme ou robot devra obligatoirement être  doté d'une conscience quasi magique pour qu'il puisse discerner ce qu'il y a de bon ou de mauvais pour l'Humanité. Sacré challenge pour les chercheurs ! 

    Mais avez-vous songé que si ce robot est enfin monté, huilé, prêt à l'emploie, il sera le seul à connaître la solution pour sauvegarder notre devenir, et donc il sera aussi le seul à détenir le pouvoir. C'est pas un p'tit peu agaçant, ça, pour des esprits aussi frondeurs que les nôtres ?  

    Heureusement que tout ceci n'est que fantasme ... Alors disons-nous que si l'Humanité doit disparaître, il est peut-être mieux qu'elle s'en aille de sa belle fin, sans laisser trop de bazar sur la Terre.  Elle, pourra peut-être se refaire une santé ! 

    Et bien Jean-Jacques, tu vois, j'ai réfléchi ...  mais pas vraiment répondu à ta question  !  

     

     

    7
    charlotte
    Mardi 12 Janvier à 19:24

    un robot prêt à l'emploi...

    8
    Vendredi 15 Janvier à 14:22

    eh bien Charlotte, je ne suis pas d'accord. Il y a toujours eu des spécimens de foire, comme François premeir. Mais je parle de la moyenne. Quand j'étais jeune, je ne trouvais pas à m'habiller autrement que sur mesure: les pantalons s'arrêtaient au dessus des chevilles, et les vestes au dessus des poignets. J'étais un "géant", alors que maintenant je suis "un peu grand, c'est tout" ; et je rencontre très souvent des hommes plus hauts que moi, et les Portugais ne sont plus des nabots! Ce n'est pas vrai pour les rugbymen, mais ces derniers sont soumis à une sélection de plus en plus drastiques. Et les trois-quart aile ont maintenant 2m et plus (Voir Lomu,neo-zélendais) contrairement à notre Gachassin national.

    Pour ce qui est de la longévité, elle a gagné un facteur 2 depuis 1900 'durée de vie moyenne à cette époque: 43 ans!, maintenen 83 ans. Cela fait une énorme différence: les vieux, les retraités n'existaient pratiquement pas avant la guerre de 14.

     

     

    9
    Sudaf
    Dimanche 17 Janvier à 12:05

     

    I will write in English as I cannot express myself at this level of French. Thank you for the interesting debate. I particularly appreciate the rationale and pragmatism in Charlotte’s comments, enhanced by this great touch of humor.

     

    I agree that the definition of consciousness is not fully understood yet and has always been one of the most interesting philosophical questions. This unclarity leaves a lot open to whether an AI will ever be able to be conscious. Most agree that consciousness resides predominantly in the mind. Perhaps an example can help to describe why it might be nearly impossible to create an AI which can be like a human. If a person would win a 1 Million Euros, the reaction and emotion arising from this would be associated with many emotional and physiological components: Hormones, visual imagery, inner speech as well as increased physical activities such as breathing and heartrate. Even cultural differences and the current situation will also influence the response.

     

    Consciousness means “Together-to know” or “Knowing with oneself” (Depending on the interpretation of the etymology). People develop understanding, emotions and empathy for others and have an own opinion or internal feeling from what we do. When we call a hotline, do we think that the AI with its synthesized voice, which tells us to continue to wait in the customer service hell, will ever feel genuinely guilty?

     

    Still we dare to dream which is certainly one thing a robot will never do…..

     

    10
    Pierre M.
    Mardi 19 Janvier à 18:25

    It is very pleasant to see that our discussions have impacts beyond the limits of the Francophonie.

    A big thank you to Sudaf for its very argued and relevant message. Thank you also for our friend Charlotte to whom he pays a fair tribute.

     

    Just one remark about this final sentence.

    « Still we dare to dream which is certainly one thing a robot will never do… »

    The dream is not the specificity of human beings. My dog was dreaming too.

    What if consciousness and dreams were emergent properties of the organization of matter ? Who knows if one day a very sophisticated robot will not reach this level of consciousness.

    There is a French proverb that says «  il ne faut jamais dire jamais » (you should never say never).

    • Nom / Pseudo :

      E-mail (facultatif) :

      Site Web (facultatif) :

      Commentaire :


    11
    charlotte
    Mardi 19 Janvier à 20:16

    As cou can see, dear Sudaf, our club is ofen to averyone. Your visit to our blog was a jolly good surprise. 

    Kom zurûch wenn du willst . 

    Graze mille. 

    12
    charlotte
    Mercredi 20 Janvier à 16:26

    Sorry ! I'm a poor old lady and yesterday I could'nt find my glasses. So I sent you a  silly message. I just wanted to say thank you for yours . Our club is "open"  to everyone . 

    Bye-bye, Sudaf ! 

     

     

    Suivre le flux RSS des commentaires


    Ajouter un commentaire

    Nom / Pseudo :

    E-mail (facultatif) :

    Site Web (facultatif) :

    Commentaire :