4ème Edition des Rencontres de France Audacieuse
Thème : Intelligence Artificielle et Ethique
avec le Professeur Christian Hervé et le Docteur Philippe Charlier
Compte-rendu par Nathalie Kaleski,
Secrétaire Générale de France Audacieuse
Invités :
Christian Hervé, Professeur d’éthique médicale et de médecine légale à la faculté de médecine Paris Descartes et Président de la société française et francophone d’éthique ; il a créé avec le Professeur Jean Bernard, le premier laboratoire d’éthique en 1992 ;
Philippe Charlier, Médecin légiste, anthropologue, Maître de conférences, praticien hospitalier .
Modérateur :
Jacques Hassin, Médecin des hôpitaux au Centre d’accueil et de soins hospitaliers de Nanterre, Directeur de l’Institut universitaire de la précarité et de l’exclusion sociale, et contributeur actif de France Audacieuse, pôle sociétal.
Alexia Germont, Présidente de France Audacieuse, ouvre la Rencontre du 5 avril 2018 en présentant les intervenants. Après un premier cycle de conférences économiques avec une vision humaniste, autour de Corinne Lepage, Philippe Tibi puis Bertrand Badré, France Audacieuse aborde un thème plus sociétal, un sujet majeur de transformation de notre société : l’intelligence artificielle et l’éthique. Elle évoque le rapport remis par Cédric Villani et son contenu avec 7 axes de travail au sein desquels l’axe de l’éthique et de la diversité. Depuis, trois pôles ont été retenus: la recherche, les données et l’éthique. Et dans cette Rencontre, France Audacieuse souhaite comme à son habitude sortir du cadre et aborder le sujet de l’intelligence artificielle non par le prisme de l’économie mais par celui de l’éthique.
Poursuivant sur ce point, Jacques Hassin ajoute que cette réunion sur l’intelligence artificielle s’inscrit dans le cadre des travaux de révision des lois de bioéthique, sur lesquels on peut faire deux remarques :
- c’est la première fois que la révision bioéthique touche des champs aussi larges et non médicaux comme l’intelligence artificielle,
- une forte mobilisation citoyenne s’est manifestée dans le cadre de ces travaux de révision des lois de la bioéthique.
De nombreuses questions sont soulevées : l’intelligence artificielle, dans sa finalité comme dans son développement, l’éthique et la rentabilité financière font-elles bon ménage ? Quels sont les enjeux de l’intelligence artificielle ? Pour y répondre France Audacieuse et les invités de cette soirée vont explorer le temps présent, le temps passé et le temps futur.
Sur le temps présent
Le Professeur Hervé indique que le rapport Villani a souhaité préciser la place de l’éthique dans le débat sur l’intelligence artificielle et souligné qu’il était important de mettre de l’éthique dans les données numériques, de faire un véritable suivi éthique des innovations avec la constitution d’une instance sur le modèle du comité de bioéthique. Ces deux instances pourraient d’ailleurs travailler ensemble avec des membres en commun pour se pencher sur les questions telles que le transhumanisme, le bio-hacking.
Il observe que lorsqu’on se pose une question difficile, on a tendance à vouloir créer une commission pour la traiter, comme on l’a fait pour le comité bioéthique, alors que bien peu d’étudiants en médecine connaissent les avis du comité d’éthique.
Or la réflexion éthique est le lieu des conflits. Il faudra donc que ce nouveau comité soit capable d’induire des travaux de recherche sur les enjeux éthiques de ces innovations, que des réflexions soient menées en mêlant sciences humaines et sociales, afin d’évaluer leur impact sur la société. Il faut absolument avoir un rapport avec la recherche pour évaluer ce qu’on fait.
Aujourd’hui on n’a plus les mêmes comportements ni les mêmes outils qu’en 1982. C’est pourquoi on peut critiquer le philosophe Hans Jonas et « son euristique de la peur » qui pose comme règle que le chercheur qui n’est pas capable de prouver à l’avance que ses recherches n’ont pas de conséquences délétères sur les hommes et ses descendants, ne doit pas les poursuivre ni même les commencer ; or le chercheur par définition ne sait jamais où il va. C’est pourquoi la recherche ne peut se satisfaire de ce que les philosophes peuvent dire et au contraire, doit évaluer en quoi telle ou telle technologie a changé ou pas les comportements et les valeurs.
Ce comité devra avoir les moyens et les ressources de répondre à ces problématiques qui surgissent.
Le Professeur Hervé ne souhaite pas non plus qu’on laisse la parole au seul expert, c’est au citoyen également de répondre à ces questions. C’est pourquoi le rapport Villani met l’accent sur l’ouverture de la société sur l’intelligence artificielle.
Or cela soulève deux types de réflexions et questions :
- Le numérique, ce sont des données de masse qui doivent circuler et pour cela les médecins et leur déontologie sur le secret médical doivent s’adapter.
- Notre corps est le plus grand réservoir de données, c’est un tout et aussi des parties qui sont hors du commerce. Or le grand marché de demain est la biotechnologie.
Sur le temps passé
Jacques Hassin présente ensuite le Docteur Philippe Charlier, spécialisé notamment dans l’anthropologie médicale, et l’interroge sur ce qu’est l’intelligence et comment l’humanité est devenue intelligente. Le Docteur Charlier y répond avec un double regard, celui de la médecine légale et celui de l’anthropologie, en précisant ce qu’est être intelligent et comment les morts peuvent être utiles aux vivants.
Dans le cas de l’intelligence, ce n’est pas le volume du cerveau qui compte c’est la façon dont on s’en sert : celui de Homo Sapiens (Cro-Magnon) a un volume moindre que celui de Néanderthal. L’un est-il plus intelligent que l’autre ? La réponse est loin d’être claire ; il s’agit de deux humanités différentes. En fait l’intelligence, c’est résoudre un problème avec succès. Or il y a une grande relativité de la notion d’intelligence : on serait aujourd’hui incapable de se servir d’un biface – outil taillé il y a 230 000 ans- et de retrouver la bonne gestuelle, car on a perdu l’intelligence de celle-ci ; on en a développé une autre, moins naturelle : on sait se servir d’un smartphone ! Et même maintenant, l’évolution continue ; on est en train de sur-développer le pouce avec l’utilisation du smartphone : l’anatomie change et on opère aujourd’hui de plus en plus d’arthrose du pouce.
L’évolution du cerveau n’a pas été linéaire ; elle s’est faite par paliers. On en est passé de la quadrupédie à la bipédie avec à chaque fois des modifications du cerveau : debout, on voit plus loin, donc on voit mieux les obstacles, les dangers et les proies. Autre révolution : la domestication du feu qui permet à l’aliment d’être assimilé plus vite. La cuisson a été révolutionnaire sur l’intelligence humaine. On a eu moins à mastiquer ce qui a libéré du temps de bouche pour la parole. Or la parole a un impact sur la plasticité cérébrale. Les zones liées aux activités cognitives et de défense se sont développées, celles liées aux zones sensorielles se sont atrophiées.
Qu’est-ce que donc que l’intelligence ? La vitesse et le succès dans la résolution d’un problème. Ni l’activité artistique, ni la pensée métaphysique ne sont le propre de l’Homme, c’est la violence gratuite qui le caractérise : avoir le plaisir de faire le mal est une forme d’intelligence.
L’Homme n’est pas un être physique au-dessus des autres êtres physiques sur Terre, c’est par son cortex qu’il a pu dépasser les difficultés.
Après ce tableau historique de l’évolution de l’Homme, Philippe Charlier évoque ensuite les théories de l’intelligence.
- la théorie du gène égoïste : l’intelligence ne serait qu’un moyen pour transmettre un patrimoine génétique ; tout est alors permis y compris la violence,
- la théorie de l’inutilité vitale de l’intelligence : la nature s’en moque, les humains qui ont survécu ne sont pas les plus intelligents, mais les plus chanceux,
- la théorie de l’espèce tyrannique : à partir du néolithique l’Homme se sédentarise et devient une espèce tyrannique. C’est le début du travail. C’est le début de la propriété individuelle avec la soumission pour les uns et la domination pour les autres,
- La théorie enfin de l’intelligence de l’Homme adapté à la nature ; un Homme de l’âge du Bronze en Grèce pourrait parfaitement vivre dans un Paris qui connaîtrait une panne d’électricité et d’Internet.
Il décrit ensuite ses observations et analyses sur les cerveaux et les crânes de génies comme Descartes ou Einstein ou de personnages historiques comme Henri IV. A partir de scanners on a reconstitué en 3D le cerveau virtuel de Descartes. On n’a pas les circuits neuronaux du philosophe mais on sait comment fonctionnait son cerveau en se fondant sur ses œuvres. Et on a pu observer qu’une zone particulière, notamment pour la composition musicale, était plus développée, or Descartes était un très bon musicien.
Il y a aussi le cas de l’utilisation à des fins politiques de certains cerveaux de personnages historiques : les Soviétiques avaient créé un musée pour les grandes gloires nationales russe et soviétique considérées comme des génies ; ainsi a-t-on les cerveaux de Mendeleïev et de Korsakoff, mais il y eu également celui de Lénine qui était pourtant en mauvais état et n’avait jamais été celui d’un génie.
Par l’observation scientifique (analyse anatomique post-mortem), on voit qu’on est très loin du cas du cerveau d’Einstein, réel génie malgré une anomalie anatomique : 20 cm2 de cortex en moins ce qui est énorme ; or Einstein a été meilleur que les autres parce qu’il a plus que compensé ce manque: c’est une vraie leçon algorithmique. Toute anomalie peut être une source d’amélioration du système ; loin d’être une faille c’est une chance qui peut améliorer; tout problème est ainsi une occasion d’améliorer les compétences de la machine.
Il conclut en soulignant que l’analyse scientifique des cerveaux et des crânes, qui n’a rien à voir avec la phrénologie, permet ainsi de voir en quoi les morts, génies ou anonymes, peuvent aider à améliorer les techniques de l’intelligence artificielle au service des vivants.
Sur le temps du futur
Jacques Hassin redonne la parole au Professeur Christian Hervé et lui demande comment et si l’on passera de l’homme réparé à l’homme augmenté avec le trans-humanisme, ou si on pourra au contraire arrêter ce qui est techniquement possible comme on l’a fait avec la génétique pour le clonage humain. Est-ce que tout ce qui est possible techniquement et scientifiquement, doit être mis en place ? Est-ce que l’éthique peut canaliser le trans-humanisme ?
Christian Hervé précise qu’on n’est pas loin de ce qui vient de nous être présenté par Philippe Charlier : il faut penser en termes de paradigme différents ; il y a une véritable rupture entre ce que nous étions capables de penser et la manière dont nous allons devoir penser. Ainsi au niveau anthropologique, deux grandes visions s’opposent ; selon la première, l’homme s’est dressé et son cerveau s’est alors développé. Selon la deuxième – celle de Leroy-Gourand – c’est le silex qui a permis au cerveau de se développer. On doit donc se mettre dans cet autre monde dans lequel tout peut être possible, le bien comme le mal. C’est l’outil qui a transformé l’Homme et c’est grâce à l’outil qu’il est devenu intelligent. Si l’on reste dans cette logique, l’intelligence artificielle avec ses produits et techniques va donc modifier l’humanité. Une première question se pose : est-ce qu’on accepte d’être changé ? Nous sommes en fait tous face à une évolution dont les hommes seraient fous d’avoir peur mais ils doivent cependant être vigilants sur ses dérives éventuelles.
Il y a une deuxième rupture : c’est la médecine. L’association des trans-humanistes européens considère que la médecine a toujours voulu améliorer l’humanité. Or la médecine répare ; elle n’augmente pas. Ce n’est pas la médecine qui a permis la longévité que nous avons maintenant, mais plutôt l’alimentation, l’environnement et même la démocratie. Et l’on peut déjà se demander à quoi cela sert d’avoir plus de vieux dans une société où seule compte l’action et qui les exclut parce qu’ils sont inactifs.
On est donc dans une rupture car on ne cherche pas à compenser les faiblesses ou les handicaps mais à augmenter les facultés : on n’est plus alors dans la médecine mais dans un autre paradigme que les sociologues nomment l’Anthropotechnie ou encore le Meliorisme.
Nous vivons dans l’illusion et dans la peur de l’intelligence artificielle et des trans-humanismes qui vont se développer. Nous sommes agités de réflexion qui soit suscitent la peur, soit la réassurance. Or avec l’évolution des techniques, nous ne pouvons plus refuser ce trans-humanisme ou post-humanisme qui va arriver. Mais il est important d’avoir un processus de contrôle. Le discours des généticiens est lui-même dans une situation de recul, dans le malaise par rapport au trans-humanisme : la médecine a toujours été là pour pallier et réparer, donner des capacités supplémentaires mais de quelles capacités parle-t-on ? Cela revient à questionner ce qui fonde notre société, donc plutôt que d’avoir peur du trans-humanisme il faut en discuter.
Après quelques questions de la salle, la soirée est clôturée par Alexia Germont qui annonce le sujet de la prochaine Rencontre, co-organisée avec la Société d’Encouragement pour l’Industrie Nationale et l’Académie de l’Intelligence Economique, qui se tiendra dans le même lieu, le 14 mai 2018, autour du thème « La France et l’Europe face à l’imperium juridique américain», avec la participation de Paul-Albert Iweins, Hervé Juvin, Pierre Lellouche, Jean-Michel Quatrepoint et Claude Revel.
Nathalie Kaleski
Secrétaire Générale de France Audacieuse
