Soirée des grands débats de l'éthique du 2 décembre 2019

Actualité de la plateforme Digital Ethics

Dans le cadre du module de Formation Humaine intitulé Les grands débats de l'éthique, les étudiants ont réfléchi et débattu sur des sujets autour de l'intelligence artificielle durant tout un semestre afin de préparer des saynètes pour le grand public et débattre avec eux sur leur sujet lors d'un évènement à l'UCLy qui s'est tenu le 2 décembre 2019. Voici les résumés de chaque débat portant sur un sujet spécifique ainsi que les synthèses reprises des étudiants.

Les débats menés lors de cette soirée portaient sur les thématiques suivantes :

  • L'automatisation du travail
  • Dire et réguler l'IA
  • Les émotions artificielles
  • La gouvernance algorithmique
  • Intelligence artificielle en santé
  • Les technologies de la persuasion
  • La smart city
  • L'augmentation humaine : le transhumanisme

L'automatisation du travail

Paper board débat automatisation du travail

Le travail est un élément majeur dans la vie de l’homme. Le fait d’accomplir un travail qui nous plait participe à notre bon développement personnel et à l’accomplissement de soi, d’autant plus si le métier en question est une passion. Mais alors, l’automatisation du travail par l’intelligence artificielle est-elle contraire à l’épanouissement personnel au travail ? Les avis sont divergents.

En effet, l’automatisation du travail peut être vue comme « déshumanisante » car un tel phénomène entraînerait par conséquent une perte du lien social. Ce qui nous amène à une autre question : est-il pertinent de tout automatiser/informatiser ? Par exemple, il est plus intéressant pour nous de voir le produit devant nos yeux et de pouvoir le manipuler dans une boutique plutôt que de se faire une idée sur internet et d’être déçus au moment de la réception.

C’est pourquoi, il devrait pouvoir subsister des commerçants. Néanmoins, l’automatisation du travail est un fait de société avec lequel il faut composer et celui-ci regorge d’avantages pour l’homme. Par exemple, un robot peut remplacer un homme dans ses tâches répétitives, mais pour savoir s’il s’agit d’un avantage, il conviendrait de se poser la question suivante : un travail avec des tâches répétitives est-il un travail qui permet l’épanouissement de soi ? Cela permettrait également aux hommes de gagner du temps, d’éviter la surcharge de travail, ou d’être remplacé en cas de maladie.

Mais tous les métiers ne sont pas impactés, c’est par exemple le cas dans le domaine artistique, où la création et la réflexion ne sont pas encore à la portée de l’intelligence artificielle.

En conclusion, l’automatisation du travail n’entraîne pas nécessairement la disparition du travail. En revanche, celui-ci sera impacté de manière positive ou négative par ce phénomène, qui doit être un moyen et non une finalité.

L. Di Rollo avec le travail de T. Garcenot, E. Arnaud, H. Macheda, T. Pelerin


Dire et réguler l'IA

Enseigner l’IA dès le plus jeune âge permettrait également de démystifier celle-ci en tant que sauveur de l’humanité, car elle ne peut régler tous les problèmes et elle en crée d’autres. Par exemple, un constat est qu’une faible minorité de personnes a conscience que les enceintes connectées comme Google Home ou Alexa et bien d’autres nous écoutent constamment. Ceci, bien que toléré, va à l'encontre de notre droit fondamental à la liberté et à la vie privée. Nous devrions pouvoir choisir à qui nous décidons de livrer nos informations personnelles en étant conscients de ce que cela implique. Mais force est de constater qu’aujourd’hui les personnes sont prêtes à donner beaucoup de choses même si cela signifie de perdre un peu de liberté. Un autre constat est que nous n’avons pas assez conscience de ces choses pour jouer un rôle dans leur régulation. En effet, le progrès va trop vite et nous nous retrouvons dépassés.

La méthode institutionnelle actuelle est rétroactive, on prévoit des solutions une fois que les problèmes sont survenus, comme c’est le cas avec le scandale en avril 2018, où les données des utilisateurs de Facebook étaient utilisées à des fins politiques par la société Cambridge Analytica. Il faudrait peut-être envisager une méthode proactive, celle qui prévoit les problèmes potentiels à venir et trouve des solutions avant que ceux-ci ne soient survenus. La question se pose de l’existence d’une structure tierce comme un comité d’éthique pour réguler l’IA, mais à quelle échelle ?

Enfin, il semble nécessaire aujourd’hui de développer son esprit critique, à l’heure où n’importe quelle information est accessible facilement.

L. Di Rollo avec le travail de J. Zerlini, M. Rioli, E. Claret, M. Siegel

Les émotions artificielles

feuille débat émotions artificielles

Une IA pourrait-elle avoir des émotions ? Certains estiment que c’est envisageable mais que cela conduirait à un asservissement de l’homme, d’autres pensent que c’est envisageable sans que cela perturbe la société, et d’autres pensent que ce développement est encore trop fragile et appartient encore au domaine de la SF.

Car il y a une différence de taille entre simuler et ressentir une émotion. Pour le moment, une IA ne peut que simuler une émotion. Mais cela est-il bénéfique pour autant ? La commercialisation des robots émotionnels est-elle bénéfique pour la société ? Il a été évoqué le risque de dépendance envers les robots émotionnels, ce qui amènerait à s’enfermer dans une irréalité, car en étant dépendant du robot, on lui attribue inconsciemment des états émotionnels qu’en réalité il ne possède pas car les émotions sont innées et non synthétiques. Il est à l’heure actuelle, impossible de faire ressentir une émotion à une machine, même s’il existe six émotions universelles, le ressenti d’une émotion est complètement différent d’une personne à une autre, les variables seraient trop importantes à intégrer. L’homme a cette capacité à ressentir que la machine n’a pas.

Néanmoins, dans d’autres pays comme au Japon, les robots émotionnels se révèlent être bénéfiques pour les citoyens. En effet, le taux de suicide au Japon est particulièrement élevé, et ce genre de technologie avancée (un robot chien avec un système d’IA par exemple) permet à certains individus de se sentir moins seuls et de recevoir de l’affection. Mais une question subsiste, celle de la responsabilité : en cas de problème avec le robot, quid de la responsabilité ? Si une IA émotionnelle peut exister, elle doit être contrôlée et encadrée par des lois claires et précises. Mais ce sujet amène de manière plus générale à se poser des questions sur le développement de l’intelligence artificielle : jusqu'où pousser le développement de l'IA ? Cherche-t-on absolument à ce qu'une IA puisse un jour avoir des émotions ? Pourquoi ?

L. Di Rollo avec le travail de R. Laggabe, H. Parra, W. Juppet, A. Lacoste

La gouvernance algorithmique

feuille débat gouvernance algorithmique

A la question « serait-il bénéfique pour l’humain dans une société donnée d’accepter de livrer une grande partie de ses données personnelles et administratives à un État qui se dote d’un système algorithmique puissant pour gouverner ? » la réponse majoritaire est spontanément négative.

Partager ses données personnelles avec l’État risquerait d’engendrer de la surveillance, du classement (comme en Chine) et donc de la discrimination. Partager ses données est un choix personnel. Mais encore faut-il savoir quelle utilisation est faite avec nos données, et à quelles fins. Cela semble être l’enjeu majeur de l’utilisation des données personnelles aujourd’hui, pouvoir connaître la finalité du partage de ces informations.

L’usage de nos données personnelles recèle un véritable problème éthique. Car aujourd’hui, nous partageons de la donnée en quantité astronomique souvent de manière non consentie ou non consciente. Et avec le développement du phénomène de numérisation, nous allons être amenés voire forcés à partager toujours plus nos informations personnelles. Y-a-t-il une limite à ce partage ? Peut-on tout partager ? Existera-t-il encore une vie privée ?

Quant à la question de l’IA forte, elle reste un fantasme et apparaît peu probable pour certains. Néanmoins, elle interroge beaucoup : quelle sera la forme de cette IA ? Un cerveau de silicium, un codage complexe, ou autre chose ? Serons-nous face à une nouvelle forme d’humanité ? ou celle-ci se retrouvera-t-elle dépassée ? Comment et qui programmera l’IA ? Si une IA se retrouve à la tête d’un pays, celle-ci doit savoir ce que signifient les notions d’éthique, d’équité, de justice et bien d’autres. Mais l’IA n’assimile que des codes chiffrés, la notion d’éthique est-elle réductible à un code chiffré ? Ou bien disparaitra-t-elle ? L’IA pourra-t-elle définir les notions de bien et de mal ? Les participants se sont posés beaucoup plus de questions qu’ils n’ont eu de réponses, tous les scénarios sont envisageables, mais le phénomène d’une super intelligence relève encore de la science-fiction aujourd’hui.

L. Di Rollo avec le travail de A. Didier, J. Bayock, P. Renzi

Intelligence artificielle en santé

feuille débat IA en santé

L’intelligence artificielle est aujourd’hui très utilisée dans la médecine. En effet, il s’agit d’un outil performant et révolutionnaire, permettant une médecine de précision, capable d’identifier certaines maladies et d’avancer des diagnostics que les médecins et professionnels de santé n’auraient su faire aussi rapidement.

Cela permettrait donc de gagner du temps, mais également de désengorger les services. Mais la médecine peut-elle être entièrement automatisée ? sur les 80 personnes présentes lors de cette soirée, 90% pensent que la relation entre un médecin et son patient est primordiale pour un soin de qualité. L’importance de cette relation vient de son aspect authentiquement humain. En effet, quand un médecin conseille ou soutient un patient, il le fait en toute conscience, contrairement à la machine qui en est dénuée. Il n’y a pas une autre espèce mieux placée que l’homme pour faire preuve d’écoute, de compréhension, de réflexion et dépasser la simple recherche de diagnostic dans le but d’apporter un « mieux-être » au patient, à l’inverse de la machine qui elle, est simplement programmée pour identifier et diagnostiquer.

Le contact humain est nécessaire à tout être humain et surtout dans le soin physique ou psychique. Mais certains évoquent une forme d’automatisation déjà présente dans ce secteur, car certains médecins deviennent des robots en raison du manque de personnel, car il faut qu’ils aillent vite et ils ne prennent pas le temps de répondre réellement au besoin du patient. Face à l’évolution des maux et à l’émergence de nouvelles maladies, une intelligence artificielle ne sera sûrement pas capable d’anticiper et d’identifier toutes les maladies possibles, car elle ne saura faire que ce pour quoi elle a été programmée.

C’est pourquoi, un médecin ayant recours à l’IA doit avoir en tête les limites de la machine, elle ne peut pas forcément voir toutes les pathologies naissantes. Mais que penser des conséquences d’une intelligence artificielle qui intégrerait le profil de chaque patient, capable de prévenir le moindre danger chez eux ? En résumé, l’intelligence artificielle doit être utilisée comme un outil et non comme un substitut au médecin.

L. Di Rollo avec le travail de B. Istier, L. Abdelli, N. Kalantari

Les technologies de la persuasion

feuille débat les technologies de la persuasion

Le marketing ciblé et l’hyperpersonnalisation sont des techniques de vente très utilisées par les entreprises aujourd’hui. Mais sont-elles pour autant acceptables ? ou le deviendraient-t-elles si le consommateur en était informé ? Ce genre de technique nous permet aujourd’hui de recevoir des promotions personnalisées, des publicités adaptées à nos envies et à nos goûts. Mais cette omniprésence de publicités peut s’apparenter à de la surveillance de masse, et s’avérer intrusive. Le but étant de pousser à la consommation, nous nous créons parfois des besoins fictifs.

Ces techniques sont devenues un facilitateur économique, elles permettent à des entreprises naissantes de se développer et de créer de nouveaux emplois. Et cela rend plus efficace les plateformes comme les moteurs de recherches grâce à leurs résultats pertinents. Il semble difficile aujourd’hui de vouloir maîtriser ou contrôler la collecte des données. Même si certaines lois sont rentrées en vigueur pour nous permettre de garder la main sur celles-ci (notamment le RGPD), la réalité est bien plus complexe car il est impossible d’échapper à la collecte de données aujourd’hui.

La solution résiderait dans un équilibre de la part des entreprises entre l’économie et l’éthique. En effet, il serait souhaitable que les entreprises deviennent responsables et interrogent les conséquences de leurs pratiques sur la vie du consommateur. Ces techniques devraient faire l’objet d’un encadrement et d’une transparence. Le consommateur a le droit de savoir si, et dans quelles conditions ou pour quels buts ses données sont collectées. Il a le droit de savoir comment fonctionnent ces techniques de vente. Mais la clé de cette prise de conscience réside peut-être dans l’éducation. Il s’agirait de former et sensibiliser dès le plus jeune âge à l’utilisation des technologies et à leurs conséquences et leurs enjeux, en organisant par exemple des journées de sensibilisation à ces thématiques à l’école et en développant l’esprit critique.

L. Di Rollo avec le travail de A. Quentier, S. Usureau, E. Cayol, M. Aimar

La smart city

débat smart city

Mais qu’est-ce que la « smart city », la « ville intelligente » ? Il s’agit d’améliorer la qualité de vie des citoyens en rendant la ville plus adaptative et efficace à l’aide de nouvelles technologies qui s’appuient sur un écosystème d’objets et de services. 3 mots d’ordre : efficacité, bon vivre et durabilité. Le concept semble innovant mais comporte ses avantages et ses inconvénients.

En effet, en matière de respect de l’environnement, la smart city serait une bonne alternative, car elle permettrait de faire des économies d’énergie. On peut imaginer que les lumières ne s’allument que lorsqu’un mouvement est détecté grâce à des capteurs par exemple. Elle permettrait également une bonne gestion des déchets en augmentant le taux de recyclage et en réduisant le volume des déchets. C’est aussi une manière d’assurer une certaine sécurité pour les citadins. A Shanghai en Chine, grâce au système de vidéosurveillance, la ville a réduit de 30% son taux de criminalité et il faut compter 3 minutes pour un temps de réponse moyen de la police pour chaque incident. Et, aujourd’hui, on peut faire faire à des machines ce que des hommes font, comme des tâches qui peuvent s’avérer pénibles, on pourrait donc imaginer que les livraisons des plateformes comme Uber, Colissimo ou Deliveroo pourraient être effectuées par des voitures autonomes.

Mais pour certains, la smart city est une forme de « totalitarisme soft », où les citoyens seraient prêts à livrer leurs informations personnelles en échange d’une meilleure qualité de vie sans jamais pouvoir revenir en arrière et en étant surveillés 24 heures sur 24. Sommes-nous conscients qu’en acceptant de livrer nos informations personnelles et en acceptant un système de surveillance omniprésent, nous consentons à perdre toujours un peu plus de notre liberté ? Quid de la vie privée ? Le concept de smart city s’étend aux pays industrialisés et développés mais n’est pas l’objet d’un cadre juridique précis pour le moment. Mais les qualités que l’on reconnait à la technologie sont l'efficacité, la productivité et la rapidité. Alors l’Etat n’aurait-il pas tout intérêt à automatiser les services publics pour faire des économies et être plus rapide dans ses procédures ?

L. Di Rollo avec le travail de M. Jolivet, N. François, T. André, M. Desrues

L'augmentation humaine : le transhumanisme

débat transhumanisme

La majorité des participants semblait sceptique quant à l’augmentation de l’homme par les technologies. En revanche, un tel sujet met tout le monde d’accord sur les inquiétudes à avoir concernant le besoin de vie privée et les libertés individuelles. Alors, au vu des avancées technologiques, même si l’augmentation humaine relève encore en partie de la fiction, est-ce pour autant que nous ne devrions pas nous en inquiéter ?

Que penser d’un implant pour le contrôle parental par exemple ? Les participants ont été unanimes sur cette question, ils trouvent cela intrusif, contre-productif et cela pourrait créer des désordres chez l’enfant. Alors qu’un implant pour augmenter l’intelligence humaine divise, car il serait bénéfique pour les personnes handicapées afin de pouvoir pallier à leurs différences, mais favoriserait aussi les inégalités. C’est le projet de la startup américaine Neuralink créée par Elon Musk, qui souhaite développer des implants permettant de connecter notre cerveau aux ordinateurs et objets connectés de manière à pouvoir les contrôler. Mais cela serait aussi destiné aux personnes atteintes d’Alzheimer et Parkinson qui n’auraient plus de difficultés liées à leur mémoire.

Le projet avatar 2045 est un autre projet digne d’un scénario de science-fiction. En effet, il s’agit d’un projet de recherche russe dont l’idée vient du milliardaire Dmitry Itskov qui entend pouvoir offrir l’immortalité par transplantation de notre conscience dans un robot. Le transfert de conscience pourrait être utilisé dans le cas d’une urgence médicale pour conserver les pensées d’une personne, mais cela semble très futuriste. A ce stade, la conscience ne serait plus une caractéristique individuelle et intime mais celle-ci serait mise en réseau avec tous les autres cerveaux humains, tout le monde aurait ainsi accès à la pensée de chacun.

Les participants se sont interrogés sur le statut juridique des personnes augmentées, doit-on encore les considérer comme des personnes ? En tout cas, il semblerait nécessaire de trouver un moyen pour différencier les hommes des hommes augmentés pour pouvoir appliquer des droits différents. Mais cela ne fera qu’accroître les inégalités.

L. Di Rollo avec le travail de A. Gibert, M. Morel, C. Raymond

En savoir plus

Plateforme Digital Ethics Bannière DFH catalogue

Cette plateforme est destinée à faire émerger et promouvoir la réflexion éthique collective concernant les nouvelles technologies numériques.

Les grands débats de l'éthique: l'intelligence artificielle Bannière DFH catalogue

Contribuer à l’effort de réflexion éthique et sociétale sur le développement et les conséquences des nouvelles technologies numériques afin d’animer une soirée de débat grand public.

Une terre, des hommes : autour de l'exposition consacrée à Yann Arthus-Bertrand

Ce module, monté en collaboration avec la mission culture, invite à une première expérience de montage de l’exposition Human, réalisée d’après le travail du photographe Yann Arthus-Bertrand.