Les services et objets numériques se développent à une vitesse exponentielle : objets connectés, Intelligence Artificielle (IA)… ces outils ouvrent le champ des possibles, mais ils soulèvent aussi de nombreuses interrogations et invitent à une réflexion sur leur éthique. D’une part, le développement de ces outils est permis par la production et le partage croissants de données. D’autre part, avec le temps, les outils du numérique gagnent en puissance et en complexité et perdent en intelligibilité. De fait, il y a aujourd’hui une asymétrie de savoirs et de pouvoirs entre les concepteurs et développeurs de ces outils et les usagers tant dans la collecte des données que dans leur utilisation : quel consentement ? quelle compréhension ? quelle manipulation ?
L’éthique est une « réflexion continue qui interroge les valeurs, met en avant leurs éventuels conflits pour éclairer les choix individuels ou collectifs ». Les questionnements éthiques émergent quand les valeurs qui fondent nos sociétés sont mises en tension, lorsque des zones grises entre différents sens moraux, entre bien et mal sont mises au jour. Dans le monde occidental, nos valeurs reposent sur les droits de l’homme, le respect des libertés fondamentales et la dignité de l’être humain. D’autres valeurs sont mises en jeu avec la révolution numérique et le développement de l’IA : les mécanismes à l’œuvre sont-ils explicables ? transparents ? Qu’en est-il du respect de l’autonomie humaine ? Entre-t-on dans l’avènement d’un monde où l’humain est augmenté d’objets connectés, en premier lieu desquels, le smart phone ? Ces questions renvoient à l’évolution de notre rapport au monde, de notre façon d’être en tant qu’humains et en tant que membres d’une société. Elles soulèvent aussi l’épineux sujet de la gouvernance et de la transparence des données et des conséquences sociétales et énergétiques du « Big Data ».
L’objectif de la journée était de mieux comprendre en quoi consiste une approche éthique du numérique et d’identifier comment celle-ci peut être développée dans notre société, tant du point de vue des connaissances et de l’éducation que du point de vue de la citoyenneté.
- « Ethique by design » : Intégrer l’éthique dans la conception des outils numériques
Beaucoup d’humain intervient dans la conception d’un outil numérique, IA ou non, et ce dernier peut donc comporter des biais, donner lieu à des conséquences néfastes, cachées. L’enjeu est de prendre en compte les valeurs d’une société dès la conception d’un outil, objet, service. Cela peut passer par la construction d’une cartographie morale, c’est-à-dire d’une représentation schématique qui montre les tensions dans un système qui mêle l’humain et la machine et ce aux différentes étapes de la conception. L’objectif n’est pas d’apposer une valeur morale, de dire si c’est bien ou mal, mais plutôt de rendre compte des mécanismes sous-jacents, de prendre conscience des comportements occasionnés et donc de faire les choix en conscience.
Il s’agit par ailleurs de s’interroger sur la finalité de l’objet, sur l’éthique des usages : comment les humains vont-ils utiliser cet outil au quotidien ? quel vont en être les conséquences ? Se pose alors une problématique d’éthique sociétale : en quoi cet outil est-il acceptable ? comment s’intègre-t-il dans les principes de l’inclusion sociale par exemple ? Ces interrogations posent la nécessité de travailler en interdisciplinarité, mêlant l’informatique à la philosophie, aux sciences cognitives et aux sciences sociales et économiques, et d’avoir une vision holistique des faits.
- Apprendre et prendre conscience – les enjeux de l’éducation au numérique
Le paradoxe de l’IA, et plus généralement des outils du numérique, c’est qu’ils ne sont rien sans l’humain et en même temps, on a l’impression qu’ils deviennent autonomes. Cette impression repose sur le peu de connaissance que les usagers en ont. L’enjeu est fort « d’encapaciter » les usagers, c’est à dire de leur donner le pouvoir de comprendre ce qu’est l’IA, ses fonctionnalités, ses limites.
Développer une approche éthique du numérique dans ce cadre, c’est aussi avoir une approche critique des innovations, outils qui nous sont proposés. Cela signifie avoir conscience de ses vulnérabilités en prenant conscience de ses modes de penser et de douter des réponses qui seraient trop rapides. Aujourd’hui, nous sommes de plus en plus en prise avec des effets d’influence. De nombreux travaux scientifiques traitent de cette problématique et démontrent le rôle des émotions dans la diffusion de l’information et l’impact d’une exposition sélective à l’information. Pour se sentir bien, pour éviter l’inconfort psychologique, on va se confronter à l’information qui nous arrange. C’est tendance est facilitée, confortée par les algorithmes, les filtres, les puissances de calcul, ceci avec notre consentement plus ou moins éclairé.
Dans un monde où la révolution numérique apparait comme inéluctable (on pourrait toutefois en discuter), l’enjeu est ainsi de créer une culture du numérique fondée sur approche avertie et critique des innovations, en formant enfants et élus, mais aussi entrepreneurs (Hub France IA). Cela pose toutefois la question de la formation des enseignants au numérique, et à l’éthique ; sujets nouveaux pour les enseignants et les professionnels de l’éducation ou parfois jugés marginaux.
L’intégration de l’éthique dans le numérique pousse à considérer aussi la façon dont les programmeurs sont aujourd’hui formés : les étudiants entrent dans la vie active sans avoir toujours une vision déontologique de leur métier, de ce qui est acceptable ou non de faire dans le cadre de leur travail. Ils n’ont pas toujours conscience du pouvoir qu’ils ont, des responsabilités qui leur incombent. Il est nécessaire de les sensibiliser à une approche éthique dans le cadre de leur formation. Leur permettre de se poser et de réfléchir à ce qu’ils font, à ce qu’on leur demande de faire dans les entreprises. Se positionner en tant que professionnel qui a un avis sur la façon dont on va utiliser la technologie.
Différents moyens sont à notre disposition aujourd’hui pour déployer une approche éthique du numérique dans notre société :
- Créer des moments de débat et d’échange dans le milieu scolaire, en commençant tôt.
La Fondation Blaise Pascal et la chaire HUMAAINE (Human Machine Affective Interaction) œuvrent par exemple à la création de capsules vidéos concernant l’IA et l’éthique. Celles-ci peuvent servir de support à la discussion. Des cours d’éthique peuvent être proposés aux étudiants, dans une approche active de l’éducation.
- Se confronter à des mises en situation avant qu’elles n’arrivent : le « prebunking »
L’objectif est d’être sensibilisé tôt aux conséquences néfastes de l’usage de certains outils numériques, comme être exposé à des fausses informations, aux théories du complot. Certains jeux sérieux (Getbadnews, goviralgame, radicalise game, catpark, etc.) ou vidéos youtube permettent de se mettre en situation et de se rendre compte de comment on réagit.
- Se documenter
Créée en 2019 et pérennisé en 2023, le CNPEN (Comité National Pilote d’Ethique du Numérique) est un comité indépendant qui a pour objectif d’éclairer les décisions individuelles et collectives en veillant à la sensibilisation et à l’information de la société civile, des institutions publiques ou privées et du gouvernement ; pousser des actions de recherche. Le CNPEN est saisi ou se saisit de sujets qui apparaissent complexes, afin de rendre compte des enjeux éthiques soulevés, de les rendre intelligibles au plus grand nombre et d’émettre des recommandations. Le CNPEN a publié différents rapports à destination des élus et du public (véhicule autonome, agents conversationnels, IA et diagnostic médical, reconnaissance faciale…).
Le LINC (Laboratoire d’Innovation Numérique de la CNIL) explore le futur de la société numérique pour mieux anticiper l’impact de l’usage des innovations technologiques sur la vie privée et les libertés, expérimente et échange pour mieux informer face au nouveau enjeux éthiques. Leurs publications, comme les cahiers innovation et prospectives, sont disponibles sur leur site internet.
- Au sein de l’Education Nationale, différents actions sont mises en place afin de cadrer l’usage du numérique :
Elle vise à faire du numérique un espace d’émancipation et d’inclusion, faire du numérique un espace de droit, faire du numérique un espace de vigilance. C’est un objet institutionnel qui devient un outil pédagogique, vers la formation des enseignants. A ce sujet, une collaboration avec l’INSPEE est en cours pour former les futurs enseignants au numérique, les enjoindre à développer l’esprit critique de leurs élèves.
- Certification Pix
Mise en place pour les élèves de troisième, de cycle Terminale et étudiant L3 afin d'évaluer les compétences des élèves, étudiants dans différents domaines comme la veille, la recherche d’informations, la protection des données personnelles… une réflexion sur le cycle 3 (école élémentaire) est en cours.
Une déclinaison régionale est en cours d’élaboration depuis mars 2022, en concertation avec les communautés éducatives, les collectivités territoriales, les représentants de parents...
Un Territoire Numérique Éducatif en Corse du Sud est en train de se mettre en place en partenariat avec la Collectivité de Corse, le réseau Canopé, la Trousse à Projet, la Banque des Territoires, l'Université de Corse afin de proposer un modèle d’accélération du numérique dans l’enseignement scolaire à la fois public et privé, de la maternelle au lycée. L’objectif est de traiter conjointement l’équipement, la formation, les ressources numériques éducatives et l’accompagnement à l’e-parentalité.
Malgré tout, les actions de sensibilisation ne couvrent pas toujours tout le territoire insulaire.
- Numérique et données - Contribuer à une réappropriation de leur citoyenneté par les résidents
La réappropriation des outils du numérique et de la gouvernance des données passe par des actions d’envergure variable.
Ces dernières années, l’Union Européenne a d’ailleurs produit un cadre réglementaire qui contraint progressivement les grands acteurs du numérique (voir les conférence de la chaire Confiance Numérique). Aujourd’hui, les acteurs publics sont clients et dépendent d’outils nord-américains (Microsoft, Google) pour fonctionner. La production d’outils d’origine européenne, française ou régionale n’est pas une utopie sous peu que les gouvernements s’approprient le sujet s’en donnent les moyens et financent le secteur. Des outils existent d’ors et déjà. L’association Framasoft a développé des alternatives open source à la plupart des logiciels payant dont nous avons besoin. Le problème c’est le manque d’ergonomie (UX). Il y a beaucoup de bonnes volontés chez les développeurs pour développer l’open source, gratuit, éthique. C’est moins démocratisé chez les designers : la production bénévole d’interfaces graphiquement intéressante, ergonomiques est rare.
L’infusion d’une réflexion éthique dans le secteur économique, à l’échelle régionale et nationale : le modèle de la start-up nation a ses limites et il est nécessaire de développer une approche éthique des innovations, initiatives privées que les collectivités et l’Etat financent. A ce titre, les données et l’intelligence artificielle sont aujourd’hui de véritables objets stratégiques qui ont une valeur, constituent « un actif stratégique » et pour lesquels il n’y a pas encore de modèle économique juste et durable. Le GIP Ekitia se pose notamment cette question, en partenariat avec la Toulouse Schools of Economics : quelle économie des plateformes de données est-elle souhaitable, acceptable ? Comment cadrer les usages des données et gérer les concurrences ?
Au niveau national, se pose aussi la question de la manière dont sont pensées les politiques publiques : comment mieux intégrer les comportements des citoyens et anticiper leur réaction afin de penser des politiques publiques justes et adaptées ?
La mise en place d’espaces de débat en Corse et, surtout, leur publicisation. Nous avons besoin de moments collectifs où se poser la question à froid de l’avènement et du développement de technologies, des manières de les accepter et de les utiliser, de leurs impacts collectifs. A Rennes, des comités d’éthique ont été mis en place, réunissant l’ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) afin d’organiser une forme de questionnement régulier, méthodique et délibératif. La consultation 5G en Corse a été une initiative intéressante à ce sujet et mériterait d’être perfectionnée et plus systématique. A Rennes, elle a aussi été mise en place et a donné lieu à la création d’un conseil du numérique responsable : 1 500 rennais ont été tirés au sort pour en être responsables. Ces derniers ont pu aborder ensemble la question de l’e-administration et de l’exclusion par l’administration électronique, et plus récemment l’impact du numérique sur la santé mentale des jeunes. Le dispositif progresse, il n’est pas figé. L’appropriation du numérique peut aussi passer par la création de « corps intermédiaires de la données » (citation de Régis Chatelier) comme des syndicats ou des associations qui s’empareraient spécifiquement du sujet.
La donnée étant omniprésente, d’autres actions peuvent être enfin prétexte pour en aborder les aspects éthiques. A Rennes, un travail collaboratif sur la qualité de l’air et sa mesure par les citoyens en est l’exemple. A Ajaccio, la production du plan numérique territorial a été aussi l’occasion pour la ville de mettre en place un dispositif de concertation (physique et numérique) au cours duquel les habitants, intéressés par le sujet, ont pu exprimer leurs besoins et leurs peurs en matière de numérique, débattre.
En plus d’imaginer des espaces de débats, il y a une vraie nécessité à accompagner les personnes dans le numérique (lutte contre la fracture sociale) et dans la protection de leurs données personnelles. L’enjeu est de renforcer la transparence de l’action et de la vie publiques, dans un contexte où le numérique et la circulation des données sont systématiques (voir Partenariat pour un gouvernement ouvert). En Corse, plusieurs dizaines de milliers de personnes sont concernés par l’illectronisme, qu’elles soient âgées et/ou issues de milieux défavorisés pour la plupart. C’est dans ce contexte que le Hub Corsica a été créé, afin d’animer le réseau de médiation numérique insulaire et de lutter contre l’exclusion que l’illectronisme engendre.
- Le Replay de la journée
- Les supports de présentation de la journée
- Laurence Devillers - Enjeux éthiques de l’IA, La démarche du Comité Consultatif National d’éthique du Numérique (CNPEN)
- Fabien Girandola - De la persuasion à la manipulation: nudge, désinformation et prévention
- Mariam Chamat - Mettre le citoyen au coeur de l'action publique : l'apport des sciences comportementales
- Denis Chatelier
- Sites complémentaires
- Publications complémentaires
- Rahwan et al, 2019
- Rapport du LINC sur l’éthique des algorithmes et de l’IA
- Cahier prospectif du LINC "Le futur de la vie privée en 2030, une exploration prospective et spéculative"
- Corse - les publications du baromètre du numérique
- Ouvrages
- Laurence Devillers, Des robots et des hommes, mythes, fantasmes et réalité, Plon.
- Laurence Devillers, Les robots émotionnels. Santé, surveillance, sexualité... et l'éthique dans tout ça ? Editions de l'Observatoire.
- Laurence Devillers, Vague IA à l'Elysée, Manifeste pour un débat politique sur le numérique en France, Editions de l'observatoire.
-
Robert-Vincent Joule et Jean-Léon Beauvois, Petit traité de la manipulation à l’usage des honnêtes gens, Presses Universitaires de Grenoble.
- Documentaires
- Evénements associés
- Le précédent Scontru - Data et services aux usagers
- La conférence IA et mutations au travail
- Da Locu - réseau de tiers-lieux en Corse et Itinéraire numérique
- Les conférences de la chaire confiance numérique
- Territorii di Dumane