E. LES DÉFIS ÉTHIQUES
1. Le numérique : opportunité pour le plus grand nombre ou facteur aggravant les inégalités ?
La notion de « fracture numérique » désigne communément le fossé séparant ceux qui bénéficient de l'accès à l'information numérique et ceux qui demeurent privés des contenus et des services que ces technologies peuvent rendre. Elle revêt plusieurs dimensions 22 ( * ) :
- une dimension matérielle dans laquelle la fracture numérique renvoie à un déficit en termes de moyens, d'équipements et d'accès ;
- une dimension intellectuelle et sociale qui souligne les disparités de type sociocognitif, telles que le manque de maîtrise des compétences et de connaissances fondamentales pour l'usage du numérique et l'exploitation de ses contenus ainsi que le manque de ressources sociales pour développer des usages qui permettent de négocier une position sociale valorisante au sein des univers sociaux fréquentés.
a) La fracture en matière d'équipement tend à diminuer en France ...
En 2017 23 ( * ) , le taux d'équipement des Français en smartphone atteint 73 % 24 ( * ) , contre seulement 17 % en 2011. 85 % ont un accès fixe à Internet et 71 % un accès mobile.
81 % des Français disposent d'un ordinateur à domicile et 36 % des Français possèdent à la fois un smartphone, une tablette et un ordinateur.
Le taux d'équipement varie fortement en fonction de l'âge : ainsi, 99 % des 18-24 ans ont un smartphone, contre 77 % pour les 40-59 ans et 54 % pour les 60-69 ans.
Néanmoins, compte tenu de l'équipement massif des jeunes en smartphones, la fracture en matière d'équipement devrait quasi disparaître au cours des prochaines années . La même tendance s'observe pour la possession d'ordinateurs. Certes, 92 % des diplômés du supérieur en possèdent, contre seulement 50 % des non-diplômés et 76 % des diplômés du BEPC. Mais 95 % des 12-17 ans en disposent à domicile, ce qui réduit à court terme l'influence du diplôme sur la possession d'un ordinateur.
b) ... tandis qu'augmente la fracture numérique liée aux usages
La diffusion massive des équipements numériques dans la population française est une condition nécessaire pour réduire la fracture numérique, mais elle n'est pas suffisante dans la mesure où l'accès au numérique ne conditionne pas automatiquement son usage effectif.
Ainsi, 81 % des Français possèdent un ordinateur, mais seulement 53 % en font un usage quotidien à leur domicile et 30 % l'utilisent chaque jour dans le cadre de leur travail ou de leurs études.
De même, le seul accès aux technologies numériques ne garantit pas un usage autonome et efficace de ces dernières . Il suffit de rappeler que 67 % des Français ont recours à la e-administration, mais que ce taux atteint 90 % pour les diplômés du supérieur et les 25-39 ans contre seulement 59 % pour les bas revenus et 30 % pour les non-diplômés.
Comme fait remarquer Perine Brotcorne 25 ( * ) : « plus les personnes sont diplômées, plus elles sont nombreuses à utiliser les différents services en ligne, à l'exception de la participation à des réseaux sociaux et du téléchargement de loisirs audiovisuels, qui sont répandus de façon assez semblable dans toutes les catégories de la population. Ces écarts en faveur des plus diplômés sont particulièrement notables pour les activités de recherches d'information comme la lecture de journaux, les activités administratives et commerciales et la banque en ligne.
Toutes choses étant égales par ailleurs, les personnes les moins diplômées et les moins aisées financièrement tendent à limiter leur utilisation d'Internet aux activités de communication et de loisirs. En revanche, le fait d'être hautement diplômé et d'avoir un niveau de vie confortable favorise une utilisation fréquente et diversifiée des multiples services offerts par Internet » .
En réalité, l'usage des technologies numériques exige trois types de compétences :
- des compétences instrumentales, qui ont trait à la manipulation des matériels et des logiciels ;
- des compétences structurelles ou informationnelles, qui portent sur la façon de chercher, sélectionner, comprendre et traiter l'information ;
- des compétences stratégiques qui permettent d'utiliser l'information de manière proactive, de lui donner un sens dans son propre cadre de vie et de prendre des décisions en vue d'agir sur son environnement professionnel ou personnel.
Or, ces compétences restent très mal réparties au sein de la population.
En 2017, un tiers des Français s'estime peu ou pas compétent pour utiliser un ordinateur, soit 18 millions de nos concitoyens : ils sont 40 % parmi les personnes ayant des bas revenus, 74 % parmi ceux qui n'ont aucun diplôme, et tout de même 17 % parmi les plus jeunes (moins de 18 ans).
De même, 12 % de la population âgée de 12 ans et plus, soit près de 7 millions de nos concitoyens, ne se connectent jamais à Internet, et autant considèrent qu'Internet est trop compliqué à utiliser.
Comme l'a fait remarquer Bernard Benhamou, « les inégalités liées aux usages numériques accélèrent la distinction entre ceux qui sauront gérer le monde numérique et les autres. À l'heure actuelle, il existe déjà un écart important entre ceux qui se contentent d'être des consommateurs passifs et ceux qui savent tirer profit des possibilités offertes par les technologies pour mener leurs propres projets et imposer leurs intérêts ».
c) Femmes et numérique
Beaucoup de personnes auditionnées se sont inquiétées de la faible proportion de femmes dans les métiers du numérique en France. Selon Syntex Numérique, 27 % des métiers du numérique seraient occupés par des femmes, chiffre qui inclut les fonctions de support au numérique.
Pourtant, la mixité est un enjeu important, pour les individus comme pour les entreprises.
Pour les individus, la mixité offre la possibilité de choisir son métier en fonction de ses affinités et de ses compétences et permet d'atténuer les inégalités salariales, souvent liées à la ségrégation des métiers par genre.
Pour les entreprises, elle élargit le vivier de recrutement et permet d'attirer de nouveaux talents. En outre, la mixité est source de créativité, de diversité et de performance et constitue donc un atout de développement pour l'entreprise.
Afin de comprendre la désaffection des femmes à l'égard des métiers du numérique, plusieurs personnes interrogées ont renvoyé aux travaux d'Isabelle Collet 26 ( * ) sur cette question.
Celle-ci constate que la masculinisation des métiers liés au numérique n'est pas une fatalité . Dans d'autres pays, notamment en Asie, le pourcentage de femmes dans ce secteur est beaucoup plus important qu'en France. C'est le cas par exemple en Malaisie. En 2004, à l'université de Penang, il y avait 65 % d'étudiantes en informatique, sept professeurs sur dix étaient des femmes, dirigés par une doyenne. Dans ce pays, les métiers de l'informatique sont perçus comme des métiers féminins : peu salissant, pas dangereux, qui ne nécessitent pas de porter de lourdes charges et qu'on peut effectuer de chez soi.
En France, la proportion d'hommes et de femmes dans les métiers liés au numérique a évolué avec le temps au détriment de ces dernières.
En 2007, 24 % des femmes étaient ingénieurs, mais seulement 13 % des femmes étaient ingénieurs en informatique ; en 1972, l'informatique était la deuxième filière comportant le plus de femmes ingénieurs au sein des formations techniques. Dans les métiers de l'ingénierie, l'informatique est ainsi le seul secteur dans lequel la part des femmes a diminué.
Cette régression de la part des femmes se retrouve dans l'emploi. En 1982, la part des femmes dans les métiers de l'informatique était de 34 %. Elle est passée à 20 % en 2002. En 2017, seuls 6 % des développeurs sont des femmes.
Cette domination masculine s'expliquerait moins par une disparition des femmes des filières informatiques que par l'arrivée massive des hommes dans ces filières : ceux-ci ont investi en grand nombre des écoles et spécialisations qui se sont peu à peu ouvertes, le nombre de femmes restant, jusqu'en 2002, à peu près constant en chiffres absolus.
Selon Isabelle Collet : « les métiers de l'informatique ont connu une arrivée massive des hommes à mesure que les emplois gagnaient en prestige, accompagnés de discours incantatoires sur l'idée que «l'informatique» était synonyme d'"avenir". Ainsi, la répartition sexuée et la représentation du métier ont évolué de manière concomitante. De nouvelles représentations, issues de modèles anglo-saxons, sont venues favoriser et renforcer cette nouvelle répartition sexuée en rationalisant son évolution . La ?gure du hacker, c'est-à-dire du programmeur passionné, ou du Geek (le fan de technique), a supplanté l'image plus mixte du/de la technicien/ne en gestion de l'information, travaillant dans le secteur tertiaire. Avec l'arrivée du microordinateur dans les années 1980, des adolescents s'emparent des machines, formant des micro-sociétés qui mettent en avant leur virtuosité technique, alors même que les métiers de l'informatique se développent surtout dans le domaine de la modélisation des systèmes d'informations et de moins en moins vers le matériel ou la programmation » 27 ( * ) .
Lors de son audition, Elodie Salin, directrice de la formation chez Simplon.co, a estimé que les hommes ont afflué dans le secteur de l'informatique à partir du moment où celui-ci a commencé à être lucratif et à avoir du prestige. Après avoir rappelé que 46 % des bac+5 sont des femmes, elle a évoqué deux autres facteurs expliquant la faible part des femmes dans le numérique : l'image du geek mysogine et le syndrome de l'imposteur, qui pousse les femmes à douter de leur légitimité dans le poste ou la fonction qu'elles occupent.
Dans une étude récente 28 ( * ), six facteurs ont été recensés pour expliquer la faible attractivité du numérique auprès des femmes :
- une image de la société fortement sexuée, que les médias ne font que renforcer, et qui tend à enfermer dès l'enfance filles et garçons dans leur genre et dans des rôles déterminés à l'avance ;
- une vision des études scientifiques souvent réduites aux mathématiques, alors même que persiste une image assez négative de cette discipline auprès des filles ;
- une vision genrée de certaines filières de formation, renforcée par l'absence de modèle féminin ;
- une méconnaissance des finalités des métiers du numérique et de l'ingénierie, alors que les choix d'orientation des filles sont moins déterminés par une appétence pour un métier spécifique que par un centre d'intérêt, une matière appréciée, l'apport que la lycéenne souhaite avoir pour la société, etc ;
- une méconnaissance des métiers du numérique et de l'ingénierie ;
- une méconnaissance et une vision négative des entreprises de la branche.
Un effort massif de communication doit donc être entrepris afin de renverser cette tendance et de convaincre les femmes qu'elles ont toute leur place dans les filières numériques .
Plusieurs actions doivent être menées de front.
Le grand public doit être sensibilisé aux métiers du numérique et doit pouvoir s'identifier aux femmes marquantes 29 ( * ) de ce secteur. À cette occasion, il faut déconstruire les stéréotypes qui enferment hommes et femmes dans leur genre , tels que la soit-disant moindre compétence des femmes en mathématiques ou encore les qualités supposées féminines (prudence, sensibilité, douceur...) qui poussent à les orienter vers des métiers dans lesquels elles exerceraient au mieux ces qualités (éducation, médecine).
L'éducation nationale et l'enseignement supérieur doivent également être largement mobilisés pour élargir les perspectives d'orientation des filles et combattre les idées reçues chez les apprenants, dans leur famille mais également au sein même du monde éducatif.
Les actions de communication doivent être complétées par des initiatives destinées exclusivement aux filles et visant à les mettre en relation concrète avec les métiers du numérique (programmes de pré-qualification ou d'orientation réservés aux femmes, organisation de concours pour promouvoir l'informatique auprès des lycéennes, etc.).
2. La protection des données
Dès son origine, l'informatique a soulevé des questions d'éthique relatives à la collecte, au traitement et à la conservation des données personnelles. C'est d'ailleurs pour concilier développement de l'informatique et préservation des libertés individuelles que la loi informatique et libertés a été adoptée en 1978 30 ( * ) - créant notamment la commission nationale informatique et liberté (CNIL). Depuis cette date, elle a été modifiée plusieurs fois afin de s'adapter aux évolutions imposées par le progrès technologique, la dernière modification visant à tenir compte du règlement européen sur les données personnelles entré en vigueur le 25 mai 2018.
Pour autant, la protection des données personnelles reste au coeur des débats . En effet, l'accès à Internet sur téléphone, la multiplication des objets connectés, l'essor des applications et des réseaux sociaux contribuent à la production massive de données personnelles à travers les traces numériques que nous laissons sur le Web. Collectées et traitées, ces données permettent d'établir le profil de chacun d'entre nous (qui décrit nos goûts, nos modes de consommation, nos loisirs, nos amis, etc.) particulièrement utile pour nous proposer des produits et des services adaptés à nos attentes.
Ce commerce des données - décrit par Bruce Schneier, cryptographe américain, comme « capitalisme de surveillance », est devenu très lucratif, mais il pose de nombreuses questions, à la fois sur la manière dont sont élaborés ces profils (le profil qui est diffusé est-il le bon ? est-il celui qui représente vraiment le consommateur ?) mais également sur l'acceptation par l'usager de ce fichage systématique (a-t-il validé le profil ? décide-t-il des personnes qui louent et achètent son profil ?). Le Web repose sur l'échange d'informations, mais ces dernières échappent désormais au contrôle des usagers puisqu'elles sont collectées et revendues sans leur consentement.
Le règlement européen sur la protection des données personnelles entré en vigueur le 25 mai dernier repose sur les principes suivants :
- les données doivent être traitées de manière licite, loyale et transparente au regard de la personne concernée ;
- elles doivent être collectées pour des finalités déterminées, explicites et légitimes, et ne pas être traitées ultérieurement d'une manière incompatible avec ces finalités ;
- elles doivent être adéquates, pertinentes et limitées à ce qui est nécessaire au regard des finalités pour lesquelles elles sont traitées.
Il convient néanmoins de nuancer la réalité du consentement de la personne concernée : dans la mesure où il conditionne l'accès au site ou à l'application que souhaite consulter l'internaute, l'accord de principe s'apparente plus à une obligation qu'à un véritable choix.
À l'échelle d'une société, le traçage systématique de l'ensemble de la population à travers ses traces numériques démultiplie les possibilités de contrôle social par les États . À cet égard, il n'est pas anodin que la Chine ait décidé de s'appuyer sur le développement de la finance numérique pour mettre en place un projet de surveillance de ses citoyens 31 ( * ) . Loin d'être neutre, la finance décrit les comportements d'achat qui véhiculent à leur tour des logiques culturelles et politiques fortes. Le profilage des flux monétaires permet donc une surveillance renforcée. L'État chinois envisage ainsi le développement d'un système de « crédits sociaux » évaluant la fiabilité des individus. Censé entrer en vigueur en 2020, cet algorithme de « notation citoyenne » s'appuie sur l'analyse des comportements numériques. L'accès aux services publics sera conditionné à cette note.
3. L'enjeu des algorithmes
Le développement de l'intelligence artificielle soulève également de nombreux défis éthiques liés à la délégation croissante de décisions aux algorithmes.
Comme le constate la commission nationale de l'informatique et des libertés (CNIL) dans un rapport récent 32 ( * ) , les algorithmes ne sont pas neutres, ils incorporent inévitablement des partis pris - que ceux-ci soient sociaux, politiques ou moraux - et répondent le plus souvent à des finalités qui incluent une dimension commerciale. « L'exemple fréquemment évoqué du choix que pourrait être amené à faire l'algorithme d'une voiture sans chauffeur de sacrifier ou bien son occupant ou bien un piéton sur la route illustre la façon dont le recours à la technique, plus que de soulever certains problèmes moraux, a surtout pour effet de les déplacer : à un dilemme réglé en temps réel par une personne impliquée dans sa chair fait place un choix effectué par d'autres, ailleurs, bien en amont ».
Le déplacement des choix au stade du paramétrage de l'algorithme implique deux conséquences. D'abord, il faut éviter que les étapes de conception (paramétrage, développement, codage) ne s'autonomisent exagérément au point de devenir le lieu de la prise de décision. Par ailleurs, il est indispensable de lever l'opacité des systèmes algorithmiques afin de pouvoir en comprendre la logique générale 33 ( * ) .
* 22 Périne Brotcorne et Gérard Valenduc : Construction des compétences numériques et réduction des inégalités : une exploration de la fracture numérique au second degré ; juin 2008.
* 23 Les chiffres suivants sont issus de l'étude du CREDOC : baromètre du numérique 2017.
* 24 Et 94 % pour un téléphone mobile.
* 25 Inégaux face aux technologies numériques : un problème d'accès ? 19 juillet 2016, Observatoire belge des inégalités.
* 26 Isabelle Collet est maîtresse d'enseignement et de recherche en sciences de l'éducation à l'université de Genève.
* 27 Isabelle Collet, « Les informaticiennes : de la dominance de classe aux discriminations de sexe ». Bulletin de la société informatique de France, 2017.
* 28 Attractivité des métiers du numérique et de l'ingénierie pour les publics féminins en France, 18 février 2016.
* 29 Telles que Grace Hopper, conceptrice du premier compilateur en 1951 et du langage COBOL en 1959, ou Margaret Hamilton, experte en programmation et qui a développé le logiciel du projet Apollo.
* 30 Loi n° 78-17 du 6 janvier 1978.
* 31 Cf. Le Monde , vendredi 4 mai 2018 : Comment la « fintech » chinoise est devenue un élément-clé du contrôle social ; Bertrand Hartemann.
* 32 Comment permettre à l'homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle ; synthèse du débat public animé par la CNIL dans le cadre de la mission de réflexion éthique confiée par la loi pour une République numérique ; décembre 2017.
* 33 Certains assimilent la transparence des algorithmes à la publication du code source. Outre le fait qu'il laisserait la majorité du public, non spécialiste, dans l'incompréhension de la logique à l'oeuvre, cette revendication se heurte au droit de la propriété intellectuelle. C'est la raison pour laquelle de nombreux spécialistes préfèrent parler d'exigence d'intelligibilité ou d'explicabilité des algorithmes plutôt que de transparence.