B. LA SOCIÉTÉ EN MUTATION SOUS L'EFFET DE L'INTELLIGENCE ARTIFICIELLE
1. Les défis lancés par l'intelligence artificielle aux politiques d'éducation et de formation continue
Paul Dumouchel et Luisa Damiano, dans Vivre avec les robots, Essai sur l'empathie artificielle, estimaient en 2016 que « vivre avec les robots peut être l'occasion d'un avenir meilleur, non pas économiquement mais moralement et humainement ». L'éducation peut en effet être un facteur à la fois levier et bénéficiaire des avancées en intelligence artificielle .
Intel a, par exemple, noué un partenariat avec Coursera, une vaste plateforme d'enseignement en ligne, pour justement y proposer des cours en intelligence artificielle dès 2017. L'approche de l'entreprise consiste à offrir une offre allant du logiciel au matériel (processeur), en passant par la formation.
La relation émetteur-récepteur est transformée et modifie tant la pédagogie que les principes d'évaluation . Les moyens de prédire la réussite des élèves et d'optimiser les enseignements seront précisés par les systèmes d'intelligence artificielle. Ces derniers permettront la différenciation des méthodes d'apprentissages, voire des contenus enseignés, la personnalisation devant être adaptée à la diversité des élèves. Jean-Marc Merriaux, directeur général de Canopé, a donné l'exemple du projet e-fran , qui liera aussi bien des pédagogues que des chercheurs et des start-uppers . Matador, qui était à la base un jeu de plateau transformé dans un environnement numérique, a ainsi été développé. Le projet repose sur un monitoring individuel d'apprentissage du calcul mental par chaque élève. Plus l'élève jouera en classe et à la maison et mieux l'enseignant connaîtra ses compétences acquises et non acquises. Il s'agit de travailler sur le parcours d'un élève qui sera mis en rapport avec tous les autres élèves de son niveau scolaire. L'interaction et l'horizontalité constituent par conséquent des éléments importants de ce type de projet. E-fran reposera sur mille cinq cents élèves pendant une année scolaire, avec l'objectif d'analyser plus de sept cent mille opérations chaque année. Selon les profils, des parcours de jeu spécifiques seront proposés à chaque élève. L'ensemble s'appuie sur des chercheurs, aussi bien statisticiens que didacticiens et cognitivistes.
Jean-Marc Merriaux a également indiqué à vos rapporteurs qu'un continuum pédagogique entre le temps scolaire et le hors temps scolaire devrait émerger, à travers la présence future de systèmes d'intelligence artificielle, de robots ou de bots aussi bien à l'école qu'au sein de la maison, il s'agira d' « accompagner d'outils et d'interfaces pour assurer les usages au sein et en « « dehors de la classe. Sur ce point, l'intelligence artificielle peut sûrement apporter un certain nombre de réponses ».
Selon vos rapporteurs les nouvelles technologies ne seront pas en compétition avec les enseignants mais elles leur seront complémentaires , car venant en soutien de l'effort pédagogique. Jean-Marc Merriaux lors de son audition a également insisté sur la mutation en cours de la place et du rôle de l'enseignant sous l'effet de l'ensemble des évolutions évoquées, ainsi que sur la nécessité de l'accompagner dès lors que les nouvelles technologies seront parties intégrantes de son enseignement. L'intelligence artificielle intervient pour compléter le savoir-faire de l'enseignant, en le rendant plus accessible et mieux informé .
Les cours en ligne ouverts et massifs , ou MOOC ( massive open online courses en anglais) seront, de ce point de vue, des ressources utilisables pour appliquer ces nouvelles méthodes pédagogiques innovantes. Ces ressources en ligne permettront aux apprenants (en formation initiale ou continue) d'accéder dans des conditions optimales à la connaissance , ce dont se félicitent vos rapporteurs.
2. Une révolution potentielle de notre cadre de vie et de l'aide aux personnes
Vos rapporteurs sont convaincus de l' imminence de la possibilité d'une révolution de notre cadre de vie et de l'aide aux personnes . Des changements profonds sont à venir dans la connaissance et dans le contrôle de notre environnement et de la santé des populations. Les smart grids (réseaux de fourniture d'énergie permettant une consommation optimisée grâce à l'IA) et les smart cities (villes intelligentes) seront les expressions des bénéfices que nous pouvons tirer de l'intelligence artificielle. Et cela se traduira en matière de transports, de sécurité, de santé, de dépassement de la dépendance et du handicap. Notre cadre de vie, la qualité de nos vies seront améliorés par l'usage massif de technologies d'intelligence artificielle.
Il sera également possible de demander de plus en plus de choses à nos assistants personnels , ils pourront répondre à beaucoup de questions que nous nous posons dans notre vie quotidienne. Ils pourront de mieux en mieux comprendre, organiser et hiérarchiser l'information et la connaissance. Le cabinet d'études Gartner prévoit que 50 % des applications analytiques embarqueront des fonctions d'intelligence artificielle d'ici trois à cinq ans et qu'une large part des analyses sortant de ces applications sera glanée via des interactions vocales (chiffre annoncé lors du symposium annuel du cabinet en octobre 2016).
S'agissant des économies d'énergie , Google a ainsi l'objectif d'optimiser la consommation de ses data-centers et de la réduire drastiquement grâce à l'intelligence artificielle, tout en encourageant la production d'énergies renouvelables. En partenariat avec EDF, Kawartech développe à Toulouse un contrôle intelligent et autonome de l'éclairage public.
Le calendrier de déploiement des voitures autonomes reste incertain (5, 10, 15, 20, 30 ans ?) mais il est plus que probable que la conduite automobile sera dans le futur une activité réservée à des passionnés nostalgiques. La recherche avance en la matière, mais moins vite que la confiance dans les technologies. Ce n'est pas tant pour des raisons techniques que pour des raisons d'acceptabilité sociale, notamment en France, que le passage aux voitures autonomes risque de se voir retarder. Pourtant, les tests réalisés par Google-Waymo (3,5 millions de kilomètres parcourus, principalement en zone urbaine) illustrent la fiabilité croissante de ces véhicules. Les constructeurs automobiles déploient de plus en plus de projets en la matière (en particulier Renault, PSA, Volkswagen, Audi, BMW, Daimler-Benz, Honda, Toyota, GM, Ford, Chrysler, Fiat, Volvo...). Il peut être constaté que les véhicules collectifs autonomes, tels que les bus et navettes, sont mieux acceptés et sont d'ailleurs déjà en service.
Votre rapporteur Claude de Ganay a été étonné par des propos tenus par le grand maître de la confrérie « bérouettes et traditions » de Cernoy-en-Berry qui a expliqué, lors d'une réunion, tous les bienfaits que les robots et les systèmes d'intelligence artificielle pourraient avoir pour la ruralité, en particulier pour les personnes âgées, isolées ou dépendantes . Le cas des voitures autonomes a été d'abord évoqué, mais d'autres applications utiles vont émerger au profit du monde rural et des seniors.
En matière de handicap , la start-up américaine BrainRobotics a présenté au salon d'électronique CES de Las Vegas une prothèse de main capable d'interpréter les signaux envoyés par les muscles résiduels de l'utilisateur : le système d'intelligence artificielle repère certaines caractéristiques de ces signaux musculaires, comme leur ampleur par exemple, et les transmet à travers un algorithme de classification qui sépare les différents types de geste (poing fermé, index levé, etc.). Il transmet ensuite celui qu'il a identifié et son intensité au moteur de l'appareil.
L'intelligence artificielle peut aussi venir en aide aux malvoyants . Facebook et Microsoft, notamment, ont dévoilé l'an passé des systèmes capables de voir des images et d'en décrire le contenu pour les aveugles.
Hyundai ambitionne de son côté de s'attaquer à la paralysie avec des exosquelettes robotisés. Un prototype montré au Consumer Electronics Show (CES) à Las Vegas s'adresse plus particulièrement aux paraplégiques, auxquels il rend la capacité de se lever, marcher ou monter des escaliers. L'appareil, baptisé H-MEX, longe le bas de la colonne vertébrale et tout l'arrière des jambes, avec des attaches au niveau de la taille, des cuisses, des genoux et des pieds. Un système de motorisation permet de déclencher des mouvements de rotation au niveau des articulations, depuis des boutons de commande placés sur les béquilles et par l'intermédiaire d'une connexion sans fil. Hyundai n'a pas encore de plan pour produire des appareils grand public mais conduit des études cliniques dans des hôpitaux.
La start-up Japet de Lille a mis au point un exosquelette lombaire Atlas, destiné au milieu médical, et plus particulièrement aux centres de rééducation. Le dispositif repose sur quatre colonnes motorisées qui s'étirent pour décompresser la colonne verticale et soulager les douleurs lombaires. La commercialisation est visée pour la fin de l'année 2017 ou début 2018, et l'entreprise n'exclut pas de le décliner par la suite pour les problèmes au niveau des cervicales, ou pour les myopathies.
Au-delà de l'automobile et de la santé, d'autres secteurs amélioreront leurs offres au profit de toute la société : le contrôle de la qualité de l'air, avec les robots d'analyse de l'atmosphère, la domotique et l'électroménager etc.
3. Le défi de la cohabitation progressive avec des systèmes d'intelligence artificielle dans la vie quotidienne
Les agents conversationnels, chatbots ou bots , les robots de service, les agents d'assistance, d'accompagnement, d'aide à la mobilité vont progressivement cohabiter avec les humains. Cela nécessitera une grande vigilance . Une adaptation réelle sera aussi requise.
Au quotidien, nos smartphones avec des logiciels tels que « Siri », « Cortana » ou « Google Now », font d'ores et déjà cohabiter leurs utilisateurs avec des algorithmes puissants, qui connaissent beaucoup d'aspects de la vie de chacun d'entre nous.
À ce stade, les bots restent encore davantage des systèmes de questions-réponses , ils n'ont pas encore la mémoire des échanges et ne savent pas prendre en compte les aspects émotionnels, comme le souligne Laurence Devillers. Les bots devront savoir prendre en compte ces deux aspects et, demain, fonctionner sans connexion à Internet - souvent pour plus de sécurité et d'autonomie - ainsi que l'a expliqué à vos rapporteurs Alex Acero, directeur du projet Siri chez Apple. Aujourd'hui, les bots dépendent de l'existence d'une connexion au réseau, cette dépendance les rendant encore assez peu souples dans leur fonctionnement, ce qui peut contribuer à susciter de la méfiance.
Alors que la robotique industrielle connaît des applications selon le respect de la règle d'évitement des 4 D : « dangerous, dull, dirty, dumb » (dangereux, ennuyeux, sale, idiot), la robotique de service suit, comme le rappelle Laurence Devillers, la règle des 4 E : « everyday, e-health, education, entertainment » (accompagnement au quotidien, santé, éducation, loisirs).
L'éducation et la prévention sont indispensables dans ce contexte de cohabitation croissante entre les bots et les humains. Il convient de consacrer une grande attention aux logiques d'empathie et aux aspects émotionnels qui ne manqueront de se développer.
Yann LeCun se déclare convaincu que « les machines intelligentes du futur auront des sentiments, des plaisirs, des peurs, et des valeurs morales (et que) ces valeurs seront une combinaison de comportements, d'instincts et de pulsions programmées avec des comportements appris ». Cette perspective mérite de s'y attarder car, comme l'indiquent Rodolphe Gélin et Olivier Guilhem, respectivement directeur scientifique et directeur juridique d'Aldebaran puis de SoftBank Robotics, « la modélisation des émotions est une tâche presque plus facile que l'ensemble des problèmes que les roboticiens ont eu à régler (...), le robot qui utilisera les techniques de perception des émotions pourra quasiment lire à livre ouvert les émotions de son interlocuteur. Elles s'ajouteront aux programmes qui, dès aujourd'hui, sont capables de détecter la joie, la tristesse, la colère, voire le sarcasme, dans la voix du locuteur. La perception d'émotions n'est donc pas ce qui différenciera longtemps l'homme du robot. Quant à l'expression d'émotions, les règles de la politesse élémentaires suffiront largement à en faire un compagnon suffisamment empathique et à le rendre aussi sympathique qu'un bon commerçant sachant jouer au moment opportun la joie, la tristesse, l'excitation ou l'abattement pour s'accorder à son client même si son émotion personnelle est à l'opposé de ce qu'il doit exprimer pour respecter la bienséance. Le robot n'ayant pas d'émotion personnelle, il lui est encore plus facile d'exprimer celle que son interlocuteur attend (...) cette façon de jouer sur les émotions pourrait se rapprocher d'une forme de manipulation. Un programmeur doté de quelques connaissances en psychologie, et ils seront de plus en plus nombreux à y être formés, pourra jouer sur l'état émotionnel d'une personne pour la convaincre de prendre ses médicaments, de ne pas boire un verre de plus ou d'aller se coucher quand il est très tard ».
Pour le psychanalyste Serge Tisseron, spécialisé en intelligence artificielle et en robotique 143 ( * ) , utiliser ces techniques pour faire croire que les robots seront capables de sentiments serait malhonnête car la reconnaissance des émotions présente avant tout pour eux l'intérêt de permettre de s'adapter à l'état d'esprit de l'utilisateur et, partant, à le tromper. En donnant l'impression que le robot a des émotions (puisqu'il en exprime), son programmeur trompe l'interlocuteur et peut encourager la création d'un lien affectif disproportionné entre l'homme et la machine ou tromper sur les intentions de la machine.
En outre, la cohabitation avec des machines pose la question de la « vallée de l'étrange » ou Uncanny Valley (littéralement : vallée dérangeante). Ce champ de recherche scientifique, initié par le roboticien japonais Masahiro Mori en 1970, plaide pour les reproductions de certaines caractéristiques du vivant sans chercher une trop grande ressemblance, source de trouble et de gêne, encore difficiles à expliquer.
Cette expression imagée peut être représentée graphiquement, comme l'illustre le document suivant, cette vallée étant symbolisée par la zone de perception négative ressentie par un observateur humain face à un robot humanoïde ou un zombie. Cette représentation graphique de la théorie de la vallée de l'étrange pose en abscisse le degré d'apparence humaine (de zéro à 100 %) et en ordonnée le degré de familiarité et/ou d'acceptation.
Représentation graphique de la théorie de la vallée de l'étrange
Source : creativecommons.org/licenses/by-sa/3.0/
Votre rapporteur Claude de Ganay rappelle que dans la nouvelle de science-fiction « L'histoire du robot et du bébé » de John McCarthy, l'un des pères fondateurs de l'intelligence artificielle, co-organisateur en 1956 avec Marvin Minsky de l'école d'été de Dartmouth, il est imaginé qu'après l'émergence de l'intelligence artificielle forte et avec la vaste pénétration des robots dans la vie quotidienne, des robots d'assistance maternelle, pourtant conçus en conformité avec le principe éthique de « non-figuration humaine », devenu un des articles du code des robots, prennent une place de plus en plus grande : « de nombreux enfants devinrent plus attachés à leur robot nounou qu'à leurs vrais parents. On y remédia en rendant les robots nounous plus durs et en aidant les parents à rivaliser avec eux pour capter l'amour de leurs enfants. Quelquefois, ça marchait. Dans un deuxième temps, les robots furent programmés de telle sorte que plus les parents étaient sympas, plus le robot l'était, tout en laissant les parents gagner la compétition pour obtenir l'affection de leurs enfants. Le plus souvent, ça marchait ».
Au-delà de l'exemple tiré de cette fiction 144 ( * ) , les enjeux de la cohabitation quotidienne avec des intelligences artificielles, de leur acceptation et de leur régulation doivent et devront être appréhendés .
* 143 « Le jour où mon robot m'aimera », 2015.
* 144 L'évocation de cette nouvelle science-fiction permet aussi de replacer la réflexion dans les objectifs réellement poursuivis, qui ne sont ni l'IA forte, ni les robots d'assistance maternelle remplaçant les mères.