Pour une intelligence artificielle maîtrisée, utile et démystifiée - Rapport

N° 4594		N° 464
ASSEMBLÉE NATIONALE		SÉNAT
CONSTITUTION DU 4 OCTOBRE 1958 QUATORZIÈME LÉGISLATURE		SESSION ORDINAIRE 2016 - 2017
Enregistré à la présidence de l'Assemblée nationale		Enregistré à la présidence du Sénat
le 15 mars 2017		le 15 mars 2017

RAPPORT

au nom de

L'OFFICE PARLEMENTAIRE D'ÉVALUATION

DES CHOIX SCIENTIFIQUES ET TECHNOLOGIQUES

POUR UNE INTELLIGENCE ARTIFICIELLE MAÎTRISÉE,
UTILE ET DÉMYSTIFIÉE

TOME I : Rapport

PAR

Par M. Claude DE GANAY, député et Mme Dominique GILLOT, sénatrice

Déposé sur le Bureau de l'Assemblée nationale par M. Jean-Yves LE DÉAUT, Président de l'Office

Déposé sur le Bureau du Sénat par M. Bruno SIDO, Premier vice-président de l'Office

bat

« Science sans conscience n'est que ruine de l'âme »

Rabelais

« Dans la vie, rien n'est à craindre, tout est à comprendre »

Marie Curie

« L'intelligence, ça n'est pas ce que l'on sait, mais ce que l'on fait

quand on ne sait pas »

Jean Piaget

SYNTHÈSE DU RAPPORT

LES OBSERVATIONS

L'essor récent des technologies d'intelligence artificielle représente un bouleversement de nature à transformer profondément nos sociétés et nos économies mais reste soumis à une contrainte d'acceptabilité sociale assez forte sous l'effet de représentations souvent catastrophistes. Le concept d'intelligence artificielle renvoie à des technologies multiples , nées dans la seconde moitié du XX ^e siècle, qui reposent sur l' utilisation d'algorithmes . Ces technologies, dont les combinaisons sont en évolution constante, conduisent d'ores et déjà à des applications dans de nombreux secteurs et ouvrent un espace d'opportunités inédit , à même de révolutionner notre cadre de vie et l'aide aux personnes. Les progrès en ce domaine posent des questions auxquelles toute la société doit être sensibilisée : quels sont les opportunités et les risques qui se dessinent ? La France et l'Europe sont-elles dans une position satisfaisante dans la course mondiale qui s'est engagée ? Quelles places respectives pour la recherche publique et la recherche privée ? Quelle coopération entre celles-ci ? Quelles priorités pour les investissements dans la recherche ? Quels principes éthiques, juridiques et politiques doivent encadrer ces technologies ? La régulation doit-elle se placer au niveau national, européen ou international ?

L'irruption de l'intelligence artificielle au coeur du débat public remonte à un peu plus de deux ans, après la diffusion d'une lettre d'avertissement sur ses dangers potentiels , publiée en janvier 2015, signée par 700 chercheurs et entrepreneurs, lancée pour alerter l'opinion publique et insister sur l'urgence de définir des règles éthiques. Il est frappant de constater qu' aucun argument sérieux ne venait étayer cette première mise en garde quant au risque présumé de dérive malveillante . Pourtant, même sans justification, ni preuve, cette alerte a contribué à renforcer les peurs et les angoisses irrationnelles induites par le déploiement des technologies d'intelligence artificielle . Tout au long de l'année 2016, les initiatives en ce domaine se sont multipliées à un rythme effréné. Après l'irruption de l'intelligence artificielle dans le débat public en 2015, l'année 2016 et le premier trimestre 2017 ont en effet été jalonnés de nombreux événements et rapports . Devant cet emballement, alors que les progrès se font à une vitesse exponentielle et reposent de plus en plus sur un financement privé aux moyens considérables, il est indispensable que la réflexion soit conduite de manière sereine et rationnelle , afin de démystifier les représentations biaisées de ce concept et de mettre en avant les opportunités et les risques qui lui sont liés .

Ces représentations excessives, qui peuvent être totalement opposées, sont accentuées par la phase générale de progrès dans laquelle on se situe : en effet, la période récente s'apparente à un véritable « printemps de l'intelligence artificielle ». Cette période polarise donc les opinions, qui peuvent être des angoisses excessives mais aussi des espoirs démesurés : les cycles d'espoirs et de déceptions qui jalonnent l'histoire de cette technologie invitent à ne pas trop s'enthousiasmer et à faire preuve d'attentes réalistes .

Les applications sectorielles présentes ou futures, riches de la capacité prédictive de ces technologies, sont d'envergure considérable et les évolutions peuvent cependant être rapides, que l'on pense par exemple à l'éducation, à l'environnement, à l'énergie, aux transports, à l'aéronautique, à l'agriculture, au commerce , à la finance, à la défense, à la sécurité, à la sécurité informatique, à la communication, aux loisirs, à la santé, à la dépendance ou, encore, au handicap .

Le présent rapport fournit un état de la recherche sur le concept d'intelligence artificielle et fait le point sur de nombreux autres rapports parus récemment sur le sujet en France et dans le monde. Il présente aussi les enjeux éthiques, juridiques, économiques, sociaux et scientifiques de ces technologies , parmi lesquels la place prépondérante de la recherche privée, dominée par les entreprises américaines et, potentiellement, chinoises, l'accélération du passage à une économie globalisée dominée par des « plateformes », les transformations du marché du travail, les régimes de responsabilité, les biais et les problèmes posés par les données et les algorithmes, le phénomène de « boîtes noires » des algorithmes et la question des « bulles d'information ». Il évoque, par ailleurs, certains sujets d'interrogation liés à la « singularité », à la « convergence NBIC » et au « transhumanisme » et souligne la nécessité d'une prise en compte grandissante de règles éthiques .

Les progrès en intelligence artificielle sont d'abord et avant tout bénéfiques . Ils comportent aussi des risques , qu'il serait malhonnête de nier. Mais ces risques peuvent et doivent être identifiés, anticipés et maîtrisés . L' imminence d'une superintelligence ne fait pas partie de ces risques à court et moyen termes mais relève du fantasme. À long terme , la réalité de cette menace n'est pas certaine . Le présent rapport se veut une première contribution à un travail indispensable d'identification, d'anticipation et de maîtrise des risques réels. Ce travail de démystification et d'objectivation doit être collectif, interdisciplinaire et international .

Ni quête vaine ni projet de remplacement de l'homme par la machine, l' intelligence artificielle représente une chance à saisir pour nos sociétés et nos économies . La France doit relever ce défi . Il convient donc d'aller au-delà des apparences et de regarder la réalité scientifique derrière les espoirs et les angoisses s'exprimant en réaction au développement de cette technologie afin que le débat public puisse s'engager sereinement .

Le rapport se prononce pour une intelligence artificielle maîtrisée, utile et démystifiée : maîtrisée, parce que ces technologies devront être les plus sûres, les plus transparentes et les plus justes possibles ; utile parce qu'elles doivent, dans le respect des valeurs humanistes, profiter à tous au terme d'un large débat public ; démystifiée, enfin, parce que les difficultés d'acceptabilité sociale constatées résultent largement de visions catastrophistes sans fondement . Plutôt qu'une hypothétique confrontation dans le futur entre les hommes et les machines, qui relève d'une forme de science-fiction dystopique, les rapporteurs sont convaincus du bel avenir de la complémentarité homme-machine . Nous allons bien plus vers une intelligence humaine augmentée que vers une intelligence artificielle concurrençant l'homme.

LES PROPOSITIONS

I. Pour une intelligence artificielle maîtrisée

Proposition n° 1 : Se garder d'une contrainte juridique trop forte sur la recherche en intelligence artificielle, qui - en tout état de cause - gagnerait à être, autant que possible, européenne, voire internationale, plutôt que nationale.

Proposition n° 2 : Favoriser des algorithmes et des robots sûrs, transparents et justes et prévoir une charte de l'intelligence artificielle et de la robotique.

Proposition n° 3 : Former à l'éthique de l'intelligence artificielle et de la robotique dans certains cursus spécialisés de l'enseignement supérieur.

Proposition n° 4 : Confier à un institut national de l'éthique de l'intelligence artificielle et de la robotique un rôle d'animation du débat public sur les principes éthiques qui doivent encadrer ces technologies.

Proposition n° 5 : Accompagner les transformations du marché du travail sous l'effet de l'intelligence artificielle et de la robotique en menant une politique de formation continue ambitieuse visant à s'adapter aux exigences de requalification et d'amélioration des compétences.

II. Pour une intelligence artificielle utile, au service de l'homme et des valeurs humanistes

Proposition n° 6 : Redonner une place essentielle à la recherche fondamentale et revaloriser la place de la recherche publique par rapport à la recherche privée tout en encourageant leur coopération.

Proposition n° 7 : Encourager la constitution de champions européens en intelligence artificielle et en robotique, tout en poursuivant le soutien aux PME spécialisées, en particulier les start-up.

Proposition n° 8 : Orienter les investissements dans la recherche en intelligence artificielle vers l'utilité sociale des découvertes.

Proposition n° 9 : Élargir l'offre de cursus et de modules de formation aux technologies d'intelligence artificielle dans l'enseignement supérieur et créer - en France - au moins un pôle d'excellence international et interdisciplinaire en intelligence artificielle et en robotique.

Proposition n° 10 : Structurer et mobiliser la communauté française de la recherche en intelligence artificielle en organisant davantage de concours primés à dimension nationale, destinés à dynamiser la recherche en intelligence artificielle, par exemple autour du traitement de grandes bases de données nationales labellisées.

Proposition n° 11 : Assurer une meilleure prise en compte de la diversité et de la place des femmes dans la recherche en intelligence artificielle.

III. Pour une intelligence artificielle démystifiée

Proposition n° 12 : Organiser des formations à l'informatique dans l'enseignement primaire et secondaire faisant une place à l'intelligence artificielle et à la robotique.

Proposition n° 13 : Former et sensibiliser le grand public à l'intelligence artificielle par des campagnes de communication, l'organisation d'un salon international de l'intelligence artificielle et de la robotique et la diffusion d'émissions de télévision pédagogiques.

Proposition n° 14 : Former et sensibiliser le grand public aux conséquences pratiques de l'intelligence artificielle et de la robotisation.

Proposition n° 15 : Être vigilant sur les usages spectaculaires et alarmistes du concept d'intelligence artificielle et de représentations des robots.