Intelligence artificielle
M. le président. - L'ordre du jour appelle le débat sur l'intelligence artificielle, à la demande de l'Office parlementaire d'évaluation des choix scientifiques et technologiques (Opecst) et de la délégation sénatoriale à la prospective.
M. Stéphane Piednoir, président de l'Opecst . - (Applaudissements sur les travées du groupe Les Républicains) Plus une journée ne se passe sans qu'on évoque l'intelligence artificielle (IA) dans les médias, les réunions d'experts, le monde du travail ou les universités. Mais on entend beaucoup de propos approximatifs ou superficiels. On envisage à la fois le pire et le meilleur, tant il est vrai que l'IA fascine et inquiète en même temps.
C'est pourquoi l'Opecst et la délégation sénatoriale à la prospective ont demandé conjointement ce débat. Avec Christine Lavarde, nous tenions à ce que le Sénat examine ce sujet hautement stratégique.
Je vous invite à consulter le rapport « ChatGPT et après ? Bilan et perspectives de l'intelligence artificielle », coécrit par nos collègues Patrick Chaize et Corinne Narassiguin à la demande des Bureaux du Sénat et de l'Assemblée nationale pour les quarante ans de l'Opecst. Certes un peu ardu, mais essentiel, il traite des possibilités ouvertes par l'IA, mais aussi de ses enjeux géopolitiques.
La puissance des entreprises technologiques américaines - Google, Microsoft, Amazon et Meta, auxquelles s'ajoute Nvidia - est connue de tous. L'aspiration de la Chine à devenir leader mondial dans ce domaine d'ici 2030 s'exprime régulièrement à travers des annonces fortes.
Dans ce contexte, le défi pour l'Europe et la France est d'assurer leur souveraineté numérique. L'Union européenne mise aujourd'hui sur la régulation ; mais contrer la domination de la Big Tech suppose le développement d'acteurs français et européens puissants.
Lors du sommet sur l'IA qui s'est tenu à Paris il y a deux mois, une coalition de plus de soixante entreprises européennes a été créée. Où en est cette initiative ? Quels sont la vision et le plan d'action de l'Europe et de la France ?
Une stratégie européenne est d'autant plus nécessaire que les manipulations et les atteintes à la sécurité créées à partir de systèmes d'IA prennent une ampleur chaque jour plus importante. L'Opecst et ses homologues européens ont précisément consacré leur dernière réunion aux relations de l'IA avec la démocratie.
Plus insidieuse encore est la domination culturelle que les systèmes d'IA favorisent : dominés par des acteurs anglo-saxons, ils risquent d'entraîner une forme d'uniformisation cognitive et d'appauvrir la diversité culturelle et linguistique.
Il est urgent de construire des systèmes d'IA entraînés avec des données en français et construits autour de nos valeurs. Notre exception culturelle est en danger. Comment nous assurer que l'IA respecte les droits de l'homme et nos valeurs humanistes ?
Dans le domaine scientifique, l'IA offre de vraies promesses qui permettront de résoudre des problèmes complexes - je pense notamment à la génomique. Il n'est pas anodin que les prix Nobel 2024 de physique et de chimie soient revenus à des chercheurs en IA. Quelles sont les mesures prises pour aider nos scientifiques à accélérer leurs recherches au moyen de ces outils ?
Nombre de promesses ont été faites ces dernières années : des centaines de millions d'euros, neuf pôles d'excellence, la formation de 100 000 personnes par an. Mais les actes ne sont pas au rendez-vous et coordination et pilotage font défaut, comme l'a récemment souligné la Cour des comptes.
Madame la ministre, vous êtes l'une des premières au monde à avoir dans l'intitulé de votre poste l'intelligence artificielle. Mais avez-vous les moyens nécessaires pour piloter cette politique stratégique ? Avez-vous autorité sur les services de Bercy qui négocient dans le cadre européen ? Êtes-vous en contact avec vos homologues européens qui ont une vision proche de la nôtre ?
Le récent rapport de Philippe Aghion et Anne Bouverot souligne la nécessité d'une coordination européenne et appelle à un investissement massif de 27 milliards d'euros sur cinq ans pour la formation et la recherche. Allez-vous retenir certaines de ses propositions ?
Il y a urgence à nous doter d'une stratégie en matière d'IA. En outre, nous devons oeuvrer à une indispensable régulation mondiale, actuellement éparpillée entre différents organismes : l'Europe doit prendre le leadership en la matière, en liaison avec l'OCDE. Il faut aussi accompagner le déploiement de ces technologies dans le monde du travail et former les collégiens, lycéens et étudiants, ainsi que le grand public, à l'usage de l'IA et aux risques associés.
Je ne doute pas de la richesse de notre débat. (Applaudissements sur les travées du groupe Les Républicains ; Mme Marie-Laure Phinera-Horth et M. Pierre Ouzoulias applaudissent également.)
Mme Clara Chappaz, ministre déléguée chargée de l'intelligence artificielle et du numérique . - Vous l'avez dit : pas un jour sans qu'on n'entende parler d'IA, que deux Français sur cinq disent avoir déjà utilisée. Loin de n'être qu'une innovation technologique, elle modifie nos façons de produire, de décider et d'envisager le monde, donc de gouverner. C'est le sens de la création d'un ministère de l'IA, comme en d'autres temps des postes ou du numérique.
Je salue le travail mené par les parlementaires, notamment au sein de l'Opecst.
Nous faisons face à une redistribution profonde des pouvoirs économiques, scientifiques et cognitifs. L'enjeu fondamental, c'est notre capacité à orienter le progrès, à lui donner un sens, à rester maîtres de nos choix. Nous devons répondre à cette question essentielle : qui décide et au nom de quoi ? Giuliano da Ampoli, dans L'Heure des prédateurs, compare les responsables politiques à Moctezuma face à Cortés, fasciné et impuissant. La comparaison est excessive, mais touche un point sensible. Oui, nous, politiques, avons parfois du mal à suivre le progrès technologique ; oui, une poignée d'acteurs économiques concentrent une puissance inédite. Mais non, la puissance publique n'est pas condamnée à l'impuissance.
Le Gouvernement agit pour faire de la France une championne de l'IA. C'est le sens de la stratégie nationale pour l'intelligence artificielle que nous avons mise en place et qui a permis d'investir plus de 2,5 milliards d'euros dans la recherche. Nous avons 14 médailles Field et des talents reconnus dans le monde entier. Nous avons créé neuf clusters IA, sur tout le territoire, et formerons plus de 100 000 personnes par an d'ici 2030. Nous avons développé notre capacité de calcul avec le calculateur Jean Zay et attirons les meilleurs centres de recherche mondiaux.
Nous avons plus de 1 000 start-up, dont Mistral AI, Hugging Face et Aqemia. Reconnues dans le monde entier, elles nous permettent d'être dans la course mondiale et d'offrir une troisième voie entre les États-Unis et la Chine.
Le sommet pour l'action sur l'IA, qui s'est tenu en France au mois de février, a marqué une nouvelle étape décisive. Nous avons lancé la troisième étape de notre stratégie nationale pour l'intelligence artificielle et instauré le comité interministériel de l'IA, sous l'égide du Premier ministre. Les moyens nécessaires sont mobilisés, et nous sommes tous à la tâche pour avancer.
Lors de ce sommet, 109 milliards d'euros d'investissements ont été annoncés pour développer l'IA et les infrastructures nécessaires au calcul en France.
Nous sommes attendus pour donner un cap à la gouvernance mondiale que le rapport de l'Opecst appelle de ses voeux. La création de la fondation Current AI pour financer des IA d'intérêt général, la signature d'une coalition mondiale pour une IA durable et la déclaration commune rassemblant soixante-deux pays pour une IA inclusive et éthique vont dans ce sens.
Nous devons permettre à chacun de s'emparer de l'IA : c'est une condition de la compétitivité de notre économie, mais surtout une nécessité pour construire une société inclusive dans laquelle l'innovation bénéficie à toutes et tous.
L'IA transforme déjà nos vies. Je l'ai vu à l'hôpital de Bourg-en-Bresse, où un médecin peut détecter une embolie pulmonaire ; à Quimper, où un lycéen dyslexique comprend enfin ses cours grâce à un surlignage automatique ; dans les Ardennes, où un agriculteur arrose moins, mais récolte plus ; à Bercy, où les agents de la DGFiP ciblent mieux leurs dossiers, ou dans les maisons France Service, où les personnels répondent plus facilement aux usagers.
Pourtant, l'IA suscite toujours certaines craintes et n'est pas utilisée par toutes et tous. Quand sept jeunes de 18 à 24 ans sur dix l'utilisent quotidiennement, ce n'est le cas que de deux personnes de plus de 60 ans sur dix. Seulement 5 % des PME l'utilisent au quotidien, contre plus d'un tiers des grandes entreprises. Globalement, nous ne sommes pas en avance en matière d'adoption de cette technologie. Or l'IA ne sera un progrès qu'à la condition de ne pas être réservée à une minorité. Pour qu'elle soit un moyen d'émancipation des personnes et de résorption de la fracture numérique, nous organisons des milliers de cafés IA et, à la prochaine rentrée, des cours seront dispensés aux élèves de quatrième et de seconde pour les aider à comprendre l'IA et à développer leur esprit critique.
Notre objectif doit être d'orienter l'IA sans entraver l'innovation, mais en nous appuyant sur la réglementation européenne. Oui, l'Europe régule. Parce que, en Européens, nous avons décidé que la loi du plus fort ne devait pas l'emporter : pas question, par exemple, qu'une IA puisse déterminer l'orientation sexuelle des personnes.
L'IA que nous voulons est innovante, compétitive et fidèle à nos valeurs : c'est une technologie au service de l'humain et de notre prospérité.
Mme Marie-Laure Phinera-Horth . - Trois rapports de l'Opecst ont déjà abordé l'IA ; le dernier analyse les technologies actuelles et les tendances à venir.
Au nombre des enjeux figurent la reconnaissance, la traduction et la restitution de nos langues régionales et autochtones. Avec 15 millions de locuteurs dans le monde, les langues créoles, en particulier, offrent à notre pays un terrain sur lequel il peut prendre l'avantage.
En France, près de 2 millions de personnes parlent quotidiennement des créoles à base lexicale française : plus de 80 % des habitants de La Réunion et plus de 70 % de ceux des Antilles. En Guyane, les créoles guyanais et haïtien forment un lien entre les différentes communautés.
Depuis 2005, un enseignement des langues et cultures régionales peut être dispensé dans le cadre de la scolarité. Je salue le travail des associations ultramarines grâce auxquelles une épreuve de créole est proposée au baccalauréat.
Interrogée sur le créole, l'IA reconnaît ses limites, faute de données. Or ces langues nécessitent une attention particulière pour éviter les approximations et les clichés nuisibles à notre imaginaire collectif. En nous appuyant sur nos talents académiques et littéraires, nous devons constituer un socle de données destiné à faire rayonner le créole à travers l'IA : nous renforcerons ainsi les liens entre la France des cinq océans et le reste du monde.
Comment l'État entend-il relever ce défi pour assurer une compréhension améliorée et une diffusion renforcée de notre culture plurielle ?
Mme Clara Chappaz, ministre déléguée. - Nous devons développer des intelligences artificielles européennes pour protéger nos valeurs, dont la défense de notre patrimoine linguistique. C'est pourquoi, avec Rachida Dati, j'ai lancé le 20 mars dernier un programme de mise en commun au niveau européen de moyens et de données pour permettre aux modèles de prendre en compte la richesse linguistique française et européenne. Plus de 80 millions d'euros sont prévus pour ce projet.
M. Bernard Fialaire . - Mon rapport sur l'éducation à l'IA, écrit avec Christian Bruyen dans le cadre de la délégation à la prospective, fixe trois axes : mieux accompagner les enseignants, encourager une culture citoyenne de l'IA et développer la recherche.
Nous proposons notamment de garantir une évaluation indépendante des technologies mises à disposition dans le cadre scolaire et de créer un observatoire de l'IA à l'école, mais aussi de réfléchir à utiliser l'IA pour analyser les données recueillies à l'occasion des évaluations nationales.
De fait, ces données sont séquestrées par l'éducation nationale : nous privons ainsi d'un véritable atout nos entreprises technologiques, dont les performances dans le domaine de l'éducation sont reconnues.
Mme Clara Chappaz, ministre déléguée. - L'éducation à l'intelligence artificielle est fondamentale. Nous devons développer des outils pour accompagner non seulement les jeunes, mais aussi les professeurs.
La transparence est essentielle. À ce sujet, nous avons lancé, lors du Sommet pour l'action sur l'IA, l'Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (Inesia), destiné à évaluer et garantir la transparence des modèles. Nous sommes en train de définir sa feuille de route, et une attention particulière sera prêtée à l'éducation.
S'agissant des outils à mettre à la disposition des élèves et des professeurs, le ministère de l'éducation nationale a entrepris de recenser les outils disponibles. Un premier bilan de ce travail est en cours.
M. Bernard Fialaire. - J'insiste : nous ne pouvons pas laisser l'éducation nationale séquestrer les données d'évaluation, qui constituent un réservoir précieux pour nos entreprises, assez performantes dans ce domaine.
Mme Catherine Morin-Desailly . - En matière d'IA, le risque est de voir se constituer, comme pour le cloud, une hégémonie des Big Tech qui accroîtrait un peu plus encore nos dépendances.
Lors du récent sommet, le Président de la République a annoncé 109 milliards d'euros d'investissements. Comment ce plan se déclinera-t-il concrètement ? Va-t-on tirer les leçons du passé et reconnaître que les précédents plans n'ont pas permis de faire émerger un seul acteur de dimension internationale ? Je rappelle que 80 % des technologies utilisées en France sont américaines...
Par ailleurs, je vous ai interpellée au sujet du règlement sur l'IA il y a quelques semaines, mais vous ne m'avez pas répondu sur la négociation en cours du code de bonnes pratiques. Plusieurs acteurs ont exprimé leur colère face au poids disproportionné des Big Tech dans ce processus. Reporters sans frontières s'est même retirée des négociations. Les acteurs de la culture, soutenus par Rachida Dati, demandent plus de garanties pour le respect des droits d'auteur et droits voisins. Quelle est votre position ?
Mme Clara Chappaz, ministre déléguée. - La souveraineté numérique et technologique est un enjeu qui me tient fortement à coeur. Les 109 milliards d'euros annoncés lors du sommet pour l'action sur l'IA correspondent à des investissements en infrastructures, réalisés par des consortiums de financeurs internationaux et nationaux. Notre objectif est de disposer d'une offre de cloud qui réponde à un très fort niveau de sécurité, avec la certification SecNumCloud. Il s'agit d'attirer les moyens pour créer les infrastructures nécessaires et soutenir la montée en puissance des acteurs français et européens.
Sur le règlement pour l'intelligence artificielle, les négociations sont en cours et la Commission européenne n'a pas rendu les derniers arbitrages. Je considère que le règlement et le code of practice doivent rester fidèles à ce qui a été négocié, c'est-à-dire encadrer les usages et garantir la transparence. La voix des petits acteurs doit être entendue, j'y veillerai.
Mme Catherine Morin-Desailly. - Pour réaliser les investissements massifs nécessaires, la France doit mener une action concertée et volontariste avec les autres États membres de l'Union européenne. Il faut revoir le plan Horizon 2030 et construire une stratégie offensive de soutien à la recherche et à nos entreprises, avec des programmes transversaux financés par des mécanismes innovants. Nos entreprises françaises et européennes doivent enfin pouvoir compter sur la commande publique. Encore récemment, l'État a pris une décision choquante en matière d'enseignement supérieur, en faveur de Microsoft. Nous exigeons que cela change.
En ce qui concerne le règlement, nous vous demandons de plaider pour la prise en compte des enjeux informationnels et la défense du droit à une information fiable. Nous exigeons la fin du pillage des données des journalistes et des créateurs et l'application du droit d'auteur et des droits voisins. Nous comptons sur vous.
Mme Clara Chappaz, ministre déléguée. - Je veillerai à ce qu'on respecte le droit d'auteur : j'ai lancé avec Rachida Dati une concertation sur le sujet, destinée à valoriser notre patrimoine culturel à l'heure de l'intelligence artificielle.
Mme Catherine Morin-Desailly. - Merci pour votre réponse.
M. Pierre Ouzoulias . - Le 10 avril dernier, au cours du débat sur la protection du droit d'auteur, vous avez dit qu'il faut défendre ce droit, mais aussi notre capacité à innover. Tout le monde en est d'accord. De toute façon, une réglementation prohibitive ne pourrait pas être appliquée.
Vous avez dit aussi : nous ne sommes pas face à une question de transparence ; l'enjeu est le modèle d'affaires. Je ne partage pas ce point de vue.
La transparence est un enjeu fondamental. Catherine Morin-Desailly l'a dit : il y a un pillage systématique des données, encouragé par l'administration américaine. Trêve d'irénisme sur le sujet !
Une agence américaine a envoyé un courrier à la Commission européenne pour lui signifier qu'elle n'acceptait pas le code de bonne conduite en cours de rédaction. Nous craignons des reculs sur la protection du droit d'auteur, alors même que la règle actuelle est déjà très peu contraignante, les plateformes n'étant tenues qu'à des efforts suffisants pour respecter ce droit.
Comment comptez-vous agir pour protéger le droit d'auteur ?
Mme Clara Chappaz, ministre déléguée. - Je le répète, je suis attachée au droit d'auteur. C'est pourquoi j'ai lancé avec Rachida Dati la concertation dont j'ai déjà parlé.
Le droit à l'opt-out doit être respecté. Nous devons trouver une solution gagnant-gagnant pour les auteurs et les innovateurs. Au-delà de la question de la transparence, il faut réfléchir au modèle de rémunération.
Mme Ghislaine Senée . - Le développement exponentiel de l'IA marque une révolution. Pour ne pas manquer ce tournant technologique, l'heure est à la décision.
Le GEST appelle au pragmatisme et à l'humilité. Face à des puissances mondiales tentées par la dérégulation sans limite, nous devons défendre, avec nos partenaires européens, un modèle régulé, souverain, transparent et respectueux des droits fondamentaux. Par ailleurs, le développement illimité de l'IA n'est pas compatible avec notre capacité de production électrique actuelle ni, plus généralement, avec les limites planétaires.
Voyez les data centers : leur consommation d'électricité devrait doubler d'ici à 2030. Nous allons devoir faire des choix. Quelles priorités comptez-vous fixer, alors que les besoins pour la transition vers les énergies décarbonées sont en augmentation constante ? Comment éviter des effets négatifs sur d'autres activités davantage pourvoyeuses d'emplois, comme l'industrie ?
Mme Clara Chappaz, ministre déléguée. - Notre priorité est d'attirer les acteurs de l'IA pour qu'ils s'entraînent en France. Nous avons accès à une énergie décarbonée.
Nous devons aussi encourager la recherche sur la frugalité des modèles. La coalition pour une IA durable défend des modèles moins consommateurs. OVH a un système unique au monde d'eau de refroidissement en circuit fermé pour ses data centers, preuve qu'il est possible de réduire l'empreinte de l'IA. L'Afnor travaille à la définition d'une IA frugale.
Mme Ghislaine Senée. - Certes, mais il faudra faire des choix ! Produire une photo à la Miyazaki, faire parler des personnes disparues ou choisir sa meilleure coiffure via l'IA consomme énormément d'énergie. Est-ce bien nécessaire ? Il faudra réguler les cas d'usage.
Mme Clara Chappaz, ministre déléguée. - On ne parle que de 0,1 % de la consommation énergétique. Il faudra évaluer les retours des investissements en matière écologique. Mais chacun doit pouvoir s'approprier l'IA avec ses propres usages. Apprendre à mieux prompter, donc éduquer à l'IA, est un moyen de mieux utiliser l'IA et de moins consommer.
Mme Ghislaine Senée. - Ce qui m'inquiète, c'est la création des besoins. Je ne doute pas que nous trouverons des solutions pour consommer moins d'énergie, mais si, sur TikTok, on pousse les jeunes à aller jouer, il faudra un courage politique pour s'y opposer auquel je ne crois pas. Il y a des décisions de régulation à prendre pour éviter que l'IA ne devienne ingérable. Nous n'aurons que nos yeux pour pleurer quand nous aurons détruit toutes les ressources de ce monde !
Mme Sylvie Robert . - En se dotant d'un règlement sur l'IA, l'Union européenne a été pionnière avec une approche équilibrée.
Dans ce RIA, les obligations sur la transparence sont essentielles. Or Catherine Morin-Desailly et Pierre Ouzoulias l'ont dit, cette transparence est loin d'être toujours effective.
Dans le domaine culturel, elle est particulièrement lacunaire, au point de porter atteinte au droit d'auteur. La dernière version du projet de code des bonnes pratiques présentée en avril a braqué les ayants droit, au point qu'ils hésitent à claquer la porte des négociations, préférant une absence d'accord plutôt qu'un mauvais accord. Le Gouvernement doit adopter une position très forte en arrêtant d'arguer du soutien à l'innovation. Quelle est la position de la France dans les négociations actuelles ? Allez plus loin dans votre réponse, madame la ministre. Quelles garanties ? Quels mécanismes de juste répartition de la valeur ?
Mme Clara Chappaz, ministre déléguée. - Dans le RIA, l'article 50 fixe des obligations de transparence aux modèles en fonction des usages. Des audits préalables à la mise sur le marché sont envisagés pour les plus hauts risques.
La question du droit d'auteur n'est pas simple. Il nous faut trouver une formule permettant aux ayants droit de faire valoir leurs droits tout en préservant le secret des affaires. Je crois à la concertation. Nous avons lancé officiellement avec Rachida Dati une consultation la semaine dernière. Le sujet est difficile, mais dans le dialogue, nous trouverons une solution.
Mme Sylvie Robert. - J'ai lié la transparence au droit d'auteur, car tant que les ayants droit n'auront pas accès aux données, leurs droits ne seront pas respectés. La France a une responsabilité en la matière. La défense du droit d'auteur par Beaumarchais fait partie intrinsèque de notre histoire. La volonté politique doit être au rendez-vous.
Mme Clara Chappaz, ministre déléguée. - Je suis d'accord sur ce point.
Il y a plusieurs moyens de faire valoir ce droit. Mais le droit d'auteur n'est pas extraterritorial.
Ne reproduisons pas les erreurs du passé et ne retombons pas dans la dépendance technologique vis-à-vis d'acteurs extraeuropéens.
M. Pierre Jean Rochette . - La course mondiale à l'IA ne se joue pas que sur l'innovation technologique, mais aussi sur son adoption à grande échelle par les entreprises, les administrations et les citoyens. De récentes analyses montrent que la capacité à intégrer l'IA dans les usages quotidiens est cruciale.
La Chine semble rattraper rapidement son retard. La moitié de ses entreprises utilise l'IA contre seulement un tiers des entreprises américaines.
Quelle est la maturité de l'IA en France ? Disposerons-nous d'indicateurs clairs pour mesurer l'adoption de l'IA par les entreprises ? Quels usages ? Quelles mesures de la stratégie nationale pour encourager l'utilisation de l'IA ?
Nous devons également nous interroger sur l'usage de l'IA dans les collectivités territoriales et sur l'utilisation des données via les logiciels proposés aux collectivités territoriales. C'est un enjeu de souveraineté. Il faut sans doute accompagner les collectivités.
Mme Clara Chappaz, ministre déléguée. - Vous avez raison : la priorité de cette troisième phase de l'IA doit être l'utilisation, indispensable pour obtenir des gains de compétitivité. Comment faire ? Sous l'égide du Premier ministre, avec le comité interministériel pour l'IA, nous avons demandé à chaque ministère, assisté par la direction interministérielle du numérique (Dinum), comment il a utilisé l'IA, quels sont les cas d'usage, et à quelle échelle ?
Nous mettrons cela en avant lors de VivaTech dans un mois : nous réunirons alors de nouveau le Comité interministériel de l'IA.
Nous travaillons avec les différentes associations représentant les collectivités territoriales.
Nous suivons la diffusion de l'IA dans les entreprises. D'après un sondage, 5 % des PME et 35 % des grandes entreprises utilisent l'IA. Nous nous appuyons sur les chambres de commerce et d'industrie (CCI), qui accompagnent 20 000 entreprises dès cette année à l'utilisation de l'IA ; l'IA Booster, financé par l'État, accompagne les petites entreprises, et nous travaillons à un portail permettant aux entreprises de trouver des solutions adaptées.
M. Patrick Chaize . - Dans le contexte actuel où l'IA joue un rôle de plus en plus central, comment assurer une gouvernance efficace et éthique de l'IA ? Quelles sont les principales problématiques à prendre en compte ? Quelle réglementation mettre en place pour minimiser les risques liés aux biais algorithmiques et à l'automatisation des décisions ? Comment impliquer les différents acteurs de la société ? Comment trouver un équilibre entre l'innovation technologique et la protection des droits des individus ?
Mme Clara Chappaz, ministre déléguée. - Je ne reviens pas sur le RIA. Au niveau français, nous nous appuyons sur l'Inesia, sur les cafés IA que nous avons lancés avec le Conseil national du numérique (CNNum) pour être au plus près des citoyens. Nous travaillons à définir quelles administrations auront en charge la mise en place du RIA ; vous aurez de la visibilité là-dessus très prochainement.
La gouvernance doit enfin être internationale. C'était l'objet du sommet pour l'action sur l'IA. Nous avons ainsi renouvelé notre soutien au partenariat mondial pour l'intelligence artificielle (PMIA), lancé par le Président de la République et Justin Trudeau en 2018, et qui réunit plus de soixante pays.
M. Ludovic Haye . - Un enjeu est de plus en plus central : comment articuler IA et réchauffement climatique. Nous assistons à une explosion de l'IA générative pour le grand public. Vous n'avez pas pu passer à côté des starter packs, dont plus de 750 millions d'exemplaires ont été générés.
Or chaque génération d'image consomme et laisse une empreinte carbone. Un starter pack consomme trois à cinq litres d'eau, sans compter l'électricité nécessaire.
Cette frénésie d'usages pose une question : cette consommation est-elle soutenable à long terme ? Il faut privilégier son utilité concrète.
Car l'IA est aussi un allié précieux dans la lutte contre le réchauffement climatique, par exemple par une gestion intelligente des réseaux. Ce constat se retrouve dans le dernier rapport sur l'IA du Cese, dans le manifeste des intercommunalités de France sur l'IA, dans les axes stratégiques définis par le MEDEF pour le développement de l'IA et au coeur des sept principes de l'IA de confiance établis par le Conseil d'État en 2022. Comment faire de l'IA un outil au service de la transition écologique ?
Mme Clara Chappaz, ministre déléguée. - Nous entendons l'importance que nos concitoyens accordent à cette question. C'est pourquoi nous promouvons une IA à la française, durable.
Prenons toutefois un peu de recul : l'IA ne représente que 0,1 % de la consommation. Des spationautes ne veulent pas faire de starter pack ; mais quelle est la consommation énergétique d'un vol en fusée ?
Le plus grand risque serait que la population se freine dans l'adoption de l'IA, qui va transformer tous les métiers. Nous devons faire de l'écologie notre alliée. C'est ce que nous pouvons faire en France, car nous avons l'une des énergies bas-carbone les plus compétitives au monde.
Qui dit modèle plus petit, dit modèle plus économique. Le retour sur investissement des entreprises sera plus important. C'est gagnant-gagnant.
L'IA peut accélérer la transition écologique ; j'ai ainsi rencontré des chercheurs qui ont gagné plusieurs années dans leur projet de matériau remplaçant le plastique.
La prise de conscience est essentielle, mais cela ne doit pas freiner l'adoption de l'IA.
M. David Ros . - Nous sommes tous convaincus que ce débat est essentiel pour l'avenir de notre pays. Je salue le président Stéphane Piednoir.
Un rapport Narassiguin-Chaize a déjà soulevé de nombreuses questions.
Sylvie Robert vous a interrogée sur le droit d'auteur et Adel Ziane posera une question sur la souveraineté. Pour ma part, je m'intéresserai à la formation et à la recherche.
Lors des questions d'actualité du 12 février, j'interrogeais Élisabeth Borne sur le déploiement de l'IA dans l'éducation nationale. Quelles sont les expérimentations en cours ? Quelles sont les directives pour la rentrée 2026 ?
Madame la ministre, avez-vous d'autres ambitions qui pourraient prendre place sur le temps scolaire et hors temps scolaire ? Ne faut-il pas créer des pôles de formation ? C'est important pour les générations à venir.
Mme Clara Chappaz, ministre déléguée. - L'éducation est fondamentale si l'on veut éviter la fracture numérique et bâtir l'esprit critique de nos jeunes.
Depuis deux ans, l'éducation nationale a lancé un appel à manifestation d'intérêt (AMI) pour les usages. Nolej, qui transforme les supports de cours pour les rendre plus ludiques, a été élue meilleure start-up technologique mondiale parmi 7 000 candidats.
Élisabeth Borne a tiré un bilan très positif de cet AMI. Aussi, elle en lancera un autre pour aider les professeurs à adapter leurs méthodes pédagogiques, pour un démarrage dès la rentrée 2025 en quatrième et en seconde.
M. David Ros. - Merci de votre réponse qui rejoint une proposition de loi que j'ai déposée et que j'espère voir bientôt débattue.
Assurons à notre pays une véritable IA : une indépendance assumée. (Sourires)
Mme Marie-Claire Carrère-Gée . - Sauf à courir le risque de dégâts irréversibles, des mesures sur l'IA générative s'imposent avant l'entrée en vigueur du RIA. Des risques pour la démocratie et la confiance dans les rapports sociaux sont à craindre.
De nombreuses images sont reprises par des comptes anonymes pour manipuler les esprits. Des tromperies à l'embauche et aux assurances se multiplient.
J'ai bien entendu que les contenus devront être marqués dans un format lisible par une machine et identifiables comme ayant été générés par une IA, mais les fournisseurs devraient systématiquement apposer un logo immédiatement lisible également par des humains.
L'autre risque majeur concerne la santé, avec la diffusion d'outils IA extra-européens, qui ne respectent aucun contrôle humain par un professionnel de santé.
Quelle décision envisagez-vous pour faire respecter de strictes conditions de souveraineté et de contrôle humain ?
Mme Clara Chappaz, ministre déléguée. - Nous avons décidé, en Européens, d'établir à l'article 50 du RIA une obligation de transparence de la génération d'images par l'IA. Nous suivons avec attention l'élaboration des lignes directrices de cet article 50. En effet, à l'époque des négociations, les solutions de marquage n'étaient pas pleinement définies. Adobe travaille sur cette question aux États-Unis.
Le marquage ne suffit pas. Nous devons aussi nous doter de capacités de détection. C'est ce que nous faisons avec notre pôle d'expertise de la régulation numérique (PEReN) rattaché à trois ministères.
Votre question sur la santé fait le lien avec le RGPD. Ce que vous mentionnez n'est pas autorisé. La réglementation est très claire et sera respectée.
M. Adel Ziane . - Les promesses de l'IA sont immenses, mais le risque de décrochage technologique de la France et de l'Union européenne est réel. Cela a été évoqué par Gilles Babinet, coprésident du CNNum.
Face aux Gafam et aux acteurs chinois, notre continent n'a pas la force de frappe pour peser. On le voit avec le plan Stargate, doté par la Maison-Blanche de 500 milliards de dollars. Les 109 milliards d'euros d'investissement de la France sont à saluer, mais restent fragmentés.
Le cadre de régulation mis en place par l'Europe doit s'accompagner d'un plan industriel.
L'IA est amenée à bouleverser notre économie, mais aussi notre manière de soigner.
C'est un enjeu de souveraineté, de démocratie et de civilisation. Les enjeux éthiques, politiques, environnementaux sont fondamentaux.
Notre dépendance technologique annonce une dépossession politique.
Quelle stratégie pour sortir de cette dépendance ? À quand un véritable Airbus de l'IA pour une IA souveraine et durable ?
Mme Clara Chappaz, ministre déléguée. - Je vous remercie de poser la question de la compétitivité, qui n'avait pas encore été posée, alors que toutes les autres en dépendent ; tous les autres enjeux ne peuvent exister que si l'on a une IA européenne, fidèle à nos valeurs, plus frugale, à disposition des jeunes, pour l'éducation.
Je ne vous rejoins pas tout à fait sur le décrochage. Les 109 milliards d'euros sont du même ordre de grandeur que le projet Stargate, si on le rapporte à la population française. Nous n'avons pas à rougir.
Nous avons décidé de réinvestir dans la recherche, qui un de nos atouts, avec les neuf clusters IA. Nous consacrons 360 millions d'euros à la formation de 100 000 personnes par an d'ici 2030.
Sur l'Europe, je ne suis pas d'accord : la stratégie InvestAI développée sur toute la chaîne de valeur est un atout, comme le plan Continent IA visera à une meilleure coordination des gigaprojets.
M. Christian Bruyen . - L'IA suscite des craintes comme des attentes démesurées.
Cette technologie est omniprésente et insaisissable. L'IA est dotée d'une telle puissance qu'il faut développer l'esprit critique de ses utilisateurs, dès le lycée.
Nous nous réjouissons de la stratégie ambitieuse du Gouvernement sur l'IA en matière d'éducation. Quelles sont les échéances prévues ?
Mme Clara Chappaz, ministre déléguée. - Lors du comité interministériel de l'IA, chaque ministre s'est engagé dans cette démarche. Mme Borne, ministre de l'éducation nationale, a développé ses priorités.
Il s'agit d'expérimenter ce que nous pouvons faire avec l'IA. C'est l'objet de l'AMI dont j'ai parlé. Nous devons aussi veiller à ce que tous les professeurs utilisent bien l'IA. À Quimper, j'ai pu constater un engagement contrasté dans l'expérimentation.
Avec le ministre de l'enseignement supérieur, nous examinons aussi comment l'IA peut s'inscrire dans l'ensemble des formations.
M. Christian Bruyen. - Comme vous, le ministre de l'éducation nationale évoque la préservation de la souveraineté et l'application du principe de précaution indispensable en ce qui concerne la jeunesse. Mais attention à ne pas mettre en place des garde-fous illusoires.
Sa présentation appelle à des outils à même d'aider les enseignants dans leurs pratiques pédagogiques. Mais nombre d'outils sont déjà disponibles, même s'ils sont malheureusement sous-exploités. Il faut donc former à leur utilisation, notamment les enseignants. Les usages de l'IA sont trop normés. Il faut faire émerger une culture citoyenne de l'IA.
Mme Clara Chappaz, ministre déléguée. - C'est bien notre démarche, qui nous conduit à soutenir notre secteur E-Tech très performant. Mettre des solutions entre les mains des professeurs et des élèves est notre but.
M. Jean-Baptiste Blanc . - Je souhaite vous interroger sur l'IA et le ZAN. Un jour nous devrons nous interroger sur l'IA et la connaissance des sols vivants.
L'Institut national de l'information géographique et forestière (IGN) a recours à l'IA pour la connaissance des sols. L'outil occupation du sol à grande échelle (OCS GE) reste cependant perfectible. L'État et les collectivités n'ont pas la même interprétation de ce qui est artificialisé ou non. Il faut également des contrôles par les opérateurs humains.
Quels gains peut-on espérer de ces données issues de l'IA ?
Mme Clara Chappaz, ministre déléguée. - C'est un exemple de solution que peut apporter l'IA en matière écologique. L'IGN fait un travail de pointe en la matière. Dans le cadre de France 2030, nous avons engagé un travail de jumeau numérique. Nous verrons comment être encore plus performant.
M. Jean-Baptiste Blanc. - Je vous alerte sur la gouvernance d'un tel projet : cela ne doit pas venir d'en haut comme ce fut le cas pour le ZAN.
Mme Anne Ventalon . - L'IA n'est plus une promesse d'avenir, mais une réalité, notamment en matière de santé. L'Académie de médecine a rendu un rapport sur l'IA générative. L'IA en santé serait un outil supplémentaire qui apporterait beaucoup : mieux suivre les patients, faire gagner du temps médical, organiser le système de santé...
Pourrait-elle être une opportunité pour pallier les déserts médicaux ? Les cabines de télémédecine en sont une illustration : l'IA peut guider l'entretien avec le patient et interpréter les images. Elle ne remplace cependant pas la parole rassurante du soignant, mais le soulage dans toutes les tâches administratives et répétitives.
Comment entendez-vous accompagner l'action des médecins pour que le secteur de la santé tire le maximum de bénéfices de cette technologie ?
Mme Clara Chappaz, ministre déléguée. - La santé est le domaine où les bénéfices sont les plus clairs et les plus évidents pour tous.
Le Health Data Hub porte le projet Partages fondé sur l'IA générative pour interpréter des images.
Sur la télémédecine, chaque hôpital travaille selon ses spécialités à nouer des partenariats pour mettre à disposition des experts en matière d'IA et digitaliser l'expérience de soins. L'Institut Gustave Roussy a déjà développé des outils.
Mme Anne Ventalon. - Le fonctionnement de l'IA doit être compris ; aussi la formation initiale et continue des soignants est-elle indispensable.
Mme Christine Lavarde, Président de la délégation sénatoriale à la prospective . - (Applaudissements sur les travées du groupe Les Républicains) L'IA cristallise tous les défis du XXIe siècle.
Première leçon de ce débat : l'évolution extrêmement rapide de l'IA. En dix-huit mois, les solutions ont changé. Ces évolutions nous obligent en tant qu'État à investir pour ne pas être dévalorisé au regard des Gafam et de la Chine. Ces évolutions nous obligent à être agiles. Nous devons tirer des enseignements de l'expérience. La DGFiP montre l'exemple en ce domaine.
Deuxième leçon : les données sont au coeur de l'IA et elles ne doivent pas être captées par un autre pays ; nous devons avoir un cloud européen souverain pour les protéger.
Ces données doivent être structurées si on veut les utiliser dans le domaine de l'environnement ou de la santé par exemple. Or nous avons constaté un fort cloisonnement. L'IA nous répond en franglais car elle lit beaucoup de données en anglais et peu en français. C'est encore pire pour le Japon.
La politique des données ouvertes remet en cause des principes économiques fondamentaux. Des acteurs nationaux, y compris des opérateurs de l'État, ont vu leur modèle économique remis en cause par le fait de ne plus pouvoir vendre des données.
Les droits d'auteur et voisins sont une question essentielle à traiter. Demain, des entreprises privées disposant de données nationales ne devraient-elles pas les mettre à disposition de la puissance publique pour oeuvrer au bien commun ?
Troisième point : le développement des compétences. Si nous voulons que l'État puisse rester stratège, il doit pouvoir faire monter en compétence les agents publics et engager des experts. Christian Bruyen l'a dit, la question du grand public est aussi essentielle. Il faut embarquer les citoyens, mais aussi les informer sur les dangers de cette technologie. Le premier pas à faire est celui de la formation des enseignants, qui ne doivent pas se laisser distancer par des élèves qui sont nés avec cette technologie.
Concernant le cadre éthique, l'IA doit être proportionnée, aussi la question de la frugalité de cette technologie est essentielle. L'ouvrage L'enfer numérique abordait la question des émoticônes, dont tout le monde oublie le coût. Il est parfois préférable d'ouvrir un dictionnaire que d'utiliser ces outils. (Applaudissements sur les travées du groupe Les Républicains)
La séance est suspendue quelques instants.