COMPTES RENDUS DE LA CE INFLUENCES ETRANGERES

- Présidence de M. Dominique de Legge, président -

La réunion est ouverte à 14 h 00.

Audition de M. Éric Garandeau, directeur des affaires publiques de TikTok France

M. Dominique de Legge, président. - Nous poursuivons aujourd'hui les travaux de notre commission d'enquête sur les politiques publiques face aux opérations d'influences étrangères avec l'audition de M. Éric Garandeau, directeur des affaires publiques de TikTok France.

Cette réunion conclut notre cycle d'auditions de plateformes, après les auditions de Meta, Google et de X.

Il était important à nos yeux que TikTok, dont on connaît l'audience massive et grandissante, notamment chez les jeunes, puisse s'exprimer sur ses politiques de modération et de lutte contre les manipulations de l'information.

Cette audition entre en pleine résonance avec notre actualité, marquée par les élections au Parlement européen et l'organisation des jeux Olympiques, autant d'événements qui constituent une cible de choix pour les opérations d'influence menées par nos compétiteurs.

La crise en Nouvelle-Calédonie a donné une nouvelle illustration, particulièrement frappante, des conséquences politiques de l'algorithme utilisé par TikTok. Au vu de la circulation massive de contenus susceptibles d'attiser les violences sur la plateforme, le Gouvernement a pris la lourde décision de la suspendre temporairement dans ce territoire. Ces contenus, nous le savons, sont notamment le fruit de campagnes de déstabilisation venues de l'étranger.

Je rappelle enfin qu'une précédente commission d'enquête constituée au sein de notre assemblée a publié l'an dernier un rapport important consacré à TikTok, dont de nombreux éléments intéressent également notre commission. Cette audition sera l'occasion de vous entendre sur certaines des conclusions et recommandations de ce rapport.

Avant de vous donner la parole, il me revient de rappeler qu'un faux témoignage devant notre commission d'enquête est passible des peines prévues aux articles 434-13, 434-14 et 434-15 du code pénal. Je précise également qu'il vous appartient, le cas échéant, d'indiquer vos éventuels liens ou conflits d'intérêts en relation avec l'objet de la commission d'enquête.

Je vous invite à prêter serment de dire toute la vérité, rien que la vérité, en levant la main droite et en disant : « Je le jure. »

Conformément à la procédure applicable aux commissions d'enquête, M. Éric Garandeau prête serment.

M. Dominique de Legge, président. - Cette audition fait l'objet d'une captation vidéo qui sera diffusée sur le site internet et, le cas échéant, les réseaux sociaux du Sénat, puis consultable en vidéo à la demande. Elle fera l'objet d'un compte rendu publié.

Nous tenions à ce que cette audition ne soit pas organisée à huis clos, au vu de l'actualité en Nouvelle-Calédonie à propos de laquelle il nous paraissait important que TikTok puisse s'exprimer publiquement.

Vous avez la parole pour un propos introductif d'une durée de dix à quinze minutes. Après quoi, le rapporteur et les membres de la commission vous poseront des questions.

M. Éric Garandeau, directeur des affaires publiques de TikTok France. - En préambule, je rappellerai que TikTok est une application de création et de diffusion de vidéos sous des formats courts, surtout verticaux et mobiles, utilisée principalement sur téléphone portable. Ces vidéos à caractère informatif, récréatif, ludique ou pédagogique, durent de quelques secondes à quelques minutes - le format peut aujourd'hui s'étendre à dix minutes. Elles permettent de développer certains sujets d'actualité ou autres. Le bureau de Paris a été ouvert en 2019. TikTok compte aujourd'hui plus de 22 millions d'utilisateurs mensuels en France, selon les données d'avril 2024.

La priorité de cette plateforme, c'est bien évidemment la sécurité de celle-ci, ainsi que celle de ses utilisateurs, qui doivent pouvoir pratiquer l'application, créer et poster des vidéos en toute confiance. Je ne développerai pas l'ensemble des règles communautaires qui encadrent l'usage de TikTok, puisque ce sont les utilisateurs eux-mêmes qui créent des contenus. En l'occurrence, en France, les contenus sont créés par des utilisateurs français.

Je centrerai mon propos sur le sujet de votre commission, à savoir les tentatives d'ingérence étrangère sur les plateformes. Dès lors qu'une tentative de comportement inauthentique sur la plateforme est repérée, tous ses contenus sont supprimés. Ils sont contraires à nos règles communautaires qui interdisent tout type de comportement qui vise à « spammer » ou à tromper une communauté d'utilisateurs afin de mener des opérations d'influence.

Quelles sont les sanctions ? Tout simplement le bannissement de façon permanente des comptes qui adoptent ces comportements frauduleux. Et en cas de comportements mensongers coordonnés, les CIB (Coordinated Inauthentic Behavior), nous bloquons également la capacité de créer des comptes à partir de l'appareil du compte qui a violé les règles.

Ce travail de contrôle, de repérage, de bannissement fait l'objet de rapports de transparence qui couvrent tous les autres champs d'infractions liées notamment à des faits de violence - vous citiez des émeutes, des pillages - ou d'incitation à la violence. Le dernier rapport de transparence qui concerne la période d'octobre à décembre 2023 établit que plus de 181 millions de faux comptes ont été supprimés à l'échelle globale.

Nous développons aussi une expertise interne au sein de notre entité, Trust and Safety, qui comprend à l'échelle mondiale 40 000 personnes chargées de la sécurité de la plateforme. Ces experts travaillent en permanence à tirer les leçons des opérations qui sont révélées afin d'identifier les menaces et leur évolution. Des enquêtes très techniques sont menées au sein de la plateforme, qui prennent en compte d'autres sources d'informations dont on peut disposer en « sources ouvertes ». Lorsque des opérations se déroulent sur d'autres plateformes ou dans d'autres contextes, il est important de pouvoir faire de la veille afin d'éviter que de telles opérations se déploient ensuite sur l'application TikTok.

Parmi les 40 000 personnes que mobilise Trust and Safety, plus de 6 000 personnes se consacrent à la modération de contenus dans les langues de l'Union européenne. Il existe 650 modérateurs en langue française, d'après les chiffres issus du rapport de transparence dans le cadre du Digital Services Act (DSA) qui a été publié en avril 2024.

La modération telle qu'elle s'opère chez TikTok s'effectue en deux temps.

Je citerai d'abord la modération proactive, qui vise à empêcher la création de comptes inauthentiques et de comptes de spams. Nous disposons de modèles de détection qui empêchent la création de ce type de comptes à partir de robots, ou de bots, et sur la base d'exemples malveillants préalablement identifiés. Ces modèles suppriment les comptes enregistrés sur la base de certains signaux, c'est-à-dire des comportements inhabituels.

En outre, certains algorithmes détectent tout type de comportement violent, qu'il s'agisse de violence graphique, d'armes à feu, de pornographie, etc. Ce travail dépasse le sujet de l'ingérence étrangère, mais il est réalisé de manière proactive. D'ailleurs, lorsque vous publiez un contenu sur TikTok, il existe toujours un intervalle de temps entre le moment où le contenu est posté et celui où il devient accessible. C'est ce moment qui est utilisé par les algorithmes pour la vérification.

De la même façon, il est important de le rappeler, la modération est particulièrement forte sur les comptes qui bénéficient d'une exposition particulière. Certains contenus ont une forte viralité qui peut faire beaucoup de dégâts. Nous en avons parfaitement conscience, puisque TikTok est une plateforme plus récente que les autres de sorte qu'elle a bénéficié de leur expertise et de certaines expériences malheureuses. À ce propos, dès qu'un contenu dépasse un certain niveau de visibilité, il fait l'objet d'un nouveau tour de modération pour s'assurer que les règles communautaires ne sont pas enfreintes, y compris pour les comportements inauthentiques.

Ce travail de détection proactive est complété par des protocoles d'échange avec les autorités des pays concernés, dont la France. Nous sommes en contact avec la nouvelle entité qui a été précisément chargée de cette mission de détection d'entraves ou tentatives d'ingérences étrangères : il s'agit du Service de vigilance et de protection contre les ingérences numériques étrangères (Viginum).

Quel est le résultat de cette action ? Nous supprimons ces réseaux et ces comptes identifiés comme tentant d'influencer l'opinion publique et de tromper les utilisateurs sur l'identité du compte. De plus, nous partageons publiquement les informations sur l'emplacement géographique des opérations du réseau selon les preuves techniques susceptibles d'être recueillies, c'est-à-dire sur la source de la détection. Celle-ci peut être interne quand une équipe de Trust and Safety détecte spontanément qu'un contenu n'est pas authentique, ou externe à la suite d'enquêtes qui sont traduites par une demande adressée à la plateforme.

Par ailleurs, les utilisateurs de TikTok peuvent signaler d'un simple clic tout contenu qui leur paraît suspect. Nous communiquons aussi sur les abonnés du réseau, c'est-à-dire sur le nombre total de comptes qui sont abonnés aux comptes de ce réseau qui tente de faire de l'ingérence, au moment de la suppression de ce dernier.

Ainsi, au cours des quatre premiers mois de l'année, nous avons stoppé 15 opérations d'influence à l'échelle mondiale, et supprimé 3 001 comptes associés. Aucune opération n'est identifiée en France, mais certaines opérations ciblent d'autres pays qui tentaient d'influencer le discours politique. Par exemple, au début de l'année, nous avons interrompu un réseau qui ciblait un public indonésien avant les élections présidentielles en Indonésie. Tout cela est public et figure sur notre site.

L'influence étrangère peut aussi passer par des comptes de médias, eux-mêmes détenus par des États. Nous avons lancé dès que possible un programme d'identification et de labellisation de ces comptes. L'objectif est d'informer l'utilisateur que cet émetteur est contrôlé par un État et est susceptible de diffuser des contenus qui correspondent à la vision de l'État en question. Ce n'est pas illicite, mais quand vous cliquez sur le label « média contrôlé par un État », on vous renvoie sur une page qui vous invite à faire preuve de vigilance et à croiser cette source d'information avec d'autres données indépendantes.

Ce travail de labellisation est très important. Nous avons collaboré avec plus de 50 experts pluridisciplinaires issus de 20 pays différents. Il n'est pas si simple de définir un « média contrôlé par un État ». Certains médias publics peuvent être indépendants, comme en France ou au Royaume-Uni avec la BBC. En revanche, des médias privés peuvent être des « faux-nez » d'État.

Ce travail très précis destiné à mesurer l'indépendance de chaque média concerné a été étendu en janvier 2023 à l'échelle mondiale, y compris en Chine. Quand vous tapez sur tel ou tel compte de média contrôlé par un État, le label apparaît, et quand vous cliquez dessus, vous avez le détail de cet appel à la vigilance.

En mai 2024, nous avons élargi nos politiques relatives aux médias affiliés à un État pour faire en sorte que ces comptes de médias contrôlés par un État qui opèrent dans d'autres pays ne soient plus recommandés. En France, des comptes de médias détenus par d'autres États ne peuvent plus apparaître dans le fil d'actualité de TikTok. En outre, ces comptes qui ont recours à de la publicité dans notre pays ne pourront plus le faire. Je rappelle incidemment que la publicité politique est interdite sur TikTok, que ce soit pendant ou hors de la période électorale.

J'en viens à la lutte contre la désinformation diffuse, qui coexiste avec les opérations d'ingérence organisées et qui peut être partagée en toute bonne foi. Tout ce qui s'oppose à la liberté d'opinion, à la liberté de croyance ou à la liberté d'expression est interdit. Des programmes de vérificateurs nous permettent, en cas de doute chez nos modérateurs, d'effectuer un fact checking.

Nous avons aussi une politique sur les médias synthétiques. Comme vous le savez, ils peuvent aujourd'hui être des instruments assez redoutables pour promouvoir de la désinformation. Nous interdisons l'usage de ceux qui présentent le portrait de personnes privées, qu'elles soient mineures ou non. Pour les personnalités publiques, les médias synthétiques sont autorisés à condition que le contenu ne soit pas utilisé à des fins de promotion politique ou qu'il n'enfreigne pas toute autre politique de la plateforme, par exemple en visant à tromper le public sur le discours d'une personne politique ou en incitant au discours haineux, au harcèlement ou à la désinformation, durant une période électorale ou en dehors de celle-ci. Tout utilisateur peut, d'un simple clic, signaler un contenu qui lui semble violer les règles communautaires.

Nous obligeons aussi les utilisateurs - et nous avons été la première plateforme à le faire - à divulguer de manière proactive qu'ils utilisent des contenus qui ont été générés par de l'intelligence artificielle. Il peut s'agir de contenus audio ou vidéo réalistes qui peuvent tromper l'utilisateur, et pour ce faire, un bouton a été mis en place sur le menu. Cette mesure a d'ailleurs été saluée par le commissaire Thierry Breton, car elle s'inscrivait dans l'esprit du DSA et du règlement établissant des règles harmonisées concernant l'intelligence artificielle, ou législation sur l'intelligence artificielle (AI Act). Nous sommes en train de développer un outil qui permet de labelliser automatiquement des contenus.

Nous sommes engagés pour que l'intelligence artificielle générative soit utilisée de manière responsable et transparente. TikTok est partenaire du pacte volontaire sur l'intelligence artificielle, lancé par la Commission européenne à la suite de l'adoption de l'AI Act, et, le 16 février dernier, dans le cadre de la conférence de Munich sur la sécurité, nous avons signé, au même titre d'ailleurs que Google, Microsoft et d'autres acteurs, un accord pour limiter les risques des hypertrucages, notamment dans un contexte électoral. Les mesures prévues vont du développement de nouvelles technologies à l'éducation aux médias, puisqu'il importe également d'éduquer le public. D'ailleurs, à ce propos, les chercheurs nous ont indiqué que le niveau d'éducation est aujourd'hui assez satisfaisant ; il faut poursuivre les efforts, mais le public est tout de même bien averti des risques engendrés par l'intelligence artificielle.

Je puis maintenant faire un zoom sur les élections, puisque nous nous trouvons actuellement dans une période très sensible ; du reste, je pense que la constitution de votre commission est également liée au fait que nous sommes dans une année électorale, qui peut prêter à des opérations de manipulation et d'influence. Qu'avons-nous fait au sujet des élections européennes, au-delà de notre participation à toutes les réunions organisées par le Gouvernement et l'Autorité de régulation de la communication audiovisuelle et numérique (Arcom), et de nos échanges réguliers avec notre régulateur ? Nous avons créé à Dublin, au sein de notre structure Trust and Safety, un espace, une mission de contrôle, visant à maximiser l'efficacité du travail de modération dans les pays européens avant et pendant les élections européennes. Il s'agit d'une task force (force opérationnelle) visant à « monitorer » les contenus sur la plateforme. En outre, nous sommes en contact avec l'Arcom et le service Viginum.

Nos règles communautaires comportent, outre les questions d'authenticité des contenus, une rubrique spécifique relative à l'intégrité civique et aux élections. Par conséquent - cela va sans dire, mais cela va encore mieux en le disant -, nous interdisons toute désinformation concernant les processus civiques et électoraux. Cela concerne tous les contenus sur la manière de voter, les procurations, les jours des élections, les critères d'éligibilité des candidats, les processus de décompte des bulletins de vote et de certification des élections, la manière de déterminer le résultat définitif d'une élection, etc. Nous communiquons chaque trimestre notre rapport de transparence sur cette sous-catégorie relative à l'intégrité civique et électorale, au sein de la catégorie Intégrité et authenticité, ainsi que le pourcentage des vidéos supprimées dans cette catégorie. Ainsi, les vidéos que nous avons repérées comme enfreignant ces règles représentent 1,8 % des suppressions totales ; cela reste modéré. Le taux de retrait proactif s'élève à 98,8 % et le retrait avant toute vue à 96,7 %. Enfin, le retrait dans les vingt-quatre heures est de 97 %.

Nous avons également développé et mis en place une page d'information au sein de TikTok qui résume toute l'information officielle et qui renvoie sur les pages officielles du ministère de l'intérieur ; nous avons en outre inséré en bas de page quelques paragraphes indiquant comment lutter contre la désinformation et faire le tri dans l'information. Cette page fait l'objet d'une mention systématique dans les vidéos qui traitent d'élections. Cela va très loin ; ainsi, en faisant l'exercice, je suis tombé sur une vidéo traitant des élections en Inde et le bandeau en question apparaissait et renvoyait aux élections européennes, puisque nous sommes en Europe. Ce système avait très bien fonctionné lors de l'élection présidentielle et nous avions obtenu un satisfecit de la part du Gouvernement, au regard de l'audience de cette page, qui avait permis aux citoyens de s'informer sur les modalités du vote.

J'en viens à la gouvernance de TikTok, son origine et sa vulnérabilité aux stratégies d'influence par rapport aux autres plateformes. Nous l'avions déjà indiqué face à la commission d'enquête du Sénat sur le réseau social TikTok, la société mère de TikTok, ByteDance Limited, n'est pas immatriculée en Chine et n'est pas détenue ni contrôlée par le gouvernement chinois ; c'est évidemment aussi le cas des filiales, y compris TikTok.

Mme Nathalie Goulet. - Où est-ce immatriculé ?

M. Dominique de Legge, président. - Nous y reviendrons dans nos questions.

M. Éric Garandeau. - TikTok SAS, l'entité française, immatriculée au registre du commerce et des sociétés de Paris en mars 2020, est une filiale de TikTok UK, détenue par TikTok Global, elle-même détenue par ByteDance. Voilà pour la chaîne capitalistique.

J'ai parlé des moyens mis en oeuvre pour la modération des contenus.

Vous avez évoqué la Nouvelle-Calédonie ; je suis prêt à répondre à vos questions à ce sujet. En tout état de cause, pour ce qui a trait à l'ingérence et à la modération des contenus concernant la Nouvelle-Calédonie, nous n'avons pas reçu de signalement de la part de la plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements (Pharos). En effet, nous retirons les contenus litigieux ou posant problème à partir du moment où nous en avons connaissance, soit par détection proactive, soit parce qu'on nous les signale. En ce qui concerne la Nouvelle-Calédonie, nous n'avons, à ma connaissance, jamais eu le moindre signalement de la part de Pharos. Nous avons fait le travail de modération et nous n'avons pas détecté de tentatives d'ingérence. Un rapport de Viginum indique des tentatives en Nouvelle-Calédonie, mais cela concernait deux plateformes autres que TikTok.

M. Dominique de Legge, président. - Nous sommes intéressés par un développement plus précis sur vos liens présumés avec la Chine.

Vous avez évoqué la Nouvelle-Calédonie, mais je pense que le rapporteur et nos collègues vous poseront des questions à ce sujet.

Vous n'avez pas évoqué la suspension de TikTok par le ministre de l'intérieur, mais je suppose également que mes collègues y reviendront également dans leurs questions.

M. Rachid Temal, rapporteur. - La société mère, ByteDance, n'est pas immatriculée en Chine, avez-vous dit, ni détenue ou contrôlée par le gouvernement chinois. Où est-elle donc immatriculée et comment se répartit le capital de cette société ?

M. Éric Garandeau. - La société mère est immatriculée aux îles Caïmans, soumises au système de Westminster. Elle n'est donc soumise ni au droit chinois ni au droit américain. Ensuite, elle respecte le droit de chaque pays dans lequel elle opère, à commencer par le droit européen en Europe et le droit français en France.

M. Rachid Temal, rapporteur. - Pourquoi ce choix des îles Caïmans ?

M. Éric Garandeau. - Je ne suis pas dans la tête des fondateurs, mais je pense qu'il s'agissait de situer ByteDance, le groupe, et TikTok, la plateforme internationale, en territoire neutre.

M. Rachid Temal, rapporteur. - Certains emploieraient un autre qualificatif...

M. Éric Garandeau. - Si vous parlez de fiscalité,...

M. Rachid Temal, rapporteur. - Par exemple !

M. Éric Garandeau. - ... j'ai le plaisir de vous indiquer que TikTok paie ses impôts dans chaque pays dans lequel il opère : la consolidation fiscale en Europe a lieu à Londres, au sein de TikTok UK, et TikTok SAS est soumise aux impôts français.

Donc c'est plutôt pour se situer dans un territoire neutre.

M. Rachid Temal, rapporteur. - Quid de la structure du capital ?

M. Éric Garandeau. - Les fondateurs détiennent 20 % du capital.

M. Rachid Temal, rapporteur. - Qui sont-ils ?

M. Éric Garandeau. - Yiming Zhang et Rubo Liang.

M. Rachid Temal, rapporteur. - Des ressortissants chinois...

M. Éric Garandeau. - Ils sont chinois, Rubo Liang étant désormais basé à Singapour, ainsi d'ailleurs que le président de TikTok, Shou Zi Chew, qui est singapourien.

Ensuite, 20 % du capital sont détenus par les salariés de l'entreprise et les 60 % restants sont détenus par des fonds d'investissement, de toutes nationalités ; il y a par exemple un fonds français, mais aussi des fonds américains ou asiatiques.

M. Rachid Temal, rapporteur. - Il n'y a aucun fonds chinois ou proche des intérêts chinois ?

M. Éric Garandeau. - Ce sont des fonds privés. Certains sont implantés en Asie, d'autres aux États-Unis.

M. Rachid Temal, rapporteur. - Certains sont-ils implantés en Chine ?

M. Éric Garandeau. - Je peux vous fournir la liste des fonds actionnaires de ByteDance. Elle avait été fournie à la commission d'enquête sur TikTok. Je vous la ferai parvenir.

M. Rachid Temal, rapporteur. - On a beaucoup écrit sur les relations potentielles, putatives, entre TikTok et le gouvernement, voire l'armée, de la Chine.

M. Éric Garandeau. - C'est très simple. TikTok et ByteDance ne sont pas soumis au droit chinois. En outre, pour tenir compte de ces soupçons, qui, encore une fois, ne reposent sur aucune preuve - mais ils existent -, nous avons mis en place des politiques très avant-gardistes pour assurer la sécurité des données des utilisateurs. Aux États-Unis, c'est le projet Texas : les données des utilisateurs américains sont stockées sur des serveurs d'Oracle, une entreprise américaine, dans une entité juridique dédiée, de droit américain et comptant 1 000 salariés de nationalité américaine. Cette société, contrôlée par Oracle, assure la gestion des données des utilisateurs américains.

M. Rachid Temal, rapporteur. - Et les utilisateurs français et européens ?

M. Éric Garandeau. - Nous ne les avons pas oubliés. Sans même attendre de demande du gouvernement français ou de la Commission européenne - le droit européen applicable est le règlement général sur la protection des données (RGPD) et le DSA -, nous avons décidé de manière proactive, face à cette demande de sécurité particulière, de créer un montage équivalent dans sa philosophie : nous construisons des serveurs à Dublin et en Norvège pour stocker les données des utilisateurs européens. Ces données, qui étaient hébergées aux États-Unis, sont en train de migrer vers l'Europe, pour être stockées dans ces centres de données. Le centre de Dublin est déjà opérationnel ; une partie du centre de données norvégien l'est également et nous sommes en train d'en construire un troisième. Ainsi, à terme, toutes les données des utilisateurs européens existants seront stockées en Europe ; c'est d'ores et déjà le cas de tous les nouveaux comptes créés.

M. Rachid Temal, rapporteur. - Quel en est l'opérateur ?

M. Éric Garandeau. - On peut recourir à des prestataires pour construire ces centres, mais c'est TikTok qui les opère.

Nous sommes allés au-delà et, pour offrir un maximum de sécurité, nous recourons à un tiers de confiance qui n'est pas affilié à TikTok ou à ByteDance : il s'agit de l'entreprise européenne de cybersécurité NCC. C'est elle qui établit les protocoles d'accès aux données personnelles des utilisateurs européens. Par ailleurs, ces données ne doivent pas sortir de cette enclave. Ce tiers de confiance est plus qu'un prestataire de services ; vous-mêmes pouvez l'auditionner en notre absence.

M. Rachid Temal, rapporteur. - Aux États-Unis, pour stocker les données américaines, vous avez choisi une entreprise américaine qui héberge les données dans une structure indépendante de TikTok. Pourquoi n'avoir pas fait le même choix pour les utilisateurs européens ?

M. Éric Garandeau. - Je ne suis pas chargé des États-Unis, mais j'imagine qu'il y avait une demande en ce sens aux États-Unis. En Europe, nous avons fait cette démarche de manière spontanée.

En outre, il y a aussi une question de coût, car un prestataire prend une marge - cette activité coûte 1 milliard de dollars par an aux États-Unis et 1,2 milliard d'euros par an en Europe - et nous souhaitions aller vite. Ce coût, je le répète, TikTok l'assume volontairement, puisque nous n'avons aucune obligation juridique de procéder ainsi, mais nous essayons aussi de construire rapidement et à des coûts acceptables.

Nous avons estimé que ce qui importait pour vous, c'était surtout d'avoir un tiers de confiance indépendant. La clef du dispositif était d'avoir un tiers vérifiant concrètement comment sont gérés les accès aux données. C'est la clef de la confiance.

M. Rachid Temal, rapporteur. - Vous indiquez que le stockage des données coûte 1 milliard de dollars aux États-Unis et 1,2 milliard d'euros en Europe, tout en précisant qu'il serait plus cher de stocker ces données en externe. Cela me semble contradictoire.

M. Éric Garandeau. - Il faudrait regarder de plus près. Peut-être est-il plus coûteux de construire en Europe, je ne sais pas. Je pourrai demander.

M. Rachid Temal, rapporteur. - Pouvez-vous nous donner ces éléments ?

Si je comprends bien, ni la Commission européenne ni le Gouvernement français n'ont demandé à Tiktok d'héberger les données des utilisateurs en Europe, au sein d'une entreprise européenne, à l'instar de ce qui s'est passé aux États-Unis. C'est bien cela ?

M. Éric Garandeau. - Tout à fait, c'est une initiative que nous avons prise, en réaction aux interrogations ayant cours et en prévision d'une éventuelle demande à venir concernant toutes les plateformes. Nous nous sommes placés dans cette ligne, en concourant à définir un nouveau standard de sécurité. L'idée était de rassurer et de vous permettre de constater que les données des utilisateurs européens sont bien protégées, même dans les cas les plus extrêmes.

M. Rachid Temal, rapporteur. - La commission d'enquête du Sénat sur TikTok soulignait la nécessité d'assurer la transparence sur les statuts et droits de vote au sein du conseil d'administration de la maison mère. Cette disposition m'a semblé pertinente. Où en êtes-vous à ce sujet ?

M. Éric Garandeau. - Il y avait beaucoup de choses dans le rapport de la commission d'enquête du Sénat. Sur la sécurité des données, il y avait l'idée d'aller vite pour mettre en oeuvre le projet dont je parlais à l'instant. Nous avons pu répondre à cette attente du Sénat.

Il y avait également l'idée de mettre rapidement en oeuvre le DSA.

M. Rachid Temal, rapporteur. - Et sur la question de la transparence sur les statuts et les droits de vote ?

M. Éric Garandeau. - Ce sujet est global, il ne concerne pas TikTok, mais l'ensemble du groupe ByteDance. Tout le monde souhaite sortir de la situation quelque peu complexe aux États-Unis, afin que l'entreprise puisse être gérée normalement. Je n'ai pas d'informations nouvelles à ce sujet, puisque cela n'a pas encore été réglé aux États-Unis.

M. Rachid Temal, rapporteur. - Sur la question du rôle d'éditeur des plateformes, la commission d'enquête proposait de ne rendre TikTok éditeur que sur le fil « Pour toi », qui repose sur un profilage algorithmique très poussé. Qu'en pensez-vous ?

M. Éric Garandeau. - Cette question très intéressante pose la question du régime de responsabilité des plateformes, TikTok n'étant qu'une plateforme parmi d'autres, puisque l'on ne pourrait pas imaginer des règles spécifiques à TikTok, et cela permet également de parler de l'éditorialisation des contenus, qui sont deux choses différentes.

En ce qui concerne la responsabilité des plateformes, celle-ci est définie à l'échelon européen par le DSA et il s'agit d'une responsabilité limitée, liée au respect de règles démocratiques, car, si TikTok était éditeur de contenus, cela signifierait qu'il aurait droit de vie et de mort sur tous les contenus postés par tous les utilisateurs. Or tant les plateformes que les ONG défendant la liberté d'expression et les magistrats - il y a eu récemment un colloque très intéressant à ce sujet à la Cour de cassation - insistent sur un principe fondamental : la liberté d'expression. Ainsi, si TikTok devenait éditeur, comme un éditeur de presse, il pourrait dire oui ou non à tel ou tel contenu en fonction de sa ligne éditoriale.

Par conséquent, le législateur européen, après de longs débats, parce qu'il s'agit de sujets complexes, exigeant un équilibre entre différentes libertés et différents droits constitutionnels, a estimé que la bonne règle consistait, d'une part, à autoriser les plateformes, qui ne l'étaient pas initialement, à développer des systèmes détectant des contenus illicites - nous avons été rassurés par le contenu du DSA à cet égard -, et, d'autre part, à imposer aux plateformes de supprimer les contenus illicites dès qu'elles en avaient connaissance, par signalement des utilisateurs, de manière très simple, car nos outils sont très ergonomiques.

M. Rachid Temal, rapporteur. - Sur le DSA, les choses nous paraissent claires. Ma question porte sur la proposition de la commission d'enquête de rendre TikTok éditeur du fil « Pour toi ». Vous paraît-elle pertinente ?

M. Éric Garandeau. - On nous a dit que nous étions un média très lu et très utilisé. Il est vrai que nous avons encore une image de média lu surtout par la jeunesse, mais ce n'est pas complètement vrai. Il suffit de savoir que nous avons 22 millions d'utilisateurs français ; cela ne peut pas être que des jeunes. L'âge moyen de l'utilisateur de TikTok est plutôt proche de 40 ans. Cela dit, nous avons en effet une responsabilité particulière liée au fait que nous avons une audience importante. Aussi sommes-nous en train, en ce moment même, de développer un fil d'actualité éducatif.

M. Rachid Temal, rapporteur. - Et que pensez-vous de la proposition du Sénat consistant à rendre TikTok éditeur sur une partie de son service, en l'occurrence le service « Pour toi » ?

M. Éric Garandeau. - Nous ne sommes pas éditeurs, sur rien.

M. Rachid Temal, rapporteur. - La proposition consistait justement à vous rendre éditeur sur cette partie.

M. Éric Garandeau. - Et ma réponse est : nous sommes en train de développer un fil d'actualité, testé sur 10 % des Français, dont nous sommes, sinon éditeur, du moins « curateur », si vous me permettez cet anglicisme. Ce fil éducatif réunit des vidéos éducatives vérifiées par nos soins, dans le domaine scientifique pour l'instant, avant d'ajouter les humanités. Cela s'inscrit dans le droit fil d'une opération permanente que nous avons lancée à peu près au moment de la publication du rapport de la commission d'enquête du Sénat, qui s'appelle « Apprendre sur TikTok ».

Il y a, sur l'application, un espace dédié, une page éditorialisée par les équipes de TikTok et qui ne met en avant que des contenus éducatifs. Nous considérons que, grâce à notre rôle de curateur - je préfère ce terme, car celui d'éditeur renvoie à un régime de responsabilité qui n'est pas et qui, pour des raisons démocratiques, ne doit pas être le nôtre, et qui d'ailleurs n'est pas non plus celui qui est prévu dans le DSA -, nous montrons le meilleur de nos contenus, à savoir les contenus éducatifs. Cela ne signifie pas que les autres contenus ne sont pas intéressants, mais notre mission éducative existe. Peut-être sommes-nous les seuls à le faire.

Ainsi, il y a l'espace « Apprendre sur TikTok » et ce fil d'actualité éducatif, qui va bientôt être accessible à toute la population. Je le répète, les vidéos seront vérifiées, elles montreront des réalités scientifiques et permettront de lutter aussi contre la désinformation, car lutter contre la désinformation peut passer par le retrait des contenus nocifs, mais c'est encore mieux de diffuser des contenus qui font autorité. C'est d'ailleurs pour cette raison que nous souhaitons que les institutions scientifiques - la Cité des sciences, le Muséum national d'histoire naturelle, etc. - viennent sur TikTok pour « prêcher la bonne parole », de même que nous avons déjà tous les médias, comme le journal Le Monde, qui font aussi des opérations de ce type. D'ailleurs, nous avons une autre opération analogue : « S'informer sur TikTok », avec l'Agence France-Presse (AFP), qui vient de créer son compte, France Culture, France Info, etc. Ces médias apporteront des contenus de décryptage de l'information et des vidéos indiquant comment détecter les fausses informations et les médias synthétiques, comment croiser les sources d'information, etc.

M. Rachid Temal, rapporteur. - Je ne veux pas prolonger trop longtemps la discussion sur la question de l'édition, mais je vous rappelle qu'on peut l'être partiellement, sans l'être à 100 %. Être éditeur n'implique pas forcément de tout contrôler, contrairement à ce que disent les plateformes en indiquant défendre la liberté d'expression. On peut être à la fois éditeur et responsable de ce qui circule dans les « tuyaux ». Mettre des tuyaux à disposition tout en affirmant n'être responsable de rien de ce qu'il s'y passe est un raisonnement limité, surtout si l'on ajoute le modèle économique des plateformes et les algorithmes. C'est plutôt le régime de l'irresponsabilité, dans ce cas...

M. Éric Garandeau. - Si l'on était dans un régime d'irresponsabilité, on n'emploierait pas 40 000 personnes pour faire ce travail. Nous avons une responsabilité.

M. Rachid Temal, rapporteur. - Mais je peux vous rétorquer que les réseaux sociaux sont un système permettant largement les ingérences.

Dernière question sur l'opacité : un rapport de l'Arcom indique qu'il n'existe pas d'informations tangibles pour analyser la pertinence et l'efficacité des mesures mises en place par TikTok pour lutter contre la désinformation. Y a-t-il aujourd'hui des éléments concrets ?

M. Éric Garandeau. - Je pense que ce rapport date de deux ans, lorsque nous avions remis notre premier rapport sur le sujet. Aujourd'hui, nous sommes extrêmement transparents, nous y sommes obligés par le DSA et c'est très bien.

M. Rachid Temal, rapporteur. - Le ministre de l'intérieur ou d'autres ne disent pas tout à fait la même chose.

M. Éric Garandeau. - Je pense que vous citez le rapport de l'Arcom d'il y a deux ans, qui précédait de six mois la commission d'enquête du Sénat ; c'était la première fois que nous remettions ce type de rapport. Aujourd'hui, notre rapport dans le cadre du DSA est extrêmement détaillé, il cite même le nombre de modérateurs en langue française, bien supérieur aux autres plateformes. Il est vrai que, il y a deux ans, nous n'étions pas à ce niveau de détail.

Nous avons d'excellentes relations avec le ministère de l'intérieur. Nous avons une entité spécifique, LERT, basée à Dublin, qui est en communication régulière avec les unités centrales de la police nationale, notamment la sous-direction de la lutte contre la cybercriminalité (SDLC) et Pharos à Nanterre, la sous-direction anti-terroriste (SDAT) et le centre de lutte contre les criminalités numériques (C3N) de la gendarmerie nationale à Pontoise. Nos équipes de Dublin ont des échanges réguliers avec ces entités.

M. Rachid Temal, rapporteur. - Comment analysez-vous l'ouverture par la Commission européenne d'une enquête contre TikTok sur le fondement du DSA ?

M. Éric Garandeau. - La Commission a ouvert des enquêtes sur toutes les plateformes.

M. Rachid Temal, rapporteur. - Mais c'est vous que nous entendons aujourd'hui en audition. Quelle analyse en faites-vous ?

M. Éric Garandeau. - Nous n'avons pas de commentaires à faire, si ce n'est pour dire que le DSA est tout frais et qu'il vient à peine d'entrer en vigueur. Il est donc logique que la Commission européenne, à laquelle ce règlement donne de nouveaux pouvoirs, utilise ces derniers pour voir ce qu'il en est et faire de la lumière sur la manière dont les différentes plateformes mettent en oeuvre le DSA.

M. Rachid Temal, rapporteur. - L'enquête ne porte pas sur la façon de mettre en place le DSA. La Commission constate un certain nombre de choses et considère que, sur plusieurs points, vous ne répondez pas aux obligations du DSA.

M. Éric Garandeau. - La Commission a ouvert cette enquête mais nous n'en avons pas les résultats.

M. Rachid Temal, rapporteur. - Vous pouvez avoir un avis sur les griefs portés.

M. Éric Garandeau. - Nous avons une équipe de 1 000 personnes dans plusieurs dizaines d'entités qui ont travaillé sur la mise en oeuvre du DSA. C'est un énorme travail. Nous disposons aujourd'hui des mécanismes de signalement, de recours, etc. Nous pensons donc être dans les normes ; nous faisons tout pour être dans les clous.

M. Rachid Temal, rapporteur. - Venons-en aux opérations d'influence. Vous en avez cité quinze. Pouvez-vous nous indiquer les pays et opérateurs concernés, et nous expliquer l'« exception française » ? La France est régulièrement soumise à des opérations d'influence et aucune n'aurait transité par TikTok.

M. Éric Garandeau. - Cela ne signifie pas que cela n'arrivera pas, cela peut arriver. Nous sommes conscients qu'il y a un risque, pour toutes les plateformes, et nous faisons en sorte qu'il ne se matérialise pas. Je pourrai vous communiquer les rapports avec le détail de tous les pays concernés, avec le nombre de comptes.

Il n'y a pas d'« exception française », car tous les pays ne sont pas concernés. Dans certains pays, des opérations d'influence ont été déjouées. Pour l'instant - touchons du bois -, cela n'a pas, à notre connaissance, touché la France.

M. Rachid Temal, rapporteur. - Vous signalez qu'il n'y a aucune publicité politique sur TikTok, hors ou en période électorale. Qu'est-ce qu'une publicité politique ? Cela concerne-t-il la vidéo de quelques secondes d'un responsable politique sur un discours ou un débat ? Quels sont les critères entre la publicité politique et le fait de faire de la politique ?

M. Éric Garandeau. - Merci de votre question.

Il y a deux types de contenus sur TikTok. Il y a d'abord les contenus dits organiques, les vidéos que vous et moi pouvons mettre en ligne ; ces contenus sont autorisés, dès lors qu'ils respectent les règles communautaires. Ensuite, il y a les contenus publicitaires, identifiés comme tels - c'est une obligation légale -, commercialisés par nos équipes. Ainsi, dans votre fil d'actualité, vous avez des vidéos organiques et, de temps en temps, des pages publicitaires identifiées comme telles. Ce sont ces pages publicitaires qui sont interdites pour le personnel ou les partis politiques.

M. Rachid Temal, rapporteur. - Je termine avec la Nouvelle-Calédonie. Vous avez indiqué qu'il n'y avait pas eu de signalements via Pharos.

M. Éric Garandeau. - Oui, au moment de la suspension, nous avons vérifié et il n'y en avait pas.

M. Rachid Temal, rapporteur. - Avez-vous eu des échanges avec le Gouvernement, avant, pendant ou après la suspension de TikTok en raison de son utilisation potentielle par des émeutiers ? Connaissez-vous les raisons de cette décision ?

M. Éric Garandeau. - Avant cette décision, nous n'avons pas eu d'échanges avec le Gouvernement sur cette question. Nous avons eu une réunion de routine deux jours avant et le sujet n'a pas du tout été évoqué. Pour nous, il n'y avait pas de problème.

Nous avons regardé la modération des contenus et, à notre connaissance, TikTok a été utilisé en Nouvelle-Calédonie essentiellement pour informer les gens de la situation - je crois qu'il y a peu de médias en Nouvelle-Calédonie -, et pour communiquer, mais nous n'avons pas eu connaissance d'une utilisation illicite, visant à encourager les émeutes ou à s'organiser en cette vue. Quand c'est le cas, nous avons généralement des signalements de Pharos. Nous avons été surpris et l'avons fait savoir.

M. Rachid Temal, rapporteur. - Il n'y a pas eu d'échanges a posteriori avec le Gouvernement ?

M. Éric Garandeau. - Nous avons demandé la raison de cette suspension et celle-ci a été levée quelques jours plus tard.

M. Rachid Temal, rapporteur. - Le Gouvernement ne vous a jamais informés des raisons de cette décision ?

M. Éric Garandeau. - Non, nous n'avons jamais reçu de notification d'une décision. Nous avons eu des échanges informels, je ne vous le cache pas, mais qui renvoyaient la décision à une responsabilité locale, entre le haut-commissaire et les élus, peut-être. On nous a indiqué que la décision avait été prise à l'échelon local. La suspension a ensuite été rapidement levée.

M. Akli Mellouli. - Je voudrais revenir sur la question de la transparence. Est-ce que vous publiez des rapports concernant les demandes d'accès aux données et les actions de modération de contenus ?

M. Éric Garandeau. - Tout à fait. Le rapport de transparence est de plus en plus détaillé et c'est un achat trimestriel. Nous vous en enverrons la dernière version. Nous avons même pris la décision de produire un rapport spécifique sur les tentatives d'ingérence, en plus du rapport de transparence, car nous savons que le sujet suscite un grand intérêt.

Le rapport de transparence rappelle toutes les règles communautaires que doivent respecter les utilisateurs. Il rappelle la manière dont fonctionne la modération sur la plateforme et il donne des statistiques sur les contenus, notamment le volume de ceux qui sont supprimés sur l'application et leur répartition selon les grandes catégories des règles communautaires, qu'il s'agisse de pornographie, de violence, d'intégrité ou de processus électoral. Nous indiquons aussi, et je crois que nous sommes la seule plateforme à le faire, le nombre de comptes dont les propriétaires ont moins de 13 ans qui sont supprimés, car nous faisons la chasse aux utilisateurs trop jeunes. Nous publions aussi toutes les demandes des autorités qui nous sont faites selon les lois en vigueur, en précisant le nombre de sollicitations que nous recevons de la part de chaque autorité. Il s'agit de rapports mondiaux, qui sont de plus en plus détaillés.

M. Akli Mellouli. - Est-ce que ByteDance a déjà reçu des demandes d'accès aux données des utilisateurs par les autorités chinoises ? Si oui, quelles ont été les réponses que vous avez apportées à ces demandes ?

M. Éric Garandeau. - TikTok n'a reçu aucune demande des autorités chinoises, pour la simple raison que nous n'opérons pas en Chine.

M. Akli Mellouli. - Existe-t-il des lois ou des règlements en Chine qui pourraient obliger à fournir des données d'utilisateurs aux autorités chinoises ?

M. Éric Garandeau. - Non, car nous ne sommes pas soumis au droit chinois.

Mme Nathalie Goulet. - À vous entendre, nous mesurons à quel point la commission d'enquête sur l'utilisation du réseau social TikTok a été utile. En effet, manifestement, il y a eu un changement complet de positionnement dans un délai très court. Le travail de notre collègue Malhuret semble donc avoir porté ses fruits, ce qui nous donne de l'espoir pour l'aboutissement de la présente commission d'enquête.

Je voudrais revenir sur votre modèle économique. Est-ce que vous pouvez nous en dire plus en matière de fiscalité ? En effet, je m'intéresse aux facilités fiscales de lieux comme Dublin et les îles Caïmans et votre modèle économique, qui est aussi celui des Gafam (Google, Apple, Facebook, Amazon, Microsoft), ne manque pas de soulever un certain nombre de questions touchant à la juste imposition des plateformes. Est-ce que vous pourriez nous redire bien clairement que vous payez vos impôts en France et nous indiquer sur quelle base vous le faites ?

M. Éric Garandeau. - TikTok paie ses impôts dans les pays dans lesquels il opère. En réalité, Dublin n'est pas le lieu de notre intégration fiscale pour l'Europe, mais c'est notre pays d'origine, qui reste central pour les relations avec les autorités de régulation des contenus, qu'il s'agisse du RGPD ou du DSA. C'est à Dublin que nous avons nos équipes Trust and Safety.

En revanche, pour ce qui est de la fiscalité, nous relevons de Londres. TikTok UK, qui est basée à Londres, intègre les différentes filiales ou sous-filiales européennes, dont TikTok France qui paie ses impôts en France, que ce soit la TVA, l'impôt sur les sociétés ou la taxe sur les services numériques, autrement dit la digital services tax (DST).

Mme Nathalie Goulet. - Votre chiffre d'affaires est d'environ 30 millions d'euros, cette année, n'est-ce-pas ?

M. Éric Garandeau. - Nous vous communiquerons les chiffres par écrit.

Mme Nathalie Goulet. - En précisant le montant des impôts payés en France.

M. Éric Garandeau. - Oui.

M. Dominique de Legge, président. - En ce qui concerne l'interdiction de TikTok en Nouvelle-Calédonie, vous nous avez dit que vous n'aviez pas eu de contact avec le Gouvernement ni avant qu'elle soit prise, ni pendant qu'elle s'appliquait et pratiquement pas après qu'elle a été levée. Je suis un peu étonné que vous n'ayez pas réagi ni entamé des discussions, voire une procédure, pour indiquer que vous n'aviez pas la même appréciation que le Gouvernement sur les messages et les contenus transmis sur TikTok.

M. Éric Garandeau. - Ma réponse précédente était peut-être ambiguë, mais nous avons bien eu des échanges informels avec le Gouvernement pendant la période de suspension. En effet, nous avons été extrêmement surpris par cette décision, non pas d'interdiction mais de suspension de Tiktok, dont nous avons été informés par la presse comme beaucoup de monde en France. Nous avons donc essayé d'en comprendre les raisons. Comme vous pouvez l'imaginer, il est compliqué pour une plateforme soumise à la régulation d'attaquer une décision gouvernementale. Nous avons donc plutôt essayé de comprendre les raisons qui pouvaient justifier cette suspension et le Gouvernement nous a assuré que celle-ci était liée à un contexte très local et que le retour à la normale s'effectuerait dès que possible. Entre temps, nous avons procédé à des vérifications de notre côté et nous avons constaté qu'il n'y avait pas d'anormalité et que nous gérions bien la situation. La suspension a été d'une durée très courte. Elle a ému de nombreuses personnes, parce qu'il s'agissait d'une décision assez inédite, mais elle n'a pas duré longtemps. En tout cas, nous n'avons jamais cessé de faire notre travail de modération de la plateforme et d'échanger avec les autorités dès lors qu'elles avaient des choses à nous signaler.

M. Dominique de Legge, président. - Mais en relisant les événements après coup, vous n'avez pas eu le sentiment qu'il aurait pu y avoir quelques négligences dans la modération ?

M. Éric Garandeau. - Nul n'est parfait. Nous avons repéré quelques vidéos aux limites de l'acceptabilité, que nous avons retirées, mais il ne s'agissait pas d'un phénomène de masse.

M. Rachid Temal, rapporteur. - Je me permets de rebondir sur la réponse que vous avez donnée à la question de mon collègue Mellouli en disant que vous n'opériez pas en Chine. Pourquoi cela ?

M. Éric Garandeau. -Tout simplement parce que le fondateur du groupe, qui avait commencé sa carrière en Chine et développé des applications en Chine, a très vite voulu avoir un groupe international. C'était peut-être même là son idée de départ. Il a donc fait en sorte que les activités internationales de son groupe se développent en dehors de la Chine et répondent au droit des pays dans lesquels TikTok opère. Il existe un équivalent de TikTok en Chine, à savoir l'application de vidéos récréatives Douyin qui est soumise aux règles chinoises. Par conséquent, TikTok n'opère pas en Chine et est complètement séparé de cette autre plateforme.

M. Rachid Temal, rapporteur. - Est-ce le seul pays où TikTok n'opère pas ?

M. Éric Garandeau. - TikTok opère à peu près partout. Toutefois l'Inde fait également exception, car à la suite d'un différend frontalier avec la Chine, par mesure de rétorsion, le gouvernement indien a préféré suspendre TikTok.

M. Rachid Temal, rapporteur. - À qui appartient l'application qui est utilisée en Chine ?

M. Éric Garandeau. - C'est la propriété de Douyin, qui est une sous-filiale de ByteDance. Certes, la fille ou l'arrière-petite-fille remonte toujours à la mère, bien sûr. Mais entre ByteDance, qui est localisée aux îles Caïmans, et TikTok, l'ensemble de la chaîne capitalistique, hiérarchique et opérationnelle est en dehors de la Chine. Cela vaut du haut jusqu'en bas. En outre, toutes les plateformes ou sociétés occidentales qui opèrent en Chine le font selon les règles chinoises et emploient de nombreux ingénieurs chinois dans tous les domaines de l'activité industrielle.

M. Dominique de Legge, président. - Monsieur le directeur, il me reste à vous remercier.

M. Éric Garandeau. - Je suis à votre disposition pour vous transmettre toute information complémentaire.

Ce point de l'ordre du jour a fait l'objet d'une captation vidéo sur le site internet du Sénat.

La réunion est close à 15h05.

Les influences étrangères dans l'espace numérique - Audition avec MM. Tariq Krim, fondateur du think tank Cybernetica, Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique, Julien Nocetti, chercheur au Centre d'analyse, de prévision et de stratégie du ministère des affaires étrangères et David Chavalarias, directeur de recherche au CNRS

M. Dominique de Legge, président. - Nous poursuivons nos travaux avec une table ronde consacrée aux influences étrangères dans l'espace numérique.

M. Bernard Benhamou, vous êtes secrétaire général de l'Institut de la souveraineté numérique. Vous avez publié de nombreux travaux sur la géopolitique de l'Internet.

M. David Chavalarias, vous êtes directeur de recherche au CNRS, et directeur de l'Institut des Systèmes Complexes. Vos travaux portent notamment sur les dynamiques sociales et cognitives liées au numérique. Les algorithmes des plateformes exploitent des biais qui sont ensuite utilisés par les auteurs d'opérations d'influence malveillantes menées contre notre pays.

M. Tariq Krim, vous êtes fondateur du think tank Cybernetica. Vous êtes également spécialiste des plateformes numériques et des enjeux politiques qui leur sont associés.

M. Julien Nocetti, vous êtes chercheur au Centre d'analyse, de prévision et de stratégie du ministère des affaires étrangères. Votre expertise porte sur la géopolitique des technologies numériques et vous êtes en particulier spécialiste de la Russie.

Avant de vous donner la parole, je vous rappelle qu'un faux témoignage devant notre commission d'enquête est passible des peines prévues aux articles 434-13, 434-14 et 434-15 du Code pénal. Je précise également qu'il vous appartient, le cas échéant, d'indiquer vos éventuels liens ou conflits d'intérêts en relation avec l'objet de la commission d'enquête.

Je vous invite à prêter serment de dire toute la vérité, rien que la vérité, en levant la main droite et en disant : « Je le jure. ».

Messieurs Benhamou, Chavalarias, Krim et Nocetti prêtent serment.

Cette audition fait l'objet d'une captation vidéo qui sera diffusée sur le site internet et, le cas échéant, les réseaux sociaux du Sénat, puis consultable en vidéo à la demande. Elle fera l'objet d'un compte rendu publié.

Vous avez chacun la parole pour un propos introductif d'une durée d'environ 7 minutes. Puis le rapporteur et les membres de la commission vous poseront des questions pour approfondir certains points.

M. Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique. - C'est un plaisir d'évoquer ces questions aujourd'hui. Je dirige et j'ai fondé l'Institut de la souveraineté numérique en 2015, après avoir exercé les fonctions de délégué interministériel aux usages de l'Internet et de négociation européenne sur les questions de régulation du numérique. J'ai également travaillé aux Nations unies en tant que conseiller de la délégation française et j'ai fait partie du groupe de travail des États généraux de l'information « Souveraineté et ingérence » qui rendra ses travaux très bientôt. Nous vous les transmettrons pour l'élaboration de votre rapport.

Pour revenir sur l'actualité, je dirais qu'il n'y a pas de sujet plus brûlant que le sujet de l'ingérence aujourd'hui. J'ai eu le plaisir d'intervenir lors d'une précédente commission d'enquête consacrée à TikTok. J'ai dit que les risques d'ingérence n'étaient pas hypothétiques mais d'autant plus réels que, de la part des services chinois, ne pas utiliser la manne que constituent les informations recueillies sur plus d'un milliard et demi d'utilisateurs de TikTok constituerait une faute professionnelle, ce qui a été repris par un représentant des services de renseignement.

Il est clair que nous arrivons aujourd'hui non pas à un point de rupture, mais à un point d'apogée, non seulement des risques, mais aussi des actions d'ingérence de pays hostiles sur les réseaux numériques, qui prennent diverses formes. Dans un passé pas si lointain, nous pensions en premier lieu à la Russie mais désormais la Chine prend de plus en plus part à des mesures de désinformation dans le cadre électoral. C'est notamment le cas aux États-Unis, en soutenant les groupes proches de Donald Trump, mais aussi en Europe. 2024 est l'année de tous les dangers puisque plus de 4 milliards d'individus sont appelés aux urnes. C'est un immense champ d'expérience. Les grandes plateformes et l'ensemble des acteurs de l'Internet sont d'une coupable naïveté, voire d'une coupable lâcheté ou d'une coupable complaisance par rapport à des acteurs potentiellement toxiques, qu'il s'agisse de pays étrangers hostiles ou de groupes terroristes. Nous avons observé non pas une complicité de ces plateformes, mais une convergence d'intérêts toxiques entre les groupes extrémistes et le modèle de fonctionnement des plateformes qui privilégie les propos polarisants, clivants, parce qu'ils sont les plus vecteurs d'audience ou vecteur d'engagement, de partage, comme nous le disons dans ce métier.

Il n'y a pas de convergence politique entre des groupes terroristes et des plateformes comme YouTube ou Facebook, mais il y a une convergence d'intérêts toxiques. Au-delà de telle ou telle action ponctuelle, ces processus, comme nous l'avons vu dans le passé avec l'affaire Cambridge Analytica aux États-Unis, qui n'était que la première du genre et qui a été suivie par beaucoup d'autres, peuvent jouer sur la formation des opinions publiques, d'où nos inquiétudes. Nous l'avons vu en Nouvelle-Calédonie sur la formation de l'opinion publique, avec des risques d'insurrection et d'actions violentes, comme nous l'avions vu aux États-Unis où les groupes qui ont mené l'action au Capitole, ce que j'appelle un coup d'État alors que certains préfèrent parler d'insurrection, étaient coordonnés et avaient pu grandir grâce aux algorithmes de ciblage, de micro-ciblage, qui sont liés aux données extraordinairement précises que possèdent les plateformes sur les individus, données liées à leur goût, à leurs échanges, y compris dans le domaine médical ou psychologique.

Il était possible de savoir qui se reconnaissait comme raciste, jusqu'à une période récente Facebook ne l'interdisait pas. QAnon, Proud Boys et quelques autres envoient des publicités ciblées pour recruter des personnes en fonction de leur profil politique et créent, dans le cadre des campagnes électorales, grâce à la montée en puissance de l'intelligence artificielle, des contenus spécifiquement conçus pour telle ou telle personne en fonction de son profil. Auparavant, dans le cadre de Cambridge Analytica, des ingénieurs étaient capables de concevoir des contenus et de les diffuser vers des dizaines ou des centaines de millions de personnes. Aujourd'hui, tout cela peut être réalisé automatiquement par un système d'intelligence artificielle à qui l'on demande de favoriser l'élection de telle personne dans tel pays. Le système va concevoir des contenus, répondre en ligne à des personnes qui penseront de bonne foi qu'elles dialoguent avec un être humain, créer et inonder des centaines de millions de comptes de façon très rapide.

Comme j'ai eu l'occasion de le dire lors de la commission d'enquête sur TikTok, Facebook efface en moyenne chaque trimestre 1,5 milliard de faux comptes. Les outils de la désinformation et donc de l'ingérence se sont démocratisés dans le plus mauvais sens du terme et constituent maintenant un véritable risque sur le fonctionnement démocratique de nos sociétés. Comme le disent très bien les experts de ces pays, l'ouverture des démocraties libérales à des ingérences extérieures est une merveille pour les régimes autoritaires qui y voient l'occasion d'interagir. La Russie s'en est vantée il y a peu.

Comme ont pu le dire certains responsables européens, nous devons abolir toute naïveté. Nous savons aujourd'hui que nos démocraties sont vulnérables, qu'elles ont mis beaucoup trop de temps à réagir par rapport à ces processus. Aujourd'hui seulement se posent des questions concernant les risques politiques et non plus simplement économiques ou d'abus de position dominante ou autres, sur le fonctionnement démocratique de nos sociétés. C'est un réveil brutal, parce qu'il s'inscrit dans une période de tensions internationales. En plus de la guerre en Ukraine, il y a maintenant une tension liée à l'affrontement à la fois politique et industriel entre la Chine et les États-Unis, avec la possibilité de faire intervenir ces tensions comme élément de débat dans le processus démocratique.

Je suis d'autant plus heureux que cette commission d'enquête se soit constituée qu'il y a urgence. Vos travaux ne sont pas pour une consommation lointaine mais pour une mise en oeuvre immédiate. Je crois que nous devrons collectivement, comme Monsieur Chavalarias a eu l'occasion de l'écrire dans son livre Toxic data, réexaminer le modèle économique de nos sociétés, que l'on a longtemps considéré comme inoffensif. Il est pourtant à l'origine même du problème qui se pose aujourd'hui.

Comme le dit aussi Shoshana Zuboff, ce modèle économique de ciblage extrême et donc d'extraction de plus en plus massive des données personnelles, constitue une impossibilité de fonctionnement pour les régimes démocratiques. Je pense que nous, Européens, n'avons pas simplement vocation à réguler les plateformes existantes, mais à créer les conditions d'émergence d'un autre type de plateformes qui ne seraient pas liées à l'extraction de plus en plus massive et de plus en plus toxique, de plus en plus dangereuse des données au profit d'autres modèles économiques. Dans son ouvrage Les Empires numériques, Anu Bradford, professeure à Columbia, dit que l'Europe doit être la source d'inspiration de l'ensemble des grands blocs, y compris des États-Unis. Il n'est pas si fréquent qu'une Américaine réclame que les États-Unis s'inspirent davantage de l'Europe.

Nous ne pouvons pas être uniquement sur un rôle défensif, avec tout le respect que j'ai pour les textes importants qui ont été adoptés : règlement sur les services numériques (DSA), règlement sur les marchés numériques (DMA), règlement sur la gouvernance des données (DGA) ou règlement sur l'intelligence (AIA)... Nous devons être en mesure de développer une politique volontariste à l'échelle de l'Union européenne sur les segments critiques, dont l'intelligence artificielle qui deviendra d'un point de vue industriel un élément central des stratégies des différents blocs. Si nous ne le faisons pas, toutes les mesures de régulation seront contournées. La politique industrielle est un élément clé de la régulation de ce secteur.

M. David Chavalarias, directeur de recherche au CNRS et directeur de l'Institut des systèmes complexes. - Je vous remercie de me faire l'honneur de contribuer à cette commission. J'ai essayé de me concentrer sur mon expertise et sur ce que je peux apporter de nouveau, d'une part en vous montrant comment se déploient les opérations d'ingérence, en essayant de vous faire sentir comment l'architecture même des plateformes la favorise, d'autre part en proposant quelques pistes.

L'Institut des systèmes complexes a lancé en 2016 un observatoire de l'espace numérique Twitter, parce que c'était un endroit où il y avait beaucoup d'influenceurs, notamment beaucoup de politiques et où se passaient des campagnes notamment présidentielles, de manière à essayer de comprendre comment s'articulaient les dynamiques d'opinion mais aussi comment fonctionnaient les campagnes d'influence et d'ingérence étrangère. Je vais vous montrer un petit film qui retrace une reconstitution de ce qui s'est passé au moment des gilets jaunes. Des groupes gilets jaunes très actifs sur Twitter, des citoyens, ont été accompagnés, amplifiés, relayés par des groupes étrangers. Chaque point représente un compte Twitter et une pulsation quelques jours. En jaune, vous voyez toutes les personnes qui relayaient le mouvement des gilets jaunes et en marron les comptes étrangers. Un lien correspond à un passage d'information. Vous pouvez constater que Toute une communauté internationale a amplifié le mouvement des gilets jaunes.

Autre exemple, juste avant la guerre en Ukraine, quelques jours avant le 24 février 2022, un ensemble de comptes se sont activés pour relayer la propagande du Kremlin. Beaucoup de ces comptes étaient ceux de personnalités françaises officiellement pro-russes, ce qui n'est évidemment pas un délit, c'est la liberté d'expression. Ils étaient entourés d'un ensemble de comptes qui relayaient ce genre de propagande. Vous avez à l'écran un exemple de dynamique de relais, d'amplification, soit de divisions à l'intérieur de la France, soit d'installation d'un narratif autour d'un conflit comme la guerre en Ukraine.

Dans nos différentes études, nous avons pu détecter quasiment en temps réel les « Macron Leaks ». Nous avons constaté que l'extrême droite américaine et l'extrême droite française avaient essayé de relayer ce « hashtag » avec la désinformation qu'il contenait. Les fausses informations restent, en général, à l'endroit où elles ont été inséminées, sauf si elles sont reprises par les médias ou par les algorithmes de recommandation. C'est l'un des problèmes de ces algorithmes.

Par ailleurs, l'ingérence s'opère souvent à travers des contenus ne pouvant être rattaché à un statut qu'on peut qualifier de « vrai » ou de « faux ». Il en va par exemple des « memes », qui sont des contenus ironiques, ou des affirmations du type « Vladimir Poutine va utiliser les armes nucléaires », qui sont une supposition. En amplifiant une croyance il est pourtant possible de modifier la perception des citoyens et donc les amener à soutenir telle ou telle cause. Par conséquent, la modération, soit le fait d'enlever ou de retirer des contenus qui seraient faux, n'est pas suffisante. Nous sommes face à un encerclement informationnel qui vise à modifier la perception que les citoyens ont d'un problème.

Un des buts à long terme est de modifier la structure même des rapports sociaux et des groupes sociaux au sein d'un pays. Nous avons analysé l'espace politique français entre 2016 et 2022. Chaque point qui s'affiche à l'écran est un compte Twitter et les petits filaments sont les relais entre les comptes Twitter. Vous en avez à peu près 80 000 sur cette image. Vous pouvez voir la restructuration du paysage politique français entre 2016 et 2022. En 2016, il allait de La France insoumise au Rassemblement national en passant par les partis modérés, le Parti socialiste (PS) et Les Républicains (LR). En 2022, le PS et LR étaient complètement déstructurés et un gros bloc d'extrême droite a émergé, avec une nouvelle communauté Reconquête ! et une nouvelle communauté numérique qui s'est formée pendant la pandémie autour de Florian Philippot sur les thèmes « antivax » et de résistance au « système ». Une nouvelle passerelle s'est formée entre l'extrême du spectre gauche et l'extrême du spectre droit et qui a joué pour la circulation de narratifs bien au-delà de la pandémie. Par exemple, en ce moment, il y a une reconfiguration autour du climato-dénialisme. C'est cette communauté qui s'est insérée entre les deux extrêmes et qui est en train de le promouvoir.

Ce type de reconfiguration n'a pas été rendu possible uniquement à cause des plateformes, mais les plateformes et leur conception même les favorise et amplifie les discours toxiques. Les plateformes ont mis en place depuis 2018 un fil d'actualité. C'est l'endroit où les personnes consultent la majorité de leurs contenus. Ce que quelqu'un voit sur son fil d'actualité, ce n'est qu'un petit pourcentage de ce que produit son environnement social, moins de 10 %. Il y a donc un filtre entre ce que produisent les personnes auxquelles vous êtes abonné et ce que vous voyez effectivement. Comment ce filtre est-il élaboré ? Nous avons montré qu'entre vos abonnements et ce que vous recevez dans votre fil d'actualité, il y a 50 % de contenus toxiques en plus sur le réseau Twitter, c'est-à-dire des insultes, du dénigrement, des attaques personnelles, etc. Par conséquent cela va déformer la perception des utilisateurs de millions d'utilisateurs. Facebook et Instagram fonctionnent de la même manière et modifient la perception de millions d'utilisateurs vers un environnement plus hostile. Dès que les plateformes optimisent l'engagement, c'est-à-dire dès qu'elles mettent dans les fils d'actualité des utilisateurs les contenus qui ont le plus de clics, de « likes » et de partages, ce qu'elles font depuis 2018, ces biais de négativité apparaissent. C'est un gros problème parce que cela renforce l'hostilité des échanges et, indirectement, les personnalités et les comptes qui s'expriment de manière hostile. La circulation de l'information est modifiée, comme la structure du réseau. Dans le top des 1 % des influenceurs, il y a une surreprésentation de 40 % de personnes qui s'expriment de manière hostile.

Avec les plateformes comme Facebook, Twitter ou Instagram, qui réunissent plusieurs milliards d'utilisateurs, l'opinion publique se forme dans des environnements où, de manière centralisée, changer une ligne de code permet de changer complètement la manière dont l'information circule mais aussi la manière dont les personnes s'expriment puisque les journalistes et les politiques vont changer leur manière de s'exprimer pour éviter leurs discours ne soient pas diffusés.

Je vous propose quelques pistes pour éviter ce type de phénomène. Je pense, comme l'a dit le premier intervenant, qu'il faut choisir entre le modèle économique des plateformes tel qu'il existe aujourd'hui et la démocratie. Nous ne pourrons pas avoir les deux très longtemps. Pour cela, il faut agir de manière systémique et rapidement. Les pistes que je vais détailler pourraient être appliquées en un temps assez court, en moins de 12 mois.

La première est qu'il faut défendre les utilisateurs contre les clauses abusives des réseaux sociaux. Imaginez un service postal qui vous dirait qu'il a le droit de lire ce que vous écrivez, de le modifier, de le distribuer aux destinataires ou à d'autres personnes, de ne pas le distribuer, de mettre dans votre boîte aux lettres des gens qui vous écrivent ou d'autres personnes, ou encore fermer votre boîte aux lettres quand il le souhaite, sans avoir aucun compte à vous rendre. Ce sont mot pour mot les conditions actuelles de Twitter et d'autres plateformes. Elles sont abusives et laissent les utilisateurs à la merci des grands réseaux. Les jeunes qui souvent ne donnent même plus leur numéro de portable mais leur Instagram, sont complètement captifs.

La deuxième piste porte sur les ingérences étrangères. Nous pourrions forcer les utilisateurs à s'authentifier en tant que Français, tout en restant anonyme, sans donner d'autres d'informations, par exemple en passant par un intermédiaire comme France Connect qui certifie que l'utilisateur est français. Les utilisateurs pourraient ainsi filtrer les contenus en disant qu'ils ne veulent voir que les contenus émis par leurs compatriotes, ce qui permettrait d'éliminer de nombreuses ingérences propagées à partir de faux comptes.

La troisième piste consiste à imposer la portabilité des données et de l'influence sociale. Il y a quelques années, vous ne pouviez pas changer d'opérateur téléphonique, vous étiez captif et vous deviez même payer plus cher quand vous appeliez à un autre opérateur. Après régulation il est possible de conserver son numéro en changeant d'opérateur. Les utilisateurs des réseaux sociaux sont captifs. De nombreuses personnalités très influentes restent sur Twitter parce qu'elles ont développé tout leur thread et parce qu'elles y ont leur audience, alors que le réseau devient toxique. Il serait tout à fait possible d'imposer qu'un utilisateur puisse partir d'un réseau pour aller vers un autre, sans perdre ses données et son audience. Des réseaux comme Mastodon le permettent.

La quatrième piste porte sur l'atténuation de l'ingérence. La publicité ciblée est vraiment une catastrophe. En ce moment même, il y a des milliers de publicités russes sur le territoire français, en Italie, en Pologne et en Allemagne, un doctorant de mon laboratoire les a identifiées dans le laboratoire. Nous sommes sous le feu alors même que Facebook est censé les modérer. Nous avons mesuré que Facebook ne modère qu'à peine 20 % des publicités politiques. Si vous dites en ce moment que « l'État n'arrive même pas à contrôler le caillou, comment voulez-vous qu'il assure la sécurité en France ? » tout le monde sait à quoi ces mots font référence mais ils ne seront jamais identifiés comme une publicité politique. Cependant, s'ils sont massivement envoyés au moment où il y a des problèmes en Nouvelle-Calédonie, ils ont un impact.

Il y a également un gros problème d'accès aux données. Les analyses que je vous ai montrées ont été faites au moment où l'API de Twitter était ouverte. C'était la seule plateforme qui avait ouvert ses données. Nous avons relevé un ensemble de biais et de failles dans les algorithmes et des failles des plateformes. Il y a les mêmes chez Facebook. Aujourd'hui, nous n'avons plus accès à ces données, nous sommes complètement aveugles.

J'ai regardé beaucoup d'auditions où des plateformes vous disaient qu'elles modéraient et enlevaient 90 % des contenus. Vous n'avez aucun moyen de le vérifier, nous non plus. Vous n'êtes donc pas obligés de le croire !

Il est possible de mettre en place des routines d'audit. Nous pouvons vérifier en temps réel le biais de toxicité sur une plateforme. Il ne s'agit pas d'agir sur les contenus, mais de faire en sorte que certains types de contenus ne soient pas amplifiés par rapport à la ligne de référence.

Il est aussi envisageable d'appliquer le principe de réciprocité. Nous ne devrions pas utiliser le déploiement dans notre pays des plateformes de pays qui interdisent les plateformes étrangères. C'est comme si vous autorisiez votre voisin à garder vos enfants alors qu'il ne veut surtout pas que vous gardiez les siens.

Sur le plan institutionnel, il y a également plusieurs pistes, comme le renforcement les espaces publics numériques, avec l'émergence de plateformes alternatives comme l'a dit M. Benhamou. Les journaux et les télévisions qui respectent une charte déontologique sont subventionnés, On pourrait l'envisager pour les réseaux sociaux qui respectent la portabilité.

Les élections sont très vulnérables par leur conception même. Autant en 2017 qu'en 2022, j'ai été frappé par la multiplication des appels à voter contre plutôt qu'à voter pour. Les campagnes sont très hostiles. Il y a plusieurs candidats au premier tour et au deuxième tour il ne reste que deux candidats qui sont haïs par toutes les autres communautés. Il suffit ensuite de manipuler et de savoir qui est le « moins pire ». Or manipuler pour définir qui est le « moins pire » est très facile avec des campagnes de « memes ». Par exemple, un candidat qui obtient 30 % au premier tour, ce qui est déjà beaucoup, est rejeté par 70 % de la population mais il peut passer le deuxième tour grâce à des manipulations. Ce n'est pas vraiment démocratique. Il existe des modes de vote qui pourraient l'éviter. Le mode de scrutin actuel est archaïque, il a 300 ans et de nombreuses failles. Je défends beaucoup le jugement majoritaire mais il y en a d'autres permettraient d'éviter tous ces travers.

Enfin, j'observe depuis la pandémie sur les réseaux sociaux actuellement une récupération des valeurs fondamentales de la République, notamment le concept de liberté. S'il est récupéré comme celui de fraternité et d'égalité, nous aurons perdu beaucoup. Il faut vraiment veiller à ce que ces valeurs fondamentales soient remises à la bonne place dans le débat public.

M. Tariq Krim, fondateur du think thank Cybernetica. - Je vous remercie de m'auditionner sur ces questions même si je ne suis pas un spécialiste de l'ingérence. J'ai un profil d'entrepreneur dans le numérique. J'ai monté deux start-ups et je connais bien la manière dont fonctionnent les plateformes. Je suis également les questions géopolitiques du numérique depuis plus d'une trentaine d'années, ce sont donc des sujets évidemment qui me sont familiers. Enfin, j'ai siégé au Conseil national du numérique et j'ai mené pour le gouvernement une mission préalable à la création de la French Tech. Je suis un défenseur infatigable des questions de souveraineté et de savoir-faire français dans le domaine du numérique.

J'ai construit mon propos liminaire en trois parties. La première porte sur la compréhension des enjeux de la géopolitique du numérique et le positionnement de l'ingérence. Dans la deuxième, je soulèverai les nouvelles questions liées à l'IA, ce qu'on commence à appeler aux États-Unis la sécurité épistémologique, c'est-à-dire la capacité pour un pays de sauvegarder sa propre culture, sa propre connaissance et son propre rapport au vrai. Je parlerai également de l'autonomie commutative. Comme vous le savez, on utilise de plus en plus des plateformes extérieures pour réfléchir et résoudre des problèmes.

Enfin, je parlerai la souveraineté numérique.

Trois mouvements de fond sont en cours depuis une vingtaine d'années. Tout d'abord, après une grande phase d'expansion de l'internet, nous sommes aujourd'hui dans une phase de « déglobalisation », de splinternet. La Chine s'est connectée en 1994 à l'Internet mais trois ans plus tard, elle a décidé de se déconnecter et de construire son propre réseau, avec une forme de pare-feu qui laisse passer le contenu vers reste du monde, en gérant elle-même ses plateformes. TikTok peut opérer sur le reste du monde, mais le reste du monde ne peut pas opérer en Chine. Ce réseau augmente. On parle parfois de « dictateurs-net » qui regroupe la Russie, la Corée du Nord, l'Iran, etc. Ce réseau séparé pose d'énormes questions économiques et géopolitiques.

Il y a ensuite trois types de guerres. La première, la cyberguerre, concerne l'attaque des infrastructures. La deuxième a plusieurs noms, on parle de guerre cognitive, narrative, de « warfare », ou de « likes war ». Elle consiste à « hacker » les cerveaux. Pendant très longtemps, il y avait une forme de dualité, avec d'un côté le domaine militaire et de l'autre côté le domaine civil. Pendant la guerre en Afghanistan, l'armée américaine a proposé à ses soldats d'utiliser Facebook. Soudain, il y a eu des conversations entre les talibans et l'armée américaine via une plateforme commerciale, Facebook Messenger. Depuis, nous nous sommes rendu compte que les plateformes commerciales étaient utilisées à la fois pour les opérations d'ingérence et des attaques militaires. La troisième est la « lawfare », c'est-à-dire l'utilisation du droit. Quand on contrôle l'Internet et qu'on a accès à l'ensemble du monde on peut intégrer la loi que l'on veut, notamment le Cloud Act, le Foreign Intelligence Surveillance Act (FISA), toutes les lois extraterritoriales.

Le troisième mouvement est la bataille de l'amplification. Jusqu'à maintenant, les plateformes se basaient sur des algorithmes. Aujourd'hui, se répand la conviction que si on dispose de suffisamment de puissance de calcul, on va pouvoir répondre à des problématiques importantes. Il y a une course affolante sur cette évolution. Il y a deux batailles en parallèle. La première est la bataille entre la Chine et les États-Unis. C'est une bataille un peu bizarre puisque ces deux pays ont besoin l'un de l'autre pour leurs économies. C'est la fameuse militarisation des interdépendances dont mon voisin parle souvent. La deuxième est un accord tacite entre les États-Unis et la Chine pour que cette dernière puisse utiliser les nouvelles technologies pour dépecer l'Europe de ces industries du XXe siècle, nucléaire, automobile, 5G, Télécoms, etc. Toutes les industries classiques dans lesquelles nous avons prospéré sont aujourd'hui ouvertes. Quand on parle de cette configuration, il faut comprendre que l'intelligence artificielle (IA) a aussi pour valeur, à un moment ou un autre, de prendre le savoir-faire européen.

Depuis l'arrivée de l'IA, nous sommes dans un nouvel environnement. Nous sommes passés d'un monde déterministe, où les conditions initiales définissent les conditions de sortie à un monde non déterministe. On le voit avec Chat GPT, en tapant la même phrase on obtient des réponses différentes. Avant, avec les techniques d'amplification, le même message était diffusé sur les réseaux sociaux. Aujourd'hui, l'IA peut construire des centaines de milliers d'agents traitants synthétiques qui vont convaincre un par un les individus. Nous sommes entrés dans une nouvelle ère qui n'est plus celle de personnalisation de masse, mais de la massification de la personnalisation.

Pour la bataille de l'IA, nous avons besoin de trois éléments. Nous avons besoin de talents, l'Europe en a beaucoup mais aussi de puces qui sont quasiment toutes fabriquées par Nvidia. Cependant, pour construire ses puces, Nvidia a besoin de l'Europe. En effet, les licences viennent d'Angleterre, la machine qui génère les ultraviolets pour imprimer les puces des
Pays-Bas, une partie des technologies d'Allemagne, les lasers de Californie et le coating, qui couvre les puces, du Japon. C'est un système très globalisé et Nvidia a besoin de l'Europe. Enfin, il faut des data centers. Depuis moins d'un an, nous observons un changement complet de la stratégie des grandes plateformes. Jusqu'à maintenant, elles refusaient d'investir dans les data centers. Elles considéraient qu'elles étaient des vendeurs de pelles et de pioches et ne voulaient pas posséder les mines. Aujourd'hui, la pression financière est tellement importante, les enjeux se chiffrent en centaines de milliards de dollars, que les plateformes investissent massivement dans les data centers. La France a obtenu 18 milliards d'euros d'engagements d'investissement mais cette somme correspond aux investissements d'Amazon dans ses data centers en Espagne. Le contrôle des données est essentiel puisque l'IA doit permettre de construire des environnements synthétiques et du savoir-faire.

La question de savoir si l'IA remplacera l'emploi est à mon avis un faux sujet. Nous avons un important problème démographique et nous faisons face à l'effondrement du talent. L'essentiel est de se demander si demain on va pouvoir utiliser l'IA pour résoudre des problèmes importants. Dans le domaine militaire, il faut une personne pour contrôler un drone mais pour contrôler des millions de drones, l'IA est indispensable.

Par ailleurs, avec l'IA générative, on ne parle plus d'algorithmes mais de modèles. On ne donne pas des paramètres, on demande à la machine d'apprendre. La question qui se pose porte sur ce qu'elle apprend. C'est comme pour l'éducation d'un enfant, si on sait où il va à l'école, on sait ce qu'il apprend. On ne s'intéresse plus à des données pures, mais à de la culture. C'est une problématique tout à fait nouvelle. Il y a des outils qui ont une capacité d'acculturer ou de déculturer des populations entières. Je parle souvent d'autonomie cognitive. Se pose la question de la prochaine génération d'ingérence. Aujourd'hui, elle passe par les réseaux sociaux, elle joue sur la stabilité émotionnelle d'un pays. C'est ce que nous avons vu pendant la campagne de Donald Trump, où tout le monde se détestait et s'insultait sur Twitter, sans plus vraiment savoir pourquoi. Demain, il s'agira de convaincre les individus de vivre dans une réalité unique.

Vous avez peut-être lu Le Maître du Haut Château de Philip K. Dick. Dans ce chef-d'oeuvre, il imaginait une Amérique divisée en deux, où une partie de la population pensait qu'elle avait perdu la guerre, que Hitler et le Japon avaient gagné. Plus on s'approchait du centre des États-Unis, plus les individus s'approchaient de la vérité. Il y avait donc deux visions de la vérité en parallèle. Avec l'IA, des millions de versions de la vérité circuleront. Au
Royaume-Uni, le régulateur des élections s'est rendu compte, des années après le vote sur le Brexit, des publicités qui avaient été publiées.

En termes de souveraineté numérique, si nous voulons agir dans cet environnement, soit on utilise les outils des autres, soit on utilise nos propres outils. Le monde de l'informatique a toujours oscillé entre deux types de modèles, centralisés et décentralisés. Nous n'avons jamais été très bons dans les modèles centralisés, regardez Windows ou encore le cloud. En revanche, nous avons toujours été plutôt bons dans les modèles décentralisés. L'IA est ultra-centralisatrice, peut-être même plus centralisatrice que tout ce qui a existé, ce qui rend la situation très complexe.

Quand Bruno Le Maire a proposé de taxer les Gafam, ce qui est une bonne idée, mais les États-Unis ont immédiatement annoncé des mesures de rétorsions sur l'agriculture, les spiritueux, etc. Nous ne pouvons pas développer de nouvelles technologies, les exporter parce que nous avons nos industries existantes. L'agriculture tourne quasi exclusivement sur Microsoft. Nous n'avons pas su construire une politique publique d'achats, ni une politique de solidarité de façon à ce que les entreprises françaises qui exportent achètent des entreprises de technologies locales qui demain vont exporter. Pour l'instant, nous n'avons pas réussi à trouver la bonne approche et je ne suis pas très optimiste sur l'avenir. Si on veut que la France existe et affermisse son soft power, il faudra changer cela.

M. Julien Nocetti, chercheur au Centre d'analyse, de prévision et de stratégie du ministère des Affaires étrangères. - Je vous remercie de m'avoir invité à m'exprimer sur cette thématique passionnante. Je m'exprime au nom du Centre d'analyse, de prévision et de stratégie (CAPS) du ministère de l'Europe et des Affaires étrangères, que j'ai rejoint récemment, et qui a pour but depuis une cinquantaine d'années d'éclairer la réflexion du ministre. C'est le think tank du ministère, qui assume aussi parfois son rôle de poil à gratter. Cette liberté a une contrepartie : tout ce que je vous dis n'engage pas la parole du ministère ni du gouvernement.

Je vous propose de fonctionner en entonnoir en repartant de mon expertise en relations internationales pour resituer l'enjeu dans une perspective internationale, européenne avec une thématique traversée par une terminologie abondante. Quand j'ai reçu votre invitation, j'ai été surpris par l'emploi du terme d'influence étrangère. Il y a pourtant une grande différence entre influence et ingérence, comme l'ont montré de récents travaux de l'Assemblée nationale. L'ingérence vise à déstabiliser un pays, elle est malveillante et clandestine, alors que l'influence repose sur la conviction, la séduction, la persuasion, etc. Dans certains cas, l'influence peut paver la voie à des tactiques d'ingérence. Le rapport CAPS de 2018 s'était arrêté sur cette différenciation et sur l'expression de manipulation d'information pour catégoriser ce qui fait l'objet d'une grande confusion dans le discours public et médiatique, avec l'emploi de termes comme la désinformation, la propagande, la subversion, les fake news, les infox, la guerre politique, etc., afin d'en souligner le caractère malveillant, avec l'intention de nuire, et clandestin de stratégies informationnelles hostiles.

La thématique qui nous rassemble aujourd'hui brasse une myriade de problématiques qui sont autant d'enjeux à traiter pour les décideurs. Les ingérences numériques sont à la fois un enjeu de stratégies étatiques d'acteurs hostiles, un enjeu de confiance dans les médias, un enjeu de modération des contenus des grandes plateformes, mais elles concernent aussi les infrastructures numériques et la politique des sanctions, notamment depuis février/mars 2022. Les différentes initiatives ont des impacts très concrets sur la réception de contenus hostiles et manipulés. Quelle hauteur de vue peut-on avoir face à une telle panoplie de sujets à traiter ? Comment décider, sachant que l'on peut difficilement être expert de toutes ces thématiques ?

Je vais focaliser mon propos sur trois ou quatre enseignements relatifs à ces ingérences numériques, en soulignant quelques points d'attention, notamment sur la réception.

C'est un enjeu qui est devenu un facteur structurant des relations internationales. Nous nous allumons notre radio ou notre télévision, nous sommes saisis d'un effet de saturation face aux nouvelles qui ont trait à ces sujets d'ingérence numérique et informationnelle.

Il y a quelques semaines, Meta a supprimé son outil de lutte contre la désinformation, CrowdTangle, avant l'élection américaine, alors que prolifèrent sur cette plateforme les propagandes ciblées affiliées à la Russie, qui ciblent en amont des élections européennes les pays comme la France, l'Allemagne, l'Italie et la Pologne. Dans le même temps, la Cour suprême du Brésil a lancé une enquête contre Elon Musk pour instrumentalisation criminelle de X (ex Twitter). Quelques jours plus tard, OpenIA, la maison de mère de Chat GPT reconnaissait que ces modèles avaient été utilisés pour générer des contenus, à la fois textuels et visuels, dans plusieurs campagnes d'influence informationnelle, dont l'opération russe RRN/Doppelgänger. Enfin, il y a quelques jours, sous couvert d'aider ses ressortissants à l'étranger, Pravfond, qui est une fondation du ministère russe des Affaires étrangères, a financé des projets de désinformation et la défense légale de suspects d'espionnage, notamment sur le sol européen. C'est une actualité extrêmement dense, qui doit nous interpeller, même si cela peut entraîner une forme de lassitude.

Dans une perspective plus macro, ces manipulations de l'information sont une source majeure de déstabilisation classée par le Forum économique mondial (WEF) parmi les principaux risques mondiaux en 2024, aux côtés des risques climatiques et environnementaux. La totalité des grandes enceintes internationales de débats ont ces dernières années réévalué à la hausse le degré de nocivité que font peser les manipulations internationales sur nos systèmes. Dès 2017, la conférence sur la sécurité de Munich a proposé de considérer la démocratie comme une infrastructure critique qu'il fallait à tout prix protéger des visées hostiles de nos compétiteurs.

Je relève également un hiatus assez formidable entre l'accès à la connaissance et à la transparence permis par la dissémination des moyens numériques et les capacités pour les États d'agir via ces manipulations de l'information dans des interstices de conflictualité, des interstices juridiques, sociétaux, économiques, etc., sous le seuil, tout en masquant leur responsabilité. C'est pour cela qu'il est difficile d'agir de façon satisfaisante dans le domaine informationnel et numérique.

Les actions informationnelles ne font l'objet d'aucun frein de type moral. Elles visent aujourd'hui à instrumentaliser des enjeux régaliens, comme le récit selon lequel il existerait un projet de partage de la dissuasion nucléaire française, avec la conscience parfaite chez nos adversaires que ce type de désinformation sera repris par une partie de la classe politique et des communautés affinitaires sur les réseaux sociaux. Il y a une continuité entre la dimension internationale et intérieure qui mérite un regard beaucoup plus fouillé.

Il est fondamental de saisir la différence existante entre une partie de la parole politique sur ces questions et le discours scientifique, avec l'enjeu de déterminer des métriques et de s'intéresser à la réception des différents types de discours. La première parole politique, pas seulement en France, a désormais le souci d'alerter de plus en plus les opinions publiques sur les menaces liées aux manipulations de l'information, notamment en déclassifiant, en exposant de façon beaucoup plus offensive les stratégies hostiles. Or, il y a potentiellement un effet négatif à porter des discours alarmistes sur la menace de désinformation, en particulier sur la perception des médias, de leur rôle, de leurs responsabilités et sur la confiance dans les institutions démocratiques. La ligne de crête sur ces avertissements alarmistes est très complexe, entre la documentation de la présence d'une désinformation numérique et le fait de devoir rendre compte des limites de sa réception, de son influence, donc de son caractère persuasif et corrosif.

Des travaux académiques, notamment aux États-Unis, ont souligné cet impact a priori négatif des discours publics sur la lutte contre les manipulations de l'information. Ce prisme américain renvoie à la modélisation encore parcellaire de la réception de la désinformation et à l'idée que toutes les stratégies adverses ne se valent pas toutes et ne fonctionnent pas toujours. Les stratégies russes, chinoises ou iraniennes sont mises en avant, mais cela ne signifie pas pour autant qu'elles aient obtenu des effets stratégiques. Les discours alarmistes peuvent susciter une forme d'anxiété au sein de la population. Cependant, le bruit médiatique autour de ces sujets est l'un des objectifs des acteurs propageant des manipulations d'information. On risque d'offrir une chambre d'écho aux manoeuvres hostiles, souvent russes, voire de favoriser une forme de soutien vis-à-vis de la restriction de la liberté d'expression en ligne et, à plus long terme, de contribuer au désenchantement vis-à-vis de la démocratie.

Exposer des campagnes informationnelles sans apporter d'éléments nourris sur leur impact ne contribue pas forcément à l'efficacité des réponses. C'est une problématique extrêmement difficile et sensible, qui renvoie à toute une série de biais comme le mythe du public nécessairement attentif et réceptif aux discours hostiles, ou l'effet magique de la propagande qui va nécessairement, va fonctionner.

Il me semble important de souligner les risques liés à la prolifération d'une industrie privée de lutte contre les manipulations de l'information. Elle peut aggraver la crise de confiance dans nos différentes institutions publiques et renforcer l'idée que le secteur privé, obéit avant tout à des motifs mercantiles.

Faut-il faut laisser la réponse, la quasi-attribution de campagnes informationnelles hostiles à de grands acteurs technologiques ? Je n'en suis pas certain. Il faut au contraire favoriser le développement d'une industrie européenne. Nous disposons d'un tissu de start-up extrêmement compétent pour retisser des fils et travailler sur la réception de la désinformation. Cependant, l'empreinte médiatique des grands acteurs extra-européens est telle qu'elle met entre parenthèses leurs travaux passionnants.

Enfin, il y a des tendances de fond sur la clandestinisation de plus en plus marquée des stratégies informationnelles hostiles et sur l'attaque des infrastructures numériques pour viser la réception de l'information par des populations entières.

M. Dominique de Legge, président. - Je donne la parole à notre rapporteur pour une première série de questions.

M. Rachid Temal, rapporteur. - Vous évoquez le stade 1 de la naïveté, le stade 2 de la défense et le stade 3 de l'offensive. L'un des objectifs de cette commission d'enquête est d'appréhender le rôle croissant des ingérences dans la sphère politique, avec l'idée qu'il faut sortir de la naïveté. Les structures étatiques en sont globalement sorties mais pas la société civile.

Vous avez évoqué le modèle économique des plateformes, leur puissance, mais aussi leur rôle de béquille de l'État, notamment aux États-Unis, la question démocratique, celle de l'industrie, mais aussi celle de la concurrence des vérités et de la contestation ou de la remise en doute de la parole la puissance publique.

Ma question est simple : est-ce qu'il est trop tard pour agir ? Vous avez proposé de nombreuses solutions, je ne demande qu'à y croire, mais disposons-nous des moyens financiers pour agir ? Si ce n'est pas trop tard, comment s'assurer que notre rapport permette à chacun de comprendre qu'il ne faut plus être naïf mais au contraire se défendre av ? Comment créer un autre système d'infrastructures qui soit moins sujet à l'économie de l'attention ?

M. Bernard Benhamou. - Vous posez la seule question importante, est-ce déjà trop tard ? Sur les moyens financiers, les quatre dernières années nous ont montré que les dogmes européens pouvaient évoluer. Par exemple, alors que l'Allemagne s'est longtemps opposée à toute forme d'endettement européen, le plan Covid a mobilisé 800 milliards d'euros via un emprunt européen et des réflexions sont en cours pour aider l'Ukraine via un autre emprunt européen.

Un emprunt massif européen sur des objectifs stratégiques est non seulement possible, mais il est souhaitable. Ce que font les Américains avec l'Inflation Reduction Act (IRA) est un exemple, même s'il conduit à une distorsion de concurrence.

Sur la guerre perdue de la vérité, certains chercheurs se sont répandus en disant qu'il était trop tard. Je considère qu'il est dangereux d'envisager une forme de résignation morale par rapport aux narratifs adverses, qui sont d'autant plus dangereux qu'ils disposent de leviers d'instrumentation extraordinairement puissants. Nous pouvons nous inspirer sur ce point des « ingénieurs du chaos » dont parlait Giuliano da Empoli, avant même le « mage du Kremlin », et de la tendance des mouvements extrémistes à se regrouper. Comme l'a montré M. Chavalarias, la politique devient centrifuge. Là où auparavant on gagnait la politique au centre, maintenant ce sont les extrêmes qui s'agrègent pour constituer un mouvement majoritaire.

Vous parliez des instruments de l'État en matière de défense. Aujourd'hui, un grand journal de ce secteur, Wired, évoquait les plans d'un certain Donald Trump. S'il gagne les élections, son agenda est de mettre en coupe réglée l'ensemble des instruments de surveillance de l'administration américaine pour en faire des outils de contrôle et de répression politique. Notre naïveté a été de penser que la démocratie était un fait inéluctable dans les démocraties. Nous devons nous préoccuper de ce que seront nos instruments de contrôle si un gouvernement extrémiste venait au pouvoir, y compris en France. Malheureusement, ce n'est pas de la politique-fiction.

Sur les instruments de régulation, il a été très brièvement évoqué le Small Business Act qui existe depuis 1953 aux États-Unis - 1953 ! Nous nous refusons, du fait d'un lobbying forcené de certains grands acteurs industriels, à le mettre en place en Europe. Je pense qu'il n'est que temps !

De la même manière, le protectionnisme, que pratiquent massivement les Américains et plus encore les Chinois, ne doit plus être tabou et l'Europe doit réfléchir à la mise en place d'un European Buy Act (EBA). Dans un rapport qui sera publié dans peu de temps sur le numérique et le développement durable, je dis que nous avons besoin d'une taxe carbone aux frontières, sachant que la Chine a une énergie dix ou quinze fois plus carbonée que la nôtre et que nous la laissons vendre des voitures dont le bilan carbone global est délirant, sans parler de l'extraction des terres rares et des métaux critiques.

S'il y a une volonté politique en matière de politique industrielle, l'idée selon laquelle nous serions incapables de la mettre en oeuvre est défaitiste. Les nombreux échecs, dont Cambridge Analytica, conduisent les pays qui observent les différentes plateformes de régulation à considérer que la vision européenne est la bonne. C'est le cas des parlementaires américains qui savent depuis au moins dix ans, depuis l'administration Obama, qu'une régulation doit être mise en place. Le lobbying forcené des plateformes a empêché son déploiement, il est temps aujourd'hui de la mettre en place. On observe également que le texte de régulation sur les données chinoises emprunte aux règlement général sur la protection des données (RGPD), avec une grosse exception sur l'État qui se permet à peu près tout et n'importe quoi en termes d'accès aux données personnelles.

Nous avons un rôle industriel à jouer, avec une commande publique dont le Small Business Act pourrait être l'un des vecteurs et avec une exemplarité de l'État dans le choix des plateformes. Certains acteurs publics considèrent de façon naïve la participation des grandes plateformes américaines à ce que devraient être des missions de l'État, en particulier sur les données médicales ou sur la sûreté nucléaire. On peut parler d'une naïveté historique qui confine à la complaisance mais il est encore temps de changer des choses.

M. David Chavalarias. - Je suis d'accord, il est encore temps. Les différentes propositions que j'ai mentionnées, qui ne sont pas exhaustives et ne viennent pas toutes de moi, peuvent être mises en place en moins d'un an.

Dès 2017, nous avons identifié de nombreuses désinformations sur Facebook. Aujourd'hui, notre laboratoire a montré que Facebook ratait 20 % des informations sur la campagne pour les élections au Parlement européen. Elle ne met donc pas donc pas les moyens. Or, un pays est souverain peut légiférer, il peut imposer des amendes, il est temps d'agir.

L'IA va créer de la désinformation massive mais on peut aussi essayer de changer les espaces informationnels. Si nous arrivons à imposer le fait qu'un utilisateur puisse filtrer ses interlocuteurs par citoyenneté, il n'y aura pas d'interférences avec les IA, elles ne vont pas se connecter à France Connect obtenir un badge disant qu'elles sont françaises.

Il y a pas mal de solutions, qui ne sont pas forcément très coûteuses, qui peuvent avoir des résultats quasi immédiats. D'autres vont demander un peu plus d'argent et surtout une volonté politique. Sans volonté politique aujourd'hui, personne ne pourra en avoir demain.

M. Tariq Krim. - L'offensif est toujours possible, il faut l'assumer, mais il est limité par le fait que nous n'avons pas accès à des réseaux locaux. On dit souvent que l'opinion russe n'existe pas, que l'opinion iranienne n'existe pas, c'est évidemment faux.

Pourquoi Facebook s'est développé de cette manière ? Aucun acteur n'a envie d'un produit fondamentalement biaisé. Plusieurs équipes sont impliquées dans le lancement d'un produit. La première développe l'application et son bonus est basé sur la capacité à faire un produit à la fois très addictif, capable de croître très rapidement. Des personnes ont mis en place des stratégies pour faire passer Facebook de 100 millions à 1 milliard d'utilisateurs et des stratégies pour grandir dans des pays réputés difficiles pour les réseaux sociaux, comme le Japon ou la Norvège. Une deuxième équipe s'occupe de la monétisation. Enfin, une troisième équipe, souvent appelée « Trust and Safety », s'occupe de vérifier que le produit respecte les règles mais elle est en dernière position.

Le modèle économique est en train de changer. Il a changé avec TikTok, qui a vraiment inquiété Facebook. Le modèle de Facebook ou d'Instagram est un modèle de socialisation. On parle à ses amis, on se compare à ses amis, on se connecte à ses amis etc., ce qui a créé d'ailleurs des problèmes chez les jeunes, puisqu'en général, quand vous êtes à l'école et que si vous êtes le vilain petit canard, vous n'avez pas envie d'aller sur Facebook ou Instagram, parce que vous allez être attaqué. En revanche, TikTok repose sur un système automatisé, on n'a pas besoin de parler aux autres, ils viennent tout seul. Depuis des années, Facebook cherche à construire une intelligence artificielle aussi bonne que TikTok, mais pour l'instant cela n'a pas marché.

Avec l'arrivée de l'IA nous sommes confrontés au risque que les individus parlent à des flux uniques, mais aussi que ces flux soient totalement synthétiques et donc n'aient plus aucun lien avec la réalité. On entre dans un nouvel univers.

La valorisation actuelle de ces entreprises est basée exclusivement sur l'exécution d'un projet IA depuis deux ans. Tout ce qui existait avant est mis sur le côté. Le narratif des réseaux sociaux est terminé, il n'attire plus personne, les investisseurs ne veulent plus en entendre parler, le cloud lui-même est d'ailleurs moins intéressant. Ce qui est nouveau, c'est l'IA et la construction de nouveaux services qui seront utilisés par des milliards de personnes et dont les plateformes espèrent des revenus importants.

M. Julien Nocetti. - Je reviens à votre question initiale sur la rhétorique du retard qui nous fige et que nous retrouvons à l'échelle européenne sur toutes les problématiques de régulation du numérique.

Sur la problématique d'ingérence numérique, nous avons tendance à nous focaliser sur des épisodes de crise, manifestations, cycles électoraux, éruptions de violences localisées, etc. Nos compétiteurs ont une conception du temps long, voire du temps très long sur ces sujets, il faut donc être en mesure de penser et d'agir en retour sur une échelle de temps à laquelle nous ne sommes pas habitués. C'est une difficulté conceptuelle sur laquelle il est très important de réfléchir urgemment.

Sur les réponses différenciées à apporter, il y a aujourd'hui une tendance de plus en plus marquée en Europe ou aux États-Unis à penser des réponses de façon plus offensive dans le domaine informationnel, c'est-à-dire de les diffuser avec le même niveau d'intensité que les adversaires, en jouant sur les mêmes leviers émotionnels, idéologiques, etc. Si on prend le cas de la Russie ou des états révisionnistes, cela consiste à exposer leur hypocrisie dans les récits qu'ils mettent en avant. C'est de cette manière que nous serons en mesure de renforcer, de promouvoir nos valeurs démocratiques.

Nous devons également mettre sur un piédestal la défense de nos valeurs, nous ne devons pas jouer sur le même terrain que nos adversaires qui souhaitent nous remettions définitivement en cause notre modèle démocratique et ses différents piliers, le vote, la confiance, etc. Ce sont différentes échelles de réponses qu'il faut être en mesure de bien distinguer et d'articuler.

Mme Sylvie Robert. - Monsieur Krim, vous avez dit que la période des algorithmes était terminée et qu'avec l'intelligence artificielle, nous serions plongés dans un environnement culturel au sens cognitif, que nous connaissons, mais qui est beaucoup plus difficile, et en même temps peut-être plus intéressant, à appréhender. On parle de constructions beaucoup plus cohérentes que les données algorithmiques, qui profilent, qui permettent de cibler et de créer du récit.

Vous avez parlé en fait d'ingérence, mais notre commission d'enquête s'intéresse aux influences. Notre offensive ne doit pas être de même nature. L'IA générative nous donnera-t-elle la possibilité de peser, si nous nous en donnons les moyens, financiers, technologiques, politiques, de travailler à une stratégie d'influence via les médias ? Est-ce qu'on peut encore le faire et qui peut le faire ?

Mme Nathalie Goulet. - Lorsque Microsoft a été choisi pour gérer les données de Bpifrance pour les prêts garantis par l'État au moment du Covid, pouvant ainsi aspirer les données de milliers d'entreprises, pour équiper le ministère de la Défense ou pour le Data Health Hub, nous avons alerté mais il ne s'est rien passé. Nous sommes très nombreux ici, Catherine Morin-Desailly en tête, à alerter sur des sujets de souveraineté numérique. Cela me rappelle une phrase du doyen Vedel qui disait « le plan parle à l'indicatif présent et futur, parfois au conditionnel, jamais à l'impératif ».

Comment expliquez-vous, Monsieur Nocetti, cette naïveté itérative ? Quelle est la marge de manoeuvre des responsables de TikTok face à une stratégie qui, manifestement, n'est pas uniquement de leur fait ? Enfin, comment fonctionne la coordination des différents outils Viginum, le ministère des armées, le ministère des affaires étrangères, la fiscalité des Gafam, etc. ? Tenez-vous compte du travail du Parlement ?

Mme Catherine Morin-Desailly. - Je suis consternée en vous entendant, non pas par la teneur de vos propos, mais parce que j'ai l'impression que rien ne s'est passé depuis dix ans. Ce que vous avez dit aujourd'hui, vous le disiez déjà, en 2013, quand vous avez été auditionné sur le fameux rapport « L'Union européenne et le monde numérique », puis en 2015 devant la mission d'information sur le rôle de l'Europe dans la gouvernance mondiale de l'Internet. Vous nous alertiez déjà sur la nécessité de sortir d'une naïveté complaisante.

La question de Nathalie Goulet est tout à fait pertinente, pour moi ce n'est plus de la naïveté, c'est de la complaisance, voire de la complicité.

Vous nous disiez que les plateformes avaient abusé fiscalement, puis les plateformes économiquement en verrouillant tous les systèmes, d'où la mise en place du DMA. Les plateformes ont abusé sur les réseaux sociaux en manipulant les opinions, en pratiquant toutes sortes de malversations, des fausses nouvelles, le cyberharcèlement, etc. Vous nous aviez dit que les opinions occidentales allaient être de plus en plus manipulées, que la guerre cognitive était en route et qu'il fallait réagir.

Que faut-il faire pour réveiller les opinions publiques et nos gouvernants ? En France, le sujet a été clairement identifié, des propositions ont été faites par le Sénat pour une stratégie globale et offensive de la gouvernance de l'Internet. Toutes les propositions que vous avez formulées figurent dans le rapport de la commission des affaires européennes publié à l'occasion du DSA, de l'AIA et du DGA. Que faut-il faire pour que les gouvernants prennent en compte ce que nous disons ? Les phénomènes s'aggravent, s'amplifient et vont nous laisser bientôt dans l'impossibilité de réagir. Il n'est peut-être pas trop tard, mais quand on voit la force de frappe de ces entreprises qui sont devenues des monstres qui avalent tous sur leur passage, il est légitime de s'inquiéter. J'ai été frappée par le discours très fort que vous avez tenu sur les modèles toxiques de ces plateformes. C'est un sujet que nous ne cessons de mettre sur la table mais personne ne semble prendre en compte ce modèle économique toxique et pervers des plateformes.

Vous n'avez pas abordé la question de la gouvernance mondiale de l'Internet. Antonio Guterres évoque une instance mondiale à la manière de celle qui régule l'énergie atomique. Il a pris position sur l'intelligence artificielle et dit qu'il est nécessaire de réguler collectivement ce sujet. Que pouvez-vous nous dire à l'heure actuelle de la gouvernance mondiale de l'Internet, des instances techniques Internet Corporation for Assigned Names and Numbers (ICANN), Internet Engineering Task Force (IETF) ? Dans quel sens ont-elles évolué ? Je pense que c'est à l'échelle de la planète qu'il faut se poser sérieusement ces questions et mettre des garde-fous.

M. André Reichardt. - Je vous remercie pour votre participation à nos travaux. J'ai beaucoup appris parce que je n'ai pas assisté à vos interventions précédentes. Je remercie particulièrement Monsieur Chavalarias pour ses propositions et je m'intéresse particulièrement à la mise en place de routines d'audit des plateformes.

Monsieur Krim, vous avez détaillé les trois phases de développement des plateformes, conception, monétisation, modération. Vous avez précisé quels étaient les critères de bonus des équipes pour les deux premières phases, mais pas pour la troisième. Or, notamment sur TikTok, la modération est fondamentale. TikTok nous a expliqué comment fonctionnait sa modération mais nous en avons une appréciation totalement différente Quels sont les critères de bonus des équipes de modération ?

Enfin, qu'entendez-vous Monsieur Chavalarias, par l'évolution des institutions vulnérables aux manipulations d'opinion et tout particulièrement par celle du mode de scrutin ?

M. Julien Nocetti. - Nous prenons en compte le travail du Parlement. J'ai la chance d'avoir été consulté lors de différentes missions d'information ou commissions d'enquête sur cette thématique au sens large et c'est évidemment d'une très grande utilité.

Sur la coordination des différents outils de réponse, je n'ai pas une lecture franco-française, j'y associe aussi l'Union européenne. Il y a un contexte de foisonnement doctrinal. La diplomatie d'influence, qui pourrait être mieux dotée financièrement, est en cours de révision, du côté des armées, la lutte informatique d'influence (L2I) est particulièrement rodée, la création de Viginum en 2021 a donné lieu à un intérêt très poussé de la part des partenaires et des alliés de la France. Ils souhaitent non pas imiter mais s'inspirer de ce nouvel objet institutionnel dans le champ des manipulations de l'information. Il est frappant de constater qu'il existe une forme de « modèle » français sur ces sujets de lutte contre l'information, qui se renforce au fil des ans. Cette coordination institutionnelle s'opère notamment via le Global Data Synchronisation Network (GDSN). Depuis 2017, la France a renforcé sa prise de conscience et a testé différents modes de réaction.

À l'échelle européenne, la boussole stratégique a été adoptée. Elle comprend toute une partie sur les manipulations de l'information et les ingérences étrangères et une boîte à outils, avec un système d'alerte rapide qui associe à la fois les États membres, la Commission et le Parlement européen. Depuis quelques mois, il est particulièrement mobilisé par le format de Weimar, qui associe l'Allemagne, la France et la Pologne. Ces trois pays montrent ainsi une cohésion entre pays affinitaires sur ces sujets vis-à-vis de la Russie.

L'interaction permanente entre l'Union européenne et la France fonctionne de mieux en mieux.

Je n'ai pas la prétention de répondre de façon exhaustive sur la question de la naïveté. Quand on parle de souveraineté, vu des États-Unis, à la fois de l'État fédéral et des acteurs privés, il y a cette idée que nous vivons dans une ère numérique qui est totalement déspatialisée, donc que la souveraineté westphalienne, telle qu'on a pu la penser depuis des siècles, ne s'applique pas, ou extrêmement partiellement, à cet univers numérique, d'où les incompréhensions de part et d'autre de l'Atlantique. Nos conceptions, au-delà des intérêts politiques nationaux, sont globalement très divergentes, malgré les travaux d'universitaires comme Anu Bradford, qui est américaine, mais qui est née finlandaise. Elle a donc une identité européenne qu'elle ne cache pas.

M. Tariq Krim. - Je n'ai pas parlé de bonus sur le « Trust and Safety », sur la modération, parce qu'en général les personnes qui s'occupent de ces tâches ne font pas partie des plateformes. Elles utilisent des entreprises implantées aux Philippines ou dans le centre des États-Unis. Les opérateurs voient tous les immondices de la planète, ce que personne ne doit voir, et ont souvent des chocs psychologiques. Deux types de personne voient ces images, ceux qui travaillent à la modération et les forces spéciales qui analysent les vidéos terroristes. Les plateformes cherchent à utiliser l'intelligence artificielle pour limiter ce travail, cela fonctionne mais pas complètement. Par ailleurs, elles comparent le coût de la régulation aux amendes encourues si elles ne respectent pas les règles. Le DMA et le DSA représentent un vrai changement, puisqu'ils touchent aux portefeuilles des entreprises.

Il y a une véritable évolution dans le monde des réseaux sociaux. Le problème est le rapport à la vérité. Nous sommes inondés de narratifs divergents, nous ne savons plus où aller, qui croire, que croire. Depuis le Brexit ou les élections américaines de 2020, nous nous sommes aperçu qu'une partie de la population avait cru des informations totalement fausses, construites, évidemment aux États-Unis également.

Avec l'IA, c'est assez différent. Si vous cherchez en Chine, sur l'internet chinois, des informations sur Jack Ma, qui est l'équivalent de Jeff Bezos, l'un des entrepreneurs les plus connus, il n'y a plus aucune occurrence, il a disparu. Nous sommes dans un monde où, avec la censure, il n'y a pas de mémoire. Cela pose un problème sur l'IA, puisque l'une des vraies forces de l'IA est de cataloguer les éléments, d'avoir une évolution des points de vue sur 10, 20, 50 ou 100 ans. C'est la raison pour laquelle une partie de la littérature a été utilisée, pas toujours légalement, parce qu'elle est la mémoire de l'humanité. L'IA pose la question du rapport à la mémoire. Or, aujourd'hui, la mémoire du web français, c'est « archive.org » aux États-Unis. Que se passera-t-il si demain Wikimedia disparaît et que nous n'avons plus que les IA génératives pour répondre à telle ou quelle question ?

L'un des antidotes est de s'assurer de conserver une archive numérique de qualité. Dans un monde où la culture devient le nouveau pétrole, soit vous considérez que c'est une matière fossile et qu'elle n'a aucune valeur, ce que les grandes plateformes américaines imaginent, soit vous considérez que c'est une matière vitale et dans ce cas-là, elle a une valeur. Ce qui me gêne dans les discours européens sur l'IA et sa régulation c'est que le principal avantage de l'Europe, la culture, le futur de la créativité, est toujours effacé. La question de la mémoire est fondamentale puisqu'avec les images générées peut-être que dans dix ans, le monde réel, ce que j'appelle parfois l'internet analogique, qui est en lien avec une réalité du monde, sera ultra-minoritaire dans le nouvel Internet. Dans ce nouvel Internet, rechercher la vérité, ce sera finalement comme des fouilles archéologiques aujourd'hui, c'est-à-dire aller chercher dans des milliards de données synthétiques les données qui seront réelles et dont seule une partie correspondra à la vérité.

Il faut donc préserver la mémoire, préserver les archives correspondant aux textes originaux puisque les IA compressent les savoirs et peuvent avoir des hallucinations. Si dans quelques années nous ne sommes plus capables d'identifier les éléments qui sont factuellement, les ingérences seront d'une implacable efficacité.

M. David Chavalarias. - Il y a deux grandes manières d'auditer des plateformes. Nous pouvons leur demander un accès à leur code mais elles refusent en invoquant le secret des affaires. L'autre méthode consiste à calculer la distorsion entre les messages que produisent les utilisateurs et de ce qui sort de la plateforme. Par exemple, le biais de toxicité est une distorsion qui doit être mesurée et pour laquelle il faut demander une correction puisque c'est un risque systémique. Mettre des sondes permettant de mesurer le décalage entre l'entrée et la sortie est peu coûteux et facile à faire, pour autant qu'on ait accès aux plateformes. Aujourd'hui, les plateformes ont coupé l'accès parce qu'elles ne veulent pas que nous procédions à des vérifications.

Il faut également savoir que Twitter adapte les contenus en fonction de votre opinion politique. Or, c'est interdit en France. Il n'est pas possible d'adapter un produit à l'opinion politique d'un individu. Twitter le fait, Facebook probablement aussi. Nous avons besoin que des instances indépendantes et la recherche académique puissent facilement auditer les plateformes.

C'est d'autant plus important car il s'agit d'agir en faveur de la liberté d'expression. La modulation du discours est en effet, d'une certaine manière, une atteinte à la liberté d'expression, même si sur les plateformes, cela n'a aucun sens. En effet, sur une plateforme privée, seules comptent les conditions d'utilisation. La liberté d'expression concerne l'espace public mais les grandes plateformes privées devenant de fait des espaces publics, la question se pose.

Twitter a par exemple décidé de bannir le terme « mastodon » pour éviter que ses utilisateurs migrent vers une autre plateforme. Il y concurrence déloyale.

Défendre que la diffusion d'informations doit se faire de manière neutre, sans amplifier certaines caractéristiques, c'est défendre la liberté d'expression, ce n'est pas du tout de la censure.

En ce moment, les plateformes font la différence entre freedom of speech, la liberté de parler, et freedom of reach, la liberté d'être entendu. Nous, nous parlons de liberté d'expression, ce qui veut dire qu'on peut s'exprimer et être entendu sans mesure de répression. Si vous avez la liberté de parler mais que personne ne peut vous entendre, c'est une atteinte à la liberté d'expression.

Sur l'évolution des institutions, nous sommes dans un monde où la majorité des opinions se forment en ligne. Le taux de pénétration des réseaux sociaux en France est de plus 80 %. Des acteurs ont intérêt à extrémiser les débats, ce qui fractionne l'opinion publique. L'extrémisation empêche les ralliements et le débat normal. Avec le mode de scrutin actuel, où une personne dispose d'une voix, il y a des phénomènes de vote utile qui peuvent être instrumentalisés pour diviser des voix et faire passer au deuxième tour des candidats qui ne n'auraient jamais dû y passer. Il y a ensuite au deuxième tour des candidats qui sont souvent détestés par tous les autres partis, à tort ou à raison. Il faut donc voter pour « le moins pire » et il est assez facile de manipuler les électeurs avec des campagnes de « memes », des robots, etc. Le vote dont l'objectif est d'élire la personne qui a la préférence de la majorité peut déboucher sur l'élection de quelqu'un qui est rejeté par la majorité de la population. Les règles de vote actuelles ne tiennent pas compte du rejet, ni du vote blanc.

Il a été démontré mathématiquement que certaines méthodes de vote, comme le jugement majoritaire, étaient moins sensibles à la manipulation par extrémisation des préférences. Il permet aussi des débats en amont plus intéressants.

Les modes de scrutin actuels sont archaïques, la démocratie est malade de son mode de scrutin. Or les théories du choix social ont beaucoup progressé et des solutions ont émergé au cours des dix ou vingt dernières années.

Un des grands dangers de l'IA, c'est que l'on fonde trop d'espérance dans l'IA. Si nous croyons que l'IA va résoudre tous les problèmes, on part dans une fuite en avant, notamment en termes de consommation énergétique, qui va nous amener dans de fausses solutions. Je vous rappelle que Chat GPT, aussi intelligent soit-il, ne sait pas ce que c'est que la lettre E. Si vous lui demandez d'écrire un texte sans la lettre E, il n'y arrive pas. L'IA pose aussi des questions éthiques. Un journal israélien a publié un papier révélant que l'armée israélienne utilisait l'IA pour ses drones. Pour ce faire, elle a dû augmenter le taux de dégâts collatéraux admissibles. On utilise une technologie en pensant qu'elle est très efficace, mais elle ne l'est pas tant que ça. Elle fait beaucoup de dégâts collatéraux et, pour pouvoir l'utiliser, on abaisse nos standards éthiques. Par de fausses espérances sur l'IA, on risque d'abaisser les standards éthiques dans plein de domaines.

M. Bernard Benhamou. - J'ai beaucoup apprécié l'expression de naïveté itérative qui donne le bénéfice du doute à nos interlocuteurs, là où certains sont plus sévères et pensent qu'il y a une complaisance volontaire. Lorsqu'un même fait se produit de manière répétée, en l'occurrence un même choix politique par rapport aux plateformes, cela ne peut pas être totalement lié au hasard. Lorsque la pièce retombe toujours systématiquement du même côté, on finit par se poser la question.

Je pense qu'il y a un aveuglement idéologique, une sorte de fascination ultralibérale par rapport à ces plateformes. Celle qui a le plus fasciné nos élites, c'était Uber, avec son côté disruptif par rapport au travail. Nous ne sommes pas sortis de ce modèle.

De surcroît, quand la main gauche de régulation dit exactement le contraire de la main droite de prescription, c'est-à-dire de choix pour l'État, il faut s'interroger sur l'absence de passerelles entre les deux. Vous avez alerté bien sur ce sujet bien souvent les autres et il y a effectivement des messages issus de structures et d'institutions comme la vôtre pointant l'opacité des plateformes.

Nous avons évoqué plateforme des données de santé. Un de vos collègues parlementaires, le député Latombe, a réclamé la communication du plan de migration vers une solution souveraine annoncé par le gouvernement, puisque Monsieur Véran, ministre de la Santé à l'époque, s'était engagé il y a trois ans à ce que cette migration se déroule en quelques mois. Il ne lui a jamais été transmis parce qu'il n'existe pas

De la même manière, la direction générale de la sécurité intérieure (DGSI) s'est longuement mobilisée pour essayer de se départir de Palantir, le logiciel de big data sur le terrorisme, qui est une création de la CIA et qui équipe tous les services de renseignement américains et les états-majors militaires. C'est encore en cours, dix ans après avoir été annoncé.

Vous me parliez de TikTok et de ses responsables locaux. La commission d'enquête qui s'était réunie il y a un an ne savait pas qui était le véritable responsable de TikTok. Elle a dû faire pression pour l'obtenir. Au départ, on lui a communiqué un nom français, alors qu'une Chinoise exerçait cette responsabilité. Il y a une opacité absolue de TikTok. Contrairement aux autres réseaux pour lesquels les chercheurs peuvent obtenir des métriques, même si X a rendu l'accès aux interfaces de programmation payant, avec TikTok, nous n'avons la possibilité de savoir qui a vu quoi.

Monsieur Chavalarias a évoqué la freedom of reach. Qu'un propos de comptoir échangé entre deux personnes puisse avoir 100 millions de vues est une anomalie. Rendre visibles des messages en apparence destinés à un tout petit cercle pour leur donner une amplification et donc leur faire porter un message politique, c'est effectivement dangereux.

Sur la gouvernance mondiale de l'Internet, je ne vous cacherai pas qu'à l'heure actuelle les organismes dont vous parliez, l'ICANN et quelques autres structures internationales, n'ont qu'un rôle totalement mineur. Le pouvoir est détenu par les plateformes. Sur les organismes de régulation du web, le pouvoir est totalement dévié vers les Apple, Google, etc. Par définition, le côté multipartenaire, multi-stakeholder est un voeu pieux. Il y a une reprise en main du pouvoir par ces grands acteurs.

Je vous invite à lire l'excellent ouvrage L'Age de l'IA co-écrit par Henri Kissinger et Eric Schmidt. Il décrit la nécessité de calquer les mécanismes de régulation de l'IA sur les mécanismes de la limitation des armements nucléaires et affirme que la Chine et la Russie auront à un moment donné intérêt à se mettre autour d'une table et à négocier. Le risque sera trop grand, y compris pour ces deux pays

Il a été question du patron d'Alibaba. Alibaba est un peu l'équivalent d'Amazon. Jack Ma a été rayé des cadres, déporté, placé en résidence surveillée, maintenant exilé au Japon, parce qu'il a osé s'en prendre à la politique de financement des petites entreprises en Chine. Alors qu'il était venu se pavaner il y a quelques années à Vivatech en disant « les Européens ne savent que réguler, nous quand on a un problème, on cherche d'abord à le résoudre », il est devenu un paria. Il manquait donc à Jack Ma une justice indépendante pour lui éviter de devenir un paria, être exclu de sa propre société, démis de ses fonctions et placé en résidence surveillée.

À un moment donné, il a été question du long terme dont pourraient bénéficier les dictatures par rapport aux démocraties. C'est un long terme relatif. En Chine, 75 % des entrepreneurs finissent par aller en prison. Ils atteignent un seuil critique de dangerosité et sont littéralement éjectés par le Parti communiste chinois. L'idée suivant laquelle un régime a plus de temps parce qu'il est en situation de dictature ou d'autoritarisme n'est pas aussi simple. Par ailleurs, dans ces pays, les signaux faibles ne leur remontent pas au sommet de peur de déplaire. C'est ce que nous avons vu avec la Covid. Les gouverneurs locaux n'osaient pas faire état d'un risque. Il y a eu un retard de quelques semaines dans la prise en charge, qui a conduit à l'extension que nous connaissons.

Enfin, je crois beaucoup à la législation par l'exemple. Anu Bradford note que l'Europe attire effectivement une forme de sympathie mondiale par rapport à la régulation dans ce domaine. Je crois beaucoup à un mouvement du bas vers le haut, c'est-à-dire de la France vers l'Europe et de l'Europe vers le monde. Il ne faut pas essayer d'aller tout de suite aux Nations unies, cela ne fonctionnera pas. Sur les terrains dont nous parlons, en particulier la régulation des plateformes, des données et de l'IA, il faut commencer par une action française et européenne pour avant de l'étendre.

M. Dominique de Legge, président. - Nous vous remercions messieurs, de vos contributions.

Ce point de l'ordre du jour a fait l'objet d'une captation vidéo sur le site internet du Sénat.

La réunion est close à 17h 30

- Présidence de M. Dominique de Legge, président -

La réunion est ouverte à 14 h 00.

Audition de M. Paul Charon, directeur du domaine « renseignement, anticipation et stratégies d'influence » à l'Institut de recherche stratégique de l'École militaire (Irsem), spécialiste de la Chine

M. Dominique de Legge, président. - Nous poursuivons aujourd'hui les travaux de notre commission d'enquête avec l'audition de M. Paul Charon, directeur du domaine « renseignement, anticipation et stratégies d'influence » à l'Irsem.

Vous êtes, monsieur Charon, un spécialiste reconnu des questions d'influences et d'ingérences étrangères. Vous avez corédigé avec Jean-Baptiste Jeangène Vilmer, aujourd'hui ambassadeur de France au Vanuatu, un rapport remarqué sur les opérations d'influence chinoises. Vous y décrivez une évolution profonde de la stratégie d'influence de la Chine, marquée par un « moment machiavélien », vers une orientation plus agressive.

Notre commission souhaiterait par conséquent entendre votre analyse de cette stratégie, de ses objectifs et de ses modes opératoires. On parle souvent de l'influence russe, mais il faut aussi s'intéresser à l'influence chinoise, et nous avons du mal à cerner le sujet.

Avant de vous donner la parole, il me revient de rappeler qu'un faux témoignage devant notre commission d'enquête serait passible des peines prévues aux articles 434-13, 434-14 et 434-15 du code pénal. Je précise également qu'il vous appartient, le cas échéant, d'indiquer vos éventuels liens ou conflits d'intérêts en relation avec l'objet de la commission d'enquête. Je vous invite à prêter serment de dire toute la vérité, rien que la vérité, en levant la main droite et en disant : « Je le jure. »

Conformément à la procédure applicable aux commissions d'enquête, M. Paul Charon prête serment.

Cette audition fait l'objet d'une captation vidéo diffusée sur le site internet et, le cas échéant, les réseaux sociaux du Sénat, puis consultable en vidéo à la demande. Elle fera l'objet d'un compte rendu publié.

M. Paul Charon, directeur du domaine « Renseignement, anticipation et stratégies d'influence » à l'Irsem. - Le rapport sur les opérations d'influence chinoise que vous avez cité a été publié en 2021 et mis à jour en 2024. Notre hypothèse centrale est celle d'une « russianisation » de ces opérations, ayant plusieurs dimensions.

D'abord, il y a ce fameux moment machiavélien. Pendant longtemps, la Chine a cherché à séduire l'Occident et le reste du monde, par le développement d'un soft power. Elle s'est finalement dit qu'il était « plus facile d'être craint que d'être aimé », selon la formule empruntée à Machiavel. En cela, sa trajectoire est très similaire à celle de la Russie.

Par ailleurs, la Chine emprunte des méthodes traditionnellement utilisées par ce pays, notamment en matière de manipulation d'information en ligne.

Mais il faut aller jusqu'à parler de soviétisation : elle emprunte effectivement beaucoup au répertoire d'action du KGB pendant la guerre froide. Elle a par exemple organisé une opération, que nous avons dénommée Infektion 2.0, car elle est la copie manifeste de l'opération Infektion, par laquelle le KGB, en 1983, avait tenté de faire croire que l'armée américaine avait produit le virus du sida. La Chine a voulu faire la même chose pour le SARS-CoV-2, en ciblant la même base américaine.

La Chine mène des opérations plus larges que la Russie, car elle dispose de plus de moyens financiers, mais aussi de ressources humaines importantes.

Une prise de conscience a eu lieu, non seulement en Occident, mais aussi au Japon, en Corée du Sud, au Vietnam ou à Singapour. Des mesures ont été prises, comme la création du service de vigilance et de protection contre les ingérences numériques étrangères (Viginum) en France. Cela n'a fait qu'accélérer la mutation de ces opérations d'influence. Le Parti communiste chinois (PCC) est obligé d'avoir recours à des opérations de plus en plus clandestines et sophistiquées pour contourner les contre-mesures.

Quelles sont les évolutions les plus récentes ? D'abord une plus grande capacité à simuler l'authenticité. C'était une des faiblesses de la Chine surtout avant 2021 : elle était capable de créer de faux comptes et de faux sites, mais ils avaient assez peu d'interactions avec les comptes authentiques. Il y avait bien de la désinformation qui circulait sur Internet, mais surtout de manière circulaire entre de faux comptes. Cela commence à changer : on voit de plus en plus d'opérations où les faux comptes interagissent avec de vrais comptes et parviennent à pousser une certaine interprétation des grands événements.

Autre évolution : l'apparition de l'intelligence artificielle (IA) générative. Depuis l'année dernière, on voit de plus en plus de fausses images. Elles ne sont pas, pour l'instant, de très grande qualité : on peut les repérer grâce à des anomalies sur le nombre de doigts aux mains, par exemple, ou grâce aux erreurs dans le texte attaché, parfois rédigé dans une langue qui n'existe pas. Quand il y a du contenu textuel, il est plus facile d'identifier l'origine.

Sur le plan technique, nous assistons également à la mise en place d'un réseau mondial de faux sites internet d'information, un peu à l'image de ce que pratiquent les Russes. Identifiés par les think tank et les agences, ces sites sont en différentes langues. Un premier paquet était en chinois, visant des membres de la diaspora. D'autres paquets sont arrivés dans d'autres langues, y compris en anglais et en français, mais aussi en tagalog ou en indonésien... La Chine a une capacité à agir dans un panel de langues beaucoup plus large qu'il y a quelques années.

Ces sites ne sont pas tous gérés par les mêmes acteurs. Certains le sont par le département du travail du Front uni, qui dépend du comité central du PCC ; d'autres par le département de propagande ; d'autres, enfin, par les services de renseignement ou par l'armée... On touche là à une des spécificités de la Chine : la multiplicité des acteurs de l'influence. D'où la difficulté, pour nous, de remonter jusqu'aux auteurs et aux commanditaires, et de comprendre le partage des tâches.

Il s'agit vraisemblablement d'un système compétitif, composé d'acteurs qui ne travaillent pas ensemble, mais les uns contre les autres, et dont l'objectif est de récupérer des moyens financiers ou du personnel en se mettant en avant. C'est un phénomène méconnu, et les travaux sont insuffisants : la faiblesse des recrutements dans le monde universitaire pour étudier ces sujets est un problème.

Les Chinois emploient des influenceurs sur tous les réseaux sociaux : Tiktok, X, Youtube et d'autres moins populaires. Directement recrutés par le parti-État ou les médias, ces influenceurs développent leur activité dans 40 langues. Ce peut être des Chinois, mais aussi des étrangers qui ont été repérés, car influents. Leur rôle est d'envoyer des messages positifs sur la Chine, mais également, si c'est possible, des messages négatifs sur les ennemis de Pékin, avec un potentiel dénigrement d'États, d'organisations ou même d'individus.

Nous souffrons d'une fascination excessive par la dimension technique : les travaux menés sur les manipulations de l'information venant de Chine ou d'ailleurs se concentrent, pour la plupart, sur les vecteurs utilisés. Il est certes indispensable de comprendre comment fonctionnent les canaux, mais il faut aussi comprendre qui est en bout de chaîne, quels sont les objectifs ou les contenus. Même si ces acteurs peuvent s'appuyer sur une meilleure compréhension des mécanismes cognitifs pour manipuler les individus et les groupes à leur insu, ils travaillent à partir de contenus : décortiquer ces derniers, c'est mieux comprendre ce que les Chinois cherchent à faire.

Dès notre premier rapport en 2021, nous avions noté le passage progressif d'une propagande positive sur la Chine, visant à la présenter comme un acteur bienveillant, proposant des relations gagnant-gagnant, cherchant une émergence pacifique sur la scène internationale, à un autre type de contenu. Si la propagande positive n'a pas disparu, elle est concurrencée par un contenu devenu agressif et dépréciatif, en particulier envers les États-Unis, qui peut aussi cibler des valeurs. Sur le média extérieur chinois China Global Television Network (CGTN), la majorité des contenus, même francophones, portent sur les États-Unis ou sur la démocratie. L'ambition est de démonétiser l'idée de démocratie, elle-même, pour qu'elle ne soit pas une alternative pour les Chinois ou les populations francophones dans le monde.

De plus en plus souvent, la Chine mène des opérations extrêmement ciblées sur un sujet en particulier. Nous avons ainsi découvert une opération visant à empêcher l'ouverture d'une usine de traitement des terres rares au Texas, en discréditant les opérateurs et en insistant sur le coût environnemental pour faire capoter le projet. On voit aussi des opérations qui s'apparentent aux « mesures actives » soviétiques, consistant à jeter de l'huile sur le feu dès qu'il y a des tensions sociales, ethniques ou religieuses. Elles visent très souvent les États-Unis.

La Chine fait preuve d'une capacité à innover dans les formes discursives qu'elle emploie pour convaincre les différentes audiences dans le monde. Les médias chinois utilisent de moins en moins de constructions discursives classiques, fondés sur des faits ; ils préfèrent raconter des histoires, ce qui permet de toucher plus facilement l'audience, de jouer sur le pathos, donc de convaincre plus facilement qu'en argumentant.

On constate aussi un usage croissant de la satire, à la fois pour discréditer les adversaires et créer une confusion dans les esprits, qui serait favorable à la Chine ou, au moins, défavorable à la démocratie. Les Chinois sont notamment très forts pour détourner des contes populaires occidentaux : cela a été le cas avec le conte Le Loup et l'agneau, qui a été utilisé pour accuser les États-Unis de jouer un double jeu ou de faire preuve d'hypocrisie. Cela peut prendre la forme de la caricature sur différents supports. Je mentionnerai, par exemple, de petits dessins animés qui s'en prennent à des symboles forts tels que Uncle Sam, pour l'accuser de ne pas respecter les règles internationales et de n'en faire qu'à sa tête.

Un autre élément très intéressant est l'émergence d'un art de propagande en Chine, comme au plus fort de la guerre froide, avec des artistes, notamment des designers ou des graphistes, qui, sans travailler pour le Parti communiste chinois, se présentent eux-mêmes comme des « loups guerriers », à l'instar de ces fameux diplomates dont on a beaucoup entendu parler voilà quelques années, voire quelques mois. Ils essayent de diffuser dans le monde une image positive de la Chine et, beaucoup plus souvent, de discréditer les adversaires de Pékin.

Je peux vous montrer plusieurs illustrations : l'une attaque les Japonais, notamment la décision du gouvernement japonais de déverser les eaux usées de Fukushima dans l'océan ; une autre accuse les États-Unis, en particulier la CIA, d'être responsables des mouvements étudiants de protestations à Hong Kong ; une troisième - j'évoquais tout à l'heure l'instrumentalisation des tensions sociales - a été réalisée et diffusée à la suite de la mort de George Floyd, là encore, pour jeter de l'huile sur le feu et exploiter les failles de la société américaine.

Une autre affiche, détournant la Cène, est utilisée pour dénoncer le G7. L'image, extrêmement riche, est pleine de symboles : un gâteau représente la Chine, manière de rappeler le siècle d'humiliations vécues par cette dernière et de suggérer que la domination, jugée injuste, de l'Occident sur le monde continue aujourd'hui ; le Canada glisse sous sa veste Meng Wanzhou, fille du patron de Huawei, dont l'arrestation dans ce pays est présentée par les Chinois comme un « kidnapping » ; le Japon verse du thé contaminé par Fukushima ; la France est plongée dans ses pensées, incapable d'agir ; les États-Unis fabriquent des dollars avec du papier toilette, etc.

Tout cela démontre la capacité d'innovation dans la propagande de la désinformation chinoise, qui passe non seulement par le texte, mais aussi par l'image et qui est extrêmement forte ; pour l'instant, nous n'avons pas forcément de réponse à y opposer.

Le plus gros problème s'agissant de la Chine vient de notre insuffisante connaissance des acteurs et des objectifs réels visés, au-delà des objectifs stratégiques, par l'appareil de la propagande chinoise. Et cette insuffisance tient à un manque de moyens. Nous ne sommes pas assez nombreux en France ou ailleurs dans le monde à travailler sur ces questions.

Je recommanderais donc, d'une part, de renforcer les moyens consacrés à la recherche en la matière et, d'autre part, de travailler sur la réception. Sur les problématiques d'ingérences, d'influence, de manipulations de l'information, l'un des points aveugles de la recherche concerne l'efficacité des opérations. À quel moment une opération est-elle efficace ? En quoi ? À quel degré ? Pourquoi certaines le sont-elles et d'autres non ? Nous manquons de capacités à évaluer l'efficacité réelle des opérations. C'est évidemment l'un des axes à améliorer dans les années à venir.

M. Rachid Temal, rapporteur. - Merci de cet excellent exposé. Sauriez-vous dater le basculement - vous avez parlé de « russianisation » - des opérations chinoises que vous évoquez ? Y a-t-il eu un événement particulier qui en serait la cause ?

M. Paul Charon. - Il n'y a pas de basculement ; les choses se sont faites progressivement.

Le tournant a eu lieu à la fin des années 2000. D'ailleurs, la France a peut-être été l'un des premiers pays concernés. En 2008, année de l'organisation des jeux Olympiques à Pékin, la France avait subi les foudres de Pékin, avec un passage progressif à la coercition à la fin des années 2000. D'autres pays, par exemple le Danemark en 2009, ont également été ciblés par ce changement de stratégie, qui s'est accéléré en 2012, avec l'arrivée au pouvoir de Xi Jinping.

Pourquoi ? D'abord, la Chine en a les moyens aujourd'hui, ce qui n'était pas le cas auparavant. Ensuite, elle a dressé le constat de l'échec de l'ancienne stratégie. Le PCC s'est rendu compte qu'il était incapable de construire un soft power à la hauteur de ses attentes. Nous le voyons bien, la Chine n'est pas vraiment une puissance culturelle. Certes, elle peut s'appuyer sur sa « longue histoire » - enfin, ce sont eux qui le disent... -, sur sa médecine traditionnelle, sur l'image de personnages comme Confucius, sur les arts martiaux, etc. Mais tout cela, c'est le passé. Les grandes puissances culturelles de la région, ce sont le Japon et la Corée du Sud. Les produits culturels asiatiques que nous consommons viennent d'abord de ces deux pays, et non de Chine. Dès lors, le PCC, qui a lui-même dressé le constat de l'échec de son ancienne stratégie, s'est laissé séduire par le répertoire d'action russe, qui est un répertoire d'action beaucoup plus agressif.

Il ne faut pas oublier, au demeurant, que le PCC vient du même moule. C'est un parti léniniste. Le Parti communiste soviétique, qui a participé à sa création via le Komintern, en a profondément influencé la structure et les modes opératoires. Cela se ressent encore aujourd'hui.

M. Rachid Temal, rapporteur. - Dans la cadre de sa confrontation avec les États-Unis, la Chine a-t-elle la volonté d'affaiblir l'Europe ?

M. Paul Charon. - Ce qui est sûr, c'est que les Chinois ont intérêt à diviser l'Europe. La Chine est plus forte et plus à l'aise dans les relations bilatérales. Le leadership chinois est bien conscient qu'il obtiendrait moins s'il avait en face de lui un interlocuteur unique en Europe.

Il est également dans l'intérêt de la Chine de tenter d'éloigner l'Europe des États-Unis. Le traitement de la guerre en Ukraine par les médias chinois en témoigne : la guerre est présentée comme voulue et mise en oeuvre par les États-Unis, au détriment de l'intérêt des Européens. C'est ce que les Chinois n'ont de cesse de marteler. Si l'Europe se désolidarise des États-Unis, ce sera effectivement une victoire pour la Chine.

De la même manière, à l'échelle internationale, la Chine essaie d'éloigner ce qu'elle appelle le « Sud global » de l'Europe. C'est dans son intérêt.

M. Rachid Temal, rapporteur. - Je souhaite vous interroger sur les modes opératoires de l'ingérence chinoise. Sur le volet informationnel, quelle est votre vision du rôle effectif de TikTok, dont nous avons auditionné le directeur des affaires publiques cette semaine ? Comment analysez-vous le rôle de la diaspora chinoise ? Quid de l'ingérence via les systèmes universitaires et académiques, sujet sur lequel notre ancien collègue André Gattolin avait remis un rapport en 2021 ?

M. Paul Charon. - Gardons bien à l'esprit que le premier objectif de la Chine est d'assurer la pérennité du régime. Le reste vient après. Cela explique la focalisation sur certaines cibles jugées prioritaires par la Chine, notamment la diaspora.

Comme vous le savez sans doute, les Chinois parlent de « cinq poisons », qui sont ses cibles prioritaires : les Tibétains, les Ouïghours, les démocrates - ou, disons, les dissidents -, le Falun Gong et les Taïwanais. Ce sont des menaces qui pèsent sur la survie du régime. Or c'est cette survie que le pouvoir veut assurer en priorité.

Pour les Chinois, la diaspora est une question très ambiguë. Celle-ci est perçue comme une menace pour la survie du régime. C'est une population qui maîtrise parfaitement la langue et la culture chinoises et qui, parce qu'elle ne cesse de faire des allers-retours entre les pays d'accueil et la Chine, est susceptible d'importer des valeurs libérales auxquelles elle a été exposée. Le PCC a qualifié cette menace d'« infiltration culturelle », notamment dans le cadre des débats autour de la loi sur la sécurité nationale de 2015. En effet, la sécurité nationale englobe la culture.

La diaspora étant une menace, le premier objectif du PCC est de la contrôler partout dans le monde. Cela commence par la maîtrise des médias en langue chinoise à l'étranger. En France, nous avons un véritable problème. Même si RFI fait un travail formidable, ses moyens sont extrêmement limités. Le média en langue chinoise le plus influent dans notre pays est Nouvelles d'Europe, qui est totalement sous la coupe du PCC. En d'autres termes, les Chinois présents en France et les Français d'origine chinoise qui désirent s'informer en chinois lisent de l'information produite par ce dernier. L'un de nos premiers objectifs devrait être de permettre à la diaspora en France d'avoir accès à une information en chinois qui soit de qualité et qui ne soit pas produite par le PCC.

Le contrôle de la diaspora passe aussi par des actions physiques. Il y a eu plusieurs cas, y compris en France, d'opérations menées par la police chinoise, donc par le ministère de la sécurité publique, à l'encontre de citoyens chinois ou de citoyens français d'origine chinoise.

Les médias en langue chinoise le disent très clairement : « Aubervilliers, c'est la Chine ! Commerçants d'origine chinoise d'Aubervilliers, le gouvernement français ne fait rien pour vous, mais nous, nous sommes là. Vous faites partie de la grande nation chinoise. »

La diaspora, qui est donc une menace, devient un vecteur d'influence une fois qu'elle est sous contrôle.

TikTok est évidemment une menace pour nos intérêts. Certes, ce n'est pas le principal vecteur de l'influence de la Chine, qui utilise d'autres canaux beaucoup plus efficaces. Mais il ne faut pas le négliger. TikTok est, à l'évidence, sous la coupe de la Chine. ByteDance est une société chinoise ; elle n'a aucun moyen de prendre une décision qui pourrait déplaire au PCC. Ce dernier n'a même pas besoin d'invoquer la loi sur le renseignement de 2017, la loi sur la sécurité nationale de 2015 ou la loi sur le contre-espionnage de 2014 pour faire plier n'importe quelle entreprise chinoise. La Chine est un régime autoritaire, et les entrepreneurs ne sont pas libres ; ils sont obligés de se soumettre aux attentes du parti.

TikTok est une menace. Même si ce n'est pas le problème le plus grave, ils peuvent capter des données des utilisateurs ; ce ne sont pas des données très stratégiques, mais elles peuvent être utiles, ne serait-ce que pour nourrir les intelligences artificielles chinoises. Surtout, TikTok est un vecteur de diffusion d'une représentation du monde, d'une interprétation de l'actualité internationale. Nous l'avons vu après le 7 octobre, où TikTok a été utilisé pour diffuser une interprétation particulière des événements au Moyen-Orient.

Il y a deux phénomènes à distinguer. D'une part, sur TikTok, les Chinois peuvent censurer les sujets qui déplaisent au PCC. D'autre part, TikTok est un moyen de promotion de contenus favorables à la Chine ou défavorables aux ennemis de celle-ci. Et c'est très pernicieux : sur TikTok, les opérateurs chinois glissent de la propagande au milieu de vidéos qui traitent de sujets pouvant sembler insignifiants, comme une recette de cuisine, une chanson, un film, etc.

M. Rachid Temal, rapporteur. - J'ai bien noté vos deux recommandations : d'une part, renforcer les moyens consacrés à la recherche sur les ingérences ; d'autre part, faire un travail sur la réception de la propagande. Pourriez-vous évoquer l'influence chinoise dans l'Indo-Pacifique ? Auriez-vous des propositions de mesures, notamment sur le digital, à soumettre à notre commission d'enquête ?

M. Paul Charon. - J'insiste sur la nécessité d'avoir des médias indépendants, par exemple en renforçant RFI.

Je maîtrise moins les questions relatives à l'Indo-Pacifique. Nous savons que les Chinois sont très actifs dans cette zone. Plusieurs pays de la région s'en inquiètent depuis quelques années. La pénétration est multidimensionnelle. En matière économique, cela passe, comme toujours avec la Chine, par le financement de la construction d'infrastructures : aéroports, ports, centres de gestion de données, etc. C'est ce qui permet à la Chine de s'implanter. Parfois, il peut s'agir de projets plus modestes, comme un centre d'aquaculture.

La pénétration est croissante. Elle passe aussi par le champ de la sécurité ; il y a, par exemple, un accord avec les îles Salomon en la matière. Et les médias chinois opèrent une pénétration croissante des médias locaux.

Pour la France, c'est un peu loin. Mais les Australiens et les Néo-Zélandais ont pris le problème à bras-le-corps. Les Chinois financent des formations pour les journalistes de la région, offrent des prêts à un certain nombre de médias qui, de fait, ont ensuite les mains liées et sont obligés d'en dire du bien. Il y a tout un tas de programmes d'invitations en Chine de personnalités. Cela permet évidemment à la Chine de prendre progressivement le contrôle de ce qui se dit et s'écrit dans l'ensemble de la région. Là où il y a une diaspora chinoise, elle est aussi instrumentalisée pour pousser les intérêts de la Chine.

Face à cela, les mesures qui sont prises ne sont pas très originales. Il s'agit essentiellement de contrôle de l'ingérence dans les processus électoraux, la Nouvelle-Zélande comme l'Australie ayant eu à faire face à des pénétrations très audacieuses lors de scrutins, avec des candidats très clairement soutenus et financés par Pékin.

Ce sont l'intensité, la fréquence et la violence des opérations menées par la Chine dans la région qui ont conduit les pays concernés à prendre des mesures plus importantes qu'en Europe.

Pour ma part, j'insiste sur le renforcement des moyens de contrôle et de l'exigence de transparence. C'est un point très important : transparence évidemment des processus électoraux, mais aussi de tout un tas d'acteurs de la société civile, notamment des médias. Il faut faire en sorte qu'un média chinois apparaisse comme tel. Un média chinois, c'est un média d'État. En Chine, il n'y a pas de média de service public. Ce sont des médias de l'appareil du parti-État, des médias de propagande. Il faut qu'ils soient présentés comme tels. La transparence doit aussi concerner les financements perçus par un certain nombre d'acteurs : universitaires, think tanks, associations, maisons d'édition, etc.

La difficulté est que nous avons affaire à une multitude d'acteurs, avec de multiples intermédiaires. On ne se rend pas toujours compte que, derrière un interlocuteur parfaitement légitime en apparence, comme une maison d'édition, il y a parfois le département de la propagande. Cela existe en France.

M. Rachid Temal, rapporteur. - C'est-à-dire ?

M. Paul Charon. - Concrètement, la maison d'édition La Route de la Soie, par exemple, est liée au département de la propagande chinoise. Il y a une difficulté à identifier les acteurs réels derrière certaines activités. En renforçant la transparence, on rend plus difficile la mise en oeuvre de telles opérations par Pékin.

M. André Reichardt. - Pourriez-vous citer des exemples concrets d'opérations d' influence se transformant progressivement en opérations d'ingérence ? Y a-t-il des exemples concrets d'ingérence chinoise qui seraient spécifiques à notre pays ? Parmi les mobiles du PCC - vous les avez mentionnés tout à l'heure -, y en a-t-il qui seraient propres à la France ?

Dans d'autres mandats que j'ai pu exercer, j'ai bien vu l'évolution de l'influence économique chinoise depuis une quinzaine d'années. Lorsqu'une entreprise vient s'implanter en France en amenant des centaines, voire des milliers de salariés - c'est le cas en ce moment chez moi, en Alsace -, est-ce pour faire du business ou de l'ingérence ?

Pourriez-vous nous donner des exemples concrets d'ingérence dans le milieu universitaire français ? J'ai en tête ce qui se passe actuellement à Strasbourg, qui est l'une des capitales de l'Europe.

Mme Nathalie Goulet. - Que pensez-vous du fait qu'un ancien premier ministre se vante de pouvoir aller vendre des rillettes sur la place Rouge ou qu'un autre anime un think tank dans lequel la Chine est très présente ? D'ailleurs, avez-vous des informations sur des financement reçus par ces anciens responsables politiques ?

En matière de financement toujours, avez-vous observé une influence chinoise sur un certain nombre d'activités ? Je pense évidemment à l'économie, mais pas seulement. Avez-vous par exemple identifié des think tanks proches de la Chine ?

À quelques jours d'un scrutin européen extrêmement important, avez-vous le sentiment que l'Europe est sortie de sa naïveté ? Est-elle prête à prendre des dispositifs globaux et importants pour se protéger et nous protéger ?

M. Paul Charon. -Je ne crois pas qu'il y ait de particularité dans les opérations menées contre la France au regard de celles qui peuvent être menées contre d'autres pays européens.

Il y a bien évidemment quelques cibles particulières. La France est accusée par les Chinois, comme elle l'est par les acteurs russes, de mener des activités liées ou assimilées à du néocolonialisme, notamment en Afrique. Ce schéma argumentatif est systématiquement repris par les Chinois. Il y a une volonté très nette de démonétiser nos systèmes, nos institutions, et de montrer que la démocratie, cela ne fonctionne pas. De ce point de vue, la France est évidemment une cible privilégiée.

Mais, hormis ces aspects, il n'y a pas véritablement de spécificité dans la manière dont les Chinois visent la France.

Comme je l'indiquais tout à l'heure, les Chinois sont globalement moins actifs en Europe qu'en Asie, par exemple, ce qui s'explique aisément. Mais ils sont tout de même actifs. Ils ont longtemps semblé croire que le levier économique suffisait pour atteindre leurs objectifs, considérant qu'il suffisait de faire miroiter un certain nombre de contrats ou de menacer de rompre des négociations commerciales pour obtenir satisfaction. Pendant très longtemps, ils se sont limités à cela sur l'ensemble du continent européen.

Malgré tout, on peut identifier des opérations qui visent très clairement la France ou, à tout le moins, qui passent par elle. Elles illustrent d'ailleurs une forme d'originalité dans ce que les Chinois imaginent. Ainsi toute une partie du dispositif que j'évoquais précédemment autour des sites internet ou des influenceurs est francophone.

La France n'est donc pas la seule cible, mais elle en est bien une.

Les contenus ne sont pas toujours très significatifs. On en trouve même parfois qui sont très pro-russes et ne vont pas nécessairement dans le sens des intérêts de la Chine. C'est le signe que le contrôle n'est pas toujours très fort et que les acteurs n'agissent pas forcément de manière coordonnée.

Une opération intéressante a été révélée par des journalistes voilà quelques temps : la création par la Chine d'un faux festival de cinéma, le Prague Film Festival, qui, au moment de la mobilisation étudiante pour la démocratie à Hong Kong, en 2020, aurait primé un documentaire faisant l'apologie de la gouvernance chinoise de ce territoire. Le festival n'a jamais eu lieu, mais il a été doté d'un faux site internet très détaillé. Ce documentaire était signé, sinon réalisé, par un Français, Benoît Lelièvre, qui avait travaillé en Chine. Une stratégie récurrente de la Chine est de recruter des relais occidentaux, qui ont plus de poids qu'un Chinois s'il faut faire passer un message anti-occidental ou pro-chinois. L'impact de cette manipulation est limité, mais elle montre la sophistication croissante de ces opérations.

Vous m'interrogez sur les universités. Les étudiants chinois dans les universités françaises peuvent être mobilisés par les autorités et le PCC via les CSSA (associations des étudiants et chercheurs chinois) et les consulats, notamment lors de visites officielles ou en cas de tensions diplomatiques. La- France est moins exposée que les États-Unis, l'Australie, la Nouvelle-Zélande ou le Canada à de telles opérations, mais elles surviennent tout de même dans des universités françaises. Des étudiants chinois m'ont affirmé être forcés d'aller manifester quand l'ambassade l'exige. Je pense aux manifestations survenues en 2016 après l'agression mortelle d'un citoyen chinois à Aubervilliers ; il m'a été confirmé par des étudiants qu'elles étaient organisées par les autorités chinoises. Cet instrument peut en permanence être mobilisé par la Chine au sein de la société française.

Les pressions peuvent aussi s'exercer au sein même des universités, notamment pour influencer l'orientation de la recherche. Là aussi, c'est moins observé en France qu'en Amérique du Nord, où des conférences, notamment du dalaï-lama ou de militants ouïghours, ont été empêchées par la mobilisation de ces associations d'étudiants. Des pressions s'exercent sur les chercheurs chinois à l'étranger, nombreux dans certains centres de recherche. Quand ils ont de la famille en Chine, des menaces peuvent nuire à l'indépendance de leur travail, les autorités chinoises voulant surtout éviter que la recherche touche à des sujets sensibles, qui déplaisent au PCC.

On observe une évolution significative, très récente, des relais européens du PCC. Traditionnellement, celui-ci s'appuyait essentiellement, en toute logique, sur des partis d'extrême gauche, en particulier maoïstes. Depuis quelques années, on observe un rapprochement croissant avec des partis d'extrême droite : des médias officiels chinois, des comptes de diplomates, voire d'ambassades, rediffusent, notamment sur Twitter, des messages issus de franges radicales de l'extrême droite, notamment antisémites, et produisent même quelquefois eux-mêmes des messages similaires. Par ailleurs, ont été révélées ces derniers mois plusieurs affaires de ciblage par le renseignement chinois de parlementaires, allemands et belges notamment, de partis d'extrême droite. L'idéologie communiste compte donc désormais moins qu'une haine partagée des États-Unis et de la démocratie. L'étude de cette évolution majeure mérite d'être approfondie.

Mme Nathalie Goulet. - Je me permets de vous relancer sur le financement des think tanks. Quelles mesures pourraient être prises ?

M. Paul Charon. - Je n'ai pas d'informations sur ces financements. Quant aux mesures à prendre, il me semble qu'une transparence accrue est la meilleure réponse. Si tout organisme doit rendre des comptes sur son financement, une grande partie de la question sera réglée. Je vous renvoie par ailleurs à notre publication sur la question des relais chinois au sein des think tanks.

M. Dominique de Legge, président. - Merci de vos réponses.

Ce point de l'ordre du jour a fait l'objet d'une captation vidéo sur le site internet du Sénat.

Audition de Mme Marie-Christine Saragosse, présidente-directrice générale de France Médias Monde

M. Dominique de Legge, président. - Nous poursuivons nos travaux avec l'audition de Mme Marie-Christine Saragosse, présidente-directrice générale de France Médias Monde. Je vous remercie, madame la présidente, de vous être rendue disponible pour éclairer nos travaux.

France Médias Monde regroupe plusieurs chaînes de l'audiovisuel extérieur de la France : RFI, France 24 et Monte-Carlo Doualiya (MCD), radio française en langue arabe. Il nous est apparu important de vous entendre : nous savons en effet que les politiques d'influence malveillantes ciblant notre pays se déploient également dans les débats publics de pays étrangers, en particulier en Afrique.

Vous pourrez nous donner votre analyse de ces phénomènes et de leur réception dans les opinions publiques locales, mais également nous présenter les actions mises en oeuvre par vos médias pour lutter contre les manipulations de l'information visant la France.

L'enjeu est délicat puisqu'il faut concilier le respect de la liberté de la presse et la liberté d'expression, qui sont inhérents à notre modèle démocratique, avec la nécessité de ne pas amplifier l'écho de narratifs anti-français manipulés par nos compétiteurs.

Cette audition fait l'objet d'une captation vidéo diffusée sur le site internet et, le cas échéant, les réseaux sociaux du Sénat, puis consultable en vidéo à la demande. Elle fera l'objet d'un compte rendu publié.

Avant de vous donner la parole, il me revient de rappeler qu'un faux témoignage devant notre commission d'enquête serait passible des peines prévues aux articles 434-13, 434-14 et 434-15 du code pénal. Je précise également qu'il vous appartient, le cas échéant, d'indiquer vos éventuels liens ou conflits d'intérêts en relation avec l'objet de la commission d'enquête.

Je vous invite, ainsi que vos collaborateurs qui pourraient être amenés à prendre la parole, à prêter successivement serment de dire toute la vérité, rien que la vérité, en levant la main droite et en disant : « Je le jure. »

Conformément à la procédure applicable aux commissions d'enquête, Mme Marie-Christine Saragosse, M. Roland Husson, Mme Cécile Mégie et M. Corentin Masclet prêtent serment.

Mme Marie-Christine Saragosse, présidente-directrice générale de France Médias Monde. - Vous avez fort bien résumé l'équation qui s'impose à nous, entre la liberté d'expression et la lucidité nécessaire à la lutte contre les manipulations et les attaques dont nous ou notre pays pouvons être l'objet.

Les médias de France Médias Monde diffusent dans une vingtaine de langues étrangères, du persan au russe et à l'ukrainien, en passant par plusieurs langues africaines, notamment de la bande sahélienne. Nous touchons chaque semaine 155 millions de téléspectateurs, auditeurs et internautes. Si notre siège est à Paris, nous avons des rédactions locales dans d'autres zones du monde, ainsi qu'un large réseau de correspondants. Nous sommes très présents sur les réseaux sociaux où nos vidéos et programmes audio totalisaient 3,7 milliards de vues l'année dernière, pour 113 millions d'abonnés.

Nous avons une mission de service public international. Nous offrons une information libre et indépendante, vérifiée sur le terrain si cela est possible. Nous portons également les valeurs démocratiques et les principes humanistes qui caractérisent notre pays. Nous promouvons le français et la francophonie, tout en respectant et en mettant en valeur les autres langues. Nous accompagnons aussi des médias locaux, par des actions de coopération et de formation, car plus il y aura de médias indépendants et libres, plus les écosystèmes démocratiques pourront être soutenus.

Dans un contexte international difficile, nous sommes souvent en première ligne. Les tensions géopolitiques n'ont fait que s'accroître ces dernières années, de la guerre en Ukraine à la crise au Moyen-Orient. En Afrique, les coups d'État se succèdent depuis plusieurs années. On constate une remise en cause des modèles démocratiques occidentaux, qui englobe, mais dépasse la France.

Le paysage audiovisuel mondial est marqué par une concurrence exacerbée entre grands acteurs. Nous y avons quelques amis, réunis dans l'organisation DG8 des médias internationaux démocratiques, mais ils sont généralement plus riches que nous : notre budget est de 275 millions d'euros, quand le BBC World Service a 412 millions et la Deutsche Welle 408 millions, sans parler des Américains, dotés de 820 millions... D'autres médias sont très éloignés de nos valeurs : je pense aux Russes, mais aussi à certains médias panarabes et turcs, dotés de stratégie de présence africaine. Même s'il faut être conscient des dangers, il n'en reste pas moins que ces médias ont un impact bien moindre que le nôtre : rappelons que plus de 60 % de la population d'Afrique francophone regarde France 24 ou écoute RFI hebdomadairement.

Le contexte est marqué par une polarisation des opinions, les nuances ont peu de cours, et cela encourage un essor sans précédent des infox et des manipulations de l'information, accentué par les réseaux sociaux et l'intelligence artificielle générative, mais aussi par des stratégies de déstabilisation délibérées : l'information est une arme de guerre bon marché.

Nous tenons notre rang dans ce contexte très difficile, mais nous sommes confrontés à trois types d'entraves dans l'exercice de nos missions : les infox et manipulations ; les cyberattaques et risques cyber en général ; enfin, les atteintes à la liberté d'informer sur le terrain.

Les manipulations de l'information et les infox déferlent avec une sophistication croissante et nos médias font l'objet d'un intérêt tout particulier. Nos logos, nos émissions, nos présentateurs sont une source d'inspiration quotidienne pour les désinformateurs, qui manipulent des extraits de journaux de France 24 pour faire annoncer au présentateur, en changeant sa voix, un prétendu attentat contre le Président de la République à Kiev. Ces vidéos sont disséminées sur les réseaux sociaux. Nous tentons de viraliser tout autant nos « débunkages » pour contrecarrer la manipulation, en français, mais aussi dans d'autres langues. La radio aussi est affectée : en mars dernier, on copiait tous les codes de RFI pour annoncer une fausse épidémie de tuberculose en France, due à des soldats ukrainiens venus se faire soigner...

Tous les jours, nous subissons de telles attaques ; nous avons dû organiser la riposte, parce que cela commençait à bien faire. Notre premier programme contre la désinformation, « Info Intox », remonte à janvier 2015, juste après l'attaque contre Charlie Hebdo : il est réalisé en lien avec le réseau des Observateurs de France 24, qui associe une rédaction à des citoyens bénévoles, partout dans le monde, qui nous font remonter des manipulations. À ce réseau se sont ajoutées la cellule « Info vérif » de RFI, en 2023, et une cellule d'investigation numérique ; nous avons mis en place un réseau interne multilingue avec des procédures d'alerte rapides et un département spécifique, qui se consacre au « débunkage » et maintient un lien avec Viginum et la direction de la communication du ministère des affaires étrangères. Quand les opérations de manipulation concernent des institutions, comme la Présidence de la République, nous les prévenons aussi.

Mais nous ne « débunkons » pas tout systématiquement, il y a une phase de réflexion. Il ne faudrait pas donner une visibilité supplémentaire à ces opérations en exposant notre audience de plus de 100 millions de personnes à une infox qui n'aurait sinon pas dépassé 3 000 vues ; cette amplification est parfois même recherchée délibérément par leurs auteurs, le « débunkage » étant à leurs yeux une nouvelle publicité. Un arbitrage doit être rendu ; c'est ce à quoi s'emploie notre réseau interne, en collaboration avec des intervenants extérieurs et nos collègues du service public.

Nous pouvons également, depuis notamment le Digital Services Act (DSA) européen, adresser aux plateformes un signalement pour qu'elles aussi réagissent ; elles seules peuvent le faire massivement, à nous seuls nous ne pouvons qu'essayer de vider la mer avec un dé à coudre. L'Arcom (Autorité de régulation de la communication audiovisuelle et numérique) est également compétente désormais et constituera bientôt un relais important.

Nous pouvons aussi porter plainte, notamment pour soutenir nos journalistes, très affectés par les détournements de leurs paroles et de leurs visages, mais encore faut-il savoir contre qui ! Nous soutenons toujours nos équipes, qui subissent, outre les fake news, de nombreuses attaques directes sur les réseaux sociaux, de la haine en ligne.

Nous nous interdisons évidemment d'avoir recours aux mêmes procédés que les attaquants : nous ne gagnerions rien à perdre notre âme et c'est précisément parce que nous sommes une grande démocratie que nous aurons gain de cause. Nous « débunkons » donc ces fausses informations de manière extrêmement rigoureuse, en appliquant notre déontologie professionnelle. C'est ainsi que nous pensons pouvoir conserver la confiance de notre public et notre crédibilité.

Nous travaillons aussi au transfert de compétences et à l'accompagnement du développement de systèmes démocratiques locaux d'information, notamment au travers de notre filiale CFI (Canal France International) ; nous formons aussi les médias avec qui nous coopérons à la lutte contre les manipulations. Plus de la moitié des projets de CFI sont accomplis avec l'aide des journalistes de France Médias Monde qui, avec 60 nationalités et 21 langues de travail, sont présents sur nombre de terrains. Un autre levier est constitué par les clubs de RFI, qui sont près d'une centaine dans le monde : organisés à l'origine autour de l'apprentissage du français, ces associations de citoyens participent aujourd'hui à la lutte contre les infox, par leur veille des réseaux sociaux.

Nous sommes également mobilisés pour l'éducation aux médias et à l'information, moyen essentiel de prendre le mal à la racine. Nous sensibilisons chaque année aux manipulations de l'information environ 3 000 élèves en France, mais aussi dans les lycées français à l'étranger, avec l'aide de nos correspondants.

J'en viens au deuxième risque que nous connaissons, celui des cyberattaques. Nous avons subi deux attaques massives en 2021. Nous avons mis en place, à partir de 2015, un service dédié à la sécurité informatique, dont la mobilisation fut impressionnante lors de ces attaques. Nous travaillons étroitement avec l'Anssi (Agence nationale de la sécurité des systèmes d'information) sur ces questions, ainsi qu'avec nos collègues du service public audiovisuel, en pilotant un groupe de travail commun. Nos centres de sécurité des opérations ont été mis en commun avec France Télévisions dans un premier temps, puis avec tout le secteur. Nous avons créé dans ce cadre un groupe de travail spécifique pour la sécurité informatique autour des jeux Olympiques, qui peuvent donner lieu à un renforcement des attaques, dans un lieu commun à tout l'audiovisuel public, en lien étroit avec l'Anssi.

Le troisième risque sur lequel je voudrais attirer votre attention, ce sont les atteintes à la liberté d'informer, qui ne font que croître à l'échelle du monde. Nous avons connu coupure et censure de nos médias au Mali, au Burkina Faso, au Niger, mais aussi au Soudan, où la guerre civile empêche l'accès aux émetteurs, ainsi qu'à Tripoli, en Libye, depuis janvier 2023, à la suite d'une émission sur l'homosexualité de notre radio arabophone MCD. Souvent, quand nous sommes coupés, c'est hors de tout cadre légal et de façon très radicale ; on ne l'apprend que a posteriori, par la presse. Nous disposons évidemment de nombreux moyens de contournement de ces coupures : les ondes courtes pour la radio, la réception satellitaire directe pour la radio et la télévision, enfin pour internet la mise en place de sites miroirs ou la connexion par VPN (Virtual Private Network). On continue de nous écouter au Mali, au Burkina Faso et au Niger, les auditeurs appellent les émissions interactives, tout continue. Mais ces blocages vont généralement de pair avec une mise sous contrôle de l'ensemble des médias locaux qui, eux, n'ont pas la chance de pouvoir contourner les blocages comme nous. Ceux-ci représentent donc une menace générale, dans un pays donné, pour la liberté d'expression et la liberté d'informer.

Certains autres pays, sans aller jusqu'à nous bloquer, entravent notre capacité à travailler, notamment en refusant d'accréditer nos correspondants. En l'absence de correspondants, pour couvrir des événements, il faut envoyer une équipe, ce qui coûte cher et requiert des visas et des autorisations de déplacement qui peuvent être refusés.

Les journalistes sont aussi cibles d'attaques et de menaces, sur le terrain comme en ligne. Nous avons mis en place une solide politique de sûreté, avec des stages de formation dès 2014 et une direction de la sûreté en 2015, qui a élaboré une cartographie des risques et des procédures très robustes selon les zones géographiques. Nous arrimons nos équipes qui travaillent en zone dangereuse. Nous avons formé près de 580 journalistes, dont une centaine hors de France Médias Monde, pour faire bénéficier nos collègues de notre connaissance du terrain.

En conclusion, je pense que nous devons rester fidèles à notre conception de la démocratie, dont l'information est un des piliers. Heureusement, la démocratie française est un des champions de la liberté d'expression et d'informer ; c'est à cette condition que nous continuerons de recevoir la confiance d'un large auditoire. La France a la réputation d'être championne de la liberté ; il importe qu'elle la conserve et que nous puissions incarner cette indépendance et cette liberté. Comme Churchill, je dis : à quoi bon faire la guerre si l'on n'a plus de culture ! De même, à quoi bon se battre contre les manipulations de l'information si l'on perd notre âme ? Il faut donc continuer à cultiver cette information libre, indépendante, honnête et vérifiée.

Par ailleurs, je veux attirer votre attention sur un point particulier : dans le paysage audiovisuel mondial, tout biais apporté à notre statut de média de service public démocratique sera utilisé et manipulé. Or un biais important est celui des modalités de financement. Quand on est financé sur le budget de l'État, on est considéré comme un média gouvernemental, par les réseaux sociaux, mais aussi par nos amis allemands. Le financement sur le budget de l'État est l'un des critères qui sont interprétés comme un manque d'indépendance vis-à-vis de l'État : ainsi, notre fréquence FM à Berlin n'a été renouvelée qu'à la condition que notre financement ne soit pas budgétisé. Un refus de renouvellement pourrait évidemment être exploité et manipulé contre nous. Il est donc très important de faire le lien entre les décisions qui seront prises en matière de financement du service public audiovisuel et notre statut international.

M. Rachid Temal, rapporteur. - Je partage votre avis sur ce dernier point, comme d'autres ici, je pense. Je suis également d'accord avec l'idée que rester fidèle à la démocratie est la meilleure réponse aux manipulations et ingérences étrangères.

Avez-vous pu identifier les acteurs à l'origine des opérations de falsification que vous avez évoquées ?

Mme Marie-Christine Saragosse. - Elles viennent souvent de Russie, mais j'ignore si leur source est étatique ou non.

M. Rachid Temal, rapporteur. - Nous venons de consacrer une audition à l'influence chinoise. La principale source d'information de la diaspora chinoise est le média Nouvelles d'Europe. Avez-vous suffisamment de moyens pour soutenir le développement de RFI en langue chinoise ? Quelles seraient vos pistes pour rendre ce média plus attractif que Nouvelles d'Europe ?

Mme Marie-Christine Saragosse. - Notre rédaction chinoise, qui a deux sites - l'un en chinois simplifié, l'autre en chinois traditionnel - connaît un certain succès au regard de sa taille. Vingt-cinq personnes y travaillent, et le contenu est uniquement publié au format numérique. La fréquentation est de 11 millions de lecteurs et auditeurs, dont nous ignorons s'ils sont issus de Chine ou de la diaspora.

Nos rapports avec la Chine sont très différents de ceux que nous entretenons avec la Russie. Très présents en Afrique pour la distribution notamment des chaînes TNT, les Chinois nous voient comme un produit d'appel important, et nous affectionnent particulièrement à ce titre. Ils n'opèrent donc pas d'opérations de manipulation frontales contre nous.

Par ailleurs, peut-être à l'occasion de l'anniversaire de l'ouverture des relations diplomatiques entre la France et la Chine, nous avons reçu pour la première fois une proposition de diffusion de France 24 en Chine, en français ou en anglais. Nous le demandions depuis une dizaine d'années. Son coût reste élevé, aussi sommes-nous toujours en train de négocier.

Devrions-nous renforcer notre rédaction chinoise ? Le problème reste celui de l'accessibilité en Chine. Il serait intéressant que France 24 puisse y être diffusé. Cette distribution est limitée : elle est réservée aux hôtels de trois étoiles et plus, aux résidences d'étrangers, et à certains départements universitaires. Symboliquement, ce serait un premier pas important.

M. Rachid Temal, rapporteur. - Ma question portait sur la diaspora chinoise en France.

Vous dites représenter un produit d'appel attractif. Néanmoins, nous pourrions tout aussi bien être les faire-valoir d'opérations de manipulation majeures en Afrique. Nous pourrions donc réfléchir à déployer une politique d'infrastructures différente de celle de la Chine.

Mme Marie-Christine Saragosse. - Il fut un temps où les infrastructures étaient montées en Afrique francophone par des Canadiens. Il y avait une véritable stratégie occidentale d'équipement en câble sans fil. J'ignore pour quelles raisons les investissements n'ont pas suivi. En Afrique anglophone, d'abord, des investissements chinois ont été accueillis favorablement par les gouvernements. Je ne pense pas que nous puissions prévenir ces décisions. Pour l'heure, nous n'avons pas de problème de censure. Peut-être sommes-nous les faire-valoir d'autres chaînes... Néanmoins, j'ai toujours confiance dans les téléspectateurs et les auditeurs, qui sont avant tout des citoyens, dotés d'une capacité de choix. S'ils nous regardent massivement, c'est qu'ils trouvent que nos chaînes sont meilleures que d'autres.

Concernant la diaspora en France, les productions de RFI en langue asiatique - chinois, khmer et vietnamien - étaient diffusées sur le réseau B de Radio France, qui était le réseau d'ondes moyennes, aujourd'hui éteint. Désormais, avec la radio numérique terrestre (DAB+), nous pourrions réfléchir à rendre plus accessibles des offres en langue étrangère sur le territoire français. Cela ne représenterait pas une grande difficulté pour nous. Seule une préemption gouvernementale sur certaines fréquences serait nécessaire, en fonction de la cartographie des locuteurs. Nous pourrions ainsi compléter notre offre numérique, accessible sur tout le territoire français, par des diffusions en DAB+ en langue étrangère. C'est une idée que nous avions évoquée en préparation de notre contrat d'objectifs et de moyens (COM), et qui n'avait pas suscité d'opposition particulière. Elle ne représenterait pas un coût trop important.

M. Rachid Temal, rapporteur. - Nous avons auditionné l'ambassadrice de la diplomatie publique en Afrique, selon laquelle, contrairement à la BBC, un grand nombre de chroniqueurs et d'éditorialistes au discours antifrançais s'exprimeraient sur RFI, dénonçant par exemple des politiques colonialistes. Elle citait notamment Alain Foka. Qu'en pensez-vous ? Quelles vérifications opérez-vous pour vous assurer que vos chroniqueurs ne sont pas sous influence étrangère avant d'arriver sur vos antennes ?

Mme Marie-Christine Saragosse. - Nous nous sommes séparés d'Alain Foka depuis plusieurs mois.

Votre question soulève en réalité celle de l'expression des journalistes sur les réseaux sociaux. Sur nos antennes, il y a un équilibre. Certains ambassadeurs se penchent parfois sur le cas d'un pays sans écouter la globalité des programmes !

Notre commission de déontologie interne, l'association de journalistes, le comité relatif à l'honnêteté, à l'indépendance et au pluralisme de l'information et des programmes (CHIPIP), organisation légale instaurée en 2016, veillent à la déontologie et au respect des équilibres, qui s'observent à l'échelle de l'ensemble des programmes, et ne sont pas synonymes de neutralité.

La question des comptes personnels sur les réseaux sociaux a donné lieu à des tâtonnements, ne serait-ce que parce que la loi ne permet pas de contrôler les comptes privés de salariés ni de journalistes de façon permanente - et c'est probablement une bonne chose. On peut seulement le faire ponctuellement, si c'est justifié et proportionné, selon la jurisprudence.

Néanmoins, notre charte traite ces questions. Elle a été complétée par l'avènement des réseaux sociaux. Nous tentons donc d'être cohérents. Il arrive que ce ne soit pas le cas. Cela fait l'objet de débats, y compris en commission de déontologie interne, voire de sanctions, lesquelles, en vertu de notre règlement intérieur, ne sont connues ni des autres salariés ni à l'extérieur. C'est un dialogue constant que nous avons avec les journalistes. Dans certaines situations, on peut observer une forme d'emballement...

M. Rachid Temal, rapporteur. - Je ne parlais pas des journalistes, mais des éditorialistes ou des chroniqueurs.

Mme Marie-Christine Saragosse. - Il n'y a que des journalistes chez nous. À part un cas de figure - je pense à un animateur d'émissions musicales -, nos chroniqueurs sont des journalistes. En revanche, on a aussi des invités, des experts, dans toutes les langues, qui tournent, ne sont pas payés et changent selon les thématiques. Nos chroniqueurs sont généralement des « décrypteurs » plutôt que des journalistes porteurs d'opinions. Si nécessaire, des mesures sont prises, et peuvent aller jusqu'à la séparation.

M. Rachid Temal, rapporteur. - Vous avez comparé vos moyens à ceux de la BBC ou de vos collègues allemands. Que feriez-vous de plus avec 130 millions d'euros en matière de lutte contre les ingérences ?

Mme Marie-Christine Saragosse. - Je pourrais renforcer les effectifs et les outils des équipes. Je ferais aussi de gros investissements sur l'intelligence artificielle. En réalité, je vais faire toutes ces choses, mais en suivant la trajectoire de notre COM, et non pas avec une telle somme ! Je pense que l'intelligence artificielle, comme toutes les inventions humaines, ouvre la voie au meilleur comme au pire. Tout dépend de ce que nous en faisons. Ces outils permettent d'aller plus vite sur certaines tâches pour se concentrer sur l'investigation.

Je renforcerais également les équipes de marketing numérique pour promouvoir les contenus que nous produisons, ainsi que les services supports. Notre stratégie s'appuie avant tout sur la qualité des contenus, car nous pensons que c'est ce qui fait notre réputation mondiale. Néanmoins, nos directions des ressources humaines, ainsi que les directions techniques et des environnements numériques, ont besoin d'être confortées.

Je développerais aussi notre présence de proximité, car il s'agit d'une stratégie fondamentale. À Dakar, nos équipes peuvent échanger en fulfulde ou en mandinka avec des rédactions africaines. Nous apprenons d'elles autant que nous transmettons des savoir-faire, et nous comprenons mieux les problèmes, ce qui nous permet d'y répondre plus efficacement, en évitant les crispations.

Je crois beaucoup, de même, à ce que nous allons développer en langue arabe à Beyrouth et au turc à Bucarest, et à ce que nous avons déjà fait en ukrainien et en roumain. Plus nous parlons les langues des autres, plus nous échangeons avec eux et plus nous les écoutons. Et, à la fin, le dialogue sera fructueux, la démocratie l'emportera !

Mme Nathalie Goulet. - Notre collègue André Reichardt m'a chargée de vous demander si votre groupe s'est doté d'une feuille de route définissant une stratégie offensive de lutte contre les influences.

J'excuse également l'absence de Mme Catherine Morin-Desailly, qui assiste à l'anniversaire du Débarquement. Elle soulevait une attaque déloyale de Mme Avé, ambassadrice pour la diplomatie publique en Afrique, qui a accusé votre rédaction devant cette commission. Vous avez déjà partiellement répondu à ces critiques.

Nous avions échangé, voilà plusieurs années, sur la défense du persan. La révolution, marquée par le slogan « Femme, vie, liberté », a montré que nous avons eu raison de maintenir une rédaction dans cette langue.

Le financement reste le nerf de la guerre. Nous avions évoqué l'idée d'un fonds de dotation. Pensez-vous que ce projet devrait voir le jour ?

Mme Marie-Christine Saragosse. - Nous n'avons pas de feuille de route offensive. Il ne faut jamais oublier que nous sommes des journalistes, au sein d'un média. Nous ne sommes ni des diplomates, ni des politiques, ni des militaires. C'est ainsi que nous sommes utiles.

Néanmoins, nous menons cette stratégie sans doute sans le savoir.

D'abord, produire de l'information vérifiée est une contre-attaque aux infox et à la manipulation. Mais c'est surtout l'essence du métier et du devoir de tout journaliste de notre groupe. Un journaliste se doit de contrecarrer une fausse information. C'est sa déontologie, son éthique professionnelle.

Ensuite, nous produisons finalement un contre-narratif en racontant, comme nous le faisons au travers d'une multitude de programmes et de situations, des valeurs telles que l'égalité entre les femmes et les hommes, la lutte contre les discriminations, la primauté de la démocratie, la solidarité avec les personnes en situation de faiblesse... Ces principes, en France, nous sont si naturels que nous ne nous en rendons plus compte, alors qu'ils restent si précieux dans d'autres zones du monde où ils n'ont pas cours ! C'est une façon positive de répondre à des attaques perfides.

Sans avoir une feuille de route, nous sommes, par notre indépendance et par notre professionnalisme, des antidotes à la manipulation. C'est ainsi que nous restons crédibles et dignes de notre démocratie.

Nous fournissons aussi un gros effort de transparence sur nos antennes. Nous venons de mettre en ligne un nouveau site institutionnel France Médias Monde, dont toute une partie est consacrée au cadre déontologique, aux lois, au cahier des charges - à tout ce qui concourt à la transparence de notre action. Sur nos antennes, nous avons aussi lancé de nouvelles émissions pour comprendre comment l'information se fabrique dans nos coulisses.

S'agissant de nos programmes en persan, nous avons effectivement bien fait de les poursuivre. Nous avons des correspondants en Iran : la rédaction doit donc toujours s'exprimer en ayant conscience de leur présence sur le terrain, afin de ne pas les mettre en danger.

Un fonds de dotation serait synonyme de fonds privés. Nous avions évoqué cette idée, parce que des auditeurs et des téléspectateurs étaient prêts à donner à une fondation pour soutenir notre activité, tant ils la jugeaient importante. Je serais d'accord pour en parler dès lors que notre socle de financement par une recette affectée sera assuré. Par ailleurs, nous avons eu accès cette année à des financements consacrés à l'aide publique au développement, au travers de l'Agence française de développement (AFD) et du programme 209 du ministère. C'est une marque importante de soutien, qui nous permettra de monter en puissance à Beyrouth, à Dakar et à Bucarest pour lutter contre les infox et construire des narratifs positifs.

Si des fonds de dotation complémentaires à ces financements - et non pas voués à les remplacer ! - nous étaient proposés, nous les étudierons volontiers.

M. Roland Husson, directeur général chargé du pôle ressources de France Médias Monde. - Nous diversifions nos sources de financement depuis plusieurs années. L'aide publique au développement est fondamentale pour soutenir notre stratégie de proximité. Nous recevons aussi parfois des financements de la Commission européenne dans le cadre de certains projets. Dès lors que la recette affectée sera consolidée, nous pourrions développer certaines de nos activités avec une nouvelle source de financement.

Mme Nathalie Goulet. - Le fonds de dotation viendrait bien entendu s'ajouter à la recette affectée !

M. Rachid Temal, rapporteur. - C'est le cas dans certaines universités, jusqu'à ce que la réduction des financements publics conduise à l'augmentation progressive de la part des financements privés. Et parfois, certains groupements ou États qui y participent directement deviennent regardants quant aux enseignants ou, dans ce cas précis, aux émissions. Il y a donc un bémol.

Mme Marie-Christine Saragosse. - Nous serions obligés de faire très attention aux sources de financement, comme nous le faisons déjà pour la publicité sur une chaîne d'information en continu. Pensez par exemple au parrainage d'une émission de santé : c'est très délicat !

Mme Nathalie Goulet. - C'est un sujet que nous maîtrisons assez bien. C'est une piste : il faut être créatifs !

Mme Marie-Christine Saragosse. - Je suis tout à fait ouverte à l'idée de creuser la question.

Mme Sylvie Robert. - Au lancement des états généraux de l'information, le Président de la République a fait part de sa volonté d'assumer une stratégie d'influence et de rayonnement de la France, notamment en utilisant la force de projection de l'audiovisuel public international. Comment caractérisez-vous aujourd'hui cette influence, ce soft power ? Au-delà de votre professionnalisme, de votre indépendance et de votre transparence - que vous soulignez à juste titre - et des moyens que vous avez dits insuffisants, les conditions sont-elles réunies pour jouer ce rôle ?

Vous avez évoqué les ressources de l'audiovisuel public. Je n'irai pas plus loin, puisque nous aurons le loisir d'en débattre ici, au Sénat, au mois de septembre. Vous avez fait part de votre préoccupation sur la budgétisation, qui soulève la question de l'indépendance et de l'autonomie. En quoi une fusion favoriserait-elle ou, à l'inverse, fragiliserait-elle vos missions et votre gouvernance ? Il n'est bien entendu pas question de lancer le débat sur la fusion, mais cela vous exposerait-il davantage au risque d'ingérence ? Vos moyens et vos outils pourraient-ils être affectés ?

Vos journalistes sont quotidiennement sur le terrain. Quel processus est prévu pour détecter les opérations d'influence ? Comment protégez-vous vos journalistes de ces risques ? Aujourd'hui, la bataille se joue autour du narratif, du récit, et sera bientôt complexifiée par l'intelligence artificielle. Comment parvenez-vous à identifier des sources garantissant une information fiable, indépendante et de qualité ?

M. Dominique de Legge, président. - Dans le prolongement de la question de Mme Robert, j'observe que vous avez indiqué assumer une mission de service public international et avez souvent évoqué le terme d'équilibre. Il a également été question, à plusieurs reprises, de narratif. En matière d'information, nous nous éloignons de plus en plus des faits pour exprimer des opinions. Dès lors, comment vos journalistes peuvent-ils assumer une mission de service public, tout en évitant que le narratif construit ne nuise à l'image de la France, et en contrant également toute mauvaise information ou désinformation malveillante ?

Mme Marie-Christine Saragosse. - Je suis tentée de répondre à la première question de Mme Robert par la formule lapidaire : « notre influence, c'est notre indépendance ». Si nous étions différents de ce que nous sommes, si nous n'avions pas cet esprit critique que l'on qualifie de français, cet esprit de résistance, cette façon d'être, ce goût de l'art de vivre, du beau, si nous n'adorions pas le débat et ses pointes de polémique, qui font précisément la démocratie, alors, nous n'aurions probablement pas d'influence.

L'influence devient gênante lorsqu'elle est une manipulation délibérée pour tordre l'avis de l'autre. S'il s'agit de montrer qui l'on est pour le séduire, certes on l'influence, mais cela fait partie du fonctionnement des sociétés civiles. La France a eu très tôt, dès le XIX^e siècle, conscience de l'importance de ces sociétés civiles et elle l'a manifesté en créant les alliances et lycées français. Personne n'avait adopté cette démarche auparavant, personne n'avait cherché à s'intéresser aux habitants présents sur le territoire, et pas seulement aux États. Cela fait partie de notre héritage historique. C'est ainsi que nous répondons à cette attente.

Je ne suis pas tout à fait à l'aise pour répondre à votre question sur l'audiovisuel public. La connaissance de l'international, la présence sur le terrain, la distribution mondiale, la maîtrise de langues étrangères et de l'information internationale, ou encore la capacité à être entendu de l'autre sont des compétences très spécifiques. Elles rassemblent d'ailleurs nos équipes, en radio comme en télévision, dans une langue ou une autre. C'est un savoir-faire tourné vers un public international.

C'est un art particulier, qui se manifeste d'ailleurs de manière frappante dans les contenus en français. En effet, nous ne racontons pas de façon identique une même élection à un public international ou à nos concitoyens. Être compris du monde entier est un métier. Il nous semble important de conserver ce savoir-faire, de le protéger et de ne pas l'assujettir à des considérations purement nationales.

C'est d'ailleurs ce que pense le Gouvernement, d'après l'arbitrage qui nous a été communiqué par le ministre de l'Europe et des affaires étrangères : au vu de la spécificité de notre groupe, nous ne serions pas concernés par la réforme.

J'en viens à notre méthode de détection des influences, ce qui me permet de faire le lien avec la remarque du président de Legge sur la question de l'équilibre et des narratifs.

Rien ne peut remplacer le terrain, la qualité des experts, les sources humaines. Je ne connais pas d'IA capable d'aller sur le terrain pour tendre un micro et faire remonter l'information brute ! D'ailleurs, les IA se nourrissent d'informations élaborées par des humains, ce pourquoi nous avons bloqué l'accès à nos contenus. Nous travaillons de manière imperméable avec elles, sans quoi nous serions pillés : contrairement aux moteurs de recherche, elles aspireraient tout notre travail sans droits d'auteurs ni sourçage.

Autrement dit, nous apprenons à maîtriser ces outils, mais nous ne croyons qu'aux humains qui vont chercher l'information. L'IA n'est utile que pour traiter les données qui remontent du terrain. Sans contact direct, pas de travail journalistique !

M. Dominique de Legge, président. - On voit néanmoins son effet sur une presse, qui devient de plus en plus une presse d'opinion...

Mme Marie-Christine Saragosse. - Le caractère marqué de ce phénomène varie selon les vecteurs et la presse écrite a toujours été plus ou moins d'opinion. Ce que nous faisons, c'est maintenir un pluralisme en interne et nous concentrer sur les faits.

M. Dominique de Legge, président. - Je vous remercie.

Ce point de l'ordre du jour a fait l'objet d'une captation vidéo sur le site internet du Sénat.

La réunion est close à 16 h 20.