Mme le président. La parole est à Mme Laurence Cohen, pour explication de vote.
Mme Laurence Cohen. Encore une fois, nous avions déposé un amendement similaire que M. le rapporteur a jugé moins opportun, car moins bien placé que celui-ci. En tout état de cause, mes chers collègues, il s’agit d’une proposition très importante.
En effet, comme je l’ai indiqué précédemment, monsieur le ministre, demander le retrait de vidéos ou d’images à caractère pornographique s’apparente à un véritable parcours de la combattante pour les personnes concernées. Lorsqu’on ne leur oppose pas un refus, on leur demande en effet en contrepartie du retrait des contenus de s’acquitter de sommes qui dépassent largement ce qu’elles ont perçu au titre de la réalisation desdits contenus.
J’attire par ailleurs votre attention, monsieur le ministre, sur la grande prudence avec laquelle il convient de considérer les contrats.
Dans le cadre des travaux de la mission d’information sur l’industrie de la pornographie réalisée au nom de la délégation aux droits des femmes et à l’égalité des chances entre les hommes et les femmes, nous avons en effet constaté que les femmes qui s’adonnent à la réalisation d’images ou de vidéos pornographiques sont en général précarisées et fragilisés, si bien qu’elles sont à la merci de ceux qui les encadrent.
De ce fait, les conditions dans lesquelles le contrat est conclu rendent bien souvent celui-ci caduc, car il est en réalité extorqué. Il me paraît donc compliqué de faire valoir la force du contrat.
Avec l’ensemble de mon groupe, je soutiendrai cet amendement, qui vise à introduire des dispositions extrêmement importantes pour les victimes.
Mme le président. La parole est à Mme Dominique Vérien, pour explication de vote.
Mme Dominique Vérien. Les femmes concernées ont le plus souvent été abusées, mes chers collègues.
On leur a fait croire qu’elles allaient gagner de l’argent en tournant des images qui seraient diffusées très loin de chez elles, et elles découvrent que leur voisin y a immédiatement accès.
Certaines ont dû démissionner de leur poste, car elles ont été reconnues, par exemple par un client se présentant à l’accueil de la banque dans laquelle l’une d’entre elles travaillait.
En somme, on leur a menti. Vous avez donc raison de dire que le contrat devrait être beaucoup mieux encadré, monsieur le rapporteur.
Et vous avez raison de dire qu’il faudra compléter cet amendement, monsieur le ministre. C’est justement la raison pour laquelle il convient de le voter : son adoption vous incitera à retravailler ce dispositif pour faire en sorte qu’une solution soit trouvée à l’issue de la navette, afin que ces femmes n’aient plus à débourser jusqu’à dix fois ce qu’elles ont perçu pour obtenir le retrait d’un contenu – il est fréquent, en effet, qu’on leur demande 5 000 euros quand on ne les a rémunérées tout au plus que 500 euros.
En règle générale, les femmes qui s’adonnent à ces pratiques sont dans le besoin. Nous devons les protéger et nous aurons tout le temps de la navette parlementaire pour le faire. Votons donc cet amendement, mes chers collègues !
Mme Laurence Cohen. Très bien !
Mme le président. La parole est à Mme Annick Billon, pour explication de vote.
Mme Annick Billon. Je remercie vivement M. le rapporteur de son avis favorable.
Je maintiendrai mon amendement, monsieur le ministre, car, comme le soulignait à l’instant ma collègue Dominique Vérien, nous aurons tout le temps d’améliorer le dispositif au cours de la navette, que ce soit lors des débats à l’Assemblée nationale ou lors de la réunion de la commission mixte paritaire.
Je tiens particulièrement à cet amendement, car Alexandra Borchio Fontimp, Laurence Rossignol, Laurence Cohen et moi-même, toutes coauteures du rapport d’information Porno : l’enfer du décor et présentes en séance ce soir, avons assisté à une audition à huis clos qui nous a profondément marquées.
Si nous devons protéger les mineurs comme nous l’avons fait dans les précédents articles de ce projet de loi, nous devons aussi protéger les femmes qui, si elles ont effectivement signé un contrat et perçu une rémunération, n’en ont pas moins été piégées.
Je pense notamment au témoignage d’une jeune femme qui avait signé un contrat pour payer son loyer, à un moment où son métier était non essentiel, et qui, par la suite, s’est retrouvée contrainte.
Mes chers collègues, nous nous devons de voter cet amendement pour toutes ces victimes qui nous ont fait part des actes de barbarie qu’elles ont subis le temps d’un tournage ou d’un week-end et dont le témoignage nous a profondément touchées.
Mme le président. En conséquence, un article additionnel ainsi rédigé est inséré dans le projet de loi, avant l’article 4.
L’amendement n° 87, présenté par M. Ouzoulias, Mme Lienemann et les membres du groupe communiste républicain citoyen et écologiste, est ainsi libellé :
Avant l’article 4
Insérer un article additionnel ainsi rédigé :
Dans un délai d’un an, le Gouvernement présente sa stratégie de développement et de déploiement d’un système d’exploitation français à l’ensemble du matériel numérique des administrations publiques, permettant d’assurer une souveraineté numérique.
La parole est à M. Pierre Ouzoulias.
M. Pierre Ouzoulias. Avec cet amendement, nous changeons totalement de sujet, puisqu’il est question des systèmes d’exploitation informatique.
Le « G » et le « A » de Gafam – je préfère éviter de citer le nom de ces marques – contrôlent 99 % des systèmes d’exploitation de nos téléphones, tandis que le « G », le « A » et le « M » contrôlent 93 % des systèmes d’exploitation de nos ordinateurs.
La quasi-inexistence de système d’exploitation alternatif pose des difficultés, notamment pour les administrations de l’État, car on ne peut garantir que les systèmes utilisés par les fonctionnaires ne soient pas dotés de portes dérobées par lesquelles un tiers pourrait pénétrer pour voler des données.
Un journaliste qui a lu attentivement cet amendement m’a signalé, et je l’en remercie, que l’Agence nationale de la sécurité des systèmes d’information (Anssi) développe depuis 2011 le système d’exploitation Clip OS. Pour l’heure, ce système d’exploitation n’est pas prêt.
Par cet amendement, nous proposons que le Gouvernement engage un plan visant à doter les administrations françaises d’un système d’exploitation indépendant et alternatif.
Mme le président. Quel est l’avis de la commission spéciale ?
M. Patrick Chaize, rapporteur. Aujourd’hui, le marché des systèmes d’exploitation est fortement concentré. Il se caractérise par un nombre restreint d’acteurs dominants, essentiellement américains. C’est un marché libre et concurrentiel.
Si l’utilisation d’une solution étrangère n’est pas nécessairement une mauvaise chose, il est vrai qu’elle comporte des risques liés à l’extraterritorialité du droit.
Vous soulevez donc un véritable sujet et je vous en remercie, mon cher collègue. Pour autant, j’estime qu’il n’y a pas lieu de préciser dans la loi que le Gouvernement présente une stratégie à ce sujet. Cela relève de la communication du Gouvernement, dont je sollicite l’avis.
Mme le président. Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot, ministre délégué. Le Gouvernement a déjà présenté sa stratégie pour atteindre la souveraineté en matière numérique en choisissant de placer au cœur du plan France 2030, annoncé à l’automne 2021, les briques de l’infrastructure numérique sur lesquelles nous voulons accentuer nos efforts pour faciliter l’émergence d’acteurs français.
Ces briques sont le cloud, l’intelligence artificielle, la cybersécurité, le quantique et les réseaux de 5G et de 6G.
Ce qui se rapproche le plus de ce dispositif, même s’il ne s’agit pas exactement un système d’exploitation (OS), c’est la stratégie d’accélération que nous avons mise en place pour le cloud. Dans ce cadre, le secrétariat général pour l’investissement (SGPI) avait lancé plusieurs appels à manifestation d’intérêt, notamment pour que se développent en France des suites collaboratives.
Celles-ci constituent l’entrée par laquelle nous découvrons les systèmes d’exploitation, puisqu’elles reflètent la manière dont nous interagissons avec les outils de l’ordinateur dans notre quotidien. C’est ainsi que des acteurs comme Jamespot ou Wimi, et leurs partenaires, ont pu bénéficier de plusieurs dizaines de millions d’euros de subventions au titre du plan France 2030 pour développer des suites collaboratives souveraines.
Toutefois, cela n’est qu’un des exemples de tous les instruments de financement – appels à manifestation d’intérêt, appels à projets, partenariats d’innovation ou encore programmes et équipements prioritaires de recherche (PEPR) –, qui sont prévus dans le cadre de ce plan, dans les cinq domaines que j’ai évoqués, et qui doivent nous permettre de faire émerger des acteurs souverains.
Autrement dit, la stratégie du Gouvernement est connue et reprise dans les stratégies d’accélération du plan France 2030.
Pour ces raisons, le Gouvernement demande le retrait de cet amendement ; à défaut, il y sera défavorable.
Mme le président. La parole est à Mme la présidente de la commission spéciale.
Mme Catherine Morin-Desailly, présidente de la commission spéciale. Je comprends l’amendement de notre collègue, monsieur le ministre, car pendant trop longtemps la stratégie du Gouvernement en faveur d’une souveraineté numérique n’a pas du tout été claire pour nous.
Dans cet hémicycle, nous avons interrogé votre prédécesseur à de très nombreuses reprises sur la recherche de solutions souveraines pour des plateformes dont les données à traiter étaient éminemment sensibles – je pense notamment à la plateforme des données de santé. On nous répondait, sans faire dans le détail, qu’il n’y avait pas de solution française – circulez, il n’y a rien à voir !
Vous comprendrez donc, monsieur le ministre, que le Sénat, très attentif à ce sujet, observe avec satisfaction que les travaux que vous menez contribuent réellement à changer de braquet et nous vous en remercions. Il est plutôt rassurant de constater que ces questions de souveraineté commencent enfin à être prises en compte.
Comme je l’ai rappelé dans mon propos liminaire, nous avons une exigence : il est temps que l’État se dote d’une doctrine et qu’il l’énonce clairement. Cela vaut aussi pour les différentes administrations : lorsque l’on échange avec la direction interministérielle du numérique (Dinum), il semble qu’il n’existe pas vraiment de stratégie, de sorte que chaque ministère agit comme il l’entend dans son coin. Ainsi, le ministère de l’éducation nationale a confié ses données à Microsoft sans appel d’offres spécifique. Les exemples de ce type sont légion.
Il faut maintenant nous inscrire dans une phase où la stratégie sera claire. Certes, comme l’a dit le rapporteur, ce texte n’est sans doute pas le bon véhicule pour énoncer cette stratégie. Au demeurant, nous serons très attentifs, dans le dialogue que nous aurons avec vous au cours des semaines et des mois à venir, à faire en sorte que cette doctrine puisse enfin être élaborée pour clarifier la situation en matière de souveraineté.
Mme le président. Quel est maintenant l’avis de la commission spéciale ?
M. Patrick Chaize, rapporteur. La commission suit l’avis du Gouvernement : défavorable.
Mme le président. La parole est à M. Pierre Ouzoulias, pour explication de vote.
M. Pierre Ouzoulias. Monsieur le ministre, vous venez de mentionner les suites collaboratives. J’en utilise une, LibreOffice, qui est libre de droits. Elle est excellente et je vous la conseille.
Toutefois, s’il n’y a pas de système d’exploitation, les failles restent les mêmes. Or, dans ce que vous avez décrit de la stratégie du Gouvernement, vous n’avez pas cité le système d’exploitation. À mon sens, il est important d’en faire un objectif prioritaire dans la stratégie de l’État, parce que c’est de lui que tout découle. Par conséquent, je maintiens mon amendement.
Mme le président. Je mets aux voix l’amendement n° 87.
(L’amendement n’est pas adopté.)
Article 4
I. – La loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication est ainsi modifiée :
1° A (nouveau) Au premier alinéa du III de l’article 33-1, après les mots : « en application des articles 43-4 et 43-5 », sont insérés les mots : « ou mentionné au second alinéa de l’article 43-2 » ;
1° B (nouveau) L’article 33-3 est complété par un III ainsi rédigé :
« III. – Par dérogation aux I et II, les services de médias audiovisuels à la demande relevant de la compétence de la France en application des articles 43-4 et 43-5 ou mentionnés au second alinéa de l’article 43-2 peuvent être diffusés sans formalité préalable. » ;
1° C (nouveau) Au premier alinéa de l’article 42, après le mot : « audiovisuelle », sont insérés les mots : « , les personnes dont l’activité est d’offrir un accès à des services de communication au public en ligne » ;
1° Après le même premier alinéa, il est inséré un alinéa ainsi rédigé :
« Les éditeurs et distributeurs de services de communication audiovisuelle, les opérateurs de réseaux satellitaires et les prestataires techniques auxquels ces personnes recourent peuvent être mis en demeure de respecter les obligations imposées par les dispositions prises sur le fondement de l’article 215 du traité sur le fonctionnement de l’Union européenne portant sur l’interdiction de diffusion de contenus de services de communication audiovisuelle. » ;
2° Le premier alinéa de l’article 42-10 est ainsi modifié :
a) À la première phrase, après le mot : « loi », sont insérés les mots : « ou de la réglementation européenne prise sur le fondement de l’article 215 du traité sur le fonctionnement de l’Union européenne portant sur l’interdiction de diffusion de contenus de services de communication audiovisuelle » ;
b) (nouveau) À la seconde phrase, après le mot : « satellitaire », sont insérés les mots : « , par une personne dont l’activité est d’offrir un accès à des services de communication au public en ligne », après le mot : « télévision », sont insérés les mots : « ou d’un service de médias audiovisuels à la demande » et, après les mots : « compétence de la France », sont insérés les mots : « ou mentionnés au second alinéa de l’article 43-2 » ;
3° (nouveau) L’article 43-2 est complété par un alinéa ainsi rédigé :
« Les articles 1er, 15, 42, 42-1, 42-7 et 42-10 de la présente loi sont applicables aux services de médias audiovisuels à la demande diffusés en France ne relevant pas de la compétence d’un autre État membre de l’Union européenne, d’un autre État partie à l’accord sur l’Espace économique européen ou d’un autre État partie à la Convention européenne, du 5 mai 1989, sur la télévision transfrontière. » ;
4° (nouveau) Au II de l’article 43-7, après le mot : « sens », sont insérés les mots : « du premier alinéa ».
II. – L’article 11 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi rédigé :
« Art. 11. – I. – L’Autorité de régulation de la communication audiovisuelle et numérique peut mettre en demeure toute personne mentionnée au I de l’article 1-1 de la présente loi de retirer les contenus ou de faire cesser la diffusion des contenus qui contreviennent aux dispositions prises sur le fondement de l’article 215 du traité sur le fonctionnement de l’Union européenne portant sur l’interdiction de diffusion de contenus provenant des personnes visées par les sanctions. La personne destinataire de la mise en demeure dispose d’un délai de soixante-douze heures pour présenter ses observations.
« II. – À l’expiration de ce délai et en cas d’inexécution, l’autorité peut notifier aux fournisseurs de services d’accès à internet la liste des adresses électroniques des services de communication au public en ligne hébergeant ou diffusant des contenus provenant des personnes ayant fait l’objet de la mise en demeure, afin qu’elles empêchent dans un délai fixé par l’Autorité de régulation de la communication audiovisuelle et numérique l’accès à ces adresses. Toutefois, en l’absence d’éléments d’identification des personnes mentionnées au I de l’article 1-1 de la présente loi, l’autorité peut procéder à cette notification sans avoir préalablement demandé le retrait ou la cessation de la diffusion des contenus dans les conditions prévues au même I.
« L’autorité peut également notifier les adresses électroniques dont les contenus contreviennent aux dispositions mentionnées au I du présent article aux moteurs de recherche ou aux annuaires, lesquels prennent toute mesure utile destinée à faire cesser leur référencement.
« III. – L’autorité peut agir d’office ou sur saisine du ministère public ou de toute personne physique ou morale.
« IV. – En cas de méconnaissance de l’obligation de retirer les contenus ou de faire cesser la diffusion des contenus mentionnés au I du présent article, l’autorité peut prononcer à l’encontre de l’auteur de ce manquement, dans les conditions prévues à l’article 42-7 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication, une sanction pécuniaire dont le montant, fixé en fonction de la gravité du manquement, ne peut excéder 4 % du chiffre d’affaires hors taxes réalisé au cours du dernier exercice clos calculé sur une période de douze mois ou, en l’absence de chiffre d’affaires, 250 000 euros. Ce maximum est porté à 6 % en cas de réitération du manquement dans un délai de cinq ans à compter de la date à laquelle la première décision de sanction est devenue définitive ou, en l’absence de chiffre d’affaires, à 500 000 euros. La méconnaissance de l’obligation d’empêcher l’accès aux adresses notifiées ou de prendre toute mesure utile destinée à faire cesser le référencement du service de communication au public en ligne en application du second alinéa du II du présent article peut être sanctionnée dans les mêmes conditions. Dans ce dernier cas, l’amende ne peut toutefois excéder 1 % du chiffre d’affaires hors taxes réalisé au cours du dernier exercice clos calculé sur une période de douze mois ou, en l’absence de chiffre d’affaires, 75 000 euros. Ce maximum est porté à 2 % en cas de réitération du manquement dans un délai de cinq ans à compter de la date à laquelle la première décision de sanction est devenue définitive ou, en l’absence de chiffre d’affaires, à 150 000 euros.
« Lorsque sont prononcées, à l’encontre de la même personne, une amende administrative en application du présent article et une amende pénale en application de l’article 459 du code des douanes à raison des mêmes faits, le montant global des amendes prononcées ne dépasse pas le maximum légal le plus élevé des sanctions encourues.
« V (nouveau). – Les modalités d’application du présent article sont précisées par décret en Conseil d’État. »
Mme le président. L’amendement n° 48 rectifié quater, présenté par Mmes Noël et Garriaud-Maylam, MM. Gremillet, D. Laurent et Chatillon, Mme Muller-Bronn, MM. Charon, Joyandet et Bouchet et Mmes Thomas, Belrhiti, Pluchet et Berthet, est ainsi libellé :
Alinéa 16
Après le mot :
internet
insérer les mots :
ou aux fournisseurs de systèmes de résolution de nom de domaine définis au II de l’article 12 de la présente loi
La parole est à Mme Sylviane Noël.
Mme Sylviane Noël. Sur le modèle de celui que j’ai défendu à l’article 2, cet amendement vise à élargir la liste des acteurs susceptibles de contribuer à la lutte contre les sites faisant l’objet de sanctions européennes en y incluant, aux côtés des fournisseurs de services d’accès à internet, toutes les personnes pouvant prendre des mesures utiles sur la demande de l’autorité administrative compétente, afin d’aboutir à une meilleure effectivité du dispositif.
En effet, en l’état actuel de la rédaction, les personnes qui fournissent des navigateurs internet au sens de l’article 2 du règlement européen relatif aux marchés contestables et équitables dans le secteur numérique ne sont pas incluses dans le dispositif. Il en est de même pour les systèmes d’exploitation mentionnés à l’article L. 32 du code des postes et des communications électroniques.
Le présent amendement vise donc à inclure dans le champ de l’article, en sus des fournisseurs de services d’accès à internet, les navigateurs et systèmes d’exploitation qui font de la résolution de nom de domaine.
Mme le président. Quel est l’avis de la commission spéciale ?
M. Loïc Hervé, rapporteur. Par cohérence, avis favorable.
Mme le président. Quel est l’avis du Gouvernement ?
Mme le président. Je mets aux voix l’article 4, modifié.
(L’article 4 est adopté.)
Après l’article 4
Mme le président. L’amendement n° 127, présenté par le Gouvernement, est ainsi libellé :
Après l’article 4
Insérer un article additionnel ainsi rédigé :
L’article 226-8 du code pénal est ainsi modifié :
1° Le premier alinéa est complété par une phrase ainsi rédigée : « Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention. » ;
2° Il est ajouté un alinéa ainsi rédigé :
« Ces peines sont portées à deux ans d’emprisonnement et 45 000 euros d’amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisé en utilisant un service de communication au public en ligne. »
La parole est à M. le ministre délégué.
M. Jean-Noël Barrot, ministre délégué. Cet amendement vise à renforcer l’article 226-8 du code pénal, qui punit d’un an d’emprisonnement et de 15 000 euros d’amende « le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention. »
Le moment nous semble venu de renforcer ce dispositif en y incluant les hypertrucages, ou deepfakes, c’est-à-dire des montages conçus à l’aide d’algorithmes qui permettent de multiplier la capacité d’exposition du public à de fausses informations, voire de déclencher ou de favoriser le déclenchement de cyberattaques.
Le terme « montage » retenu dans la rédaction de l’article 226-8 n’est pas suffisamment précis pour désigner les hypertrucages, contre lesquels nous devons agir.
Je précise que Mme Borchio Fontimp a déposé un amendement dont nous débattrons dans quelques instants concernant l’usage des hypertrucages dans la pornographie, où ils sont très présents.
Mme le président. Quel est l’avis de la commission spéciale ?
M. Loïc Hervé, rapporteur. Par cet amendement, le Gouvernement s’attaque à une véritable difficulté, déjà identifiée en avril 2023 dans le rapport d’information des députés Gosselin et Latombe sur les enjeux de l’utilisation d’images de sécurité dans le domaine public, celle de la pénalisation des deepfakes – c’est-à-dire de vidéos réalisées par l’intelligence artificielle et dont la ressemblance avec le réel est parfois si forte qu’on ne peut les distinguer avec certitude d’une vidéo classique.
Nos collègues députés craignaient que les deepfakes ne soient pas couverts par le droit en vigueur, notamment par l’article 226-8 du code pénal. Il s’agit en effet d’images complètement artificielles et non pas de montages au sens strict du terme.
Monsieur le ministre, l’adoption de votre amendement permettrait de combler cette lacune et de protéger les citoyens contre le risque d’un détournement malveillant de leur image : la commission spéciale y est favorable.
Mme le président. La parole est à M. Pierre Ouzoulias, pour explication de vote.
M. Pierre Ouzoulias. Monsieur le ministre, je comprends parfaitement l’objet de votre amendement dans ses modalités techniques, et j’y souscris.
Toutefois, l’exemple récent de la reconstitution par des algorithmes de la voix du général de Gaulle prononçant l’appel du 18 juin introduit un léger doute. Son consentement n’ayant pu être recueilli, cette reconstitution algorithmique tomberait sous le coup du dispositif proposé, ce qui ne va pas sans poser problème.
Mme le président. La parole est à M. le ministre délégué.
M. Jean-Noël Barrot, ministre délégué. Cette reconstitution ne tomberait pas sous le coup de cet amendement. Outre l’obligation d’obtenir le consentement de la personne concernée, il est précisé que les hypertrucages visés sont ceux pour lesquels il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou pour lesquels il n’en est pas expressément fait mention. En l’espèce, il est communément admis que la personne concernée est décédée et que ses propos ont été recomposés ou reconstitués.
Puisque l’on applique aux hypertrucages le même tarif, si je puis dire, que celui que l’on appliquerait aux montages plus traditionnels, je ne pense pas que la reconstitution que vous évoquez tomberait sous le coup du dispositif proposé.
Mme le président. La parole est à M. François Bonhomme, pour explication de vote.
M. François Bonhomme. Le sujet a toute son importance dans la mesure où le développement des deepfakes illustre les progrès inquiétants de l’intelligence artificielle. On le constate chaque jour et l’actualité récente a encore illustré ce risque majeur.
L’année dernière, Europol avait déjà mis en exergue le potentiel de déstabilisation des deepfakes et appelé les États à intervenir sur le sujet.
Monsieur le ministre, je ne peux que soutenir votre initiative. Il faut accorder une attention toute particulière au développement des hypertrucages.