Alinéa 2

Compléter cet alinéa par une phrase ainsi rédigée :

Lors de l’inscription, ces entreprises délivrent une information à l’utilisateur de moins de quinze ans et au titulaire de l’autorité parentale sur les risques liés aux usages numériques et les moyens de prévention.

Par cet amendement, nous proposons d'inscrire une nouvelle obligation pour les entreprises de service de réseaux sociaux en ligne : délivrer une information à l’utilisateur sur les risques liés aux usages numériques et les moyens de prévention aux mineurs de moins de 15 ans ainsi qu’à leurs parents. L’exposé des motifs de la proposition de loi indiquait que « les parents ignorent souvent le contenu de la vie numérique de leurs enfants et ne supervisent pas leur activité. Ils sont ainsi à peine plus de 50 % à décider du moment et de la durée de connexion de leurs enfants, et 80 % déclarent ne pas savoir exactement ce que leurs enfants font sur Internet ou les réseaux sociaux ».

Il est donc proposé d’inclure une mesure destinée à l’information des familles lors de l’inscription comme par exemple des conseils sur les risques liés à l’utilisation d’internet et les moyens de les aborder, le droit à l’oubli, la protection de ses données, la surexposition aux écrans et l’indication du numéro vert d’e-enfance, le 3018, qui est le numéro court national pour les jeunes victimes de violences numériques et leurs parents. Le décret d'application de l'article  6-7 précisera les caractéristiques de cette information afin que le même niveau de protection soit offert par tous les réseaux sociaux aux mineurs de moins de 15 ans et à leurs parents. 

Alinéa 2

Compléter cet alinéa par une phrase ainsi rédigée :

Lors de l’inscription, ces entreprises délivrent une information à l’utilisateur de moins de quinze ans claire et adaptée des conditions d’utilisation de ses données et de ses droits informatique et libertés.

Par cet amendement, nous proposons de suivre une recommandation de la Commission Nationale de l’Informatique et des Libertés (CNIL). Elle précise que le règlement général sur la protection des données (RGPD) « impose de fournir aux personnes concernées une information sur les conditions d’utilisation de leurs données personnelles et sur leurs droits, qui soit compréhensible, aisément accessible en des termes clairs et simples, en particulier pour toute information destinée spécifiquement à un enfant. Pourtant, il suffit de naviguer sur certaines des plateformes massivement utilisées par les mineurs pour se rendre compte que c’est loin d’être une pratique généralisée. » La CNIL indique que « cette obligation d’une information adaptée est pourtant la clef de voûte du dispositif de protection des mineurs : elle conditionne la possibilité même d’un consentement éclairé ainsi que la connaissance des droits dont ils disposent (ex. : droit à l’oubli), dont ils ne pourront bien évidemment pas se saisir s’ils les ignorent ou n’en comprennent pas le sens et l’intérêt."

Après l’alinéa 2

Insérer un alinéa ainsi rédigé :

« Les fournisseurs de services de réseaux sociaux en ligne exerçant leur activité en France empêchent la consultation de contenus inappropriés aux mineurs de quinze ans. Le non-respect de cette obligation est puni d’une amende ne pouvant excéder 1 % de leur chiffre d’affaires mondial pour l’exercice précédent.

L’usage intense des réseaux sociaux, favorisé par leur caractère addictif, peut entraîner des conséquences néfastes pour leurs utilisateurs, notamment les plus jeunes dont l’identité est en pleine construction. Il apparaît d’autant plus nécessaire de rendre impossible la consultation de contenus inappropriés aux enfants et aux jeunes adolescents : il s’agit de contenus à caractère sexuel, relatifs au suicide et à l’automutilation ou encore encourageant des troubles du comportement alimentaire.

Certains réseaux sociaux ont certes mis en place des outils afin de limiter la consultation de tels contenus par les jeunes : ainsi TikTok propose par exemple le mode restreint mais celui-ci n’est pas obligatoire.

Poser cette obligation de résultat forcerait les fournisseurs de service à améliorer le fonctionnement de leurs algorithmes qui tendent à enfermer l’utilisateur dans une niche. On a pu assister à une augmentation des actes d’automutilation chez des adolescents orientés par l’algorithme vers une « bulle » dépressive.

Une telle obligation serait également de nature à inciter ces entreprises à embaucher plus de vérificateurs car une grande quantité de contenus n’est pas supprimée rapidement faute d’effectifs.

Ainsi, il paraît logique d’inscrire dans la loi l’obligation pour les fournisseurs de services de réseaux sociaux en ligne d’empêcher les « mineurs numériques » de consulter des contenus inappropriés.

Alinéa 3

Après le mot :

parentale

insérer les mots :

ou le mineur de quinze ans

Dans le rapport sur les droits numériques des mineurs de la CNIL, publié en 2021, l’une des recommandations fondamentales porte sur l’exercice, par les mineurs, de leurs droits numériques. D’ailleurs, cette préconisation est une traduction concrète de l’article 12 de la Convention internationale des droits de l’enfant qui stipule que tout enfant a le « droit d'exprimer librement son opinion sur toute question l'intéressant, les opinions de l'enfant étant dûment prises en considération eu égard à son âge et à son degré de maturité ».

 Ainsi, lors de la consultation publique de la CNIL, cette recommandation a reçu une très large approbation, 80 % des personnes estimant utile que les mineurs puissent exercer seuls leurs droits d’accès, de rectification, d’effacement et d’opposition.

 C’est pourquoi, cet amendement vise à lever une ambigüité du texte et à prévoir clairement que le mineur de quinze ans peut demander, sans l’autorisation parentale, la suspension de son compte.

Alinéa 3

Compléter cet alinéa par une phrase ainsi rédigée :

Le mineur de quinze ans peut demander aux fournisseurs de services de réseaux sociaux en ligne la suppression de son compte.

Dans le rapport sur les droits numériques des mineurs de la CNIL, publié en 2021, l’une des recommandations fondamentales porte sur l’exercice de leurs droits numériques par les mineurs. D’ailleurs, cette préconisation est une traduction concrète de l’article 12 de la Convention internationale des droits de l’enfant qui stipule que tout enfant a le « droit d'exprimer librement son opinion sur toute question l'intéressant, les opinions de l'enfant étant dûment prises en considération eu égard à son âge et à son degré de maturité ».

 Ainsi, lors de la consultation publique de la CNIL, cette recommandation a reçu une très large approbation, 80 % des personnes estimant utile que les mineurs puissent exercer seuls leurs droits d’accès, de rectification, d’effacement et d’opposition.

 C’est pourquoi, cet amendement vise à aller au-delà de la demande de suspension de compte et à prévoir que le mineur de quinze ans peut demander la suppression pure et simple de son compte.

Après l’alinéa 3

Insérer un alinéa ainsi rédigé :

« Les entreprises mentionnées au premier alinéa proposent d’activer un dispositif permettant de contrôler le temps d’utilisation de leur service lors de l’inscription d’un mineur.

Par cet amendement, nous proposons que les entreprises de service de réseaux sociaux en ligne soient légalement tenues de proposer un dispositif permettant de contrôler le temps d’utilisation de leur service lors de l’inscription d’un mineur.  

La surexposition aux écrans entraîne selon l’association E-enfance des problèmes de concentration et de mémorisation avec une baisse des résultats scolaires et un repli sur soi. Elle a également des conséquences sur le sommeil car la lumière bleue des écrans bloque la libération de mélatonine, l’hormone du sommeil. L’horloge interne et les cycles de sommeil s’en trouvent perturbés. L’association relève également des troubles du comportement et conséquences psychologiques et des conséquences physiques (fatigue oculaire, migraines, mauvaise posture, surpoids lié à une inactivité et au grignotage devant les écrans). Enfin, la surexposition aux écrans peut entraîner « l’addiction aux jeux vidéo ou aux jeux de hasard en ligne, à un risque accru d’exposition aux contenus choquants ou inadaptés ou encore aux mauvaises rencontres en ligne, qui peuvent engendrer cyber-harcèlement, arnaques en ligne, pédophilie, etc ». 

Cet amendement tend donc à ce que chaque entreprise de service de réseau social propose un décompte du temps d’utilisation quotidien pour les utilisateurs mineurs qui leur serait envoyé. Prendre conscience du temps passé sur un réseau social est un premier pas pour lutter contre l’addiction à ces plateformes.

Amendement n° 4, alinéa 3

1° Remplacer les mots :

proposent d’activer

par les mots :

activent

2° Compléter cet alinéa par les mots :

et informent régulièrement de cette durée l’usager par le biais de notifications

Il est proposé, par ce sous-amendement, de rendre obligatoire et non pas optionnel le contrôle du temps passé sur un réseau social, et d'en informer le mineur par le biais de notifications régulières.

Ce dispositif a ainsi une visée pédagogique pour le mineur, avec la prise de conscience de la durée effectivement passé sur le réseau social.

Après l’alinéa 4

Insérer un alinéa ainsi rédigé :

« Les fournisseurs de services de réseaux sociaux, quel que soit leur lieu d’établissement, sont tenus de procéder à un traitement réalisé par une personne physique dès lors qu’un contenu est signalé par un mineur ou que le signalement concerne un mineur.

Par cet amendement, nous proposons que les entreprises de service de réseaux sociaux en ligne soient légalement tenues de procéder à un traitement par une personne humaine lorsqu’un contenu est signalé par un mineur ou qu'il concerne un mineur.  Il est important que, dans ces deux cas, une personne humaine et non un algorithme traite le problème.

Après l’alinéa 4

Insérer un alinéa ainsi rédigé :

« Les fournisseurs de services de réseaux sociaux en ligne exerçant leur activité en France doivent diffuser des messages d’informations contenant un avertissement général quant aux risques d’externalités négatives dont sont à l’origine les réseaux sociaux sur la santé physique et mentale des jeunes, notamment des mineurs.

L’usage intense des réseaux sociaux, favorisé par leur caractère addictif, peut entraîner des conséquences néfastes pour leurs utilisateurs, notamment les plus jeunes dont l’identité est en pleine construction.

S’il n’existe pas à ce jour d’étude systématique et incontestable sur l’influence des réseaux sociaux sur la santé ou le bien être des jeunes, mais une pluralité de données raisonnablement convergentes, on peut néanmoins relever plusieurs éléments dans le « faisceau d’indices » permettant de s’avancer sur la toxicité des réseaux sociaux pour les plus jeunes : la dépendance, générée de manière très consciente par les algorithmes des réseaux qui ont pour seul objet de « capter l’attention », les risques de cyber harcèlement, le risque pour l’estime et l’image de soi, le manque d’activité physique, l’exposition à des fausses informations et la possibilité de faire de « mauvaises rencontres » de prédateurs sexuels.

Après l'alinéa 7

Insérer un alinéa ainsi rédigé :

« .... - Le présent article ne s'applique pas aux encyclopédies en ligne à but non lucratif et aux répertoires éducatifs et scientifiques à but non lucratif.

Le présent amendement vise à régler une ambiguïté soulevée lors des débats, à savoir le traitement des encyclopédies en ligne et des répertoires scientifiques à but éducatif comme le site Wikipédia. Il serait en effet très regrettable de restreindre leur fréquentation, alors qu'ils constituent des sources d'information très utiles.

Il est donc proposé avec cet amendement de les exclure explicitement du champ de la proposition de loi. Cela est pleinement compatible avec le droit européen en application du considérant 13 du Digital Service Act (DSA).

Après l’article 2

Insérer un article additionnel ainsi rédigé :

La loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifiée :

1° Le IV de l’article 1^er est complété par un alinéa ainsi rédigé :

« On entend par boutique d’applications logicielles, un type de services d’intermédiation en ligne qui se concentre sur les applications logicielles en tant que produit ou service intermédié ; et par application logicielle, tout produit ou service numérique fonctionnant sur un système d’exploitation au sens du règlement (EU) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828. » ;

2° Après l’article 6-5, il est inséré un article 6–… ainsi rédigé :

« Art. 6-…. – I. – Les boutiques d’applications logicielles exerçant leur activité en France, bloquent le téléchargement des applications logicielles de services de réseaux sociaux soumises à une restriction d’âge du fait de la loi ou spécifiée par le fournisseur de l’application logicielle pour les mineurs de moins de 18 ans, après avoir pris des mesures de vérification de l’âge des utilisateurs. Elles notifient à l’Autorité de régulation de la communication audiovisuelle et numérique la mise en place de ces mesures de vérifications et de blocage et en informent la Commission nationale de l’informatique et des libertés.

« II. – Lorsqu’il constate qu’une boutique d’applications logicielles n’a pas bloqué le téléchargement d’une application logicielle de services de réseaux sociaux en ligne soumises à une restriction d’âge du fait de la loi ou spécifiée par le fournisseur de l’application logicielle pour les mineurs de moins de 18 ans, le président de l’Autorité de régulation de la communication audiovisuelle et numérique adresse à cette boutique d’applications de logicielles, par tout moyen propre à en établir la date de réception, une mise en demeure de prendre toutes les mesures requises pour satisfaire l’obligation prévue au présent article. La boutique d’applications logicielles dispose d’un délai de quinze jours à compter de la mise en demeure pour présenter ses observations.

« À l’expiration de ce délai, en cas d’inexécution de la mise en demeure, le président de l’Autorité de régulation de la communication audiovisuelle et numérique peut saisir le président du tribunal judiciaire de Paris aux fins d’ordonner à la boutique d’applications logicielles d’annuler le téléchargement de l’application ou des applications logicielles concernées.

« Le fait pour une boutique d’applications logicielles de ne pas satisfaire aux obligations prévues au I est puni d’une amende ne pouvant excéder 1 % de son chiffre d’affaires mondial pour l’exercice précédent.

« III. – Les modalités d’application du présent article sont fixées par décret en Conseil d’État, après avis de la Commission nationale de l’informatique et des libertés. »

Le présent amendement prévoit de bloquer systématiquement le téléchargement, par les des boutiques d’applications logicielles telles qu’elles sont définies dans celui-ci, et au sens du Règlement (EU) 2022/1925 relatif aux marchés contestables et équitables dans le secteur numérique, des applications logicielles de réseaux sociaux soumises à une restriction d’âge du fait de la loi ou spécifiée par le fournisseur de l’application.

Il vise à rajouter une protection supplémentaire en obligeant les boutiques d’applications logicielles (principalement l’Apple Store et le Play Store) à bloquer systématiquement le téléchargement des applications de services réseaux sociaux réservées aux personnes majeures (applications de rencontre notamment) aux mineurs. En effet, ces boutiques d’applications logicielles connaissent l’identité et l’âge de leurs utilisateurs, puisque ce sont des informations demandées dans le cadre de la création d’un compte pour télécharger des applications.

L’objectif n’est pas de remettre en question les obligations imposées aux fournisseurs de réseaux sociaux, mais de les compléter avec une mesure qui interviendrait en amont pour un type d’application bien précis, en l’occurrence les applications conçues pour un usage par des personnes de 18 ans et plus.

Les téléphones connectés sont le principal moyen pour les mineurs de télécharger des applications de réseaux sociaux, et de facto certains profils sur les applications de rencontre sont créés par des personnes mineures, qui renseignent des informations erronées sur leur âge. Si les applications de rencontre mettent en place des mesures de vérification, il serait utile de simplement bloquer le téléchargement.

Compléter cet article par une phrase ainsi rédigée :

Le rapport présente des préconisations pour mieux accompagner les parents dans l’éducation et la prévention de l’utilisation des plateformes en ligne par les mineurs.

Cet amendement a pour objet de compléter la demande de rapport en abordant un angle mort de la proposition de loi : l’accompagnement des parents quant aux usages des plateformes en ligne par les mineurs.

Après l’article 5

Insérer un article additionnel ainsi rédigé :

Les victimes de harcèlement scolaire et de harcèlement en ligne composent un numéro unique pour avoir accès à l’ensemble des plateformes d’aide et d’écoute.

Actuellement, les jeunes, victimes de harcèlement, peuvent appeler :

- Soit le 30 20, opéré par l’École des parents et des éducateurs d’Île-de-France (EPE-IDF), en cas de harcèlement scolaire

- Soit le 30 18, opéré par l'Association e-Enfance, en cas de cyber-harcèlement

La proposition de loi examinée prévoyait, à son article 5, la remise d’un rapport par le Gouvernement au Parlement visant à étudier l’opportunité d’une fusion de ces plateformes téléphoniques d’aide et d’écoute. À l’heure où le cyber harcèlement est bien souvent la suite du harcèlement scolaire en dehors des murs de l’école, la réunion de ces plateformes apparaît comme adaptée, cohérente et source de simplicité donc de rapidité et d'efficacité dans la prise en charge des victimes.

En attendant l’étude d’une potentielle fusion, nous pouvons simplifier l’accès à ces plateformes en créant un numéro unique sans distinction entre les différents types de harcèlements dont les jeunes peuvent être la cible. Ce numéro donnerait accès à un standard téléphonique automatisé qui orientera le jeune vers l’entité compétente : l’EPE-IDF ou l'Association e-Enfance.

Ainsi, pour faciliter leur accessibilité, il est proposé de créer un numéro de téléphone unique pour les plateformes d’aide et d’écoute aux victimes de harcèlement scolaire et de harcèlement en ligne.