B. UN BILAN CONTRASTÉ
1. Des conditions de mise en oeuvre qui n'ont pas permis de déployer tout le potentiel de l'expérimentation
a) Quatre utilisateurs, une trentaine de manifestations
L'expérimentation a été mise en oeuvre par quatre utilisateurs : la préfecture de police de Paris, la SNCF, la RATP et la ville de Cannes. La SNCF et la RATP n'ont utilisé des solutions de vidéoprotection algorithmique que dans leurs emprises situées en région parisienne.
D'après le comité d'évaluation, l'expérimentation a été mise en oeuvre, tous utilisateurs confondus, à 33 reprises, pour une trentaine de manifestations et dans environ 70 lieux, au moyen d'environ 800 caméras. Son coût global, tous utilisateurs confondus, s'est établi à environ 0,9 million d'euros.
Bilan des déploiements opérationnels pendant l'expérimentation
« Avant les épreuves olympiques, une quinzaine de tests ont été réalisés (cinq par la préfecture de police, cinq par la RATP, quatre par la SNCF et une par la commune de Cannes).
« Ces tests ont concerné 43 lieux (un pour la préfecture de police, 27 pour la RATP, 14 pour la SNCF et un pour la commune de Cannes).
« Pendant les épreuves olympiques, l'expérimentation a concerné 69 lieux, tous situés en Île-de-France (12 pour la préfecture de police, 46 pour la RATP et 11 pour la SNCF) et 68 pendant les Jeux paralympiques (12 pour la préfecture de police, 46 pour la RATP et 10 pour la SNCF).
« Après les épreuves olympiques, et jusqu'au 31 décembre 2024, 16 tests, portant sur 16 événements distincts, ont été réalisés (11 par la préfecture de police, un par la RATP, un par la SNCF et trois par la commune de Cannes). 21 lieux étaient concernés.
« De la première exploitation opérationnelle le 19 avril 2024 (Concert des Black Eyed Peas) à fin décembre 2024, on dénombre des tests à l'occasion de 33 événements différents (14 par la préfecture de police, huit par la RATP, sept par la SNCF et quatre par la commune de Cannes).
« La préfecture de police a utilisé, pour un même test, jusque 190 caméras environ, la RATP et la SNCF jusqu'à 300 chacune et la commune de Cannes. Soit un total de 800 caméras environ. »
Source : rapport du comité d'évaluation
Les données obtenues par les rapporteures correspondent à celles publiées par le comité d'évaluation, à une exception près : elles dénombrent 18 déploiements opérationnels par la préfecture de police de Paris, pour un total de 37 déploiements au titre de l'expérimentation.
S'agissant de la faible participation des collectivités territoriales à l'expérimentation, l'Association des maires de France et des présidents d'intercommunalité a pointé auprès des rapporteures plusieurs facteurs susceptibles de l'expliquer : « la restriction de l'expérimentation aux seules manifestations sportives, récréatives et culturelles, pour une utilisation ponctuelle et un coût relativement élevé », « la méconnaissance du dispositif et l'absence de communication auprès des collectivités » mais aussi « la nécessité de gagner l'adhésion de la population sur un sujet clivant ».
La ville de Cannes a également mis en avant, au cours des travaux des rapprorteures, le fait que seuls les policiers municipaux aient été autorisés par la loi à mettre en oeuvre ces logiciels, alors même que « dans les communes la quasi-totalité des opérateurs [des systèmes de vidéoprotection] sont des agents de surveillance de la voie publique », ce qui a pu dissuader les communes de prendre part à l'expérimentation. Par conséquent, « un poste informatique dédié à l'exploitation des remontées d'alertes a été installé dans une salle séparée du centre de vidéoprotection, afin d'en limiter l'accès aux seuls policiers municipaux », consommant des effectifs qui auraient eu vocation à assurer la sécurité des manifestations en cause.
b) Un nombre très limité de solutions évaluées
En définitive, seules deux solutions technologiques - le logiciel Cityvision de la société Wintics et le logiciel Videtics Perception de la société Videtics - ont été mises en oeuvre dans le cadre de l'expérimentation, chaque utilisateur n'ayant pu expérimenter qu'une seule solution.
Cela résulte du choix du législateur de conférer à l'État le monopole de la sélection des solutions à mettre en oeuvre et du calendrier très contraint dans laquelle l'expérimentation s'est déroulée.
Faute des capacités et du temps nécessaires au développement en interne d'une solution de vidéoprotection algorithmique, le ministère de l'intérieur n'a eu d'autre choix que d'acquérir les solutions « sur étagère ».
Comme le relève le comité d'évaluation, les choix faits lors de l'élaboration de l'appel d'offres, au mois d'août 202319(*), se sont avérés déterminants pour la mise en oeuvre de l'expérimentation.
D'une part, selon le comité d'évaluation, ont été prises à cette occasion « deux décisions majeures », à savoir la renonciation au traitement algorithmique des images collectées au moyen de drones et, surtout, aux solutions reposant sur l'auto-apprentissage20(*), cette dernière conduisant à exclure a priori les solutions les plus sophistiquées. De ce fait, le comité d'évaluation a estimé que « Les conditions dans lesquelles il peut être recouru à l'intelligence artificielle ont encore été restreintes lors de la définition des clauses techniques du marché. »
Comme les représentants du comité d'évaluation ont pu le souligner lors de leur audition, les solutions reposant sur l'auto-apprentissage présentent une complexité technique et juridique particulière, ce qui explique qu'elles n'aient pas été retenues - un tel choix paraissant d'autant plus justifié compte tenu du calendrier resserré de l'expérimentation.
D'autre part, un allotissement limité à quatre lots et effectué selon des critères géographiques (pour trois des quatre lots) et un critère thématique a mené à la sélection d'un nombre très restreint de solutions.
Les quatre lots, chacun englobant l'acquisition, l'installation et le maintien en condition d'un logiciel, ont été définis comme suit : le lot n° 1 pour l'Île-de-France, le lot n° 2 pour un déploiement dans les régions Provence-Alpes-Côte-d'Azur, Rhône-Alpes, d'outre-mer et la Corse, le lot n° 3 pour un déploiement « dans une autre région de la France métropolitaine » et le lot n° 4 pour les transports en commun et infrastructures associées.
Si le marché comportait une clause devant permettre une certaine diversification des prestataires retenus21(*), il a abouti à la sélection de trois solutions : celles de la société Wintics au titre des lots n° 1 et n° 4, de la société Videtics pour le lot n° 2 et de la société Chapsvision au titre du lot n° 3, ce dernier n'ayant fait l'objet d'aucune utilisation opérationnelle.
Par conséquent, la préfecture de police, la RATP et la SNCF n'ont pu mettre en oeuvre et évaluer qu'une seule solution, le logiciel Cityvision de la société Wintics, quand la solution Videtics Prevent n'a été expérimentée que par la seule ville de Cannes.
Ces considérations et l'exclusion des traitements reposant sur l'auto-apprentissage doivent conduire à relativiser les jugements sur la performance technique et opérationnelle de la vidéoprotection algorithmique, qui ne portent en réalité que sur ces deux solutions - l'évaluation réalisée par le comité d'évaluation étant principalement centrée sur celle de la société Wintics.
Soulignant, comme d'autres utilisateurs, cette limite de l'expérimentation, la SNCF a indiqué aux rapporteures qu'elle « regrette (...) de ne pas avoir pu évaluer plusieurs solutions technologiques en parallèle afin de pouvoir réaliser de véritables conclusions quant aux performances techniques des traitements mis en oeuvre ».
c) Des conditions de mise en oeuvre contraintes
(1) Un calendrier resserré, des utilisations brèves
Le calendrier resserré de l'expérimentation a été cité par les utilisateurs et par le comité d'évaluation comme l'un des principaux facteurs limitant la portée de l'expérimentation.
Compte tenu des délais tenant à la publication des textes réglementaires et à la passation du marché public national (cf. supra), la première utilisation opérationnelle n'a pu avoir lieu qu'en mars 2024, à l'occasion du concert de Depeche Mode à Paris. La RATP et la SNCF ont mis en oeuvre ce traitement algorithmique pour la première fois respectivement le 20 avril (concert des Black Eyed Peas) et le 21 avril (match du Paris-Saint-Germain et de l'Olympique lyonnais), soit moins de trois mois avant la cérémonie d'ouverture.
À l'exception des jeux Olympiques et Paralympiques et de quelques autres événements (tournoi de Rolland Garros, Festival de Cannes et marchés de Noël des Tuileries et de Cannes), les solutions de vidéoprotection algorithmiques ont été mises en oeuvre pour des durées brèves, n'excédant pas, le plus souvent, un ou deux jours.
En effet, du fait de la rédaction de l'article 10 de la loi « JOP », qui circonscrit précisément l'utilisation de ces solutions aux fins d'assurer la sécurité des manifestations sportives, récréatives ou culturelles, elles n'ont pu être mises en oeuvre que lors de ces manifestations.
Aux dires des utilisateurs, cet emploi sur des durées réduites s'est révélé d'un intérêt parfois limité, notamment au regard de la lourdeur du processus administratif préalable et de la nécessité d'un paramétrage préalable.
Dans le même sens, le comité d'évaluation relève que le calendrier de l'expérimentation « n'a laissé en pratique que quatre mois environ aux opérateurs pour effectuer de premiers tests destinés à calibrer le dispositif avant le début des épreuves olympiques. C'est ce qui explique en partie que pendant les Jeux olympiques, la préfecture de police ait fait le choix d'un déploiement assez limité du traitement, par manque de moyens et d'expérience pour en assurer une mise en oeuvre plus étendue »22(*).
(2) Un paramétrage crucial mais contraint
La phase de paramétrage a été identifiée par l'ensemble des utilisateurs comme décisive pour la performance de ces solutions23(*).
La phase de paramétrage
Au plan technique, l'exploitation opérationnelle des solutions logicielles est systématiquement précédée d'une phase de paramétrage, constituée de deux étapes :
1. une étape de programmation
2. et une étape de calibration.
L'étape de programmation consiste pour chaque caméra à :
- d'une part, déterminer ceux des huit événements pertinents parmi ceux autorisés par le décret n° 2023-828 du 28 août 2023 précité, compte-tenu de l'environnement opérationnel : tous les événements ne sont en effet pas pertinents en fonction de là où se situe la caméra ou des enjeux de sécurité propres à chaque site ;
- d'autre part, définir les zones dans le champ de vision de la caméra - également appelés « polygones » - où l'on souhaite détecter l'un ou plusieurs des événements autorisés par l'expérimentation et, lorsque pertinent (densité importante de personnes notamment), les seuils de détection associés (nombre de personnes dans une zone ou par mètre carré).
L'étape de calibration consiste, ensuite, à vérifier, pour l'ensemble des caméras équipées et également caméra par caméra, la qualité de la programmation initiale. Il s'agit à ce stade d'une activation de la solution en conditions réelles, mais sans aucune exploitation opérationnelle. Cette étape permet d'ajuster si nécessaire la programmation afin de limiter le nombre de fausses alarmes, ainsi que d'affiner les seuils de détection au regard des besoins opérationnels.
Conformément à l'article 7 du décret n° 2023-828 du 28 août 2023, la programmation et la calibration qui constituent les deux étapes itératives du paramétrage des solutions logicielles visé au 3° de l'article 4 du décret précité, sont régies par les dispositions relatives à la phase de conception (cf. chapitre II du décret). Elles s'effectuent ainsi systématiquement sous la supervision d'un agent du ministère de l'intérieur qui est, pour cette phase, responsable de traitement. Contrairement aux phases d'exploitation opérationnelle (cf. chapitre IV du décret), elles ne sont pas soumises à autorisation préalable du préfet compétent.
Source : ministère de l'intérieur, cité par le rapport du comité d'évaluation
Les retours d'expérience tendent à indiquer que cette phase de paramétrage est nécessairement chronophage ; selon la SNCF, interrogée par les rapporteures, « ce travail doit s'effectuer, dans la mesure du possible, sur plusieurs jours, voire plusieurs semaines afin de pouvoir confronter les traitements algorithmiques à un maximum de situations variées (variation d'affluence, variation de luminosité, conditions météorologiques, présence d'animaux, diversité d'objets et matériels, présence d'agents SNCF en charge de travaux ou de l'entretien, ...) ».
Or la chronologie de mise en oeuvre définie par le décret du 28 août 2023, qui distingue une phase de conception et une phase d'exploitation opérationnelle, s'est avérée peu adaptée à la réalité de l'utilisation des traitements.
Le travail de paramétrage préalable, nécessairement réalisé in situ, a ainsi été regardé comme une composante de la phase de conception, qui relève de la seule responsabilité de l'État et non du service utilisateur, et qui ne peut par conséquent avoir lieu que sous la supervision d'agents du ministère de l'intérieur. Les utilisateurs qui ne sont pas des services de l'État ont tous souligné que cette exigence a fortement contraint le paramétrage des solutions mises en oeuvre.
La ville de Cannes a ainsi relevé auprès des rapporteures que « Des phases de paramétrage beaucoup plus longues auraient été souhaitables pour optimiser le fonctionnement des algorithmes et diminuer significativement le nombre de fausses alertes, notamment lorsque la manifestation ne dure que quelques heures (ex : NRJ Music Awards ou Marathon) et qu'il n'est pas possible de faire des correctifs en cours d'événement. » et que « la présence d'un représentant de l'État tout au long de cette phase de paramétrage n'apporte aucune plus-value » tandis qu'elle « limite fortement la durée du paramétrage ».
La SNCF a également indiqué, dans son retour d'expérience sur l'expérimentation, que la phase de paramétrage « devrait (...) être simplifiée, en positionnant celle-ci sous la responsabilité directe de l'utilisateur final en lieu et place du ministère de l'intérieur, quitte à la distinguer clairement de la phase d'apprentissage. En effet, les travaux de calibration sont sans impact pour les personnes concernées (aucun signalement transmis aux opérateurs vidéo durant cette période), et la réalisation de ceux-ci uniquement en présence d'un représentant du ministère de l'Intérieur dûment désigné et habilité chez l'utilisateur final nécessite une mobilisation collective complexe, ne permettant pas d'effectuer un paramétrage fin et continu tout au long de la période dédiée. »
2. Malgré des performances très variables selon les cas d'usage, un intérêt des services utilisateurs qui demeure
a) Un intérêt de l'expérimentation limité par une présence accrue des forces de l'ordre sur le terrain lors des jeux Olympiques et Paralympiques
Le recours à la vidéoprotection algorithmique présente un intérêt moindre lorsque les moyens humains sur le terrain sont conséquents, comme ce fut le cas lors de la période olympique, qui a vu une mobilisation exceptionnelle de la police et de la gendarmerie nationales.
Pour mémoire, le nombre d'agents des forces de sécurité intérieure déployés en région parisienne durant des jeux Olympiques s'élevait à 30 000 par jour en moyenne, avec des pics à 45 000, par exemple lors de la cérémonie d'ouverture, auxquels s'ajoutaient les 10 000 militaires de l'opération Sentinelle24(*). Or, eu égard à leur durée, les jeux Olympiques et les jeux Paralympiques ont constitué les deux principaux événements ayant permis le déploiement de l'expérimentation.
La présence renforcée des agents sur la voie publique et dans les transports emporte non seulement des effets dissuasifs, mais permet également de mieux détecter les risques pour la sécurité des personnes, diminuant d'autant l'intérêt de signalements obtenus au moyen de l'intelligence artificielle (IA).
Interrogé par les rapporteures, le préfet de police a en effet pu confirmer que : « le recours à la vidéoprotection algorithmique lors des JOP 2024 présente une plus-value nuancée dans la mesure où le niveau exceptionnel de déploiement des forces de sécurité à cette occasion a très largement permis d'assurer la détection et le signalement rapides des éventuels incidents constatés sur le terrain par les effectifs eux-mêmes ».
Dans son rapport, le comité d'évaluation a quant à lui souligné qu'« en ce qui concerne les tests réalisés par la préfecture de police pendant les épreuves olympiques, il y avait un réel intérêt opérationnel que dans certains contextes particuliers, et notamment lorsque l'étendue de la zone à couvrir ne permettait pas d'assurer une présence humaine suffisante. Il en a été ainsi sur le site de Vaires-sur-Marne, en l'absence de patrouilles positionnées en permanence sur une vaste zone sur une île non habitée à proximité du site des épreuves »25(*).
Ce même constat a par exemple conduit la SNCF, lors des JOP, à faire le choix de ne pas déployer le dispositif dans les deux gares desservant le Stade de France, précisément au motif que celles-ci faisaient déjà l'objet d'une forte mobilisation des forces de de sécurité intérieure.
Gares SNCF concernées par l'expérimentation de la vidéoprotection algorithmique durant les JOP
Source : SNCF, réponse au questionnaire adressé par les rapporteures
b) Une évaluation de la performance qui se heurte à des difficultés d'ordre méthodologique
Comme l'a également relevé le rapport du comité d'évaluation, la bonne appréciation de l'efficacité du dispositif est affectée par la difficulté à élaborer des indicateurs pertinents.
Quatre indicateurs ont majoritairement été utilisés dans ce cadre : « vrai positif » et « vrai négatif » d'une part, qui traduisent le comportement espéré et attendu du dispositif ; « faux positif » et « faux négatif » de l'autre, qui traduisent un comportement erroné (voir tableau ci-dessous).
La SNCF a également utilisé, pour ses évaluations techniques, un indicateur de « précision algorithmique », mesurant le rapport entre le nombre de signalements correspondant à un comportement espéré du dispositif (« vrais positifs ») et le nombre total de signalements effectués.
Indicateurs utilisés pour évaluer l'efficacité du dispositif de vidéoprotection algorithmique
Source : Rapport du comité d'évaluation
Plusieurs difficultés ont été identifiées par le comité d'évaluation pour ce qui concerne l'évaluation de la performance des dispositifs.
En premier lieu, les conditions de mise en oeuvre de l'expérimentation n'ont pas permis de lever les difficultés à mesurer les « faux négatifs » et les « vrais négatifs » ou, en d'autres termes, les cas où une absence de signalement correspondait bien à un comportement espéré du dispositif.
En effet, de telles mesures supposent un travail d'analyse approfondi par un agent humain des images collectées sur une certaine période pour identifier les cas où un signalement aurait été attendu mais ne s'est pas produit.
La SNCF a indiqué aux rapporteures que, dans la définition de sa méthodologie d'expérimentation a justement été conçu un indicateur dit « de rappel », complémentaire de la précision algorithmique, visant à évaluer la capacité de l'algorithme à détecter des situations attendues. Cet indicateur n'a cependant pas pu être mesuré durant les différentes expérimentations car il aurait nécessité la réalisation de situations simulées ou le recoupement avec des faits réels ayant dû être à l'origine de signalements, ce que « les conditions d'expérimentation et les délais contraints n'ont cependant pas permis », selon la SNCF.
D'après les informations transmises aux rapporteures, les autres utilisateurs n'ont pas non plus réalisé ce type de test.
À cet égard, les rapporteures ne peuvent que partager le regret émis par le comité d'évaluation qui, selon son rapport, « aurait souhaité que des agents des opérateurs pratiquent des tests en conditions réelles, en reproduisant des situations donnant lieu à des remontées d'alertes (simulation d'abandon d'objet, de départ de feu, ou d'intrusion, ...), afin d'observer si le traitement algorithmique les détectait ou non »26(*).
En deuxième lieu, la distinction entre « vrais positifs » et « faux positifs » peut s'avérer délicate.
En effet, selon une dichotomie proposée par le comité, il convient de distinguer, d'une part, les « faux positifs techniques », qui correspondent à une erreur de l'algorithme et, d'autre part, les « faux positifs opérationnels », qui correspondent à un fonctionnement correct du dispositif mais qui ne présente pas d'intérêt opérationnel.
Ces « faux positifs opérationnels » peuvent par exemple correspondre à des cas où une personne présente dans une zone interdite au public est un agent habilité à y accéder, ou bien où un objet abandonné ne représente aucun danger (ex : un seau d'entretien abandonné).
Un travail de paramétrage approfondi peut éventuellement permettre de réduire le risque de « faux positifs opérationnels » - par exemple, l'identification par l'algorithme d'un objet abandonné à risque, notamment un bagage.
Pour mieux appréhender cet enjeu dans le cadre de l'évaluation, la SNCF a mis au point un « indicateur d'intérêt opérationnel » rapportant le nombre de signalement pertinents d'un point de vue opérationnel au nombre de signalements traités par les opérateurs en temps réel.
En troisième lieu, les conditions de performance technique du dispositif se sont avérées fortement dépendantes de la qualité du travail de calibration, qui suppose un travail important et itératif entre l'opérateur et le prestataire, quoique devant être effectué dans un cadre contraint, exigeant la présence permanente d'un agent du ministère de l'intérieur (voir supra).
Les données transmises aux rapporteures par la SNCF illustrent bien l'impact de la calibration du dispositif sur la « précision algorithmique », en ce que ce travail permet à la fois de diminuer sensiblement le nombre de signalements d'une part, et le taux de « faux positifs » d'autre part.
Impact de la calibration du dispositif de vidéoprotection algorithmique mis en oeuvre par la SNCF en avril 2024 sur le nombre de signalements opérés
Note : seule la ligne rouge, obtenue par retraitement des signalements opérés par une caméra vandalisée rendue dysfonctionnelle, est pertinente pour opérer des comparaisons
Source : SNCF
Impact de la calibration du dispositif de vidéoprotection algorithmique mis en oeuvre par la SNCF durant les jeux Olympiques dans les emprises de la Gare de Lyon pour les cas d'usage « intrusion », « objet abandonné » et « surdensité »
Source : SNCF
c) Une performance très variable selon les cas d'usage
Comme cela a été exposé supra, l'évaluation des dispositifs expérimentés repose essentiellement sur une solution technologique unique, celle proposée par le prestataire Wintics, ainsi que, dans une moindre mesure, celle proposée par Videtics s'agissant des expérimentations conduites par la commune de Cannes. La performance technique évaluée pour les différents cas d'usage ne préjuge donc pas des résultats qui auraient été obtenus en expérimentant d'autres solutions.
De manière générale, l'expérimentation a mis en évidence une performance très variable des dispositifs selon les cas d'usage pour lesquels ils ont été utilisés. Le comité d'évaluation a distingué quatre situations, que les travaux des rapporteures ont permis de corroborer.
Premièrement, les dispositifs se sont avérés « globalement satisfaisants » pour détecter l'intrusion dans une zone non autorisée, la circulation dans un sens non autorisé et la densité trop importante de personnes.
Les résultats transmis par la SNCF et la RATP, qui ont déployé l'expérimentation sur quatre cas d'usage (« intrusion », « objets délaissés », « surdensité » et « mouvements de foule ») l'attestent clairement.
Les signalements relatifs à des intrusions et à une surdensité représentent 91 % des signalements totaux opérés par le dispositif expérimenté par la RATP durant les jeux Olympiques (respectivement 80 % et 15 % des 2 083 signalements traités). Ils donnent lieu à un taux de « vrais positifs » respectivement de 79 % et 88 %.
De même, les signalements relatifs à des intrusions représentent 57 % des signalements totaux opérés par le dispositif expérimenté par la SNCF (1 552 signalements), avec un taux de « vrais positifs » de 74 %. Les signalements liés à une surdensité sont plus rares (28 signalements), mais donnent lieu à un taux de « vrais positifs » de 100 %.
Répartition selon les cas d'usage des signalements opérés par les dispositifs de vidéoprotection algorithmique expérimentés par la SNCF (toutes expérimentations confondues) - en haut - et par la RATP (durant les jeux Olympiques) - en bas
Source : commission des lois du Sénat, d'après les données du comité d'évaluation et les données transmises par la SNCF
Les données collectées par la préfecture de police durant les jeux Paralympiques et transmises aux rapporteures indiquent également une bonne performance pour détecter une surdensité de foule, qui a représenté une large majorité (93 %) des signalements (431), avec un taux élevé de « vrais positifs » (90 %).
Le cas d'usage relatif aux circulations à contresens, expérimenté par la préfecture de police, a également donné lieu à de bons résultats. Durant les jeux Paralympiques, il a donné lieu à 21 signalements, tous « vrais positifs ».
De même, les résultats du dispositif expérimenté par la commune de Cannes durant le Festival de Cannes de 2024, s'appuyant sur la solution développée par Videtics - à l'inverse de la préfecture de police, de la SNCF et de la RATP qui se sont appuyées sur celle développée par Wintics - ne sont relativement probants que pour les cas relatifs à l'intrusion et à la circulation à contresens. Dans ces deux cas, néanmoins, le taux de « faits probants constatés » (la commune de Cannes n'ayant pas utilisé la terminologie « vrais positifs » / « faux positifs ») parmi ces signalements reste inférieur à 40 %.
Signalements opérés par le dispositif expérimenté par la commune de Cannes durant le Festival de Cannes de 2024
Source : commune de Cannes
Deuxièmement, les performances ont été jugées « incertaines » pour détecter les mouvements de foule, qui ont donné lieu à très peu de signalements :
- deux seulement par la SNCF, dont un seul « vrai positif » ;
- aucun par la RATP durant les JOP ;
- deux par la préfecture de police durant les jeux Paralympiques, tous « vrais positifs ».
La SCNF a présenté aux rapporteures un exemple de « faux positif » lié à un mouvement de foule.
Exemple de signalement « faux positif » lié à un mouvement de foule dans le cadre de l'expérimentation de la vidéoprotection algorithmique par la SNCF
Source : SNCF
Troisièmement, les performances se sont avérées « inégales » pour détecter des objets abandonnés ainsi que pour détecter le port d'armes (testé uniquement par la commune de Cannes).
S'agissant des bagages abandonnés, les données remontées par la SNCF et la RATP ont mis en évidence un nombre important de signalements, mais avec un faible taux de « vrais positifs » :
- 23 % seulement des 1 552 signalements opérés par le dispositif expérimenté par le SNCF ;
- 22 % seulement des 1 302 signalements opérés par le dispositif expérimenté par la RATP lors des JOP.
Exemples de signalements « faux positifs » liés à un objet abandonné dans le cadre de l'expérimentation de la vidéoprotection algorithmique par la SNCF
Source : SNCF
Le comité d'évaluation a fait état d'erreurs importantes pour ce cas d'usage, telles que la confusion entre un objet abandonné et des personnes assises ou statiques, notamment des personnes sans domicile fixe.
S'agissant ensuite de la détection du port d'armes, la portée de l'évaluation est limitée par le fait que ce cas d'usage n'a été expérimenté que par la commune de Cannes. Celle-ci a constaté des progrès au fil des expérimentations menées, avec un accroissement des signalements « vrais positifs », qui ont concerné des armes portées par des militaires de l'opération Sentinelle ainsi qu'une arme factice.
Enfin, les performances ont été jugées « très insatisfaisantes » pour détecter des départs de feu et la présence d'une personne au sol à la suite d'une chute.
Expérimenté par la préfecture de police et par la commune de Cannes uniquement, le cas d'usage relatif à la détection de personnes au sol à la suite d'une chute n'a donné lieu à aucun signalement « vrai positif » ou révélant un « fait probant », selon les terminologies utilisées.
Le cas d'usage relatif aux départs de feu, expérimenté par les mêmes services, a également donné lieu à des erreurs très importantes, l'algorithme ayant tendance, selon le comité d'évaluation, à les assimiler à « des feux de voiture, des gyrophares mais aussi, plus généralement, des enseignes lumineuses et des réverbérations sur la voie publique ou les fontaines lors des levers ou couchers de soleil ».
d) Un intérêt opérationnel qui conduit les acteurs de l'expérimentation à plaider en faveur de la pérennisation du dispositif
In fine, les événements détectés par l'IA n'ont donné lieu qu'à un petit nombre d'interventions sur le terrain.
Une seule intervention de la préfecture de police a directement découlé d'un signalement par le dispositif de vidéoprotection algorithmique, pour un cas d'intrusion sur le site de Vaires-sur-Marne, ce qui ne semble pas dû au hasard puisqu'il s'agit précisément du site identifié par le comité d'évaluation pour lequel « la zone à couvrir ne permettait pas d'assurer une présence humaine suffisante » (voir supra).
La RATP a pour sa part fait état de 62 remontées de signalements au poste de contrôle pour une levée de doute complémentaire, dont « quelques-unes » ont entraîné l'intervention de l'exploitant ou des équipes du groupe de protection et de sécurité des réseaux (GPSR).
La SNCF a recensé sept interventions pour des cas d'intrusion et plus rarement pour des objets abandonnés.
Le comité d'évaluation a ainsi pu conclure que, « de façon générale, le nombre de situations à risque, ayant nécessité des interventions opérationnelles qui n'auraient pas été détectées sans l'IA, apparaît extrêmement faible au regard des moyens financiers déployés ».
Pour autant, le nombre d'interventions ne saurait constituer la seule mesure de l'efficacité du dispositif, qui repose fondamentalement - et indépendamment de la réponse opérationnelle apportée, qui peut en pratique se limiter à une simple levée de doute - sur la qualité des signalements remontés et l'« aide à la décision » qu'ils sont susceptibles de procurer à l'opérateur.
L'indicateur d'« intérêt opérationnel » mis au point par la SNCF (voir supra), a illustré l'utilité opérationnelle du dispositif reposant sur la solution proposée par Wintics pour agir en cas d'intrusion ou de surdensité de personnes (respectivement 57 % et 100 % de signalements considérés comme pertinents). Celle-ci s'est en revanche avérée très faible s'agissant des signalements liés aux objets abandonnés (10 %). Au total, 357 des 1 012 signalements effectivement traités par les opérateurs vidéo de la SNCF au cours des expérimentations ont été jugés pertinents au plan opérationnel, soit un taux d'« intérêt opérationnel » de 35 %.
Intérêt opérationnel des signalements opérés par le dispositif de vidéoprotection algorithmique expérimenté par la SNCF
Source : commission des lois du Sénat, d'après les données transmises par la SNCF
Exemples de signalements dans le cadre d'expérimentations mises en oeuvre par la SNCF ayant donné lieu à des interventions
Source : SNCF
Logiquement, pour une solution technologique donnée, l'intérêt opérationnel d'un cas d'usage s'est avéré corrélé à la performance technique de la solution.
À cet égard, les rapporteures relèvent que l'ensemble des services utilisateurs interrogés plaident pour la pérennisation de ce dispositif ou, a minima, pour une prolongation de l'expérimentation27(*).
3. Une mise en oeuvre globalement conforme au cadre fixé
La mise en oeuvre de l'expérimentation a fait l'objet d'un contrôle vigilant opéré par la CNIL, sur le fondement du X de l'article 10 de la loi JOP.
Ceux-ci ont concerné le ministère de l'intérieur, les prestataires (Wintics et Videtics) ainsi que la RATP et la SNCF.
La CNIL avait procédé au préalable à une visite dans les locaux de la préfecture de police de Paris lors du concert de Dépêche Mode, dans le cadre duquel des premiers tests ont été mis en oeuvre. Les principales vérifications opérationnelles ont ensuite été menées dans le cadre du tournoi de tennis de Roland Garros.
Au total, six contrôles ont été menés au cours d'expérimentations durant les JOP, complétés de trois contrôles a posteriori ou post-JOP.
Ils ont porté sur la conformité des dispositifs au cadre juridique, les modalités d'information du public, l'existence d'une analyse d'impact ainsi que sur les mesures prises pour garantir la sécurité et la confidentialité des données collectées et traitées. Si ces dossiers sont toujours en cours d'instruction, la CNIL a confirmé aux rapporteures que, d'une manière générale, les contrôles ont permis de constater que « les dispositifs mis en oeuvre étaient conformes, dans leur utilisation, aux cas d'usage prévus par la loi ».
Il convient de noter qu'en amont, la CNIL avait conduit un important travail d'accompagnement juridique auprès de Wintics, Videtics et Chapsvision, complémentaire de celui mené par l'Agence nationale de sécurité des systèmes d'information (ANSSI) en matière de cybersécurité. Interrogés sur ce point par les rapporteures, les trois prestataires ont salué l'utilité du rôle joué par la CNIL pour sécuriser juridiquement leurs solutions.
De même, le comité d'évaluation a constaté que les expérimentations mises en oeuvre ont respecté les différentes exigences procédurales, les conditions de fond posées par la loi, ainsi que les exigences de confidentialité des données conservées. Il a également considéré que la conformité du dispositif, par ailleurs soumis aux exigences du règlement général de protection des données28(*) et de la loi « Informatique et libertés »29(*), au nouveau règlement « IA » de l'Union européenne30(*) « paraît pouvoir être admise »31(*).
Le comité a même souligné la prudence des services utilisateurs, relevant que « dans le doute, l'opérateur s'abstenait », ainsi que les « bonnes pratiques » mises en place, tant en matière de confidentialité des données qu'en matière de cybersécurité. Au cours de leurs travaux, les rapporteures ont également pu constater le souci des opérateurs de se conformer strictement au cadre prévu.
Un cas de manquement à la procédure a néanmoins été constaté, la publication de l'arrêté du préfet de police autorisant le traitement pour le début des épreuves olympiques étant intervenue cinq jours après sa mise en oeuvre, alors même que celui-ci avait été signé à temps. La préfecture a regretté ce retard auprès du comité, qui serait dû à un dysfonctionnement interne dans une période de très forte activité.
Dans le cas de l'expérimentation menée à Cannes, le comité d'évaluation a également pointé certaines difficultés lors de la première expérimentation (Festival de Cannes) en ce qui concerne le respect des exigences de confidentialité. Il a par exemple relevé que les agents habilités ne disposaient pas de registres d'activité (logs) personnels, leur attribution n'ayant initialement pas été prévue par le prestataire. Cette difficulté a été corrigée par la suite32(*).
C. UNE EXPÉRIMENTATION À PROLONGER SELON DES MODALITÉS AMÉNAGÉES
1. Les enjeux nouveaux soulevés par la vidéoprotection algorithmique invitent à assumer pleinement et jusqu'au bout la démarche expérimentale
À l'aune de la sensibilité et de la nouveauté des enjeux soulevés par l'utilisation de la vidéoprotection algorithmique, les rapporteures considèrent qu'en la matière, la démarche de l'expérimentation législative doit être assumée pleinement et jusqu'au bout.
Elles considèrent que les résultats de l'expérimentation, dont l'intérêt opérationnel s'avère à ce stade « limité mais réel »33(*) selon les termes du rapport du comité d'évaluation, ne sont pas suffisamment probants pour justifier une pérennisation ou au contraire un abandon, alors même que le dispositif expérimenté « en l'état, ne heurte les libertés publiques ni dans sa conception ni dans sa mise en oeuvre »34(*).
Les rapporteures tiennent à saluer la qualité du rapport d'évaluation qui a été remis au Parlement. Chose rare, l'expérimentation a donc été menée en suivant une méthode véritablement expérimentale, conformément aux objectifs poursuivis par la révision constitutionnelle de 2003, et non pas comme la simple préfiguration d'un dispositif amené à être pérennisé.
Les résultats de l'évaluation comme la sensibilité du sujet justifient le choix d'une approche itérative, faite d'expérimentations successives, d'évaluations et d'interventions du Parlement pour ajuster au mieux l'encadrement du dispositif.
La prolongation de l'expérimentation semble donc bien être la voie à suivre pour respecter pleinement la volonté exprimée par le législateur en 2023 : donner sa chance au dispositif, mais de façon encadrée et en conditionnant toute pérennisation à la démonstration de son efficacité et à l'absence d'atteinte aux libertés publiques.
Proposition n° 1 : Prolonger l'expérimentation de la vidéoprotection algorithmique avant d'envisager toute pérennisation.
2. Des aménagements à prévoir pour exploiter pleinement les potentialités de l'expérimentation, dans le respect de ses principes fondamentaux
Plusieurs aménagements pourraient être opérés afin de pouvoir véritablement évaluer l'intérêt de la vidéoprotection algorithmique : sans remettre en cause les principes fondamentaux de l'expérimentation, ces aménagements devraient permettre d'évaluer un panel plus large de solutions, dans des conditions de mise en oeuvre moins contraintes.
a) Des principes fondamentaux à conforter
Eu égard aux enjeux pour les libertés publiques, les principes fondamentaux de l'expérimentation doivent impérativement être confortés, au premier rang desquels :
- l'interdiction du recours à la biométrie et de la reconnaissance faciale ;
- la « primauté humaine », qui veut que les traitements expérimentés demeurent en permanence sous le contrôle des personnes chargées de leur mise en oeuvre et ne peuvent fonder, par eux-mêmes, aucune décision individuelle et aucun acte de poursuite ;
- la limitation du dispositif à des cas d'usage prédéterminés liés à des risques pour la sécurité des personnes ;
- des exigences strictes en matière de sécurité et de conservation des données ;
- le contrôle par l'État et la CNIL des expérimentations.
b) Des aménagements à envisager
(1) Un déploiement au-delà des seules manifestations sportives, récréatives ou culturelles
Le critère tiré des manifestations sportives, récréatives ou culturelles a été identifié comme un facteur limitant la portée de l'expérimentation, compte tenu notamment de la brièveté de ces manifestations et du fait qu'elles coïncident souvent avec une forte mobilisation des forces de l'ordre.
La fin des jeux Olympiques et Paralympiques et l'absence de manifestations d'une ampleur comparable pendant les deux années à venir conduit également à interroger le maintien de ce critère. La possibilité d'expérimenter les techniques de vidéoprotection algorithmique en dehors de ces manifestations devrait toutefois demeurer rigoureusement encadrée.
Les autres critères prévus par l'article 10 de la loi JOP quant aux circonstances de temps et de lieu seraient inchangés : l'expérimentation ne pourrait avoir lieu que dans des zones clairement délimitées, notamment les emprises de transport public (ainsi que leurs abords et les voies les desservant) ou des lieux de rassemblement ouverts au public, et exposées, par l'ampleur de leur fréquentation ou par des circonstances particulières, à des risques d'actes de terrorisme ou d'atteintes graves à la sécurité des personnes.
À titre d'exemple, si la détection d'intrusion dans les zones les plus sensibles des emprises des opérateurs de transport serait permise, il n'en irait pas de même de la surveillance de l'intérieur des véhicules.
Comme dans le cadre des grandes manifestations, la mise en oeuvre de l'expérimentation reposerait sur une autorisation par arrêté préfectoral donnée pour une durée limitée, et au titre de cas d'usage proportionnés au regard de la finalité poursuivie (condition posée au VII du même article).
(2) Donner plus d'autonomie aux utilisateurs dans le choix et le paramétrage des solutions
Une autonomie accrue des services utilisateurs pour le choix et la calibration des solutions technologiques à expérimenter devrait être recherchée.
Ainsi qu'il a été exposé supra, le monopole conféré à l'État pour le développement et l'acquisition des solutions, s'il résultait d'une prudence de bon aloi s'agissant de technologies nouvelles et qui soulèvent de nombreuses questions en matière de libertés publiques, a constitué une contrainte forte pour les utilisateurs.
Sans remise en cause de cette centralisation, la prolongation de l'expérimentation risquerait, pour des raisons tenant notamment au cadre de la commande publique, d'aboutir au même résultat : la mise en oeuvre d'un nombre trop réduit de solutions pour en tirer un jugement éclairé sur la performance et les enjeux de la vidéoprotection algorithmique.
Si le comité d'évaluation, dans son rapport, expose que, « sur la base de l'expérimentation et des leçons qu'on peut en tirer, la question d'une certaine décentralisation se poserait », ses représentants se sont montrés prudents sur les conditions d'un éventuel desserrement de cette contrainte.
La plus grande latitude laissée aux utilisateurs pour le choix des solutions devrait ainsi s'accompagner d'un encadrement rigoureux : dans l'hypothèse où les services utilisateurs seraient autorisés à choisir directement leurs prestataires, chaque utilisation de ces solutions demeurerait autorisée, pour une durée limitée, par le préfet et subordonnée à la présentation d'une attestation de conformité et d'une analyse d'impact dans les conditions prévues par l'article 10 de la loi JOP. En plus des contrôles qu'elle mènerait a posteriori, la CNIL pourrait également se voir confier la responsabilité de vérifier, avant leur mise en oeuvre, la conformité de ces traitements aux exigences légales et réglementaires.
À tout le moins, dans l'hypothèse où un monopole de l'État serait maintenu, la procédure d'allotissement pourrait être revue de façon à permettre aux services utilisateurs d'expérimenter plusieurs solutions différentes et non, comme c'est le cas aujourd'hui, une seule qui leur est imposée à raison de leur localisation géographique ou du fait qu'ils opèrent dans les transports (voir supra).
L'autonomie des services utilisateurs pourrait également être renforcée dans le cadre de la phase de paramétrage, et en particulier lors de la calibration du dispositif. Cela passe par un assouplissement de l'exigence de supervision permanente d'un agent du ministère de l'intérieur, ce qui permettrait au service et au prestataire de conduire ce travail essentiellement technique dans des conditions facilitées, en lui consacrant tout le temps nécessaire. Une telle évolution serait ainsi de nature à renforcer la performance des solutions expérimentées, et par conséquent à améliorer la proportionnalité du dispositif.
En tout état de cause, le paramétrage devrait continuer de faire l'objet d'une vérification avant l'utilisation opérationnelle de la solution, destinée à garantir que celui-ci respecte le cadre légal et réglementaire applicable.
(3) Pour les communes, ne pas limiter les opérateurs aux seuls policiers municipaux
Une extension des personnes habilitées à accéder aux signalements devrait être envisagée afin d'y inclure les agents des communes qui ne sont pas des policiers municipaux.
L'article 10 de la loi « JOP » ne permet l'utilisation des traitements que par « les services de la police nationale et de la gendarmerie nationale, les services d'incendie et de secours, les services de police municipale et les services internes de sécurité de la SNCF et de la [RATP] ».
Or, ainsi que l'a relevé la ville de Cannes (cf. supra), il s'agit d'une contrainte importante pour les communes dont beaucoup des opérateurs de vidéoprotection ne sont pas des policiers municipaux. Tout en en augmentant le coût, elle diminue fortement l'intérêt opérationnel de l'expérimentation, dès lors que les policiers municipaux ont surtout vocation, lors des grands événements, à en assurer la sécurité sur la voie publique.
Le comité d'évaluation relève qu'il s'agit d'une évolution possible, tout en soulignant que « le procédé en lui-même est susceptible de produire des conséquences pour les libertés. Et la loi a prévu des garanties particulières dans le statut des policiers, qu'ils relèvent de la police ou de la gendarmerie nationales ou des polices municipales, en application de l'article L. 252-2 du code de sécurité intérieure » et que « la qualité administrative et technique des personnels devra être définie soigneusement ».35(*)
Il convient toutefois de souligner que, depuis la loi
n° 2021-646 du 25 mai 2021 pour une sécurité
globale préservant les libertés, l'article L. 132-14-1
du code de la sécurité intérieure (CSI) permet aux agents
territoriaux qui n'appartiennent pas aux cadres d'emplois de la police
municipale de visionner les images de la voie publique issues des dispositifs
de vidéoprotection, « dès lors que ce visionnage
ne nécessite pas de leur part d'actes de police
judiciaire ». Cette faculté est subordonnée
à un agrément délivré par le préfet de
département, après enquête administrative
(article R.
114-2 du CSI).
Dans ces conditions, et sous réserve qu'ils soient en nombre limité, nominativement désignés et dûment formés et habilités, il ne paraît pas y avoir d'obstacle de principe à ce que ces agents accèdent aux signalements. Pour les besoins de l'expérimentation, il pourrait être prévu qu'ils demeurent sous la supervision d'un policier municipal « chef de salle ».
Proposition n° 2 : Sans remettre en cause ses principes fondamentaux et garanties juridiques, prévoir des aménagements pour exploiter pleinement les potentialités de l'expérimentation :
- permettre la mise en oeuvre du dispositif, même en l'absence de grandes manifestations sportives, récréatives ou culturelles, en vue de la surveillance de zones clairement délimitées à l'aune de risques sécuritaires importants, pour des cas d'usage strictement proportionnés ;
- étendre le champ des agents autorisés à accéder aux signalements à des agents communaux n'appartenant pas à la police municipale, à condition que ces agents soient en nombre limité, nominativement désignés, dûment formés et habilités, et restent sous la supervision d'un policier municipal ;
- conférer davantage d'autonomie aux services utilisateurs pour le choix et la calibration des solutions technologiques à expérimenter, dans des conditions qui resteraient rigoureusement encadrées et contrôlées par le ministère de l'intérieur ainsi que la CNIL.
(4) Une extension de la liste des cas d'usage ?
Il appartiendra au pouvoir réglementaire de les déterminer, par la voie d'un décret en Conseil d'État pris après avis de la CNIL, les cas d'usage pour lesquels l'expérimentation pourrait être prolongée, ou le cas échéant lancée.
Si la CNIL juge qu'« aucune pérennisation ne devrait être envisagée pour les cas d'usage dont les résultats n'ont pas montré d'efficacité ou d'intérêt opérationnel »36(*), les rapporteures considèrent qu'il pourrait en aller différemment dans le cadre du scénario proposé de prolongation de l'expérimentation. Celle-ci constituerait en effet l'occasion, soit de perfectionner les solutions connues, soit d'en expérimenter de nouvelles afin de donner une nouvelle chance à certains cas d'usage jusqu'ici peu probants, pour autant qu'un intérêt opérationnel le justifie.
Plusieurs services utilisateurs ont évoqué la piste d'une extension future du dispositif à de nouveaux cas d'usage, qui soulèvent cependant un certain nombre de difficultés.
Il peut s'agir, premièrement, de la détection de rixes ou d'actes violents, qui présentent un intérêt opérationnel évident, mais pose plusieurs problèmes selon la CNIL. Au-delà de la question de la possibilité technique de détecter ce type d'événements - ce qui constitue en soi un élément important pour apprécier la proportionnalité du dispositif de vidéoprotection algorithmique - elle relève que « contrairement à la détection de mouvement de foule, de départ de feu ou de franchissement de zone, ils consistent à identifier des événements reliés au comportement d'une ou d'un nombre limité de personnes et sont donc, par essence, plus intrusifs et susceptibles de porter atteinte aux droits et libertés individuels » et que « cette intrusivité est d'autant plus forte au regard des conséquences possibles pour les personnes (interpellation, poursuites pénales, etc.) ».
Il peut également s'agir de la recherche de personnes, en temps réel ou sur les enregistrements vidéo, par similarités d'apparences (par exemple à partir des vêtements), qui serait limitée aux seuls propriétaires d'objets délaissés, et aux auteurs de crimes ou de délits en flagrance, sans exploitation de données biométriques ou techniques de reconnaissance faciale, et sans lien avec l'identité des personnes concernées.
Sur ce sujet, la CNIL appelle à « la plus grande prudence (...). En effet, le suivi des personnes implique un risque accru d'une surveillance généralisée et pour les droits et libertés fondamentaux des personnes et la préservation de leur anonymat dans l'espace public. À titre accessoire, il peut être noté que l'exclusion de la biométrie (...) n'est pas facile à garantir par conception et de manière systématique pour des systèmes basés sur de l'intelligence artificielle, dont le but est de reconnaître ou de retrouver une personne particulière ». Ainsi, elle considère qu'« au-delà de la reconnaissance faciale, des tests devraient être menés pour vérifier que les systèmes en question ne sont pas en mesure, dans les faits, de reconnaître des caractéristiques, notamment physiques ou comportementales, permettant l'identification unique des personnes »37(*).
Il peut s'agir, enfin, d'actes de vandalisme (sabotage, tags, dégradation de matériels ou mobiliers), voire même d'une extension des cas d'usage au-delà des seuls enjeux de sécurité (gestion des flux, propreté des espaces publics, supervision du stationnement etc.). Sur ce point, eu égard à la sensibilité des enjeux, les rapporteures considèrent que la prolongation de l'expérimentation, selon des modalités aménagées qu'elles appellent de leurs voeux, a vocation à rester centrée sur des finalités liées à la sécurité des personnes.
3. Des garanties à renforcer pour créer les conditions d'un consensus sur l'avenir de l'expérimentation
L'un des objectifs de la prolongation de l'expérimentation serait de créer les conditions d'un consensus sur la suite à donner aux dispositifs testés.
a) Renforcer et harmoniser la formation des agents chargés de son déploiement
En premier lieu, le comité d'évaluation a pointé le caractère insuffisant de la formation des agents habilités à accéder aux signalements. Il s'agit pourtant d'un enjeu important pour permettre aux agents de pleinement s'approprier ces nouveaux outils, de façon à garantir une utilisation des traitements qui soit, d'une part, conforme aux exigences éthiques et juridiques posées par le cadre légal et, d'autre part, pleinement efficace.
Au plan juridique, l'article 15 du décret du 28 août 2023 précité prévoit bien que pour être habilités à accéder aux signalements, les agents des services concernés par l'expérimentation « doivent bénéficier d'une formation en matière de protection des données à caractère personnel adaptée aux missions effectivement confiées ainsi que d'une formation sur le fonctionnement opérationnel et technique du traitement et sa prise en main ».
Le comité d'évaluation38(*) a ainsi relevé :
- d'une part, que dans l'ensemble la formation a été « assez brève sur le plan technique », la prise en main des logiciels s'étant avérée « assez aisée », en dépit de pratiques variables d'un utilisateur à l'autre ;
- d'autre part, qu'hormis la SNCF, les autres utilisateurs n'ont pas intégré de formation spécifique centrée sur les questions éthiques, que le décret n'impose certes pas. En particulier, la préfecture de police a considéré que celles-ci « font partie de la formation de base de tout policier ». Le caractère nouveau des enjeux éthiques soulevés par les technologies concernées aurait pourtant pleinement justifié leur intégration au socle de formation de l'ensemble des agents.
Les rapporteures considèrent donc que le contenu de ces formations, qui conditionnent toute habilitation, doit être renforcé et harmonisé, notamment pour intégrer les enjeux liés aux libertés publiques et à l'éthique.
Proposition n° 3 : Renforcer et harmoniser les formations préalables à l'habilitation des agents chargés de la mise en oeuvre opérationnelle de l'expérimentation.
b) Renforcer significativement l'information des personnes sur la mise en oeuvre de l'expérimentation
Il apparaît également indispensable de renforcer significativement l'information des personnes, point faible de l'expérimentation souligné par le comité d'évaluation.
Le comité d'évaluation fait le constat :
- d'une information sur le dispositif « trop discrète pour garantir sa bonne compréhension » par le public ;
- de l'absence d'organisation de réunions publiques consacrées à l'expérimentation.
Les utilisateurs se sont bien souvent contentés d'utiliser des affichettes de format A3 ou A4, peu lisibles pour les passants.
Ces insuffisantes ont été pointées par la CNCDH et l'association La Quadrature du Net, interrogées par les rapporteures.
La CNCDH a ainsi considéré cette information « très peu lisible voire inaccessible », ce qu'elle juge « d'autant plus problématique que, informés par les médias du déploiement de la vidéosurveillance augmentée dans l'espace public, et alertés régulièrement sur les dérives de la reconnaissance faciale dans des pays totalitaires, la population risque de développer un sentiment de surveillance accrue ».
De même, la Quadrature du Net a constaté que « la disposition et la taille des affiches informatives ne permettaient pas aux personnes concernées de pouvoir facilement les remarquer et lire le texte qu'elles contenaient. En effet, les affiches étaient très petites, placées à des endroits difficilement visibles et le texte était écrit avec une police de caractère dont la taille nécessitait d'être très proche pour pouvoir le lire ». À titre comparatif, elle a observé qu'à l'inverse « les panneaux informant de l'existence de caméras mises en place en application des dispositions [prévues aux articles] L. 251-1 et suivants précitées, du code de la sécurité intérieure sont visibles au premier regard ».
Comparaison des panneaux informant de la présence de caméras de vidéoprotection au titre de l'article L. 251-1 du CSI (à droite) et de la mise en oeuvre de l'expérimentation de la vidéoprotection algorithmique (à gauche) à la station de métro RATP Saint-Denis Porte de Paris
Source : La Quadrature du Net
Ce traitement différencié, paradoxal, explique sans doute le fait, relevé par le comité d'évaluation, que « les remontées du public avaient été particulièrement faibles tout au long de l'expérimentation. Cette constatation se fonde sur le différentiel entre le nombre de demandes, bien plus important, lorsqu'il s'agit de vidéoprotection classique et leur faible taux lors de l'expérimentation »39(*).
À titre d'exemple, la SNCF a reçu onze demandes d'exercice de droits sur la durée totale de l'expérimentation (dont dix demandes de droit d'accès aux enregistrements et une demande d'effacement), et aucune pendant la période olympique.
Les rapporteures considèrent que, dans la perspective d'une prolongation de l'expérimentation, les services utilisateurs devront significativement renforcer leur dispositif d'information des personnes. Cela passe par le recours à des affiches et panneaux plus nombreux, plus lisibles et plus pédagogiques.
L'accès à une information claire constitue un élément essentiel pour créer les conditions d'une meilleure compréhension et d'une plus grande confiance des citoyens vis-à-vis du recours à ces technologies par les autorités publiques, en l'absence desquelles une pérennisation serait fortement problématique.
Proposition n° 4 : Renforcer le dispositif d'information des personnes sur la mise en oeuvre de l'expérimentation.
c) Renforcer et clarifier les conditions d'évaluation du dispositif
Enfin, les conditions d'évaluation du dispositif pourraient encore être renforcées.
En particulier, l'indépendance du comité d'évaluation doit être confortée. En l'état, celle-ci se borne à prévoir l'association de parlementaires à l'évaluation, tandis que l'existence d'un comité ad hoc, présidé par une personnalité indépendante et comportant un collège de personnalités indépendantes (voir I.A., encadré), est prévue par voie réglementaire.
Dans la perspective d'une prolongation de l'expérimentation, les rapporteures considèrent que ces garanties d'indépendance, qui ont fait la force de la présente expérimentation, ont vocation à être posées dans la loi.
Le comité pourrait publier des rapports ou avis intermédiaires, notamment sur la proportionnalité des cas d'usage.
En outre, il conviendrait d'associer tous les acteurs et notamment les utilisateurs à la définition du cadre de mesure de la performance de ces outils.
Les rapporteures ont été étonnées de constater l'absence de méthodologie d'évaluation harmonisée de la mise en oeuvre de l'expérimentation par les utilisateurs. Si la SNCF a mis au point un appareil de mesure de performance satisfaisant doté de nombreux indicateurs (« vrais / faux positifs », « précision algorithmique », « taux de traitement », « intérêt opérationnel »), il n'en va pas de même pour les autres utilisateurs, qui n'ont pas été en mesure de présenter des données consolidées toutes expérimentations confondues. À titre d'exemple, interrogée par les rapporteures sur le nombre de signalements opérés par le dispositif expérimenté et le nombre de faux positifs constatés durant la période des jeux Olympiques, la préfecture de police a indiqué « ne [pas disposer] de cette granularité de données pour la séquence olympique, les forces de l'ordre s'étant insuffisamment approprié l'IA dans cette première phase de déploiement opérationnel ». Une telle réponse témoigne d'une mauvaise appropriation de la démarche expérimentale, qu'il conviendra de corriger dans la perspective d'une éventuelle prolongation.
Le comité pourrait jouer un rôle utile en la matière, en définissant bien en amont avec l'ensemble des utilisateurs une base méthodologique partagée et des indicateurs communs, pour qu'enfin le Parlement puisse se prononcer de façon pleinement éclairée sur l'abandon ou la pérennisation du dispositif.
Proposition n° 5 : Conforter le dispositif d'évaluation de l'expérimentation par un comité ad hoc et dont l'indépendance serait garantie par la loi, qui pourrait publier des avis et rapports intermédiaires. Dans ce cadre, associer davantage et en amont les utilisateurs à la définition des méthodes d'évaluation des techniques expérimentées.
* 19 Avis n° 23-111597 publié au BOAMP le 6 août 2023
* 20 Le rapport du comité d'évaluation le définit comme « l'aptitude à améliorer leurs performances en fonction des données collectées, au fur et à mesure de leur utilisation par les opérateurs » ; cela a pour conséquence que les traitements retenus « ont été certes « entraînés » par le prestataire à identifier certaines situations à risque, mais une fois fournis aux opérateurs et mis en place à des fins opérationnelles, ils ne continuent pas de « s'entraîner ». Leurs performances intrinsèques demeurent donc, à partir de ce moment, inchangées. »
* 21 L'avis d'appel à la concurrence précisait qu'« un soumissionnaire ne peut pas être attributaire de rang 1 sur plusieurs lots géographiques (lot 1 à 3) » ; un même prestataire pouvait se voir attribuer un lot géographique et le lot thématique, ce qui s'est effectivement produit.
* 22 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 14.
* 23 La préfecture de police de Paris a ainsi indiqué aux rapporteures que « l'utilisation de l'IA sur une caméra demande un travail fin de paramétrage préalable pour obtenir un résultat optimal ». La SNCF a constaté que « la phase de calibration est une phase cruciale pour garantir la pertinence des signalements remontés et ainsi garantir une exploitation optimale du dispositif par les agents opérationnels. »
* 24 Audition du Préfet de police par la commission des lois de l'Assemblée nationale, 25 septembre 2024.
* 25 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 65.
* 26 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 48.
* 27 Réponses aux questionnaires adressés par les rapporteures à la préfecture de police, à la SNCF, à la RATP et à la commune de Cannes.
* 28 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données).
* 29 Loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés.
* 30 Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle.
* 31 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 98.
* 32 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 94.
* 33 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 63.
* 34 Idem, p. 92.
* 35 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 108.
* 36 Réponses au questionnaire adressé par les rapporteures.
* 37 Idem.
* 38 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, pp. 44-45.
* 39 Rapport du comité d'évaluation de traitements algorithmiques d'images légalement collectées au moyen de systèmes de vidéoprotection, janvier 2025, p. 87.