AMENDEMENT

Compléter l’alinéa 1 par une phrase ainsi rédigée :

Cette expérimentation ne saurait en aucun cas préjuger d’une pérennisation de ces traitements.

Le présent article crée, à titre expérimental et pour une durée limitée jusqu’au 30 juin 2025, un cadre juridique nouveau de traitement des images issues de la vidéoprotection ou de caméras installées sur des aéronefs par des systèmes d’intelligence artificielle. Tant le Conseil d’Etat, dans son avis du 15 décembre 2022, que la CNIL, dans son avis du 8 décembre 2022, ont émis des réserves sur l’utilisation de ces outils d’analyse automatisée. 

Ces derniers “ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs vidéo, pouvant entraîner des risques importants pour les libertés individuelles et collectives et un risque de surveillance et d’analyse dans l’espace public”.

La CNIL a ainsi appelé à une réflexion globale et éthique  sur l'usage de ces instruments, et sur l’importance de se prémunir de tout phénomène d’accoutumance et de banalisation de ces technologies de plus en plus intrusives. Les traitements algorithmiques peuvent également présenter des taux d’erreur importants, rendant le recours à ces technologies moins efficace en conditions opérationnelles qu’une détection humaine.

De plus, l’utilisation de systèmes d’intelligence artificielle est, aujourd’hui, dépourvue de cadre légal propre, dans le droit national comme dans le droit de l’Union européenne, une proposition de Règlement européen sur les systèmes d’intelligence artificielle étant en cours d’élaboration. Les auteurs du présent amendement demande donc, par crainte d’une éventuelle pérennisation de ces systèmes et dans l’attente d’une actualisation de la réglementation européenne, d’inscrire expressément dans la loi que l’expérimentation de ce nouveau traitement ne laisse pas préjuger d’une éventuelle pérennisation.