AMENDEMENT

I. – Alinéa 4

Rédiger ainsi cet alinéa :

« II. – Un principe de garantie humaine s’applique à ces traitements algorithmiques. La mise en œuvre de ce principe est notamment assurée par le fabricant dans les conditions prévues dans le cadre de la mise sur le marché du traitement algorithmique.

II. – Alinéa 5, dernière phrase

Supprimer cette phrase.

Toutes les obligations liées à la conception d’un traitement algorithmique utilisé à des fins médicales sont édictées par la réglementation européenne, et plus particulièrement par le règlement européen 2017/745 relatif aux dispositifs médicaux, applicable en mai 2021. Prévoir au niveau national des dispositions spécifiques liées à la « la traçabilité par le fabricant des actions d’un traitement algorithmique et des données ayant été utilisées par celui-ci et les informations qui en résultent » viendrait se superposer, voire outrepasser, le cadre européen harmonisé.

Par ailleurs il n’est pas possible techniquement que le fabricant lui-même garde la traçabilité de tous les traitements réalisés par les professionnels de santé avec son algorithme et d’autre part cela pose des questions de protection des données de santé

Enfin le règlement européen 2017/745 prévoit d’ailleurs déjà des dispositions spécifiques à la transparence du fonctionnement de dispositifs médicaux intégrant des algorithmes d’intelligence artificielle au travers notamment de la gestion des risques et l’aptitude à l’utilisation des professionnels de santé à qui ces algorithmes sont destinés.

Conformément à l’exposé des motifs de la loi[1], le présent amendement vise ainsi à rappeler l’étape de garantie humaine qui est par ailleurs prévu dans le cadre de la mise sur le marché de ces traitements algorithmiques.

En conséquence la dernière phrase du paragraphe III n’est plus nécessaire.

[1] L’article 11 vise à sécuriser la bonne information du patient lorsqu’un traitement algorithmique de données massives (« intelligence artificielle ») est utilisé à l’occasion d’un acte de soins. Il décline également la garantie d’une intervention humaine.