Multiplication des fraudes financières s'appuyant sur l'intelligence artificielle générative

Question de M. Hervé Maurey (Eure - UC) publiée le 20/06/2024

M. Hervé Maurey attire l'attention de Mme la secrétaire d'État auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargée du numérique sur la multiplication des fraudes financières s'appuyant sur l'intelligence artificielle (IA) générative.
Selon un rapport d'une grande entreprise d'identification numérique, les techniques de fraude financière s'appuyant sur l'intelligence artificielle générative ont rapidement évolué au cours des trois dernières années.
Si, en 2021, l'IA était utilisée pour contrefaire des pièces d'identité, elle est désormais largement employée à la création de « deepfakes » - ces hypertrucages audiovisuels produits par des outils d'IA - (dans 6,5 % des cas de fraude) et des plans d'extorsion de fonds s'appuyant sur la menace de divulgation d'informations personnelles de particuliers. Les deepfakes seraient souvent utilisés pour contrefaire des pièces d'identité électroniques afin de tromper des établissements bancaires, des entreprises des nouvelles technologies (fintech) et des grandes entreprises. Selon ce rapport, près de 42 % des fraudes identifiées s'appuient sur l'IA générative et ces fraudes fonctionneraient dans près d'un tiers des cas.
À la lumière de ce rapport, il souhaite connaître les mesures que compte prendre le Gouvernement afin de protéger les particuliers et les entreprises des nouvelles techniques de fraude financière permises par l'intelligence artificielle générative.

Publiée dans le JO Sénat du 20/06/2024 - page 2883

En attente de réponse du Secrétariat d'État auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargé du numérique