Temps d'échanges
Dominique Vérien, présidente de la Délégation aux droits des femmes et à l'égalité des chances entre les hommes et les femmes. - Merci beaucoup. Ne risquons-nous pas, demain, d'être confrontés à des IA à deux vitesses ? Certaines entreprises auront mis les moyens pour que leur intelligence artificielle soit éthique, et d'autres non. Comment pourrons-nous faire le tri ? Les moins éthiques n'offriront-elles pas des solutions plus abordables, leur permettant de gagner du terrain ?
Tanya Perelmuter. - Très peu d'acteurs sont en train de développer des IA génératives. Ils sont majoritairement implantés aux États-Unis. Ces outils demandent beaucoup de moyens pour bâtir les infrastructures et réaliser les calculs nécessaires. Ce n'est pas à la portée de tout le monde. Deux entreprises travaillent sur le sujet en France. Les algorithmes développés aux États-Unis sont très peu transparents. Nous n'avons que peu de visibilité sur leur apprentissage. Cette question est donc tout à fait légitime.
Jessica Hoffmann. - J'ajoute qu'à ce jour, les LLM sont en open source, c'est-à-dire que leur code est accessible à tout le monde. Ces modèles ne sont pas forcément aussi performants que les meilleurs modèles d'autres entreprises, mais ils sont tout de même très satisfaisants, en plus d'être gratuits.
Marine Rabeyrin. - Vous avez tout à fait raison, Madame Vérien, d'où l'intérêt d'outiller tout un chacun d'un savoir fondamental sur le sujet. Nous devons inciter à plus de curiosité pour comprendre comment ces IA ont été développées et identifier une éventuelle démarche éthique de l'entreprise. Il est important de se montrer curieux.
Laure Lucchesi, spécialiste des politiques publiques du numérique, ex-directrice d'Etalab. - L'Europe s'est dotée d'un certain nombre d'obligations nouvelles, que le modèle soit en open source ou non, notamment en termes de transparence sur les données d'entraînement ou de documentation technique. Cela est déjà une façon de fournir un certain nombre d'éléments sur les modèles.
Des initiatives de ratification ou de labellisation de certains systèmes d'IA ont été lancées dans une démarche responsable et éthique. Cela est peut-être une piste pour offrir des garanties en la matière.
Pierre Henriet, député, premier vice-président de l'Opecst. - J'aimerais revenir sur la question initiale qui nous est posée, à savoir l'IA est-elle sexiste ? Vous avez répondu par l'affirmative, de manière très succincte. Pour autant, vous avez toutes et tous évoqué le fait que l'IA est d'abord un processus de création humaine. Je me demande donc si c'est vraiment l'IA qui est sexiste, ou si ce sont les programmateurs. Cette question est un peu provocante, mais j'aimerais savoir où, selon vous, se situe le processus de création du sexisme dans la fabrication des programmes d'intelligence artificielle.
Hélène Deckx van Ruys. - L'intelligence artificielle est sexiste, parce que les modèles sont programmés à 88 % par des hommes qui, inconsciemment ou non, reproduisent leurs biais. Nous pouvons pallier cette difficulté par le biais de formations, mais aussi en posant un cadre éthique sur la vérification de chaque étape de la construction des algorithmes.
Jessica Hoffmann. - L'intelligence artificielle reflète la société. Si cette dernière est historiquement sexiste, l'IA le sera. Nous mettons tout de même en place certaines actions pour qu'elle le soit moins, notamment en matière de diversité des équipes. En revanche, le fait que les créateurs aient déjà des biais accentue le problème. Ce n'est pas l'un ou l'autre, mais un tout.
Hélène Deckx van Ruys. - Nous avons oublié de dire que ce sont des outils auto-apprenants. Ils se nourrissent de ce qu'on leur inculque. Il y a quelques semaines, Sales Force a sorti une publicité formidable sur les algorithmes, qui pose la question suivante : si les algorithmes sont d'excellents élèves, qui sont leurs professeurs ?
Elyes Jouini. - Des programmateurs vont développer les outils, mais n'oublions pas les utilisateurs. Si vous n'êtes pas choqué par le résultat produit - si vous ne vous posez pas de question lorsque votre outil d'aide aux ressources humaines ne recrute que des hommes blancs, par exemple -, le constat ne pourra que perdurer. En revanche, si vous re-paramétrez votre outil en disant « je voudrais un peu plus de diversité, je voudrais un peu plus de ceci ou de cela », vous pourrez corriger le tir.
J'ai l'impression qu'il est très difficile de prouver qu'un directeur des ressources humaines est biaisé dans sa sélection, parce que vous ne disposez que des données des recrutements qu'il a réalisés, qui ne sont pas pléthoriques. Vous pouvez en revanche tester une intelligence artificielle en lui demandant de trier 2 000 CV. Elle sera peut-être aussi biaisée que nous, mais on peut le démontrer plus facilement.
Tanya Perelmuter. - L'intelligence artificielle est un reflet de notre société. Elle peut nous permettre d'identifier nos propres biais.
Marine Rabeyrin. - Nous avons évoqué la difficulté à recruter des femmes, parce que le vivier de scientifiques féminines est moindre. On observe également un phénomène de désertion des femmes une fois qu'elles ont embrassé une carrière scientifique. Elles quittent le secteur après une dizaine d'années, parce qu'elles évoluent dans un contexte au sein duquel elles peuvent être victimes de sexisme ordinaire, ou non ordinaire d'ailleurs.
J'aimerais insister sur le rôle très important que revêtent les entreprises dans le fait de favoriser une atmosphère de travail respectueuse, non sexiste et qui permette à chacun de s'exprimer. J'y vois un rôle des réseaux dans les entreprises. Le Cercle InterElles agit en ce sens, en faisant en sorte d'équiper les entreprises de moyens leur permettant de favoriser une atmosphère de travail stimulante pour toutes et tous.
Patrick Chaize, sénateur de l'Ain. - Merci pour ces interventions. Les travaux en cours de l'Opecst ont été évoqués un peu plus tôt. Nous nous penchons sur les nouveaux développements de l'intelligence artificielle. À ce stade, nous avons déjà rencontré une vingtaine de chercheurs et d'acteurs majeurs du domaine. Nous sommes très attentifs aux témoignages de femmes. Nos auditions démontrent d'ailleurs qu'elles ont beaucoup à dire sur le monde de la Tech. Nous devons en déduire, je pense, qu'il faut les écouter davantage.
Que préconiseriez-vous pour faire en sorte que les constats que nous tirons évoluent ?
Tanya Perelmuter. - Il faut peut-être retourner la question, car la réponse est politique. La société doit comprendre ce qu'il se passe pour agir.
Dominique Vérien, présidente de la Délégation aux droits des femmes et à l'égalité des chances entre les hommes et les femmes. - C'est l'une des raisons pour lesquelles nous organisons cette table ronde qui est filmée et enregistrée. Nous pourrons la diffuser très largement.
Stéphane Piednoir, président de l'Opecst. - Si vous n'avez plus de questions sur le sujet de cette deuxième table ronde, je vous remercie et vous propose d'en venir au troisième et dernier volet de cette matinée.