L'intelligence artificielle générative et les métiers du droit : agir plutôt que subir

Rapports d'information

Rapport d'information n° 216 (2024-2025), déposé le

N° 216

SÉNAT

SESSION ORDINAIRE DE 2024-2025

Enregistré à la Présidence du Sénat le 18 décembre 2024

RAPPORT D'INFORMATION

FAIT

au nom de la commission des lois constitutionnelles, de législation, du suffrage universel, du Règlement et d'administration générale (1) sur l'intelligence artificielle et les professions du droit,

Par M. Christophe-André FRASSA et Mme Marie-Pierre de LA GONTRIE,

Sénateur et Sénatrice

(1) Cette commission est composée de : Mme Muriel Jourda, présidente ; M. Christophe-André Frassa, Mme Marie-Pierre de La Gontrie, MM. Marc-Philippe Daubresse, Jérôme Durain, Mmes Isabelle Florennes, Patricia Schillinger, Cécile Cukierman, MM. Dany Wattebled, Guy Benarroche, Michel Masset, vice-présidents ; M. André Reichardt, Mmes Marie Mercier, Jacqueline Eustache-Brinio, M. Olivier Bitz, secrétaires ; MM. Jean-Michel Arnaud, Philippe Bas, Mme Nadine Bellurot, MM. François Bonhomme, Hussein Bourgi, Mme Sophie Briante Guillemont, MM. Ian Brossat, Christophe Chaillou, Mathieu Darnaud, Mmes Catherine Di Folco, Françoise Dumont, Laurence Harribey, Lauriane Josende, MM. Éric Kerrouche, Henri Leroy, Stéphane Le Rudulier, Mme Audrey Linkenheld, MM. Alain Marc, Hervé Marseille, Mme Corinne Narassiguin, MM. Georges Naturel, Paul Toussaint Parigi, Mmes Anne-Sophie Patru, Salama Ramia, M. Hervé Reynaud, Mme Olivia Richard, MM. Teva Rohfritsch, Pierre-Alain Roiron, Mme Elsa Schalck, M. Francis Szpiner, Mmes Lana Tetuanui, Dominique Vérien, M. Louis Vogel, Mme Mélanie Vogel.

L'ESSENTIEL

Apparue seulement à la fin de l'année 2022, l'intelligence artificielle générative, a déjà commencé à transformer profondément notre perception des outils technologiques, ceux-ci imitant de mieux en mieux la pensée humaine. Les métiers du droit, qu'il s'agisse de la magistrature administrative et judiciaire, des personnels des juridictions, des professions réglementés ou des juristes d'entreprise, apparaissent particulièrement concernés par ces bouleversements, tant cette nouvelle technologie pourrait affecter leurs méthodes de travail ainsi que leurs relations avec les justiciables.

En effet, l'intelligence artificielle générative augure des opportunités en termes de gains de temps, de productivité, d'amélioration de l'accès au droit et de prévisibilité de la justice. L'adaptation rapide des entreprises de la legaltech et des éditeurs juridiques en témoigne.

Les professionnels du droit doivent donc s'adapter au développement des outils d'intelligence artificielle générative, dans le respect de leurs principes déontologiques et du cadre réglementaire français et européen. Les rapporteurs ont toutefois constaté le décalage technologique croissant entre les professions réglementées, qui se saisissent déjà de ces outils et élaborent des codes de bonnes pratiques spécifiques à cette technologie pour limiter les risques que son emploi engendre, et les magistrats et personnels en juridiction, qui souffrent d'un sous-investissement majeur et pérenne dans leur équipement informatique et numérique auquel il est urgent de remédier.

La bonne diffusion de cette technologie dans le secteur juridique exige, pour qu'elle soit vertueuse, d'assurer l'adaptation de la formation initiale et continue des professionnels du droit. Les logiciels d'intelligence artificielle générative ont en effet vocation à être utilisés par les professionnels du droit eux-mêmes - et leur fonctionnement suppose des compétences qui limitent tant les risques d'hallucination que la méconnaissance de la réglementation applicable et des principes déontologiques des métiers concernés.

Ainsi, derrière les enjeux économiques, déontologiques, professionnels et matériels que soulève le déploiement de l'intelligence artificielle générative dans le domaine du droit, c'est la vision de la justice de demain et d'après-demain qu'il convient de caractériser.

Pour ce faire, et en ayant pour préoccupation première l'intérêt du justiciable et l'amélioration du service public de la justice, la commission a, à l'initiative de ses rapporteurs, Christophe-André Frassa et Marie-Pierre de la Gontrie, formulé 20 propositions.

I. LE DROIT, UN DOMAINE PERMÉABLE AUX OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE QUI A VU ÉCLORE UNE OFFRE ÉCONOMIQUE DYNAMIQUE

A. LE DROIT SE LAISSE FACILEMENT APPRÉHENDER PAR L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

Par sa capacité à imiter - à première vue - la pensée humaine, l'intelligence artificielle générative a rapidement trouvé une application dans le domaine du droit. Grâce, notamment, à sa capacité de contextualisation du sens d'un mot, elle permet en effet de surmonter la difficulté, qui paraissait infranchissable, de maîtrise du langage naturel. Or, le droit repose sur un raisonnement certes rationnel, le fameux syllogisme juridique, mais qui n'est pas fondé sur des modèles quantifiables, c'est-à-dire qui pourraient être traduits en langage mathématique, puisqu'il faut, avant de trouver une solution, savoir qualifier juridiquement une situation pour déterminer le problème de droit y afférent. L'intelligence artificielle générative, si elle est adossée à un panel de données suffisamment large et qualitatif, peut alors imiter le raisonnement du juriste en établissant des modèles statistiques à partir de sa base de données, dans une logique d'analyse des précédents.

Le domaine du droit est donc perméable à ces outils d'intelligence artificielle générative, de nombreuses tâches effectuées par les juristes pouvant, nonobstant une qualité encore inégale, être appréhendées par ces modèles, telles que la recherche juridique, la synthèse documentaire ou encore la rédaction de documents standardisés.

Toutefois, dans la mesure où l'intelligence artificielle générative est fondée sur un modèle probabiliste, elle maîtrise le langage pour être en mesure de produire un contenu, mais ne le comprend pas pour autant. Cela signifie qu'elle n'est pas en mesure d'évaluer la pertinence de sa propre réponse et donc que sa fiabilité n'est pas garantie. Tout utilisateur, et en particulier un professionnel du droit, doit donc être conscient des limites de ces outils : le risque d'hallucinations, les biais de conception, l'obsolescence des données sur lesquelles repose le modèle, l'inconstance des réponses données à des questions pourtant identiques ou encore les risques liés à la confidentialité des données, personnelles ou sensibles.

B. UNE OPPORTUNITÉ ÉCONOMIQUE POUR LES ÉDITEURS JUDIQUES ET LES ENTREPRISES DE LA LEGALTECH

Le développement de l'intelligence artificielle générative a représenté un considérable coup d'accélérateur pour le secteur du numérique appliqué au droit, la célérité avec laquelle les éditeurs juridiques et les entreprises de la legaltech ont investi pour intégrer à leurs offres l'intelligence artificielle générative méritant d'être soulignée. De premiers services reposant sur l'intelligence artificielle générative ont en effet été commercialisés par des entreprises de la legaltech dès le milieu de l'année 2023, soit moins d'un an après l'ouverture au grand public de ChatGPT. Désormais, et alors qu'une consolidation du secteur semble s'engager, au moins une trentaine d'entreprises proposent de tels services, plaçant la France parmi les pays européens les plus dynamiques en la matière. En parallèle, les principaux éditeurs juridiques français ont lancé dans le courant de l'année 2024 des services similaires, adossés à leur fonds documentaire.

C. L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE PARTICIPE DE L'OBJECTIF D'INTELLIGIBILITÉ ET D'ACCESSIBILITÉ DU DROIT MAIS NE DOIT PAS ÊTRE ASSIMILÉE À UNE CONSULTATION JURIDIQUE

De la même manière que la naissance des moteurs de recherche sur internet a facilité l'accès à l'information juridique, et parce qu'elle permet de répondre dans des termes - relativement - simples à une question posée en langage naturel, l'intelligence artificielle générative appliquée au droit constitue indubitablement une avancée majeure en termes d'accessibilité et d'intelligibilité du droit, deux principes à valeur constitutionnelle1(*). À ce titre, en parallèle des offres privées des entreprises de la legaltech et des éditeurs juridiques, le service public de l'information légale, qui repose notamment sur le site Légifrance, pourrait profiter des avancées que permet l'intelligence artificielle générative pour affiner son moteur de recherche afin que l'utilisateur puisse formuler des questions en langage naturel2(*).

Si le risque « d'autojuridication » qu'a pu faire craindre le déploiement de l'intelligence artificielle générative paraît pouvoir être écarté en raison des limites inhérentes de ces modèles et de la plus-value que représentent l'analyse et l'expertise humaines du professionnel du droit ainsi que les temps d'échanges personnalisés, une vigilance particulière demeure quant au respect du périmètre d'activité des professionnels du droit, à savoir donner une consultation juridique. Or, des intitulés ambigus « d'aide ou d'assistance juridique », utilisés par certaines plateformes, pourraient prêter à confusion un public non averti et laisser entendre que la consultation d'un professionnel n'est pas nécessaire. L'inscription dans la loi d'une définition de la consultation juridique, dans un double objectif de lisibilité du droit et de sécurité juridique, apparaît ainsi opportune.

II. UNE TRANSFORMATION INEXORABLE MAIS HÉTÉROGÈNE DES MÉTIERS DU DROIT ENTRAÎNÉE PAR LE DÉPLOIEMENT DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

A LES PROFESSIONS RÉGLEMENTÉES ET LES JURISTES D'ENTREPRISE : UNE ADOPTION RAPIDE DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE QUI DOIT MAINTENIR AU COEUR DE LEUR PRATIQUE PROFESSIONNELLE L'INTÉRÊT DU JUSTICIABLE ET LA QUALITÉ DU DROIT

1. L'adoption croissante de l'intelligence artificielle générative transforme les métiers du droit en promettant de dégager davantage de temps aux tâches à haute valeur ajoutée

Les outils d'intelligence artificielle générative appliquée au droit, s'ils sont convenablement utilisés, représentent une opportunité intellectuelle indéniable pour les professions réglementées du droit et les juristes d'entreprise. En ce sens, ils sont vecteurs d'une transformation de ces métiers, non pas tant sur la structure des emplois, que sur leur nature. Par les gains de temps et de productivité qu'elle laisse espérer, l'intelligence artificielle générative permettrait en effet à ces professions de se concentrer sur les tâches à haute valeur ajoutée, illustrant alors davantage leur plus-value, l'analyse du juriste étant mieux distinguée de la simple recherche juridique.

En l'état de son développement, l'intelligence artificielle générative offre en effet une aide pour trois grandes catégories de tâches : la recherche, l'analyse d'un corpus de données ou de documents (et non d'une situation) et la rédaction de contenus simples.

Grâce à ces gains de temps, l'intelligence artificielle générative serait vectrice de transformation des métiers du droit, venant modifier profondément la relation entre le professionnel et son client, sur trois points :

- elle permettrait de personnaliser davantage les services apportés par le professionnel du droit à son client ;

- elle permettrait au professionnel de se consacrer davantage aux interactions humaines. À mesure que les divers progrès technologiques accroîtront la dématérialisation de nombreuses procédures, l'accompagnement et les explications orales que formuleront les professionnels en complément des réponses de l'outil d'intelligence artificielle générative constitueront une part de plus en plus importante de la plus-value du professionnel du droit, et donc la justification de ses honoraires ;

- enfin, l'intelligence artificielle générative modifiera vraisemblablement les attentes du client. Il est en effet probable qu'il sera attendu du professionnel du droit une expertise plus poussée, qui risque peut-être de remettre en question le modèle des cabinets d'avocats généralistes, mais, inversement, qui justifie à nouveau la plus-value intellectuelle du recours au professionnel. Si les outils d'intelligence artificielle génératives peuvent donc, à première vue, faciliter le travail des professionnels du droit, ils ne constituent pas pour autant un nivellement par le bas si les exigences sont accrues à mesure des progrès de la technologie.

Ces promesses de gains de temps et de productivité portées par les outils d'intelligence artificielle générative ont trouvé un écho favorable auprès des professions réglementées du droit et des juristes d'entreprise, qui y semblent plus sensibles que la magistrature3(*).

Depuis que les entreprises de la legaltech et les éditeurs juridiques proposent des services reposant sur l'intelligence artificielle générative, donc en l'espace de moins de dix-huit mois, les professions juridiques du secteur privé ont commencé à adopter ces outils dans des proportions difficilement chiffrables avec précision, mais qui semblent significatives, en particulier au sein de la profession d'avocat. Cette adoption croissante reste toutefois accompagnée de prudence, les professionnels interrogés ayant conscience des limites de ces outils quant à leur fiabilité.

2. Malgré la perméabilité des tâches juridiques aux outils d'intelligence artificielle générative, l'expertise humaine reste fondamentale dans le domaine du droit, ce qui devrait limiter les craintes sur l'emploi aux fonctions d'assistance

Comme c'est régulièrement le cas après chaque avancée technologique majeure, le développement de l'intelligence artificielle générative a fait craindre, dès l'automne 2022, une disparition des professions du droit ou, a minima, une forte réduction de leurs effectifs face à la concurrence que représentent ces outils. Ces inquiétudes, bien évidemment compréhensibles au regard des nouveautés portées par l'intelligence artificielle générative, semblent toutefois pouvoir être nuancées.

Les conséquences de l'intelligence artificielle générative sur l'effectif des professions juridiques stricto sensu devraient en effet être marginales, vu l'optimisme dont a fait preuve à ce sujet l'ensemble des personnes auditionnées par les rapporteurs. Cet optimisme s'explique par plusieurs raisons. En premier lieu, l'intelligence artificielle générative étant fondée sur un modèle probabiliste, le risque d'erreur demeure élevé, ce qui justifie l'expertise du professionnel du droit. Elle est par ailleurs incapable de faire preuve de créativité ou, du moins, d'intelligence émotionnelle, indispensable dans le domaine de la justice. L'intelligence artificielle générative ne pourra pas non plus remplacer l'humain dans toutes les procédures qui nécessitent des interactions interpersonnelles lesquelles, malgré la place croissante qu'occupe le numérique dans la société, demeurent centrales. Enfin, le droit actuel protège certaines professions juridiques dans le sens où il prévoit un monopole sur certaines tâches, qui ne pourront donc pas être effectuées par des services numériques d'intelligence artificielle générative, notamment en ce qui concerne la réalisation d'une consultation juridique.

Au surplus, il n'est pas exclu que l'intelligence artificielle générative ait pour conséquence, non pas de décharger les professions du droit, mais, en facilitant l'accès à l'information juridique, d'accroître la judiciarisation de la société et donc l'activité juridictionnelle.

Si les métiers du droit au sens strict semblent pouvoir s'adapter suffisamment aux transformations induites par l'intelligence artificielle générative pour que les craintes sur l'emploi soient mineures, une réduction des emplois au sens plus large, en incluant les tâches d'assistance, est davantage probable. Il conviendra alors de redéfinir ces fonctions, notamment en favorisant une montée en compétences, par exemple en confiant aux intéressés des tâches de vérification des résultats issus de l'intelligence artificielle générative.

3. Plus que les risques sur l'emploi, l'enjeu principal de l'intelligence artificielle générative appliquée au droit repose sur son bon usage

L'intelligence artificielle générative présente des limites de nature technique - la principale étant l'existence d'hallucinations. Elle peut en outre induire des risques dans la pratique professionnelle des acteurs du droit et dans l'exercice de la justice :

- un risque de fracture au sein des professions, pouvant entraîner une inégalité des parties devant la justice. Les outils spécialisés dans le droit sont en effet tous payants, les prix oscillant entre 50 et 200 € par mois et par utilisateur, en fonction de la qualité du fonds documentaire sur lequel l'outil est adossé. Leur accessibilité n'est donc pas garantie à tous les professionnels. C'est pourquoi le barreau de Paris a noué un partenariat, rendu effectif en octobre 2024, avec Lefebvre-Dalloz afin de prendre à sa charge l'accès à GenIA-L pour tous les cabinets de son ressort constitués d'un ou deux avocats, ce qui représente approximativement 13 000 avocats. Une généralisation de cette initiative par tous les barreaux pourrait être opportune ;

- un risque de mésusage au regard des obligations réglementaires et des principes déontologiques, qui justifie l'établissement de règles claires au sein de chaque profession. Si les règles en vigueur et les principes déontologiques propres à chaque profession sont, en l'état, suffisants et n'ont pas besoin d'être redéfinis car ils peuvent s'appliquer à l'intelligence artificielle générative, il convient toutefois, d'une part, de rappeler explicitement que ces principes demeurent pertinents et, d'autre part, de préciser par des exemples de cas d'usage et de bonnes pratiques quel sens ils prennent dans ce nouveau contexte. Ce travail, déjà initié par une partie des ordres professionnels, pourrait prendre la forme de guides de bonnes pratiques ou de chartes éthiques. Une attention particulière devra notamment être portée au respect du cadre réglementaire et disciplinaire lié à la protection et à la confidentialité des données personnelles ou sensibles, et à l'importance de la vérification systématique des résultats obtenus par un outil d'intelligence artificielle générative.

B LES MAGISTRATS, GREFFIERS ET AUTRES PROFESSIONNELS DES JURIDICTIONS : AU-DELÀ DU REFUS THÉORIQUE D'UNE JUSTICE DÉSHUMANISÉE, LE BESOIN PRATIQUE D'UN RATTRAPAGE NUMÉRIQUE

1. Le retard numérique significatif qui caractérise les juridictions les empêche d'embrasser l'évolution technologique majeure que représente l'intelligence artificielle générative

Il apparaît ainsi impérieux d'améliorer l'équipement informatique des autorités juridictionnelles et les applicatifs sur lesquels reposent leurs travaux. La Chancellerie doit à ce titre veiller à la poursuite de son second plan de transformation numérique. La situation détériorée de l'environnement numérique de travail juridictionnel accentue en effet le décalage conséquent qui s'installe en matière d'intelligence artificielle générative entre les professions juridictionnelles et les autres métiers du droit. Les rapporteurs recommandent donc vivement d'achever le rattrapage numérique des juridictions, spécialement judiciaires.

Cette différence de situation pourrait en outre entraîner des conséquences défavorables pour l'exercice de la fonction juridictionnelle. Les autorités juridictionnelles anticipent par exemple une nouvelle augmentation des entrées contentieuses, de la complexité et du volume des écrits, telle qu'elle fut déjà observée lors de la numérisation des procédures. Elles jugent cependant mesurés les risques qui résulteraient d'un phénomène d'autojuridication, car le coût des logiciels spécialisés s'avère largement prohibitif et la loi rend souvent obligatoire le ministère d'avocat.

2. Si le travail juridictionnel intègre déjà des logiciels d'intelligence artificielle non générative, aucun outil d'intelligence artificielle générative n'a encore été mis à disposition des agents en juridiction

Outre leur retard en matière numérique, les autorités juridictionnelles sont soumises à des dispositions spécifiques, qui contraignent largement leur usage de ces logiciels - qu'il s'agisse de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, dite « Informatique et libertés », du règlement (UE) 2016/679 du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données (RGPD) ou du règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle (RIA).

Les juridictions administratives et judiciaires se sont donc attachées à l'identification des cas d'usage potentiels de l'intelligence artificielle générative et s'apprêtent désormais à développer, en interne, des logiciels adossés à cette technologie. Le ministère de la justice devrait ainsi engager le développement d'un outil d'intelligence artificielle générative susceptible de retranscrire les propos tenus en audience et, à terme, le cas échéant, de les traduire. Les autres cas d'usage envisagés, tant par les juges administratifs que judiciaires, sont la synthèse de documents et l'aide à la recherche. Le Conseil d'État souhaiterait en outre qu'un logiciel d'intelligence artificielle générative permette d'identifier les séries comme les contentieux répétitifs. Les rapporteurs préconisent de nommer un ou plusieurs référents en matière d'intelligence artificielle au sein de chaque juridiction, pour assurer un suivi du développement de cette technologie.

3. Un consensus sur la nécessité de préserver le caractère humain de la décision de justice, ce que garantit dans une large mesure le cadre réglementaire actuel

Le droit français et le droit européen interdisent de fonder exclusivement sur un traitement automatisé de données la prise de toute décision produisant des effets juridiques sur une personne - comme le prévoient les articles 47 de la loi n° 78-17 précitée et 22 du RGPD.

Si l'usage par le juge d'outils de justice prédictive méconnaîtrait la nature humaine de la décision de justice et entraînerait vraisemblablement une cristallisation et une uniformisation du droit, le recours à ces derniers par les autres professionnels du droit ou par les justiciables pourrait, selon certaines personnes auditionnées par les rapporteurs, dont la Cour de cassation, les inciter à recourir aux modes alternatifs de règlement des différends.

Les acteurs juridictionnels ont par ailleurs exprimé leur inquiétude quant à la mention du nom du magistrat et du greffier sur les décisions de justice diffusées en données ouvertes. Cette crainte est accentuée par l'extension prochaine de cette politique, le 31 décembre 2025, aux décisions rendues en matière criminelle. Les rapporteurs jugent en effet que l'interdiction générale de profilage et la possibilité laissée de procéder à l'anonymisation des agents, au cas par cas, ne constituent pas des garanties suffisantes pour la sérénité de la justice et la sécurité du personnel. Aussi, les rapporteurs préconisent d'anonymiser les magistrats et les greffiers dans les décisions de justice publiées en données ouvertes.

Les autorités juridictionnelles n'anticipent en tout état de cause pas d'évolution de leur besoin de personnel. Les juridictions administratives et judiciaires ont en effet connu une augmentation notable de leur activité, qui n'a longtemps pas été compensée par la hausse des effectifs. Au-delà, la nécessité d'améliorer l'environnement numérique du travail juridictionnel et d'adopter les outils d'intelligence artificielle exigera le recrutement de personnels dédiés.

III. LA FORMATION DES PROFESSIONNELS DU DROIT : CONDITION INDISPENSABLE D'UNE GÉNÉRALISATION RÉUSSIE DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

A. LA FORMATION INITIALE DOIT ACHEVER SA MUE POUR FORMER DES JURISTES MAÎTRISANT L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE SANS EN ÊTRE DÉPENDANTS

Bien que l'intelligence artificielle générative ne soit déployée que depuis deux ans, l'enseignement du droit se voit bousculé par l'usage croisant de ces outils par les étudiants et, plus marginalement, par les enseignants. Cela a conduit les écoles de droit à adapter avec célérité leurs méthodes d'enseignement et leurs maquettes pédagogiques, aussi bien en réaction à cet usage que dans une dimension prospective, pour accompagner les transformations du métier de juriste.

Toutes les écoles de droit interrogées par les rapporteurs ont ainsi confirmé qu'une part grandissante de leurs étudiants s'appuie sur des outils d'intelligence artificielle générative dans le cadre de leur formation, la plupart du temps de façon spontanée et sans encadrement particulier. En conséquence, les méthodes d'enseignement ont été aménagées, notamment les modalités d'évaluation, les travaux effectués en distanciel n'étant plus notés. Bien qu'il s'agisse encore d'une minorité, certains enseignants ont intégré les outils d'intelligence artificielle générative à leurs cours, à travers des cas pratiques censés apprendre aux étudiants leur maniement. À l'instar des guides élaborés par les ordres professionnels, des guides de bonnes pratiques, qui rappellent les règles d'usage et les principes déontologiques, ont par ailleurs été rédigés par certaines écoles. Outre ces adaptations aux cours existants, des ajustements au catalogue de formation initiale des écoles de droit sont en cours de mise en oeuvre ou ont été effectués récemment, pour proposer des enseignements dédiés à l'intelligence artificielle générative.

Cette réaction au déploiement de l'intelligence artificielle générative dans le domaine du droit est apparue nécessaire, au regard du consensus qui a émergé quant à la nécessité de former les futurs juristes à l'utilisation de ces outils. D'une part, il ne semble plus possible d'en faire abstraction ; il serait donc vain de formuler une interdiction absolue d'utilisation de ces outils auprès des étudiants, a fortiori alors que ces outils sont considérés par une large part des professionnels du droit comme prometteurs. D'autre part, l'adaptation de la formation des futurs juristes apparaît indispensable au regard des transformations que l'intelligence artificielle générative implique sur les métiers du droit. Si l'intelligence artificielle générative n'est pas la seule vectrice de ces transformations, elle les accentue toutefois. Ainsi, les juristes ne peuvent plus être assimilés à des seuls « sachants », qui maîtriseraient l'ensemble du droit. Le juriste doit de plus en plus, en parallèle de la maîtrise d'un socle consistant de connaissances, « savoir faire faire » à la machine. Or, ce « savoir faire faire » n'est pas inné, en particulier dans l'optique d'une appropriation qualitative de ces outils par les étudiants - et donc futurs juristes -, notamment dans le respect des obligations légales et des principes déontologiques propres à chaque profession. La responsabilité de cette formation actualisée repose sur les écoles de droit.

Toutefois, un juriste, même « augmenté » par l'intelligence artificielle générative, demeure un juriste. Par conséquent, la formation juridique de demain ne doit pas se résumer à apprendre au juriste à « faire faire » à la machine, mais doit maintenir un haut degré d'exigence quant à l'acquisition des connaissances juridiques. L'enjeu est donc de préparer les futurs juristes à l'usage de l'intelligence artificielle générative sans pour autant contribuer à un « assèchement des compétences »4(*), ce qui signifie que l'objectif de transmission des connaissances doit, certes, être adapté, mais conservé.

Enfin, une vigilance particulière devra être portée au cours des prochaines années aux effets de l'intelligence artificielle générative sur les schémas d'insertion professionnelle des jeunes juristes, alors que les tâches - en particulier la recherche juridique - que ces outils permettent de réaliser recouvrent en grande partie celles qui sont confiées aux stagiaires ou aux collaborateurs inexpérimentés.

B. LA FORMATION CONTINUE : INDISPENSABLE AU DÉPLOIEMENT HOMOGÈNE ET VERTUEUX DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE AU SEIN DE CHAQUE PROFESSION

La généralisation de l'usage des outils d'intelligence artificielle générative repose également sur le développement de la formation continue en la matière. Il apparaît en effet primordial de définir et de diffuser des règles d'usage de l'intelligence artificielle générative, pour que ses utilisateurs soient conscients des limites de ces modèles probabilistes et qu'ils se conforment à la réglementation en vigueur lorsqu'ils y recourent, tout comme aux obligations déontologiques qui leur sont spécifiques. Aussi, la plupart des ordres professionnels et des écoles de droit adaptent progressivement leur catalogue de formation continue pour y inclure des modules relatifs aux logiciels d'intelligence artificielle générative. Les rapporteurs recommandent toutefois d'accentuer cet effort d'adaptation

des catalogues de formation continue, car ils ont constaté que l'essentiel des modules dédiés à l'intelligence artificielle générative demeure à l'état de projet.

Ils estiment au surplus que l'offre de formation continue doit, dans ses modalités mêmes, s'adapter à la nature spécifique de l'intelligence artificielle générative. Ils préconisent donc d'encourager la diffusion numérique des modules, pour faciliter leur accès, et de nouvelles modalités de formation, qui favorisent notamment la formation des professionnels les plus expérimentés par de jeunes collaborateurs compétents en matière d'intelligence artificielle (« reverse mentoring »). Enfin, il apparaît essentiel aux rapporteurs d'assurer une formation généralisée des personnels aux enjeux de cette technologie, qui permet d'embrasser une diversité de tâches significative, et concerne donc l'entièreté du personnel.

IV. UNE POLITIQUE PUBLIQUE À STRUCTURER DAVANTAGE, SANS SUPERPOSER LES RÉGLEMENTATIONS

A. L'ÉTAT CONDUIT UNE POLITIQUE BIENVENUE DE SOUTIEN À L'OFFRE DE SOLUTIONS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

Plusieurs politiques publiques, généralistes ou spécifiques, ont concouru à l'affirmation en France du secteur de la legaltech. Les éditeurs juridiques et les entreprises concernées ont tout d'abord grandement bénéficié de la diffusion des décisions de justice en données ouvertes, opérée principalement par les lois n° 2016-1321 du 7 octobre 2016 pour une République numérique et n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice. Toutes les personnes auditionnées par les rapporteurs qualifient cette démarche de réussite précieuse ; en l'état de son avancement, près d'un million de décisions civiles sont diffusées par an.

La stratégie nationale pour l'intelligence artificielle, engagée en 2018 et dotée d'une enveloppe globale de 3,7 milliards d'euros - qui intègre des investissements privés -, articule plusieurs actions de soutien au développement de l'intelligence artificielle, générative ou non, qui peuvent bénéficier aux acteurs de la legaltech. L'État a ainsi investi dans la formation, les capacités de recherche et les infrastructures nécessaires à cette technologie. Cette politique publique repose notamment sur des appels à projets, dont certains ciblent les entreprises innovantes dans le secteur de l'intelligence artificielle générative, tels que « Accélérer l'usage de l'intelligence artificielle générative dans l'économie ». Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique, a informé les rapporteurs que près de 10 % des projets retenus concernaient le secteur juridique. Cette stratégie est complétée par la participation de l'État au financement des start-up au moyen de quatorze fonds d'investissement publics gérés par Bpifrance et l'agence de l'environnement et de la maîtrise de l'énergie (Ademe).

B. L'ÉTAT OEUVRE À L'ADOPTION DE L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE PAR LES PROFESSIONNELS DU DROIT

Les différents acteurs publics auditionnés par les rapporteurs, au premier rang desquels la direction générale des entreprises (DGE), ont souligné que l'enjeu en matière d'intelligence artificielle générative se situait désormais moins dans le nombre et la taille des entreprises du secteur de la legaltech, que dans l'adoption, par les professionnels du droit, des technologies que ces dernières développent. Seules 10 % des entreprises françaises auraient intégré au moins un logiciel fondé sur cette technologie à leurs procédures. Plusieurs politiques publiques poursuivent donc l'objectif de favoriser l'adoption, par les entreprises, des outils d'intelligence artificielle générative.

Bpifrance accompagne par exemple les entreprises dans leur adoption de l'intelligence artificielle dans le cadre du dispositif « IA Booster ». La DGE conduit par ailleurs plusieurs actions qui visent à faciliter les échanges entre les développeurs d'outils d'intelligence artificielle générative et les professionnels du droit. Elle envisage au surplus de conduire des actions de communication spécifiques à ce secteur et de recenser les solutions d'intelligence artificielle générative juridiques pour sensibiliser les acteurs. Les rapporteurs recommandent à ce titre de créer un label public à la destination des éditeurs juridiques et des jeunes entreprises innovantes du secteur pour favoriser l'adoption de leurs produits par les professionnels du droit. Plus largement, ils préconisent de poursuivre, améliorer et canaliser l'accompagnement que l'État apporte aux acteurs du secteur de la legaltech et aux éditeurs juridiques.

C. L'ÉTAT ET LES ACTEURS DU SECTEUR S'ACCORDENT TOUS QUANT AU BESOIN DE STABILITÉ NORMATIVE

Les outils d'intelligence artificielle générative doivent respecter un cadre juridique déjà fourni, qui repose tant sur des textes spécifiques à cette technologie, que sur des réglementations relatives au traitement des données à caractère personnel. Le règlement européen sur l'intelligence artificielle (RIA), entré en vigueur le 1er août 2024, connaîtra une application progressive, entre février 2025 et août 2027. Il range par exemple les algorithmes utilisés par l'administration de la justice parmi les logiciels « à haut risque », qui obéissent au régime le plus restrictif de ce règlement - outre les cas d'interdiction de recours à cette technologie. Les logiciels d'intelligence artificielle générative doivent au surplus obéir au RGPD, qui interdit par exemple le profilage et l'automatisation de toute décision, et à la loi « Informatique et libertés » qui fut révisée en cohérence avec la réglementation européenne.

Les professionnels du droit doivent par ailleurs respecter les principes déontologiques propres à leur métier, lesquels s'appliquent aussi à leur utilisation des logiciels d'intelligence artificielle générative. L'essentiel des personnes auditionnées par les rapporteurs a à ce titre précisé que des codes de bonne conduite spécifiques à l'usage de cette technologie sont en voie d'élaboration, ce qui fournira une garantie supplémentaire d'un usage approprié de ces outils. Aussi, les professionnels du droit ont unanimement exprimé leur souhait que l'État observe une stabilité normative en la matière, qu'il s'agisse du cadre législatif général ou de potentielles réglementations spécifiques à l'application de l'intelligence artificielle générative au secteur juridique. Les rapporteurs partagent cette appréciation et considèrent qu'il serait inopportun de légiférer avant même que le RIA ne soit entièrement entré en application - et tandis que cette technologie connaît des évolutions si fréquentes.

AVANT PROPOS

Bien que plurimillénaires - on pense, par exemple, au premier avocat de renommée mondiale, Cicéron, à la fin de la République romaine - et n'étant traditionnellement pas érigés en symbole de modernité, les métiers du droit n'ont cessé de se réinventer et de s'interroger sur leur devenir, qui a été souvent, voire régulièrement, remis en question, en particulier depuis l'avènement d'internet.

Déjà, au cours de la seconde moitié des années 2000, l'auteur britannique et spécialiste des technologies d'intelligence artificielle, Richard Susskind, titrait de façon volontairement provocatrice l'un de ses ouvrages La fin des avocats ?5(*), dans lequel il anticipait que les progrès de l'accès à l'information juridique modifieraient les attendus du client, qui aurait moins besoin de recourir à l'expertise humaine pour des problématiques juridiques courantes.

L'avènement de l'intelligence artificielle générative, depuis le lancement de ChatGPT le 30 novembre 2022, constitue certes un tournant dans l'histoire générale des progrès technologiques, mais également l'un de ces moments d'introspection propres au milieu juridique, tant cette nouvelle technologie semble affecter profondément les méthodes de travail de l'ensemble des juristes ainsi que leurs relations avec les justiciables.

L'actualité de cette seule année 2024 - à peine un peu plus d'an après le déploiement des premiers outils d'intelligence artificielle générative - illustre l'ampleur des transformations qui ont, ou qui pourraient, atteindre les professions juridiques, comprises pour le présent rapport comme l'ensemble des professions réglementées du droit (notaires, avocats, commissaires de justice, conseillers en propriété industrielle ; ainsi que leurs collaborateurs), la magistrature et les services judiciaires, auxquels ont été ajoutés les juristes d'entreprise.

Au début du mois de janvier 2024, le barreau de Paris a mis en demeure le créateur de l'application « I.Avocat », qui proposait un « avocat de poche » prenant la forme d'une aide juridique reposant sur un algorithme d'intelligence artificielle générative, de la retirer des plateformes de téléchargement.

Au printemps et à la rentrée scolaire 2024, les principaux éditeurs juridiques opérant sur le territoire français ont commercialisé des solutions d'intelligence artificielle générative adossées à leur base de données. En parallèle, de nombreuses entreprises de la legaltech, des jeunes entreprises du numérique spécialisées dans le domaine du droit, ont lancé des outils similaires, ciblant soit les étudiants en droit, soit les professionnels du droit.

Le 1er août 2024, le règlement européen établissant des règles harmonisées concernant l'intelligence artificielle6(*), le « RIA » ou, suivant l'acronyme anglais, « AI Act », est entré en vigueur.

En septembre 2024, le conseil national des barreaux (CNB) a consacré sa « grande rentrée » aux usages de l'intelligence artificielle - notamment générative - par les avocats.

Enfin, en octobre 2024, le bâtonnier de Paris, Maître Pierre Hoffman, a annoncé que le barreau de Paris avait conclu un accord avec Lefebvre-Dalloz pour fournir à tous les cabinets d'un ou deux avocats volontaires un accès à un outil d'intelligence artificielle générative, pour un coût estimé par le barreau de Paris d'un million d'euros.

À ces événements s'ajoute une vaste production d'essais et d'articles, qu'il serait vain de lister exhaustivement mais qui démontre que l'intelligence artificielle générative, a minima, ne laisse pas indifférentes les professions du droit et nourrit leurs débats.

La richesse de cette actualité et la rapidité avec laquelle celle-ci a irrigué la réflexion des divers professionnels concernés trouvent leurs sources dans le fort potentiel de bouleversement des métiers du droit que porte l'intelligence artificielle générative.

Si certains y voient des opportunités en termes de gains de temps, de productivité, d'amélioration de l'accès au droit et de prévisibilité des décisions de justice, lesquelles pourraient plus facilement être harmonisées, d'autres pointent les menaces que porterait l'intelligence artificielle générative sur les professions du droit, notamment en termes d'emplois, et sur la justice en général, en particulier sur le sens d'une justice déshumanisée, ou du moins dans laquelle l'humain aurait moins de place et sa plus-value serait moins évidente.

Ainsi, derrière les enjeux économiques, déontologiques, professionnels et matériels que soulève le déploiement de l'intelligence artificielle générative dans le domaine du droit, c'est la vision de la justice de demain et d'après-demain qu'il convient de caractériser.

Il s'agit alors de mesurer autant la réalité et l'ampleur de ces risques ou menaces que d'évaluer les apports collectivement acceptés de cette nouvelle technologie, en ayant à l'esprit que ce qui est techniquement possible n'est pas nécessairement souhaitable.

C'est dans cet objectif que la commission des lois a lancé, le 3 avril 2024, une mission d'information sur les effets de l'intelligence artificielle, et plus particulièrement générative, sur les métiers du droit. En conséquence, les sujets plus larges qui dépassent le seul domaine du droit, comme la question du droit d'auteur ou de la souveraineté numérique, n'ont pas été traités. Le Sénat a toutefois initié de nombreux travaux, généraux ou sectoriels, sur le thème de l'intelligence artificielle, notamment la délégation à la prospective qui travaille depuis le début de l'année 2024 sur « l'intelligence artificielle et l'avenir du service public »7(*).

L'intelligence artificielle en elle-même n'est pas une technologie nouvelle puisqu'elle a fait son apparition aux États-Unis dans les années 1950. L'intelligence artificielle générative est, à l'inverse, très récente : elle est apparue à la fin de l'année 2022 et peut se définir comme « un système capable de créer des contenus »8(*), tels qu'un texte, un code informatique, une image, une musique, un document audio, ou encore une vidéo, en imitant la pensée humaine et en s'appuyant sur des modèles d'apprentissage automatique. L'intelligence artificielle générative n'est, bien évidemment, pas circonscrite aux métiers du droit. Elle a toutefois trouvé dès le premier semestre 2023 une application spécifique au domaine juridique, d'abord aux États-Unis avec Thomson Reuters et LexisNexis, puis en France dans le courant de l'année 2023 avec Predictice.

À ce titre, si l'intelligence artificielle générative a des conséquences, à première vue, sur les professionnels du droit, les rapporteurs ont conduit leurs travaux en ayant pour principale préoccupation l'apport de cet outil technologique à l'intérêt du justiciable et à l'amélioration du service public de la justice.

Pour ce faire, ils ont mené 26 auditions, dont 2 auditions plénières retransmises en direct sur le site du Sénat, qui leur ont permis d'entendre 98 personnes. Ils ont été destinataires de 52 contributions écrites, représentant une précieuse documentation de 449 pages.

PARTIE I
LE DROIT, UN DOMAINE PERMÉABLE AUX OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE QUI A VU ÉCLORE UNE OFFRE ÉCONOMIQUE DYNAMIQUE

A. MALGRÉ LES LIMITES INHÉRENTES AU MODÈLE PROBABILISTE SUR LEQUEL REPOSE L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE, LE DROIT SE LAISSE APPRÉHENDER PAR CETTE NOUVELLE TECHNOLOGIE

1. Par sa capacité à imiter - à première vue - la pensée humaine, l'intelligence artificielle générative a rapidement trouvé une application dans le domaine du droit

L'intelligence artificielle générative est une récente catégorie d'intelligence artificielle, cette dernière étant juridiquement définie par le règlement européen sur l'intelligence artificielle du 13 juin 2024 comme « un système automatisé qui est conçu pour fonctionner à différents niveaux d'autonomie et peut faire preuve d'une capacité d'adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu'il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels ». Sans entrer davantage dans les termes techniques, ces systèmes sont qualifiés « d'intelligence » car ils reposent sur des réseaux de neurones artificiels qui lui permettent d'apprendre par eux-mêmes à effectuer certaines tâches, selon une logique inductive, après une phase « d'apprentissage » similaire au fonctionnement du cerveau humain. Ainsi, une intelligence artificielle peut être entraînée, par exemple, pour être en mesure de différencier un vélo d'une moto sur une image. L'intelligence artificielle apparaît donc particulièrement utile, notamment dans le domaine du droit, pour le traitement de données ou la réalisation de tâches répétitives et automatisables, qui n'exigent pas de capacité créatrice. Par exemple, le ministère de la justice a mené une expérimentation, qui s'est achevée en mars 2022, sur un outil d'intelligence artificielle non générative, dénommé DataJust, qui visait à réaliser un référentiel d'indemnisation des préjudices issus des dommages corporels accessible à tous, grâce à des données extraites de façon semi-automatisée des décisions de justice9(*).

La spécificité et le caractère nouveau de l'intelligence artificielle générative reposent, comme son nom l'indique, sur sa faculté de génération - plus que de création stricto sensu - de contenu, que ce soit un texte, une image, un son ou une vidéo, en réponse à une requête de l'utilisateur formulée en langage naturel. Cette technologie est fondée sur le « grand modèle de langage », ou « large language model » (LLM) qui est capable de traiter le langage naturel, sans pour autant le comprendre. En quelque sorte, comme l'écrit Romain Hazebroucq, fondateur de RHVisuel, dans la revue pratique de la prospective et de l'innovation10(*), « à partir d'un texte d'entrée, les LLM peuvent prédire le texte qui devrait suivre ou lui répondre. [...] Le LLM perçoit les données derrière les mots et renvoie d'autres données inspirées des milliards de pages qu'il a ingérées. C'est nous, utilisateurs, qui percevons du sens dans le résultat ». Avec l'intelligence artificielle générative, ces LLM sont par ailleurs désormais capables de contextualiser le sens d'un mot, c'est-à-dire de le différencier selon la structure de la phrase et selon les mots qui l'entourent, et d'en déterminer l'importance relative.

L'intelligence artificielle générative peut ainsi produire du contenu par sa capacité d'apprentissage de la structure des phrases, pour établir dans un second temps un modèle statistique qui est en mesure de prédire le mot suivant en tenant compte de son contexte. Autrement dit, l'intelligence artificielle générative est un système de prédiction du mot suivant, qui réussit à concevoir des contenus qui imitent, puisqu'ils s'en inspirent à partir de modèles statistiques ayant pour but de produire ce qui en ressort, la pensée humaine dans son côté matériel, c'est-à-dire son expression, notamment écrite.

Grâce à ces avancées, l'intelligence artificielle générative a trouvé rapidement une application dans le domaine du droit. Elle permet en effet de surmonter la difficulté, qui paraissait infranchissable, de maîtrise du langage. Or, le droit repose en principe sur un raisonnement certes rationnel, le fameux syllogisme juridique, mais qui n'est pas fondé sur des modèles quantifiables, c'est-à-dire qui pourraient être traduits en langage mathématique, puisqu'il faut, avant de trouver une solution, savoir qualifier juridiquement une situation pour déterminer le problème de droit y afférent. L'intelligence artificielle générative, si elle est adossée à un panel de données suffisamment large et qualitatif, peut alors imiter le raisonnement du juriste en établissant des modèles statistiques à partir de sa base de données, dans une logique d'analyse des précédents.

Le domaine du droit est donc perméable à ces outils d'intelligence artificielle générative, de nombreuses tâches effectuées par les juristes pouvant, nonobstant une qualité encore inégale (voir infra), être appréhendées par ces modèles, telles que la recherche juridique - le modèle pouvant « lire » une base de données - la synthèse documentaire, la rédaction de documents standardisés, etc.

2. L'intelligence artificielle générative reposant toutefois sur un modèle probabiliste, son utilisation dans le domaine du droit comporte des limites quant à sa fiabilité

Dans la mesure où l'intelligence artificielle générative est un modèle probabiliste, elle maîtrise le langage pour être en mesure de produire un contenu, mais ne le comprend pas pour autant.

L'illustration ci-dessous, issue du rapport remis au Président de la République par la commission de l'intelligence artificielle11(*), présente schématiquement et de façon simplifiée le mode de fonctionnement de ce système probabiliste, pour la demande suivante : « complète la phrase suivante : La France est un grand... ». La réponse est alors générée après l'analyse de chaque mot, appelé « token », pris séparément mais contextualisé.

Source : rapport de la Commission de l'intelligence artificielle

L'intelligence artificielle générative ne donne pas de sens en lui-même au résultat produit, c'est pour cette raison qu'elle n'est pas en mesure d'évaluer la pertinence de sa propre réponse, qui n'est qu'une suite de probabilités calculées à partir des données qui l'alimentent. Seul l'utilisateur humain donne une signification au contenu généré par le modèle.

Ce mode de fonctionnement explique les limites inhérentes à l'intelligence artificielle générative, qui concernent l'ensemble des professions du droit, les justiciables et, plus généralement, tout utilisateur de ces outils.

La principale limite, et la plus documentée, est le risque d'hallucination. Dans la mesure où l'intelligence artificielle générative calcule le mot qui suit en fonction de la séquence de mots en cours sans prendre de recul sur le sens de ce qui est écrit, il est possible que le résultat soit probable mais entièrement faux.

Dans l'exemple suivant, il a été demandé à la version gratuite de ChatGPT « de quoi parl[ait] l'article 19 de la déclaration des droits de l'homme et du citoyen ». Il s'agit bien évidemment d'un piège, puisque ladite déclaration ne contient que 17 articles. L'outil ne s'en est pas aperçu et a donné une réponse fausse, en mélangeant les articles 15 et 16 de la déclaration.

Illustration d'une hallucination sur la version gratuite de ChatGPT

Source : commission des lois, d'après une capture d'écran effectuée sur ChatGPT

Plus étonnamment, mais aussi de façon plus inquiétante, les outils d'intelligence artificielle générative peuvent également donner des réponses fausses tout en citant le droit en vigueur. À titre d'exemple, il a été demandé à ChatGPT quels étaient les articles de loi ou de code qui imposent une limitation de la taille des mémoires devant le juge. L'outil mentionne alors, dans sa réponse, l'article 5612(*) du code de procédure civile, en citant un extrait... qui n'existe pas et n'a jamais existé, même dans une version précédemment en vigueur dudit article 56 !

Illustration d'une hallucination sur la version gratuite de ChatGPT

Source : commission des lois, d'après une capture d'écran effectuée sur ChatGPT

Par ailleurs, comme l'intelligence artificielle ne comprend pas le sens de ce qu'elle produit, elle n'est pas en mesure de se corriger lorsqu'une erreur lui est signalée, comme l'illustre l'exemple ci-dessous. Bien que l'outil reconnaisse avoir formulé une erreur, le nouvel extrait de l'article 56 du code de procédure civile est, encore une fois, faux.

Illustration d'une hallucination sur la version gratuite de ChatGPT

Source : commission des lois, d'après une capture d'écran effectuée sur ChatGPT

Ces hallucinations démontrent que la fiabilité des outils d'intelligence artificielle générative, même s'ils s'appuient sur une très vaste base de données, n'est jamais garantie. Par ailleurs, l'intelligence artificielle générative ne doit pas être confondue avec un moteur de recherche qui, lui, indiquera plus clairement l'absence de résultat à une question donnée.

C'est pourquoi il apparaît primordial que toute solution d'intelligence artificielle générative mentionne, après chaque résultat, le risque d'erreur que peut commettre l'outil et la nécessité de vérifier systématiquement ledit résultat, voire, pour ce qui concerne les outils d'intelligence artificielle générative appliquée au droit, qu'il y ait une incitation à consulter un professionnel du droit pour des informations plus complètes. Si les outils qui ont été essayés par les rapporteurs, à savoir ChatGPT13(*), Lexis + AI (LexisNexis)14(*) et GenIA-L (Lefebvre-Dalloz)15(*), comportent tous des messages d'alerte - plus ou moins explicites -, il convient toutefois d'inciter l'ensemble des plateformes proposant des services d'intelligence artificielle générative à cet effort d'information explicite de l'usager. En effet, à la lecture des réponses écrites au questionnaire des rapporteurs transmises par les entreprises de la legaltech, il appert que cette bonne pratique n'est pas suivie par la totalité d'entre elles16(*).

Proposition n° 1 : informer systématiquement l'utilisateur sur les risques d'erreurs de tout résultat fourni par une intelligence artificielle générative et sur la nécessité de vérifier ledit résultat, et l'orienter, lorsque cela est pertinent, vers un professionnel du droit.

Il existe cependant des méthodes pour réduire les risques d'hallucination, la principale reposant sur le « retrieval-augmented generation », le RAG. Pour synthétiser, il s'agit de produire le texte à partir d'une sélection de données présélectionnées, afin que la réponse soit plus précise, car générée à partir des documents les plus pertinents. C'est notamment ce modèle qu'utilisent les éditeurs juridiques pour limiter le risque d'hallucination, leurs résultats n'étant alimentés que par leur base de données, pour en améliorer la fiabilité.

Outre les hallucinations, l'intelligence artificielle générative comporte quatre autres risques principaux, qui sont communs à toutes les professions juridiques.

En premier lieu, les outils d'intelligence artificielle générative appliquée au droit peuvent ne pas être alimentés par des données actualisées. Certains modèles ont ainsi plusieurs mois, voire plusieurs années de retard sur le droit en vigueur et les évolutions jurisprudentielles, ce qui est évidemment un obstacle majeur pour une utilisation sûre par un juriste.

En deuxième lieu, les outils d'intelligence artificielle générative peuvent comporter des biais, que le conseil national des barreaux, dans son guide pratique d'utilisation des systèmes d'intelligence artificielle générative, classe en deux catégories : « les biais de conception », issus du modèle statistique utilisé par l'outil, notamment lorsque les données sur lesquelles il est entraîné comportent elles-mêmes des stéréotypes culturels ou discriminatoires, et « les biais cognitifs personnels de l'utilisateur ». Ces derniers font référence aux cas lors desquels l'utilisateur formule ses requêtes selon ses propres préjugés ou ses propres attentes (par exemple s'il formule ses questions en présupposant un verdict de culpabilité) ou lorsque, par « paresse intellectuelle », il ne prendrait pas la peine de vérifier le résultat.

En troisième lieu, l'utilisation des outils d'intelligence artificielle générative implique un enjeu de confidentialité des données, de nombreux modèles d'intelligence artificielle générative réutilisant les données injectées par l'utilisateur pour entraîner le modèle, et de protection des données personnelles, notamment du justiciable (voir infra).

Enfin, bien que ce soit un risque plus négligeable, l'intelligence artificielle générative, puisqu'elle repose sur un modèle probabiliste et qu'elle ne recherche donc pas la réponse la plus juste à une question, est inconstante dans ses réponses, et peut donc donner des réponses différentes à une même question, a fortiori si celle-ci n'est pas posée exactement dans les mêmes termes. Ce risque signifie qu'un effort particulier doit être fait par l'utilisateur pour affiner au mieux sa question, en maîtrisant la technique du « prompt ». Toutefois, même en étant formé à poser les bonnes questions à l'outil, l'utilisateur ne se prémunit pas de l'inconstance du modèle probabiliste de l'intelligence artificielle générative : à quelques jours d'écart, les rapporteurs ont ainsi posé exactement la même question, mot pour mot, à un outil d'intelligence artificielle générative, qui ne leur a pas donné la même réponse bien que le droit en vigueur n'ait pas évolué au cours de cette période.

Ces risques ne doivent cependant pas occulter les opportunités procurées par l'intelligence artificielle générative.

B. L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE : UNE OPPORTUNITÉ POUR LES ÉDITEURS JURIDIQUES ET LES ENTREPRISES DE LA LEGALTECH, LIÉE À L'APPÉTENCE D'UNE PART DES PROFESSIONS JURIDIQUES POUR CES OUTILS

Le développement de l'intelligence artificielle générative a représenté un considérable coup d'accélérateur au secteur du numérique appliqué au droit, et en particulier à l'activité des éditeurs juridiques et des entreprises de la legaltech, que ces dernières aient été créées très récemment pour commercialiser des solutions d'intelligence artificielle générative appliquées au droit, ou qu'elles aient complété une offre préexistante avec de telles solutions.

Si le droit a, presque depuis l'avènement d'internet, trouvé sa place dans l'espace numérique - ainsi, le site Légifrance17(*), qui publie en version dématérialisée l'ensemble du droit en vigueur en France, a été créé dès 199918(*) -, la célérité avec laquelle les éditeurs juridiques et les entreprises proposant des services dématérialisés appliqués au droit ont investi pour intégrer à leurs offres l'intelligence artificielle générative mérite d'être soulignée, voire saluée, tant la France se caractérise par son dynamisme à l'échelle européenne dans ce domaine.

En effet, de premiers services reposant sur l'intelligence artificielle générative ont été commercialisés, notamment par les entreprises de la legaltech Prédictice et Septeo, dès le milieu de l'année 2023, soit moins d'un an après l'ouverture au grand public de ChatGPT. Il n'a fallu que dix-huit mois après l'arrivée de l'intelligence artificielle générative pour que le marché français soit globalement lancé et ne commence à se consolider, dès le milieu de l'année 2024.

L'année 2024 a marqué un tournant dans le modèle économique des principaux éditeurs juridiques opérant en France, puisque la plupart d'entre eux ont lancé des offres reposant sur l'intelligence artificielle générative, consistant en une option - payante - adossée aux abonnements donnant accès à la base de données de ces éditeurs. Parmi les quatre principaux acteurs du marché de l'édition juridique en France, trois d'entre eux, LexisNexis, Lefebvre-Dalloz et Lamy Liaisons, ont ainsi intégré l'intelligence artificielle générative à leurs services, tandis que le quatrième, Lextenso, prévoit de commercialiser des services reposant sur l'intelligence artificielle générative « dans l'année qui vient »19(*).

Bien que les éditeurs juridiques travaillaient déjà depuis plusieurs années sur l'intégration d'outils d'intelligence artificielle non générative, en particulier pour améliorer leur moteur de recherche, la rapidité avec laquelle ces services ont été ajoutés à l'offre des éditeurs juridiques n'allait pourtant pas de soi. En effet, d'une part, il s'agit d'une technologie récente pour laquelle la plus-value ne commence que maintenant à être évaluée, d'autre part ces outils ont nécessité de substantiels investissements financiers et en ressources humaines.

Interrogés par les rapporteurs, aucun des quatre éditeurs juridiques n'a souhaité communiquer les montants qu'ils ont consacrés au déploiement de ces outils d'intelligence artificielle générative. Ils ont toutefois tous confirmé qu'il s'agissait de sommes « importantes », voire de « lourds investissements ». Bien que cet ordre de grandeur ne soit pas transposable au seul marché français de l'intelligence artificielle générative appliquée au droit, les chiffres évoqués dans la presse économique par le président-directeur général de LexisNexis pour l'Europe centrale, le Moyen-Orient et l'Afrique, Éric Bonnet-Maes, permettent d'appréhender les enjeux financiers que représente l'adaptation des éditeurs juridiques à cette nouvelle technologie : REXL, le groupe britannique propriétaire de LexisNexis, aurait ainsi investi 1,7 milliard de dollars par an dans le domaine des innovations numériques et notamment de l'intelligence artificielle20(*). Plus de 2 000 ingénieurs, scientifiques de la donnée et experts juridiques y travailleraient.

Ces lourds investissements s'expliquent par la place qu'occupe désormais le numérique dans le secteur du droit : si les procès, et la justice en général, se tiennent encore en présentiel - sauf cas très particuliers, comme les audiences en visioconférence pour certains étrangers détenus en centre de rétention administrative -, l'information juridique est majoritairement diffusée en version dématérialisée. En conséquence, la part du numérique dans l'activité des éditeurs juridiques n'a cessé de croître et dépasserait largement le seuil de 50 %, voire 80 % pour l'activité française de Lefebvre-Dalloz et LexisNexis21(*).

En parallèle des investissements réalisés par les éditeurs juridiques, a émergé un riche vivier d'entreprises de la legaltech proposant elles aussi des solutions d'intelligence artificielle générative, pour la plupart à destination des avocats ou des directions juridiques des entreprises. Le conseil national des barreaux a indiqué aux rapporteurs avoir comptabilisé « plus d'une vingtaine de fournisseurs de solutions d'intelligence artificielle générative à destination des avocats rien que sur le marché français »22(*), auxquels s'ajoute au moins une dizaine de jeunes entreprises ciblant d'autres publics que les rapporteurs ont identifiées, sans avoir procédé pour autant à un décompte exhaustif.

Souhaitant disposer d'une vision la plus large possible de l'environnement économique de l'intelligence artificielle générative appliquée au droit, et comprendre au mieux dans quelle mesure ces outils paraissent adaptés aux professions du droit, les rapporteurs ont ainsi auditionné JusMundi, Doctrine, Gino Legaltech, Goodlegal, OpenLaw, Ordalie, Septeo, Tomorro, Jimini AI et SmartLawyer, et ont reçu une contribution écrite de Clerk, soit onze entreprises de la legaltech auxquelles s'ajoute l'audition de France Digitale, une association qui représente - entre autres - 25 entreprises de la legaltech française, dont Lexbase ou Call a lawyer.

Ce nombre important d'acteurs auditionnés illustre la vitalité et le volontarisme de ces entreprises et, plus généralement, du secteur numérique français, qui est unanimement considéré comme l'un des plus actifs en Europe23(*), participant ainsi de la diffusion de l'intelligence artificielle générative appliquée au droit sur le continent. Cette vitalité est notamment permise et facilitée par la qualité des données ouvertes en France, aussi bien pour le droit en vigueur grâce aux travaux de la direction de l'information légale et administrative (DILA), qui a la responsabilité du site Légifrance, que pour les décisions de justice, qui sont progressivement publiées en données ouvertes depuis 2021, à la suite de l'adoption de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique. À ces données publiques s'ajoutent les fonds éditoriaux des éditeurs juridiques, qui se comptent, d'après les éditeurs juridiques eux-mêmes, en « millions de contenus ».

Bien qu'elle ne soit pas consacrée à l'intelligence artificielle générative, l'étude publiée par le groupe de travail « legaltechs » de France Digitale en juillet 202324(*) démontre la bonne santé économique générale de ces entreprises françaises, qui auraient triplé leur chiffre d'affaires entre 2019 et 2022. Par ailleurs, lors de la publication de l'étude, 36 % des entreprises interrogées anticipaient une croissance de leur activité supérieure à 100 % en 2023. Ces chiffres concordent avec les données recueillies par les rapporteurs en compilant les contributions écrites qui leur ont été transmises : bien que les entreprises de la legaltech interrogées ne soient pas toutes encore rentables, la totalité d'entre elles affirment être en « constante progression »25(*) et développer « une stratégie de conquête de marché ambitieuse »26(*).

Preuve que le marché de l'intelligence artificielle générative appliquée au droit entame sa mue après un départ remarqué, le secteur engage sa consolidation, avec quelques rachats récents, notamment Jarvis, Closd et Case Law Analytics, acquis par l'éditeur LexisNexis, et Hyperlex repris par Dilitrust, tandis que, d'après les informations transmises par France Digitale aux rapporteurs, Captain Contrat se serait rapproché d'Implid et Seraphin.legal de MyLegiTech en vue d'une prise de contrôle.

C. L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE PARTICIPE DE L'OBJECTIF À VALEUR CONSTITUTIONNELLE D'INTELLIGIBILITÉ ET D'ACCESSIBILITÉ DU DROIT, MAIS NE DOIT PAS ÊTRE ASSIMILÉE À UNE CONSULTATION JURIDIQUE

Ce développement des solutions d'intelligence artificielle générative appliquée au droit a naturellement des conséquences majeures sur l'exercice des professions du droit, qui seront détaillées ci-après. Outre leurs effets sur les professionnels, ces outils ne sont pas non plus sans incidence sur l'exercice de notre démocratie et l'information des citoyens.

De la même manière que la naissance des moteurs de recherche sur internet a facilité, à partir des années 1990, l'accès à l'information juridique, et parce qu'elle permet de répondre dans des termes - relativement - simples à une question posée en langage naturel, l'intelligence artificielle générative appliquée au droit constitue indubitablement une avancée majeure en termes d'accessibilité et d'intelligibilité du droit, deux principes à valeur constitutionnelle reconnus depuis plusieurs décennies par le Conseil constitutionnel27(*) - bien que ces deux principes, suivant la jurisprudence du Conseil constitutionnel, fassent davantage référence à la qualité de la loi. Si la réponse obtenue est rarement pleinement satisfaisante en termes de rigueur juridique, voire comporte régulièrement des erreurs significatives28(*), les outils généralistes d'intelligence artificielle générative à destination du grand public permettent a minima à tout justiciable de se renseigner sur des questions de droit, éventuellement posées en langage courant.

À ce titre, bien que l'accès à certains outils soit gratuit, il appert paradoxalement que les outils d'intelligence artificielle générative appliquée au droit sont exclusivement développés par des entreprises privées. Si certaines initiatives dans le secteur public ont vu le jour, comme par exemple l'application « Albert » développée par le DataLab de la direction interministérielle du numérique (DINUM), elles restent pour l'instant à l'unique destination des agents publics. La DILA, qui est spécifiquement chargée du service public de la diffusion du droit, notamment via les sites Légifrance, vie-publique.fr et service-public.fr, travaille elle aussi à des solutions d'intelligence artificielle, notamment générative, mais, à nouveau à destination des seuls agents publics, par exemple pour leur faciliter la consolidation des textes législatifs et règlementaires ou les aider à répondre aux questions des usagers du site service-public.fr. Ces divers projets ont représenté un coût pour la DILA compris entre un et deux millions d'euros, d'après les informations transmises aux rapporteurs.

Si la création d'un service public de l'intelligence artificielle générative appliquée au droit, par exemple en créant un agent conversationnel adossé à toutes les données publiques hébergées sur les sites gérés par la DILA, est une idée séduisante à première vue, elle signifierait cependant que les réponses apportées par un tel outil pourraient être assimilées à un contenu éditorialisé voire à un conseil juridique, ce qui dépasse le mandat actuel de la DILA et n'est pas souhaitable en l'état au regard des risques d'erreur que comportent encore les outils d'intelligence artificielle générative. Toutefois, le service public de la diffusion du droit doit suivre les avancées technologiques afin que les usagers ne s'en détournent pas au profit d'outils moins fiables. C'est pourquoi les rapporteurs soutiennent pleinement le projet de la DILA, pour l'instant seulement esquissé, de permettre à l'usager de poser une question en langage naturel dans le moteur de recherche du site Légifrance, plutôt que des seuls mots-clefs ou des références d'articles, qui présupposent déjà des connaissances juridiques. Cette question en langage naturel pourrait intégrer des éléments géographiques, temporels ou de domaine et Légifrance proposerait une liste de résultats dont la présentation pourrait être affinée. D'après les informations transmises par la DILA aux rapporteurs, les travaux sur ces nouvelles fonctions, sous réserve d'une analyse de leur coût prévisionnel, ne seraient cependant pas initiés avant « 2025-2026 ».

Proposition n° 2 : affiner le moteur de recherche de Légifrance pour permettre à l'usager du service public de l'information légale de formuler ses questions en langage naturel.

Le risque que ces outils incitent les justiciables à « [l']autojuridication », qui a été mentionné à quelques reprises lors des auditions des rapporteurs, peut toutefois être écarté.

D'une part, si l'autojuridication est comprise comme une plus grande curiosité intellectuelle du justiciable, qui chercherait à comprendre par lui-même les enjeux juridiques d'une affaire qui le concerne ou d'un sujet qui l'intéresse, cela n'est pas en soi un risque et redonnerait au contraire du sens au principe ancien selon lequel nemo jus ignorare censetur - nul n'est censé ignorer la loi. Par ailleurs, les moteurs de recherche actuels (sans intelligence artificielle générative) et la riche documentation juridique diffusée sur internet permettent déjà à tout un chacun de s'informer sur des questions de droit. L'argument selon lequel il serait à craindre qu'un justiciable ayant fait usage de l'intelligence artificielle générative remettrait plus aisément en question l'expertise de son avocat est par ailleurs peu recevable, l'avocat étant de toute façon soumis à un principe de compétence29(*) : c'est donc à lui de s'adapter à son client. Le seul risque tangible sur ce point serait que les réponses apportées par une solution d'intelligence artificielle générative découragent un justiciable à formuler un recours ou une plainte, d'où l'importance, déjà mentionnée supra, d'indiquer à la suite de chaque résultat que ledit résultat doit être vérifié et peut comporter des erreurs.

D'autre part, les biais et risques d'erreurs inhérents aux outils d'intelligence artificielle générative, a foritiori les outils grand public qui ne sourcent pas leurs résultats, rendent peu probable, même à moyen terme, une obsolescence du conseil juridique personnalisé par un professionnel du droit.

La consultation juridique est en effet un monopole des professions réglementées du droit, conformément à l'article 54 de la loi n° 71-1130 du 31 décembre 1971 portant réforme de certaines professions judiciaires et juridiques. Le législateur a souhaité par ce monopole garantir aux justiciables que les conseils juridiques qui leur seront délivrés reposent sur des compétences sanctionnées par des diplômes reconnus par l'État et un corpus de règles professionnelles et déontologiques, telles que des conditions de moralité, d'assurance et de garantie financière.

Ce monopole n'interdit cependant pas la délivrance d'informations juridiques, la différence avec la consultation juridique étant fondée sur le caractère personnalisé et adapté des informations fournies. Il existe à ce propos une riche jurisprudence ayant permis d'affiner le contour de la consultation juridique30(*), qui a été synthétisée par le conseil national des barreaux, dans une résolution adoptée le 18 juin 2011, comme « une prestation intellectuelle personnalisée tendant, sur une question posée, à la fourniture d'un avis ou d'un conseil sur l'application d'une règle de droit en vue, notamment, d'une éventuelle prise de décision ». Cette définition proposée par les principaux professionnels concernés par le sujet est proche de la définition donnée par le ministère de la justice dans une réponse à une question écrite du sénateur Alain Fouché : « on doit entendre par consultation juridique toute prestation intellectuelle personnalisée qui tend à fournir un avis sur une situation soulevant des difficultés juridiques ainsi que sur la ou les voies possibles pour les résoudre, concourant, par les éléments qu'elle apporte, à la prise de décisions du bénéficiaire de la consultation »31(*).

Néanmoins, comme le reconnaît lui-même le ministère de la justice dans sa réponse écrite au questionnaire des rapporteurs, « certaines entreprises de la legaltech, sous couvert d'information juridique documentaire, assurent la délivrance de prestations sous des intitulés ambigus “d'aide ou d'assistance juridique” qui se distingueraient de la consultation juridique » mais pourraient prêter à confusion un public non averti.

C'est pourquoi le conseil national des barreaux, mais aussi la direction générale des entreprises (DGE)32(*), plaident pour une « clarification » de la notion de consultation juridique, aussi bien pour se prémunir du risque de concurrence entre les professions réglementées du droit et les entreprises de la legaltech que pour permettre à ces dernières de se positionner sans ambiguïté ni risque de contentieux, et ainsi assurer leur développement sur des bases juridiques claires.

Les travaux des rapporteurs ont mis en lumière l'absence de position arrêtée au niveau gouvernemental sur ce sujet certes récurrent mais qui prend une importance nouvelle au regard du développement des outils d'intelligence artificielle générative appliquée au droit. Ainsi, si la DGE y est favorable, le ministère de la justice s'oppose à une telle mesure, préférant une définition jurisprudentielle, vue comme plus souple, tandis que Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique, interrogée sur le sujet lors de son audition, n'y a pas répondu.

La revendication de la DGE et du conseil national des barreaux rejoint la position du Sénat, qui s'est déjà prononcé en faveur de l'inscription dans la loi d'une définition de la consultation juridique, notamment lors de l'examen de la loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice33(*).

Renouvelant cette position et partageant les arguments formulés par le CNB et la DGE, les rapporteurs jugent opportune l'inscription dans la loi d'une définition de la consultation juridique, notamment dans un double objectif de lisibilité du droit et de sécurité juridique.

Proposition n° 3 : définir légalement la consultation juridique en actualisant la loi n° 71-1130 du 31 décembre 1971 portant réforme de certaines professions judiciaires et juridiques.

PARTIE II
UNE TRANSFORMATION INEXORABLE
MAIS HÉTÉROGÈNE DES MÉTIERS DU DROIT ENTRAÎNÉE PAR LE DÉPLOIEMENT DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

Le rythme d'adoption des outils d'intelligence artificielle générative comme leurs conséquences visibles et potentielles sur les pratiques professionnelles diffèrent selon les métiers du droit concernés. Une distinction dans l'analyse doit donc être faite entre les professions réglementées du droit et les juristes d'entreprise, d'une part, (A) et les professions du service public de la justice judiciaire et administrative, d'autre part, (B).

A. LES PROFESSIONS RÉGLEMENTÉES ET LES JURISTES D'ENTREPRISE : UNE ADOPTION RAPIDE DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE QUI DOIT MAINTENIR AU CoeUR DE LEUR PRATIQUE PROFESSIONNELLE L'INTÉRÊT DU JUSTICIABLE ET LA QUALITÉ DU DROIT

1. Principalement portée par les avocats et les juristes d'entreprise, l'adoption croissante de l'intelligence artificielle générative transforme les métiers du droit en promettant de dégager davantage de temps aux tâches à haute valeur ajoutée
a) Un espoir de gains de temps et de productivité

Les outils d'intelligence artificielle générative appliquée au droit, s'ils sont convenablement utilisés, représentent une opportunité intellectuelle indéniable pour les professions réglementées du droit et les juristes d'entreprise. En ce sens, ils sont vecteurs d'une transformation de ces métiers, non pas tant en termes de modification de la structure des emplois (voir infra), que pour l'évolution de la nature de ces emplois. L'intelligence artificielle générative permettrait en effet à ces professions de se concentrer sur les tâches à haute valeur ajoutée, illustrant alors davantage leur plus-value, l'analyse du juriste étant mieux distinguée de la simple recherche juridique.

À mesure que les outils d'intelligence artificielle générative s'affinent et s'améliorent, il apparaît possible de leur confier, entièrement ou partiellement, de nombreuses tâches34(*), telles que35(*) :

- les tâches bureautiques et administratives - ce qui n'est certes pas spécifique aux juristes -, comme la rédaction de courriers ou des travaux de traduction ;

- la recherche juridique personnalisée, par le biais d'agents conversationnels et non de simples moteurs de recherche ;

- l'analyse et la synthèse de documents volumineux ou encore de décisions de justice, notamment en permettant à l'utilisateur d'interroger directement l'outil d'intelligence artificielle générative sur le contenu dudit document ;

- le résumé de conclusions adverses ;

- le traitement de données, en permettant à l'utilisateur de formuler sa demande de traitement en langage naturel ;

- la rédaction de documents standardisés, tels que des notes juridiques ou des projets de discours, voire la rédaction d'actes, de contrats, de brevets (pour ce qui concerne les conseillers en propriété industrielle) ou de constats (pour ce qui concerne les commissaires de justice) ;

- l'amélioration rédactionnelle d'un contenu écrit ;

- la détection de fraudes ou d'anomalies dans les dossiers, notamment la détection, très utile pour les avocats, de possibles irrégularités susceptibles de donner lieu à des nullités de procédure, et l'aide à la décision au regard des éléments détectés.

En résumé, en l'état de son développement, l'intelligence artificielle générative offre une aide pour trois grandes catégories de tâches : la recherche, l'analyse d'un corpus de données ou de documents (et non d'une situation) et la rédaction de contenus simples.

L'aide qu'apportent ces outils en réalisant les tâches susmentionnées laisse espérer, pour les professions concernées, des gains de temps et de productivité qu'il est encore difficile de chiffrer mais qui pourraient être significatifs. Nombreux sont ainsi les professionnels qui ont assuré aux rapporteurs lors de leur audition que l'intelligence artificielle générative allait leur permettre de se consacrer davantage aux tâches de réflexion et au contact humain, plutôt qu'aux tâches répétitives ou à moindre valeur ajoutée, notamment la recherche juridique.

Lors de son audition, Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique, a estimé que les notaires pourraient gagner jusqu'à une heure trente de temps de traitement par dossier, sans toutefois préciser sa méthode de calcul. Le conseil supérieur du notariat (CSN)36(*) considère quant à lui que l'intelligence artificielle générative « pourrait servir d'outil complémentaire pour renforcer l'efficacité et la qualité des services notariaux ». Concernant les avocats, le conseil national des barreaux émet l'hypothèse que « l'intelligence artificielle générative pourrait entraîner une augmentation de la productivité des cabinets »37(*) tandis que pour le bâtonnier de Paris, Maître Pierre Hoffman, l'intelligence artificielle générative « permettra aux avocats et aux collaborateurs de se concentrer sur les tâches à plus haute valeur ajoutée et par là-même d'investir plus de dossiers ou des dossiers à plus haut niveau de technicité »38(*). Le cabinet Samman, qui fournit à l'ensemble de ses collaborateurs des outils d'intelligence artificielle générative, a confirmé l'hypothèse formulée par le CNB : il ressort de son expérience que « l'utilisation de l'intelligence artificielle générative de manière encadrée représente une opportunité économique pour les avocats. Elle leur permet d'améliorer leur productivité en diminuant le temps consacré à des tâches chronophages, leur offrant ainsi la possibilité de se focaliser sur des activités à plus forte valeur ajoutée »39(*).

Ces gains de temps et de productivité entraîneraient, comme le souligne France Digitale, une réduction des coûts40(*) pour chaque dossier ou du moins une meilleure allocation des ressources humaines.

Outre les gains de temps et de productivité, l'intelligence artificielle générative pourrait également améliorer la prise de décision du professionnel grâce à la capacité de l'outil à analyser de grandes quantités de données et à synthétiser et hiérarchiser les informations. Ainsi, la multiplication des sources juridiques analysées en un temps très réduit permettrait « aux professionnels du droit de prendre des décisions plus éclairées en s'appuyant sur une plus grande quantité de données et de jurisprudences »41(*).

Enfin, l'intelligence artificielle générative serait vectrice de transformation des métiers du droit dans la mesure où elle modifierait profondément la relation entre le professionnel et son client, sur trois points.

En premier lieu, elle permettrait de personnaliser davantage les services apportés par le professionnel du droit à son client et, le cas échéant, au justiciable. Lors de son audition par les rapporteurs, la chambre nationale des commissaires de justice a ainsi mis en avant l'idée d'utiliser l'intelligence artificielle générative pour adosser à chaque assignation à une audience ou à chaque signification de jugement des éléments personnalisés, par exemple sous la forme d'un QR-code, qui aideraient notamment le justiciable, en fonction de sa situation, à comprendre la décision de justice et ses conséquences et à lui présenter les actions qui s'ouvrent à lui.

En deuxième lieu, grâce aux gains de temps que l'intelligence artificielle générative pourrait entraîner sur les tâches administratives et de recherche, le professionnel du droit devrait être en mesure de disposer de davantage de temps pour se consacrer aux interactions humaines. La chambre nationale des commissaires de justice estime ainsi que les commissaires de justice pourront passer plus de temps « sur le terrain, ce que ne sait pas faire une intelligence artificielle générative »42(*). Le conseil national des barreaux considère également que les gains de temps sur les tâches de recherche permettront aux avocats de mieux préparer leurs plaidoiries et de se consacrer davantage à la définition de la stratégie d'audience avec leurs clients. Par ailleurs, à mesure que les divers progrès technologiques accroîtront la dématérialisation de nombreuses procédures, l'accompagnement et les explications orales que formuleront les professionnels du droit en complément des réponses que pourrait donner au client un outil d'intelligence artificielle générative constitueront une part de plus en plus importante de la plus-value du professionnel du droit, et donc la justification de ses honoraires.

En troisième et dernier lieu, l'intelligence artificielle générative modifiera vraisemblablement les attentes du client vis-à-vis du professionnel du droit vers lequel il se tourne. Il est en effet probable qu'il sera attendu du professionnel du droit une expertise plus poussée, qui risque peut-être de remettre en question le modèle des cabinets d'avocats généralistes, mais, inversement, qui justifie à nouveau la plus-value de l'avocat ou du juriste d'entreprise et l'intérêt intellectuel de ces professions. Par ailleurs, comme l'a souligné le bâtonnier de Paris43(*), les avocats - mais aussi les juristes d'entreprise - vont devoir répondre « à la demande d'immédiateté du client, tout en garantissant la qualité technique et d'analyse de la réponse ». Si les outils d'intelligence artificielle génératives peuvent donc, à première vue, faciliter le travail des professions du droit, ils ne constituent pas pour autant un nivellement par le bas si les exigences sont accrues à mesure des progrès de la technologie.

b) Une adoption croissante mais encore prudente des outils d'intelligence artificielle générative

Les promesses de gains de temps et de productivité portées par les outils d'intelligence artificielle générative ont trouvé un écho favorable auprès des professions réglementées du droit et des juristes d'entreprise, qui y semblent bien plus sensibles que la magistrature et les agents de greffe (voir infra).

Depuis que les entreprises de la legaltech et les éditeurs juridiques proposent des services reposant sur l'intelligence artificielle générative, donc en l'espace de moins de dix-huit mois, les professions juridiques du secteur privé ont commencé à adopter ces outils dans des proportions difficilement chiffrables avec précision, mais qui semblent toutefois significatives au regard des auditions menées par les rapporteurs et des contributions écrites qui leur ont été transmises.

Toutes catégories confondues, l'European legal tech association a mené une étude au cours de l'été 202444(*) dont il ressort que 33 % des professionnels du droit français utiliseraient mensuellement un outil d'intelligence artificielle générative. À l'échelle européenne, 90 % des professionnels du droit interrogés estimeraient que l'intelligence artificielle générative soutient « efficacement » leurs activités professionnelles. Ces données sont toutefois à prendre avec précaution, puisque cette étude a été menée auprès d'un panel relativement restreint (463 répondants à l'échelle européenne), et ciblant un public plutôt averti et déjà sensibilisé à cette technologie.

Les avocats sont à ce titre la profession la plus avancée dans l'adoption de ces outils, en particulier au sein des plus grands cabinets. Le CNB considère ainsi que « de nombreux avocats travaillent d'ores et déjà avec l'intelligence artificielle générative »45(*). Cette assertion générale est largement confirmée par les travaux des rapporteurs : plusieurs cabinets ont indiqué travailler quotidiennement avec de tels outils, tels que les cabinets Samman, Latham & Watkins, A&O Shearman ou encore Squair, ce dernier ayant précisé qu'il était « rare qu'un dossier soit abordé sans avoir recours à l'intelligence artificielle générative pour des recherches juridiques » et que l'usage d'un tel outil représente « un avantage concurrentiel » par rapport aux autres cabinets46(*). Illustration de cet intérêt des avocats pour l'intelligence artificielle générative, les trois quarts du chiffre d'affaires de l'une des principales entreprises françaises de la legaltech, Doctrine, proviendraient du marché des avocats47(*).

Les autres professions réglementées du droit s'approprient également progressivement ces outils. Ainsi, selon la compagnie nationale des conseils en propriété industrielle (CNCPI), « certains conseils en propriété industrielle testent actuellement des outils d'intelligence artificielle générative, par exemple pour répondre à des questions juridiques, rédiger des réponses ou des brevets ou faire des recherches »48(*), dans des proportions importantes puisque 42,39 % des conseillers en propriété industrielle auraient déjà utilisé l'intelligence artificielle générative dans leur pratique professionnelle et 72,73 % d'entre eux jugeraient souhaitable l'intégration de ladite intelligence dans leurs méthodes de travail49(*). Selon la chambre nationale des commissaires de justice (CNCJ), « l'usage de l'intelligence artificielle générative [par les commissaires de justice] a largement débuté »50(*). De même, certains notaires ont initié une phase d'adoption d'outils d'intelligence artificielle générative. La chambre des notaires de Paris a ainsi sondé en mars 2024 650 notaires sur le sujet : parmi les répondants, 91 % ont entendu parler d'intelligence artificielle générative, 43% l'ont utilisé dans un contexte personnel, et 18 % dans un contexte professionnel. Les tâches les plus accomplies sont alors la recherche juridique (65 %), la traduction de document (58 %) et l'analyse de document (50 %).

Enfin, les juristes d'entreprise apparaissent particulièrement concernés par le déploiement de l'intelligence artificielle générative. Si l'association française des juristes en entreprise (AFJE) n'a pas été en mesure de transmettre aux rapporteurs des données chiffrées, nombreuses sont les entreprises, à l'instar de Vinci Énergies International & Systems51(*), ayant communiqué sur leur souhait d'utiliser des outils d'intelligence artificielle générative pour renforcer leur direction juridique et améliorer - notamment - l'expérience du client. L'entreprise Doctrine, qui propose un outil d'intelligence artificielle générative, a par ailleurs indiqué aux rapporteurs que 30 % des directions juridiques des entreprises du CAC40 auraient souscrit un abonnement à ses services.

En effet, du côté de l'offre, l'intérêt des professionnels du droit se manifeste à travers la souscription d'abonnements aux services intégrant de l'intelligence artificielle générative. Lefebvre-Dalloz a ainsi témoigné « de la forte attente des professionnels du droit » pour ces outils en raison, selon eux, de la « complexification des normes » et de leur « volume croissant »52(*). Parmi les 13 000 utilisateurs payants de Doctrine, plus de 50 % utiliseraient au moins une fois par mois une fonctionnalité basée sur l'intelligence artificielle générative. 111 000 professionnels du droit utiliseraient les services proposés par Septeo, qui incluent des solutions d'intelligence artificielle générative53(*). Les rapporteurs n'ont toutefois pas eu accès au nombre d'utilisateurs des outils d'intelligence artificielle générative proposés par les éditeurs juridiques, probablement plus élevé que le nombre d'utilisateurs des outils proposés par les entreprises de la legaltech.

Il convient toutefois de préciser que cette adoption progressive des outils d'intelligence artificielle générative par les professions du droit, et en particulier par les avocats, se fait, sauf quelques exceptions54(*), avec prudence. Si certaines personnes auditionnées par les rapporteurs ont fait part d'un enthousiasme marqué quant aux progrès que permettrait l'intelligence artificielle générative, la plupart des professionnels du droit interrogés s'accordent sur l'absence de maturité des outils proposés, en particulier les outils généralistes. Ainsi, les professionnels du droit, tout en s'appropriant ces outils, semblent avoir conscience de leurs limites55(*), ce qui est rassurant puisque cela signifie que des précautions seront prises lors de leur usage.

À ce titre, un consensus a émergé sur l'inadéquation des outils généralistes aux tâches juridiques, notamment parce que ces outils ne travaillent pas sur des bases de données suffisamment sélectionnées. Pour ce qui est des outils spécialisés, si les progrès, que les rapporteurs ont pu constater depuis le début de leurs auditions en mai 2024, sont rapides, ces outils ne sont pas encore exempts du risque d'hallucinations. Le conseil national des barreaux estime ainsi « [qu']en France, les outils d'intelligence artificielle générative proposés par les éditeurs juridiques ou les entreprises de la legaltech ne sont pas encore pleinement matures »56(*) pour un usage entièrement satisfaisant par les avocats. L'ordre des avocats aux conseils note que si « ces outils sont performants pour synthétiser un texte tel qu'une décision de justice ou extraire des données », ils ne sont pas « aboutis » ni « fiables » pour ce qui concerne « l'analyse » juridique, par exemple pour identifier des moyens de cassation57(*). Outre la qualité des réponses, encore perfectible, la prudence est également de mise car certains de ces outils n'apportent pas les « garanties suffisantes »58(*) en termes de sécurité et de confidentialité des données.

2. Malgré la perméabilité des tâches juridiques aux outils d'intelligence artificielle générative, l'expertise humaine reste fondamentale dans le domaine du droit, ce qui devrait limiter les craintes sur l'emploi qu'aux fonctions d'assistance

Comme c'est régulièrement le cas après chaque avancée technologique majeure, le développement de l'intelligence artificielle générative a fait craindre, dès l'automne 2022, une disparition des professions du droit ou, a minima, une forte réduction de leurs effectifs face à la concurrence que représenterait ces outils capables de rédiger des notes juridiques ou d'analyser le droit en vigueur et la jurisprudence.

Un rapport59(*) ayant eu un écho remarqué jusqu'en France, publié par l'entreprise américaine Goldman Sachs au début de l'été 2023, soit six mois après le lancement de ChatGPT, a notamment accentué ces inquiétudes en estimant que 44 % des tâches juridiques effectuées dans un cadre professionnel pourraient être effectuées par des solutions d'intelligence artificielle - ce qui inclut l'intelligence artificielle générative. Le droit serait alors, après le secteur administratif, le domaine le plus concurrencé par l'intelligence artificielle.

Part des tâches professionnelles exposées à une automatisation par l'intelligence artificielle aux États-Unis, par secteur d'activité

Source : Goldman Sachs, juillet 2023

Ce chiffre a fait débat, autant quant à sa méthodologie qu'à sa signification, et n'est pas considéré par les rapporteurs comme une donnée sur laquelle s'appuyer avec certitude. Toutefois, il illustre le caractère transformateur de l'intelligence artificielle générative sur les professionnels du droit. Les nombreux articles de presse généraliste ou les articles dans la presse juridique spécialisée mentionnant cette étude, qui a également été citée à plusieurs reprises lors des auditions menées par les rapporteurs, démontrent par ailleurs que si l'inquiétude sur l'emploi n'est pas nécessairement fondée60(*), elle alimente pour autant les réflexions des professionnels du droit quant à leur avenir.

Pour ce qui concerne la France, le rapport remis au Président de la République en mars 2024 par la commission de l'intelligence artificielle61(*) a confirmé de façon plus mesurée que les professionnels du droit étaient en effet concernés par les transformations entraînées par l'intelligence artificielle générative, les commissaires notant que « ce qui est nouveau avec l'intelligence artificielle générative, c'est que certains métiers de la connaissance, de la stratégie et de la créativité (médecins, enseignants, avocats, journalistes, artistes...), autrefois perçus comme des creusets de l'intelligence humaine, pourraient être concernés par une réduction du nombre total d'emplois ».

Ces inquiétudes, bien évidemment compréhensibles au regard des nouveautés portées par l'intelligence artificielle générative, et qui ont d'ailleurs en partie justifié que la commission des lois se saisisse du sujet, semblent toutefois pouvoir être nuancées.

a) Les conséquences de l'intelligence artificielle générative sur les professions juridiques stricto sensu devraient être marginales

Deux ans après le lancement du premier outil d'intelligence artificielle générative, les préoccupations qui avaient pu être énoncées quant à un remplacement des juristes par ces outils ont fait place à un consensus assez net sur leurs effets finalement limités sur l'emploi des professionnels du droit, hors secteur public62(*).

L'ensemble des personnes auditionnées par les rapporteurs ou ayant contribué par écrit à leurs travaux ont répondu négativement lorsqu'il leur a été demandé si l'intelligence artificielle générative représentait un risque existentiel pour leur profession ou, a minima, pouvait entraîner une diminution substantielle des leurs effectifs.

Ce consensus des professionnels du droit rejoint ainsi l'analyse de la commission de l'intelligence artificielle qui, bien qu'ayant reconnu que les juristes, et notamment les avocats, pourraient théoriquement être concernés par des réductions d'effectifs, estime que ce risque est in fine assez faible. Contrairement aux résultats de l'étude précitée de Goldman Sachs, les commissaires ont en effet calculé que, si les juristes font effectivement partie des professions exposées à l'intelligence artificielle, peu de leurs tâches professionnelles - à peine 10 % - seraient en revanche susceptibles d'être « remplacées », ou plutôt effectuées, par l'intelligence artificielle, notamment générative.

Effets attendus de l'intelligence artificielle sur un échantillon de métiers en France

Source : Rapport de la commission de l'intelligence artificielle remis au Président de la République en mars 2024.

De même, selon l'European legal tech association, seuls 6 % des professionnels du droit ayant contribué à son étude annuelle63(*) estiment que « l'intelligence artificielle générative pourrait les remplacer ». Cette position est aussi celle de la direction des affaires civiles et du sceau du ministère de la justice ainsi que de la direction générale des entreprises, rattachée au ministère de l'économie et des finances, qui considèrent que « de la même manière que la facilitation de l'accès à des informations médicales n'a pas obéré l'expertise des médecins, [...] la facilité d'accès à des informations juridiques [ne serait] pas de nature à obérer l'avenir des professions judiciaires et juridiques »64(*). Lors de son audition par la commission, Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique, a ainsi qualifié l'intelligence artificielle générative « d'opportunité immense » pour le secteur du droit, assumant une vision « optimiste ».

La seule nuance notable à cet optimisme des personnes interrogées par les rapporteurs concerne l'avenir des petits cabinets d'avocats généralistes, qui auront peut-être davantage de difficulté à maintenir un niveau d'expertise suffisant par rapport aux outils d'intelligence artificielle générative pour justifier de leur plus-value. Une spécialisation ou, a minima, un centrage sur quelques secteurs du droit, ne peuvent à ce titre qu'être encouragés.

L'optimisme qui ressort des auditions menées par les rapporteurs et des contributions écrites qui leur sont parvenues s'explique par plusieurs raisons, certaines étant communes aux professions juridiques, d'autres spécifiques à chacune d'entre elles.

Une première raison, commune à toutes les professions concernées, repose sur le fonctionnement même de l'intelligence artificielle générative. Comme évoqué supra, celle-ci étant fondée sur un modèle probabiliste, le risque d'erreur demeure élevé. Par conséquent, d'une part, l'expertise du professionnel du droit reste nécessaire au justiciable ou, de façon plus large, au client, si celui-ci souhaite obtenir des réponses qualitatives. D'autre part, comme le souligne le conseil national des barreaux, le travail de vérification des résultats de l'intelligence artificielle générative va prendre de l'importance et pourrait occuper une proportion significative du temps de travail du professionnel. In fine, malgré les gains de productivité permis par les outils d'intelligence artificielle générative, « ces nouveaux usages ne vont pas nécessairement réduire le temps de travail »65(*).

Par ailleurs, l'intelligence artificielle générative, contrairement à ce que son nom indique, n'est pas capable de faire preuve de créativité, d'innover, puisqu'elle se fonde sur les données qui lui ont été transmises et sur lesquelles elle a été entraînée. En outre, il lui manque, du moins en l'état des développements, une intelligence émotionnelle, c'est-à-dire la compréhension des situations humaines, qui est indispensable dans le domaine de la justice. Comme l'écrit le professeur de droit privé Didier Guével dans un essai sur les effets de l'intelligence artificielle sur les décisions juridictionnelles, « il manque toujours à l'intelligence artificielle ce petit plus qui fait les grands juristes ou les grands médecins : le talent, le flair, l'intuition »66(*).

L'intelligence artificielle générative ne pourra pas non plus remplacer l'humain dans toutes les procédures qui nécessitent des interactions interpersonnelles lesquelles, malgré la place croissante qu'occupe le numérique dans la société, demeurent centrales dans le domaine du droit et en particulier dans la justice. Ainsi les échanges oraux avec le client, a fortiori lorsque celui-ci est un justiciable, ne devraient pas être concernés négativement par le développement de l'intelligence artificielle générative.

Il s'agirait même du contraire car l'accompagnement personnalisé du professionnel est et restera la plus-value réelle de l'avocat, du commissaire de justice, du notaire ou du juriste d'entreprise par rapport aux outils numériques. Or, les échanges avec le client, la compréhension de sa situation, l'explication oralisée des solutions juridiques qui s'ouvrent à lui, et la détermination, notamment, de sa stratégie d'audience, puis, le cas échéant, la plaidoirie orale constituent une large part du temps de travail du professionnel du droit. Par exemple, pour ce qui concerne les notaires, la chambre des notaires de Paris souligne que « le notaire n'est pas seulement un rédacteur d'actes, il est le garant d'un consentement libre et éclairé. Les éléments d'appréciation sensible, humaine, contextuels, qui l'amènent à personnaliser le conseil juridique aux moments forts de la vie des familles et chefs d'entreprise, ne sont pas susceptibles d'être remplacés par une intelligence artificielle générative, quelles que soient ou seront à l'avenir les compétences analytiques et rédactionnelles de la machine »67(*). Ainsi, la part du temps de travail consacrée aux échanges avec le client ne devrait pas être réduite par les avancées de l'intelligence artificielle générative. Au contraire, comme évoqué supra, la plupart des professionnels du droit interrogés par les rapporteurs prévoient que l'intelligence artificielle générative leur permettra de consacrer encore davantage de temps aux interactions humaines nécessaires à l'exercice de leur métier.

Le droit actuel protège certaines professions juridiques dans le sens où il prévoit un monopole sur certaines tâches, qui ne pourront donc pas être effectuées par des services numériques d'intelligence artificielle générative, notamment en ce qui concerne la réalisation d'une consultation juridique (voir supra et notamment la proposition n° 3). C'est d'ailleurs pour cela qu'il s'agit de professions réglementées, le législateur ayant souhaité conditionner l'exercice de ces professions à l'acquisition de compétences juridiques démontrées et à la soumission à des règles particulières garantissant, notamment, le respect de certains principes déontologiques. Les commissaires de justice, les notaires ou encore les avocats ne sauraient donc, sauf changement de la législation, être sérieusement concurrencés par l'intelligence artificielle générative.

À titre d'exemple, la fonction d'authentification d'actes, qui engage la responsabilité du notaire, ne saurait être endossée par l'intelligence artificielle générative, selon la chambre des notaires de Paris68(*). Il en va de même de la signification des jugements par le commissaire de justice, qui se fait en général directement sur le terrain69(*) et, bien entendu, de la plaidoirie de l'avocat lors d'un procès.

Enfin, il est possible voire probable que l'intelligence artificielle ait pour conséquence, non pas de décharger les professions du droit, mais, en facilitant l'accès à l'information juridique et le repérage des nullités de procédure, d'accroître la judiciarisation de la société et donc l'activité juridictionnelle. La direction des affaires civiles et du sceau du ministère de la justice reconnait ainsi que « l'intelligence artificielle générative pourrait augmenter la capacité de saisine des juridictions et ainsi le volume des affaires à traiter »70(*). Dans ce contexte, les professionnels du droit demeureraient pleinement sollicités, malgré les gains de temps que pourrait permettre l'intelligence artificielle générative.

En définitive, les conséquences de l'intelligence artificielle générative sur les effectifs des professions juridiques réglementées apparaissent limitées, les évaluations les plus pessimistes effectuées par les personnes interrogées par les rapporteurs ne faisant état, dans une fourchette haute, que d'une éventuelle et incertaine réduction des effectifs de l'ordre de 10 %.

b) Les fonctions d'assistance aux professions du droit sont davantage menacées, sans que cela ne soit toutefois une fatalité

Si les métiers du droit au sens strict semblent pouvoir s'adapter suffisamment aux transformations induites par l'intelligence artificielle générative pour que les craintes sur l'emploi soient mineures, une réduction des emplois au sens plus large, en incluant les tâches d'assistance, est davantage probable.

Nombreuses sont en effet les alertes reçues par les rapporteurs quant à l'avenir des tâches de secrétariat, de saisie de données, ou d'assistance juridique, et ce dans toutes les professions réglementées du droit.

Concernant les notaires, l'institut national des formations notariales (INFN) anticipe une « baisse d'attractivité » du métier de collaborateur, en raison de « l'automatisation ou de l'optimisation de nombreuses tâches » qui leur sont habituellement confiées, telles que la constitution des dossiers clients, la recherche juridique ou la rédaction d'actes. Il s'en suivrait une « réduction substantielle du nombre de collaborateurs de notaire » et « la naissance de nouveaux métiers davantage liés aux outils numériques », les collaborateurs n'effectuant que des tâches juridiques devant « disparaître »71(*).

Cette analyse est partagée par la chambre nationale des conseils en propriété industrielle, qui estime « très probable » que les tâches de nature administrative réalisées par « le personnel paralégal » soient effectuées « à court ou moyen terme par l'intelligence artificielle », notamment générative, « ce qui va conduire à une évolution et à une réduction importante du personnel administratif dont l'effectif est aujourd'hui substantiel »72(*) dans les cabinets de conseil en propriété industrielle.

Les cabinets d'avocats devraient connaître un mouvement similaire. D'après l'ordre des avocats au Conseil d'État et à la Cour de cassation, les effets de l'intelligence artificielle générative « se feront sentir sur les assistants juridiques plutôt que sur les collaborateurs ». En effet, les tâches réalisées par les premiers « peuvent a priori apparaître substituables par l'intelligence artificielle générative », ce qui est « susceptible de questionner l'utilité de [ces] emploi[s] ». En revanche, « les collaborateurs, même débutants, se voient très rapidement confier la préparation de tâches à forte valeur ajoutée »73(*), non réalisables par l'intelligence artificielle générative, sous la supervision d'un avocat plus expérimenté.

L'activité d'un cabinet ne devrait donc pas nécessiter le même nombre d'assistants ceteris paribus, c'est-à-dire pour un même niveau d'activité.

Cette crainte d'une baisse des effectifs sur les fonctions d'assistance aux professionnels du droit n'est toutefois pas une fatalité.

D'une part, comme mentionné supra, il n'est pas exclu que les outils d'intelligence artificielle générative contribuent à la judiciarisation de la société, et donc qu'il y ait davantage d'activité dans les cabinets, justifiant alors, malgré les gains de productivité, le maintien des effectifs au niveau actuel. Par ailleurs, les gains de productivité obtenus grâce à ces outils pourraient entraîner, non pas de façon générale mais au sein de chaque cabinet, une hausse de l'activité en termes de dossiers traités, qui ne pourrait pas être totalement absorbée par l'intelligence artificielle, certaines tâches demeurant incompressibles, comme par exemple la permanence téléphonique, le secrétariat pouvant être davantage sollicité à mesure qu'unnombre plus important de clients est pris en charge par le cabinet.

D'autre part, il est envisageable, comme cela a d'ailleurs déjà été le cas avec l'arrivée d'internet et des outils de bureautique, d'initier une transformation de ces métiers plutôt que de miser sur leur disparition. Il serait ainsi souhaitable de favoriser une montée en compétences des assistants juridiques, auxquels il pourrait par exemple être explicitement confié une fonction de vérification des résultats de l'intelligence artificielle générative. À ce titre, les rapporteurs saluent la volonté de l'INFN de faire évoluer la formation qu'elle assure à destination des collaborateurs de notaire, afin que ceux-ci soient en mesure d'assister le notaire dans l'utilisation des outils d'intelligence artificielle générative.

Proposition n° 4 : favoriser la montée en compétence des assistants juridiques au sein des cabinets, notamment en leur confiant des tâches de vérification des résultats de l'intelligence artificielle générative.

Il convient en outre de noter que, si l'intelligence artificielle, y compris non générative, constitue une menace sérieuse pour l'emploi lié à certaines tâches d'assistance aux professions du droit, en parallèle d'autres métiers naissent ou pourraient naître, notamment en lien avec la collecte ou la gestion des données numériques. Un exemple de ces nouvelles fonctions résultant du déploiement de l'intelligence artificielle (ici non générative) est l'affectation, par la Cour de cassation, de vingt annotateurs au contrôle de l'anonymisation des décisions de justice publiées en données ouvertes.

3. Plus que les risques sur l'emploi, l'enjeu principal de l'intelligence artificielle générative appliquée au droit repose dans son bon usage, qui doit maintenir au coeur des préoccupations des professionnels l'intérêt du justiciable et la qualité du droit

L'intelligence artificielle générative présente des limites de nature technique - la principale étant l'existence d'hallucinations74(*). Elle peut en outre induire des risques dans la pratique professionnelle des acteurs du droit (hors secteur public) et dans l'exercice de la justice. Ces risques peuvent cependant être évités ou du moins réduits.

a) Un risque de fracture au sein des professions, pouvant notamment entraîner une inégalité des parties devant la justice

Outre que certains professionnels du droit ne souhaitent pas adopter des outils d'intelligence artificielle générative, par exemple en raison de freins psychologiques ou du sentiment que ces outils ne leur seraient pas utiles, les outils d'intelligence artificielle générative appliquée au droit ont tous un coût qui peut, pour certains acteurs, représenter un obstacle à leur adoption. En effet, si de nombreux outils généralistes d'intelligence artificielle générative sont gratuits, les outils spécialisés dans le droit sont tous, à la connaissance des rapporteurs, payants.

Si les prix ne semblent, à première vue, pas exorbitants pour une structure professionnelle, ils peuvent toutefois représenter des sommes significatives lorsque sont agrégées toutes les licences, le prix des abonnements dépendant du nombre d'utilisateurs. D'après les informations transmises aux rapporteurs, un abonnement à un service d'intelligence artificielle générative proposé par une entreprise de la legaltech oscillerait autour de 50 et 100 euros par mois et par utilisateur, avec tout de même des exceptions notables en fonction des solutions proposées et des clients visés75(*). Les outils proposés par les éditeurs juridiques seraient d'un coût plus élevé, notamment parce qu'ils s'adossent aux abonnements donnant accès à leur fonds documentaire. Il s'agit donc d'un coût supplémentaire par rapport à l'abonnement aux services de base d'un éditeur juridique. Ce surcoût représenterait approximativement 200 euros par mois et par utilisateur, ce coût diminuant en fonction du nombre d'avocats que compte le cabinet.

Certains cabinets internationaux implantés en France ont en outre développé leurs propres outils, par le biais de partenariats avec des entreprises technologiques telles qu'Harvey ou Microsoft, notamment afin que l'intelligence artificielle générative soit entraînée sur les données du cabinet, d'une part, et pour garantir que ces données resteront la propriété du cabinet, d'autre part. Ces partenariats ont toutefois un coût très conséquent, qui se chiffre en millions de dollars d'après les informations transmises par le conseil national des barreaux aux rapporteurs. Ils ne sont donc pas à la portée de l'immense majorité des cabinets français.

Il résulte de ces divers coûts un risque de fracture au sein des professions du droit. Si ce risque n'est pas préjudiciable en lui-même tant que l'absence de souscription à des abonnements d'outils d'intelligence artificielle générative est un choix délibéré de la part du professionnel du droit, il peut en revanche entraîner une inégalité des parties devant la justice, qui est plus inquiétante. Ainsi, un fossé pourrait se creuser entre les structures investissant dans des outils d'intelligence artificielle générative, qui reporteraient ces coûts sur leurs honoraires, et celles qui ne pourraient pas, ou ne voudraient, souscrire à de tels outils.

Le manifeste des avocats collaborateurs, un syndicat représentant les avocats collaborateurs et les avocats indépendants, partage cette inquiétude en soulignant que « l'un des dangers [de l'intelligence artificielle générative] serait d'accentuer la distinction entre les cabinets d'affaires et de conseil, qui auraient les moyens d'utiliser l'intelligence artificielle générative, et les cabinets individuels ou à taille humaine, qui n'en auraient pas les moyens »76(*). Du côté du service public de la justice, la Cour de cassation a également identifié « un véritable risque de ce que l'inégalité des armes entre les parties ne s'accentue, sous l'effet de la mise à disposition d'outils d'intelligence artificielle générative coûteux et spécialisés auxquels seuls certains cabinets pourraient avoir accès »77(*).

Conscient de ce risque, le barreau de Paris a noué un partenariat, rendu effectif en octobre 2024, avec Lefebvre-Dalloz afin de prendre à sa charge l'accès à GenIA-L pour tous les cabinets de son ressort constitués d'un ou deux avocats, ce qui représente approximativement 13 000 avocats. L'objectif du bâtonnier de Paris est ainsi de réduire « les disparités avec les grands cabinets qui, eux, disposent déjà de certains de ces outils ou, du moins, des moyens financiers pour en créer un ou en bénéficier »78(*). L'octroi de ces licences est adossé à une formation en ligne de trois sessions de trente minutes. Preuve de l'intérêt que portent les avocats parisiens à l'intelligence artificielle générative, la première formation, en octobre 2024, a réuni près de 1 800 d'entre eux. Cette politique volontariste du barreau de Paris représente toutefois un coût d'un million d'euros pour un partenariat d'un an. À l'issue de cette période d'un an, l'objectif du bâtonnier est que « les avocats parisiens aient pu juger véritablement de l'opportunité de se doter d'un tel outil pour les aider au quotidien, de se doter de ce nouveau levier de croissance et de l'intégrer, le cas échéant, à leur modèle économique ». Il s'agit donc d'habituer les plus petits cabinets à travailler avec ces outils, quitte à rendre difficile un retour en arrière, malgré le coût de l'abonnement qui devra directement être pris en charge par ceux-ci à partir de 2026.

Considérant ces coûts et le probable risque de fracture au sein des professions du droit, une généralisation de l'initiative du barreau de Paris pourrait être opportune.

Proposition n° 5 : favoriser l'accès des plus petites structures aux outils d'intelligence artificielle générative en mutualisant, au sein de chaque ordre, le coût de ces abonnements.

b) Un risque de mésusage au regard des obligations réglementaires et des principes déontologiques, qui justifie l'établissement de règles claires au sein de chaque profession

Deux enjeux liés à l'utilisation des outils d'intelligence artificielle générative par les professions réglementées du droit et les juristes d'entreprise s'ajoutent aux risques techniques mentionnés dans la première partie du présent rapport.

Il s'agit de l'applicabilité des principes déontologiques de chaque profession aux cas d'usage de l'intelligence artificielle générative - et donc des bonnes pratiques qui en découlent - et du respect du cadre réglementaire et disciplinaire lié à la protection et à la confidentialité des données personnelles ou sensibles79(*).

Outre, donc, la nécessité de ne pas transmettre aux outils d'intelligence artificielle générative des données personnelles ou sensibles et de les anonymiser avant toute utilisation, notamment au regard du secret professionnel auquel sont soumises les professions réglementées du droit, l'intelligence artificielle générative, par son caractère transformateur, appelle un accompagnement des professionnels pour actualiser, ou du moins affiner, les principes déontologiques et mettre en avant les bonnes pratiques. Comme le soulignent le conseil national des barreaux et la direction des affaires civiles et du sceau (DACS) du ministère de la justice dans leur contribution écrite, les principes déontologiques des professions juridiques sont « suffisants »80(*) en l'état et n'ont pas besoin d'être redéfinis, car ils peuvent s'appliquer à l'intelligence artificielle générative. Pour ce qui concerne la profession d'avocat, les cinq principes essentiels liés à la relation entre l'avocat et son client que sont « la compétence, le dévouement, la diligence, la prudence »81(*) et « la loyauté »82(*) demeurent pleinement pertinents. Il s'agit toutefois, d'une part, de rappeler explicitement que ces principes restent applicables et, d'autre part, de préciser par des exemples de cas d'usage et de bonnes pratiques quel sens ils prennent dans ce nouveau contexte. Il conviendra donc de dresser une liste exhaustive desdites bonnes pratiques. Les rapporteurs notent que ce travail, qui doit être adapté aux impératifs de chaque profession, a été initié par certaines professions, à commencer par la profession d'avocat. Ainsi, le conseil national des barreaux a publié en septembre 2024 un « guide pratique d'utilisation des systèmes d'intelligence artificielle générative » de 42 pages qui, outre des conseils pratiques, rappelle les obligations légales et déontologiques applicables. Cette initiative, que les rapporteurs saluent, doit être encouragée mais aussi systématisée, non seulement au sein de chaque ordre83(*), mais également, lorsque cela est pertinent, dans les cabinets qui ont recours à des outils d'intelligence artificielle générative.

Proposition n° 6 : établir des règles claires et transparentes d'usage de l'intelligence générative artificielle au sein de chaque profession, notamment par la rédaction d'une charte éthique ou d'un guide d'utilisation, transposées ensuite dans chaque cabinet ou juridiction.

Ces règles et conseils d'usage pourraient être actualisés régulièrement en fonction des avancées de l'intelligence artificielle générative et des transformations qu'elle implique sur les professions. Cette tâche pourrait être réalisée à l'initiative d'un référent, ou éventuellement d'une commission, désigné au sein de chaque ordre professionnel pour

suivre les effets de l'intelligence artificielle générative et lancer, selon les règles propres à chaque ordre, les procédures de sanctions disciplinaires en cas de mésusage.

Proposition n° 7 : nommer un référent - ou une commission - au sein de chaque ordre professionnel, chargé de suivre les effets de l'intelligence artificielle générative sur la profession, identifier les dérives possibles, lancer des procédures de sanctions disciplinaires en cas de mésusage et mettre à jour le guide de bonnes pratiques.

Quelques lignes directrices apparaissent toutefois communes à toutes les professions réglementées du droit et aux juristes d'entreprise. L'exigence de compétence et de loyauté envers le client ou l'employeur nécessite par exemple d'insister, dans tous les guides de bonnes pratiques, sur l'importance de la vérification humaine de tous les résultats fournis par un outil d'intelligence artificielle générative. Le cas de l'avocat new-yorkais Steven Schwartz a été cité à plusieurs reprises, lors des auditions menées par les rapporteurs, comme illustration du mésusage de l'intelligence artificielle générative, cet avocat ayant mentionné des jurisprudences inexistantes dans sa plaidoirie, après l'avoir préparée à l'aide de ChatGPT sans vérifier avec suffisamment de sérieux les résultats.

Le devoir de loyauté exige également du professionnel du droit la transparence quant à son utilisation des outils d'intelligence artificielle générative. S'il n'est pas envisagé d'imposer une quelconque obligation formelle qui imposerait au professionnel d'indiquer systématiquement à son client qu'un outil d'intelligence artificielle générative a été utilisé, il convient en revanche de l'inciter, en se plaçant du point de vue déontologique, à ne pas dissimuler au client cette pratique. Concrètement, cette transparence pourrait prendre la forme d'une information sur le site internet du cabinet, indiquant quel outil d'intelligence artificielle générative est utilisé par les avocats et collaborateurs du cabinet ou, plus simplement, prendre la forme d'une réponse franche de la part du professionnel lorsque le client lui demande si son dossier a partiellement été traité à l'aide de l'intelligence artificielle générative. Ces bonnes pratiques participent du maintien du lien de confiance entre les professionnels du droit et leur client, qui est aussi, souvent, un justiciable.

Proposition n° 8 : sans imposer d'obligation légale, conseiller dans les guides d'usage propre à chaque profession que, dans un souci de transparence, l'utilisation des outils d'intelligence artificielle générative ne doit pas être dissimulée au client.

Toutes ces bonnes pratiques et le rappel des principes déontologiques et des obligations légales pourraient notamment être diffusées lors des formations initiales et continues des professionnels du droit (voir infra), mais aussi en favorisant, au sein de chaque cabinet ou direction juridique, la formation inversée (« reverse mentoring ») qui consiste à demander aux jeunes générations, plus habituées à l'usage des outils d'intelligence artificielle générative, de sensibiliser à ces outils les professionnels plus expérimentés.

B. LES MAGISTRATS, GREFFIERS ET AUTRES PROFESSIONNELS DES JURIDICTIONS : AU-DELÀ DU REFUS THÉORIQUE D'UNE JUSTICE DÉSHUMANISÉE, LE BESOIN PRATIQUE D'UN RATTRAPAGE NUMÉRIQUE

1. Le cadre législatif et réglementaire restreint les modalités d'emploi de l'intelligence artificielle générative par les professions juridictionnelles
a) Les contraintes juridiques au développement de la justice prédictive suscitent un consensus global que tous les acteurs concernés souhaitent conserver

La notion de justice prédictive recouvre des réalités diverses qu'il est important de distinguer, car elles ne font pas courir les mêmes risques et, partant, n'appellent pas l'application du même cadre juridique. La forme topique de justice prédictive consiste en la substitution d'un algorithme à une décision juridictionnelle. Le profilage se rattache à cette dernière, car il revient à abandonner à un algorithme l'analyse de la personnalité d'un individu ou d'un juge. Ces deux premières formes de la justice prédictive apparaissent unanimement rejetées par les acteurs du droit - et font l'objet d'interdictions législatives. Il existe toutefois des modalités de justice prédictive moins controversées, qui peuvent être assimilées à la jurimétrie ; il s'agit là par exemple d'identifier la décision la plus probable à partir d'une base de données. Cette démarche poursuit selon certains l'objectif de transparence et de prévisibilité du droit - sans compter qu'elle n'interfère a priori pas avec le processus décisionnel du juge.

Certaines formes de justice prédictive font donc l'objet d'une interdiction, établies tant en droit français, qu'en droit européen. Le droit français proscrit, en premier lieu, toute technique de profilage en matière juridictionnelle. L'article 47 de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, dite « informatique et libertés », interdit ainsi au juge de fonder une décision de justice sur une évaluation de personnalité qui serait issue d'un traitement automatisé de données à caractère personnel. De même, il prohibe que des décisions produisant des effets juridiques à l'égard d'une personne soient prises sur ce seul fondement - ce qui ne concerne pas seulement les décisions de justice.

Extrait de l'article 47 de la loi n° 78-17 du 6 janvier 1978

« Aucune décision de justice impliquant une appréciation sur le comportement d'une personne ne peut avoir pour fondement un traitement automatisé de données à caractère personnel destiné à évaluer certains aspects de la personnalité de cette personne.

Aucune décision produisant des effets juridiques à l'égard d'une personne ou l'affectant de manière significative ne peut être prise sur le seul fondement d'un traitement automatisé de données à caractère personnel, y compris le profilage, à l'exception :

1° Des cas mentionnés aux a et c du 2 de l'article 22 du règlement (UE) 2016/679 du 27 avril 2016 [...] ;

2° Des décisions administratives individuelles prises dans le respect de l'article L. 311-3-1 et du chapitre Ier du titre Ier du livre IV du code des relations entre le public et l'administration [...] ».

La loi « Informatique et libertés » du 6 janvier 1978, qui prévoyait en son ancien article 10 l'interdiction du profilage, a été mise en conformité avec le règlement (UE) 2016/679 du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données (RGPD) par la loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles et l'ordonnance n° 2018-1125 du 12 décembre 201884(*). Le paragraphe premier de l'article 22 du RGPD interdit la prise de toute décision produisant des effets juridiques sur le fondement exclusif d'un traitement automatisé de données.

Article 22 du RGPD, paragraphes 1 et 2

« 1. La personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire.

2. Le paragraphe 1 ne s'applique pas lorsque la décision :

a) est nécessaire à la conclusion ou à l'exécution d'un contrat entre la personne concernée et un responsable du traitement ;

b) est autorisée par le droit de l'Union ou le droit de l'État membre auquel le responsable du traitement est soumis et qui prévoit également des mesures appropriées pour la sauvegarde des droits et libertés et des intérêts légitimes de la personne concernée ;

c) est fondée sur le consentement explicite de la personne concernée. »

Cette interdiction, qui concerne au premier chef les décisions de justice, n'est toutefois pas absolue. D'une part, elle renvoie aux décisions fondées « exclusivement » sur un algorithme - ce qui n'interdit a priori pas d'y recourir de manière accessoire, ou, à l'inverse, d'intervenir à titre secondaire, en sus d'un éventuel outil d'intelligence artificielle. D'autre part, le deuxième paragraphe de l'article 22 précité prévoit des exceptions au principe général. Certains magistrats administratifs auditionnés redoutent que ces dernières puissent trouver une application en matière juridictionnelle et suggèrent d'en écarter explicitement la possibilité. Le consensus qui s'affirme quant à la nécessité de préserver le caractère humain de la justice laisse cependant à penser qu'une telle précision serait superfétatoire, spécialement suite à l'adoption du RIA.

La volonté de préserver le caractère humain de l'activité juridictionnelle apparaît partagée aux échelles européenne et nationale. Le RIA précise ainsi en son considérant 61 que si « l'utilisation d'outils d'intelligence artificielle peut soutenir le pouvoir de décision des juges ou l'indépendance judiciaire, [elle] ne devrait pas les remplacer, car la décision finale doit rester une activité humaine ». Cette formule synthétise les arguments qui ont été unanimement exprimés lors des auditions. Le RIA classe ainsi les outils d'intelligence artificielle générative dédiées aux autorités juridictionnelles parmi les systèmes « à haut risque » ; ce régime restrictif prévient le risque de la substitution d'un traitement algorithmique à une décision juridictionnelle.

Les représentants de l'ensemble des professions juridiques ont ainsi exprimé leur attachement au caractère humain de toute décision de justice, qu'il s'agisse des magistrats - administratifs ou judiciaires85(*) -, des greffiers86(*), des avocats87(*), du ministère de la justice88(*) ou d'un professeur d'Université89(*).

Il apparaît en effet que le raisonnement d'un juge n'est ni probabiliste, ni déterminé par les précédentes décisions, spécialement dans un système de droit continental qui repose sur la logique déductive du syllogisme. La décision de justice résulte en effet d'un cheminement spécifique, qui exige du temps et une procédure contradictoire voire délibérative. Cela permet aux juges d'identifier des solutions juridiques nouvelles, qui se traduisent par les évolutions et les revirements jurisprudentiels qui participent à la nécessaire plasticité du phénomène juridique.

La logique probabiliste propre à l'intelligence artificielle générative entraînerait au contraire une cristallisation du droit, qui se doublerait d'une uniformisation de celui-ci. Or, si le système juridique nécessite une certaine forme d'harmonisation de la jurisprudence, qu'il incombe aux cours suprêmes de préserver, une uniformisation de cette dernière nuirait à la confiance des citoyens en la justice, à son caractère symbolique et à son utilité sociale. L'exemple du « bon juge » Magnaud90(*), souvent cité dans les Facultés de droit, atteste de la qualité humaine que les justiciables attendent de la justice - et qu'il est impérieux de préserver grâce au maintien de l'office du juge dans sa dimension humaine.

Le développement de certaines formes de justice prédictive, qui s'attachent uniquement à déterminer la solution juridictionnelle la plus prévisible, est diversement accueilli par les personnes auditionnées par les rapporteurs. Certaines entités entendues par les rapporteurs y voient le moyen d'améliorer la transparence et la prévisibilité du droit, parmi lesquelles la Cour de cassation91(*), qui estime qu'une telle évolution pourrait inciter à recourir aux modes alternatifs de règlement des différends dans les situations où une solution prévisible et harmonisée est attendue. Il s'agit là principalement des contentieux dits de masse, tels que ceux relatifs aux pensions alimentaires, aux indemnités de licenciement ou à l'indemnisation des dommages corporels. Cette logique s'inscrit dans l'ambition pérenne de développer les modes alternatifs de règlement des différends, que la loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice a notamment portée. Des organisations représentatives de magistrats et d'avocats rappellent toutefois leur opposition à ce que les décisions de justice soient rendues grâce à de tels outils de jurimétrie92(*). Au-delà de la préservation du rôle du juge, de telles méthodes pourraient dissuader des justiciables d'ester en justice.

Le cadre juridique actuel et la conception de la justice que partagent les différentes professions juridiques assurent que l'acte de juger demeure « une prérogative exclusive du magistrat »93(*). Les outils d'intelligence artificielle générative trouvent toutefois des applications diverses, qui pourraient s'avérer utiles aux personnels judiciaires, sans empiéter sur la décision de justice en elle-même.

b) Les cas d'usage permis et envisagés par les professionnels en juridiction apparaissent similaires à la pratique des autres métiers du droit

Le recours à des logiciels d'intelligence artificielle générative pourrait a priori faciliter l'accomplissement de certaines tâches juridictionnelles chronophages ou fastidieuses. Les autorités juridictionnelles sont toutefois soumises à des contraintes spécifiques d'usage des logiciels d'intelligence artificielle générative, qui résultent notamment de la réglementation relative au traitement des données. La loi « informatique et libertés », le RGPD et, à mesure qu'il entrera en vigueur, le RIA imposent aux juridictions d'observer un cadre particulier de traitement des données à caractère personnel.

Le secrétariat général du ministère de la justice précise, par exemple, qu'un tel encadrement nécessite, en matière civile, un arrêté portant création du traitement par l'autorité réglementaire responsable de celui-ci, conformément à la décision Jamart du Conseil d'État94(*), et en matière pénale, un décret en Conseil d'État pris après l'avis de la commission nationale de l'informatique et des libertés (CNIL)95(*).

Au surplus, l'usage d'un outil d'intelligence artificielle, générative ou non, est proscrit dès lors qu'il implique l'envoi de données - personnelles ou relatives au traitement des dossiers dont la confidentialité doit être garantie - vers des systèmes d'informatique en nuage non sécurisés. Il en va de même lorsque les données, hébergées à l'étranger, peuvent faire l'objet d'une demande de communication. Aussi, le ministère de la justice s'assure que les données sensibles soient traitées par une infrastructure labellisée « SecNumCloud », qui garantit la cybersécurité des services informatiques en nuage96(*). Les autorités juridictionnelles doivent en outre procéder à ces vérifications pour les composants extérieurs du service en question.

Le secrétariat général du ministère de la justice, le Conseil d'État et d'autres personnes auditionnées ont ainsi conclu à la nécessité de développer leurs propres outils d'intelligence artificielle générative au regard du cadre réglementaire actuel. Cela soulève des difficultés qui tiennent aux moyens tant financiers que techniques nécessaires. Les autorités juridictionnelles administratives et judiciaires entendent donc s'assurer du retour sur investissement de tels projets avant d'engager leur développement97(*).

Enfin, en application du RIA, des autorités de surveillance devront être instituées pour contrôler le développement des outils d'intelligence artificielle générative auprès des autorités juridictionnelles. La direction des services judiciaires a précisé qu'il est envisagé de confier cette mission aux autorités créées par la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique98(*).

Les représentants des autorités juridictionnelles auditionnés affirment en conséquence que les personnels ne recourent pas à des outils d'intelligence artificielle - à l'exception du Conseil d'État, qui concède l'usage, par certains de ses membres, de logiciels généralistes pour exécuter certaines tâches, telles que des recherches générales ou la conception de diapositives en vue d'une présentation99(*).

Le Conseil d'État, le secrétariat général du ministère de la justice et le syndicat de la justice administrative estiment par ailleurs que l'offre actuelle des entreprises du secteur de la legaltech manque de résultats probants qui la rendraient attractive pour les juridictions100(*).

Ainsi, du fait de ces contraintes réglementaires et techniques, mais aussi de l'attente des personnels en juridiction à ce sujet, les autorités juridictionnelles s'attachent à identifier des cas d'usage pertinents et réalisables d'outils d'intelligence artificielle générative.

Le secrétariat général du ministère de la justice a procédé, dès 2023, au recensement des cas d'usage de l'intelligence artificielle générative. Cette démarche a permis d'identifier quatre types principaux d'usage de cette technologie, que sont la synthèse, l'interprétariat, la retranscription et l'aide à la recherche.

La Cour de cassation a de surcroît créé une mission de réflexion sur les usages de l'intelligence artificielle, confiée à la directrice du service de la documentation, des études et du rapport (SDER). Si les travaux de cette mission n'ont pas encore abouti101(*), trois principaux types d'usage se sont toutefois distingués : l'amélioration de l'exploitation des mémoires ampliatifs, l'analyse des bases documentaires et l'assistance à la rédaction et à la mise en forme des travaux préparatoires. Les procureurs généraux ont en outre signifié leur intérêt quant à deux outils : l'un, d'aide à l'enregistrement et au traitement des infractions dites de masse ; l'autre, d'assistance à la rédaction de synthèses ou de réquisitoires définitifs102(*).

La magistrature administrative a identifié des cas d'usage similaires, qui rassemblent des outils sommaires - recherche jurisprudentielle, résumé de requête, rédaction de communiqués de presse, téléchargement automatique des écritures des parties - et des logiciels plus complexes - aide à la détection de séries ou de contentieux répétitifs, à l'identification des moyens dans les requêtes, à la rédaction de canevas de décision à partir d'instructions formulées par le magistrat103(*). Le Conseil d'État précise cependant que la rédaction d'une décision ne devrait pas être déléguée à un outil d'intelligence artificielle générative, car elle implique de qualifier juridiquement des faits ou d'interpréter le droit applicable. Il s'agirait plutôt d'une aide ponctuelle, qui apporterait une correction dactylographique, une amélioration de la mise en page et permettrait, grâce à un outil conversationnel, d'accéder à l'ensemble des outils internes d'assistance à la rédaction.

Les utilisations potentielles de l'intelligence artificielle générative au sein des autorités juridictionnelles se concentrent donc sur les recherches juridiques et l'instruction des dossiers, soit la phase préparatoire du jugement, pour que les magistrats puissent se concentrer sur les tâches qui ne peuvent incomber qu'à eux. De tels usages favoriseraient donc une « réhumanisation »104(*) de la justice susceptible d'améliorer la qualité de ce service public structurant de l'État de droit.

2. L'urgence du rattrapage numérique de l'administration de la justice : un préalable à l'adoption de l'intelligence artificielle, générative ou non
a) L'impérieuse nécessité de fournir des moyens informatiques et numériques appropriés aux juridictions judiciaires et administratives

L'appréhension des conséquences potentielles du développement de l'intelligence artificielle générative sur les autorités juridictionnelles implique une attention majeure à l'équipement informatique et numérique des juridictions. En effet, comme l'indiquait le rapport rendu par le comité des États généraux de la justice en avril 2022, l'informatique est « vécue comme un irritant majeur dans les juridictions » judiciaires.

Si le premier plan de transformation numérique du ministère de la justice a permis d'équiper en ultra-portables l'essentiel des agents et que le réseau a été amélioré, certaines juridictions ne sont pas encore reliées à la fibre optique, d'autres ne disposent pas d'un réseau wifi dans l'ensemble de leurs locaux - et surtout, les nombreuses difficultés liées aux applicatifs métiers demeurent.

Extrait du rapport du comité des États généraux de la justice105(*)

« Si un plan très ambitieux de transformation numérique a été engagé pour les années 2018 à 2022 et si certains résultats sont reconnus, les usagers expriment de très vives insatisfactions qui tirent leur origine de plusieurs causes : le dysfonctionnement récurrent, parfois quotidien, des infrastructures et réseaux et des applicatifs (lenteurs, suspensions et interruptions de service) ; l'archaïsme bureautique de certains logiciels, vérifié sur place par les membres du comité et l'obsolescence de certains applicatifs ; le sentiment d'une insuffisante anticipation des besoins des utilisateurs quant aux développements et à leur finition (trames, équipements, incompatibilité des systèmes...) ; le sentiment d'une absence de soutien et d'accompagnement technique, ce problème étant aggravé par le manque de clarté dans la répartition des responsabilités ; le sentiment inévitable, mais profond, que beaucoup de chantiers sont lancés en même temps, mais qu'aucun n'avance réellement, ni n'apporte de réponse aux besoins concrets des utilisateurs. »

La commission des lois et la commission des finances du Sénat, qui évaluent la politique numérique du ministère de la justice lors de l'examen du projet de loi de finances, constatent la permanence des difficultés rencontrées par les personnels en la matière, qu'il s'agisse de la maintenance délicate d'applicatifs souvent obsolètes, ou du développement laborieux des grands projets numériques. Les plus récents rapports en témoignent. La commission des lois observait en 2023 que « certaines difficultés demeurent irrésolues malgré la hausse des moyens » et qualifiait la politique numérique de « chantier sisyphéen de la Chancellerie »106(*). La commission des finances a souligné cette année encore que les manquements identifiés en matière numérique lors des États généraux de la justice et par une enquête de la Cour des comptes de 2022107(*) « demeuraient une réalité quotidienne pour les agents du ministère et qu'ils affectaient leur capacité à assurer un service public de la justice de qualité »108(*). Ce constat est étayé par le dernier avis rendu par la commission des lois, qui alerte quant à « la permanence des difficultés rencontrées par les personnels à l'usage des applicatifs désuets voire dysfonctionnels du ministère », aux « problèmes de développement de ses grands projets numériques » et aux « difficultés pratiques quotidiennes en matière informatique » que rencontrent les agents du ministère109(*).

Les rapporteurs s'inquiètent donc vivement du retard informatique et numérique de la Chancellerie. Au-delà des conséquences qu'il entraîne sur le bon fonctionnement du service public de la justice et de la dégradation des conditions de travail des agents en juridiction qui en résulte, ce retard technologique explique largement le décalage significatif qui s'installe en matière d'intelligence artificielle générative entre les professions judiciaires et les autres métiers du droit. Les premières dépendent de moyens informatiques souvent obsolètes et amorcent leur réflexion relative à l'intelligence artificielle générative, tandis que les seconds s'adaptent déjà à l'usage de cette dernière110(*). Le développement des outils d'intelligence artificielle générative accentue donc l'urgence de combler le retard numérique du ministère de la justice.

Le secrétariat général du ministère de la justice entend à ce titre intégrer l'adoption de l'intelligence artificielle générative à une démarche globale de réduction de la « dette technique » du système d'information de la Chancellerie. Il apparaît en effet avant tout impérieux de poursuivre le second plan de transformation numérique du ministère de la justice, dans la mesure où son succès conditionnera l'intégration des outils d'intelligence artificielle générative à l'environnement numérique de travail des agents du ministère de la justice. Ce plan repose sur trois axes principaux : l'investissement dans l'équipement numérique et les réseaux informatiques des juridictions ; l'amélioration des logiciels nécessaires au travail juridictionnel ; la poursuite de la dématérialisation des actes - signature électronique, transmission de pièces et de décisions - dans le cadre du projet « zéro papier ».

Si la situation apparaît moins préoccupante au sein de la juridiction administrative, où, par exemple, les outils de recherche jurisprudentielle internes sont appréciés - quoiqu'ils puissent être complétés et améliorés -, tant le Conseil d'État que le syndicat des magistrats administratifs signalent toutefois des besoins de personnel, notamment à la direction des systèmes d'information du Conseil d'État, et de matériel, dans la mesure où ils ne disposent pas d'outils de travail dématérialisé performants.

Proposition n° 9 : mettre à niveau les juridictions judiciaires et administratives en matière d'équipement informatique, d'automatisation des tâches et d'outils internes de recherche jurisprudentielle.

b) Les autorités juridictionnelles recourent davantage à l'intelligence artificielle non générative que générative

Si les autorités juridictionnelles ont déjà développé des outils reposant sur une intelligence artificielle non générative et continuent d'en concevoir de nouveaux, elles ne fournissent pas encore à leurs agents de logiciels d'intelligence artificielle générative. Ces derniers font toutefois l'objet de réflexions plus ou moins abouties.

La politique de diffusion des décisions de justice en données ouvertes a nécessité la conception d'outils d'anonymisation fondés sur une intelligence artificielle non générative. La Cour de cassation a donc conçu, dans le cadre de son propre laboratoire d'innovation, un logiciel qui permet d'occulter tous les noms, prénoms et identifiants indirects - numéros de compte bancaire, de sécurité sociale, date de naissance. Cet applicatif est adossé à une interface d'annotation en source ouverte qui permet la vérification et la correction des occultations suggérées. La Cour de cassation estime que les 20 agents annotateurs préposés au fonctionnement de ce logiciel accomplissent un travail qui nécessiterait, sans cette technologie, le concours de près de 300 agents ; ils traitent en effet près de 10 000 décisions par an et par agent. L'ouverture en données ouvertes des décisions de justice a également entraîné des réflexions générales au Conseil d'État en la matière, comme l'a indiqué aux rapporteurs le SJA.

L'intelligence artificielle non générative s'avère par ailleurs utile pour améliorer l'environnement numérique de travail des magistrats. Ainsi en est-il du logiciel « Poste rapporteur », qui permet aux magistrats administratifs de préremplir un modèle de jugement grâce à des données extraites d'un autre applicatif, « Skipper », ou du « portail contentieux », qui se substituera à diverses applications pour améliorer le suivi d'une instruction ou d'un stock. La Cour de cassation a quant à elle développé un algorithme qui procède au tri des mémoires ampliatifs dont elle est saisie.

Aussi, plusieurs autres dispositifs d'intelligence artificielle non générative sont en développement au sein des autorités juridictionnelles. Le Conseil d'État est ainsi en cours de conception d'un logiciel de pseudo-anonymisation des décisions pour améliorer la qualité de l'anonymisation actuelle de celles-ci, et un outil d'optimisation des calendriers d'audience de la Cour nationale du droit d'asile (CNDA). Il envisage au surplus de concevoir des applicatifs permettant de détecter des séries de requêtes, ou d'automatiser le remplissage des formulaires de contestation d'une décision administrative sur « Télérecours citoyens ».

L'autorité judiciaire, aussi, élabore plusieurs instruments d'intelligence artificielle non générative. La direction des affaires civiles et des grâces (DACG) et la direction du numérique (DNUM) développent ainsi un outil numérique qui repose partiellement sur l'intelligence artificielle, « Natinfo ». Celui-ci apporterait aux magistrats et autres agents juridictionnels des renseignements quant aux qualifications pénales, ce à partir de questions non structurées.

Le projet « Épopée », actuellement expérimenté dans le cadre du développement de la procédure pénale numérique (PPN), permettrait en outre l'exploitation de données insérées dans des documents au format « PDF ». Le tribunal judiciaire de Paris expérimenterait par ailleurs un outil de traduction automatique, « Traune ». Le parquet général de Grenoble aurait également suggéré, selon la conférence nationale des procureurs généraux (CNPG), de faciliter le traitement des procédures d'enquête les plus simples au moyen de l'intelligence artificielle non générative.

La Cour de cassation a enfin conduit un projet de recherche intitulé « Divergences » avec l'Institut national de recherche en sciences et technologies du numérique (Inria), après avoir remporté un appel à projets d'Etalab, qui appartient à la direction interministérielle du numérique (Dinum). L'objectif était qu'un algorithme détectât les jurisprudences contradictoires ou divergentes entre les différentes chambres de la Cour111(*). Cette démarche illustre le fait qu'une intelligence artificielle non générative pourrait assister les cours suprêmes dans leur fonction d'harmonisation - et non d'uniformisation - du droit. Le laboratoire d'innovation de la Cour et les magistrats du SDER continuent d'améliorer l'algorithme et entendent y adjoindre un logiciel d'intelligence artificielle générative permettant la rédaction automatique de sommaires.

Certains projets n'aboutissent toutefois pas, comme l'illustre le développement expérimental de « DataJust », permis par le décret n° 2020-356 du 27 mars 2020112(*). Il s'agissait d'élaborer un référentiel relatif à l'indemnisation des préjudices corporels, pour améliorer l'information des justiciables et apporter une aide à la décision juridictionnelle. Cet outil reposait sur un algorithme d'extraction automatique de trois jeux de données : les montants demandés et proposés par les parties, ceux alloués par les juridictions et les évaluations proposées dans le cadre des procédures amiables. L'expérimentation fut cependant abandonnée en janvier 2022, du fait de critiques diverses, qui tenaient principalement au risque de déshumanisation et d'uniformisation de la justice que cet outil charriait, et à la complexité technique que son développement induisait.

Les autorités juridictionnelles considèrent actuellement le développement d'outils d'intelligence artificielle générative à destination de leurs agents. Ces projets, élaborés à partir des cas d'usage exposés supra, apparaissent encore à l'étape de la conception.

Le secrétariat général du ministère de la justice a ainsi choisi, parmi les cas d'usage qu'il a identifiés, d'investir le champ de la retranscription, dit « speech to text ». La perspective retenue par la Chancellerie serait d'intégrer à terme à cet outil une fonction d'interprétariat, ce qui associerait deux cas d'usage des outils d'intelligence artificielle générative identifiés par le ministère de la justice - la retranscription et l'interprétariat. Le ministère de la justice a réalisé dès 2024 les investissements exigés par le développement d'une plateforme appropriée au développement des logiciels. Il est actuellement prévu de conduire les premières expérimentations « en mode projet »113(*) dès 2025 - et d'étudier d'autres applications potentielles de cette technologie dans ce cadre, pour l'aide qu'elle pourrait apporter au magistrat tant au calcul des délais qu'à la connaissance des dossiers114(*).

Le développement significatif des logiciels d'intelligence artificielle, générative ou non, justifie donc la désignation, au sein de chaque juridiction, d'un ou plusieurs référents en la matière. Cette pratique permettrait d'organiser un véritable suivi des usages et des réflexions en la matière ; suivi qui serait précieux dans la perspective de l'élaboration interne d'outils d'intelligence artificielle.

Proposition n° 10 : nommer un ou plusieurs référents en matière d'intelligence artificielle au sein de chaque juridiction.

3. À court terme, des effets potentiellement défavorables de l'intelligence artificielle générative sur l'exercice de la fonction juridictionnelle
a) Des conséquences potentiellement défavorables du recours croissant à l'intelligence artificielle générative des avocats et des justiciables

Le développement des usages de l'intelligence artificielle générative dans le domaine juridique devrait emporter des conséquences indirectes parfois néfastes pour les autorités juridictionnelles. Les représentants de ces dernières qui ont été auditionnés partagent plusieurs craintes, qui tiennent principalement aux effets pervers potentiels des outils d'intelligence artificielle générative sur le contentieux et sur l'utilisation qui pourrait être fait de la diffusion de l'identité du magistrat et du greffier ayant participé à la prise d'une décision de justice.

Les logiciels d'intelligence artificielle générative pourraient ainsi accentuer des phénomènes contentieux défavorables au bon fonctionnement de la justice. Tant le secrétariat général du ministère de la justice, la direction des services judiciaires, la Cour de cassation, l'USM, l'USMA et le SJA anticipent une nouvelle augmentation des entrées contentieuses, de la complexité et du volume des écritures, qui avaient déjà crû du fait de la dématérialisation. La Cour de cassation a par ailleurs produit aux rapporteurs, pour illustrer son propos, une note de la direction des affaires civiles et du sceau du 27 août 2021, et signalé que le ministère de la justice envisage de proposer une normalisation des écritures, quant à leur structure et au nombre de caractères qu'elles contiennent. Si les rapporteurs sont sensibles à l'inquiétude des magistrats à cet égard, ils jugent toutefois préférable de vérifier si ces effets potentiels se concrétisent avant de légiférer. En tout état de cause, ces conséquences entraîneraient, à effectif comparable, une hausse subséquente des délais de jugement qui nuirait au fonctionnement de la justice.

Les représentants du ministère de la justice et des autorités juridictionnelles redoutent par ailleurs que des algorithmes d'intelligence artificielle générative ne permettent d'identifier un plus grand nombre de vices de forme et de procédure, spécialement si les autorités de poursuite et de jugement ne disposent pas d'outils similaires.

Si certaines personnes auditionnées ont manifesté une inquiétude quant au développement de la volonté des justiciables d'ester en justice de manière autonome - l'autojuridication - cette crainte a toutefois été relativisée par plusieurs acteurs. Il apparaît tout d'abord que les logiciels d'intelligence artificielle générative généralistes ne permettent pas, du fait de leurs défauts, d'obtenir des résultats probants en matière juridique. Or, le coût des produits d'intelligence artificielle générative spécialisés en droit prive dans une très large mesure les justiciables de leur accès. Le droit actuel limite, par ailleurs et surtout, le risque d'autojuridication en matière judiciaire, car il impose souvent le ministère d'avocat et ne prévoit que de rares exceptions à cette obligation. La représentation par avocat est ainsi prescrite devant le tribunal judiciaire, en vertu de l'article 761 du code de procédure civile, à l'exception des litiges qui portent sur un montant inférieur ou égal à 10 000 euros et de ceux qui relèvent du juge des contentieux de la protection ou de certaines opérations électorales. Des dispositions similaires sont prévues devant le tribunal de commerce, en vertu de l'article 853 du même code, la cour d'appel et la Cour de cassation, conformément aux articles 899 et 973 dudit code. L'exception générale principale, devant le conseil des prud'hommes, se fonde sur les spécificités de ce contentieux, qui expliquent la possibilité pour les parties d'être assistées notamment par des représentants syndicaux, des salariés ou des employeurs, en vertu de l'article L. 1453-1 du code du travail.

Les autorités juridictionnelles craignent surtout le profilage, voire le ciblage de certains juges et greffiers dont l'identité figure sur les décisions de justice, qui sont désormais diffusées en données ouvertes115(*). Il s'agit là d'une inquiétude qui dépasse la seule question des algorithmes d'intelligence artificielle générative, dans la mesure où elle porte sur le principe même de l'accès, sur internet, à de telles informations.

Certes, l'article L. 10 du code de justice administrative et l'article L. 111-13 du code de l'organisation judiciaire disposent tous deux que « les données d'identité des magistrats et des membres du greffe ne peuvent faire l'objet d'une réutilisation ayant pour objet ou pour effet d'évaluer, d'analyser, de comparer ou de prédire leurs pratiques professionnelles réelles ou supposées. La violation de cette interdiction est punie des peines prévues aux articles 226-18,226-24 et 226-31 du code pénal, sans préjudice des mesures et sanctions prévues par la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés ». Toutefois, cette interdiction de traitement algorithmique des décisions de justice à fin de profilage apparaît insuffisante à certains représentants de magistrats, qui la jugent aisément contournable, en procédant à l'analyse des décisions de la formation de jugement ou de la juridiction.

En outre, ces mêmes dispositions prévoient que, « lorsque sa divulgation est de nature à porter atteinte à la sécurité ou au respect de la vie privée de ces personnes ou de leur entourage, est également occulté tout élément permettant d'identifier les parties, les tiers, les magistrats et les membres du greffe ». Cette possibilité laissée aux autorités juridictionnelles d'anonymiser au cas par cas les magistrats et les membres du greffe ne paraît pas assez protectrice aux autorités juridictionnelles. Le ministère de la justice entend en conséquence engager des réflexions à ce sujet avec la Cour de cassation116(*).

Les rapporteurs, sensibles aux inquiétudes diverses que la publicité de l'identité des magistrats et greffiers suscite, estiment qu'il serait opportun d'étendre à ces derniers l'anonymisation des décisions diffusées en sources ouvertes. Cette évolution législative permettrait de concilier les vertus de la politique d'ouverture des données juridictionnelles et les impératifs qui tiennent à la sécurité des agents en juridiction, comme à la sérénité nécessaire au bon fonctionnement de la justice. Or, celles-ci pourraient être compromises dans les prochaines années, à mesure que les décisions de justice relevant des contentieux pénaux seront diffusées. L'arrêté du 28 avril 2021117(*) prévoit que les décisions rendues en matière criminelle feront l'objet d'une diffusion en données ouvertes à compter du 31 décembre 2025. Les rapporteurs jugeraient donc bienvenu qu'il soit procédé à l'anonymisation des magistrats et des greffiers avant cette échéance, étant précisé que leur nom figurerait toujours dans la décision transmise aux parties.

Proposition n° 11 : anonymiser les magistrats et les greffiers dans les décisions de justice publiées en données ouvertes.

b) Un besoin d'accroissement des personnels des juridictions pour faire face à l'usage de l'intelligence artificielle générative

L'adoption d'outils d'intelligence artificielle générative par les avocats - et les justiciables - pourrait ainsi amplifier les effets pervers indirects que les technologies numériques emportent pour les personnels juridictionnels. Si ces craintes devaient se concrétiser, cela accentuerait le besoin de recrutement que connaissent les autorités juridictionnelles.

Les États généraux de la justice et la loi n° 2023-1059 du 20 novembre 2023 d'orientation et de programmation du ministère de la justice 2023-2017 (LOPJ) ont respectivement souligné et consacré la nécessité de conduire une politique ambitieuse de recrutement au ministère de la justice.

Les magistrats administratifs soulignent aussi les difficultés qu'ils connaissent du fait d'un manque de personnel conjugué à une hausse sensible des saisines. Selon le SJA, les entrées contentieuses auraient ainsi augmenté de 46 % ces dix dernières années, tandis que les effectifs de magistrats n'auraient en moyenne progressé que de 4 %.

Le développement de logiciels d'intelligence artificielle générative au bénéfice des personnels juridictionnels ne devrait pas davantage provoquer la réduction des besoins de recrutement des juridictions administratives et judiciaires. La hausse continue de l'activité contentieuse - qui pourrait s'amplifier au gré de l'adoption de l'intelligence artificielle générative par les avocats et les justiciables - et le déficit chronique de recrutement au sein des juridictions expliquent la persistance vraisemblable du besoin d'augmentation des effectifs juridictionnels.

Les personnels en juridiction estiment au surplus que l'intelligence artificielle générative affectera moins l'essence que la nature de leur emploi. Il s'agit là d'une appréciation partagée par l'essentiel des professions juridiques (voir supra), qui apparaît particulièrement fondée pour les magistrats et autres agents juridictionnels. Le consensus relatif au caractère intrinsèquement humain de la justice suffit à l'établir.

L'adoption réussie de l'intelligence artificielle générative par les juridictions devrait ainsi permettre l'amélioration de la qualité de travail de leurs agents et, partant, des conditions dans lesquelles la justice est rendue. Les magistrats et autres professionnels juridictionnels pourraient donc employer à l'exercice de leurs fonctions essentielles le temps libéré par l'optimisation, voire l'automatisation des tâches les plus répétitives qu'il leur revient d'effectuer118(*). Aussi, l'École nationale des greffes estime que l'affirmation des logiciels d'intelligence artificielle générative pourrait participer à la restauration de l'attractivité de la profession de greffier, dont l'exercice devrait, grâce à ces évolutions, devenir moins « routinier » et solliciter davantage l'« esprit critique »119(*).

L'évolution de la nature des emplois juridictionnels que le développement de l'intelligence artificielle générative pourrait entraîner gagnerait à éclairer les réflexions du ministère de la justice quant à l'organisation des juridictions. L'adoption d'outils d'intelligence artificielle générative pourrait en effet clarifier la répartition des fonctions au sein des juridictions, entre, spécialement, le magistrat, l'attaché de justice et le greffier. La direction de projet « Modélisation des organisations », instituée en 2023 au sein de la direction des services judiciaires pour oeuvrer à l'amélioration de l'organisation du travail en juridiction, devrait ainsi inclure à ses travaux des réflexions relatives au développement de logiciels d'intelligence artificielle générative.

La conception, l'adoption et la maintenance d'outils d'intelligence artificielle générative exigent enfin la création d'emplois spécifiques. Il s'agit par exemple d'informaticiens, nécessaires au développement des directions des systèmes d'information des autorités juridictionnelles, de correspondants informatiques, qui assurent l'assistance technique au sein des juridictions, ou d'autres agents.

La politique de diffusion des décisions de justice en données ouvertes a notamment provoqué le développement des fonctions d'annotateur à la Cour de cassation. L'anonymisation des décisions mobilise ainsi 20 agents annotateurs, qui entraînent l'algorithme et vérifient les suggestions de ce dernier120(*). La Cour de cassation entend par ailleurs conserver et développer son laboratoire de recherche et d'innovation, qui est actuellement rattaché au SDER et compte huit développeurs, ingénieurs et développeurs-opérateurs. Cette volonté est d'autant plus justifiée que les autorités juridictionnelles devront, pour l'essentiel, développer leurs propres solutions d'intelligence artificielle générative, compte tenu de la réglementation qu'elles doivent observer.

Aussi, du fait de la hausse des entrées contentieuses que le développement de l'intelligence artificielle générative pourrait accentuer, du déficit durable de recrutement au sein des autorités juridictionnelles et des nouveaux besoins en personnel qu'engendrera l'adoption de cette technologie, il apparaît vraisemblable que les effectifs des personnels en juridiction connaîtront, ceteris paribus, une augmentation dans les années à venir.

PARTIE III
LA FORMATION DES PROFESSIONNELS DU DROIT : CONDITION INDISPENSABLE D'UNE GÉNÉRALISATION RÉUSSIE DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

A. LA FORMATION INITIALE DOIT ACHEVER SA MUE POUR FORMER DES JURISTES MAÎTRISANT L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE SANS EN ÊTRE DÉPENDANTS

1. Une pénétration croissante des outils d'intelligence artificielle générative au sein des jeunes générations d'étudiants en droit, qui a conduit les écoles de droit à s'adapter
a) L'enseignement du droit se voit bousculé par l'usage des outils d'intelligence artificielle générative

S'il est difficile d'appréhender par des chiffres précis la proportion d'étudiants en droit faisant usage d'outils d'intelligence artificielle générative dans le cadre de leurs études, d'une part en raison de l'absence d'enquête qualitative et exhaustive réalisée en la matière, d'autre part en raison des biais qui résulteraient de telles enquêtes dans la mesure où il est probable que de nombreux étudiants n'admettent pas un tel usage, il semble toutefois assez certain que ces outils ont été largement adoptés par les étudiants en droit depuis le lancement de ChatGTP, fin 2022.

Les six écoles de droit sollicitées par les rapporteurs, l'école de formation professionnelle des barreaux du ressort de la cour d'appel de Paris (EFB), l'école nationale de la magistrature (ENM), l'institut national de formation des commissaires de justice (INCJ), l'institut national des formations notariales (INFN), l'école nationale des greffes (ENG) et l'université Paris-Panthéon-Assas ont toutes confirmé cette assertion.

L'EFB relève ainsi, sans illusion, que « les notes obtenues depuis deux ans »121(*) lors des évaluations sous forme de questionnaire à choix multiple réalisées en distanciel par plateforme numérique « laissent peu de doute sur le recours à l'intelligence artificielle générative » par les étudiants. Cette absence de doute est partagée par l'ENG qui note que, bien que cela soit encore dans des proportions « relativement marginales », les professeurs « ont pu constater des usages de l'intelligence artificielle générative durant les évaluations et au cours des formations ». L'EFB autorise par ailleurs les étudiants à utiliser l'intelligence artificielle générative dans le cadre du « LAB EFB » : 30 % d'entre eux y ont recouru, de façon encadrée cette fois-ci, en 2024.

L'INFN indique quant à elle que « beaucoup [d'étudiants] avouent avoir utilisé ChatGPT sans précaution particulière [mais] davantage par curiosité personnelle », tandis que l'INCJ, sans pouvoir avancer de chiffres, constate qu'il existe sur internet « des publicités destinées aux étudiants pour améliorer la rédaction de leurs copies ou encore leurs méthodes de révisions », certaines entreprises de la legaltech proposant des services à destination des étudiants ayant d'ailleurs été auditionnées par les rapporteurs. Ces outils ont certainement trouvé une clientèle puisque, comme le note l'ENM, « les outils d'intelligence artificielle, payants ou gratuits, sont entrés dans les moeurs des générations actuelles d'élèves magistrats et sont probablement déjà utilisés ».

L'université Paris-Panthéon-Assas estime quant à elle que « les étudiants qui n'ont jamais fait appel [à l'intelligence artificielle générative] sont une petite minorité », certains étudiants ayant même « confié la rédaction de tout ou partie de leur mémoire de fin d'année à ChatGPT ».

En conséquence de cet usage diffus mais sûrement croissant des outils d'intelligence artificielle générative par les étudiants, les méthodes d'enseignement ont été adaptées, parfois de façon contrainte voire à regret, d'autres fois de façon volontariste, à l'initiative des enseignants.

Pour le premier cas, il s'agit principalement des modalités d'évaluation des travaux des étudiants. L'usage des outils d'intelligence artificielle générative pendant les examens, si elle n'est pas forcément à proscrire dans tous les cas dans le cadre d'un monde dans lequel ces outils seront généralisés, fausse toutefois l'appréciation par l'enseignant de la maîtrise des connaissances juridiques de l'étudiant. Par ailleurs, cet usage soulève des enjeux majeurs d'équité entre les étudiants, si seule une partie d'entre eux ont accès à ces outils, en particulier s'il s'agit des outils payants, qui sont de meilleure qualité mais ne sont pas accessibles à tous.

Plusieurs écoles ont ainsi revu relativement précipitamment leurs grilles de notation. L'EFB a décidé d'abandonner le format distanciel pour les épreuves s'appuyant sur un questionnaire à choix multiple, ces épreuves devant être effectuées en présentiel et sur papier à compter de 2025. Dans une logique similaire, certains enseignants de l'université Paris-Panthéon-Assas et de l'INFN ont cessé de noter les devoirs à la maison, le contrôle continue résidant alors sur des exercices en cours ou des examens en présentiel. Si l'INCJ et l'ENM n'ont pas formellement modifié leurs modalités d'évaluation, il convient toutefois de souligner que celles-ci ne laissent aucune place à l'usage d'outils d'intelligence artificielle générative puisque les épreuves notées de l'ENM sont effectuées sur des ordinateurs non connectés à internet, tandis que l'examen d'entrée à l'INCJ ne comporte que des épreuves écrites ou orales lors desquelles les seules aides autorisées sont les codes en format papier.

En parallèle, bien qu'il soit relativement aisé de repérer les copies rédigées partiellement avec des outils d'intelligence artificielle générative (phrases courtes et simples, argumentation soudainement plus étayée que les copies précédentes de l'étudiant, informations décorrélées du contenu du cours, orthographe inhabituellement correcte, présence d'hallucinations, etc.), certaines écoles, à l'instar de l'INFN, prévoient de se munir d'un logiciel détectant l'utilisation d'un outil d'intelligence artificielle générative, notamment pour les travaux notés les plus importants, sur le modèle des logiciels de détection des plagiats.

À l'instar des ordres professionnels, plusieurs écoles, notamment l'ENM, ont élaboré à destination de leurs étudiants et de leur corps professoral des guides de bonnes pratiques, qui rappellent les règles d'usage et les principes déontologiques.

Si les enjeux déontologiques sont assez limités dans le cadre des études de droit stricto sensu, à l'exception du principe d'honnêteté à l'égard du correcteur, l'enjeu est en revanche tout autre lorsque l'étudiant est en stage auprès d'un professionnel du droit. Dans ce cas, deux risques principaux ont été identifiés par les rapporteurs : l'usage des outils d'intelligence artificielle générative sans que le maître de stage n'en soit informé - risque de déloyauté - et l'intégration de données confidentielles ou personnelles, notamment les données du client, pour alimenter les modèles de ces outils - risque de protection des données et de violation de la règlementation européenne et nationale en la matière122(*).

Ces risques ne sont pas seulement théoriques : lors de la « grande rentrée des avocats » organisée le 19 septembre 2024 par le conseil national des barreaux (CNB) et à laquelle a participé Marie-Pierre de la Gontrie en sa qualité de rapporteure de la présente mission d'information, la présidente de l'association des représentants des élèves-avocats de France (AREAF), Sirine Bechouel, a indiqué qu'il était illusoire de penser qu'aucun élève-avocat n'utilisait les outils d'intelligence artificielle générative lors de leurs stages. Cela est d'autant plus significatif que les écoles de droit interrogées par les rapporteurs n'ont eu connaissance d'aucun incident de ce type, laissant entendre que l'utilisation des outils d'intelligence artificielle générative s'est faite, le cas échéant, sans encadrement particulier, voire à l'insu du maître de stage.

C'est pourquoi les rapporteurs saluent l'initiative de l'EFB, qui a diffusé aux élèves et aux maîtres de stage, dès février 2024, ses recommandations pour l'utilisation de l'intelligence artificielle générative en stage. Ils estiment que cette pratique opportune devrait être étendue à l'ensemble des écoles de droit. Il serait par ailleurs judicieux qu'une mention explicite, soit du guide de bonnes pratiques, soit des modalités d'usage de l'intelligence artificielle générative lors du stage, soit intégrée dans toutes les conventions de stage, a minima pour sensibiliser le maître de stage.

Proposition n° 12 : préciser, dans chaque convention de stage des étudiants en droit et en particulier des élèves-avocats, les conditions d'utilisation des outils d'intelligence artificielle générative pendant le stage.

Le second cas d'adaptation des méthodes d'enseignement repose sur l'initiative des professeurs, qui commencent à utiliser volontairement l'intelligence artificielle générative soit pour préparer leur cours, soit pour l'animer.

S'il s'agit encore, selon les données transmises aux rapporteurs, d'une « minorité » - pour citer l'EFB - d'enseignants, celle-ci paraît toutefois substantielle et devrait croître rapidement. En réponse aux interrogations des rapporteurs, l'ENG a ainsi conduit une étude auprès de son équipe enseignante123(*), dont il résulte que 23 % des enseignants de l'école y ayant répondu utilisent des outils d'intelligence artificielle générative pour préparer leurs cours et 18 % recourent à ces outils pour les animer.

L'usage par les enseignants de l'intelligence artificielle générative pour la préparation du cours n'appelle pas de remarque particulière tant que les résultats sont, comme pour toutes les professions du droit (voir supra), vérifiés, que l'enseignant maîtrise son propos une fois qu'il se trouve face aux étudiants et que les données personnelles des étudiants ne sont pas introduites dans les modèles (il ne serait ainsi pas envisageable qu'une copie non anonymisée soit corrigée par de tels outils). L'INFN a ainsi indiqué aux rapporteurs que certains professeurs réalisaient, sans que cela ne pose de difficulté, des questionnaires à choix multiple à l'aide de l'intelligence artificielle générative.

Certains professeurs s'appuient par ailleurs sur les outils d'intelligence artificielle générative, non pas tant pour préparer leur cours en amont mais pour les manier pendant le cours. Natalie Fricero, professeure de droit privé et de sciences criminelles à l'Université de Nice-Côte d'Azur, a par exemple témoigné au cours de la grande rentrée des avocats en octobre 2024, de la façon dont elle avait modifié le déroulé de ses cours pour tenir compte de l'utilisation des outils d'intelligence artificielle générative par les étudiants. Plutôt que de bannir ces outils qui seront de toute façon utilisés par les étudiants en dehors du cours, les étudiants sont scindés en deux groupes pendant le cours, l'un devant répondre à une question de droit sans aide technologique, l'autre en utilisant les outils d'intelligence artificielle générative. Les résultats sont ensuite comparés, ce qui permettrait aux étudiants de prendre conscience des risques d'hallucination et de l'importance du « prompt » et de la vérification des résultats. Sans se prononcer sur le bien-fondé de cette méthode, les rapporteurs notent toutefois que celle-ci illustre, si besoin était, de la pénétration des outils d'intelligence artificielle dans le monde académique juridique.

b) Les maquettes pédagogiques ont été adaptées dans des délais restreints

Outre l'adaptation des modalités d'évaluation et des méthodes d'enseignement, le catalogue de formation initiale des principales écoles de droit a été ajusté afin soit de proposer des modules spécifiques à l'intelligence artificielle voire à l'intelligence artificielle générative, soit d'intégrer dans des modules préexistants des enseignements sur l'intelligence artificielle.

Parmi les six écoles de droit sollicitées par les rapporteurs, quatre d'entre elles proposent déjà des formations initiales intégrant des enseignements liés à l'intelligence artificielle générative, tandis que l'ENG et l'Université Paris-Panthéon-Assas ont indiqué que « les adaptations du catalogue [étaient] en cours de mise en oeuvre »124(*) ou « de réflexion »125(*).

Ces cours ou « ateliers » sont censés préparer les étudiants, selon des modalités propres à chaque profession du droit, au repérage des hallucinations, aux enjeux déontologiques, mais aussi réglementaires de l'usage de l'intelligence artificielle générative, et en particulier à la protection des données, au « prompt engineering », c'est-à-dire la capacité à poser les bonnes questions pour obtenir des réponses pertinentes, et au fonctionnement technique de ces outils. Ces cours représentent, pour ce qui concerne les élèves avocats, un total de sept heures de formation spécifiquement dédiés à l'intelligence artificielle générative appliquée aux avocats.

Outre ces cours, que proposent déjà l'INFN, l'ENM et l'INCJ, l'EFB a également créé un « LAB EFB », qui est devenu obligatoire pour tous les élèves avocats et a été réorienté en janvier 2024 vers leur sensibilisation à l'intelligence artificielle générative. Ce laboratoire, dont l'objectif n'est pas de transmettre des connaissances aux élèves avocats mais de veiller à ce qu'ils développent un esprit « d'innovation » et acquièrent des compétences qui leur seront utiles dans leur pratique professionnelle, est constitué de quelques cours mais surtout d'un accompagnement par des tuteurs sur un projet dédié. Dans ce cadre, tous les élèves suivront une session « d'acculturation » à l'intelligence artificielle générative et « d'utilisation pertinente » de ladite intelligence avec un modèle de « prompt » à créer. À compter de 2025, tous les projets du LAB devront obligatoirement recourir à l'intelligence artificielle générative.

Alors que l'intelligence artificielle générative a été déployée, pour le grand public, il y a deux ans seulement (automne 2022), les rapporteurs saluent la réactivité des principales écoles de droit qui ont su ajuster dans un délai aussi restreint, et alors que la plupart des formateurs sont eux-mêmes encore peu habitués à ces outils, leur offre de formation initiale. Les années qui suivront devraient permettre d'affiner davantage cette offre construite avec célérité.

2. Parallèlement à la transformation du métier de juriste, les formations juridiques devront continuer à accompagner ce mouvement sans rendre les futurs juristes dépendants de ces nouveaux outils
a) Un consensus apparaît quant à la nécessité de former les étudiants en droit au bon usage des outils d'intelligence artificielle générative

Si les principales écoles de droit ont réagi rapidement au déploiement des outils d'intelligence artificielle générative dans le domaine du droit, il convient toutefois de s'interroger sur le bien-fondé de ces adaptations, afin de déterminer si cette réactivité qui paraît, à première vue, louable ne s'apparente pas à de la précipitation.

La réponse à cette interrogation est apparue nettement lors des travaux des rapporteurs. Au cours des auditions et à la lecture des nombreuses contributions écrites reçues, une unanimité remarquable quant à la nécessité de former les futurs juristes (dans une acceptation large qui inclut les magistrats et les professions réglementées du droit) à l'utilisation des outils d'intelligence artificielle générative a émergé126(*).

Cette unanimité résulte de plusieurs constats et opinions partagés.

En premier lieu, la plupart des professionnels interrogés par les rapporteurs, que ce soit des enseignants ou des praticiens du droit, estiment que le mouvement de déploiement de l'intelligence artificielle générative est trop avancé, malgré toutes les limites de ces outils présentées plus en amont dans ce rapport, pour pouvoir en faire abstraction, voire, pour reprendre les termes de l'INFN, pour être en mesure de « lutter » contre leur utilisation par les étudiants et les jeunes professionnels. Dans un esprit similaire, l'ENG considère, pour les futurs agents de greffe qu'elle forme, qu'un « retour dans le passé avec des examens se déroulant sans accès à internet ni aux appareils électroniques [leur] semble inenvisageable et serait déconnecté des réalités de terrain ». Il serait donc vain de formuler une interdiction absolue qui ne serait, de toute façon pas respectée, en particulier pour les devoirs à la maison.

En deuxième lieu, ces outils ne sont certes pas exempts de points de vigilance, mais demeurent prometteurs aux yeux des principales écoles de droit et d'une écrasante majorité des professionnels du droit interrogés par les rapporteurs127(*). C'est pourquoi leur usage n'est non seulement pas interdit dans l'absolu, sauf pour une partie des examens, mais est également formellement promu par certaines écoles, notamment l'EFB et l'ENG. Ainsi l'EFB a-t-elle indiqué aux rapporteurs qu'elle « encourageait le recours à l'intelligence artificielle générative car il s'agit d'un outil de travail qu'il convient de maîtriser au même titre qu'internet ou Excel », tandis que l'ENG s'est fixé pour objectif « de former des juristes [...] capables d'utiliser l'intelligence artificielle générative, [laquelle] est en passe de devenir omniprésente ».

En troisième et dernier lieu, l'adaptation de la formation des futurs juristes apparaît indispensable au regard des transformations que l'intelligence artificielle générative implique sur les métiers du droit. Si l'intelligence artificielle générative n'est pas la seule vectrice de ces transformations, elle les accélère toutefois et les accentue. Ainsi, les juristes de demain, mais aussi d'aujourd'hui, ne peuvent plus être assimilés à des seuls « sachants », qui maîtriseraient l'ensemble du droit. Outre que cela est devenu, déjà depuis plusieurs décennies, pratiquement impossible compte tenu de la complexification du droit, de l'inflation des normes applicables et de la fréquence élevée, dans certains domaines, des modifications législatives et réglementaires, cette connaissance exhaustive du droit peut même apparaître superflue au regard des progrès réalisés en matière de moteurs de recherche, encore accrus grâce à l'ouverture progressive des données des décisions judiciaires depuis 2021, et de la possibilité de poser des questions en langage naturel. Ainsi, si le juriste doit bien évidemment connaître sa matière et avoir un socle de connaissances consistant, il doit de plus en plus, en parallèle, « savoir faire faire » à la machine.

Ce « savoir faire faire », en complément du savoir juridique stricto sensu, n'est pas inné, même pour une génération habituée à un monde digitalisé. C'est pourquoi les formations juridiques ont la lourde responsabilité d'apprendre aux futurs professionnels du droit comment utiliser ces outils dans le respect de la réglementation en vigueur et des principes déontologiques propres à chaque profession, comment poser les bonnes questions (i.e. comment « prompter »), comment repérer les hallucinations et comprendre les biais que contiennent tous les modèles d'intelligence artificielle générative et de leur inculquer le réflexe, absolument indispensable, de systématiquement vérifier tous les résultats.

Pour ce faire, outre les cours, ateliers, conférences ou « laboratoires » dédiés à l'apprentissage théorique et pratique de ces outils et des enjeux qu'ils soulèvent, il apparaît essentiel que les étudiants s'approprient ces outils en utilisant les plus qualitatifs et les mieux adaptés aux métiers du droit. En effet, si l'offre est relativement développée en matière juridique, il existe un fossé assez considérable en termes de qualité de la réponse entre les outils généralistes gratuits - à l'instar du plus connu d'entre eux, ChatGPT -, et les outils spécialisés, généralement payants, proposés par les éditeurs juridiques et les entreprises de la legaltech. La concurrence entre ces modèles et l'écart qualitatif qui existe entre eux soulèvent par conséquent, d'une part, un enjeu d'égalité entre les étudiants, une proportion significative voire majoritaire d'entre eux n'ayant pas les moyens de souscrire à ces abonnements, et, d'autre part, un enjeu d'acculturation aux bons outils, afin que les étudiants développent au plus tôt les bons réflexes. À titre d'exemple, les outils généralistes gratuits ne citent pas toujours leurs sources, ce qui rend plus difficile l'exercice de vérification des résultats auquel les étudiants devraient être habitués.

Or, à ce stade, parmi les écoles de droit ayant contribué aux travaux des rapporteurs, aucune ne fournit aux étudiants un accès à des outils d'intelligence artificielle générative appliqués au droit. Si l'INCJ a bien souscrit à des licences d'exploitation auprès de deux éditeurs juridiques, ces licences ne sont, d'après les informations transmises aux rapporteurs, accessibles qu'au corps professoral et aux services administratifs. L'EFB semble la plus en avance puisqu'elle devrait bénéficier, à partir de 2025, des négociations que la commission formation du conseil national des barreaux a menées avec Lexbase pour que tous les élèves avocats ait accès à son outil d'intelligence artificielle générative.

Proposition n° 13 : inciter les écoles de droit à souscrire des abonnements à des outils d'intelligence artificielle générative spécialisés dans le droit et en fournir l'accès aux étudiants, afin que ces derniers travaillent sur des résultats sourcés plutôt qu'avec des outils généralistes.

Cette pratique que les rapporteurs souhaitent promouvoir a toutefois des conséquences financières pour les écoles de droit, les licences pouvant atteindre jusqu'à 200 euros par mois et par utilisateur. Cependant, le nombre d'étudiants concernés, d'une part, et l'intérêt pour les entreprises de la legaltech et les éditeurs juridiques de fidéliser leur future clientèle, d'autre part, devraient permettre aux écoles de droit de négocier des prix plus soutenables pour les écoles concernées.

b) L'acquisition d'un solide socle de connaissances demeure primordiale afin que les juristes de demain soient en mesure de vérifier les résultats de l'intelligence artificielle générative et de maîtriser ces outils

Comme l'ont rappelé une grande part des professionnels du droit auditionnés par les rapporteurs, le juriste « augmenté » par l'intelligence artificielle générative reste pour autant un juriste. Par conséquent, la formation juridique de demain ne doit pas se résumer à apprendre au juriste à faire faire à la machine, mais doit maintenir un haut degré d'exigence quant à l'acquisition des connaissances juridiques. Outre une assimilation du vocabulaire juridique et des procédures judiciaires que les outils d'intelligence artificielle générative ne pourront pas remplacer, le juriste doit maîtriser l'état du droit malgré la facilité que représente une intelligence artificielle générative qui deviendrait pleinement opérationnelle, d'une part pour être en mesure de repérer les hallucinations dans les résultats de l'intelligence artificielle générative et de prendre de la distance avec la solution qu'elle propose, d'autre part afin de rester compétent y compris lorsque les outils d'intelligence artificielle générative ne seront pas disponibles. Comment qualifier de « bon » avocat celui qui, par exemple, serait incapable de répondre à une question orale de son client sans recourir à un outil d'intelligence artificielle générative ou un juriste qui n'arriverait pas à vérifier les résultats de l'outil faute de maîtriser le raisonnement juridique ?

L'enjeu pour les formations juridiques est donc de préparer les futurs juristes à l'usage de l'intelligence artificielle générative sans pour autant contribuer à un « assèchement des compétences », pour reprendre les mots de Christophe Barret, procureur général près la cour d'appel de Grenoble. Il existe en effet un risque assez largement reconnu que l'utilisation « immodérée »128(*) de l'intelligence artificielle générative dès les études de droit rende les étudiants « excessivement dépendants »129(*) de ces outils, qui deviendraient non plus une assistance, mais de l'assistanat. Autrement dit, il est à craindre, comme le relève l'ENG, « une diminution de l'effort d'apprentissage, de la réflexion critique et du travail de mémorisation, les apprenants perdant leur capacité à penser par eux-mêmes ou à fournir des efforts intellectuels s'ils se reposaient trop sur les réponses générées par l'intelligence artificielle ». Cette crainte est partagée par le président de l'université Paris-Panthéon-Assas, Stéphane Braconnier, selon lequel « il existe un risque en termes de formation, car les étudiants vont immanquablement prendre l'habitude de demander à l'intelligence artificielle générative de réfléchir à leur place, ce qui conduira à une diminution de leur compétence professionnelle autonome ». Aussi l'EFB a-t-elle « insisté » dans sa contribution adressée aux rapporteurs « sur le fait que pour être en mesure de tirer profit des capacités de l'intelligence artificielle générative, encore faut-il être en mesure de maîtriser son sujet pour corriger les résultats le cas échéant [...] et rester maître de l'outil ».

Pour ce faire, il convient de conserver, en parallèle de l'acculturation à l'intelligence artificielle générative, un objectif de transmission des savoirs qui doit être adapté au déploiement de l'intelligence artificielle générative, sans pour autant être obéré. C'est pourquoi les rapporteurs plaident pour le maintien d'examens sur table ou d'oraux effectués sans l'aide de l'intelligence artificielle générative, quitte à ce que ces examens sous un format « classique » soient couplés à d'autres examens qui permettraient d'évaluer la capacité de l'étudiant à recourir convenablement et utilement à l'intelligence artificielle générative.

Comme le souligne l'ENG, cela signifie en outre pour les formations juridiques d'accentuer, si besoin était, les efforts faits pour inciter les étudiants à développer leur esprit critique. La plus-value du juriste reposera en effet de plus en plus sur sa capacité à remettre en cause les résultats de l'intelligence artificielle générative, voire à innover, alors que son client pourra avoir accès aux mêmes résultats en posant les mêmes questions à mesure que ces outils se démocratiseront.

c) Des schémas d'insertion professionnelle des jeunes juristes à repenser

Outre ses conséquences sur la formation initiale stricto sensu, le déploiement de l'intelligence artificielle générative dans le domaine du droit pourrait également affecter les schémas d'insertion professionnelle des jeunes juristes.

En effet, les tâches que ces outils peuvent réaliser au stade actuel de leur développement, en particulier la synthèse de documents et des recherches juridiques simplifiées, pourraient rendre superflue l'embauche d'un stagiaire ou d'un jeune collaborateur peu expérimenté. Or, ces tâches, qui ont certes une plus-value intellectuelle assez limitée, participent cependant de la formation des jeunes juristes et leur permettent de gagner en maturité professionnelle.

À ce titre, deux écueils sont à craindre.

Le plus évident, et qui pourrait se manifester assez rapidement, est une réduction possible des embauches de stagiaires, en particulier dans les cabinets d'avocats. L'EFB note par exemple que l'intelligence artificielle générative « permettra peut-être de rationaliser le recours aux stagiaires [...] dans les grandes structures ». Les juristes en formation pourraient alors éprouver des difficultés à valider leur diplôme si le vivier de cabinets prêts à accueillir - et rémunérer - des stagiaires diminue significativement. Par ailleurs, l'acquisition du savoir-être professionnel serait ainsi retardée, les jeunes collaborateurs entrant dans le monde du travail pouvant mettre plus longtemps à être opérationnels, faute d'un nombre suffisant d'immersions professionnelles au cours de leurs études.

Le second écueil concerne justement l'insertion professionnelle des jeunes juristes, une fois leurs études terminées. Si, globalement, l'intelligence artificielle générative ne semble pas faire peser sur les professions du droit un risque existentiel qui pourrait entraîner une forte diminution des effectifs de ces professions130(*), il n'en demeure pas moins que le recours à de jeunes collaborateurs ou des assistants juridiques inexpérimentés, à qui des tâches de préparation des dossiers sont habituellement confiées, pourrait être réduit à mesure des avancées des outils d'intelligence artificielle générative, un même collaborateur pouvant traiter davantage de dossiers qu'auparavant. En conséquence, les exigences en termes d'expérience lors des embauches pourraient croître, et ce alors que le vivier de collaborateurs expérimentés pourrait diminuer à mesure qu'il deviendrait plus difficile d'obtenir une première expérience professionnelle.

Il est à ce stade trop tôt pour déterminer si ces inquiétudes sont fondées. Si une petite partie des professionnels auditionnés par les rapporteurs estime que ces risques sont « réels et sérieux », pour reprendre les mots des représentants de l'INFN, les rapporteurs s'étonnent toutefois de la naïveté, voire du déni, dont a fait preuve une part substantielle des représentants des professions auditionnées, en particulier les avocats. Il a notamment été avancé, à plusieurs reprises lors des auditions, qu'il n'y aurait pas de réduction des embauches de stagiaires, d'assistants juridiques et de jeunes collaborateurs dans les cabinets d'avocats, mais qu'au contraire le développement de l'intelligence artificielle générative permettra de veiller à ce que les stagiaires aient davantage de temps d'observation qualitatif, notamment en accompagnant systématiquement leur maître de stage lors des rendez-vous avec le client. Les stages de plus de deux mois devant obligatoirement être rémunérés, de même, bien évidemment, que les emplois d'assistant juridique et de collaborateur, les rapporteurs doutent que la généralisation des outils d'intelligence artificielle générative dans les cabinets d'avocats n'ait aucune conséquence sur l'embauche des juristes inexpérimentés.

Bien sûr, dans l'absolu, le recours aux juristes nouvellement diplômés ne va pas disparaître et il n'est pas question de tomber dans un catastrophisme exagéré. Les rapporteurs invitent toutefois les ordres professionnels ainsi que les écoles de droit à être vigilants sur les deux écueils avancés et à suivre les évolutions entraînées par l'intelligence artificielle générative sur l'insertion professionnelle des jeunes juristes, pour éventuellement initier une refonte de ces schémas d'insertion. Plus que la réalité de ces écueils, encore difficilement évaluable, c'est leur négation sans réflexion apparente qui peut en effet alarmer.

B. LA FORMATION CONTINUE : INDISPENSABLE AU DÉPLOIEMENT HOMOGÈNE ET VERTUEUX DES OUTILS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE AU SEIN DE CHAQUE PROFESSION

1. L'offre de formation continue s'adapte progressivement à l'affirmation des outils d'intelligence artificielle générative

L'ensemble des représentants des autorités juridictionnelles entendus par les rapporteurs tient pour essentielle l'adaptation de la formation continue au développement et, partant, à l'adoption de l'intelligence artificielle générative. Cette unanimité résulte du constat dressé supra quant aux spécificités de cette technologie. L'usage de cette dernière exige, en effet, une certaine connaissance de ses modalités de fonctionnement. Une formation est donc nécessaire pour apprendre à interagir avec ces modèles (« prompt engineering ») et donc pouvoir bénéficier véritablement de leurs potentialités. Si cette compétence semble technique, il est malgré tout essentiel que les professionnels du droit l'assimilent, car ils ont vocation à recourir eux-mêmes à ces outils d'intelligence artificielle générative.

Au-delà de ces compétences techniques, il apparaît primordial de définir et de diffuser des règles d'usage de l'intelligence artificielle générative, pour que ses utilisateurs soient conscients des limites de ces modèles probabilistes et qu'ils se conforment à la réglementation en vigueur lorsqu'ils y recourent, comme aux obligations déontologiques qui leur sont spécifiques. Aussi, le fait que l'usage de ces algorithmes obéira en principe essentiellement aux codes de bonne pratique édictés par les ordres professionnels souligne l'importance structurante de la formation par les pairs.

Cet impératif de formation vaut ainsi tant pour la formation initiale, que pour la formation continue. Le succès du déploiement des instruments d'intelligence artificielle générative repose en effet sur la formation effective des actifs à leur usage, ce dont conviennent tous les représentants des professions juridiques auditionnés.

Aussi, la plupart des ordres professionnels et des écoles de droit adaptent progressivement leur catalogue de formation continue pour y inclure des modules relatifs aux logiciels d'intelligence artificielle générative.

Le conseil national des barreaux souligne l'importance de la sensibilisation des avocats aux enjeux de l'intelligence artificielle générative et de leur formation à son utilisation. Il signale que les écoles d'avocats procèdent actuellement à l'adaptation de leurs programmes de formation continue. Les barreaux peuvent en outre également participer à cette démarche de formation. Le barreau de Paris conçoit par exemple, dans le cadre de la formation continue, un cycle consacré spécifiquement à l'intelligence artificielle générative, qui sera gratuit et accessible au plus grand nombre d'avocats.

Le conseil supérieur du notariat (CSN) tient également pour nécessaire l'adaptation de la formation continue des notaires. Des modules consacrés aux divers enjeux que charrie l'intelligence artificielle générative pour la profession notariale sont ainsi conçus. La chambre des notaires de Paris a par exemple décidé de concevoir des modules relatifs à l'intelligence artificielle générative en collaboration avec les Universités de Saclay et de Paris II Panthéon-Assas. Cette institution oeuvre par ailleurs à l'identification de cas d'usage propres au métier de notaire, pour élaborer un apprentissage par « preuve de concept » ; cette méthode consiste en l'enseignement, par la pratique, des enjeux d'une technologie.

L'INFN a également souligné l'adaptation de son catalogue de formation continue. Plusieurs modules relatifs à l'intelligence artificielle générative ont ainsi été introduits pour former les enseignants et le personnel administratif, notamment sur le site lyonnais de l'institut. Des sessions spécifiques de formation ont par ailleurs été proposées aux notaires - classe de maître (de l'anglais « master class ») lors des congrès de notaires ; formations à l'occasion du Notalab ; journées « expert » organisées à l'attention des collaborateurs et des notaires.

L'INCJ adapte son offre de formation continue par la création de plusieurs modules consacrés à l'intelligence artificielle générative. Il fait appel à des prestataires extérieurs spécialisés, car il ne dispose pas encore d'enseignants compétents en la matière. Cela souligne la nécessité d'organiser « la formation des formateurs ».

Le secrétariat général du ministère de la justice envisage bien d'adapter la formation continue des différentes professions judiciaires aux enjeux de l'intelligence artificielle générative, de la même manière qu'elle a toujours évolué au gré des évolutions numériques. La formation continue devra, à ce titre, intégrer trois volets principaux, que sont les questions éthiques soulevées par cette technologie, les risques que celle-ci entraîne en matière de cybersécurité comme de protection des données à caractère personnel, et l'apprentissage de son utilisation - de la rédaction des « prompts » à la nécessité de contrôler les résultats obtenus.

Les rapporteurs ont été informés par le secrétariat général du ministère de la justice que deux modules complets de formation figurent d'ores et déjà sur la plateforme interministérielle « Mentor » ; ces modules, à destination de tous les agents du ministère, reposent sur des supports divers - vidéos, documents et modules interactifs.

L'adaptation de la formation continue des magistrats est assurée par l'ENM, qui a enrichi son catalogue de sessions et de séquences dédiées à l'intelligence artificielle générative. L'ENM a en outre créé un groupe de travail spécifique, à qui il revient d'élaborer de nouvelles formations, notamment celles à destination des formateurs. L'école propose enfin un cycle approfondi du numérique, « CaNUM », qui a vocation à aborder les enjeux relatifs à l'intelligence artificielle générative.

L'ENG assure, elle aussi, l'intégration de formations consacrées à cette technologie dans son catalogue. Cette démarche apparaît en revanche récente. Ses représentants citent par exemple l'intégration à la formation « Manager l'innovation » d'une présentation relative aux apports de l'intelligence artificielle pour la gestion. L'adaptation de la formation continue de l'ENG à l'affirmation de l'intelligence artificielle générative devrait cependant progresser dans les prochains mois, car l'école a institué un groupe de travail auquel il revient de définir le cadre d'usage de cette technologie. L'ENG signale toutefois que le manque de formateurs sensibilisés à l'intelligence artificielle générative limite ses ambitions en la matière ; cela nécessite en conséquence l'intervention ponctuelle d'experts du domaine.

L'ENG participe enfin au groupe de travail « digitalisation » du réseau européen de formation judiciaire (REFJ), qui oeuvre à élaborer des formations dans le domaine de l'intelligence artificielle générative. Ces dernières seront intégrées au catalogue de formation continue de l'école.

Les juridictions administratives partagent, avec l'autorité judiciaire, cette conscience de la nécessité d'adapter la formation continue aux enjeux spécifiques à l'intelligence artificielle générative. Le Conseil d'État a ainsi indiqué aux rapporteurs qu'il fournit déjà aux magistrats et aux membres du Conseil d'État une information au sujet des risques spécifiques qu'entraîne l'usage de ces algorithmes. Enfin, le Conseil d'État conçoit actuellement une formation tant théorique que pratique à ce sujet, qui devrait être dispensée au sein des juridictions administratives, et s'articuler avec la charge du bon usage de l'intelligence artificielle en cours d'élaboration.

Si ces nombreux exemples témoignent de l'effort fourni pour adapter la formation continue au développement de l'intelligence artificielle générative, les rapporteurs estiment qu'il importe de l'accentuer pour favoriser l'adoption de cette technologie par les professions juridiques. Il apparaît en effet que l'essentiel des modules dédiés à ces enjeux demeure à l'état de projet. Or, les applications à la matière juridique des logiciels d'intelligence artificielle générative connaissent une augmentation significative et rapide - et leur succès repose sur la qualité de la formation continue dispensée aux professionnels du droit. Cette dernière permettra de prévenir les mauvais usages de cette technologie et d'en exploiter les avantages manifestes.

Proposition n° 14 : Poursuivre - et accélérer - l'adaptation de la formation continue aux enjeux et à l'utilisation de l'intelligence artificielle générative.

2. La diffusion de l'offre de formation continue accompagnera et amplifiera le développement des logiciels d'intelligence artificielle générative

La nature de l'intelligence artificielle générative et la diversité des tâches à la réalisation desquelles cette technologie pourrait être associée justifient la nécessité de développer de nouvelles formes de formation continue et de les diffuser auprès de l'ensemble du personnel qui entoure les professionnels du droit.

L'adoption de modalités diverses de formation s'explique par le développement rapide de cette technologie et de l'offre de logiciels qui en découle, autant que par l'adaptation progressive de la formation continue classique à ce phénomène. Il apparaît ainsi judicieux aux rapporteurs d'encourager la formation par les pairs et la formation interne.

Si plusieurs personnes auditionnées ne constatent pas d'approche différenciée dans l'adoption de cette technologie en fonction des générations, il apparaît toutefois précieux d'encourager de nouvelles modalités de formation aux enjeux et à l'usage de l'intelligence artificielle générative. Le CSN suggère ainsi le recours à des méthodes de formation numériques pour faciliter la diffusion des connaissances en la matière. Il estime à cet égard opportun d'élaborer différents modules de formation accessibles en ligne (« e-learning » et « massive open online course »). Les rapporteurs partagent cette analyse et jugent en effet utile de recourir à des modalités de formation qui permettent une diffusion rapide et généralisée de cette dernière.

Le CNB souligne en outre que plusieurs cabinets d'avocats organisent la formation interne de leurs associés et collaborateurs à la formulation d'invites, ou prompt engineering. Il cite notamment les exemples d'Orrick, Herrington et Sutcliffe et de K&L Gates, qui dispensent à leurs stagiaires d'été une formation relative à l'intelligence artificielle générative, et du cabinet MinterEllison, qui récompense ses avocats avec une monnaie numérique interne au cabinet lorsqu'ils suivent des modules de formation en la matière.

Le développement de la formation interne constitue, pour les rapporteurs, un moyen efficace de diffuser les bonnes pratiques en matière d'intelligence artificielle générative. Il serait à cet égard bienvenu de favoriser des modalités spécifiques de formation, suivant, par exemple, la logique dite du « reverse mentoring », qui consiste à demander aux agents issus de générations habituées à l'usage des outils d'intelligence artificielle générative, de sensibiliser à ces outils les professionnels plus expérimentés.

Proposition n° 15 : Encourager de nouvelles modalités de formation, qui favorisent notamment la formation des professionnels les plus expérimentés par de jeunes collaborateurs compétents en matière d'intelligence artificielle (« reverse mentoring »).

Au-delà, l'élaboration des guides professionnels de bonnes pratiques en matière d'intelligence artificielle générative devra être suivie d'une diffusion de ces derniers, dont l'amplitude et la qualité dépendront de l'engagement des personnels encadrants. Ils devront veiller à l'appropriation, par leurs pairs, de ces guides, qui constituent la première étape de la formation relative à l'intelligence artificielle générative.

Les particularités de cette technologie justifient au surplus d'étendre cette formation à l'ensemble du personnel des structures concernées - qu'il s'agisse d'un cabinet d'avocats, d'un office notarial, d'une juridiction ou d'une autre organisation. Si le professionnel du droit est, comme cela a été expliqué supra, l'utilisateur privilégié des outils d'intelligence artificielle générative, il apparaît toutefois essentiel que ses différents assistants reçoivent une formation à ce sujet.

L'INFN souligne à ce titre la nécessité d'organiser la formation des collaborateurs des notaires, dans le cadre des brevets de technicien supérieur (BTS) et du diplôme des métiers du notariat, voire d'envisager la création de nouvelles professions liées à l'usage de l'intelligence artificielle générative.

La nécessité d'assurer une formation généralisée des personnels tient à la nature de cette technologie, qui embrasse une diversité de tâches significative, et à la sensibilité des informations que traitent les professionnels du droit. Les rapporteurs recommandent donc d'offrir une formation générale des effectifs au sujet de l'intelligence artificielle générative, démarche d'autant plus importante que, selon une étude Ifop pour Talan de mai 2023, parmi les Français qui déclarent utiliser les dispositifs d'intelligence artificielle générative dans leur cadre professionnel, 68 % d'entre eux omettent d'en informer leur supérieur131(*).

Proposition n° 16 : veiller à la formation de l'ensemble du personnel - et non seulement des professions juridiques - aux enjeux de l'intelligence artificielle générative.

PARTIE IV
UNE POLITIQUE PUBLIQUE À STRUCTURER DAVANTAGE, SANS SUPERPOSER LES RÉGLEMENTATIONS

A. L'ÉTAT CONDUIT UNE POLITIQUE BIENVENUE DE SOUTIEN À L'OFFRE DE SOLUTIONS D'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE

1. La diffusion des décisions de justice en données ouvertes a favorisé le développement de l'intelligence artificielle générative dans le domaine juridique

La politique d'ouverture des données de justice conduite par l'État a grandement participé au développement de l'intelligence artificielle - générative ou non - dans le domaine juridique. Cette démarche s'est opérée en plusieurs étapes, que sont la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique, la loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice, le décret n° 2020-797 du 29 juin 2020 relatif à la mise à la disposition du public des décisions des juridictions judiciaires et administratives et le décret n° 2021-1276 du 30 septembre 2021 relatif aux traitements automatisés de données à caractère personnel.

La diffusion en données ouvertes des décisions juridictionnelles a tout d'abord requis, en pratique, l'adaptation des outils informatiques dont dépendent le suivi des procédures et la formalisation des décisions de justice. La Cour de cassation a par ailleurs conçu des outils d'anonymisation des décisions nécessaires à la garantie du respect de la vie privée et de la sécurité des personnes, qui reposent eux-mêmes sur l'intelligence artificielle132(*).

Cette politique constitue, de l'avis de l'essentiel des personnes auditionnées, une réussite précieuse. Les rapporteurs ont en outre constaté la qualité de son exécution, car le calendrier de déploiement de la diffusion des données, par juridiction et par type de contentieux, a été respecté133(*). Les décisions de la Cour de cassation sont donc en libre accès depuis 2021, et celles rendues par les cours d'appel en matière civile, commerciale et sociale, depuis 2022. Cela représente pour l'heure près d'un million de décisions civiles diffusées en données ouvertes par an.

Les statistiques de fréquentation du moteur de recherche et de l'interface de programmation d'application, de l'anglais « application programming interface » (API), Judilibre, sur lesquels sont diffusées les décisions de justice sont à cet égard éloquentes. Le moteur de recherche du site Judilibre a ainsi comptabilisé à lui seul près de 6 500 000 consultations ces douze derniers mois134(*). Les rapporteurs jugent en conséquence judicieux que la Chancellerie s'inspire de ce succès pour la conduite des autres volets de sa politique numérique.

Le secrétariat général du ministère de la justice a par ailleurs précisé auprès des rapporteurs que la Cour de cassation ne dispose, dans ses bases internes et avant 2021, que de ses décisions et de celles des cours d'appel. L'extension de la diffusion des décisions de justice en données ouvertes aux années antérieures à 2021 ne serait donc pas envisageable pour les tribunaux judiciaires, ce qui compromet largement la revendication, parfois avancée par des entreprises de la legaltech, de procéder à l'ouverture des données de justice antérieures à 2021.

La réussite de la politique de diffusion en ligne des décisions de justice fournit un ressort significatif au développement des outils d'intelligence artificielle générative en France, comme l'a relevé France Digitale, car elle a apporté aux entreprises de la legaltech et aux éditeurs juridiques de nombreuses données de qualité, qui sont nécessaires à l'entraînement des algorithmes développés.

Cette action de l'État illustre par ailleurs le fait que les solutions d'intelligence artificielle générative nécessitent un environnement spécifique pour se déployer. Au-delà de la donnée, cette technologie repose sur des infrastructures spécifiques, qui consomment, du fait de leur puissance de calcul significative, une énergie abondante. L'élaboration des algorithmes nécessite, quant à elle, la formation d'ingénieurs spécialisés - et donc l'existence de centres de recherche de renommée internationale.

L'accompagnement direct des entreprises de la legaltech ne constitue donc qu'un volet du soutien qui leur est apporté par l'État ; l'existence même de ces sociétés est en effet largement tributaire de la qualité de l'environnement technologique et académique du pays.

2. Les entreprises de la legaltech qui investissent le champ de l'intelligence artificielle générative bénéficient de plusieurs dispositifs d'aide publique généraux
a) Les politiques publiques de soutien aux secteurs de l'intelligence artificielle en général et de l'intelligence artificielle générative en particulier

L'État a élaboré une politique publique ambitieuse pour favoriser le développement, en France, de l'intelligence artificielle, la stratégie nationale pour l'intelligence artificielle. Celle-ci repose sur de nombreux dispositifs généraux, qui bénéficient directement et indirectement aux entreprises de la legaltech et a été pourvue d'une enveloppe globale de 3,7 milliards d'euros, qui intègre des investissements privés mobilisés grâce à un effet de levier, comme l'a développé Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique. Cette politique publique a connu deux séquences principales.

La première, qui s'est étendue de 2018 à 2022, a privilégié le développement des capacités de recherche de la France et l'investissement dans les infrastructures essentielles au développement de cette technologie. L'État a ainsi engagé des moyens pour que le nombre d'étudiants formés à l'intelligence artificielle augmente - et donc que des solutions fondées sur cette dernière soient conçues en France. Il a ensuite été procédé à la création des institutions interdisciplinaires d'intelligence artificielle, dits « 3IA », qui favorisent les applications de cette technologie à différents domaines, dont le secteur juridique. Enfin, l'État a oeuvré au développement de la puissance de calcul, en investissant notamment dans le supercalculateur Jean Zay et par là même dans une infrastructure nécessaire au développement, en France, de l'intelligence artificielle générative.

La seconde phase de la stratégie nationale pour l'intelligence artificielle, qui devrait s'achever en 2025, implique tout d'abord de poursuivre la politique de formation, dont dépend la qualité de l'écosystème technologique. Aussi, l'appel à projets « IA cluster » a été conçu pour que des pôles d'enseignement et de recherche en intelligence artificielle de dimension européenne et mondiale s'affirment en France.

De la même manière, l'appel à manifestation d'intérêt « Compétences et métiers d'avenir », qui s'inscrit dans le cadre du plan France 2030, vise notamment à favoriser la formation des divers professionnels dont l'expertise participe au développement de cette technologie.

Si ces dispositifs ne bénéficient pas directement aux entreprises du secteur de la legaltech, le succès de ces dernières y participe toutefois. L'intelligence artificielle générative nécessite en effet un capital technologique et humain considérable, que l'État a grandement contribué à établir en France, en favorisant initialement le développement de l'intelligence artificielle non générative. Cette politique pérenne et protéiforme explique en partie pourquoi 15 % des entreprises françaises utilisent des logiciels nationaux, au premier rang desquels Mistral AI, contre seulement 3 % des entreprises européennes135(*) - et que les acteurs de la legaltech soient si nombreux en France.

L'État a également conduit des politiques plus spécifiques d'aide au développement de la technologie, pour accompagner les entreprises innovantes. Il en va ainsi de l'appel à projets « Maturation technologique et
démonstration de solutions d'intelligence artificielle embarquée » de Bpifrance, qui a permis d'accompagner des entreprises dans la conception d'une solution fondée sur l'intelligence artificielle non générative.

Certains dispositifs de soutien public ciblent désormais spécifiquement l'intelligence artificielle générative. L'appel à projets « Communs numériques pour l'intelligence artificielle générative » se consacre par exemple au développement de l'environnement technologique nécessaire aux algorithmes d'intelligence artificielle générative, qu'il s'agisse des modèles de fondation, ou des bases de données.

Si l'État cible ainsi l'aval de la chaîne de valeur de cette technologie, il incite également les acteurs du secteur à concevoir des solutions non seulement utiles aux professionnels, mais aussi viables économiquement. L'appel à projets « Accélérer l'usage de l'intelligence artificielle générative dans l'économie » entend par exemple favoriser le développement d'outils d'intelligence artificielle générative intégrés, qui disposent d'un niveau de fonctionnalité avancé et d'une éventualité d'adoption à court terme. La logique de cet appel à projets repose sur l'association de développeurs et d'utilisateurs d'intelligence artificielle générative, pour qu'ils oeuvrent ensemble à la conception de produits susceptibles d'être commercialisés. Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique, a précisé aux rapporteurs lors de son audition que près de 10 % des projets retenus concernaient le secteur juridique - et plusieurs entreprises du secteur de la legaltech auditionnées par les rapporteurs ; à l'instar de Tomorro, leur ont signalé leur satisfaction à ce sujet et leur participation à cet appel à projets.

b) Les politiques publiques de soutien aux jeunes pousses, ou start-up, dont peuvent en principe bénéficier les entreprises du secteur de la legaltech

Les entreprises du secteur de la legaltech peuvent bénéficier d'actions publiques conçues pour faciliter le financement des start-up en général, et le soutien à l'innovation de rupture en particulier.

La participation de l'État au financement des start-up se justifie par l'existence de failles de marché ; il apparaît en effet nécessaire, du fait de l'intensité capitalistique de certains investissements, des risques associés à certaines technologies ou du temps de développement requis par certaines entreprises, que la personne publique incite les opérateurs privés à investir.

Bpifrance et l'agence de l'environnement et de la maîtrise de l'énergie (Ademe) gèrent donc pour le compte de l'État quatorze fonds d'investissement publics, qui interviennent à chaque étape des levées de fonds, du pré-amorçage et de l'amorçage, avec par exemple les fonds FT Seed, F3A ou FNA3, jusqu'à la phase d'expansion des entreprises, à laquelle participe le fonds Multi Cap Croissance 4, par exemple.

La DGE a précisé aux rapporteurs que les gestionnaires des fonds obéissent à la règle de l'investisseur avisé ; ils doivent en conséquence systématiquement associer des acteurs privés à leurs investissements - ce qui explique pourquoi les prises de participation de Bpifrance n'excèdent en principe pas 30 % du capital de l'entreprise concernée.

Les entreprises de la legaltech peuvent donc bénéficier d'une aide publique au financement structurée. L'accès au financement des start-up connaît toutefois une limite principale, qui s'apprécie à l'échelle de l'Union européenne : la profondeur du marché financier européen est actuellement insuffisante pour offrir aux entreprises le financement que requiert leur phase d'expansion. Les entreprises de la legaltech apparaissent toutefois moins concernées par cette difficulté, car elles nécessitent des investissements plus faibles que les sociétés qui développent des modèles d'intelligence artificielle généraliste, telles que Mistral AI. Selon France Digitale, leur spécialisation sectorielle leur permet a priori d'apporter une solution plus efficace et moins coûteuse à leurs clients potentiels.

Le soutien public à l'innovation de rupture

Les start-up spécialisées dans l'innovation de rupture, dites « deeptech », bénéficient d'un soutien public consacré en 2019 par le lancement du plan Deeptech. Cette politique publique repose sur plusieurs actions, telles que le développement du capital-risque spécialisé dans la deeptech grâce aux fonds d'investissement publics qui dépendent de Bpifrance, la création de subventions spécifiques octroyées par Bpifrance (concours i-Lab, bourse French Tech émergence, aide au développement deeptech), l'accompagnement des entreprises les plus prometteuses et la simplification du cadre juridique propre au transfert technologique.

Le plan Deeptech a contribué au dynamisme du secteur en France. Entre 2019 et 2024, le nombre annuel de start-up créées dans ce domaine a doublé et le montant annuel de fonds levés a presque triplé. Aussi compte-t-on désormais près de 2 170 start-up de la deeptech en France, dont les levées de fonds ont atteint 4,1 milliards d'euros en 2023136(*), contre 1,5 milliards d'euros en 2019. La France se situe donc à la deuxième place en Europe, derrière le Royaume-Uni, et à la quatrième à l'échelle mondiale, selon la DGE.

La politique publique en matière d'intelligence artificielle, générative ou non, comporte donc plusieurs volets qui bénéficient, directement ou indirectement, aux entreprises du secteur de la legaltech. Les modalités de l'appel à projets « Accélérer l'usage de l'intelligence artificielle générative dans l'économie » soulignent toutefois la nécessité d'assurer la rencontre entre l'offre de solutions d'intelligence artificielle générative dans le domaine juridique et la demande des professionnels du droit. Aussi, l'État développe des actions de sensibilisation des acteurs pour les inciter à adopter
cette technologie, car ils sont encore trop peu nombreux à s'en saisir - en dehors de certains acteurs, spécialement parmi les cabinets d'avocats, qui embrassent avec méthode cette évolution technologique.

B. L'ÉTAT oeUVRE À L'ADOPTION DE L'INTELLIGENCE ARTIFICIELLE GÉNÉRATIVE PAR LES PROFESSIONNELS DU DROIT

Les politiques de soutien public à l'offre de solutions d'intelligence artificielle générative doivent s'accompagner d'actions de sensibilisation de la demande, car cette dernière se saisit encore insuffisamment de cette technologie. Il apparaît en effet que les solutions d'intelligence artificielle générative sont encore peu assimilées par les entreprises françaises, tous secteurs confondus.

La DGE a réalisé une étude avec les directions régionales de l'économie, de l'emploi, du travail et des solidarités (Dreets) auprès de 80 petites et moyennes entreprises (PME) et entreprises de taille intermédiaire (ETI) françaises. Il en ressort que les sociétés françaises méconnaissent les bénéfices qui découlent de l'usage de cette technologie.

En conséquence, seules 13 % des très petites entreprises (TPE) et PME recourent à l'intelligence artificielle, générative ou non, selon le baromètre France Num de septembre 2024. Si cette proportion ne s'élevait qu'à 5 % en 2023, France Num précise toutefois qu'une partie de l'augmentation est due à la reformulation de la question au sein du sondage.

En matière d'intelligence artificielle générative, plus spécifiquement, Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et au numérique, a souligné que seules 10 % des entreprises françaises ont intégré au moins un logiciel fondé sur cette technologie à leurs procédures. Des disparités significatives apparaissent toutefois entre les secteurs ; le taux d'adoption de l'intelligence artificielle générative s'élève ainsi à 24 % dans le secteur des services, contre 12 % dans l'industrie et 5 % dans les transports137(*).

Plusieurs études attestent en outre du fait que les entreprises françaises apparaissent moins engagées dans l'adoption et le développement de l'intelligence artificielle générative que celles des autres pays européens - et ce, même dans le domaine juridique. Selon une étude de l'European legal technology association, 35 % des entreprises du secteur ne prévoient pas d'engager des dépenses propres à l'intelligence artificielle générative et seules 4 % envisagent d'investir plus de 100 000 euros dans cette technologie, contre 21 % à l'échelle européenne.

La DGE estime donc, à raison selon les rapporteurs, que l'enjeu fondamental au sujet de l'intelligence artificielle générative réside désormais moins dans le nombre et la taille des entreprises du secteur de la legaltech, que dans l'adoption, par les professionnels du droit, des technologies que ces dernières développent138(*).

L'un des volets essentiels de la stratégie nationale pour l'intelligence artificielle consiste donc en l'incitation à l'adoption de cette technologie par les entreprises. L'État poursuit cet objectif par plusieurs moyens, généralistes ou spécifiques au secteur juridique. Le dispositif « IA Booster » de Bpifrance fournit par exemple un accompagnement aux entreprises de tout secteur dans leur adoption de l'intelligence artificielle.

La DGE conçoit par ailleurs plusieurs actions propres à la matière juridique. Elle oeuvre ainsi au développement des échanges avec les professionnels du droit, au premier rang desquels la Chancellerie ou le conseil national des barreaux, qui organise des colloques propices à l'avancée des réflexions à ce sujet. France Digitale figure, aussi, parmi les interlocuteurs privilégiés de la DGE. Cette dernière s'attache enfin à faciliter les échanges entre les développeurs de produits fondés sur l'intelligence artificielle générative et les professionnels du droit.

La DGE envisage au surplus de conduire des campagnes de communication au sujet de l'intelligence artificielle générative aux niveaux national et régional pour sensibiliser les entreprises à ces enjeux, aux côtés, par exemple, de France Num, des Dreets, des chambres de commerce et d'industrie (CCI), des régions, de la French Fab et de l'union nationale des professions libérales (Unapl).

La DGE devrait enfin recenser les solutions d'intelligence artificielle générative développées dans le domaine juridique au regard des retours d'expérience de certains professionnels, pour offrir aux entreprises du secteur une vision claire sur l'offre actuelle et les bénéfices potentiels qu'elles pourraient en tirer139(*).

Les rapporteurs jugent cette démarche bienvenue, compte tenu du fait que la faible adoption des outils d'intelligence artificielle générative résulte en grande partie du manque d'information des professionnels du droit quant aux qualités actuelles et aux potentialités futures de ces logiciels. Les rapporteurs encouragent la DGE à engager au plus tôt ce travail de recension, car l'offre des éditeurs juridiques et des entreprises de la legaltech se développe à un rythme rapide. Des produits élaborés par plusieurs entreprises auditionnées, encore inaboutis au début des travaux de la mission d'information, ont par exemple pu être présentés aux rapporteurs quelques mois après.

Aussi, les rapporteurs recommandent de prolonger cette démarche par la création d'une certification ou d'un label public, qui permettrait de distinguer les éditeurs juridiques et les entreprises du secteur de la legaltech dont les produits se conforment à un certain nombre de principes, tels que la confidentialité des données, et de bonnes pratiques, comme le fait d'informer l'utilisateur des limites inévitables de l'algorithme.

Proposition n° 17 : développer une certification ou un label public à la destination des éditeurs juridiques et des jeunes entreprises innovantes du secteur qui s'engagent à respecter certaines bonnes pratiques, relatives tant au traitement des données qu'au fonctionnement du logiciel d'intelligence artificiel générative.

Les rapporteurs estiment en outre qu'il serait souhaitable de favoriser l'équipement des administrations en solutions d'intelligence artificielle françaises et européennes, en respectant bien entendu le code de la commande publique et la réglementation européenne. Une telle démarche permettrait tant d'améliorer la qualité des services publics concernés, que de soutenir un secteur économique d'avenir et hautement stratégique.

Proposition n° 18 : inciter les administrations souhaitant se doter d'outils d'intelligence artificielle juridique à privilégier ceux développés en France ou au sein de l'Union européenne, dans le respect du code de la commande publique et de la réglementation européenne.

La DGE participe enfin aux réflexions relatives à la formation des ordres professionnels du secteur juridique. Il est en effet nécessaire que l'État investisse non seulement le champ de la formation technique, dispensée aux ingénieurs qui développent les algorithmes d'intelligence artificielle générative, mais aussi celui de la formation initiale et continue, comme ce fut évoqué supra. Cette démarche apparaît même impérieuse dans certains cas ; l'INCJ a ainsi signalé aux rapporteurs qu'un arrêté ministériel est nécessaire pour modifier les programmes de sa formation initiale140(*).

Il apparaît donc primordial aux rapporteurs que l'État continue de sensibiliser les professionnels du droit aux enjeux de l'intelligence artificielle générative, voire les incitent à recourir à des logiciels qui reposent sur cette technologie. La faible adoption de l'intelligence artificielle générative par les acteurs du secteur juridique limiterait en effet les effets vertueux de cette évolution technologique et en aggraverait vraisemblablement
les potentiels effets néfastes, dans la mesure où elle ne bénéficierait qu'à un nombre restreint de professionnels du droit, qui s'en saisissent d'eux-mêmes pour améliorer leur productivité.

Le développement de l'intelligence artificielle générative, en général, et son application au secteur juridique, en particulier, exigent donc une action publique originale, qui s'adapte aux enjeux que soulève cette technologie nouvelle - de la nécessité de disposer de certaines infrastructures stratégiques, au besoin de sensibiliser les acteurs économiques à l'opportunité d'une évolution de leurs procédures internes.

Proposition n° 19 : poursuivre, améliorer et canaliser l'accompagnement que l'État apporte aux entreprises innovantes et aux éditeurs juridiques.

Les rapporteurs ont toutefois constaté que les professionnels du droit et les entreprises de la legaltech ne sollicitent pas de nouvelle réglementation, voire expriment explicitement un besoin de stabilité normative.

C. L'ÉTAT ET LES ACTEURS DU SECTEUR S'ACCORDENT TOUS QUANT AU BESOIN DE STABILITÉ NORMATIVE

1. La réglementation applicable aux logiciels d'intelligence artificielle générative, qu'elle leur soit spécifique ou non, apparaît déjà substantielle
a) Les outils d'intelligence artificielle générative doivent se conformer au règlement sur l'intelligence artificielle comme à d'autres textes européens et nationaux applicables

Le droit européen contient plusieurs textes qui trouvent à s'appliquer en matière d'intelligence artificielle générative, qu'il s'agisse du RIA, spécifique à l'intelligence artificielle, ou, principalement, du RGPD, qui régit le traitement des données à caractère personnel.

Le règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmoniées concernant l'intelligence artificielle, dit RIA, ou en anglais AI Act, entré en vigueur le 1er août 2024, connaîtra une application progressive, entre février 2025 et août 2027. Cet acte de l'Union européenne vise à établir un cadre juridique général applicable en matière d'intelligence artificielle. La direction des affaires civiles et du sceau a souligné à cet égard qu'une série d'actes complémentaires - les actes délégués et d'exécution de
la Commission européenne comme la doctrine des régulateurs - devra encore être adoptée pour déterminer précisément les modalités d'application du RIA à certains secteurs, dont celui de la justice141(*).

Le RIA repose sur une structure pyramidale, qui distingue les intelligences artificielles « interdites », « à haut risque », « à risque limité » et « à risque faible ou minimal » - et retient, pour chacune d'entre elles, des règles juridiques différentes, de manière à ce que la contrainte réglementaire soit proportionnée aux risques que chacune de ces catégories entraîne. Le Conseil d'État a signifié aux rapporteurs qu'une telle approche le satisfaisait142(*). Les outils d'intelligence artificielle utilisés par l'administration de la justice - qui comptent donc naturellement les autorités juridictionnelles - appartiennent à la catégorie des logiciels « à haut risque »143(*), comme le prévoit le point 8 a) de l'annexe III du RIA.

Extrait de l'annexe III du RIA

« 8. Administration de la justice et processus démocratiques :

a) systèmes d'intelligence artificielle destinés à être utilisés par les autorités judiciaires ou en leur nom, pour les aider à rechercher et à interpréter les faits ou la loi, et à appliquer la loi à un ensemble concret de faits, ou à être utilisés de manière similaire lors du règlement extrajudiciaire d'un litige ».

Il apparaît donc que le régime des intelligences artificielles « à haut risque » s'applique aux autorités juridictionnelles, mais pas aux professions réglementées du droit. Les rapporteurs considèrent, comme le secrétariat général du ministère de la justice, que les codes de bonne conduite des professions réglementées et des juristes d'entreprise devront suppléer cette différence réglementaire.

Le régime de systèmes d'intelligence artificielle « à haut risque » est en effet le plus restrictif du RIA, après l'interdiction prévue pour certaines applications éventuelles de l'intelligence artificielle, que sont, par exemple, la notation sociale ou la police prédictive ciblant des individus. Le développement de tels systèmes d'intelligence artificielle, générative ou non, sera donc en vertu du RIA soumis à des exigences renforcées en matière d'évaluation de conformité, de documentation technique ou de mécanisme de gestion des risques.

Les fournisseurs de systèmes d'intelligence artificielle à haut risque peuvent toutefois établir que leur algorithme n'influence pas directement le résultat d'un processus de prise de décision, comme le prévoit le RIA en l'article 6, de la section 1 du chapitre III.

Paragraphe 3 de l'article 6, de la section 1 du chapitre III du RIA

« 3. Par dérogation au paragraphe 2, un système d'intelligence artificielle visé à l'annexe III n'est pas considéré comme étant à haut risque lorsqu'il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques, y compris en n'ayant pas d'incidence significative sur le résultat de la prise de décision.

Le premier alinéa s'applique lorsqu'une des conditions suivantes est remplie :

a) le système d'intelligence artificielle est destiné à accomplir une tâche procédurale étroite ;

b) le système d'intelligence artificielle est destiné à améliorer le résultat d'une activité humaine préalablement réalisée ;

c) le système d'intelligence artificielle est destiné à détecter les constantes en matière de prise de décision ou les écarts par rapport aux constantes habituelles et n'est pas destiné à se substituer à l'évaluation humaine préalablement réalisée, ni à influencer celle-ci, sans examen approprié ; ou

d) le système d'intelligence artificielle est destiné à exécuter une tâche préparatoire en vue d'une évaluation pertinente aux fins des cas d'utilisation visés à l'annexe III.

Nonobstant le premier alinéa, un système d'intelligence artificielle visé à l'annexe III est toujours considéré comme étant à haut risque lorsqu'il effectue un profilage des personnes physiques ».

Le RIA prévoit donc plusieurs cas d'application de l'intelligence artificielle - générative ou non - qui soustraient les solutions en cause au régime des algorithmes « à haut risque ». Ces cas de figure, énoncés au paragraphe 3 de l'article 6, de la section 1 du chapitre III du RIA, correspondent aux cas d'usage identifiés par les professionnels du droit auditionnés par les rapporteurs.

L'entrée en application graduelle du RIA, l'évolution rapide de la technologie en cause et les questions juridiques qui pourraient progressivement s'élever en la matière justifient a priori d'observer une stabilité normative avant d'envisager de nouvelles évolutions réglementaires144(*).

Les systèmes d'intelligence artificielle générative doivent en outre se conformer à d'autres textes européens, au premier rang desquels le RGPD145(*). Si le RGPD est d'application directe en droit national, il laisse toutefois plusieurs « marges nationales d'appréciation » qui ont justifié l'adaptation de la loi « informatique et libertés » du 6 janvier 1978 par la loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles et l'ordonnance n° 2018-1125 du 12 décembre 2018, prise en application de l'article 32 de la loi n° 2018-493 précitée.

Les professionnels du droit doivent donc, tout d'abord, en vertu de ce cadre général, veiller à la conformité de l'usage d'un traitement de données à caractère personnel aux articles 5 et 6 du RGPD. L'article 5 du RGPD établit plusieurs principes structurants auquel le traitement de données doit obéir. Il énonce ainsi les principes de licéité, de loyauté et de transparence. Les données doivent par ailleurs avoir été « collectées pour des finalités déterminées, explicites et légitimes » - et elles doivent être également « traitées de façon à garantir une sécurité appropriée ». L'article 6 du RGPD dispose par ailleurs qu'un traitement de données « n'est licite que si, et dans la mesure où, au moins une des conditions » qu'il mentionne est satisfaite. Les métiers du droit devraient a priori tous pouvoir satisfaire une condition de licéité au regard des cas d'usage évoqués supra ; les professions juridiques réglementées pourront arguer du fait que « la personne concernée a consenti au traitement de ses données à caractère personnel pour une ou plusieurs finalités spécifiques » ; les autorités juridictionnelles, que « le traitement est nécessaire à l'exécution d'une mission d'intérêt public ou relevant de l'exercice de l'autorité publique dont est investi le responsable du traitement ».

Le RGPD impose par ailleurs en ses articles 12, 13 et 14 une obligation de transparence à l'endroit des responsables de traitement de données à caractère personnel. Aussi doivent-ils transmettre aux personnes concernées par ledit traitement une information compréhensible, aisément accessible et concise.

L'automatisation des décisions et le profilage sont également prohibés par le RGPD. L'article 22 de ce texte dispose ainsi que « la personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire » ; l'interdiction de ces formes de la justice prédictive apparaît ainsi conforme à l'analyse unanime des personnes auditionnées par les rapporteurs, comme ce fut observé supra.

Comme ce fut précisé supra, la loi française prescrivait déjà le profilage, à l'ancien article 10 de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés. Cette interdiction, qui figure désormais à l'article 47 de la loi « informatique et libertés », a été étendue, conformément au cadre établi par le RGPD, aux décisions produisant des effets juridiques à l'égard d'une personne prises « sur le seul fondement d'un traitement automatisé de données à caractère personnel, y compris le profilage » - et plus seulement « sur le seul fondement d'un traitement automatisé de données destiné à définir le profil de l'intéressé ou à évaluer certains aspects de sa personnalité ».

La direction des affaires civiles et du sceau a rappelé aux rapporteurs que les différentes professions juridiques ont intégré les exigences du RGPD à leur pratique. Le conseil national des barreaux a diffusé un guide spécifique à ce règlement, tandis que les officiers publics et ministériels, tels que les commissaires de justice et les notaires, ont intégré le respect des obligations de protection des données à caractère personnel à leurs règles déontologiques. La commission nationale de l'informatique et des libertés (CNIL) contrôle enfin le bon respect du RGPD par les professionnels du droit.

Le Conseil d'État a souligné auprès des rapporteurs qu'il sera par ailleurs vraisemblablement nécessaire d'oeuvrer à la conciliation entre le RIA et le RGPD. Le premier entend favoriser l'exploitation des données par les systèmes d'intelligence artificielle, tandis que le second garantit la protection des données ; les prescriptions que ces règlements formulent quant à la conservation des données pourraient donc provoquer quelque contradiction.

Suivant cette logique de conciliation entre le développement de l'intelligence artificielle générative et certaines exigences contradictoires qui découlent du RGPD, les rapporteurs souhaitent qu'il soit remédié à une préoccupation avancée par une entreprise de la legaltech auditionnée146(*). Si le législateur a mis en conformité le traitement des données de justice diffusées en données ouvertes avec le RGPD, il a omis de sécuriser une pratique qui participe de la même démarche. Dans l'attente de l'aboutissement, en 2026, de la politique de diffusion des décisions de justice en données ouvertes, et pour les décisions antérieures à 2021, les éditeurs juridiques et les entreprises de la legaltech obtiennent directement des juridictions communication des décisions non encore diffusées, conformément aux articles L. 111-14 du code de l'organisation judiciaire et L. 10-1 du code de justice administrative. Or, comme l'a signalé la CNIL au Gouvernement dans une note du 27 avril 2021, ces transmissions méconnaissent vraisemblablement les exigences du RGPD, car elles ne sont pas prévues par les articles 44 et 46 de la loi « informatique et libertés ». Les rapporteurs jugent donc opportun de sécuriser cette pratique, qui pallie l'entrée en application progressive de la diffusion des décisions de justice en données ouvertes.

Proposition n° 20 : sécuriser la réutilisation des informations publiques contenues dans les décisions de justice rendues avant l'ouverture des données juridiques, ce au regard de l'interdiction de traitement des données sensibles établie par le RGPD.

b) Les professionnels du droit sont en outre soumis, lorsqu'ils recourent à une intelligence artificielle générative, aux principes déontologiques et aux codes de bonne conduite de leur profession

Lorsqu'il utilise un algorithme d'intelligence artificielle générative, un professionnel du droit doit non seulement se conformer aux réglementations européennes et nationales applicables, mais aussi observer les principes déontologiques et les codes de bonne conduite propres à son métier.

Les principes déontologiques des différentes professions juridiques s'appliquent en effet à l'utilisation des outils d'intelligence artificielle générative. Le principe du secret professionnel, qui vaut pour l'essentiel des professions réglementées147(*), prescrit la communication de données relatives à leurs clients à des intelligences artificielles génératives. Les principes de compétence, de prudence et d'indépendance des avocats, qui figurent à l'article 3 de leur code de déontologie, les contraint par ailleurs à contrôler la fiabilité des productions d'un outil d'intelligence artificielle générative148(*). Des principes similaires sont reconnus dans les codes de déontologie des autres professions du droit149(*). Les codes de déontologie des différents métiers du droit permettent donc déjà d'apporter une régulation significative dans l'usage des logiciels d'intelligence artificielle générative, comme l'a souligné la direction des affaires civiles et du sceau.

Les rapporteurs constatent avec satisfaction que la plupart des représentants des professions réglementées auditionnés a en outre engagé l'élaboration d'un code de bonne conduite spécifique à l'intelligence artificielle générative.

L'existence d'une réglementation européenne et nationale fournie en matière d'intelligence artificielle et l'adaptation des principes déontologiques comme des codes de bonne pratique à l'affirmation de cette technologie expliquent l'opposition quasi-unanime des personnes auditionnées à l'évolution du cadre juridique actuel150(*).

Certaines entreprises du secteur de la legaltech, à l'instar de Tomorro, soulignent en outre que le développement des règles juridiques applicables à l'intelligence artificielle générative pourrait contenir la dynamique d'innovation que connaît actuellement ce secteur - et dont témoigne l'actualité technologique récente151(*).

L'articulation entre les réglementations européennes et nationales et les codes de déontologie et de bonne conduite propres aux différents métiers du droit fournit ainsi un cadre juridique adapté à l'affirmation de l'intelligence artificielle générative. Si l'usage de cette technologie connaît ainsi certaines limites législatives, qui font l'objet d'un consensus global - ainsi du profilage ou de la substitution du traitement algorithmique à la décision juridictionnelle -, il obéit pour le reste aux codes professionnels, qui ont su s'adapter aux précédentes innovations informatiques et numériques.

La satisfaction des professionnels du droit à l'égard du cadre juridique actuel s'est en outre manifestée par leur rejet d'une éventuelle adaptation de ce dernier pour limiter les risques qu'est susceptible d'entraîner le développement de l'intelligence artificielle générative pour leurs métiers.

2. Les potentielles réglementations spécifiques à l'application de l'intelligence artificielle au secteur juridique suscitent l'unanime réprobation des acteurs du droit

Les différents acteurs du droit se sont prononcés au sujet des différentes réglementations qui pourraient a priori remédier aux éventuels effets néfastes de l'intelligence artificielle générative dans le domaine juridique. La question a par exemple été posée de savoir si le risque d'autojuridication devait, selon elles, être limité par l'extension de la représentation obligatoire par avocat ou par la restriction de l'accès aux outils d'intelligence artificielle générative juridiques. Or, les magistrats - judiciaires et administratifs -, les services du ministère de la justice et les avocats sont vivement opposés à de telles réglementations152(*).

Concernant le développement du caractère obligatoire du magistère d'avocat, la seule modeste réserve a été exprimée par le conseil national des barreaux, dont la commission d'accès au droit réfléchit actuellement à des manières d'« éviter l'utilisation intempestive d'outils [d'intelligence artificielle générative] sans avocat ». Le CNB estime en outre que certaines bonnes pratiques suffiraient à tempérer le risque d'autojuridication. Les outils d'intelligence artificielle générative pourraient ainsi mentionner expressément le risque d'erreur, voire recommander la consultation d'un professionnel du droit. Les rapporteurs partagent cette appréciation, dont ils ont tiré la proposition n° 1. Les magistrats administratifs justifient quant à eux leur opposition à une telle réglementation par la tradition d'ouverture du prétoire du juge administratif. Aussi préfèrent-ils intégrer sur « Télérecours citoyen » des maquettes de requête pour remédier aux risques qu'entraînerait le développement de l'autojuridication, plutôt que de prévoir de nouveaux cas dans lesquels la représentation par avocat serait obligatoire.

Les personnes auditionnées jugent également, unanimement, que l'établissement d'un accès restreint aux logiciels d'intelligence artificielle générative serait préjudiciable au principe d'égalité dans l'accès à la justice et au droit. Il a également été observé, comme ce fut évoqué supra, que le coût significatif des solutions juridiques fondées sur cette technologie constitue déjà en pratique une restriction d'accès suffisante.

La réglementation n'apparaît donc pas souhaitable en la matière, selon la quasi-unanimité des personnes auditionnées par les rapporteurs, en dehors des évolutions susceptibles de favoriser le développement des différents acteurs concernés. Clara Chappaz, alors secrétaire d'État chargée de l'intelligence artificielle et du numérique, a précisé dans la réponse écrite qu'elle a transmise aux rapporteurs que ses services identifieraient, en collaboration avec le ministère de la justice, de telles évolutions normatives, en veillant à ce qu'elles ne méconnaissent pas le principe de sécurité juridique et l'exigence d'éthique.

LISTE DES PROPOSITIONS

Proposition n° 1 : Informer systématiquement l'utilisateur sur les risques d'erreurs de tout résultat fourni par une intelligence artificielle générative et sur la nécessité de vérifier ledit résultat, et l'orienter, lorsque cela est pertinent, vers un professionnel du droit.

Proposition n° 2 : Affiner le moteur de recherche de Légifrance pour permettre à l'usager du service public de l'information légale de formuler ses questions en langage naturel.

Proposition n° 3 : Définir légalement la consultation juridique en actualisant la loi n° 71-1130 du 31 décembre 1971 portant réforme de certaines professions judiciaires et juridiques.

Proposition n° 4 : Favoriser la montée en compétence des assistants juridiques au sein des cabinets, notamment en leur confiant des tâches de vérification des résultats de l'intelligence artificielle générative.

Proposition n° 5 : Favoriser l'accès des plus petites structures aux outils d'intelligence artificielle générative en mutualisant, au sein de chaque ordre, le coût de ces abonnements.

Proposition n° 6 : Établir des règles claires et transparentes d'usage de l'intelligence générative artificielle au sein de chaque profession, notamment par la rédaction d'une charte éthique ou d'un guide d'utilisation, transposées ensuite dans chaque cabinet ou juridiction.

Proposition n° 7 : Nommer un référent - ou une commission - au sein de chaque ordre professionnel, chargé de suivre les effets de l'intelligence artificielle générative sur la profession, identifier les dérives possibles, lancer des procédures de sanctions disciplinaires en cas de mésusage et mettre à jour le guide de bonnes pratiques.

Proposition n° 8 : Sans imposer d'obligation légale, conseiller dans les guides d'usage propre à chaque profession que, dans un souci de transparence, l'utilisation des outils d'intelligence artificielle générative ne doit pas être dissimulée au client.

Proposition n° 9 : Mettre à niveau les juridictions judiciaires et administratives en matière d'équipement informatique, d'automatisation des tâches et d'outils internes de recherche jurisprudentielle.

Proposition n° 10 : Nommer un ou plusieurs référents en matière d'intelligence artificielle au sein de chaque juridiction.

Proposition n° 11 : Anonymiser les magistrats et les greffiers dans les décisions de justice publiées en données ouvertes.

Proposition n° 12 : Préciser, dans chaque convention de stage des étudiants en droit et en particulier des élèves-avocats, les conditions d'utilisation des outils d'intelligence artificielle générative pendant le stage.

Proposition n° 13 : Inciter les écoles de droit à souscrire des abonnements à des outils d'intelligence artificielle générative spécialisés dans le droit et en fournir l'accès aux étudiants, afin que ces derniers travaillent sur des résultats sourcés plutôt qu'avec des outils généralistes.

Proposition n° 14 : Poursuivre - et accélérer - l'adaptation de la formation continue aux enjeux et à l'utilisation de l'intelligence artificielle générative.

Proposition n° 15 : Encourager de nouvelles modalités de formation, qui favorisent notamment la formation des professionnels les plus expérimentés par de jeunes collaborateurs compétents en matière d'intelligence artificielle (« reverse mentoring »).

Proposition n° 16 : Veiller à la formation de l'ensemble du personnel - et non seulement des professions juridiques - aux enjeux de l'intelligence artificielle générative.

Proposition n° 17 : Développer une certification ou un label public à la destination des éditeurs juridiques et des jeunes entreprises innovantes du secteur qui s'engagent à respecter certaines bonnes pratiques, relatives tant au traitement des données qu'au fonctionnement du logiciel d'intelligence artificiel générative.

Proposition n° 18 : Inciter les administrations souhaitant se doter d'outils d'intelligence artificielle juridique à privilégier ceux développés en France ou au sein de l'Union européenne, dans le respect du code de la commande publique et de la réglementation européenne.

Proposition n° 19 : Poursuivre, améliorer et canaliser l'accompagnement que l'État apporte aux entreprises innovantes et aux éditeurs juridiques.

Proposition n° 20 : Sécuriser la réutilisation des informations publiques contenues dans les décisions de justice rendues avant l'ouverture des données juridiques, ce au regard de l'interdiction de traitement des données sensibles établie par le RGPD.

EXAMEN EN COMMISSION

__________

MERCREDI 18 DÉCEMBRE 2024

M. Christophe-André Frassa, rapporteur. - Je vous prie de bien vouloir excuser notre collègue Marie-Pierre de la Gontrie, co-rapporteure de cette mission d'information, qui est absente aujourd'hui pour raison de santé. En conséquence, il me revient de vous présenter l'ensemble du rapport, en notre nom à tous les deux.

Notre commission a souhaité, en avril dernier, évaluer les effets de l'intelligence artificielle générative sur les métiers du droit. Nous voulions dresser un état des lieux des rapides transformations qui sont à l'oeuvre, mesurer les risques et les opportunités de cette nouvelle technologie, faire la part des fantasmes irréalistes et des craintes disproportionnées et, le cas échéant, formuler des propositions de nature à accompagner les professionnels du droit face à ces bouleversements.

Je précise que nos travaux ont porté sur l'intelligence artificielle générative, une technologie née en novembre 2022 avec le lancement de ChatGPT, et non sur l'intelligence artificielle « classique », que nous connaissons depuis les années 1950. Il nous est apparu nécessaire d'anticiper les transformations à l'oeuvre dans le domaine du droit, avec comme première préoccupation l'intérêt du justiciable et l'amélioration du service public de la justice. En effet, derrière les enjeux économiques, déontologiques et matériels soulevés par le déploiement de cette technologie, c'est la vision de la justice de demain qu'il convient de caractériser, en s'interrogeant sur le sens d'une justice potentiellement déshumanisée, ou du moins dans laquelle l'intervention humaine serait fortement réduite.

La question s'est posée à notre commission en avril dernier car le droit apparaît perméable aux outils d'intelligence artificielle générative. Cette perméabilité résulte de la rupture opérée par cette technologie, qui permet de surmonter la difficulté, qui semblait infranchissable, de maîtrise du langage naturel. L'intelligence artificielle générative fonctionne en effet selon un modèle probabiliste qui lui permet de contextualiser le sens d'un mot et de deviner quel mot a la plus grande probabilité de suivre pour répondre, en langage naturel, à une question posée en langage naturel, c'est-à-dire non mathématique. Elle a donc une capacité d'imitation de la pensée humaine qui lui permet, à partir d'une base de données, de générer - générer plutôt que créer - des contenus qui semblent suivre le syllogisme juridique, dans une logique d'analyse des précédents.

Sa fiabilité n'est toutefois pas garantie, car elle n'est pas en mesure d'évaluer la pertinence de sa réponse. Tout utilisateur doit donc être conscient de ses limites : le risque d'hallucinations, les biais de conception, l'obsolescence des données sur lesquelles repose le modèle ou encore les risques liés à la confidentialité des données. C'est pourquoi nous soutenons la démarche initiée par certains ordres professionnels consistant à établir des règles de bonne utilisation, afin de déterminer des cas d'usage, de rappeler le cadre déontologique applicable et, surtout, insister sur l'impérieuse nécessité de vérifier les résultats fournis par l'outil.

Il serait en effet tentant pour le professionnel du droit de s'appuyer exagérément sur les outils d'intelligence artificielle générative, tant l'offre s'est développée avec une célérité qui est à souligner. La France se caractérise par un marché particulièrement dynamique à l'échelle européenne. Les éditeurs juridiques français proposent désormais des services reposant sur l'intelligence artificielle générative, qui sont adossés à leurs fonds documentaires et aux abonnements déjà existants, moyennant un surcoût d'environ 200 euros par an, tandis qu'au moins une trentaine d'entreprises de la legaltech se sont également positionnées sur ce marché.

Cette offre riche participe de l'objectif à valeur constitutionnelle d'accessibilité et d'intelligibilité du droit, puisqu'elle permet de répondre dans des termes relativement simples à une question de nature juridique posée en langage naturel. Nous ne pouvons que nous en féliciter.

Si le risque « d'autojuridication » paraît pouvoir être écarté en raison des limites inhérentes à ces modèles et de la plus-value que représentent l'analyse et l'expertise humaines des professionnels du droit, un point de vigilance demeure à propos de la consultation juridique, qui est et doit rester un monopole des professions réglementées du droit. Or, les intitulés ambigus « d'aide » ou « d'assistance » juridique, utilisés par certaines plateformes, pourraient prêter à confusion un public non averti, en laissant entendre que la consultation d'un professionnel n'est pas nécessaire. L'inscription dans la loi d'une définition de la consultation juridique, dans un double objectif de lisibilité du droit et de sécurité juridique, apparaît ainsi opportune, voire nécessaire.

Nonobstant ce risque de concurrence qu'il conviendra de clarifier, les outils d'intelligence artificielle générative représentent une opportunité intellectuelle indéniable pour les professions réglementées du droit. En ce sens, ils sont vecteurs d'une transformation de ces métiers, non pas tant sur la structure des emplois, que sur leur nature. Par les gains de temps et de productivité qu'elle laisse espérer, l'intelligence artificielle générative permettrait aux professionnels de se concentrer sur les tâches à haute valeur ajoutée et, ce faisant, de mieux démontrer leur plus-value en distinguant leur analyse de la simple recherche juridique.

En l'état de son développement, l'intelligence artificielle générative offre en effet une aide pour trois grandes catégories de tâches : la recherche, l'analyse d'un corpus de données ou de documents et la rédaction de contenus simples.

Grâce à ces gains de temps, l'intelligence artificielle générative transformerait les métiers du droit, en modifiant profondément la relation entre le professionnel et son client, sur trois points. En premier lieu, l'intelligence artificielle générative permettrait de personnaliser davantage les services apportés par le professionnel du droit à son client. Elle lui permettrait en outre de se consacrer davantage aux interactions humaines. Enfin, l'intelligence artificielle générative modifiera vraisemblablement les attentes du client. Il est en effet probable qu'il sera attendu du professionnel du droit une expertise plus poussée. Si les outils d'intelligence artificielle génératives peuvent donc, à première vue, faciliter le travail des professionnels du droit, ils ne constitueront pas pour autant un nivellement par le bas si les exigences sont accrues à mesure des progrès de la technologie.

Ces promesses de gains de temps et de productivité ont trouvé un écho favorable auprès des professions réglementées du droit et des juristes d'entreprise, qui semblent plus sensibles aux outils d'intelligence artificielle générative que les magistrats. Le taux d'adoption de ces outils va croissant, les professionnels que nous avons interrogés apparaissant intéressés et fortement volontaires.

Notre étude se justifiait notamment par les inquiétudes que cette nouvelle technologie pourrait faire peser sur l'emploi. Heureusement, les conséquences de l'intelligence artificielle générative sur l'effectif des professions juridiques stricto sensu devraient être marginales, vu l'optimisme dont a fait preuve à ce sujet l'ensemble des personnes que nous avons auditionnées. Cet optimisme s'explique par plusieurs raisons. En premier lieu, l'intelligence artificielle générative étant fondée sur un modèle probabiliste, le risque d'erreur demeure élevé, ce qui justifie l'expertise du professionnel du droit. Elle est par ailleurs incapable de faire preuve de créativité ou, du moins, d'intelligence émotionnelle, indispensable dans le domaine de la justice. L'intelligence artificielle générative ne pourra pas non plus remplacer l'humain dans toutes les procédures qui nécessitent des interactions interpersonnelles. Enfin, le droit actuel protège les professions juridiques en prévoyant un monopole sur certaines tâches, comme les consultations juridiques.

Au surplus, il n'est pas exclu que l'intelligence artificielle générative ait pour conséquence, non pas de décharger les professions du droit, mais, en facilitant l'accès à l'information juridique, d'accroître la judiciarisation de la société, et donc l'activité juridictionnelle.

Si les métiers du droit au sens strict semblent pouvoir s'adapter suffisamment aux transformations induites par l'intelligence artificielle générative pour que les craintes sur l'emploi soient mineures, une réduction des emplois au sens plus large, en incluant les tâches d'assistance, est davantage probable. Il conviendra alors de redéfinir ces fonctions,


notamment en favorisant une montée en compétences, par exemple en confiant aux intéressés des tâches de vérification des résultats issus de l'intelligence artificielle générative.

En définitive, l'enjeu principal de l'intelligence artificielle générative repose sur son bon usage, davantage que sur les risques pour l'emploi. Outre les limites techniques, comme le risque d'hallucination, nous avons identifié deux risques principaux.

En premier lieu, nous craignons que ne se concrétise un risque de fracture au sein des professions du droit, et donc d'inégalité des parties devant la justice. À ce titre, nous saluons l'initiative du barreau de Paris, qui fournit aux petits cabinets un accès à l'outil d'intelligence artificielle générative de Lefebvre Dalloz. Une généralisation de cette démarche nous semble opportune pour aider les professionnels à réussir leur adaptation au déploiement de cette technologie.

Il existe aussi un risque de mésusage au regard des principes déontologiques et des obligations réglementaires, notamment en matière de protection des données. Il apparaît donc primordial d'élaborer ou, du moins, de rappeler des règles claires pour chaque profession.

Les éditeurs juridiques, les entreprises de la legaltech, les justiciables et les professions réglementées, en particulier les avocats, se saisissent donc d'ores et déjà des outils d'intelligence artificielle appliqués au droit. En revanche, les magistrats et les autres professions juridictionnelles manquent à l'appel, ce qui constitue une préoccupation ancienne de la commission.

L'avis budgétaire de nos collègues Lauriane Josende et Dominique Vérien sur les crédits du programme « Justice judiciaire » a, cette année encore, souligné le retard numérique de la Chancellerie. Nous craignons, dans ce contexte, que l'affirmation de l'intelligence artificielle générative ne creuse encore le fossé qui s'est installé entre les professions juridictionnelles et les autres métiers du droit.

Pendant que les avocats sont en train de s'approprier les outils d'intelligence artificielle générative, les magistrats judiciaires travaillent encore sur WordPerfect. Ne vous méprenez pas ; il ne s'agit pas du nom entier du logiciel « Word », édité par Microsoft, mais de son concurrent... dans les années 1980.Il nous semble donc primordial que les juridictions judiciaires et administratives fassent l'objet d'une mise à niveau en matière d'équipement informatique et numérique.

Plus généralement, compte tenu de l'évolution rapide des outils d'intelligence artificielle générative, nous proposons la nomination d'un ou plusieurs référents en la matière au sein de chaque juridiction. Cela permettra de favoriser l'adoption de ces outils par les juridictions, mais aussi de suivre


les conséquences de l'emploi de l'intelligence artificielle générative par les avocats. Les magistrats et greffiers s'inquiètent en effet que ces logiciels ne portent à la hausse les entrées contentieuses et le volume des écritures.

Au-delà, ils craignent les conséquences indirectes de la diffusion des décisions de justice en données ouvertes. Cette politique publique précieuse présente en effet un angle mort, qui n'avait pas été identifié lors de l'examen de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique : elle a prévu l'anonymisation des justiciables, mais pas celle des magistrats et greffiers. Ces derniers redoutent donc le développement du profilage, voire d'intimidations qui nuiraient à leur sécurité comme à la sérénité de la justice. Nous proposons donc d'anonymiser les magistrats et les greffiers dans les décisions de justice publiées en données ouvertes, étant entendu que leur identité figurera toujours dans la décision rendue au justiciable.

Pour le reste, les autorités juridictionnelles judiciaires et administratives s'accordent sur l'essentiel. Elles sont opposées à la substitution d'un algorithme au juge, ce que prévoit déjà le cadre juridique actuel. Elles jugent par ailleurs que les différentes réglementations auxquelles elles sont soumises - celle sur la protection des données, ainsi que le règlement européen sur l'intelligence artificielle (RIA), récemment entré en vigueur - les contraindront à développer leurs propres outils d'intelligence artificielle générative.

Les autorités juridictionnelles administrative et judiciaire ont donc recensé les cas d'usage potentiels de cette technologie et envisagent désormais de développer certains outils. C'est, hélas ! une nouvelle preuve de leur retard en la matière. Nous pensons qu'il faut accélérer.

J'en viens à la formation initiale. Il est évident qu'elle doit s'adapter à l'affirmation de l'intelligence artificielle générative, non seulement car cette dernière a des effets significatifs sur les conditions de formation, mais aussi parce qu'il est nécessaire de former les juristes à l'utilisation de cette technologie.

L'enseignement du droit a d'ailleurs déjà entamé sa mue, ce dont nous nous réjouissons. Les modalités d'évaluation changent. De nouveaux modules spécifiques sont conçus. Il serait en effet absurde et illusoire d'interdire l'usage de cette technologie. Il importe au contraire de former les étudiants à son usage et d'améliorer, encore, l'enseignement théorique. L'emploi de l'intelligence artificielle générative exige une grande maîtrise de la matière juridique pour formuler les bonnes questions et identifier les hallucinations qui figurent dans les réponses. Gardons en outre à l'esprit qu'un juriste « augmenté » par l'intelligence artificielle générative demeure un juriste. C'est pourquoi les exigences en matière d'acquisition des connaissances ne doivent pas être abaissées.

Enfin, nous nous préoccupons des conséquences de l'usage de cette technologie sur l'insertion professionnelle des jeunes juristes, car ces derniers accomplissent en stage des travaux de recherche que certains outils réaliseront plus rapidement et à moindre coût.

Nous proposons également d'adapter la formation continue à l'intelligence artificielle générative. L'adoption de cette technologie ne pourra pas reposer seulement sur les jeunes générations de diplômés. Une adoption réussie nécessite une diffusion généralisée. Nous proposons donc d'adopter de nouvelles modalités de formation, notamment le reverse mentoring, qui consiste à former les professionnels les plus expérimentés par de jeunes collaborateurs compétents en matière d'intelligence artificielle générative.

J'en viens enfin à la politique publique de soutien au développement de l'intelligence artificielle générative. Elle s'articule principalement autour de la stratégie nationale pour l'intelligence artificielle, dont elle constitue en quelque sorte le prolongement. Cette stratégie a été engagée en 2018 et dotée d'une enveloppe de 3,7 milliards d'euros de fonds publics et privés. Elle a consisté en de nombreuses actions de financement, qu'il s'agisse de la formation ou des infrastructures nécessaires au développement de cette technologie, en particulier les supercalculateurs.

Au-delà, cette politique publique repose sur une multitude d'appels à projets, de fonds d'investissement publics et d'actions diverses, comme la diffusion des décisions de justice en données ouvertes. Cette démarche a fait ses preuves, mais nous proposons de l'améliorer en canalisant ses différents volets pour mieux accompagner les entreprises. Seules 10 % des entreprises françaises affirment avoir intégré un tel logiciel à leurs procédures. C'est peu ! La direction générale des entreprises doit recenser l'offre existante et la diffuser auprès des professionnels du droit. Nous proposons aussi qu'un label soit créé pour favoriser l'adoption des logiciels les plus qualitatifs.

Tous les acteurs souhaitent que nous observions une stabilité normative, du moins en ce qui concerne le cadre juridique applicable à l'intelligence artificielle générative. Il nous semble judicieux de respecter ce consensus, moyennant quelques corrections minimes que nous avons identifiées. Le RIA n'est pas encore pleinement entré en application et cette technologie évolue vite. Attendons avant de légiférer !

Mme Muriel Jourda, présidente. - Vos observations rejoignent les inquiétudes soulevées par Lauriane Josende et Dominique Vérien, et auparavant par Agnès Canayer. Autant le secteur privé s'organise, en raison de sa nature concurrentielle, autant la fonction publique de la justice accuse un retard important.

Par certains aspects, ce retard est inquiétant. Le rapport de Jérôme Durain et Étienne Blanc sur le narcotrafic en France met par exemple en évidence la capacité de l'intelligence artificielle à compromettre certaines poursuites pénales, car elle permet aux avocats des narcotrafiquants d'identifier des vices de procédure dans des dossiers volumineux.

Il est en tout état de cause préoccupant de constater que le secteur public n'est pas en mesure d'intégrer rapidement ces outils, alors que d'autres les utilisent avec des intentions plus ou moins honnêtes.

M. Christophe-André Frassa, rapporteur. - Nous nous sommes intéressés à toutes les professions privées du droit, jusqu'aux conseils en propriété industrielle, et à l'ensemble du service public de la justice, y compris les plus hautes juridictions et les greffiers.

Au fil de nos auditions, nous avons vu le fossé se creuser entre ces deux secteurs. Il faut dire que le service public de la justice avance avec un boulet à chaque pied, entre, d'un côté, le dénuement numérique et technologique que nous avons rappelé, et, de l'autre, les strictes contraintes normatives qu'il doit respecter.

Les évolutions sont également retardées par l'organisation hiérarchique et la nécessité de réfléchir aux conséquences en cascade pour tous les services. Le défilé des gouvernements depuis un an n'a pas non plus facilité les choses : la technologie évolue à la vitesse de la lumière, mais les services sont paralysés dans l'attente d'un retour du cabinet du ministre... Le service public de la justice en reste au stade de la réflexion, quand le secteur privé en est déjà à celui de l'adoption. En attendant, les entreprises du secteur de la legaltech font des progrès remarquables.

M. André Reichardt. - Mes chers collègues, depuis que j'ai adressé à chacun d'entre vous un opuscule sur le droit local alsacien-mosellan, plus personne n'ignore la question, j'en suis certain !

En raison du degré de méconnaissance de ce droit, y compris par les magistrats originaires des départements d'outre-Vosges, nous peinons à le faire appliquer. Avec la décision Société Somodia du Conseil constitutionnel de 2011, son existence est très certainement compromise à l'horizon d'une ou deux décennies. Mais s'il n'est pas pris en compte par les outils d'intelligence artificielle générative, son sort sera scellé d'ici à deux ans.

J'insiste donc, monsieur le rapporteur, pour que vous intégriez le droit local alsacien-mosellan à votre diagnostic et à vos préconisations. C'est fondamental !

Mme Dominique Vérien. - Je ne reviendrai pas sur les difficultés que Lauriane Josende, Agnès Canayer et moi-même répétons depuis près de quatre ans au sujet du boulet que représente le logiciel WordPerfect. Des choses avancent, mais il faudrait préparer son remplacement, ce qui est

délicat car les applicatifs de la Chancellerie ont été conçus pour fonctionner avec lui. Certes, cela ne revient pas à se projeter vers le futur et l'intelligence artificielle générative...

Une autre difficulté est liée au fonctionnement du ministère de la justice. Les magistrats, qui y occupent l'essentiel des fonctions stratégiques, manquent souvent de qualifications numériques. Leur permettre de s'appuyer enfin sur de véritables professionnels de l'informatique pourrait être utile.

En Espagne, les magistrats peuvent, à l'aide de l'intelligence artificielle, mesurer la dangerosité des auteurs d'infraction, et en fonction de cela dimensionner la protection apportée aux victimes. Il s'agirait d'une avancée pour le secteur des affaires familiales ou de la justice pénale, en particulier en ce qui concerne les violences faites aux femmes.

Il faut apprendre à se saisir de cet outil qui doit non pas remplacer l'intelligence humaine, mais en être complémentaire. Pour cela, il faut faire appel à des gens dont c'est le métier.

M. Christophe-André Frassa, rapporteur. - André Reichardt, les spécificités des droits locaux sont déjà intégrées dans les bases de données des éditeurs comme Dalloz et LexisNexis, tant dans leurs moteurs de recherche que dans leurs éditions papier. Je pense qu'au lieu de précipiter leur disparition, l'intelligence artificielle générative non seulement les sauvegarde, mais permet même de favoriser leur appréhension par les professionnels du droit. Nous pourrons demander aux éditeurs comment concilier le développement de l'intelligence artificielle générative avec la sauvegarde du droit local.

M. André Reichardt. - Naturellement, Dalloz et LexisNexis ont intégré le droit local dans leurs banques de données. Je demande si l'intelligence artificielle générative peut ou non fournir aux professionnels du droit non pas des textes, mais des interprétations, par exemple au sujet du code professionnel local. Les éditeurs ont-ils déjà développé des applications ciblant le droit local alsacien-mosellan, à l'instar de celles qui existent pour le droit général ? En outre, les professionnels du droit alsaciens ont-ils dressé un constat de l'utilisation de l'intelligence artificielle générative ?

M. Christophe-André Frassa, rapporteur. - Les magistrats n'ont pas pu faire ce constat, car ils n'ont pas accès à ces outils. Il faudrait demander aux avocats alsaciens s'ils ont souscrit un abonnement à des applications utilisant l'intelligence artificielle générative. Le barreau de Paris a souscrit un abonnement à GenIA-L ; tout petit cabinet, d'un ou deux avocats, peut désormais consulter cette base de données et poser une question relative au droit alsacien-mosellan.

M. André Reichardt. - Avez-vous assisté à une démonstration de cette utilisation particulière ?

M. Christophe-André Frassa, rapporteur. - Non, nous avons assisté à une démonstration en droit général, mais nous n'avons pas poussé la question jusqu'au droit local.

Dominique Vérien, nous avons parlé de l'exemple de l'Espagne lors de nos auditions, car LexisNexis a d'abord commercialisé son service d'intelligence artificielle générative chez nos voisins espagnols avant de se lancer sur le marché français, au milieu de cette année. En ce qui concerne la France, le profilage est interdit.

Mme Muriel Jourda, présidente. - Aux États-Unis, lors d'une affaire de délit de fuite, un algorithme d'intelligence artificielle prédictive a déduit que le contrevenant avait le profil d'un délinquant qui commettrait à l'avenir des délits beaucoup plus graves. Pour ce délit de fuite, il a donc été condamné à six ans d'incarcération. Méfions-nous de l'intelligence artificielle prédictive : cela revient à lire dans une boule de cristal ou des entrailles de poulet et à prononcer des condamnations sans lien avec l'infraction existante. Il faut trouver un juste milieu, et surtout que l'intelligence artificielle ne substitue pas au jugement humain : il me semble que nous sommes tous d'accord.

M. Christophe-André Frassa, rapporteur. - Nous avons auditionné 98 personnes et recueilli 51 contributions lors de ce travail considérable. Il nous reste à adopter le titre de ce rapport. Nous proposons de l'intituler : L'intelligence artificielle générative et les métiers du droit : agir plutôt que subir.

Le titre du rapport d'information est adopté.

Les recommandations sont adoptées.

La mission d'information adopte, à l'unanimité, le rapport d'information et en autorise la publication.

COMPTE RENDU DE L'AUDITION
DE MME CLARA CHAPPAZ, SECRÉTAIRE D'ÉTAT CHARGÉE DE L'INTELLIGENCE ARTIFICIELLE ET DU NUMÉRIQUE

__________

MARDI 26 NOVEMBRE 2024

Mme Muriel Jourda, présidente. - Notre commission accueille aujourd'hui Clara Chappaz, secrétaire d'État chargée de l'intelligence artificielle (IA) et du numérique, dans le cadre des travaux de notre mission d'information consacrée à l'influence du développement des logiciels d'intelligence artificielle générative (IAG) sur les professions juridiques.

La progression remarquable et continue des outils d'IAG suscite l'intérêt de la commission des lois. Nous avons souhaité nous concentrer sur les professions juridiques. Le champ de la mission d'information peut sembler restreint, tant ces logiciels entraînent des conséquences sur de nombreux secteurs de la société. Mais notre commission accorde une place importante aux questions de justice, et le fait de se concentrer sur un secteur précis permet de gagner en précision dans l'analyse, en nous éloignant des lieux communs sur le sujet.

La matière juridique se prête au développement de ces outils. Celle-ci repose, en effet, sur des tâches d'analyse, de rédaction et de synthèse, que l'IAG peut, a priori, appréhender ; j'en veux pour preuve le dynamisme des start-up dans ce domaine.

Cela provoque réactions et inquiétudes, que partagent certains professionnels du droit et une partie de nos concitoyens. La justice doit rester un domaine où des hommes et des femmes prennent des décisions, l'IA n'étant qu'un outil - et seulement un outil - sur lequel ils peuvent s'appuyer.

Par cette mission d'information, dont Marie-Pierre de la Gontrie et Christophe-André Frassa ont été désignés rapporteurs, la commission des lois a entendu apprécier les conséquences actuelles et potentielles de cette évolution technologique sur les métiers du droit. Les rapporteurs ont veillé à consulter, par un vaste programme d'auditions - vous êtes, madame la secrétaire d'État, la quatre-vingt-dix-huitième personne à être entendue - et la compilation d'une cinquantaine de contributions écrites, tous les acteurs intéressés par ces enjeux : les avocats, les magistrats judiciaires et administratifs, les greffiers, les procureurs, les juristes d'entreprise, les commissaires de justice, les notaires, les conseillers en propriété intellectuelle, des universitaires, les principales écoles de droit, les éditeurs juridiques, les entreprises du secteur, les associations concernées, ainsi que les services du ministère de la justice.

Votre audition clôt ce cycle. Vous allez pouvoir nous exposer la politique gouvernementale en matière d'IAG, et nous souhaitons notamment savoir si le Gouvernement fera sienne la stratégie nationale pour l'IA, initiée en 2018.

Je souhaite commencer par vous poser une question d'ordre général. Vous détenez, au sein du Gouvernement, un portefeuille spécifique. Comment envisagez-vous l'action de l'État entre une direction d'administration centrale - la direction générale des entreprises (DGE) - censée définir des mesures générales en matière d'IA, et des services d'administrations relevant de ministères sectoriels - à l'instar du ministère de la justice - qui rencontrent des problématiques spécifiques ?

Mme Clara Chappaz, secrétaire d'État auprès du ministre de l'enseignement supérieur et de la recherche, chargée de l'intelligence artificielle et du numérique. - Je suis honorée de pouvoir échanger avec vous sur ces sujets essentiels qui touchent à la fois à l'innovation technologique et à la transformation de notre société et de ses métiers. Cette audition est une occasion précieuse de partager la vision du Gouvernement et les actions concrètes que nous menons pour accompagner ces mutations majeures.

Le développement de la legaltech - ces fameuses start-up du droit et de l'IA, notamment générative - incarne une révolution technologique que nous devons collectivement comprendre, encadrer et encourager. Le Sénat, par sa mission d'information, joue un rôle clé pour éclairer ces enjeux complexes, et je vous en remercie. Je salue l'engagement des rapporteurs, Marie-Pierre de la Gontrie et Christophe-André Frassa, pour la qualité et la profondeur des échanges menés. Votre rapport, attendu prochainement, constituera une ressource précieuse pour continuer à avancer sur ces sujets.

Avant d'entrer dans le détail du sujet qui nous réunit aujourd'hui, je souhaite indiquer les quatre objectifs de ma feuille de route en tant que secrétaire d'État chargée de l'intelligence artificielle et du numérique : faire de la France une grande puissance de l'IA au service des Français et de la société ; soutenir notre tissu de jeunes entreprises innovantes tout au long de leur cycle de vie ; protéger notre espace numérique et construire un cadre de régulation équilibré qui favorise l'innovation tout en préservant notre souveraineté ; et enfin, promouvoir un numérique inclusif, responsable et durable, qui profite à l'ensemble de nos concitoyens.

Ces quatre objectifs constituent une réponse aux défis toujours plus nombreux que nous devons relever en France ainsi qu'en Europe dans le champ du numérique et, plus généralement, dans celui de l'innovation et de la compétitivité. Vous connaissez le contexte mondial : les tensions géopolitiques sont croissantes, et la concurrence économique s'accélère. Certains résultats électoraux récents risquent d'entraîner des conséquences et l'Europe, plus que jamais, doit être à la hauteur.

Au quotidien, le fait de réunir les forces vives dans cet effort commun s'avère pour moi un viatique. Il s'agit de l'unique voie pour construire une société numérique innovante et de confiance, et permettre ainsi à chacun de nos concitoyens de se reconnaître dans les mutations impulsées par la technologie et notamment l'IA. Nous devons construire cette voie ensemble, chacun dans son rôle, selon une méthode de travail ouverte que je m'emploierai à respecter. Je sais pouvoir compter sur votre engagement dans cette démarche pour éclairer nos réflexions.

Concernant l'IA, je souhaite vous partager mes ambitions sur le sujet. Mon objectif est de faire de la France une grande puissance de l'IA, et pas seulement d'un point de vue économique : je veux m'assurer que cette technologie serve au plus grand nombre. La France occupe une place incontournable dans le domaine de l'IA, ce succès étant le fruit d'efforts constants, avec plus de 1 000 start-up recensées, dont certaines reconnues dans le monde entier - Mistral AI, Hugging Face, PhotoRoom, Aqemia. J'étais, la semaine dernière, à San Francisco et toutes les entreprises avec lesquelles nous avons eu des échanges là-bas ont demandé des informations sur ces start-up françaises, reconnues aussi bien au niveau scientifique que pour le potentiel des solutions développées.

En 2024, ces start-up ont levé 1,2 milliard d'euros, soit une augmentation de 63 % en un an. Cela témoigne de l'engouement du secteur et de la crédibilité des start-up dans ce secteur en France.

Nous avons également mené un important travail au niveau des infrastructures, avec l'établissement en France de certains des centres de calcul parmi les plus importants d'Europe ; je pense, par exemple, à ceux de Jean Zay et de Genci (grand équipement national de calcul intensif). L'écosystème privé, avec des sociétés comme Scaleway, Outscale ou OVH, a également déployé des solutions reconnues en la matière.

Depuis 2018, notre pays a engagé une stratégie nationale pour l'IA, avec une dotation de 2,5 milliards d'euros. Elle a d'abord soutenu la recherche fondamentale et la formation d'excellence, afin de construire une expertise et développer des systèmes d'IA à la fois performants, sûrs et économes. L'objectif est de bâtir un vivier de compétences à même de nous propulser parmi les leaders mondiaux de l'IA, et de permettre la création de start-up d'excellence.

Nous avons également renforcé les liens entre chercheurs, entreprises et industriels afin d'accélérer le transfert de résultats de la recherche vers l'économie. Cette stratégie concerne l'ensemble de la chaîne de valeurs, du matériel au calcul. Elle se traduit par des initiatives concrètes comme les « clusters IA », les programmes et équipements prioritaires de recherche, les appels à projets pour soutenir les usages d'IAG dans l'économie.

En février 2025, nous aurons une occasion unique d'accélérer cette stratégie lors du sommet pour l'action sur l'IA organisé en France. Ce sommet permettra de réunir chefs d'État, chefs d'entreprise, acteurs de l'écosystème, scientifiques et société au sens large, afin d'être un catalyseur et d'affirmer la position centrale de la France sur la scène internationale de l'IA. Il doit nous permettre d'avoir une discussion mondiale sur la façon de relever ensemble les défis et opportunités de cette technologie.

Il ne s'agira pas seulement d'un moment de réflexion ; il conviendra de souligner l'importance cruciale de l'IA dans la course à la compétitivité, notamment en Europe. Comme l'a souligné le rapport de Mario Draghi, publié en septembre 2024, il est urgent d'innover pour rattraper notre retard technologique et d'investir dans au moins dix secteurs stratégiques, de l'automobile à la santé en passant par l'énergie. L'IA est une technologie transformatrice, qui dispose du potentiel d'augmenter la productivité de notre économie et d'accélérer notre transition vers un modèle plus performant.

Néanmoins, la France accuse encore du retard en matière d'adoption d'outils d'IA, notamment dans les entreprises. Il s'agit d'une préoccupation majeure. J'ai eu l'occasion d'échanger avec de nombreuses entreprises sur le sujet ; celles-ci développent un certain nombre de tests d'utilisation de l'IA dans leurs travaux, mais peinent aujourd'hui à passer à l'échelle supérieure. Notre écosystème d'IA, aussi bien public que privé, doit se mobiliser pour aller au-delà des projets pilotes et prévoir des déploiements à grande échelle.

De même, nous devons affronter le défi de l'acculturation du grand public. Cette technologie suscite encore des inquiétudes et des craintes pour l'emploi. Le champ des possibles est ouvert, mais il induit un certain nombre de risques sur lesquels il convient de mener une réflexion profonde ; je pense notamment à la désinformation, aux conséquences sur l'apprentissage, aux risques sur la santé et la sécurité des personnes. Ces nombreuses questions restent ouvertes : nous tenterons d'y répondre en ayant pour objectif de maintenir la France à la pointe du secteur, tant au niveau de la compétitivité de nos entreprises que des garanties offertes aux usagers.

L'IA est une révolution technologique qui concerne désormais tous les aspects de notre société ; les professions du droit ne font pas exception. L'arrivée des outils d'IAG, notamment au cours des deux dernières années, représente une opportunité immense pour le secteur, mais aussi un défi collectif que nous devons relever avec ambition et responsabilité.

Pourquoi le sujet est-il crucial ? Le droit est au coeur économique et démocratique de notre pays. L'IA dans le droit ne se limite pas à l'amélioration de processus techniques, elle pose des questions fondamentales sur l'accès au droit, les enjeux de compétitivité entre les professionnels et, plus largement, notre souveraineté technologique.

Cette révolution s'accompagne d'un double impératif.

Le premier de ces impératifs consiste à saisir les opportunités pour renforcer l'efficacité et la compétitivité des professions juridiques françaises, en leur permettant de consacrer davantage de temps aux tâches à forte valeur ajoutée. En 2023, Élisabeth Borne, alors première ministre, avait lancé la commission de l'intelligence artificielle ; celle-ci avait identifié que les juristes faisaient partie des professionnels les plus exposés à l'IA. Goldman Sachs estime, pour sa part, que 44 % des tâches juridiques aux États-Unis seront automatisables par l'IA. Nous devrons veiller à ce que ces professions opèrent cette transition avec succès.

Le second impératif auquel nous sommes soumis consiste à garantir le déploiement de ces nouvelles technologies dans le respect d'obligations déontologiques. Certes, la tâche est importante, mais l'enjeu est de taille tant les perspectives sont prometteuses pour l'IA dans le secteur.

Premièrement, l'IA permet d'augmenter la productivité des professionnels, avec un nombre important de cas d'usage très concrets ; je pense à la rédaction et à la synthèse de documents, ou encore à l'identification de nouveaux arguments. Plusieurs professionnels ont témoigné de ces gains de temps. Les notaires, par exemple, entendent réduire de 90 minutes le temps consacré par dossier, et celui dédié à la rédaction d'un contrat peut également être divisé par deux. Ce temps gagné peut donc être consacré à des activités où l'apport des professionnels est irremplaçable ; je pense, par exemple, à l'accompagnement et la stratégie juridique.

Ce constat vaut également pour nos magistrats. Acteurs centraux de notre système judiciaire, ils pourraient eux aussi tirer des bénéfices des outils d'IA et jouer à armes égales face aux avocats. Avec les gains de temps obtenus, les magistrats pourraient également consacrer davantage de temps à leur mission première : rendre une justice équitable, rapide et accessible à tous.

Deuxièmement, ces outils peuvent transformer l'accès au droit. Le gain de temps évoqué permettrait aux professionnels du droit de traiter des dossiers plus nombreux et d'accompagner ainsi un nombre plus important de justiciables, en leur délivrant de l'information juridique vulgarisée grâce à l'IA.

Troisièmement, l'IA porte des enjeux de souveraineté et d'influence internationale. Une infime part des données d'entraînement des large language models (LLM) sont françaises. En droit, cela implique que les LLM étrangers, notamment américains, sont entraînés sur des données majoritairement de common law. Il s'agit donc de promouvoir au niveau international notre modèle et notre culture juridique continentale, avec des LLM entraînés sur nos données de droit civil.

Ces perspectives sont assorties à des risques inhérents aux technologies. L'IAG peut être soumise à des hallucinations ou à des biais algorithmiques. Dans le droit particulièrement, il est primordial d'accompagner et de former les professionnels à une discipline collective, afin de diffuser les bonnes pratiques et de mettre en garde contre les mauvaises.

La legaltech constitue un maillon essentiel de la modernisation de notre secteur juridique. Spécialisées dans le développement de solutions technologiques dédiées au droit, ces entreprises sont aujourd'hui des partenaires incontournables des professionnels. Elles apportent des réponses concrètes aux besoins croissants d'efficacité, d'innovation et d'accessibilité.

En France, l'écosystème de la legaltech est particulièrement dynamique et prometteur, avec aussi bien des acteurs historiques que des start-up faisant bouger les lignes ; je pense, par exemple, à Predictice, Ordalie, Jus Mundi ou encore Doctrine. Le secteur étant en dynamique d'hypercroissance, son poids économique a triplé en trois ans, passant de 30 millions en 2019 à 100 millions d'euros en 2021. La legaltech trouve déjà sa place dans la pratique du droit ; à cet égard, le barreau de Paris a récemment conclu un partenariat avec Dalloz pour équiper 14 000 avocats avec des solutions d'IAG.

Cependant, je suis convaincue que cet écosystème est loin d'avoir atteint son plein potentiel. La majorité des sociétés de la legaltech reste confrontée à des enjeux de financement et de concurrence internationale. Trop peu d'entreprises françaises parviennent à atteindre une taille critique suffisante pour rivaliser avec de grandes entreprises étrangères souvent mieux financées et dotées d'un accès privilégié à des volumes de données considérables.

Conscient de ces défis, le Gouvernement agit pour accompagner le développement des acteurs. Notre rôle est de soutenir la transformation au sein de tous les secteurs d'activité, en s'assurant que les coeurs de métier soient préservés et bénéficient de nouvelles opportunités de développement.

Pour assurer ce rôle, nous avons identifié quatre leviers principaux.

Le premier levier concerne le financement de l'innovation, avec des appels à projets et des plans clés. À cet égard, nous pouvons citer l'appel à projets « Accélération des usages de l'IA générative dans l'économie », doté de 30 millions d'euros, qui vise des solutions innovantes et réplicables dans plusieurs secteurs, dont le droit. À ce stade, 10 % des projets déposés dans le cadre de cet appel à projets concernent directement les professions juridiques.

Le deuxième levier cible la mobilisation de la commande publique pour soutenir nos développeurs de solutions françaises. Des échanges sont en cours, sous le pilotage du ministère de la justice, pour expérimenter des outils reposant sur de l'IAG par les magistrats de la cour d'appel de Paris. Dès 2025, le tribunal de commerce de Paris dotera les juges et les greffiers d'outils d'IA. Les pouvoirs publics doivent accompagner ces expérimentations d'un budget et d'un cadre idoines : je pense notamment aux exigences en matière d'hébergement et de protection des données personnelles.

Le troisième levier s'attache à la diffusion des usages et à l'acculturation des professionnels afin de permettre à ces technologies de trouver leur juste place dans les pratiques. Sur ce point, des campagnes sont en cours avec des réseaux de professionnels tels que les ordres, les barreaux ou encore l'Union nationale des professions libérales (UNAPL) qui a fait de l'IA une de ses priorités. Le dispositif « IA Booster », piloté par Bpifrance, complète l'accompagnement de ces entreprises dans l'intégration des outils d'IAG dans leurs procédures. Les formations en droit doivent également faire une place à des modules dédiés à l'IA ; le Conseil national des barreaux (CNB) a formulé des propositions en ce sens.

Enfin, le quatrième levier vise à lever les freins au développement des start-up, notamment celles de la legaltech, maillon essentiel de la chaîne de valeur. Il s'agit de lever les obstacles structurels : cela a commencé avec la mise en open data des décisions de justice. Cette démarche, toujours en cours, constitue une avancée majeure afin d'accéder à des données de qualité et de développer des solutions pertinentes. L'appel à projets « Communs numériques pour l'intelligence artificielle générative » soutient également la création de bases de données ouvertes et qualifiées.

Concernant l'IA, je souhaite que la France adopte une approche globale, à la fois lucide sur les défis à relever et les menaces à écarter, et capable d'inclure l'ensemble des individus dans ce mouvement d'innovation. À ce titre, je remercie à nouveau votre commission d'avoir lancé ces réflexions spécifiques au métier du droit ; je prendrai connaissance des conclusions de vos travaux avec la plus grande attention.

Madame la présidente, pour répondre à votre question, nous travaillons avec notre ministère de rattachement, celui de la recherche, ainsi qu'avec les services de Bercy. Nous sommes en lien avec les services de la DGE. Un service consacré à ce sujet effectue un travail remarquable et très éclairant. Avec le ministère de la justice comme avec les autres ministères, nous engageons un certain nombre de réflexions, afin de diffuser les avantages et les bénéfices de l'IA auprès de toutes et tous. Concernant la formation, par exemple, nous avons des échanges aussi bien avec le ministère de l'éducation nationale qu'avec celui de l'enseignement supérieur.

Mme Marie-Pierre de La Gontrie, rapporteure. - La création d'un portefeuille ministériel spécifique à l'IA s'avère une bonne chose, ne serait-ce que pour le signal envoyé. Nous savons désormais que le Gouvernement tient l'IA pour un champ important de l'action publique et, plus largement, de notre économie.

L'État engage-t-il, selon vous, les moyens nécessaires ? Une précision serait bienvenue concernant le montant global de la stratégie nationale pour l'IA ; vous avez évoqué le chiffre de 2 milliards d'euros, alors que le représentant de la DGE nous a indiqué celui de 3,2 milliards d'euros. Par ailleurs, il serait intéressant de connaître la répartition entre les crédits publics et privés.

Les investissements publics et privés français dans l'IAG paraissent faibles en comparaison d'autres pays ou même d'entreprises seules. Quel est votre point de vue sur le sujet ? Revient-il seulement à l'État de catalyser l'investissement privé ?

Nous nous réjouissons que le Gouvernement prenne l'IA au sérieux. Mais pensez-vous pouvoir convaincre les professionnels du droit de l'importance de cette évolution technologique ? Certaines personnes que nous avons auditionnées au cours de nos travaux, qui représentaient des professions juridiques, ne semblaient pas conscientes des enjeux de l'IAG. Le progrès de la technologie nécessite une adoption de celle-ci par les acteurs privés, et sa maîtrise conditionne l'effet vertueux de l'IAG.

Nous avons été frappés du dynamisme de la legaltech, même si certains usent de termes parfois volontairement flous, laissant entendre que leur service s'apparente à une consultation juridique, monopole des professions réglementées. Nos auditions ont démontré qu'un arbitrage interministériel n'existait pas en la matière. La DGE est favorable à l'inscription dans la loi d'une définition de la consultation juridique dans un souci de lisibilité et de clarification du droit, tandis que le ministère de la justice souhaite maintenir cette définition dans le domaine jurisprudentiel. Quelle est votre position sur le sujet ?

M. Christophe-André Frassa, rapporteur. - Je souhaite vous interroger sur les acteurs publics, au premier rang desquels le ministère de la justice. Je vous remercie pour le dynamisme qui transparaît dans vos propos, car un sentiment plus mitigé nous a accompagnés tout au long des auditions. Nous avons rencontré de nombreuses difficultés pour recevoir les services du ministère de la justice, qui semble dépassé par la rapidité des évolutions technologiques entraînées par l'IAG. Pouvez-vous nous rassurer sur l'approche de l'État en matière d'IAG, sachant que la dimension générative est souvent occultée ? Nous espérons que, lors du sommet de février prochain, l'État plaide la cause de l'IAG et soumette des propositions fortes.

Je souhaite revenir sur les difficultés rencontrées par le ministère de la justice : ses services apparaissent en effet contraints et avancent avec un boulet attaché à chaque pied.

Le premier boulet est d'ordre juridique, car certaines réglementations les empêchent de recourir à des logiciels avec la même facilité que les acteurs privés. Du côté de la magistrature administrative, le Conseil d'État estime qu'il lui faudra développer en interne un outil d'IAG, ce qui semble pour le moins délicat au regard des moyens nécessaires au développement de celui-ci. Dans le même temps, les services de Bercy ont développé leur propre IAG pour le tri de la masse d'amendements dans le cadre des projets de loi de finances (PLF). Peut-être pourraient-ils faire profiter d'autres administrations de leur savoir-faire.

Le second boulet concerne le numérique. Nous connaissons le retard de la chancellerie en matière numérique, voire informatique ; je pense notamment à l'équipement. Combien de trains de retard les professions judiciaires ont-elles concernant l'IAG ? Et comment envisagez-vous d'aider ce ministère à rattraper le retard ?

Mme Clara Chappaz, secrétaire d'État. - Les questions que vous m'avez posées peuvent être résumées en trois interrogations : sommes-nous prêts, du point de vue de l'État, à accompagner cette transformation ? Sommes-nous prêts également du point de vue des usagers, acteurs privés ou publics ? Et si tel n'est pas le cas, comment faisons-nous en sorte de le devenir ?

Quand une technologie aussi transformative arrive sur le marché, il est normal que des interrogations surviennent. Cela vaut pour les professions juridiques comme pour d'autres professions. Je serai attentive à ce que toutes les professions montent dans le train de l'IA. Il s'agit de surmonter l'appréhension de la nouveauté pour en tirer tous les bénéfices. Si, sur le terrain, personne n'utilise les solutions qui sortent de nos belles entreprises d'IA, alors les bénéfices seront faibles, en termes aussi bien de productivité que d'amélioration du travail pour nos concitoyens.

À la question de savoir si nous sommes prêts, ma réponse est oui, mais un accompagnement sera nécessaire. Pour cette raison, la deuxième étape de la stratégie nationale pour l'IA concerne l'accompagnement et le déploiement.

Pour répondre à votre question sur le budget concernant l'IA, on parle bien de 2,5 milliards d'euros. Cet argent public se déploie en deux phases : une première, à hauteur de 1,5 milliard d'euros, consacrée à la recherche et la création de solutions ; et une deuxième, à hauteur de 1 milliard d'euros, pour le déploiement dans l'économie. Il s'agit donc à fois de créer les solutions et de les diffuser pour en tirer tous les bénéfices. Au-delà du chiffre que vous avez évoqué, madame la rapporteure, il faut prendre en compte des investissements privés.

Comme dans toute stratégie d'innovation, l'État impulse un certain nombre de choses, notamment en investissant dans la recherche et les capacités de calcul, mais le secteur privé doit aussi prendre sa part afin de constituer un écosystème solide.

Pour dépasser cette appréhension de l'IA et accompagner le changement, l'État est intervenu en amont. Depuis 2018, la stratégie nationale sur l'IA repose sur un certain nombre de rapports publiés à l'époque qui nous permettent d'être là où nous en sommes aujourd'hui. Si les investissements n'avaient pas été effectués, nous n'aurions pas aujourd'hui des laboratoires comme Mistral AI ou Kyutai qui développent des modèles d'IA à la pointe.

Nous avons su renforcer nos compétences au niveau des talents et des infrastructures, notamment grâce à notre accès à une énergie stable et verte. Aujourd'hui riches de ces solutions, notre principal sujet concerne l'adoption. Comment les usagers vont-ils se saisir de ces technologies ? Je suis optimiste, car la démarche adoptée me semble la bonne ; je pense aux appels à projets déjà évoqués, mais aussi à un certain nombre d'autres appels à projets que nous allons déployer d'ici au sommet des 10 et 11 février 2025. Un dispositif, lancé cette semaine avec le ministre de l'économie et des finances, va notamment permettre de lister les cas d'usage dans les différents métiers ; l'objectif est de livrer de bonnes pratiques et de permettre à chacun de voir comment des personnes exerçant la même profession utilisent l'IAG.

Sur la question du secteur public, nous avons amorcé un travail depuis un an. La DGE pilote une partie de ce travail, afin d'accompagner la diffusion de la technologie, de lancer un certain nombre de tests et d'accélérer l'acculturation. Nous sommes engagés dans la bonne voie. Je ne peux pas vous assurer que tous les avocats et magistrats utilisent aujourd'hui l'IA, mais je peux vous garantir que nous allons les accompagner afin que le déploiement s'effectue le plus rapidement possible.

Sur la possibilité de développer des outils publics, il convient de regarder les solutions qui existent déjà sur le marché. Si ces outils n'apportent pas les bonnes réponses ou que des raisons réglementaires empêchent de le faire dans certaines professions, celles-ci doivent pouvoir développer leurs propres outils. Sur ce point, je suis optimiste. En plus des travaux déjà cités, nous pouvons évoquer le travail de la direction interministérielle du numérique (Dinum) qui, ces dernières années, a permis le développement d'outils souverains au service des agents de l'État ; je pense, par exemple, à la messagerie Tchap, qui permet à tout agent de l'État de communiquer de manière instantanée. Les services de la Dinum ont également déployé, avec Albert, leur propre modèle d'IA ; on peut donc imaginer qu'ils puissent, si cela s'avérait nécessaire, apporter des réponses aux besoins de certaines professions.

Vous avez évoqué un double boulet, juridique et numérique. De mon côté, je vois plutôt des opportunités. Une technologie aussi transformative va changer la manière de travailler des professionnels du droit. Celle-ci, comme toutes les innovations de rupture, demande beaucoup d'investissements et d'agilité pour assurer une bonne propulsion. Elle peut également servir à combler le fossé numérique que certaines personnes



pouvaient ressentir. Aujourd'hui, l'IAG permet à une personne qui n'a jamais appris à le faire de coder ; elle lui permet également de prendre des notes ou encore d'utiliser la commande vocale pour accéder à un certain nombre de services.

Mme Marie-Pierre de La Gontrie, rapporteure. - Votre réponse n'est pas totalement satisfaisante en ce qui concerne la Chancellerie. À l'issue de nos auditions, nous avons eu l'impression de voir deux trains, deux dynamiques distinctes. D'un côté, celui des professions réglementées du droit, qui connaît des difficultés juridiques et financières mais avance assez rapidement, même si les éditeurs n'ont pas tous atteint le même niveau. De l'autre, le train de la Chancellerie, qui est resté en gare. Un gouffre s'installe donc entre les magistrats et les autres professions juridiques, dont on peut espérer qu'elles ont recours à une IAG de qualité, de manière prudente. Ce fossé nous préoccupe et nous n'avons pas été rassurés, ni par la DGE ni par la Chancellerie.

Mme Muriel Jourda, présidente. - À cet égard, je me demande si, pour des raisons de fond tenant au rôle de l'État et pour des considérations budgétaires, le Gouvernement ne devrait pas se désintéresser des professions juridiques indépendantes, qui ont toujours su s'adapter par elles-mêmes, pour se concentrer sur la sphère publique.

M. Christophe-André Frassa, rapporteur. - La question de la formation a été mentionnée dans toutes les auditions que nous avons menées, aussi bien avec les acteurs publics que privés. Il s'agit de former les professionnels actifs, les étudiants mais aussi les lycéens. Vos collègues de l'éducation nationale et de l'enseignement supérieur figurent-ils dans les acteurs gouvernementaux impliqués dans la thématique de l'IAG ? La formation et l'enseignement constituent, en effet, l'un des enjeux majeurs en la matière.

Mme Clara Chappaz, secrétaire d'État. - J'entends vos réflexions et lirai très attentivement votre rapport, pour prendre connaissance des difficultés que vous mentionnez dans le détail. Néanmoins, le domaine de la justice n'est pas le seul à connaître une telle situation. Notre rôle est d'engager un travail interministériel afin d'embarquer au mieux tous les acteurs publics, mais aussi ceux du secteur privé. Ce serait une erreur de penser que ces derniers vont se saisir de la technologie par eux-mêmes...

Mme Marie-Pierre de La Gontrie, rapporteure. - Ils le font déjà !

Mme Clara Chappaz, secrétaire d'État. - Non. En matière d'adoption de l'IA, la France est le pays le plus en retard au niveau européen, avec moins de 10 % des entreprises qui ont vraiment mis en place des solutions. Les acteurs privés sont peut-être en avance par rapport à ceux du public, mais il nous faut continuer de soutenir les dispositifs des deux côtés et ne pas créer de décalage entre les actions menées.

Je partage votre point de vue sur la formation et la sensibilisation. Notre méthode consiste d'abord à mieux comprendre l'évolution des métiers. À cet égard, nous avons lancé l'initiative LaborIA, qui vise à analyser cette évolution et à réfléchir à ce que l'IA peut apporter. Ensuite, il s'agit de se pencher sur la façon dont les formations peuvent acculturer les élèves à l'utilisation de ces outils. L'appel à manifestation d'intérêt « Compétences et métiers d'avenir » a été lancé, dans la perspective de créer des formations plus adaptées dans chaque discipline.

Concernant les magistrats, nous avons eu des échanges avec le ministère de la justice, que nous pourrons poursuivre pour identifier comment les accompagner au mieux, si vous pensez que c'est là que notre action doit être la plus appuyée. Dans le domaine du droit comme dans les autres, notre méthode consiste toujours à nous demander comment embarquer avant tout le secteur public dans la transformation. Nous ne souhaitons pas que seuls les acteurs du privé bénéficient des transformations offertes par cette technologie. Parfois, la marche est plus haute du côté du public.

Mme Muriel Jourda, présidente. - Merci, madame la secrétaire d'État, d'avoir clôturé notre série d'auditions.

LISTE DES PERSONNES ENTENDUES
ET DES CONTRIBUTIONS ÉCRITES

Lundi 6 mai 2024

Table ronde d'universitaires

M. Thibaut Massart, professeur agrégé de droit privé, Université Paris Dauphine

Mme Céline Castets-Renard, professeur des universités, Université Toulouse Capitole

Mme Aurore Hyde, professeure en droit privé et sciences criminelles, Université de Reims

Table ronde d'éditeurs juridiques

Lefebvre - Dalloz

Mme Caroline Sordet, directrice du Pôle Édition Lefebvre Dalloz, directrice des éditions Francis Lefebvre, Dalloz, Éditions législatives

M. Michaël Benesty, directeur recherche et développement, Lefebvre Sarrut

LexisNexis

Mme Sophie Coin-Deleau, directrice de la stratégie France, LexisNexis

M. Jean-Pierre Sirot, directeur produit France, LexisNexis

M. Guillaume Leblanc, directeur des affaires gouvernementales, groupe RELX

Lamy Liaisons

Mme Rokhaya Pondi, directrice commerciale Éditions Lamy-Liaisons

Mme Iga Kurowska, innovation manager region South, Kranov Group

Lextenso

Mme Emmanuelle Filiberti, directrice générale

M. Arthur Mayrand, directeur numérique et innovation

Direction générale des entreprises (DGE)

M. Guillaume Decorzent, sous-directeur des services marchands

Mardi 28 mai 2024

Conseil supérieur du notariat

Me Bertrand Savouré, premier vice-président

Mme Camille Stoclin-Mille, directrice des relations institutionnelles

Chambre des notaires de Paris

M. Pierre Tarrade, premier vice-président

M. Jérémy Guyon, directeur du développement

Association française des juristes en entreprise (AFJE)

M. Jean-Philippe Gille, président

Mme Stéphanie Corbière, directrice juridique

Mme Anna-Catherine Bénard-Lotz, directrice juridique

Mercredi 29 mai 2024

Table ronde des start-up facilitant l'accès à l'information juridique

Doctrine

M. Hugo Ruggieri, directeur juridique et affaires publiques

GoodLegal

M. Zacharie Laik, directeur de la publication

Ordalie

Mme Léa Fleury, cofondatrice

SmartLawyer

M. Pierre-Louis Roquet, cofondateur

Table ronde des start-up facilitant la gestion de contrats

Jimini AI

M. Stéphane Béreux, cofondateur

Septeo

M. Dan Kohn, directeur de la prospective et de l'intelligence marché

Gino LegalTech

M. Philippe Ginestié, président fondateur

M. Cyril de Villeneuve, conseiller principal

Tomorro

M. Antoine Fabre, cofondateur

Mercredi 12 juin 2024

Table ronde des syndicats représentant la profession d'avocat

Confédération nationale des avocats (CNA)

Me Danièle Darliguie, présidente, avocat au barreau de Paris

Me Valérie Rosano, membre du comité directeur, avocat au barreau de Paris

Syndicat des avocats de France (SAF)

Me Flor Tercero, avocate au barreau de Toulouse

Fédération nationale des unions des jeunes avocats (FNUJA)

Me Olivia Roche, présidente de l'UJA de Paris, avocate au barreau de Paris

Manifeste des avocats collaborateurs (MAC)

Me Guillaume Delarue, président du manifeste des avocats collaborateurs, avocat au Barreau de Paris

Association des Avocats Conseils d'Entreprises - Avocats, ensemble (ACE)

Me Georges Sauveur, avocat à la Cour, membre du Bureau de l'ACE

Me François Girault, avocat au barreau de Montpellier, vice-président ACE Ouest Méditerranée

Avenir des barreaux de France (ABF)

Me Alain Cockenpot, avocat au barreau de Douai

Mercredi 19 juin 2024

Table ronde des représentants institutionnels des avocats

Conseil national des barreaux (CNB)

Mme Julie Couturier, présidente

Mme Hélène Laudic-Baron, vice-présidente

Mme Anne-Charlotte Varin, directrice des affaires publiques

Ordre des avocats du barreau de Paris

Mme Héléna Christidis, membre du Conseil de l'ordre et secrétaire de la commission numérique

Conférence des Bâtonniers

M. Serge Deygas, membre de la conférence des bâtonniers, avocat au barreau de Lyon, ancien bâtonnier de Lyon

Union syndicale des magistrats administratifs (USMA)

Mme Anne-Sophie Picque, présidente

Syndicat de la juridiction administrative (SJA)

Mme Gabrielle Maubon, secrétaire générale

M. Virgile Nehring, secrétaire générale adjoint

M. Nicolas Degand, adhérent

Conseil d'État

Mme Cécile Nissen, secrétaire générale adjointe

Mme Alianore Descours, rapporteure à la 8e chambre du contentieux et à la section des travaux publics

Lundi 14 octobre 2024

Chambre nationale des commissaires de justice (CNCJ)

Me Georges Golliot, vice-président

Me Olivier Baret, secrétaire national

M. Cyril Murie, directeur du conseil interne

Table ronde des cabinets ayant engagé une mutation en matière d'intelligence artificielle

Squair

Me Olivier Lopez, associé, avocat au barreau de Paris

A&O Shearman

Me Hervé Ekué, managing partner, avocat au barreau de Paris

Latham & Watkins

M. Jean-Luc Juhan, associé

Mme Myria Saarinen, associée

Cabinet Samman

Me Thaima Samman, avocate aux barreaux de Paris et de Bruxelles

Me François Lhemery, avocat au barreau de Paris

M. Mehdi Farjani, consultant junior

Mardi 29 octobre 2024

Me Pierre Hoffman, bâtonnier de Paris

Me Héléna Christidis, membre du conseil de l'Ordre et secrétaire de la commission numérique

Compagnie nationale des conseils en propriété industrielle (CNCPI)

Mme Guylène Kiesel Le Cosquer, présidente

M. Emmanuel Potdevin, vice-président

Direction de l'information légale et administrative (DILA)

M. David Sarthou, directeur adjoint

Jus Mundi

M. Jean-Rémi de Maistre, président directeur général et cofondateur

M. Bruno Mamer, directeur des affaires stratégiques

Jeudi 7 novembre 2024

Démonstration effectuée par LexisNexis

Mme Sophie Coin-Deleau, directrice de la stratégie France, LexisNexis

M. Jean-Pierre Sirot, directeur produit France, LexisNexis

M. Guillaume Leblanc, directeur des affaires gouvernementales, groupe RELX

M. Sébastien Bardou, vice-président Strategy for continental Europe, Middle-East and Africa

Table ronde d'associations impliquées dans le domaine de l'intelligence artificielle

Open Law

Mme Sumi Saint Auguste, présidente

France Digitale

M. Hugo Ruggieri, directeur juridique et affaires publiques de Doctrine

M. Paul Warnier, conseiller affaires publiques et juridiques de Doctrine

M. Fabrizio Papa Techera, membre du directoire et directeur produit et innovation de Lexbase

Mme Clotilde Hocquard, responsable des affaires publiques de France Digitale

European Legal Teh Association

M. Grégoire Miot, président

Juriconnexion

Mme Michèle Bourgeois, présidente

Mme Nathalie Rehby, directrice générale de Satellitis, agence de conseil en stratégie

M. Filipe Borges, legal operations officer, groupe BPCE

Mme Emilie Gille, responsable de la documentation juridique du cabinet Goodwin

Table ronde des représentants institutionnels des principales professions des services judiciaires

Conférence nationale des procureurs de la République (CNPR)

M. Damien Savarzeix, président, procureur de Grasse

M. Frédéric Chevallier, membre, procureur de Chartres

M. Rodolphe Jarry, membre, procureur de Pau

Conférence nationale des présidents de tribunaux judiciaires (CNPTJ)

M. Guillaume Meunier, président du tribunal judiciaire de Béthune

Conférence nationale des procureurs généraux (CNPG)

M. Christophe Barret, procureur général près la cour d'appel de Grenoble

Conférence nationale des directeurs de greffe (CNDG)

M. Pierre Roussel, vice-président, directeur de greffe au tribunal judiciaire de Lille

Cour de cassation

M. Christophe Soulard, premier président

Mme la présidente Sandrine Zientara, directrice du service de documentation, des études et du rapport (SDER) de la Cour

M. Matthieu Allain, magistrat, auditeur au SDER

M. Edouard de Leiris, conseiller, chargé de mission du premier président

M. Rémy Heitz, procureur général près la Cour de cassation

Mme Sonya Djemni-Wagner, avocate générale près la Cour de cassation

Ordre des avocats au Conseil d'État et à la Cour de cassation

Me Thomas Lyon-Caen, président

Me Géraud Mégret, avocat au Conseil d'État et à la Cour de cassation

Vendredi 8 novembre 2024

Table ronde des représentants syndicaux des services judiciaires

Syndicat des greffiers de France FO

Mme Catherine Arnal, délégué régional FO Justice Filière SDGF pour la Cour d'Appel de Riom, greffier au Tribunal Judiciaire du Puy-en-Velay

UNSA Services judiciaires

M. Vincent Rochefort, secrétaire général adjoint

M. Yoan Bourquin, secrétaire régional

CFDT Services judiciaires

Mme Klervia Renault, représentante titulaire au comité social d'administration des services judiciaires

M. Guillaume Grassaud, secrétaire général du syndicat du Ministère de la Justice CFDT (SMJ-CFDT) et représentant titulaire au Comité social d'administration ministériel

Mardi 19 novembre 2024

Ministère de la justice

Secrétariat général du ministère de la justice

M. Alexandre de Bosschere, directeur, secrétaire général adjoint

Mme Audrey Farrugia, cheffe du service de l'expertise et de la modernisation

Direction des services judiciaires

M. Guillaume Michelin, sous-directeur de l'organisation judiciaire et de l'innovation

Mme Agnès Talon, chargée de mission auprès du sous-directeur

Direction affaires civiles et du Sceau

Mme Aude Morel, sous-directrice des professions judiciaires et juridiques

Mme Émilie Brunet, cheffe du bureau du droit de la protection des données et du numérique

Mme Daphné Brunet, stagiaire au bureau du droit de la protection des données et du numérique

CONTRIBUTIONS ÉCRITES

Cfdt-Magistrats

Clerk

École de formation professionnelle des barreaux (EFB)

École nationale des greffes (ENG)

École nationale de la magistrature (ENM)

Institut national des formations des commissaires de justice (INCJ)

Institut national des formations notariales (INFN)

Syndicat national de l'édition (SNE)

Syndicat des avocats de France (SAF)

Université Paris-Panthéon-Assas

TABLEAU DE MISE EN OEUVRE ET DE SUIVI

N° de la proposition

Proposition

Acteurs concernés

Calendrier prévisionnel

Support

1

Informer systématiquement l'utilisateur sur les risques d'erreurs de tout résultat fourni par une intelligence artificielle générative et sur la nécessité de vérifier ledit résultat, et l'orienter, lorsque cela est pertinent, vers un professionnel du droit.

Éditeurs juridiques et entreprises de la legaltech

Premier semestre 2025

Bonnes pratiques

2

Affiner le moteur de recherche de Légifrance pour permettre à l'usager du service public de l'information légale de formuler ses questions en langage naturel.

Services du Premier ministre

2026

Organisation administrative

3

Définir légalement la consultation juridique en actualisant la loi n° 71-1130 du 31 décembre 1971 portant réforme de certaines professions judiciaires et juridiques.

Ministère de la justice

Parlement

Année 2025

Loi

4

Favoriser la montée en compétence les assistants juridiques au sein des cabinets, notamment en leur confiant des tâches de vérification des résultats de l'intelligence artificielle générative.

Professionnels du droit

Immédiat

Bonnes pratiques

5

Favoriser l'accès des plus petites structures aux outils d'intelligence artificielle générative en mutualisant, au sein de chaque ordre, le coût de ces abonnements.

Ordres et organisations professionnels

Premier semestre 2025

Bonnes pratiques

6

Établir des règles claires et transparentes d'usage de l'intelligence générative artificielle au sein de chaque profession, notamment par la rédaction d'une charte éthique ou d'un guide d'utilisation, transposées ensuite dans chaque cabinet ou juridiction.

Ordres et organisations professionnels

Premier semestre 2025

Chartes éthiques ou guides de bonnes pratiques

7

Nommer un référent - ou une commission - au sein de chaque ordre professionnel, chargé de suivre les effets de l'intelligence artificielle générative sur la profession, identifier les dérives possibles, lancer des procédures de sanctions disciplinaires en cas de mésusage et mettre à jour le guide de bonnes pratiques.

Ordres et organisations professionnels

Premier semestre 2025

Tout moyen

8

Sans imposer d'obligation légale, conseiller dans les guides d'usage propre à chaque profession que, dans un souci de transparence, l'utilisation des outils d'intelligence artificielle générative ne doit pas être dissimulée au client.

Ordres et organisations professionnels

Premier semestre 2025

Chartes éthiques ou guides de bonnes pratiques

9

Mettre à niveau les juridictions judiciaires et administratives en matière d'équipement informatique, d'automatisation des tâches et d'outils internes de recherche jurisprudentielle.

Ministère de la justice (DSJ, secrétariat général)

2025

Tout moyen

10

Nommer un ou plusieurs référents en matière d'intelligence artificielle au sein de chaque juridiction.

Présidents de juridiction

Premier semestre 2025

Tout moyen

11

Anonymiser les magistrats et les greffiers dans les décisions de justice publiées en données ouvertes.

DACS, Cour de cassation, Conseil d'État

Parlement

Année 2025

Loi

12

Préciser, dans chaque convention de stage des étudiants en droit et en particulier des élèves-avocats, les conditions d'utilisation des outils d'intelligence artificielle générative pendant le stage.

Écoles de droit

Immédiat

Conventions de stage

13

Inciter les écoles de droit à souscrire des abonnements à des outils d'intelligence artificielle générative spécialisés dans le droit et en fournir l'accès aux étudiants, afin que ces derniers travaillent sur des résultats sourcés plutôt qu'avec des outils généralistes.

Écoles de droit

Premier semestre 2025

Tout moyen

14

Poursuivre - et accélérer - l'adaptation de la formation continue aux enjeux et à l'utilisation de l'intelligence artificielle générative.

Écoles de droit

2025

Tout moyen

15

Encourager de nouvelles modalités de formation, qui favorisent notamment la formation des professionnels les plus expérimentés par de jeunes collaborateurs compétents en matière d'intelligence artificielle (« reverse mentoring »).

Ordres et organisations professionnels

Premier semestre 2025

Tout moyen

16

Veiller à la formation de l'ensemble du personnel - et non seulement des professions juridiques - aux enjeux de l'intelligence artificielle générative.

Ordres et organisations professionnels

Ministère de la justice (DSJ, DACS)

2025

Tout moyen

17

Développer une certification ou un label public à la destination des éditeurs juridiques et des jeunes entreprises innovantes du secteur qui s'engagent à respecter certaines bonnes pratiques, relatives tant au traitement des données qu'au fonctionnement du logiciel d'intelligence artificiel générative.

Ministère de la justice, secrétariat d'État chargé du numérique, DGE

2025

Instructions

18

Inciter les administrations souhaitant se doter d'outils d'intelligence artificielle juridique à privilégier ceux développés en France ou au sein de l'Union européenne, dans le respect du code de la commande publique et de la réglementation européenne.

Ministère de la justice, secrétariat d'État chargé du numérique, DGE

Immédiat

Tout moyen

19

Poursuivre, améliorer et canaliser l'accompagnement que l'État apporte aux entreprises innovantes et aux éditeurs juridiques.

Ministère de la justice, secrétariat d'État chargé du numérique, DGE

Immédiat

Tout moyen

20

Sécuriser la réutilisation des informations publiques contenues dans les décisions de justice rendues avant l'ouverture des données juridiques, ce au regard de l'interdiction de traitement des données sensibles établie par le RGPD.

Ministère de la justice

Parlement

2025

Loi

LE CONTRÔLE EN CLAIR

POUR CONSULTER LA PAGE DE LA MISSION D'INFORMATION

https://www.senat.fr/travaux-parlementaires/commissions/commission-des-lois/intelligence-artificielle-et-professions-du-droit.html

* 1 Ces deux principes ont été explicitement mentionnés pour la première fois par le Conseil constitutionnel dans sa décision n° 99-421 DC du 16 décembre 1999 sur la loi portant habilitation du Gouvernement à procéder, par ordonnances, à l'adoption de la partie législative de certains codes.

* 2 Voir la proposition n° 2.

* 3 Voir infra, pp. 13-15.

* 4 Ces termes ont été employés par Christophe Barret, procureur général près la cour d'appel de Grenoble.

* 5 Richard Susskind, The end of lawyers ? Rethinking the nature of legal services, Oxford University Press, 2008.

* 6 Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l'intelligence artificielle).

* 7 Les rapports publiés dans ce cadre sont accessibles sur le site internet de la délégation à la prospective.

* 8 Selon la définition retenue par la commission nationale de l'informatique et des libertés (CNIL) pour la « définition d'un déploiement responsable et respectueux de la protection des données ». Voir le site de la CNIL pour davantage d'informations.

* 9 Cette expérimentation est évoquée plus en détail dans la deuxième partie du rapport.

* 10 Revue pratique de la prospective et de l'innovation, août 2024 (publication commune de LexisNexis et du conseil national des barreaux).

* 11 Rapport de la commission de l'intelligence artificielle, intitulé : « IA : notre ambition pour la France », remis au Président de la République en mars 2024.

* 12 Dans sa version actuelle, l'article 56 du code de procédure civile dispose que « L'assignation contient à peine de nullité, outre les mentions prescrites pour les actes d'huissier de justice et celles énoncées à l'article 54 :

1° Les lieu, jour et heure de l'audience à laquelle l'affaire sera appelée ;

2° Un exposé des moyens en fait et en droit ;

3° La liste des pièces sur lesquelles la demande est fondée dans un bordereau qui lui est annexé ;

4° L'indication des modalités de comparution devant la juridiction et la précision que, faute pour le défendeur de comparaître, il s'expose à ce qu'un jugement soit rendu contre lui sur les seuls éléments fournis par son adversaire.

L'assignation précise également, le cas échéant, la chambre désignée.

Elle vaut conclusions. »

* 13 ChatGPT affiche le message suivant : « ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes ».

* 14 Lexis + AI affiche le message suivant : « Ce contenu a été généré par l'intelligence artificielle et doit donc être vérifié ».

* 15 GenIA-L affiche le message suivant : « Les fonctionnalités GenIA-L for Search utilisent exclusivement le contenu Lefebvre Dalloz. Bien que les réponses générées soient basées sur un contenu mis à jour et révisé, la responsabilité ultime de la réponse incombe à l'utilisateur ».

* 16 À l'inverse, Doctrine affiche par exemple le message suivant : « L'intelligence artificielle peut faire des erreurs. Pensez à vérifier les contenus générés ».

* 17 www.legifrance.gouv.fr

* 18 Arrêté du Premier ministre du 6 juillet 1999 relatif à la création du site Internet Légifrance.

* 19 Ces quatre éditeurs juridiques ont été auditionnés par les rapporteurs le 6 mai 2024.

* 20 « Parole d'expert » du Nouvel économiste, avec Éric Bonnet-Maes, président-directeur général de LexisNexis pour l'Europe centrale, le Moyen-Orient et l'Afrique : « L'IA générative juridique, une chance pour les juristes », publié en version numérique le 21 novembre 2024.

* 21 D'après les informations transmises aux rapporteurs.

* 22 Contribution écrite du CNB.

* 23 Cette unanimité ressort des contributions écrites transmises aux rapporteurs. S'il est assez largement considéré que le marché anglo-saxon est plus « mature », pour autant la France se démarque en Europe continentale pour son marché « actif » et déjà bien « développé » en matière d'intelligence artificielle générative appliquée au droit.

* 24 Cette étude est accessible sur le site internet de France Digitale.

* 25 Contribution écrite de Septeo.

* 26 Contribution écrite de Tomorro.

* 27 Ces deux principes ont été explicitement mentionnés pour la première fois par le Conseil constitutionnel dans sa décision n° 99-421 DC du 16 décembre 1999 sur la loi portant habilitation du Gouvernement à procéder, par ordonnances, à l'adoption de la partie législative de certains codes.

* 28 Voir supra, pp. 27-32.

* 29 Le conseil national des barreaux identifie, dans sa réponse écrite au questionnaire des rapporteurs, « quatre principes essentiels spécifiquement liés à la relation avocat-client : compétence, dévouement, diligence, prudence ».

* 30 Voir notamment les décisions Cass. 1ere civ., 15 nov. 2010, n° 09-66.319, Cass. 1ere civ., 19 juin 2013, n° 12-20.832 et Cass 1ere civ., 25 janv. 2017, n° 15-26.353.

* 31 Réponse du ministère de la justice à la question écrite n° 24085 d'Alain Fouché, publiée dans le Journal officiel le 7 septembre 2006.

* 32 Dans les réponses écrites du CNB et de la DGE au questionnaire des rapporteurs.

* 33 Lors de l'examen de ce projet de loi, le Sénat a adopté l'amendement n° 52 rect. ter présenté par Muriel Jourda et plusieurs de ses collègues, qui modifiait la loi n° 71-1130 du 31 décembre 1971 portant réforme de certaines professions juridiques et judiciaires en y insérant une définition de la consultation juridique, comprise comme « une prestation intellectuelle personnalisée tendant à fournir un avis ou un conseil sur une question de droit en vue d'une éventuelle prise de décision ». Cette disposition n'a toutefois pas été maintenue dans le texte issu des travaux de la commission mixte paritaire. 

* 34 Certaines tâches répétitives, qui peuvent être effectuées par des outils d'intelligence artificielle non générative, ont été citées par les personnes auditionnées par les rapporteurs. Toutefois, les rapporteurs ayant centré leurs travaux sur l'intelligence artificielle générative, elles ne sont pas mentionnées dans le présent rapport.

* 35 Cette liste n'est pas exhaustive, elle contient les principaux points qui ont été mentionnés à plusieurs reprises lors des travaux des rapporteurs.

* 36 Contribution écrite du CSN.

* 37 Contribution écrite du CNB.

* 38 Contribution écrite du bâtonnier de Paris.

* 39 Contribution écrite du cabinet Samman.

* 40 Contribution écrite de France Digitale.

* 41 Ibid.

* 42 Réponse écrite de la CNCJ au questionnaire des rapporteurs.

* 43 Contribution écrite du bâtonnier de Paris.

* 44 Étude de l'European legal tech association publiée en octobre 2024, intitulée : « Legal Professionals & Generative AI Global Survey », deuxième édition.

* 45 Contribution écrite du CNB.

* 46 Contribution écrite de Squair.

* 47 D'après la contribution écrite de Doctrine.

* 48 Contribution écrite de la CNCPI.

* 49 Ces chiffres sont issus d'un sondage effectué par la CNCPI en réponse au questionnaire des rapporteurs. Les rapporteurs n'ont toutefois pas eu connaissance de la méthodologie de ce sondage.

* 50 Contribution écrite de la CNCJ.

* 51 Voir notamment les propos de Sophie Deis-Beauquesne, directrice juridique de Vinci Énergies International & Systems, dans le n° 46 (dernier trimestre de 2023) de Juriste d'entreprise Magazine, édité par l'Association française des juristes d'entreprise.

* 52 Contribution écrite de Lefebvre-Dalloz.

* 53 Contribution écrite de Septeo.

* 54 À titre d'exemple, la chambre nationale des commissaires de justice a indiqué aux rapporteurs faire « pleinement confiance » aux éditeurs juridiques et aux entreprises de la legaltech pour répondre au « besoin » des commissaires de justice « d'accélérer la recherche d'une référence juridique ».

* 55 Ces limites ont été présentées dans la première partie du présent rapport.

* 56 Contribution écrite du CNB au questionnaire des rapporteur.

* 57 Contribution écrite de l'Ordre des avocats au Conseil d'État et à la Cour de cassation.

* 58 Contribution écrite de la CNCPI.

* 59 Rapport publié le 5 juillet 2023 sur le site internet de Goldman Sachs, intitulé : « Generative IA : hype or truly transformative ? » (Intelligence artificielle générative : une mode ou une [technologie] vraiment transformatrice ?).

* 60 Voir infra, pp. 49-52.

* 61 Rapport de la commission de l'intelligence artificielle, intitulé : « IA : notre ambition pour la France », remis au Président de la République en mars 2024.

* 62 Les effets de l'intelligence artificielle générative sur les professionnels des juridictions sont analysés dans le B de la présente partie II.

* 63 Étude de l'European legal tech association publiée en octobre 2024, intitulée : « Legal Professionals & Generative AI Global Survey », deuxième édition.

* 64 Contribution écrite de la DACS.

* 65 Contribution écrite du CNB.

* 66 Didier Guével, « Intelligence artificielle et décisions juridictionnelles », Quaderni [en ligne], 98, Hiver 2018-2019.

* 67 Contribution écrite de la chambre des notaires de Paris.

* 68 Ibid.

* 69 Contribution écrite de la CNCJ.

* 70 Contribution écrite de la DACS.

* 71 Contribution écrite de l'INFN.

* 72 Contribution écrite de la CNCPI.

* 73 Contribution écrite de l'ordre des avocats au Conseil d'État et à la Cour de cassation.

* 74 Ces limites ont été présentées dans la première partie du rapport.

* 75 À titre d'exemple, Gino LegalTech, qui propose des solutions d'aide à la rédaction de contrats, cible les directions juridiques d'entreprises de taille importante ; les prix ne sont donc pas comparables.

* 76 Contribution écrite du manifeste des avocats collaborateurs.

* 77 Contribution écrite de la Cour de cassation.

* 78 Contribution écrite du bâtonnier de Paris.

* 79 Ce second point, qui est commun à toutes les professions du droit mais concerne de façon plus marquée la magistrature et les services judiciaires, est développé dans la partie suivante.

* 80 Réponse écrite de la DACS au questionnaire des rapporteurs.

* 81 Réponse écrite du CNB au questionnaire des rapporteurs.

* 82 Réponse écrite de la DACS au questionnaire des rapporteurs.

* 83 La chambre nationale des conseils en propriété industrielle a également diffusé un guide d'usage à destination des conseils en propriété industrielle.

* 84 Ordonnance n° 2018-1125 du 12 décembre 2018 prise en application de l'article 32 de la loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles et portant modification de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés et diverses dispositions concernant la protection des données à caractère personnel.

* 85 Contributions écrites du syndicat de la juridiction administrative (SJA) et de l'union syndicale des magistrats administratifs (USMA).

* 86 Contributions écrites de l'union nationale des syndicats autonomes services judiciaires et du syndicat des greffiers de France Force ouvrière.

* 87 Contributions écrites du conseil national des barreaux et de l'Ordre des avocats au Conseil d'État et à la Cour de cassation.

* 88 Contribution écrite du secrétariat général du ministère de la justice.

* 89 Contribution écrite du professeur Thibaut Massart.

* 90 Le juge Paul Magnaud relaxa en 1898 une jeune fille-mère accusée d'avoir volé du pain à un boulanger pour substanter son enfant, qui n'avait rien ingéré depuis plus d'un jour. Il fonda pour ce faire sa décision sur l'état de nécessité de l'intéressée, au gré d'une interprétation constructive de l'ancien article 64 du code pénal.

* 91 Contribution écrite de la Cour de cassation.

* 92 Contributions écrites du CNB, du SJA et de l'USMA.

* 93 Contribution écrite du SJA.

* 94 Conseil d'Etat, Section, du 7 février 1936, N° 43321, publié au recueil Lebon.

* 95 Contribution écrite du secrétariat général du ministère de la justice.

* 96 Ibid.

* 97 Contributions écrites du secrétariat général du ministère de la justice, du Conseil d'État, du SJA et de la conférence nationale des directeurs de greffe (CNDG).

* 98 Les articles 45 à 47 de la loi n° 2024-449 du 21 mai 2024 instaurent des autorités de contrôle des opérations de traitement de données à caractère personnel au sein des juridictions judiciaires, administratives et financières.

* 99 Il convient au surplus de noter que certains outils spécialisés, dont Doctrine, sont libres d'accès aux magistrats.

* 100 Contributions écrites du secrétariat général du ministère de la justice, du Conseil d'État et du SJA.

* 101 Le rapport conclusif de cette mission de réflexion paraîtra a priori à l'issue de l'année 2024 ou au début de l'année 2025.

* 102 Contribution écrite de la conférence nationale des procureurs généraux.

* 103 Contributions écrites du Conseil d'État et du SJA.

* 104 Contribution écrite du Conseil d'État.

* 105 Comité des États généraux de la justice, « Rendre justice aux citoyens », avril 2022, p. 91.

* 106 Avis n° 134 (2023-2024) d'Agnès Canayer et Dominique Vérien, fait au nom de la commission des lois du Sénat, déposé le 23 novembre 2023.

* 107Cour des comptes, Point d'étape du plan de transformation numérique du ministère de la justice, janvier 2022.

* 108 Annexe n° 18 « Justice » d'Antoine Lefèvre, rapporteur spécial, au Tome III du Rapport général n° 144 (2024-2025) sur le projet de loi de finances pour 2025 de Jean-François Husson, rapporteur général, fait au nom de la commission des finances, déposé le 21 novembre 2024.

* 109 Avis n° 150 (2024-2025) de Lauriane Josende et Dominique Vérien, fait au nom de la commission des lois du Sénat, déposé le 21 novembre 2024.

* 110 Voir supra, pp. 41-59.

* 111 Thibault Charmet, et al. « Complex Labelling and Similarity Prediction in Legal Texts : Automatic Analysis of France's Court of Cassation Rulings », LREC 2022.

* 112 Décret n° 2020-356 du 27 mars 2020 portant création d'un traitement automatisé de données à caractère personnel dénommé « DataJust ».

* 113 Cette expression, issue de la gestion d'entreprise, renvoie à une méthode de travail collaborative, qui repose sur de nombreux échanges entre les concepteurs, les développeurs et les utilisateurs d'un produit.

* 114 Contribution écrite du secrétariat général du ministère de la justice.

* 115 Contribution écrite du secrétariat général du ministère de la justice.

* 116 Le secrétariat général du ministère de la justice conduit par ailleurs un groupe de travail qui étudie la cohérence des occultations et la préservation des intérêts que la loi protège, dans le cadre du régime de délivrance des copies d'une décision de justice aux tiers, lequel a été modifié par le décret n° 202-797 du 29 juin 2020 relatif à la mise à la disposition du public des décisions des juridictions judiciaires et administratives.

* 117 Arrêté du 28 avril 2021 pris en application de l'article 9 du décret n° 2020-797 du 29 juin 2020 relatif à la mise à la disposition du public des décisions des juridictions judiciaires et administratives.

* 118 Contribution écrite du secrétariat général du ministère de la justice.

* 119 Contribution écrite de l'école nationale des greffes.

* 120 Voir supra, p. 67.

* 121 Toutes les citations de la présente section sont issues des contributions écrites qui ont été transmises aux rapporteurs au cours du mois de novembre 2024.

* 122 Ces règles sont détaillées dans la quatrième partie du rapport.

* 123 La moitié de l'équipe enseignante de l'école aurait répondu à cette étude, qui ne peut bien évidemment pas être extrapolée pour l'ensemble des enseignants opérant auprès des étudiants en droit.

* 124 Contribution écrite de l'ENG.

* 125 Contribution écrite de l'université Paris-Panthéon-Assas.

* 126 Si le principe d'une formation des futurs juristes aux outils d'intelligence artificielle générative fait consensus, ce consensus ne concerne cependant pas la temporalité de cette formation. Ainsi, le président de l'université Paris-Panthéon-Assas, Stéphane Braconnier, a plaidé pour que « la formation initiale ne recoure pas à l'intelligence artificielle pendant un nombre d'années minimales afin de préserver la capacité des étudiants à développer leurs compétences autonomes de recherche, de réflexion et de rédaction juridiques ».

* 127 Voir supra, pp 41-44.

* 128 Contribution écrite de l'INCJ.

* 129 Contribution écrite de l'ENG.

* 130 Voir supra, pp 49-52.

* 131 Ifop, « Les Français et les intelligences artificielles génératives », mai 2023.

* 132 Voir supra, p. 67 et p. 73.

* 133 Arrêté du 28 avril 2021, modifié par l'arrêté du 27 juin 2023.

* 134 Estimation communiquée par la Cour de cassation.

* 135 Étude de l'European legal tech association publiée en octobre 2024, intitulée : « Legal Professionals & Generative AI Global Survey », deuxième édition.

* 136 Parmi lesquels figure la levée de fonds de 385 millions d'euros de Mistral AI en décembre 2023.

* 137 Bpifrance, « IA génératives : opportunités et usages dans les TPE et PME », 14 mars 2024.

* 138 Contribution écrite de la DGE.

* 139 Ibid.

* 140 Contribution écrite de l'INCJ.

* 141 Contribution écrite de la direction des affaires civiles et du sceau.

* 142 Contribution écrite du Conseil d'État.

* 143 Le chapitre III du RIA, intitulé « Systèmes d'IA à haut risque », précise le cadre juridique de ces derniers.

* 144 Contribution écrite du Conseil d'État.

* 145 Les algorithmes d'intelligence artificielle générative devront aussi, en fonction de leurs caractéristiques, se conformer au règlement sur les données (en anglais, Data Act), au règlement sur les marchés numériques (en anglais, digital markets act, DMA) ou encore au règlement sur les services numériques (en anglais, digital services act, DSA).

* 146 Contribution écrite de Doctrine.

* 147 Articles 4 et 5 du code de déontologie des avocats, articles 12 et 13 du code de déontologie des avocats au Conseil d'État et à la Cour de cassation, article 8 du code de déontologie des notaires, article 5 du code de déontologie des commissaires de justice.

* 148 Pour les avocats au Conseil d'État et à la Cour de cassation, le principe d'indépendance figure aux articles 4 et 5 de leur code de déontologie, et le principe de compétence, en l'article 24 du même code.

* 149 L'article 3 du code de déontologie des notaires prévoit un principe de loyauté et d'impartialité ; les articles 2 et 8 du code de déontologie des commissaires de justice consacrent respectivement un principe d'indépendance et de compétence.

* 150 Tel est le cas de : France Digitale, la chambre des notaires de Paris, du conseil supérieur du notariat, Juriconnexion, Doctrine, Open Law et du professeur Thibaut Massart.

* 151 Contribution écrite de Tomorro.

* 152 Contributions écrites de la direction des affaires civiles et du sceau, de la Cour de cassation, du Conseil d'État, de l'USMA et du conseil national des barreaux.

Les thèmes associés à ce dossier

Partager cette page