EXAMEN EN COMMISSION
__________
M. Christophe-André Frassa, rapporteur. - Je vous prie de bien vouloir excuser notre collègue Marie-Pierre de la Gontrie, co-rapporteure de cette mission d'information, qui est absente aujourd'hui pour raison de santé. En conséquence, il me revient de vous présenter l'ensemble du rapport, en notre nom à tous les deux.
Notre commission a souhaité, en avril dernier, évaluer les effets de l'intelligence artificielle générative sur les métiers du droit. Nous voulions dresser un état des lieux des rapides transformations qui sont à l'oeuvre, mesurer les risques et les opportunités de cette nouvelle technologie, faire la part des fantasmes irréalistes et des craintes disproportionnées et, le cas échéant, formuler des propositions de nature à accompagner les professionnels du droit face à ces bouleversements.
Je précise que nos travaux ont porté sur l'intelligence artificielle générative, une technologie née en novembre 2022 avec le lancement de ChatGPT, et non sur l'intelligence artificielle « classique », que nous connaissons depuis les années 1950. Il nous est apparu nécessaire d'anticiper les transformations à l'oeuvre dans le domaine du droit, avec comme première préoccupation l'intérêt du justiciable et l'amélioration du service public de la justice. En effet, derrière les enjeux économiques, déontologiques et matériels soulevés par le déploiement de cette technologie, c'est la vision de la justice de demain qu'il convient de caractériser, en s'interrogeant sur le sens d'une justice potentiellement déshumanisée, ou du moins dans laquelle l'intervention humaine serait fortement réduite.
La question s'est posée à notre commission en avril dernier car le droit apparaît perméable aux outils d'intelligence artificielle générative. Cette perméabilité résulte de la rupture opérée par cette technologie, qui permet de surmonter la difficulté, qui semblait infranchissable, de maîtrise du langage naturel. L'intelligence artificielle générative fonctionne en effet selon un modèle probabiliste qui lui permet de contextualiser le sens d'un mot et de deviner quel mot a la plus grande probabilité de suivre pour répondre, en langage naturel, à une question posée en langage naturel, c'est-à-dire non mathématique. Elle a donc une capacité d'imitation de la pensée humaine qui lui permet, à partir d'une base de données, de générer - générer plutôt que créer - des contenus qui semblent suivre le syllogisme juridique, dans une logique d'analyse des précédents.
Sa fiabilité n'est toutefois pas garantie, car elle n'est pas en mesure d'évaluer la pertinence de sa réponse. Tout utilisateur doit donc être conscient de ses limites : le risque d'hallucinations, les biais de conception, l'obsolescence des données sur lesquelles repose le modèle ou encore les risques liés à la confidentialité des données. C'est pourquoi nous soutenons la démarche initiée par certains ordres professionnels consistant à établir des règles de bonne utilisation, afin de déterminer des cas d'usage, de rappeler le cadre déontologique applicable et, surtout, insister sur l'impérieuse nécessité de vérifier les résultats fournis par l'outil.
Il serait en effet tentant pour le professionnel du droit de s'appuyer exagérément sur les outils d'intelligence artificielle générative, tant l'offre s'est développée avec une célérité qui est à souligner. La France se caractérise par un marché particulièrement dynamique à l'échelle européenne. Les éditeurs juridiques français proposent désormais des services reposant sur l'intelligence artificielle générative, qui sont adossés à leurs fonds documentaires et aux abonnements déjà existants, moyennant un surcoût d'environ 200 euros par an, tandis qu'au moins une trentaine d'entreprises de la legaltech se sont également positionnées sur ce marché.
Cette offre riche participe de l'objectif à valeur constitutionnelle d'accessibilité et d'intelligibilité du droit, puisqu'elle permet de répondre dans des termes relativement simples à une question de nature juridique posée en langage naturel. Nous ne pouvons que nous en féliciter.
Si le risque « d'autojuridication » paraît pouvoir être écarté en raison des limites inhérentes à ces modèles et de la plus-value que représentent l'analyse et l'expertise humaines des professionnels du droit, un point de vigilance demeure à propos de la consultation juridique, qui est et doit rester un monopole des professions réglementées du droit. Or, les intitulés ambigus « d'aide » ou « d'assistance » juridique, utilisés par certaines plateformes, pourraient prêter à confusion un public non averti, en laissant entendre que la consultation d'un professionnel n'est pas nécessaire. L'inscription dans la loi d'une définition de la consultation juridique, dans un double objectif de lisibilité du droit et de sécurité juridique, apparaît ainsi opportune, voire nécessaire.
Nonobstant ce risque de concurrence qu'il conviendra de clarifier, les outils d'intelligence artificielle générative représentent une opportunité intellectuelle indéniable pour les professions réglementées du droit. En ce sens, ils sont vecteurs d'une transformation de ces métiers, non pas tant sur la structure des emplois, que sur leur nature. Par les gains de temps et de productivité qu'elle laisse espérer, l'intelligence artificielle générative permettrait aux professionnels de se concentrer sur les tâches à haute valeur ajoutée et, ce faisant, de mieux démontrer leur plus-value en distinguant leur analyse de la simple recherche juridique.
En l'état de son développement, l'intelligence artificielle générative offre en effet une aide pour trois grandes catégories de tâches : la recherche, l'analyse d'un corpus de données ou de documents et la rédaction de contenus simples.
Grâce à ces gains de temps, l'intelligence artificielle générative transformerait les métiers du droit, en modifiant profondément la relation entre le professionnel et son client, sur trois points. En premier lieu, l'intelligence artificielle générative permettrait de personnaliser davantage les services apportés par le professionnel du droit à son client. Elle lui permettrait en outre de se consacrer davantage aux interactions humaines. Enfin, l'intelligence artificielle générative modifiera vraisemblablement les attentes du client. Il est en effet probable qu'il sera attendu du professionnel du droit une expertise plus poussée. Si les outils d'intelligence artificielle génératives peuvent donc, à première vue, faciliter le travail des professionnels du droit, ils ne constitueront pas pour autant un nivellement par le bas si les exigences sont accrues à mesure des progrès de la technologie.
Ces promesses de gains de temps et de productivité ont trouvé un écho favorable auprès des professions réglementées du droit et des juristes d'entreprise, qui semblent plus sensibles aux outils d'intelligence artificielle générative que les magistrats. Le taux d'adoption de ces outils va croissant, les professionnels que nous avons interrogés apparaissant intéressés et fortement volontaires.
Notre étude se justifiait notamment par les inquiétudes que cette nouvelle technologie pourrait faire peser sur l'emploi. Heureusement, les conséquences de l'intelligence artificielle générative sur l'effectif des professions juridiques stricto sensu devraient être marginales, vu l'optimisme dont a fait preuve à ce sujet l'ensemble des personnes que nous avons auditionnées. Cet optimisme s'explique par plusieurs raisons. En premier lieu, l'intelligence artificielle générative étant fondée sur un modèle probabiliste, le risque d'erreur demeure élevé, ce qui justifie l'expertise du professionnel du droit. Elle est par ailleurs incapable de faire preuve de créativité ou, du moins, d'intelligence émotionnelle, indispensable dans le domaine de la justice. L'intelligence artificielle générative ne pourra pas non plus remplacer l'humain dans toutes les procédures qui nécessitent des interactions interpersonnelles. Enfin, le droit actuel protège les professions juridiques en prévoyant un monopole sur certaines tâches, comme les consultations juridiques.
Au surplus, il n'est pas exclu que l'intelligence artificielle générative ait pour conséquence, non pas de décharger les professions du droit, mais, en facilitant l'accès à l'information juridique, d'accroître la judiciarisation de la société, et donc l'activité juridictionnelle.
Si les métiers du droit au sens strict semblent
pouvoir s'adapter suffisamment aux transformations induites par l'intelligence
artificielle générative pour que les craintes sur l'emploi soient
mineures, une réduction des emplois au sens plus large, en incluant les
tâches d'assistance, est davantage probable. Il conviendra alors de
redéfinir ces fonctions,
notamment en favorisant une
montée en compétences, par exemple en confiant aux
intéressés des tâches de vérification des
résultats issus de l'intelligence artificielle
générative.
En définitive, l'enjeu principal de l'intelligence artificielle générative repose sur son bon usage, davantage que sur les risques pour l'emploi. Outre les limites techniques, comme le risque d'hallucination, nous avons identifié deux risques principaux.
En premier lieu, nous craignons que ne se concrétise un risque de fracture au sein des professions du droit, et donc d'inégalité des parties devant la justice. À ce titre, nous saluons l'initiative du barreau de Paris, qui fournit aux petits cabinets un accès à l'outil d'intelligence artificielle générative de Lefebvre Dalloz. Une généralisation de cette démarche nous semble opportune pour aider les professionnels à réussir leur adaptation au déploiement de cette technologie.
Il existe aussi un risque de mésusage au regard des principes déontologiques et des obligations réglementaires, notamment en matière de protection des données. Il apparaît donc primordial d'élaborer ou, du moins, de rappeler des règles claires pour chaque profession.
Les éditeurs juridiques, les entreprises de la legaltech, les justiciables et les professions réglementées, en particulier les avocats, se saisissent donc d'ores et déjà des outils d'intelligence artificielle appliqués au droit. En revanche, les magistrats et les autres professions juridictionnelles manquent à l'appel, ce qui constitue une préoccupation ancienne de la commission.
L'avis budgétaire de nos collègues Lauriane Josende et Dominique Vérien sur les crédits du programme « Justice judiciaire » a, cette année encore, souligné le retard numérique de la Chancellerie. Nous craignons, dans ce contexte, que l'affirmation de l'intelligence artificielle générative ne creuse encore le fossé qui s'est installé entre les professions juridictionnelles et les autres métiers du droit.
Pendant que les avocats sont en train de s'approprier les outils d'intelligence artificielle générative, les magistrats judiciaires travaillent encore sur WordPerfect. Ne vous méprenez pas ; il ne s'agit pas du nom entier du logiciel « Word », édité par Microsoft, mais de son concurrent... dans les années 1980.Il nous semble donc primordial que les juridictions judiciaires et administratives fassent l'objet d'une mise à niveau en matière d'équipement informatique et numérique.
Plus généralement, compte tenu de
l'évolution rapide des outils d'intelligence artificielle
générative, nous proposons la nomination d'un ou plusieurs
référents en la matière au sein de chaque juridiction.
Cela permettra de favoriser l'adoption de ces outils par les juridictions, mais
aussi de suivre
les conséquences de l'emploi de
l'intelligence artificielle générative par les avocats. Les
magistrats et greffiers s'inquiètent en effet que ces logiciels ne
portent à la hausse les entrées contentieuses et le volume des
écritures.
Au-delà, ils craignent les conséquences indirectes de la diffusion des décisions de justice en données ouvertes. Cette politique publique précieuse présente en effet un angle mort, qui n'avait pas été identifié lors de l'examen de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique : elle a prévu l'anonymisation des justiciables, mais pas celle des magistrats et greffiers. Ces derniers redoutent donc le développement du profilage, voire d'intimidations qui nuiraient à leur sécurité comme à la sérénité de la justice. Nous proposons donc d'anonymiser les magistrats et les greffiers dans les décisions de justice publiées en données ouvertes, étant entendu que leur identité figurera toujours dans la décision rendue au justiciable.
Pour le reste, les autorités juridictionnelles judiciaires et administratives s'accordent sur l'essentiel. Elles sont opposées à la substitution d'un algorithme au juge, ce que prévoit déjà le cadre juridique actuel. Elles jugent par ailleurs que les différentes réglementations auxquelles elles sont soumises - celle sur la protection des données, ainsi que le règlement européen sur l'intelligence artificielle (RIA), récemment entré en vigueur - les contraindront à développer leurs propres outils d'intelligence artificielle générative.
Les autorités juridictionnelles administrative et judiciaire ont donc recensé les cas d'usage potentiels de cette technologie et envisagent désormais de développer certains outils. C'est, hélas ! une nouvelle preuve de leur retard en la matière. Nous pensons qu'il faut accélérer.
J'en viens à la formation initiale. Il est évident qu'elle doit s'adapter à l'affirmation de l'intelligence artificielle générative, non seulement car cette dernière a des effets significatifs sur les conditions de formation, mais aussi parce qu'il est nécessaire de former les juristes à l'utilisation de cette technologie.
L'enseignement du droit a d'ailleurs déjà entamé sa mue, ce dont nous nous réjouissons. Les modalités d'évaluation changent. De nouveaux modules spécifiques sont conçus. Il serait en effet absurde et illusoire d'interdire l'usage de cette technologie. Il importe au contraire de former les étudiants à son usage et d'améliorer, encore, l'enseignement théorique. L'emploi de l'intelligence artificielle générative exige une grande maîtrise de la matière juridique pour formuler les bonnes questions et identifier les hallucinations qui figurent dans les réponses. Gardons en outre à l'esprit qu'un juriste « augmenté » par l'intelligence artificielle générative demeure un juriste. C'est pourquoi les exigences en matière d'acquisition des connaissances ne doivent pas être abaissées.
Enfin, nous nous préoccupons des conséquences de l'usage de cette technologie sur l'insertion professionnelle des jeunes juristes, car ces derniers accomplissent en stage des travaux de recherche que certains outils réaliseront plus rapidement et à moindre coût.
Nous proposons également d'adapter la formation continue à l'intelligence artificielle générative. L'adoption de cette technologie ne pourra pas reposer seulement sur les jeunes générations de diplômés. Une adoption réussie nécessite une diffusion généralisée. Nous proposons donc d'adopter de nouvelles modalités de formation, notamment le reverse mentoring, qui consiste à former les professionnels les plus expérimentés par de jeunes collaborateurs compétents en matière d'intelligence artificielle générative.
J'en viens enfin à la politique publique de soutien au développement de l'intelligence artificielle générative. Elle s'articule principalement autour de la stratégie nationale pour l'intelligence artificielle, dont elle constitue en quelque sorte le prolongement. Cette stratégie a été engagée en 2018 et dotée d'une enveloppe de 3,7 milliards d'euros de fonds publics et privés. Elle a consisté en de nombreuses actions de financement, qu'il s'agisse de la formation ou des infrastructures nécessaires au développement de cette technologie, en particulier les supercalculateurs.
Au-delà, cette politique publique repose sur une multitude d'appels à projets, de fonds d'investissement publics et d'actions diverses, comme la diffusion des décisions de justice en données ouvertes. Cette démarche a fait ses preuves, mais nous proposons de l'améliorer en canalisant ses différents volets pour mieux accompagner les entreprises. Seules 10 % des entreprises françaises affirment avoir intégré un tel logiciel à leurs procédures. C'est peu ! La direction générale des entreprises doit recenser l'offre existante et la diffuser auprès des professionnels du droit. Nous proposons aussi qu'un label soit créé pour favoriser l'adoption des logiciels les plus qualitatifs.
Tous les acteurs souhaitent que nous observions une stabilité normative, du moins en ce qui concerne le cadre juridique applicable à l'intelligence artificielle générative. Il nous semble judicieux de respecter ce consensus, moyennant quelques corrections minimes que nous avons identifiées. Le RIA n'est pas encore pleinement entré en application et cette technologie évolue vite. Attendons avant de légiférer !
Mme Muriel Jourda, présidente. - Vos observations rejoignent les inquiétudes soulevées par Lauriane Josende et Dominique Vérien, et auparavant par Agnès Canayer. Autant le secteur privé s'organise, en raison de sa nature concurrentielle, autant la fonction publique de la justice accuse un retard important.
Par certains aspects, ce retard est inquiétant. Le rapport de Jérôme Durain et Étienne Blanc sur le narcotrafic en France met par exemple en évidence la capacité de l'intelligence artificielle à compromettre certaines poursuites pénales, car elle permet aux avocats des narcotrafiquants d'identifier des vices de procédure dans des dossiers volumineux.
Il est en tout état de cause préoccupant de constater que le secteur public n'est pas en mesure d'intégrer rapidement ces outils, alors que d'autres les utilisent avec des intentions plus ou moins honnêtes.
M. Christophe-André Frassa, rapporteur. - Nous nous sommes intéressés à toutes les professions privées du droit, jusqu'aux conseils en propriété industrielle, et à l'ensemble du service public de la justice, y compris les plus hautes juridictions et les greffiers.
Au fil de nos auditions, nous avons vu le fossé se creuser entre ces deux secteurs. Il faut dire que le service public de la justice avance avec un boulet à chaque pied, entre, d'un côté, le dénuement numérique et technologique que nous avons rappelé, et, de l'autre, les strictes contraintes normatives qu'il doit respecter.
Les évolutions sont également retardées par l'organisation hiérarchique et la nécessité de réfléchir aux conséquences en cascade pour tous les services. Le défilé des gouvernements depuis un an n'a pas non plus facilité les choses : la technologie évolue à la vitesse de la lumière, mais les services sont paralysés dans l'attente d'un retour du cabinet du ministre... Le service public de la justice en reste au stade de la réflexion, quand le secteur privé en est déjà à celui de l'adoption. En attendant, les entreprises du secteur de la legaltech font des progrès remarquables.
M. André Reichardt. - Mes chers collègues, depuis que j'ai adressé à chacun d'entre vous un opuscule sur le droit local alsacien-mosellan, plus personne n'ignore la question, j'en suis certain !
En raison du degré de méconnaissance de ce droit, y compris par les magistrats originaires des départements d'outre-Vosges, nous peinons à le faire appliquer. Avec la décision Société Somodia du Conseil constitutionnel de 2011, son existence est très certainement compromise à l'horizon d'une ou deux décennies. Mais s'il n'est pas pris en compte par les outils d'intelligence artificielle générative, son sort sera scellé d'ici à deux ans.
J'insiste donc, monsieur le rapporteur, pour que vous intégriez le droit local alsacien-mosellan à votre diagnostic et à vos préconisations. C'est fondamental !
Mme
Dominique Vérien. - Je ne reviendrai pas sur les
difficultés que Lauriane Josende, Agnès Canayer et moi-même
répétons depuis près de quatre ans au sujet du boulet que
représente le logiciel WordPerfect. Des choses avancent, mais il
faudrait préparer son remplacement, ce qui est
délicat car
les applicatifs de la Chancellerie ont été conçus pour
fonctionner avec lui. Certes, cela ne revient pas à se projeter vers le
futur et l'intelligence artificielle générative...
Une autre difficulté est liée au fonctionnement du ministère de la justice. Les magistrats, qui y occupent l'essentiel des fonctions stratégiques, manquent souvent de qualifications numériques. Leur permettre de s'appuyer enfin sur de véritables professionnels de l'informatique pourrait être utile.
En Espagne, les magistrats peuvent, à l'aide de l'intelligence artificielle, mesurer la dangerosité des auteurs d'infraction, et en fonction de cela dimensionner la protection apportée aux victimes. Il s'agirait d'une avancée pour le secteur des affaires familiales ou de la justice pénale, en particulier en ce qui concerne les violences faites aux femmes.
Il faut apprendre à se saisir de cet outil qui doit non pas remplacer l'intelligence humaine, mais en être complémentaire. Pour cela, il faut faire appel à des gens dont c'est le métier.
M. Christophe-André Frassa, rapporteur. - André Reichardt, les spécificités des droits locaux sont déjà intégrées dans les bases de données des éditeurs comme Dalloz et LexisNexis, tant dans leurs moteurs de recherche que dans leurs éditions papier. Je pense qu'au lieu de précipiter leur disparition, l'intelligence artificielle générative non seulement les sauvegarde, mais permet même de favoriser leur appréhension par les professionnels du droit. Nous pourrons demander aux éditeurs comment concilier le développement de l'intelligence artificielle générative avec la sauvegarde du droit local.
M. André Reichardt. - Naturellement, Dalloz et LexisNexis ont intégré le droit local dans leurs banques de données. Je demande si l'intelligence artificielle générative peut ou non fournir aux professionnels du droit non pas des textes, mais des interprétations, par exemple au sujet du code professionnel local. Les éditeurs ont-ils déjà développé des applications ciblant le droit local alsacien-mosellan, à l'instar de celles qui existent pour le droit général ? En outre, les professionnels du droit alsaciens ont-ils dressé un constat de l'utilisation de l'intelligence artificielle générative ?
M. Christophe-André Frassa, rapporteur. - Les magistrats n'ont pas pu faire ce constat, car ils n'ont pas accès à ces outils. Il faudrait demander aux avocats alsaciens s'ils ont souscrit un abonnement à des applications utilisant l'intelligence artificielle générative. Le barreau de Paris a souscrit un abonnement à GenIA-L ; tout petit cabinet, d'un ou deux avocats, peut désormais consulter cette base de données et poser une question relative au droit alsacien-mosellan.
M. André Reichardt. - Avez-vous assisté à une démonstration de cette utilisation particulière ?
M. Christophe-André Frassa, rapporteur. - Non, nous avons assisté à une démonstration en droit général, mais nous n'avons pas poussé la question jusqu'au droit local.
Dominique Vérien, nous avons parlé de l'exemple de l'Espagne lors de nos auditions, car LexisNexis a d'abord commercialisé son service d'intelligence artificielle générative chez nos voisins espagnols avant de se lancer sur le marché français, au milieu de cette année. En ce qui concerne la France, le profilage est interdit.
Mme Muriel Jourda, présidente. - Aux États-Unis, lors d'une affaire de délit de fuite, un algorithme d'intelligence artificielle prédictive a déduit que le contrevenant avait le profil d'un délinquant qui commettrait à l'avenir des délits beaucoup plus graves. Pour ce délit de fuite, il a donc été condamné à six ans d'incarcération. Méfions-nous de l'intelligence artificielle prédictive : cela revient à lire dans une boule de cristal ou des entrailles de poulet et à prononcer des condamnations sans lien avec l'infraction existante. Il faut trouver un juste milieu, et surtout que l'intelligence artificielle ne substitue pas au jugement humain : il me semble que nous sommes tous d'accord.
M. Christophe-André Frassa, rapporteur. - Nous avons auditionné 98 personnes et recueilli 51 contributions lors de ce travail considérable. Il nous reste à adopter le titre de ce rapport. Nous proposons de l'intituler : L'intelligence artificielle générative et les métiers du droit : agir plutôt que subir.
Le titre du rapport d'information est adopté.
Les recommandations sont adoptées.
La mission d'information adopte, à l'unanimité, le rapport d'information et en autorise la publication.