Voici le premier volet de notre série sur la sécurité et la confidentialité des outils d'IA juridique. Dans chaque article, nous examinons un risque précis, expliquons pourquoi il compte pour la pratique du droit, et décrivons comment LexBuddy y répond. L'objectif est de vous donner un cadre pour évaluer n'importe quel outil, pas seulement le nôtre.
Partie I : le problème
L'incident qui explique tout
En avril 2023, trois incidents survenus chez Samsung en moins de 20 jours ont mis le risque d'entraînement de l'IA à la une. Des ingénieurs de l'entreprise ont collé dans ChatGPT du code source propriétaire de semi-conducteurs, des comptes rendus internes confidentiels de réunions et des détails matériels de production, pour obtenir de l'aide au débogage, des synthèses et des optimisations.
Le problème : la version de ChatGPT qu'ils utilisaient s'entraînait activement sur les conversations des utilisateurs. Ces données confidentielles sont devenues partie intégrante du modèle. Non pas parce que quelqu'un chez OpenAI avait décidé activement de les utiliser, mais parce que c'était exactement ce que l'outil faisait par défaut.
Samsung a interdit ChatGPT dans ses locaux peu après et a commencé à développer des modèles de langage internes. Mais le code était déjà sorti.
Pour un avocat, l'équivalent exact est le suivant : coller dans un chatbot public le texte d'un contrat en négociation, une stratégie contentieuse, un avis juridique non publié, ou des données financières d'un client. Si l'outil s'entraîne sur ces conversations, cette information devient partie intégrante du modèle, disponible, dans une certaine mesure, pour tout autre utilisateur qui poserait la bonne question.
Comment fonctionne l'entraînement sur les données des utilisateurs
Pour comprendre le risque, il est utile de comprendre brièvement comment les modèles de langage s'améliorent au fil du temps.
Les modèles de base sont entraînés une fois sur un corpus de texte massif. Mais les entreprises les améliorent continuellement par un processus appelé fine-tuning (ajustement fin), qui utilise de vraies conversations d'utilisateurs pour rendre le modèle plus précis, plus utile et plus pertinent selon le contexte.
Il existe aussi un second mécanisme : l'apprentissage par renforcement à partir de retours humains (RLHF). Des évaluateurs notent les réponses du modèle, et ces notes guident l'ajustement. Les conversations des utilisateurs sont la matière première de ce processus.
Le résultat pratique : lorsqu'un utilisateur écrit quelque chose dans un outil qui s'entraîne sur les données de conversation, cette information peut :
- Influencer directement les poids du modèle et la façon dont il répond aux autres utilisateurs.
- Être stockée dans les systèmes du fournisseur comme donnée d'entraînement.
- Être utilisée pour générer des variations synthétiques d'entraînement qui propagent le contenu original de façons difficiles à retracer.
Le mot « peut » compte. Tous les systèmes ne le font pas. Mais la question de savoir s'ils le font ou non est rarement traitée clairement dans les supports marketing — et la réponse par défaut, en particulier pour les outils gratuits ou grand public, est fréquemment « oui ».
La carte du risque selon le type d'outil
Tous les outils d'IA n'ont pas la même politique d'entraînement. Le risque varie considérablement selon le niveau d'utilisation :
Outils grand public (gratuits ou à faible coût). La plupart utilisent les conversations pour l'entraînement par défaut. OpenAI, Google et Anthropic permettent aux utilisateurs de désactiver l'utilisation de leurs données pour l'entraînement dans les paramètres de confidentialité — mais l'option par défaut est l'entraînement activé. La plupart des utilisateurs ne modifient jamais ce paramètre car ils ne savent pas qu'il existe.
Outils entreprise avec clause de non-entraînement. Les versions entreprise des principales plateformes interdisent contractuellement l'utilisation des données clients pour l'entraînement. C'est la solution la plus courante sur le marché des entreprises. C'est mieux que l'alternative grand public, mais cela reste un engagement contractuel — pas une limitation architecturale.
Outils avec isolement architectural des données. Le niveau de protection le plus élevé. Les données client sont techniquement et structurellement séparées de tout pipeline d'entraînement. Ce n'est pas seulement un contrat — le système n'a pas la capacité d'utiliser ces données pour l'entraînement, même s'il le voulait.
La différence entre le deuxième et le troisième niveau n'est pas toujours visible dans le marketing des outils, mais c'est la différence qui compte lorsqu'il faut répondre à un client, un régulateur ou un tribunal.
Ce que la déontologie professionnelle impose déjà
L'avis formel 512 de l'ABA (juillet 2024) établit clairement que la règle modèle 1.6 — le devoir de confidentialité — s'applique à l'utilisation d'outils d'IA avec des informations clients. Plus précisément :
L'avocat doit faire des « efforts raisonnables » pour prévenir la divulgation involontaire d'informations clients. Utiliser un outil susceptible d'utiliser ces informations pour entraîner des modèles accessibles à d'autres utilisateurs est difficilement compatible avec cette norme.
Un consentement générique dans une lettre de mission — du type « le cabinet peut utiliser la technologie pour fournir ses services » — ne suffit pas à autoriser l'utilisation des données clients dans un système d'entraînement d'IA. Un consentement informé et spécifique à cet usage précis est requis.
Le RGPD européen ajoute une couche supplémentaire pour les avocats ayant des clients dans l'UE : l'article 5(1)(b) établit que les données ne peuvent être utilisées que pour la finalité spécifique pour laquelle elles ont été collectées (limitation des finalités). Utiliser les données juridiques de clients pour entraîner des modèles d'IA constitue une finalité distincte de la fourniture de conseil juridique, et nécessite une base légale spécifique qui, souvent, n'existe pas.
Le risque spécifique pour la pratique du droit
Les informations que les avocats introduisent dans des outils d'IA présentent des caractéristiques qui les rendent particulièrement sensibles au risque d'entraînement :
- Elles sont stratégiques et non publiques. Les positions contractuelles, les stratégies de négociation et les analyses de risque juridique représentent une valeur économique réelle pour le client — et pour ses concurrents ou contreparties.
- Elles sont permanentes. Une stratégie qui fuite dans le modèle d'entraînement peut potentiellement influencer les réponses que le modèle donne à d'autres utilisateurs pendant des années.
- Elles sont difficiles à retracer. À la différence d'un document physique divulgué, l'influence des données d'entraînement sur un modèle n'est ni traçable ni récupérable. Il n'existe pas de « suppression » une fois les données intégrées au modèle.
- Elles sont potentiellement identifiables. Même si les modèles ne « se souviennent » pas de conversations précises comme le ferait une base de données, certains types d'informations très spécifiques ou peu courantes peuvent influencer les réponses du modèle de façons qui pourraient rendre la source identifiable.
Partie II : la solution
Que devrait garantir un outil pour que ce risque n'existe pas ?
Il ne suffit pas qu'un outil affirme « nous n'entraînons pas sur vos données » sur sa page marketing. Une garantie réelle comporte trois composantes :
Garantie contractuelle. Une clause spécifique dans le contrat de services — et non dans les conditions générales d'utilisation — interdisant l'utilisation des données client pour tout type d'entraînement, y compris le fine-tuning et le RLHF.
Garantie de chaîne d'approvisionnement. La garantie de non-entraînement doit s'étendre à tous les fournisseurs sous-jacents qui traitent les données. Si l'outil utilise un modèle tiers (comme un LLM de base d'un fournisseur cloud), ce fournisseur doit également être soumis à la même restriction.
Garantie architecturale. La version la plus solide : l'architecture technique sépare les données client de tout pipeline d'entraînement — non pas en tant que politique, mais en tant que conception. Si les données ne passent structurellement jamais par le pipeline d'entraînement, il n'y a aucun risque qu'elles le fassent.
Comment LexBuddy répond au risque d'entraînement
Chez LexBuddy, les données des clients — conversations, documents, dossiers — ne sont jamais utilisées pour entraîner, ajuster ou améliorer des modèles d'IA. Cette protection comporte trois niveaux :
Niveau contractuel. Nos conditions générales de service précisent explicitement que les données des utilisateurs ne sont utilisées pour l'entraînement de modèles en aucune circonstance. Ce n'est pas une option de configuration, c'est une condition du service.
Niveau de chaîne d'approvisionnement. La restriction de non-entraînement s'étend contractuellement à tous les fournisseurs de technologie sous-jacents qui traitent les données des utilisateurs sur notre plateforme. Les données de vos clients n'entraînent ni nos modèles, ni ceux de nos fournisseurs.
Niveau architectural. Les données des utilisateurs sur LexBuddy ne passent par aucun pipeline d'entraînement. Non pas à la suite d'une décision qui pourrait changer demain, mais parce que le système est conçu pour que le flux de données client soit structurellement séparé de tout processus d'amélioration des modèles.
Le résultat pratique : lorsqu'un avocat utilise LexBuddy avec les informations d'un client, il peut répondre avec précision à la question que l'avis ABA FO 512 exige de pouvoir répondre — « comment les données de mon client vont-elles être utilisées ? » — par une réponse claire : pour répondre à la demande spécifique, et rien d'autre.
Avant d'introduire les informations d'un client dans un outil d'IA, une seule question : cet outil peut-il utiliser ce que j'écris pour entraîner ses modèles ? Si la réponse n'est pas un « non » clair, garanti contractuellement et mis en œuvre architecturalement, le risque existe.
Prochain volet de la série : sans logs, sous votre contrôle : qui décide de ce qui est conservé, et comment LexBuddy y répond.
Cet article est fourni à titre informatif et ne constitue pas un avis juridique. Pour toute application spécifique à votre pratique, consultez un spécialiste de la déontologie professionnelle de votre juridiction.
Sources
| Source | Lien |
|---|---|
| The Guardian — Samsung bans ChatGPT after data leak (avril 2023) | theguardian.com |
| BBC — Samsung workers accidentally leaked confidential data | bbc.com |
| Bloomberg — Samsung data leak via ChatGPT details | bloomberg.com |
| ABA Formal Opinion 512 (PDF, 29 juillet 2024) | americanbar.org |
| OpenAI — Enterprise Privacy (no training on enterprise data) | openai.com |
| Anthropic — Privacy Policy and data use | anthropic.com |
| RGPD — Article 5 : principes relatifs au traitement des données personnelles | gdpr-info.eu |