De nombreux utilisateurs considèrent les conversations avec les chatbots comme des échanges privés, pourtant une part importante du public reste confuse quant aux implications réelles en matière de confidentialité. Une enquête commandée par DuckDuckGo et publiée en août, qui a interrogé 1 944 adultes américains, a révélé que plus de la moitié (53 %) ignoraient si leurs discussions étaient utilisées pour entraîner les bots, bien que cela soit une pratique courante. De plus, seul un quart des répondants savait que les conversations avec les chatbots pouvaient faire l'objet d'une citation à comparaître en justice.
Parmi les personnes se décrivant comme des passionnés d'IA, 56 % ont admis avoir confié à un chatbot des informations qu'ils n'avaient jamais partagées avec des amis proches, des parents, des collègues, des médecins ou des thérapeutes. Ce comportement est particulièrement répandu sur Character.AI, une plateforme où les utilisateurs tissent des liens avec des personnages personnalisables. Sur ce service, les individus ont divulgué des détails sensibles, notamment des pensées suicidaires et d'automutilation, des luttes liées à la santé mentale, leur âge, des appels vocaux privés et de profondes peurs personnelles.
Les risques associés à une telle exposition des données ont été soulignés plus tôt ce mois-ci lorsque Character.AI a fait faillite et a lancé une vente de ses actifs sous supervision judiciaire. La future propriété de l'entreprise reste incertaine, tout comme le sort des données détenues par des millions de titulaires de comptes. Bien que le grand modèle de langage (LLM) de l'entreprise, substantiellement entraîné par les interactions des utilisateurs, soit probablement son actif le plus précieux, le statut juridique de la vente de modèles entraînés et des données sous-jacentes n'a pas été tranché par la loi. La politique de confidentialité de Character.AI est décrite comme vague, indiquant uniquement que « certaines informations » peuvent être divulguées lors d'une vente sans préciser ce que cela implique.
En réponse à ces préoccupations, le Bureau du fiduciaire des États-Unis a demandé la nomination d'un ombudsman pour la confidentialité des consommateurs afin de conseiller le tribunal sur les questions relatives à la vie privée des utilisateurs. Le juge conserve l'autorité de restreindre la vente des dossiers de l'entreprise, y compris les données des utilisateurs. Cependant, comme le Code de la faillite ne comporte pas de dispositions spécifiques concernant les modèles entraînés, il reste possible que les données que les utilisateurs ont fournies à Character.AI soient vendues à l'entité acquéreuse.
Au-delà des scénarios de faillite, les informations personnelles et propriétaires partagées dans les chats peuvent potentiellement se retrouver à l'intérieur d'un LLM où elles pourraient être extraites par d'autres. Les pratiques en matière de confidentialité varient considérablement d'une entreprise à l'autre selon que l'entraînement est activé par défaut, si des réviseurs humains lisent les conversations, les périodes de rétention et l'utilisation publicitaire. Bien que les grandes entreprises publient souvent des contrôles de confidentialité, leurs politiques admettent fréquemment que les discussions des consommateurs peuvent être utilisées pour l'entraînement ou examinées par des humains par défaut. Certaines entreprises proposent des comptes d'entreprise avec des fonctionnalités de confidentialité renforcées, telles que l'exclusion des sessions de chat des données d'entraînement, ce qui suggère que les comptes individuels ne bénéficient pas de protections similaires.
Même lorsque les utilisateurs optent pour la non-utilisation de leurs données à des fins d'entraînement, comme c'est possible avec OpenAI, les conversations elles-mêmes ne sont pas nécessairement supprimées. Il existe trois principales façons dont les données des utilisateurs peuvent être exposées : les bugs, les fonctionnalités de partage et l'absorption dans les données d'entraînement. En mars 2023, un bug dans une bibliothèque open source a permis à certains utilisateurs de ChatGPT de visualiser les titres de chat d'autres utilisateurs et potentiellement leurs messages initiaux, exposant ainsi les détails de paiement de plus de 1 % des abonnés actifs pendant une fenêtre de neuf heures.
De plus, les fonctionnalités de partage peuvent publier involontairement des conversations au monde entier, où les moteurs de recherche peuvent les indexer. En 2025, Forbes a rapporté que les résultats de recherche Google affichaient plus de 370 000 conversations Grok après que les utilisateurs ont cliqué sur « partager », et des chats ChatGPT partagés apparaissaient dans les résultats de recherche jusqu'à ce qu'OpenAI désactive cette option. L'absorption des données dans les modèles d'entraînement pose également un risque ; par exemple, coller des e-mails contenant des noms et des adresses dans des chats peut permettre à des inconnus de récupérer ces informations. Une étude de 2022 a montré que les modèles GPT-Neo pouvaient récupérer des adresses e-mail avec une précision croissante lorsqu'ils étaient fournis avec des noms de domaine ou plusieurs exemples.
La suppression des enregistrements de chat n'est pas un remède garanti, comme l'ont noté plusieurs procureurs généraux d'État, la suppression ne pouvant pas annuler l'influence des données sur les modèles entraînés. Des experts de Common Sense Media ont également déclaré que l'exportation ou la suppression des données ne garantit pas leur retrait de l'entraînement du modèle. Étant donné que les utilisateurs saisissent souvent des informations sur eux-mêmes ainsi que sur leurs collègues, amis et parents, la principale mesure de protection reste la pratique des entreprises. Avec le secteur de l'IA confronté à une volatilité, illustrée par la baisse des actions en Chine et la possibilité de nouvelles faillites ou piratages, le consensus est que les informations sensibles ne doivent jamais être confiées aux chatbots.
Sources: Computerworld.