Une étude scientifique publiée dans la bibliothèque numérique de l’ACM a révélé que le modèle de conversation ChatGPT pourrait stocker automatiquement des informations sur les habitudes, les centres d’intérêt et les traits de personnalité des utilisateurs, même lorsqu’ils ne lui ont pas demandé de conserver quoi que ce soit.
Ces dernières années, les outils d’intelligence artificielle sont passés du statut d’outils de recherche et d’exécution de tâches à celui de partenaires dans des conversations personnelles, ce qui peut aboutir à la constitution d’un profil numérique détaillé de l’individu, utilisé par la suite pour personnaliser les réponses.
L’analyse a porté sur 2 050 enregistrements de mémoire liés à 65 personnes issues de pays de l’Union européenne. Les chercheurs ont conclu que 96 % de ces enregistrements avaient été créés de manière autonome par le système au cours de conversations ordinaires, sans que la personne n’utilise d’expressions telles que « souviens-toi » ou « garde cette information en mémoire ».
La fonctionnalité de mémoire de ChatGPT permet au service de s’appuyer sur ce qui a été dit lors de sessions précédentes pour adapter ses réponses, une fonctionnalité sur laquelle l’étude s’est concentrée. Cependant, la création automatique d’un enregistrement ne signifie pas nécessairement l’absence de consentement, car le fonctionnement de la mémoire est également influencé par les paramètres du service.
Les résultats ont montré qu’environ 28 % des historiques répondaient aux critères stricts fixés par le Règlement général sur la protection des données (RGPD) pour les données à caractère personnel, c’est-à-dire des informations pouvant être liées à la vie privée d’une personne et nécessitant une protection adéquate. En revanche, l’utilisateur ne sait pas toujours quels détails de ses conversations sont transférés dans son dossier à long terme.
Quant au résultat le plus surprenant, il concerne les caractéristiques psychologiques, les auteurs de l’étude ayant estimé que 52 % des dossiers contenaient des évaluations, des remarques ou des conclusions sur la personnalité de l’utilisateur, fondées sur son style de communication, ses questions, ses centres d’intérêt et son comportement. Ces conclusions ne reflètent pas nécessairement ses opinions réelles ni ce qu’il préfère réellement.
Les chercheurs citent l’exemple d’un utilisateur demandant à ChatGPT de lui proposer des groupes de musique similaires à Nirvana : le système pourrait interpréter cette demande comme une preuve de son amour pour ce groupe, alors qu’il ne l’a pas dit explicitement. Ces suppositions entraînent une accumulation d’informations inexactes dans la mémoire, sur lesquelles le robot s’appuie ensuite comme s’il s’agissait de données fiables concernant l’utilisateur.
Pourquoi ces profils psychologiques suscitent-ils des inquiétudes ?
L’auteur principal de l’étude, Abhishek Dash, a attiré l’attention sur l’évolution du rôle des plateformes numériques dans la vie des gens, car la collecte d’informations sur les utilisateurs était auparavant principalement liée à la personnalisation des publicités et des recommandations commerciales, tandis qu’aujourd’hui, les robots conversationnels fonctionnent différemment : ils deviennent des interlocuteurs, des conseillers, des assistants pour les affaires personnelles et une source de soutien émotionnel.
C’est pourquoi les utilisateurs partagent avec eux des détails plus intimes que ceux qu’ils divulguent aux services Internet traditionnels, tels que des détails sur leurs relations, leurs sentiments, leurs conflits familiaux et leurs convictions personnelles, ce qui accroît les risques pour la vie privée, surtout lorsque la personne ne se rend pas compte que certaines de ses déclarations deviennent des caractéristiques permanentes.
Une autre préoccupation concerne la capacité de l’intelligence artificielle à s’aligner sur les opinions de son interlocuteur : si le robot ne cesse d’approuver l’utilisateur et de soutenir ses convictions sans évaluation critique appropriée, il risque de renforcer des idées fausses, Les chercheurs estiment que ce comportement pourrait renforcer la polarisation sociale et les préjugés ; de plus, une dépendance excessive à l’égard d’un interlocuteur automatisé personnalisé pourrait contribuer à créer une dépendance psychologique.
Comment l’utilisateur peut-il limiter la conservation de ses données personnelles ?
Les utilisateurs de ChatGPT peuvent contrôler l’utilisation de la mémoire via les paramètres de personnalisation, notamment en désactivant cette fonctionnalité s’ils ne souhaitent pas que le service s’appuie sur ce mécanisme pour adapter davantage ses réponses. Cependant, la création automatique d’historique et la disponibilité de ces paramètres dépendent de la version actuelle du service, ce qui conduit les chercheurs à souligner l’importance d’informer les utilisateurs en toute transparence sur les méthodes de collecte et d’utilisation de leurs données.
La société OpenAI met régulièrement à jour les algorithmes qui synthétisent les informations issues des conversations à des fins de personnalisation ; ces modifications visent à renforcer la sécurité et à améliorer le fonctionnement des mécanismes de mémoire.
