De plus en plus de personnes, en particulier parmi les jeunes, ont recours à ChatGPT pour obtenir des conseils personnels et relationnels dans leurs situations amoureuses. Cependant, le directeur général d'OpenAI, Sam Altman, a mis en garde les utilisateurs contre l'utilisation de ChatGPT comme psychologue, non seulement parce qu'il ne s'agit pas d'un thérapeute. La confidentialité des conversations serait compromise. Les informations que les utilisateurs partagent avec l'IA pourraient en effet être divulguées. Le dirigeant s'est exprimé à ce sujet dans un épisode du podcast de Theo Von, soulignant l'absence d'un cadre protégeant la confidentialité des conversations avec l'IA. Alors que le secret professionnel s'applique aux thérapeutes, les utilisateurs de ChatGPT ne sont pas protégés par la loi en ce qui concerne la confidentialité des informations qu'ils partagent avec l'intelligence artificielle. Comme il s'agit souvent d'informations sensibles et privées, M. Altman a jugé nécessaire d'intervenir pour clarifier la situation. « Les gens parlent de leurs affaires les plus intimes avec ChatGPT, en particulier les jeunes, qui le considèrent comme un thérapeute, un coach de vie », a déclaré M. Altman. En cas d'action en justice, OpenAI pourrait être contrainte de divulguer les conversations des utilisateurs. Par exemple, TechCrunch (un média) a rappelé qu'OpenAI est impliqué dans un procès avec le New York Times. Dans le cadre de cette procédure, un tribunal a demandé à OpenAI de conserver les conversations des utilisateurs, mais l'entreprise s'y est opposée pour l'instant.