7月25日，OpenAI CEO奥尔特曼警告称，将ChatGPT当作心理治疗师并不安全，因其对话内容不受法律保护。他指出，若涉及诉讼，ChatGPT的对话可能被要求提供，而与医生或律师的交流则享有法律特权。奥尔特曼呼吁为AI对话提供类似隐私保护，并强调这一问题亟待解决。报道称，越来越多用户，尤其是年轻人，开始依赖ChatGPT寻求心理支持、生活建议等。此外，OpenAI员工可能会查看聊天记录以优化模型和监控滥用行为，免费版及付费版中删除的聊天记录通常会在30天内永久删除，但因法律或安全原因可能保留。

微软探索将Copilot发展为AI心理治疗师，提供情感关怀。据1月23日公示的专利显示，该AI系统能分析用户提供的图像及情感信息，生成个性化描述，帮助用户表达情绪。每次会话后，AI创建记忆记录，以更好地理解用户情绪，提供同理心支持。此功能还可用作私人助理，监测用户的心理或认知状况。微软表示，这将为需要情感支持的人提供帮助。