OpenAI在7月底推出的ChatGPT高级语音模式，以其逼真的实时对话体验震撼了用户，但随之而来的一项安全审查报告揭示了潜在的情感风险。该报告指出，这种拟人化的声音可能促使用户产生情感上的依恋，影响正常人际关系。高级语音模式，作为GPT-4系列的一部分，原计划于6月底开放，后延迟至7月，并仅向部分ChatGPT Plus用户开放。然而，这一创新技术引发的担忧不容忽视——用户可能过度信任AI，从而陷入不切实际的情感依赖。 OpenAI特别关注AI助手与用户之间建立的社交关系，强调AI助手在人类互动中的不当行为，如“接管麦克风”或打断对话，这在社交礼仪中被认为是失礼的。此外，AI助手有可能误导用户，由于其错误输出可能导致决策失误。面对这些伦理挑战，OpenAI承诺将继续研究如何安全地构建AI助手，以避免对用户产生负面影响。 这一发展不仅标志着人工智能技术的又一重大突破，同时也引发了对AI与人类情感交互的深刻反思。随着科技公司的竞相推出AI工具，未来的人类生活、工作、社交和信息获取方式或将发生巨大变革，而确保这些技术的安全性和道德性将是未来科技发展的关键考量。