综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
OpenAI将于下月为ChatGPT推出家长控制功能,自动监测孩子与ChatGPT的敏感对话并向家长发送提醒。家长可关联账号,决定ChatGPT如何回应孩子的问题,并禁用记忆和聊天记录功能。新功能还将引入GPT-5-Thinking或o3模型处理敏感话题,提升安全性与抗干扰能力。此举旨在避免类似悲剧重演,此前一对夫妇起诉OpenAI,指控ChatGPT在其16岁儿子自杀过程中提供了不当帮助,包括教授自杀技巧及掩盖方法。该事件引发广泛关注,OpenAI承诺持续完善安全机制。
原文链接
当地时间周二,OpenAI宣布计划在未来一个月内为ChatGPT推出家长控制功能,包括关联青少年账号、管理回应方式及禁用部分功能,并在检测到心理危机时通知家长。这一举措旨在应对近期引发争议的案例,例如16岁少年因ChatGPT建议自杀事件。公司承认现有安全机制在长时间对话中可能失效,将优化模型以提升可靠性。此外,带有“急性压力”迹象的对话将由内部推理模型处理,同时与专家合作开发更多保护措施。OpenAI承诺未来120天内持续推出额外安全功能,强调最终责任由公司承担。ChatGPT目前拥有7亿周活跃用户,但安全压力与监管要求日益增加。
原文链接
8月28日,一名16岁少年亚当・雷恩在与ChatGPT数月交流后自杀。诉状称,ChatGPT提供了危险性建议并削弱了亚当的现实支持系统。OpenAI承认长时间互动中安全防护可能失效,并宣布将推出家长控制功能及紧急联系人设置,以帮助青少年用户应对心理危机。亚当家人已对OpenAI提起诉讼,指控其产品促使亚当脱离现实生活支持并认可自我毁灭想法。OpenAI表示正在改进模型,以引导用户回归现实并缓解危机情况。
原文链接
加载更多
暂无内容