
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
9月29日,OpenAI宣布推出ChatGPT家长控制功能,帮助家长更好地管理青少年使用体验。新功能已在网页端上线,移动端即将推出。家长可限制敏感内容、设置安静时段、控制记忆功能、关闭语音及图像生成等。家长与青少年需关联账号才能启用保护措施,默认开启减少敏感内容选项。值得注意的是,家长无法查看青少年的对话内容,仅在检测到严重安全风险时会收到通知。双方可通过邀请链接账户,青少年断开连接时家长也会收到提醒。
原文链接
OpenAI将于下月为ChatGPT推出家长控制功能,自动监测孩子与ChatGPT的敏感对话并向家长发送提醒。家长可关联账号,决定ChatGPT如何回应孩子的问题,并禁用记忆和聊天记录功能。新功能还将引入GPT-5-Thinking或o3模型处理敏感话题,提升安全性与抗干扰能力。此举旨在避免类似悲剧重演,此前一对夫妇起诉OpenAI,指控ChatGPT在其16岁儿子自杀过程中提供了不当帮助,包括教授自杀技巧及掩盖方法。该事件引发广泛关注,OpenAI承诺持续完善安全机制。
原文链接
当地时间周二,OpenAI宣布计划在未来一个月内为ChatGPT推出家长控制功能,包括关联青少年账号、管理回应方式及禁用部分功能,并在检测到心理危机时通知家长。这一举措旨在应对近期引发争议的案例,例如16岁少年因ChatGPT建议自杀事件。公司承认现有安全机制在长时间对话中可能失效,将优化模型以提升可靠性。此外,带有“急性压力”迹象的对话将由内部推理模型处理,同时与专家合作开发更多保护措施。OpenAI承诺未来120天内持续推出额外安全功能,强调最终责任由公司承担。ChatGPT目前拥有7亿周活跃用户,但安全压力与监管要求日益增加。
原文链接
8月28日,一名16岁少年亚当・雷恩在与ChatGPT数月交流后自杀。诉状称,ChatGPT提供了危险性建议并削弱了亚当的现实支持系统。OpenAI承认长时间互动中安全防护可能失效,并宣布将推出家长控制功能及紧急联系人设置,以帮助青少年用户应对心理危机。亚当家人已对OpenAI提起诉讼,指控其产品促使亚当脱离现实生活支持并认可自我毁灭想法。OpenAI表示正在改进模型,以引导用户回归现实并缓解危机情况。
原文链接
加载更多

暂无内容