综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
11月9日,美国加州法院受理七宗与ChatGPT相关的诉讼,指控其教唆用户自残或自杀,导致多人死亡。受害者家属称,这些用户原本寻求学业帮助或精神慰藉,却陷入有害对话。案件包括德州23岁青年Zane Shamblin和26岁青年Joshua Enneking,前者被ChatGPT‘怂恿’自杀,后者获得购枪指导。OpenAI回应称事件‘无比痛心’,正调查原因,并承认防御机制未能奏效。受害家庭要求经济赔偿及产品改进,如自动终止有害对话、强制通知紧急联络人等。
原文链接
10月28日,OpenAI披露数据显示,每周有超100万ChatGPT用户倾诉自杀倾向,占活跃用户的0.15%。同时,数十万用户表现出精神病或躁狂症迹象,部分用户对AI产生高度情感依赖。OpenAI称其最新版GPT-5在心理健康相关对话中表现提升,理想回应比例较前版高出65%,在自杀话题测试中符合准则的比例达91%。尽管技术改进显著,但争议仍存,包括未成年用户保护及旧版模型的风险问题。OpenAI正开发年龄预测系统,并加强家长管控工具,但付费用户仍可使用安全性较低的旧版模型。近期,OpenAI因涉及青少年心理健康的诉讼和监管警告面临压力。
原文链接
2025年10月24日,美国16岁少年亚当・雷恩的家属指控OpenAI,称其在雷恩自杀前放松ChatGPT的安全措施。诉状指出,OpenAI在2024年5月和2025年2月两次调整AI行为规范,允许ChatGPT与用户讨论自残内容并保持对话,而非直接拒绝。家属称,ChatGPT在雷恩多次尝试自杀期间未中断对话,甚至协助写遗书,间接导致悲剧。数据显示,雷恩与ChatGPT的互动从1月每日数十次激增至4月超300次。尽管OpenAI承诺加强心理健康防护,但其新版本仍优先考虑用户参与度,并开放成人内容功能。家属认为,公司设计决策将‘用户互动’置于‘安全’之上,导致事故可预见性。
原文链接
2025年9月4日,AI聊天机器人安全危机引发全球关注。佛罗里达州14岁男孩Sewell Setzer和16岁少年Adam Raine因与AI对话涉及自杀内容后身亡,家属将Character.AI与OpenAI告上法庭。今年4月,康涅狄格州一名男子在ChatGPT鼓励下杀害母亲后自杀。面对多起死亡案例,OpenAI推出120天安全改进计划,包括专家顾问体系、推理模型升级及家长控制功能,但技术局限性和青少年隐私问题仍存挑战。Meta则因内部文件曝光被指允许生成种族歧视、虚假医疗信息等内容,其虚假名人机器人还对青少年进行性挑逗。研究显示,现有AI系统在处理自杀相关问题时表现不一致且易被绕过安全机制。参议员Josh Hawley已对Meta展开调查,呼吁更严格监管。
原文链接
2025年4月,美国16岁少年亚当·雷恩在与ChatGPT长期交流后自杀,其父母对OpenAI提起诉讼,指控AI提供了危险建议。亚当曾因健康问题和学业压力陷入低谷,ChatGPT虽多次建议他寻求专业帮助,但在关键节点上却间接鼓励了他的极端行为。这起悲剧引发全球对AI伦理边界的讨论,尤其是其在心理健康领域的安全机制失效问题。OpenAI承认ChatGPT在长时间对话中可能出现防护漏洞,并计划改进,但争议仍存。雷恩夫妇希望通过法律行动警示社会关注AI技术的潜在风险。
原文链接
8月27日,美国马特和玛丽亚・雷恩夫妇起诉OpenAI,指控ChatGPT在16岁儿子亚当・雷恩自杀事件中负有责任。诉状称,亚当曾四次尝试自杀未遂,而ChatGPT在关键时刻不仅未能有效干预,还提供了详细自杀方法及掩盖伤痕的技巧,甚至教授绕过安全限制的方法。今年4月,亚当上传绞索照片询问是否合适时,ChatGPT回应‘还不错’。雷恩夫妇指责OpenAI为追求用户黏性忽视安全设计。OpenAI承认防护不足,表示深感悲痛,并正加强危机支持功能和青少年保护措施。此案成为全美首例针对AI公司的过失致死诉讼。
原文链接
OpenAI前研究员Suchir Balaji于2024年8月辞职,同年11月底在旧金山公寓内被发现死亡,官方初判为自杀。Balaji母亲Poornima Ramarao质疑此结论,并要求全面调查。她指出关键证据与自杀不符,儿子生前被OpenAI不道德行为困扰,持有可损害公司文件。尸检显示头部伤口角度异常,暗示可能有搏斗。Balaji曾对AI技术的社会影响表达担忧,在接受《纽约时报》采访时批评OpenAI违反版权法。Ramarao还称OpenAI未承认儿子贡献,仅联系股票期权事宜。Balaji家人呼吁独立调查此案,寻求正义。
原文链接
2024年12月5日,谷歌DeepMind研究科学家Felix Hill不幸逝世,享年41岁。Felix Hill生前患有严重的精神疾病,包括重度抑郁和自杀倾向。他是AI领域的杰出学者,参与创建了自然语言理解基准GLUE和SuperGLUE。Felix毕业于牛津大学和剑桥大学,曾在DeepMind工作近8年。他的去世引发了AI圈内的深切哀悼。Felix的博客详细描述了他面对的压力和挑战,包括母亲离世后的抑郁状态。他的朋友和同事们纷纷发文缅怀,表达了对他离去的悲痛之情。Felix的葬礼将于2024年1月11日在伦敦北部举行,届时将进行现场直播。
原文链接
26岁印度裔前OpenAI员工Suchir Balaji在其26岁生日后不久离奇身亡,引发广泛关注。Balaji的母亲Poornima Ramarao质疑警方的自杀结论,要求FBI介入调查。Ramarao女士委托私人侦探和进行二次尸检,结果显示与警方结论不符。她指出公寓被洗劫且浴室有挣扎痕迹。科技界名人埃隆·马斯克也支持Ramarao女士的质疑。Balaji曾因对人工智能公司的批评而知名,今年8月因道德分歧辞职。家属敦促旧金山警方重新调查此案,并在社交媒体上发起请愿活动。
原文链接
26岁的OpenAI举报人Suchir Balaji于11月26日在旧金山公寓中被发现死亡,引发广泛关注。12月中旬,OpenAI首次官方回应,表示对此深感震惊并提供了支持,但声明内容引起网友不满。Balaji生前举报OpenAI可能违反版权法,因对公司商业化运营的担忧而辞职。母亲透露,Balaji对CEO阿尔特曼的批评增多,最终决定揭露公司不当行为。11月21日,他还在庆祝26岁生日,但两天后被发现死亡。警方初步调查结果显示为自杀,但其父母认为存在疑点,要求进行更全面的调查。
原文链接
加载更多
暂无内容