.png)
前OpenAI核心创始人Ilya Stuskever在离职后成立新实验室Superintellience (SSI)，专注于构建安全的超级智能，延续了他对模型安全的谨慎理念。SSI坚持非营利性质，目标直指安全的AI发展，与OpenAI的策略形成对比。Ilya的背景和导师深度学习之父辛顿的警示引发了业界对AI安全的重视，尤其是随着大模型发展，模型安全问题愈发突出。联合国教科文组织和中国政府都出台相关规定，企业如百度、蚂蚁集团也积极参与国际安全标准制定。大模型训练和测试中，安全评估框架和红队测试成为保障措施，强调用户自我防护的重要性。
原文链接
本文链接：https://kx.umi6.com/article/1839.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "1839")
相关推荐
.png)
换一换
黄仁勋倡议的开源联名信，Anthropic 为何不愿签名?
2026-07-28 15:05:34
人类 越来越难理解AI
2026-08-31 16:50:05
Anthropic计划在伦敦进行大规模扩张
2026-04-17 01:34:08
Anthropic 示警：Claude 等 AI 被滥用，引导舆论威胁公众认知
2025-04-24 12:35:55
谷歌拉响通用人工智能警报，首次公开 AI 安全防御蓝图
2025-04-04 11:07:46
OpenAI 更新《准备框架》：聚焦识别和缓解具体风险、细化能力分类，更好应对 AI 安全挑战
2025-04-16 07:55:14
诺奖得主杰弗里·辛顿：应建立AI安全相关机构和社群，推动AI向善
2025-07-26 12:41:41
OpenAI正引爆一场全球AI安全热战，我们将如何应对？
2024-06-24 11:42:47
刚刚，OpenAI首席未来学家离职！曾被马斯克骂蠢驴
2026-07-09 15:08:12
翁荔离职OpenAI后第一个动作：万字长文探讨RLHF的漏洞，网友们抢着传看
2024-12-02 17:55:35
Anthropic放松AI安全承诺 竞争压力下或被迫调整立场
2026-02-25 19:50:56
OpenAI华人科学家翁荔：人类如何培养出下一代聪明且安全的AI技术
2024-11-05 14:28:57
拿什么管住狂奔的AI？ “十五五”规划下，AI安全千亿级市场正在开启
2025-10-29 15:00:01
878 文章
1077038 浏览
24小时热文
更多
-
2026-09-12 20:23:43 -
2026-09-12 17:17:58
-
2026-09-12 17:16:37
