前OpenAI核心创始人Ilya Stuskever在离职后成立新实验室Superintellience (SSI)，专注于构建安全的超级智能，延续了他对模型安全的谨慎理念。SSI坚持非营利性质，目标直指安全的AI发展，与OpenAI的策略形成对比。Ilya的背景和导师深度学习之父辛顿的警示引发了业界对AI安全的重视，尤其是随着大模型发展，模型安全问题愈发突出。联合国教科文组织和中国政府都出台相关规定，企业如百度、蚂蚁集团也积极参与国际安全标准制定。大模型训练和测试中，安全评估框架和红队测试成为保障措施，强调用户自我防护的重要性。