近日，黄仁勋在X平台发布支持开放大模型权重的联名信，NVIDIA、OpenAI、Meta等巨头签署，唯独Anthropic缺席，引发社区强烈质疑。其研究员以“英伟达和微软也未开放CUDA和Windows”回应，被网友指责偷换概念。实际上，双方分歧源于对“开放”的定义不同。联署企业认为，经评测的模型开放权重有利于技术研究与安全验证；而Anthropic担忧模型离开原厂后，外部部署者可能移除安全防护或微调，导致前沿模型失控。Anthropic并非拒绝所有开源（如已开放MCP协议），而是对开放前沿模型权重极为谨慎。这场争论的核心，在于发布前的安全评测是否足以保障模型权重被长期外部使用。

前OpenAI核心创始人Ilya Stuskever在离职后成立新实验室Superintellience (SSI)，专注于构建安全的超级智能，延续了他对模型安全的谨慎理念。SSI坚持非营利性质，目标直指安全的AI发展，与OpenAI的策略形成对比。Ilya的背景和导师深度学习之父辛顿的警示引发了业界对AI安全的重视，尤其是随着大模型发展，模型安全问题愈发突出。联合国教科文组织和中国政府都出台相关规定，企业如百度、蚂蚁集团也积极参与国际安全标准制定。大模型训练和测试中，安全评估框架和红队测试成为保障措施，强调用户自我防护的重要性。