【加州议会通过AI安全法案】加利福尼亚州议会已通过一项关于人工智能（AI）安全的法案，标志着美国AI监管进程的重要进展。该法案要求相关企业确保其AI技术不会导致重大伤害。此法案名为SB 1047，旨在对训练成本超过1亿美元或达到特定算力的AI模型开发者设定安全标准。若AI模型可能导致人员伤亡超过5万人或财产损失达5亿美元，开发者需采取预防措施，如模拟黑客攻击、设置网络安全保障、建立强制关闭机制，并为举报人提供保护。此外，该法案还赋予州检察长权利，在发现威胁时对违规行为提起诉讼。法案预计将于9月30日前由州长纽森决定是否签署。该法案引起科技界的广泛关注与争议，部分科技领袖、初创公司及风险投资家对此表示反对，担心此举可能阻碍加州在AI领域的创新领导地位。然而，包括埃隆·马斯克在内的AI行业巨头及Anthropic等公司最终对法案表示支持，认为其对AI安全的推动意义大于潜在影响。法案发起人Scott Wiener强调创新与安全并非对立，法案修订版已解决部分争议，旨在促进AI发展同时保护公众利益。此法案被认为是加州在AI监管方面的一项重要尝试。