北京时间8月16日，美国加州《前沿AI模型安全创新法案》在进行多项关键修改后，成功通过加州众议院拨款委员会审核，朝着成为法律迈进。该法案旨在通过追究开发者责任，防止大型AI系统引发重大人员伤亡或网络安全事件，特别是针对那些训练成本超过1亿美元、计算量达到10^26 FLOPS的AI模型。然而，法案的通过引发了包括李飞飞、杨立昆在内的AI行业部分人士的强烈反对，他们担忧该法案可能损害加州乃至美国在AI领域的领先地位。 法案对AI开发者的责任、惩罚措施以及执行机制进行了调整，旨在平衡监管与创新之间的关系。修正案减少了加州政府追究AI实验室责任的权力，同时引入了举报人保护措施，并对违法行为设置了高额罚款。此外，法案还规定，如果AI模型导致灾难性事件，法院有权宣布采取禁令，包括修改、关闭或删除模型。然而，这一法案遭到了包括知名风险投资机构a16z、斯坦福大学教授李飞飞等在内的多个科技团体和AI专家的强烈反对，他们认为该法案可能导致AI研究转向地下，抑制创新，并对开源社区构成威胁。 当前，该法案已进入最终审议阶段，加州议会将对其进行最终表决。如果法案通过，加州州长纽森将在8月底前决定是否签署，从而正式成为法律。此次法案通过标志着美国在AI监管领域迈出了重要一步，同时也引发了关于AI发展与监管之间平衡的广泛讨论。