标题：60%情况下主流大模型未真正理解风险，存在系统性漏洞 让推理模型生成安全输出的背后，隐藏着认知危机：超60%的案例中，模型并未真正理解风险，主流推理模型的安全性能存在系统性漏洞。淘天集团算法技术-未来实验室团队用「表面安全对齐」（SSA）描述这一现象，并推出首个针对推理模型风险认知准确性的Be...

6月9日，英国多个组织呼吁通信监管机构Ofcom限制Meta利用人工智能进行风险评估。此呼吁源于Meta计划将风险评估流程自动化，涉及Facebook、Instagram和WhatsApp等平台。根据英国《在线安全法案》，社交媒体需评估并减轻平台上的伤害风险，尤其是保护儿童及防止非法内容传播。莫莉·罗斯基金会、NSPCC和互联网观察基金会等组织认为AI驱动的风险评估不可靠，要求Ofcom质疑平台简化流程的做法。Ofcom表示正考虑这些担忧，Meta则反驳称其AI工具受人类监督，旨在提升安全能力。此前报道显示，Meta拟用AI审核算法更新和新功能，可能增加潜在风险。

6月1日消息，社交媒体巨头Meta计划大幅增加AI在产品风险评估中的比重，目标是让90%的风险评估工作由AI完成，涵盖青少年风险和涉及暴力、虚假信息等领域。目前，Meta旗下Instagram和WhatsApp的更新需经人工审核，但近期已显著提升AI使用频率，产品团队需通过AI系统审核调查问卷，仅解决AI提出的要求即可发布。尽管Meta强调仍保留人工审核复杂问题，但前员工警告AI可能忽略某些重要风险。Meta最新季度诚信报告显示，内容审核政策调整后，被删除内容减少，但霸凌、暴力内容有所上升。

Meta发布了一项新的人工智能框架，称为“前沿人工智能框架”，规定在某些情况下可能会限制高性能AI系统的发布。根据Meta的定义，存在“高风险”和“关键风险”两类系统，前者可能增加攻击的易实施性，后者可能导致不可缓解的灾难性后果。Meta表示，他们将根据内外部研究及高级别决策者的审查来评估系统风险，而非单一实证测试。对于高风险系统，Meta将限制其内部访问并实施风险缓解措施；对于关键风险系统，则暂停开发直至风险降低。Meta强调，此框架将随AI领域发展而更新，并在本月的法国人工智能行动峰会上提前发布。

英国国民医疗服务体系(NHS)计划于2025年启动全球首个AI试验，使用一款工具提前十多年识别2型糖尿病潜在患者。2型糖尿病是导致失明、肾脏衰竭等严重并发症的主要原因。该AI工具通过分析常规心电图扫描数据，能在糖尿病症状显现前13年预测风险，准确率约为70%，结合遗传和临床信息后准确性更高。NHS将在帝国理工大学医疗信托和切尔西与威斯敏斯特医院NHS基金会试用该工具，并有望在未来几年内推广至其他地区。

谷歌于10月24日发布了一款名为SAIF的风险评估工具，旨在帮助AI开发者和组织评估安全态势，识别潜在风险并采取更强的安全措施。该工具涵盖了AI系统训练、调优和评估，对模型和数据集的访问控制，防止攻击和对抗性输入，以及生成性AI的安全设计与编码框架等多个主题。用户在完成问题回答后，会立即获得一份报告，指出具体风险，如数据中毒、提示注入和模型源篡改等，并附有详细的解释和缓解措施建议。此工具是谷歌去年推出的“安全人工智能框架”（SAIF）的一部分，旨在促进更安全、负责任地部署AI模型，同时谷歌还与行业伙伴成立了“安全人工智能联盟”（CoSAI）来推动关键的AI安全措施。该工具现已在新网站SAIF.Google上线，助力AI开发过程中的风险管理。

摘要：24日，《科创板日报》报道，谷歌母公司Alphabet在周二发布的超预期业绩后，其CEO桑达尔•皮查伊强调了AI投资的重要性。他表示，对AI投资不足的风险远超过度投资，即便存在过投可能，当前用于基础设施的投资仍能转移至其他用途，但若在AI竞争中落后，对Alphabet的影响将更为严重。这一观点凸显了科技巨头对AI技术持续投入的决心及紧迫感。