标题：60%情况下主流大模型未真正理解风险，存在系统性漏洞 让推理模型生成安全输出的背后，隐藏着认知危机：超60%的案例中，模型并未真正理解风险，主流推理模型的安全性能存在系统性漏洞。淘天集团算法技术-未来实验室团队用「表面安全对齐」（SSA）描述这一现象，并推出首个针对推理模型风险认知准确性的Be...

6月9日，英国多个组织呼吁通信监管机构Ofcom限制Meta利用人工智能进行风险评估。此呼吁源于Meta计划将风险评估流程自动化，涉及Facebook、Instagram和WhatsApp等平台。根据英国《在线安全法案》，社交媒体需评估并减轻平台上的伤害风险，尤其是保护儿童及防止非法内容传播。莫莉·罗斯基金会、NSPCC和互联网观察基金会等组织认为AI驱动的风险评估不可靠，要求Ofcom质疑平台简化流程的做法。Ofcom表示正考虑这些担忧，Meta则反驳称其AI工具受人类监督，旨在提升安全能力。此前报道显示，Meta拟用AI审核算法更新和新功能，可能增加潜在风险。

6月1日消息，社交媒体巨头Meta计划大幅增加AI在产品风险评估中的比重，目标是让90%的风险评估工作由AI完成，涵盖青少年风险和涉及暴力、虚假信息等领域。目前，Meta旗下Instagram和WhatsApp的更新需经人工审核，但近期已显著提升AI使用频率，产品团队需通过AI系统审核调查问卷，仅解决AI提出的要求即可发布。尽管Meta强调仍保留人工审核复杂问题，但前员工警告AI可能忽略某些重要风险。Meta最新季度诚信报告显示，内容审核政策调整后，被删除内容减少，但霸凌、暴力内容有所上升。

Meta发布了一项新的人工智能框架，称为“前沿人工智能框架”，规定在某些情况下可能会限制高性能AI系统的发布。根据Meta的定义，存在“高风险”和“关键风险”两类系统，前者可能增加攻击的易实施性，后者可能导致不可缓解的灾难性后果。Meta表示，他们将根据内外部研究及高级别决策者的审查来评估系统风险，而非单一实证测试。对于高风险系统，Meta将限制其内部访问并实施风险缓解措施；对于关键风险系统，则暂停开发直至风险降低。Meta强调，此框架将随AI领域发展而更新，并在本月的法国人工智能行动峰会上提前发布。

摘要：24日，《科创板日报》报道，谷歌母公司Alphabet在周二发布的超预期业绩后，其CEO桑达尔•皮查伊强调了AI投资的重要性。他表示，对AI投资不足的风险远超过度投资，即便存在过投可能，当前用于基础设施的投资仍能转移至其他用途，但若在AI竞争中落后，对Alphabet的影响将更为严重。这一观点凸显了科技巨头对AI技术持续投入的决心及紧迫感。