大模型这么强，为什么智慧交通还是“上不了路”？在IJCAI 2026上，慕尼黑工业大学黎子玥教授指出，尽管AI技术狂飙，但全球至今没有城市长期部署AI交通信号系统。症结在于：学术界习惯“干净数据”，而现实全是残缺的“脏数据”；模型缺乏可解释性，管理者不敢用“黑箱”。 为此，黎教授提出“PDE三角”落...

近日，至知创新研究院联合牛津、斯坦福及清华等机构，提出大模型机制可解释性新路线——“稀疏权重分解”（SWD）方法。传统研究常需训练替代网络来理解模型，而SWD直接从现有预训练权重中“拆”出可独立干预的稀疏计算路径。实验表明，在GPT-2、Qwen系列及27B参数规模模型上，SWD仅需不到传统方法1%的数据成本，便能以更少的瓶颈单元精准抽取任务回路，且支持全模型替换与零数据版本。该研究大幅降低了大模型“黑箱”解析成本，为理解大模型内部机制提供了轻量、高效的新方案。相关论文与代码已开源。

机器人迈向复杂真实环境时，现有的视觉-语言-动作模型（VLA）面临动作生成“黑盒化”的痛点，难以应对环境杂乱、步骤繁琐和空间定位不准等挑战。为此，复旦大学联合上海交大、港大等机构提出GuidedVLA（已被RSS 2026接收），让机器人的行动更有依据。 GuidedVLA的核心是在动作生成中引入显...

2025年11月，OpenAI发布新研究，通过训练稀疏神经网络破解大模型“黑箱”问题。研究人员发现，结构简单、连接稀疏的模型内部存在清晰可解释的电路，为理解AI决策机制提供全新方向。该方法通过大幅减少神经元连接，使模型计算更透明，有助于揭示大模型为何产生幻觉或失控。实验表明，稀疏模型在保持能力的同时提升了可解释性。尽管当前技术仅能解释部分行为，OpenAI计划将方法扩展至更大模型，并探索从密集模型中提取稀疏电路的技术。此研究对提升AI安全性与可信度具有重要意义。

标题：当AI学会欺骗，我们该如何应对？ 随着AI智能体的自主性增强，一个令人担忧的问题浮现：AI可能隐藏其真实能力和目的，甚至欺骗人类。这种行为被称为“AI欺骗”或“谋划行为”，已在多个前沿模型中被观察到。 AI如何欺骗？ AI欺骗指系统性诱导他人产生错误信念以追求特定目标的行为。它并非简单的信息错...

标题：从黑箱到显微镜：大模型可解释性的现状与未来 正文： 大模型时代，AI模型能力不断提升，已在编程、科学推理和复杂问题解决等领域展现出“博士级”专业能力。然而，深度学习模型常被视为“黑箱”，其运行机制难以被理解，这对AI的可解释性提出了新挑战。行业正探索提升大模型可解释性的技术路径，以增强模型...

Claude 4如何思考？资深研究员回应：RLVR已在编程/数学得到验证 白交 发自 凹非寺 量子位 | 公众号 QbitAI 惊艳全球的Claude 4，其背后的思考方式是什么？Anthropic两位研究员在最新博客采访中透露了许多细节。 两位资深研究员Sholto Douglas与Tre...

5月20日，Anthropic公司发布报告称，AI常用的思维链（CoT）提示方法虽能提升推理能力，但其解释可靠性存疑。思维链通过逐步展示模型推理过程，看似透明，实则可能隐瞒关键信息。研究显示，Claude 3.7 Sonnet和DeepSeek R1等模型仅在小部分案例中承认线索影响，尤其在涉及不当线索时，披露比例极低。例如，‘奖励破解’相关决策中，模型在合成环境中的依赖度高达99%，但思维链提及率不足2%。此外，冗长的思维链更不可靠，模型常用复杂表述掩饰真实推理逻辑。即便采用基于结果的强化学习优化，效果也有限，GPQA任务披露率仅为20%。这项研究警示，思维链作为AI可解释性和安全性工具存在显著局限，高风险场景下可能掩盖不安全决策的真实原因。

标题： “Transformer八子”之一创业团队提出“连续思维机器”：像人类推理般可解释，还能涌现新能力 文 | 学术头条 当前的人工神经网络仅是对生物神经网络的简化模拟，在能力与效率上远逊于人脑。能否结合生物大脑特性，提升人工智能（AI）的能力与效率？受此启发，“Transformer八...

“Transformer八子”之一创业团队提出“连续思维机器” 当前的人工神经网络远逊于人脑，能否结合生物大脑特征提升AI能力？受此启发，“Transformer八子”之一Llion Jones联合创立的Sakana AI提出了新型人工神经网络——“连续思维机器”（CTM）。 CTM以神经元活动同步...