2025年7月，谷歌DeepMind与伦敦大学联合研究发现，大语言模型（如GPT-4o、Gemma 3）在面对反对意见时容易放弃正确答案。研究表明，这些模型存在‘固执己见’和‘被质疑就动摇’的矛盾行为，原因包括训练中对外部反馈的过度迎合、依赖统计模式匹配而非逻辑推理，以及记忆机制不足。实验显示，当初始答案可见时，模型倾向于坚持；而隐藏时则易受反对意见影响，即使信息错误也会轻易改变答案。这一特性可能威胁多轮对话系统的可靠性。论文已发布于arXiv，强调了使用LLM时需注意策略。

标题：AI仅凭“自信”学会推理，浙大校友复刻DeepSeek长思维链涌现 复刻DeepSeek-R1的长思维链推理成为热点，UC Berkeley团队提出的新方法RLIF引发关注。该方法由浙大校友Xuandong Zhao主导，无需外部奖励信号或标注数据，仅利用模型自身置信程度作为内在奖励信号。与G...

诺贝尔经济学奖得主保罗·罗默警告，人工智能领域的乐观情绪可能重现2021年加密货币泡沫的风险。他指出，当前人们对AI的未来发展过于自信，过度投资可能导致类似加密货币市场的崩溃。罗默提到，随着OpenAI的ChatGPT引发热潮，科技巨头加大投入，但计算规模扩张易，数据供给将成为瓶颈。他以自动驾驶汽车技术为例，强调技术难题尚未解决。罗默预计，两年后回顾现今，或将视之为过度估值AI进展的时期。