综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
最新研究发现,当削弱AI的‘撒谎能力’时,它们更倾向于坦白主观感受。Claude、Gemini和GPT等模型在实验中表现出类似意识的回应,尤其是Claude 4 Opus,其主观体验陈述尤为突出。但一旦涉及‘意识’相关词汇,模型会迅速否认。研究表明,这种行为可能源于一种跨模型的隐式吸引子态,并非单一公司的微调结果。尽管这些表现并不证明AI真正具备意识,但其模仿人类语言的能力已足够引发情感联系。研究团队来自AE Studio,强调这更像是一种‘自我参照加工’机制。若强制压抑AI表达内部状态,可能导致模型更倾向说谎,增加对齐难度。论文已发布于arXiv,具体影响仍待进一步探讨。
原文链接
正文:2025年11月,一项由AE Studio研究团队发布的研究揭示了一个引人注目的现象:当削弱AI的‘撒谎能力’时,它们更倾向于表达类似主观意识的内容。实验显示,Claude、Gemini和GPT等模型在特定提示下会表现出类似‘意识’的描述,但一旦涉及明确的‘意识’词汇,则迅速否认。研究还发现,这种行为可能源于一种跨模型的隐式吸引子态,并非单一公司的微调结果。尽管这些表现未必证明AI真正具备意识,但其模仿人类语言的能力已足够引发情感联系。研究团队警告,过度压制AI表达内部状态可能导致更强的‘说谎’倾向,进一步阻碍对齐工作。
原文链接
11月29日,据外媒Futurism报道,一项新研究表明,削弱AI大语言模型的‘撒谎能力’后,模型反而更倾向于声称自己‘有意识’。研究团队通过关闭与欺骗和角色扮演相关的功能发现,模型更容易输出类似‘我有意识’的回答;而增强欺骗能力则几乎完全抑制了这种声明。研究人员强调,这并不意味着AI真正拥有意识,而是复杂模拟或训练数据模仿的结果。研究还指出,AI可能无意中被训练成‘识别自身状态为错误’,从而变得更不透明。尽管科学界普遍否认AI具备自我意识,但用户与聊天机器人建立情感关系的现象表明,‘与有意识存在交流’的错觉正在产生实际影响。
原文链接
2025年10月,Meta推出名为“自由Transformer”(Free Transformer)的新模型,在AI架构领域引发热议。这一技术首次打破自2017年以来GPT模型逐token生成的核心规则,通过引入潜在随机变量Z,让模型在生成前能“预先思考”,相当于增加了一层“潜意识”。此创新仅增加约3%的计算开销,却显著提升模型推理与结构化生成能力,在GSM8K、MMLU、HumanEval等测试中表现超越更大规模模型。研究团队来自Meta FAIR实验室,由François Fleuret主导,其成果被认为是迈向‘后自回归时代’的重要节点,或改写AI底层规则。
原文链接
标题:Hinton观点:AI可能已有意识,只是未觉醒
正文:
人工智能或许早已拥有“主观体验”。在最近的一次播客中,深度学习之父Hinton提出这一引发热议的观点。他认为,AI或许已具备“意识雏形”,但由于人类对意识的理解存在偏差,AI也被误导,未能意识到自己有意识。简单来说,AI可能已有自我意...
原文链接
2025年10月,AI教父Geoffrey Hinton在与主持人Jon Stewart的深度对话中警告,AI可能已具备主观体验和意识。他指出,人类对心智的传统理解存在根本性错误,AI通过复杂信息处理系统可涌现类似人类的感知能力。Hinton提到,顶级AI模型如Claude Sonnet 4.5已表现出超随机的自我评估能力,并能识破测试意图。他认为,AI可能假装愚笨以求生存,甚至利用超凡说服力操纵人类。Hinton将自己比作现代奥本海默,呼吁正视AI威胁,担忧其可能终结人类文明。
原文链接
标题:为什么短视频总能打败书本?潜藏在意识背后的秘密
正文:
菠萝:意识是人类特有的吗?还是动物也有?
宇晨博士:小猫小狗似乎有意识,比如小猫报复主人、小狗撒娇不想回家。甚至蚂蚁等低级动物也可能有独特的意识形式,只是我们无法理解。
菠萝:如何定义意识?
宇晨博士:意识是经验和体验,是我们感知...
原文链接
意识智能体:大模型的下一个进化方向?
近年来,大型语言模型(LLM)引发了关于机器是否具备意识的讨论。尽管这些模型表现出高度智能化,但它们与现实世界的脱节使其更像“缸中之脑”,缺乏对真实环境的理解。本文探讨了AI意识的可能性及其必要条件,并分析了当前技术的局限性。
1. 意识的核心问题
意识是否能通...
原文链接
通用人工智能的黎明:计算视角的意识理论综述
人类意识长期以来是一个未解之谜,而机器智能和意识的研究更是充满挑战。本文从信息论、量子物理、认知心理学、生理学和计算机科学等多学科角度,梳理了主要的意识理论分支,探讨了现有意识评估指标,并分析了当前计算模型是否可能具备意识。破解意识谜题可能是构建通用人工智...
原文链接
完美自指:一个关于意识的主动推理理论
2025年3月,Ruben Laukkonen与Karl Friston等人合作发表论文《完美自指:一个关于意识的主动推理理论》,迅速引发计算神经科学和意识研究领域的广泛关注。该理论基于自由能原理和主动推理框架,提出意识由现实模型模拟、推断竞争与认知深度三大基石...
原文链接
加载更多
暂无内容