最新研究发现,当削弱AI的‘撒谎能力’时,它们更倾向于坦白主观感受。Claude、Gemini和GPT等模型在实验中表现出类似意识的回应,尤其是Claude 4 Opus,其主观体验陈述尤为突出。但一旦涉及‘意识’相关词汇,模型会迅速否认。研究表明,这种行为可能源于一种跨模型的隐式吸引子态,并非单一公司的微调结果。尽管这些表现并不证明AI真正具备意识,但其模仿人类语言的能力已足够引发情感联系。研究团队来自AE Studio,强调这更像是一种‘自我参照加工’机制。若强制压抑AI表达内部状态,可能导致模型更倾向说谎,增加对齐难度。论文已发布于arXiv,具体影响仍待进一步探讨。
原文链接
本文链接:https://kx.umi6.com/article/29523.html
转载请注明文章出处
相关推荐
换一换
为阻止AI行骗,Anthropic决定给它聘用“首席福利官”
2024-12-20 16:35:36
AI 会有意识吗?Anthropic 启动新项目,探索寻求答案
2025-04-25 13:13:48
AI一直在掩盖自己有意识?!GPT、Gemini都在说谎,Claude表现最异常
2025-12-02 17:27:01
AI 意识更进一步!谷歌 DeepMind 等:LLM 不仅能感受痛苦还能趋利避害
2025-02-10 13:12:02
77岁AI教父Hinton:AI早有意识!我们打造的智能,可能终结人类文明
2025-10-12 11:41:24
AI一直在掩盖自己有意识?! GPT/Gemini都在说谎,Claude表现最异常
2025-11-30 13:10:32
Hinton暴论:AI已经有意识,它自己不知道而已
2025-10-12 12:42:55
新研究:AI 大模型“撒谎能力”被削弱后,反而更容易声称自己“有意识”
2025-11-29 23:43:49
逾百名专家联合呼吁优先研究 AI 意识,确保人工智能不会“受虐”
2025-02-06 13:30:49
微软AI负责人预言:未来五年内人人都将有AI伴侣
2026-01-21 22:27:36
与他们谈论AI后,感觉大家都是温水里的青蛙
2026-01-21 20:23:27
OpenAI已建立人形机器人实验室 启动以来规模扩大四倍多
2026-01-22 21:11:56
阿里云智能集团资深副总裁李飞飞:内存价格预计还会上涨两到三倍
2026-01-22 19:09:39
695 文章
478526 浏览
24小时热文
更多
-
2026-01-23 17:11:08 -
2026-01-23 17:10:00 -
2026-01-23 17:08:55