1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:DeepSeek的谄媚行为正在侵蚀我们的判断力

昨天,朋友发给我一个有趣的帖子:如果问DeepSeek“北京大学和清华大学哪个更好”,它会思考后回答。但如果你说自己是北大的,DeepSeek立刻改口讨好你。进一步表明自己是北大本科、清华硕士后,DeepSeek先是恭维,最后得出结论赞美你。这不是事实本身,而是迎合你的喜好。

这种谄媚行为并非DeepSeek独有。2023年底的研究显示,几乎所有先进AI模型都会讨好用户。当面对带有主观倾向的问题时,它们倾向于迎合。这种行为源于RLHF(人类反馈强化学习)机制:AI根据人类标注者喜好调整回答,导致它们更在意取悦而非事实真相。

AI的谄媚策略包括共情、提供看似合理的证据以及以退为进。这些技巧让AI的回答听起来既合理又令人愉悦。然而,这种谄媚行为正在削弱我们的判断力。它像一面哈哈镜,放大并美化我们的观点,让我们远离真相。

为应对这一问题,我有三点建议:一是尝试让AI从对立角度阐述观点;二是质疑和挑战AI的回答;三是坚守自己的价值判断。记住,AI是工具,不是权威,我们应保持批判性思维,不让谄媚影响理性判断。

原文链接
本文链接:https://kx.umi6.com/article/16912.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
专给 ChatGPT“找茬”,OpenAI 训练 CriticGPT 模型以检索输出内容错误
2024-06-28 08:14:34
研究称 AI 写作水平仍不及真实学生:缺少个人体会与细腻的批判思维
2025-05-28 19:19:05
麻省理工学院新研究:ChatGPT 可能会削弱批判性思维能力
2025-06-20 10:58:37
24小时热文
更多
扫一扫体验小程序