1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:DeepMind打造AI调解员,“劝架”水平远超人类

Google DeepMind的研究团队开发了一种AI调解员,通过让AI参与并作为调解员,帮助群体在实际辩论中达成共识。这项研究基于哈贝马斯理论构建了Habermas Machine (HM),旨在帮助不同观点的人找到共同点。

哈贝马斯理论试图解决现代社会中的理性与沟通问题,强调在交流中寻求共识的理性。研究显示,AI调解员比人类调解员表现更佳,其声明更易接受、更清晰、更合乎逻辑、更有信息量,且不疏远少数群体的观点。

该研究论文发表在《科学》杂志上,论文通讯作者Christopher Summerfield认为,AI“广泛尊重每个小团体中多数人的观点,但又试图写出一段文字,不让少数人感到自己被忽视了”。研究发现,AI有助于在分歧较大的议题上找到共同立场,且具备公平、可扩展性和高效率的优势。

AI通过生成模型和个性化奖励模型(PRM)识别和生成共同立场。生成模型基于LLM微调,能够生成高质量的群体声明;PRM则用于根据预测的群体成员偏好对这些声明进行排序,以确保公平性。

实验采用调解集体审议程序,通常由五人小组讨论三个问题,持续约一小时。参与者先私下撰写个人观点,再传递给HM生成初步群体声明。参与者对这些声明进行评分和排序,随后对选择的初步声明进行批评,HM生成修订后的声明,参与者再次评分和排序。研究结束时,参与者评价观点变化,并得知群体声明由算法生成。

研究团队通过回答四个问题揭示其研究结果:

  1. AI调解的审议能否帮助人们找到共同点? 实验表明,AI生成的陈述比人类调解员生成的陈述获得更高的认可度,显著提升了共识达成度。

  2. AI能否减少群体内部的分歧? AI调解的审议过程显著降低了群体内部的分歧,提高了意见一致性。

  3. AI是否平等地代表所有观点? HM生成的群体陈述不仅反映了多数意见,还给予少数意见足够重视,甚至在某些情况下赋予更多权重。

  4. AI调解的审议是否适用于公民大会? AI生成的陈述在多样化的群体中同样有效,尤其在复杂议题上,能促成更多共识。

尽管如此,这项研究也存在挑战和不足。AI在处理复杂背景和态度时的表现仍需进一步研究。此外,确保所有观点的充分表达和避免算法偏见是未来需关注的重点。未来,HM有望在合同协议、外交谈判等多种场景中发挥重要作用。

原文链接
本文链接:https://kx.umi6.com/article/7551.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
新王登基,Gemini 1.5 Pro再度更新,超越GPT 4o和Claude-3.5
2024-09-04 11:37:42
人工智能开源生态共识在广州发布
2026-04-21 00:34:52
无需 3D 模型 / 物理引擎:谷歌 DeepMind 联合开发力提示技术,AI 生成视频可模拟真实运动
2025-06-04 09:16:20
谷歌 DeepMind 优化 AI 模型新思路,计算效率与推理能力兼得
2024-12-28 10:24:13
MIT终身教授何恺明,入职谷歌了
2025-06-26 10:56:19
AI 革新医疗:谷歌 DeepMind 首席执行官预测,十年内帮助消灭所有疾病
2025-04-23 14:57:44
DeepMind开源生物分子预测模型 诺奖成果将掀起AI制药浪潮?
2024-11-12 17:15:54
陶哲轩转发!DeepMind开源「AI数学证明标准习题集」
2025-05-31 13:04:33
推理模型规划任务成功率从5%到95%,DeepMind遗传算法新研究火了
2025-01-23 15:19:02
DeepMind之父坦言:我造的AI可能灭绝人类 但已无人能停下
2026-03-31 10:42:07
谷歌 DeepMind CEO 观点:AI 有望减少人类自私行为、提升同理心
2025-06-06 15:35:48
谷歌旗下 DeepMind 推出 Genie 2 模型,可生成长达 1 分钟的游戏世界
2024-12-05 07:52:59
谷歌 DeepMind 携手 BioNTech 打造 AI 科学助手:规划实验、预测结果,助力科技变革
2024-10-09 10:12:46
24小时热文
更多
扫一扫体验小程序