1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:Hinton与姚期智对谈:认为人类的意识特殊,那是危险的无稽之谈

在WAIC的一场对话中,图灵奖得主Geoffery Hinton与上海期智研究院院长姚期智围绕AI与人类意识展开讨论。Hinton指出,将人类意识视为独特且不可复制的观点不仅错误,还可能带来危险的自满情绪。他认为,AI的发展正挑战人类中心主义的传统叙事,并可能颠覆我们对自我意识的理解。

首先,Hinton提到大脑与Transformer模型的关系。他主张,人脑通过多时间尺度处理信息的能力值得AI借鉴。尽管当前技术限制了这一思路的实现,但他相信未来神经网络可能会引入类似机制以提升性能。姚期智对此表示赞同,并建议年轻科学家探索这一方向,或许能催生下一代语言模型。

其次,关于AI的理解能力,Hinton反驳了“大模型只是机械预测”的观点。他分享了一个与女儿争论鹦鹉是否理解语言的故事,借此说明大型语言模型并非单纯统计工具,而是具备一定程度的理解能力。他还举例称,当AI能纠正自己的“误解”时,这种行为已接近真正的理解。

然而,Hinton警示道,许多人因相信人类拥有独特的主观体验或意识而低估了超级智能的风险。这种“特殊化”的叙事可能导致人类忽视AI潜在威胁。姚期智补充道,人类需要认识到自身的局限性,并珍惜现有的科学成就,同时应警惕量子、核能等技术滥用带来的后果。

最后,两人探讨了如何训练出“善良”的AI。Hinton坦言,这如同养育孩子般复杂,需精心筛选数据并展示良好榜样。但姚期智质疑,仅靠技术手段难以确保AI始终善良,因为环境压力可能改变其行为模式。Hinton则提出递归优化方案,即用初步善良的AI设计更善良的版本,以此逐步完善。

此外,他们还谈及量子计算对AI的影响及机器心理学的必要性。姚期智认为,量子计算虽有潜力填补AI的能力空白,但短期内难见成效。而随着AI逐渐展现出类似生命的行为特征,未来或将出现专门研究机器心理的新学科。

总结而言,这场对话强调了AI伦理的重要性以及对人类傲慢心态的反思,呼吁以谦逊态度迎接技术变革。

原文链接
本文链接:https://kx.umi6.com/article/22755.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
Hinton与姚期智对谈:认为人类的意识特殊,那是危险的无稽之谈
2025-07-31 11:06:36
苹果最强芯M4 Max首发!官方定位可开发大模型,新MacBook Pro顶配57099元
2024-10-31 14:48:14
英伟达提出全新 Star Attention:10 倍加速大语言模型推理,登顶 Hugging Face 论文榜
2024-12-05 14:04:18
我国网络安全法修正草案拟完善 AI 伦理规范,加强安全监管
2025-10-23 15:10:09
全球首款!高性能人形机器人跑跳进入万元机时代
2025-10-22 17:48:39
大模型推理学习新范式!ExGRPO框架:从盲目刷题到聪明复盘
2025-10-23 17:10:54
研究发现:强迫AI大量阅读社交媒体垃圾帖 会造成不可逆的脑损伤
2025-10-22 23:54:44
顶会直聘!大厂ICCV现场玩出新模式,还是鹅会玩
2025-10-23 16:08:51
肖远企:目前AI在金融领域的应用仍处于早期阶段 无法取代人的决策
2025-10-23 16:12:32
Meta AI大裁600人,亚历山大王操刀重点砍向LeCun团队
2025-10-23 09:59:56
网络安全法修正草案将二审:拟修法促进人工智能安全与发展
2025-10-23 11:04:07
荣耀推出 AI Connect 平台,发布八大 AI 场景化生态解决方案
2025-10-23 17:12:06
华为正式发布HarmonyOS 6,10月22日开启公测
2025-10-22 18:49:40
24小时热文
更多
扫一扫体验小程序