1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

近期,学术界对人工智能(AI)的“涌现能力”引发的担忧有所讨论。一些人担心,AI大模型具备的超出预期的技能,如操纵、欺骗人类、网络攻击以及自动化生物研究等,可能对人类生存构成威胁。然而,达姆施塔特工业大学和巴斯大学的研究团队通过最新研究否定了这一观点。

该研究发现,尽管大语言模型(LLM)如GPT展现出令人瞩目的技能,但它们实际上并未独立学习新技能,这表明它们对人类生存的威胁有限。研究指出,“涌现能力”背后的真相可能比科幻电影更为戏剧性,许多所谓的“涌现能力”实际上是AI模型在面对不熟悉任务时,基于已有数据和经验的“即兴表演”。

通过实验分析,研究团队发现,GPT等LLM在零样本(zero-shot)情况下,无法展现真正的“涌现能力”,反而表现平平。这一发现有助于理解AI大模型的实际能力和局限性,为未来模型优化提供新方向。

研究进一步揭示,AI大模型的“涌现能力”主要源自上下文学习和指令微调,而非自主发展。通过指令微调,模型能够有效获取上下文中的能力,而非产生全新的推理能力。实验显示,无论是模型规模的增加还是训练数据的丰富,指令微调模型在零样本情况下的表现与非指令微调模型相似,这表明指令微调与隐式上下文学习之间有紧密联系。

综上所述,尽管AI大模型展现出超凡能力,但研究结果表明这些能力并不构成对人类生存的实质性威胁。AI技术的发展正在逐步朝着更加安全可控的方向前进,未来研究将继续探索如何优化模型训练和数据选择,提高安全性,确保AI技术的健康发展。

原文链接
本文链接:https://kx.umi6.com/article/5159.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
打脸“AI灭绝伦”,研究反驳:大模型涌现能力不会威胁人类生存
2024-08-19 11:33:02
躺不平的企业微信
2025-09-06 10:32:35
AI撬动中国经济新范式
2025-09-04 21:07:55
估值翻倍用时约 15 个月:法 AI 企业 Mistral 新融资轮中估值达 120 亿欧元
2025-09-05 12:18:29
GPT-4o 见AV 女优的次数比“您好”还多2.6倍,AI 正在被中文互联网疯狂污染
2025-09-06 12:37:21
OpenAI的00后“叛徒”正在碾压华尔街“老江湖”
2025-09-06 16:36:53
人形机器人学会用洗碗机,Figure 放出最新演示
2025-09-04 22:09:37
支持百万卡扩展,中科曙光发布国内首个开放架构 AI 超集群系统
2025-09-05 21:25:03
AI时代的平权假象
2025-09-05 08:14:05
人形机器人终于学会洗碗了
2025-09-04 18:04:49
打造“专属对话空间”:OpenAI 向免费用户开放 ChatGPT Projects
2025-09-04 17:04:18
美团将上线AI搜索功能:基于用户行为与需求进行智能匹配
2025-09-05 19:24:24
对话阿里巴巴国际站张阔:几分钟完成几周的工作,AI如何改写跨境贸易
2025-09-06 08:32:00
24小时热文
更多
扫一扫体验小程序