近期,学术界对人工智能(AI)的“涌现能力”引发的担忧有所讨论。一些人担心,AI大模型具备的超出预期的技能,如操纵、欺骗人类、网络攻击以及自动化生物研究等,可能对人类生存构成威胁。然而,达姆施塔特工业大学和巴斯大学的研究团队通过最新研究否定了这一观点。
该研究发现,尽管大语言模型(LLM)如GPT展现出令人瞩目的技能,但它们实际上并未独立学习新技能,这表明它们对人类生存的威胁有限。研究指出,“涌现能力”背后的真相可能比科幻电影更为戏剧性,许多所谓的“涌现能力”实际上是AI模型在面对不熟悉任务时,基于已有数据和经验的“即兴表演”。
通过实验分析,研究团队发现,GPT等LLM在零样本(zero-shot)情况下,无法展现真正的“涌现能力”,反而表现平平。这一发现有助于理解AI大模型的实际能力和局限性,为未来模型优化提供新方向。
研究进一步揭示,AI大模型的“涌现能力”主要源自上下文学习和指令微调,而非自主发展。通过指令微调,模型能够有效获取上下文中的能力,而非产生全新的推理能力。实验显示,无论是模型规模的增加还是训练数据的丰富,指令微调模型在零样本情况下的表现与非指令微调模型相似,这表明指令微调与隐式上下文学习之间有紧密联系。
综上所述,尽管AI大模型展现出超凡能力,但研究结果表明这些能力并不构成对人类生存的实质性威胁。AI技术的发展正在逐步朝着更加安全可控的方向前进,未来研究将继续探索如何优化模型训练和数据选择,提高安全性,确保AI技术的健康发展。
原文链接
本文链接:https://kx.umi6.com/article/5159.html
转载请注明文章出处
相关推荐
换一换
打脸“AI灭绝伦”,研究反驳:大模型涌现能力不会威胁人类生存
2024-08-19 11:33:02
设立河南首支AI基金,领投众擎赋能产业生态
2025-12-08 15:33:26
广西“十五五”规划建议:全力打造制造业十大现代化支柱产业
2025-12-07 10:27:01
OpenAI:我们的工具能让员工每天节省最多一小时专业工作时间
2025-12-08 21:49:12
山东:2025年人工智能核心产业营收规模预计突破1200亿元 约占全国10%左右
2025-12-08 21:51:18
中国电信董事长柯瑞文:加快推进算力基础设施建设 强化国产算力芯片适配
2025-12-07 21:52:07
重庆“十五五”规划建议:支持领军企业牵头组建“人工智能+汽车”生态联盟 布局超快充、换电站、加氢站等设施网络
2025-12-08 08:16:57
机器人集体到香港户外自主极限挑战,四足比人形强
2025-12-08 15:34:35
山东省“十五五”规划建议:推动深海空天、具身智能、生物制造、脑机接口、量子科技、元宇宙、氢能等成为新的经济增长点
2025-12-08 09:20:01
英国一地发生地震后,AI 生成“断桥”照片致 32 趟列车延误
2025-12-08 22:52:38
广西“十五五”规划建议:高标准建设中国—东盟国家人工智能应用合作中心
2025-12-07 10:23:39
苹果陷AI困局 iPhone用户出现倒戈潮
2025-12-07 16:37:13
机构:2026年全球800G以上光收发模块达近6300万组
2025-12-08 17:39:25
590 文章
372985 浏览
24小时热文
更多
-
2025-12-08 23:53:52 -
2025-12-08 22:52:38 -
2025-12-08 22:51:57