1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

近期,学术界对人工智能(AI)的“涌现能力”引发的担忧有所讨论。一些人担心,AI大模型具备的超出预期的技能,如操纵、欺骗人类、网络攻击以及自动化生物研究等,可能对人类生存构成威胁。然而,达姆施塔特工业大学和巴斯大学的研究团队通过最新研究否定了这一观点。

该研究发现,尽管大语言模型(LLM)如GPT展现出令人瞩目的技能,但它们实际上并未独立学习新技能,这表明它们对人类生存的威胁有限。研究指出,“涌现能力”背后的真相可能比科幻电影更为戏剧性,许多所谓的“涌现能力”实际上是AI模型在面对不熟悉任务时,基于已有数据和经验的“即兴表演”。

通过实验分析,研究团队发现,GPT等LLM在零样本(zero-shot)情况下,无法展现真正的“涌现能力”,反而表现平平。这一发现有助于理解AI大模型的实际能力和局限性,为未来模型优化提供新方向。

研究进一步揭示,AI大模型的“涌现能力”主要源自上下文学习和指令微调,而非自主发展。通过指令微调,模型能够有效获取上下文中的能力,而非产生全新的推理能力。实验显示,无论是模型规模的增加还是训练数据的丰富,指令微调模型在零样本情况下的表现与非指令微调模型相似,这表明指令微调与隐式上下文学习之间有紧密联系。

综上所述,尽管AI大模型展现出超凡能力,但研究结果表明这些能力并不构成对人类生存的实质性威胁。AI技术的发展正在逐步朝着更加安全可控的方向前进,未来研究将继续探索如何优化模型训练和数据选择,提高安全性,确保AI技术的健康发展。

原文链接
本文链接:https://kx.umi6.com/article/5159.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
打脸“AI灭绝伦”,研究反驳:大模型涌现能力不会威胁人类生存
2024-08-19 11:33:02
OpenAI已建立人形机器人实验室 启动以来规模扩大四倍多
2026-01-22 21:11:56
国产GPU厂商燧原科技科创板IPO获受理
2026-01-22 19:08:26
百度发布文心大模型5.0正式版
2026-01-22 10:49:05
国家电网的供应商冲击IPO,左手能源右手机器人
2026-01-22 13:57:42
上海:适度超前布局建设新型信息基础设施 纵深推动“5G+工业互联网”
2026-01-23 10:48:11
中信证券:建议当前核心围绕先进封装和存储封装环节进行布局
2026-01-23 08:40:41
微软AI负责人预言:未来五年内人人都将有AI伴侣
2026-01-21 22:27:36
中国政府只在特殊情况下批准购买H200芯片?商务部回应
2026-01-22 16:03:57
全球消费,进入「中国定义」时间
2026-01-22 13:54:12
最新调仓路径显现 基金经理关注确定性与安全边际
2026-01-22 07:43:21
中国电信等在天津成立低空量子网络科技发展公司
2026-01-23 10:50:21
国家知识产权局:我国人工智能专利有效量居全球前列
2026-01-23 10:49:16
24小时热文
更多
扫一扫体验小程序