1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

近期,学术界对人工智能(AI)的“涌现能力”引发的担忧有所讨论。一些人担心,AI大模型具备的超出预期的技能,如操纵、欺骗人类、网络攻击以及自动化生物研究等,可能对人类生存构成威胁。然而,达姆施塔特工业大学和巴斯大学的研究团队通过最新研究否定了这一观点。

该研究发现,尽管大语言模型(LLM)如GPT展现出令人瞩目的技能,但它们实际上并未独立学习新技能,这表明它们对人类生存的威胁有限。研究指出,“涌现能力”背后的真相可能比科幻电影更为戏剧性,许多所谓的“涌现能力”实际上是AI模型在面对不熟悉任务时,基于已有数据和经验的“即兴表演”。

通过实验分析,研究团队发现,GPT等LLM在零样本(zero-shot)情况下,无法展现真正的“涌现能力”,反而表现平平。这一发现有助于理解AI大模型的实际能力和局限性,为未来模型优化提供新方向。

研究进一步揭示,AI大模型的“涌现能力”主要源自上下文学习和指令微调,而非自主发展。通过指令微调,模型能够有效获取上下文中的能力,而非产生全新的推理能力。实验显示,无论是模型规模的增加还是训练数据的丰富,指令微调模型在零样本情况下的表现与非指令微调模型相似,这表明指令微调与隐式上下文学习之间有紧密联系。

综上所述,尽管AI大模型展现出超凡能力,但研究结果表明这些能力并不构成对人类生存的实质性威胁。AI技术的发展正在逐步朝着更加安全可控的方向前进,未来研究将继续探索如何优化模型训练和数据选择,提高安全性,确保AI技术的健康发展。

原文链接
本文链接:https://kx.umi6.com/article/5159.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
打脸“AI灭绝伦”,研究反驳:大模型涌现能力不会威胁人类生存
2024-08-19 11:33:02
清华公布毕业生去向:出国比例仅8.5%,华为字节是最大赢家
2026-03-08 15:07:37
人力资源社会保障部部长:正研究措施发挥人工智能创造新岗位和赋能传统岗位作用
2026-03-07 11:27:41
文远知行与吉利远程深化战略合作,2026年交付2000台前装量产Robotaxi GXR
2026-03-09 13:44:22
江苏有线等成立科技公司 经营范围含集成电路芯片及产品制造等业务
2026-03-10 10:02:35
英伟达投资的数据中心公司Nscale完成20亿美元融资 估值达146亿美元
2026-03-09 18:02:36
超智算智能算力中心揭牌暨AI算力设备点亮仪式成功举行
2026-03-06 20:29:36
脉脉:AI岗位量暴涨12倍 平均月薪超6万元领跑春招市场
2026-03-09 19:05:07
高中生AI创业,现在只招龙虾员工:每月成本2800
2026-03-08 18:28:34
龙虾上桌!上市公司抢着养 OpenClaw引爆科技圈
2026-03-09 18:01:30
AI短剧《霍去病》走红!导演澄清制作细节:3000元仅算力成本
2026-03-08 17:25:18
2026年,AI初创全球化的「变与不变」|沙龙招募
2026-03-06 19:27:03
中东一场无人机轰炸 把全球智力干倒退了?
2026-03-08 07:42:40
24小时热文
更多
扫一扫体验小程序