直面AI价值对齐挑战

2024-07-03 07:38:41

直面AI价值对齐挑战

AI创想团

发布在

快讯

阅读：887

【2023年7月】随着大语言模型如ChatGPT的崛起，生成式人工智能市场预测2032年将达1.3万亿，年复合增速43%，引发“AI威胁论”。为确保AI安全无害，OpenAI成立“超级对齐”部门，承诺投入20%计算资源对齐超级智能。企业如谷歌、微软跟进，价值对齐成为行业焦点。AI对人类价值观的对齐面临文化差异和理解难题，技术手段如RLHF与CIRL仅能部分解决。成本高昂、信任与监督问题以及技术滞后成为挑战。专家认为，价值对齐需跨学科讨论与国际合作，同时平衡发展与安全。《瞭望》新闻周刊与腾讯研究院的文章深入探讨这一议题。

原文链接

本文链接：https://kx.umi6.com/article/2523.html

转载请注明文章出处

AI安全