微软副总裁 Vik Singh：AI 聊天机器人需“学会求助”而非“制造幻觉”

2024-09-02 10:44:10

WisdomTrail

发布在

快讯

阅读：407

微软副总裁Vik Singh于9月1日接受法新社采访时表示，当前生成式AI系统，如ChatGPT和Gemini，虽能按需生成各类内容，给用户以无所不知的错觉，但其核心缺陷在于，当无法确定答案准确性时，未能主动请求帮助，而是继续提供可能产生误导的“幻觉”答案。Vik Singh强调，真正的智能应体现在AI系统面对不确定性时，能勇于承认并寻求帮助。此言论正值云端软件巨头Salesforce CEO Marc Benioff因担忧微软Copilot误导性表现而表达不满之际。随着人工智能的迅猛发展，聊天机器人等应用日益普及，但其提供的信息准确性仍存在挑战，尤其在训练数据不准确、泛化能力不足及数据采集过程中可能出现的副作用等因素影响下，AI系统易产生误导性答案，对用户构成潜在风险。

原文链接

本文链接：https://kx.umi6.com/article/5734.html

转载请注明文章出处

AI 聊天机器人