亚马逊云科技(AWS)在拉斯维加斯举办的re:Invent 2024大会上推出了“自动推理检查”工具,旨在解决AI模型产生的幻觉问题。该工具通过交叉验证客户提供的信息来确保模型响应的准确性。尽管AWS宣称这是“第一个”且“唯一”的此类工具,但实际上微软和谷歌也提供了类似的功能。微软的“校正”功能和谷歌Vertex AI平台的工具均可标记可能的事实错误。AWS的“自动推理检查”通过Bedrock模型托管服务中的Guardrails工具实现,能够验证模型生成的答案,并在出现幻觉时提供正确的答案供客户参考。普华永道已经开始使用这一工具为其客户提供AI助手服务。不过,有专家认为消除AI幻觉如同从水中去除氢一样困难,因为AI本质上是基于统计的系统,无法真正理解知识。尽管如此,AWS声称其工具使用了“逻辑准确”和“可验证的推理”,但未提供具体数据证明其有效性。
原文链接
本文链接:https://kx.umi6.com/article/9648.html
转载请注明文章出处
相关推荐
.png)
换一换
ChatGPT,救了我的命
2025-06-28 14:20:59
OpenAI 语音转写工具 Whisper 被曝存在重大缺陷:会凭空生成大段虚假内容
2024-10-28 11:17:59
如何应对 AI“一本正经的胡说八道”?研究人员希望它会承认“我不知道”
2025-02-13 07:52:59
468 文章
68784 浏览
24小时热文
更多

-
2025-07-19 22:57:32
-
2025-07-19 21:58:20
-
2025-07-19 21:57:13