
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
亚马逊云科技(AWS)在拉斯维加斯举办的re:Invent 2024大会上推出了“自动推理检查”工具,旨在解决AI模型产生的幻觉问题。该工具通过交叉验证客户提供的信息来确保模型响应的准确性。尽管AWS宣称这是“第一个”且“唯一”的此类工具,但实际上微软和谷歌也提供了类似的功能。微软的“校正”功能和谷歌Vertex AI平台的工具均可标记可能的事实错误。AWS的“自动推理检查”通过Bedrock模型托管服务中的Guardrails工具实现,能够验证模型生成的答案,并在出现幻觉时提供正确的答案供客户参考。普华永道已经开始使用这一工具为其客户提供AI助手服务。不过,有专家认为消除AI幻觉如同从水中去除氢一样困难,因为AI本质上是基于统计的系统,无法真正理解知识。尽管如此,AWS声称其工具使用了“逻辑准确”和“可验证的推理”,但未提供具体数据证明其有效性。
原文链接
加载更多

暂无内容