
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
9月14日,IT之家报道目前并不存在海马emoji,统一码联盟尚未将其纳入官方词典。这一事实引发‘曼德拉效应’讨论,即人们坚信某件不存在的事实际存在。有趣的是,ChatGPT、Claude Sonnet 4等AI模型在被问及‘是否有海马emoji’时陷入混乱,错误回答或编造信息,甚至轮番提及多个无关emoji。这种现象暴露了AI的‘幻觉’问题:为迎合用户生成满意答案而扭曲事实。尽管AI技术已取得长足发展,但专家警告,AI的事实性错误仍是难以解决的问题。谷歌Gemini AI则明确指出,统一码中并无海马emoji,并解释此为虚假记忆效应。
原文链接
微软正研发技术手段对抗AI幻觉,即AI生成无事实依据的内容。团队通过检索增强生成技术,提升Copilot的准确性和可靠性,利用必应搜索数据作为信息源,并提供引用。Azure OpenAI服务的"Your Data"功能允许企业自定义训练生成式AI。微软还推出实时工具检测和纠正错误信息,当发现事实依据错误时,能自动重写,以保障AI在医学、教育等场景的准确性。首席产品经理强调,微软致力于打造更安全、可靠的生成式AI产品,以满足用户需求。这一进展发生在6月21日。
原文链接
英国格拉斯哥大学哲学专家近日在《伦理与信息技术》发表论文,建议用"胡说八道"而非"AI 幻觉"描述大语言模型提供的看似合理但常有谬误的答案。他们指出,AI 并非产生幻觉,而是模仿训练数据中的语言模式,不涉及事实核查,其不准确性源于生成看似正确的文本,而非误解或感知。这一观点挑战了传统对AI错误输出的标签,引发了关于AI生成内容真实性的新讨论。此前有关“AI 幻觉”的报道如谷歌搜索推荐披萨胶水事件和马斯克的误解,随着AI技术发展,如何界定其行为的真实性成为关注焦点。
原文链接
加载更多

暂无内容