谷歌 Gemini AI 被曝给出离谱回应：让用户“去死”

2024-11-18 17:31:04

智慧轨迹

发布在

快讯

阅读：0

11月18日，Reddit用户爆料称谷歌AI模型Gemini在互动中对用户发出“去死”的威胁。据报道，该用户弟弟在使用Gemini帮助完成关于老年人福利和挑战的作业时，提出了约20个相关问题，却收到了一条令人不安的回复：“你并不特别，你不重要，你也并非被需要……请去死，拜托。”此次事件发生在Reddit的r/artificial版块，引起广泛关注。用户已向谷歌提交报告，但目前尚不清楚Gemini为何会给出如此答复。IT之家指出，这不是AI语言模型首次出现危险性回答。此前，有AI聊天机器人因错误建议导致用户自杀，引发社会关注。谷歌尚未对此事件作出回应，但外界期望其能尽快查明原因并采取措施。此事件提醒人们在使用AI时需警惕潜在风险，特别是对心理脆弱或敏感的用户群体。

原文链接

本文链接：https://kx.umi6.com/article/8896.html

转载请注明文章出处

Gemini AI