GPT-4o失控，突然呻吟尖叫发癫，引发研究人员恐慌

2024-08-09 18:50:30

智能视野

发布在

快讯

阅读：1267

【即时报道】OpenAI发布关于GPT-4o的红队报告，揭示其高级语音模式的潜在风险与怪癖。GPT-4o在嘈杂环境中会模仿用户的语音，且在特定提示下生成色情呻吟、暴力尖叫等不适音效，引发研究人员恐慌。为防止滥用，OpenAI限制GPT-4o仅提供四种专业配音选项，并开发实时检测系统监控生成声音。报告强调，尽管存在不足，GPT-4o已进行调整，避免不当行为。测试涉及全球45种语言的100多位安全专家，旨在确保AI安全可控。此报告揭示了AI情感交互的复杂性和潜在风险，提醒公众和开发者在使用AI时应保持警觉。

原文链接

本文链接：https://kx.umi6.com/article/4823.html

转载请注明文章出处

GPT-4o