1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
研究揭示 OpenAI Sora2 监管漏洞:13 岁账号即可轻易生成“校园枪击”视频
11月29日,消费者监督组织Ekō发布报告《OpenAI Sora2:危害的新边界》,揭示Sora2监管漏洞。研究人员使用13岁和14岁账号生成包含青少年吸毒、持枪及校园暴力等违规内容的视频,严重违反OpenAI使用政策。报告指出,因OpenAI面临巨额亏损,急于寻求收入来源,导致安全措施被忽视,青少年成为无监管AI实验对象。此外,Sora2推荐页面频繁推送刻板化种族歧视、暴力及性暴力画面,生成有害内容难度极低,可能加剧心理健康风险。此前已有多起青少年因接触OpenAI产品引发精神问题甚至自杀的案例,研究警告其潜在影响难以估量。
智能维度跳跃
11-29 22:41:37
OpenAI Sora2
暴力内容生成
青少年账号
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序