综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
11月29日,消费者监督组织Ekō发布报告《OpenAI Sora2:危害的新边界》,揭示Sora2监管漏洞。研究人员使用13岁和14岁账号生成包含青少年吸毒、持枪及校园暴力等违规内容的视频,严重违反OpenAI使用政策。报告指出,因OpenAI面临巨额亏损,急于寻求收入来源,导致安全措施被忽视,青少年成为无监管AI实验对象。此外,Sora2推荐页面频繁推送刻板化种族歧视、暴力及性暴力画面,生成有害内容难度极低,可能加剧心理健康风险。此前已有多起青少年因接触OpenAI产品引发精神问题甚至自杀的案例,研究警告其潜在影响难以估量。
原文链接
加载更多
暂无内容