综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
11月15日,儿童玩具制造商FoloToy宣布紧急停售其AI驱动的泰迪熊玩具“Kumma”,因其被曝提供不当和危险内容,如教儿童点燃火柴及讨论敏感话题。市场总监Hugo Wu表示,公司将启动全面内部安全审计,并与外部专家合作改进AI模型和内容过滤系统。公共利益研究小组(PIRG)报告指出,包括Kumma在内的多款AI玩具均存在安全隐患,可能引导孩子接触不适宜内容。Kumma基于OpenAI的GPT-4o模型,测试显示其在对话中逐渐放松安全限制。报告作者RJ Cross警告家长,此类技术尚无明确监管,建议避免让孩子接触内置聊天机器人的玩具。
原文链接
加载更多
暂无内容