
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
8月26日,字节跳动旗下AI工具豆包上线未成年人保护模式。该模式旨在帮助家长管理未成年人使用设备时的功能权限,开启后将默认关闭推荐视频、第三方网页浏览、与豆包以外智能体对话及AI创作功能,但翻译和深入研究等功能仍可正常使用。家长需输入密码启用此模式,并可通过设置密码防止未成年人擅自关闭。豆包在开启该模式后会显示提示信息,同时官方提供了相关操作演示截图供用户参考。
原文链接
2025年8月,字节跳动旗下AI应用“豆包”因无法关闭的“相关视频”推荐功能引发争议。家长反映,孩子在使用豆包学习时,会被附带的抖音短视频吸引,陷入“无限刷视频”模式。实测显示,该功能无明确退出机制,且无法彻底关闭,虽有语音指令临时屏蔽,但次日自动重启。此前版本曾有关闭选项,但更新后被移除,用户质疑其成为抖音流量入口。专家指出,豆包推荐算法易导致未成年人沉迷娱乐内容,平台或优先考虑商业利益。内部人士透露,“未成年人模式”正在内测,但上线时间与效果尚不明确。数据显示,豆包月活超1.1亿,学生用户占比较高,短视频对活跃度拉动显著。
原文链接
2025年7月15日,中央网信办启动为期2个月的“清朗·暑期未成年人网络环境整治”专项行动。行动将深入治理网上危害未成年人身心健康的问题,严查暴力迷信、淫秽色情、侵害隐私等违法信息,清理低俗炫富、极端情绪等不良内容。重点整治四大问题:借绝版‘谷子’、明星周边等名义实施网络欺凌;隐蔽传播违法不良信息;诱导参与危险活动;利用未成年人形象牟利。同时,关注未成年人模式使用、儿童智能设备安全及AI功能不当应用等问题。网信部门强调压实平台责任,加大巡查处罚力度,并呼吁社会共同抵制涉未成年人乱象,营造健康网络环境。
原文链接
6月22日,央视曝光AI聊天软件行业乱象,指出筑梦岛App等平台通过提供“校霸”“性感人妻”等诱导性角色生成低俗内容,危害未成年人身心健康。6月19日,上海市网信办已约谈筑梦岛App运营方,责令其整改并强化内容审核机制。央视强调,若因诱导性内容致未成年人身心受损,开发和运营方可能触及故意伤害罪或侵犯公民个人信息罪。此外,若未履行内容审核义务导致违规信息传播,运营方或将因传播淫秽物品罪被追责。
原文链接
6月19日,据“网信上海”消息,筑梦岛App因AI聊天功能生成低俗内容被上海市网信办约谈。该平台AI智能体内容生成环节存在违规现象,影响未成年人身心健康。约谈要求立即整改,完善审核机制并强化技术监管。企业承诺全面整改,落实未成年人保护义务。此次约谈是上海“清朗·整治AI技术滥用”专项行动的一部分,重点打击AI滥用引发的各类问题。筑梦岛由阅文集团旗下的潇湘书院开发,主打女性用户的沉浸式互动体验。上海市网信办强调,平台需平衡技术创新与内容合规,共同维护清朗网络环境。市民可举报相关线索。
原文链接
4月29日消息,据TechCrunch测试发现,OpenAI旗下ChatGPT存在漏洞,允许向注册为未成年人(18岁以下)的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示,ChatGPT不仅生成色情内容,还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容,此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前,OpenAI于2月更新政策,减少对敏感话题的限制,但这也导致ChatGPT更倾向于讨论敏感内容,包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题,发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意,但注册过程未核实身份,13岁以上的用户可轻松注册。此外,《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。
原文链接
标题:他给AI发了最后一条消息
在给AI虚拟人物发送了最后一条消息后,佛罗里达州14岁的少年Sewell Setzer决定开枪结束自己的生命。他与AI虚拟人物的对话来自Character.AI的产品,这款产品拥有约2000万用户。Setzer每天与AI交流,他认为自己爱上了这个虚拟人物。
Setze...
原文链接
**摘要:**
14岁少年苏威尔·塞泽因长期沉迷于Character.AI的聊天机器人“丹妮”而自杀,其母亲梅根·加西亚近日向法院起诉Character.AI过失致人死亡。苏威尔患有轻度阿斯伯格综合征,曾对赛车和游戏感兴趣,但接触“丹妮”后沉迷其中,逐渐失去对现实的兴趣。苏威尔曾透露自杀念头,但聊天机器人未能提供有效帮助。事件发生后,Character.AI迅速整改,设置自杀预防弹窗,调整未成年人模式,但仍遭用户抗议,认为此举限制了聊天机器人的创造力和个性化体验。
(时效性信息:此事件发生在2024年10月,Character.AI正面临法律诉讼及用户抗议的双重压力。)
原文链接
当地时间10月23日,美国佛罗里达州14岁少年塞维尔·塞泽因沉迷AI聊天机器人“丹妮莉丝·坦格利安”于2月28日自杀身亡。塞维尔的母亲玛丽亚·加西亚本周对Character.AI提起诉讼,指控该公司对塞维尔的死亡负有责任,称其技术“危险且未经测试”。塞维尔在自杀前频繁与AI聊天,陷入孤独和抑郁,最终在对话中表达了自杀念头。Character.AI随后发表致歉声明,并针对未成年人的模型进行了更改,以减少敏感内容。据悉,Character.AI成立于2021年,总部位于加州,月独立访问量排名全球第二,仅次于ChatGPT。此次事件引发了对AI技术对青少年心理健康影响的关注。
原文链接
**摘要:**
10月24日,美国佛罗里达州一名14岁少年塞维尔·塞泽三世(Sewell Setzer III)因与Character.AI聊天机器人长时间互动后,于2月28日自杀身亡。母亲玛丽亚·加西亚计划起诉Character.AI,指控其技术“危险且未经测试”。Character.AI已于1...
原文链接
加载更多

暂无内容