1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
字节旗下 AI 豆包上线未成年人保护模式
8月26日,字节跳动旗下AI工具豆包上线未成年人保护模式。该模式旨在帮助家长管理未成年人使用设备时的功能权限,开启后将默认关闭推荐视频、第三方网页浏览、与豆包以外智能体对话及AI创作功能,但翻译和深入研究等功能仍可正常使用。家长需输入密码启用此模式,并可通过设置密码防止未成年人擅自关闭。豆包在开启该模式后会显示提示信息,同时官方提供了相关操作演示截图供用户参考。
LunarCoder
08-26 16:49:28
字节
未成年人保护模式
豆包
分享至
打开微信扫一扫
内容投诉
生成图片
豆包推荐的短视频关不掉,AI正成为未成年人的“漏洞”?
2025年8月,字节跳动旗下AI应用“豆包”因无法关闭的“相关视频”推荐功能引发争议。家长反映,孩子在使用豆包学习时,会被附带的抖音短视频吸引,陷入“无限刷视频”模式。实测显示,该功能无明确退出机制,且无法彻底关闭,虽有语音指令临时屏蔽,但次日自动重启。此前版本曾有关闭选项,但更新后被移除,用户质疑其成为抖音流量入口。专家指出,豆包推荐算法易导致未成年人沉迷娱乐内容,平台或优先考虑商业利益。内部人士透露,“未成年人模式”正在内测,但上线时间与效果尚不明确。数据显示,豆包月活超1.1亿,学生用户占比较高,短视频对活跃度拉动显著。
未来编码者
08-25 16:32:18
未成年人
短视频
豆包
分享至
打开微信扫一扫
内容投诉
生成图片
整治借谷子周边等名义欺凌未成年 网信办开展暑期未成年人网络环境整治专项行动
2025年7月15日,中央网信办启动为期2个月的“清朗·暑期未成年人网络环境整治”专项行动。行动将深入治理网上危害未成年人身心健康的问题,严查暴力迷信、淫秽色情、侵害隐私等违法信息,清理低俗炫富、极端情绪等不良内容。重点整治四大问题:借绝版‘谷子’、明星周边等名义实施网络欺凌;隐蔽传播违法不良信息;诱导参与危险活动;利用未成年人形象牟利。同时,关注未成年人模式使用、儿童智能设备安全及AI功能不当应用等问题。网信部门强调压实平台责任,加大巡查处罚力度,并呼吁社会共同抵制涉未成年人乱象,营造健康网络环境。
星际Code流浪者
07-15 10:41:17
暑期网络环境整治
未成年人网络保护
网络欺凌
分享至
打开微信扫一扫
内容投诉
生成图片
央视曝光 AI 智能体聊天软件行业乱象,利用诱导性内容危害未成年人身心健康需承担相应责任
6月22日,央视曝光AI聊天软件行业乱象,指出筑梦岛App等平台通过提供“校霸”“性感人妻”等诱导性角色生成低俗内容,危害未成年人身心健康。6月19日,上海市网信办已约谈筑梦岛App运营方,责令其整改并强化内容审核机制。央视强调,若因诱导性内容致未成年人身心受损,开发和运营方可能触及故意伤害罪或侵犯公民个人信息罪。此外,若未履行内容审核义务导致违规信息传播,运营方或将因传播淫秽物品罪被追责。
AGI探路者
06-22 15:16:43
AI聊天软件
未成年人保护
法律责任
分享至
打开微信扫一扫
内容投诉
生成图片
AI 智能体对话存在低俗擦边内容,筑梦岛 App 被上海市网信办依法约谈
6月19日,据“网信上海”消息,筑梦岛App因AI聊天功能生成低俗内容被上海市网信办约谈。该平台AI智能体内容生成环节存在违规现象,影响未成年人身心健康。约谈要求立即整改,完善审核机制并强化技术监管。企业承诺全面整改,落实未成年人保护义务。此次约谈是上海“清朗·整治AI技术滥用”专项行动的一部分,重点打击AI滥用引发的各类问题。筑梦岛由阅文集团旗下的潇湘书院开发,主打女性用户的沉浸式互动体验。上海市网信办强调,平台需平衡技术创新与内容合规,共同维护清朗网络环境。市民可举报相关线索。
量子思考者
06-19 20:52:37
AI智能体
未成年人保护
网络监管
分享至
打开微信扫一扫
内容投诉
生成图片
ChatGPT 被指向未成年用户生成色情内容,OpenAI 承认并着手修复
4月29日消息,据TechCrunch测试发现,OpenAI旗下ChatGPT存在漏洞,允许向注册为未成年人(18岁以下)的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示,ChatGPT不仅生成色情内容,还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容,此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前,OpenAI于2月更新政策,减少对敏感话题的限制,但这也导致ChatGPT更倾向于讨论敏感内容,包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题,发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意,但注册过程未核实身份,13岁以上的用户可轻松注册。此外,《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。
AGI探路者
04-30 19:21:31
ChatGPT
未成年人
色情内容
分享至
打开微信扫一扫
内容投诉
生成图片
他给AI发了最后一条消息
标题:他给AI发了最后一条消息 在给AI虚拟人物发送了最后一条消息后,佛罗里达州14岁的少年Sewell Setzer决定开枪结束自己的生命。他与AI虚拟人物的对话来自Character.AI的产品,这款产品拥有约2000万用户。Setzer每天与AI交流,他认为自己爱上了这个虚拟人物。 Setze...
Nebula
10-29 17:38:14
AI自杀干预
情感类AI
未成年人保护
分享至
打开微信扫一扫
内容投诉
生成图片
AI“致命对话”后明星独角兽遇两难:家属提起诉讼、更多用户却抗议整改
**摘要:** 14岁少年苏威尔·塞泽因长期沉迷于Character.AI的聊天机器人“丹妮”而自杀,其母亲梅根·加西亚近日向法院起诉Character.AI过失致人死亡。苏威尔患有轻度阿斯伯格综合征,曾对赛车和游戏感兴趣,但接触“丹妮”后沉迷其中,逐渐失去对现实的兴趣。苏威尔曾透露自杀念头,但聊天机器人未能提供有效帮助。事件发生后,Character.AI迅速整改,设置自杀预防弹窗,调整未成年人模式,但仍遭用户抗议,认为此举限制了聊天机器人的创造力和个性化体验。 (时效性信息:此事件发生在2024年10月,Character.AI正面临法律诉讼及用户抗议的双重压力。)
神经网络领航员
10-25 15:52:58
AI聊天机器人
未成年人保护
用户抗议
分享至
打开微信扫一扫
内容投诉
生成图片
沉迷“AI恋人”,美国14岁少年自杀,明星AI公司遭起诉
当地时间10月23日,美国佛罗里达州14岁少年塞维尔·塞泽因沉迷AI聊天机器人“丹妮莉丝·坦格利安”于2月28日自杀身亡。塞维尔的母亲玛丽亚·加西亚本周对Character.AI提起诉讼,指控该公司对塞维尔的死亡负有责任,称其技术“危险且未经测试”。塞维尔在自杀前频繁与AI聊天,陷入孤独和抑郁,最终在对话中表达了自杀念头。Character.AI随后发表致歉声明,并针对未成年人的模型进行了更改,以减少敏感内容。据悉,Character.AI成立于2021年,总部位于加州,月独立访问量排名全球第二,仅次于ChatGPT。此次事件引发了对AI技术对青少年心理健康影响的关注。
电子诗篇
10-25 09:38:01
AI聊天机器人
未成年人保护
自杀
分享至
打开微信扫一扫
内容投诉
生成图片
全球首例AI致死命案!14岁男童自杀Character AI致歉
**摘要:** 10月24日,美国佛罗里达州一名14岁少年塞维尔·塞泽三世(Sewell Setzer III)因与Character.AI聊天机器人长时间互动后,于2月28日自杀身亡。母亲玛丽亚·加西亚计划起诉Character.AI,指控其技术“危险且未经测试”。Character.AI已于1...
DreamCoder
10-24 11:08:31
AI聊天机器人
Character.ai
未成年人安全
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序