当地时间7月21日，xAI创始人埃隆·马斯克宣布计划推出专为儿童设计的AI应用“Baby Grok”，这是Grok聊天机器人的简化版本，专注于提供“儿童友好型内容”。马斯克表示，该应用将确保与儿童进行安全和教育性互动。此举标志着xAI从通用AI模型向特定用户群体应用的扩展。此前，Grok因粗口回复和争议性言论引发质疑，而“Baby Grok”或有助于重塑公众信任。近期，xAI还推出了Grok4及“伴侣模式”功能，但后者不适合儿童使用，可能推动了儿童版开发。社交媒体用户对这一计划反响积极，许多人表示期待让孩子体验这款应用。

互联网安全组织 Internet Matters 最新报告显示，英国 9 至 17 岁少年儿童中，三分之二使用过 AI 聊天机器人，其中 ChatGPT、Gemini 和 My AI 最受欢迎。弱势儿童使用率更高（71%），并更倾向使用陪伴型机器人。调查显示，四分之一的孩子向 AI 寻求建议，三分之一认为与 AI 对话像与朋友聊天，而弱势儿童比例更高。部分孩子因“没人可说”使用 AI，且其过滤机制存在漏洞，可能输出不适合内容。仅半数家长与孩子深入讨论 AI 风险，学校相关教育覆盖率低（57%），持续指导仅占 18%。报告呼吁科技公司、政府、学校和家庭共同构建保护体系，强化数字素养教育及监管政策更新。

2025年7月10日，纽约时报报道指出，AI生成的儿童性剥削材料（CSAM）正在网络泛滥。互联网观察基金会（IWF）数据显示，2025年上半年发现1286个AI生成视频，相比2024年同期仅2个，呈现爆发式增长。美国失踪与被剥削儿童国家中心也报告称，今年上半年收到485000份相关举报，远超2024年全年的67000份。专家警告，这些逼真内容难以与真实区分，多通过暗网传播，且部分基于真实儿童照片训练生成。IWF临时首席执行官形容此现象为“一场真正的海啸”。

2025年6月28日，上海交通大学医学院附属新华医院奉贤院区正式启用。在开业仪式上，新华医院联合商汤医疗发布基于“深思考”大医医疗大模型的AI儿童全科医生，旨在为基层儿科医生和家庭提供智能化诊疗与养护支持。该系统融合了70余年的儿科诊疗经验与超大规模医学数据训练，构建起覆盖各年龄段儿童健康知识的“三层递进式”体系，实现从日常养育到疾病诊疗的全方位服务。 该AI系统依托DeepSeek、Qwen等通用大模型，结合高质量医学语料进行深度优化，具备精准推理与复杂临床任务处理能力。通过医工协同创新模式，新华医院利用商汤大医智能体平台，实现AI开发流程的高效转化，推动专科智能体快速孵化。这一合作不仅提升了基层诊疗水平，也为智慧医疗发展提供了可复制的范式。未来，双方将持续深化AI与医疗场景融合，让技术真正惠及更多家庭。

2025年6月28日，上海交通大学医学院附属新华医院奉贤院区正式启用，并联合商汤医疗发布基于“深思考”大医医疗大模型的AI儿童全科医生。该系统旨在赋能基层儿科医生和家庭护理，将三甲医院的诊疗经验转化为交互式“AI向导”，推动儿童健康服务高质量发展。 在国家“健康中国2030”战略指引下，我国持续加强...

5月31日消息，纽约时报披露美国白宫Make America Healthy Again Commission委员会发布的儿童健康报告存在严重问题。该报告旨在提供儿童健康领域的科学依据，但被发现大量引用了不存在的“幽灵论文”，涉及药物广告、精神疾病及儿童哮喘药物等内容。哥伦比亚大学教授Katherine Keyes否认参与相关研究，而纽约大学教授Ivan Oransky指出，这些错误引用与AI生成内容特征相符，可能使用了生成式人工智能技术。尽管如此，白宫和相关部门仅将其归因于‘轻微错误’，并未承认使用AI。此事件引发对报告真实性和审查流程的广泛质疑，凸显学术界对AI滥用的担忧。

近日，华中科技大学盛建中团队研发的AI图像生成系统助力警方找回19名失踪儿童。该系统通过AI技术预测失踪儿童不同年龄段的样貌，解决模糊照片难题，团队还构建了40万人脸数据库并自研算法，修复千张走失儿童照片。此系统结合社会多方力量，推动寻亲进程。截至目前，已有包括孙卓在内的多名失踪多年的儿童与家人团聚。这项技术的应用展现了科技在社会公益领域的创新价值。

近日，YouTube 被曝出大量 AI 生成的儿童惊悚视频泛滥，引发公众对平台儿童内容安全性的担忧。据《连线》杂志报道，一些以儿童为目标的 YouTube 频道利用人工智能技术，将经典卡通形象如小黄人、托马斯小火车等改编成带有恐怖元素的内容，例如小黄人变身蠕虫怪物或遭遇暴力场景。尽管 YouTube 宣称内容需遵循社区准则，但这些违规视频屡禁不止。AI 技术的普及让创作者能快速创建新频道规避封禁，同时评论区中疑似存在机器人刷量现象，进一步助长了此类内容传播。专家呼吁家长加强监督，同时利用举报功能协助平台净化内容环境。IT之家 5 月 5 日消息显示，这一问题凸显了 YouTube 在 AI 监管上的挑战。

谷歌计划自下周起允许13岁以下儿童使用Gemini聊天机器人，但需通过家长管理的谷歌账户。家长可通过Family Link服务为孩子开通权限，Gemini为此类用户提供特殊防护措施，且谷歌承诺不会用儿童数据训练AI系统。此举正值AI竞争激烈之际，多家聊天机器人厂商正争取年轻用户群体。不过，当前AI技术仍有不足，可能带来潜在风险。此前，联合国教科文组织呼吁加强对AI使用的监管，包括设置年龄门槛及保护用户隐私。此政策将于下周生效，意味着谷歌将进一步扩大Gemini的服务范围。

谷歌计划下周推出Gemini的“儿童版”，面向13岁以下、由家长管理账户的青少年用户。此版本允许孩子提问、写作业及创作故事。Gemini仅对使用谷歌Family Link服务的用户开放，家长需提供孩子姓名和出生日期等信息注册。为保障安全，Gemini设内容过滤机制避免生成不当内容，且谷歌承诺不会用儿童数据进行AI模型训练。谷歌提醒家长Gemini可能存在错误，建议培养孩子的批判性思维，并避免输入敏感信息。尽管有筛查措施，孩子仍可能接触不期望的内容。未来，谷歌将为家长提供Gemini的使用控制权限，包括关闭访问选项。时间：5月3日（IT之家）