标题:警惕AI聊天机器人对儿童的“共情鸿沟”
AI聊天机器人如亚马逊Alexa和My AI,曾因误导儿童进行危险行为或给出不恰当建议,引发关注。大语言模型虽能模仿人类对话,但缺乏真正理解情感和语境的能力,这就是所谓的“共情鸿沟”。儿童因其发育特点,更易将AI视作朋友,这可能导致误解和风险。
研究人员呼吁开发者和政策制定者重视儿童需求,设计更安全的AI。他们提出,应建立安全过滤和验证机制,限制不适合的内容,以及情感分析功能,及时识别和引导儿童寻求人类帮助。同时,强调透明度,明确告知孩子AI的非人类属性,避免误以为是真人。
短期对策包括教育者监督语言模式、提供年龄适宜的控制,以及建立反馈机制。长期看,教育政策需考虑AI在教学中的作用,制定相应的法规和设计标准,确保儿童权益并鼓励人类陪伴。AI开发者应采纳以儿童为中心的设计方法,学校和家庭需共同参与,确保AI在教育中的安全使用。
原文链接
本文链接:https://kx.umi6.com/article/3178.html
转载请注明文章出处
相关推荐
.png)
换一换
谷歌下周起允许 13 岁以下儿童使用 Gemini,需家长管理账户
2025-05-04 08:59:16
Meta的人工智能聊天机器人将在巴西、英国等新市场推出
2024-10-10 00:19:08
警惕AI大模型的“共情鸿沟”,剑桥团队呼吁:我们需要“儿童安全人工智能”框架
2024-07-11 15:47:39
法国 AI 聊天机器人上线两天就下架:简单数学题答错,还让用户吃“牛蛋”
2025-01-28 18:52:59
谷歌拟推出儿童版 Gemini:能辅导学习、能编故事、能过滤不当内容
2025-05-03 17:39:15
Meta推迟在欧洲推出人工智能聊天机器人 因监管机构阻挠
2024-06-15 06:28:09
警惕AI大模型的“共情鸿沟”
2024-07-11 15:57:47
具身智能模型学习方式与儿童相似
2025-02-05 09:03:52
加州拟出新规:AI 公司必须定期提醒儿童聊天机器人不是人类
2025-02-05 14:02:53
苹果几个月前已拒绝与Meat在人工智能领域进行合作的提议
2024-06-25 06:09:33
你眼中的新产品,竟都是科技缝合怪?
2025-07-23 13:49:26
工业和信息化部召开“推进信息化和工业化深度融合”重点建议提案办理座谈会
2025-07-23 09:47:58
腾讯云副总裁胡利明:金融IT迎“基础设施重构”与“智能应用爆发”双浪潮
2025-07-22 12:31:28
418 文章
69351 浏览
24小时热文
更多

-
2025-07-23 15:57:48
-
2025-07-23 15:57:30
-
2025-07-23 15:56:44