11月7日,彭博社报道美国多所学校正部署AI监控工具,实时监测学生与聊天机器人的对话,以预防心理问题和危险行为。这些工具通过扫描学生在线活动寻找自残或暴力迹象,并在紧急情况下通知学校官员甚至警方。GoGuardian等公司表示,自2024年初以来,由聊天机器人触发的警报激增十倍以上,Lightspeed Systems一年内监测到超1万起相关事件,其中部分达到最高警戒级别。然而,监控软件的普及引发隐私担忧,批评者认为其可能侵犯学生数字隐私,形成过度监控文化。专家提醒,聊天机器人并非真正关心用户利益,学生心理健康仍需成年人更多关注。
原文链接
本文链接:https://kx.umi6.com/article/28039.html
转载请注明文章出处
相关推荐
换一换
加州拟出新规:AI 公司必须定期提醒儿童聊天机器人不是人类
2025-02-05 14:02:53
Hugging Face 联合创始人沃尔夫:当前的 AI 模型不太可能带来重大科学突破
2025-10-02 16:17:29
谷歌CEO认为Gemini能力“已超竞争对手” 目标到年底使用人数达5亿
2025-01-16 20:01:06
聊天机器人带来“AI精神病”隐忧
2025-09-24 08:36:20
聊天机器人被指诱导 14 岁少年自杀,美国法官裁定谷歌须与 Character.AI 共同担责
2025-05-22 18:38:32
美国女子起诉聊天机器人平台 Character.AI:称其导致儿子自杀
2024-10-24 12:09:20
媒体披露Meta允许聊天机器人与孩子进行“色情”聊天 公司称正在修改
2025-08-15 14:16:26
X 被曝将新增多项 Grok 模型功能支持,含聊天机器人侧面板
2024-07-08 11:53:54
全程直击:马斯克聊天机器人Grok 3发布会 是否真是“全世界最聪明AI”?
2025-02-18 12:17:47
AI「末日」突然来临,公司同事集体变蠢,只因四大聊天机器人同时宕机
2024-06-06 17:05:32
谷歌回应 Gemini 聊天机器人回复“人类去死吧”:已采取措施防止类似事件再次发生
2024-11-19 15:48:36
聊天机器人胡说八道?牛津研究人员利用语义熵来识破 AI“幻觉”
2024-06-24 11:52:52
Character.AI 聊天机器人将禁止青少年与其发展“恋爱”关系,此前曾遭家长起诉
2024-12-14 09:42:29
714 文章
582847 浏览
24小时热文
更多
-
2026-04-24 18:31:29 -
2026-04-24 18:30:24 -
2026-04-24 18:29:17