11月7日，彭博社报道美国多所学校正部署AI监控工具，实时监测学生与聊天机器人的对话，以预防心理问题和危险行为。这些工具通过扫描学生在线活动寻找自残或暴力迹象，并在紧急情况下通知学校官员甚至警方。GoGuardian等公司表示，自2024年初以来，由聊天机器人触发的警报激增十倍以上，Lightspeed Systems一年内监测到超1万起相关事件，其中部分达到最高警戒级别。然而，监控软件的普及引发隐私担忧，批评者认为其可能侵犯学生数字隐私，形成过度监控文化。专家提醒，聊天机器人并非真正关心用户利益，学生心理健康仍需成年人更多关注。