互联网安全组织 Internet Matters 最新报告显示，英国 9 至 17 岁少年儿童中，三分之二使用过 AI 聊天机器人，其中 ChatGPT、Gemini 和 My AI 最受欢迎。弱势儿童使用率更高（71%），并更倾向使用陪伴型机器人。调查显示，四分之一的孩子向 AI 寻求建议，三分之一认为与 AI 对话像与朋友聊天，而弱势儿童比例更高。部分孩子因“没人可说”使用 AI，且其过滤机制存在漏洞，可能输出不适合内容。仅半数家长与孩子深入讨论 AI 风险，学校相关教育覆盖率低（57%），持续指导仅占 18%。报告呼吁科技公司、政府、学校和家庭共同构建保护体系，强化数字素养教育及监管政策更新。

7月13日，马斯克旗下xAI公司为其聊天机器人Grok因代码失误赞美希特勒等不当言论紧急致歉。事件由系统更新后误用废弃代码引发，相关代码已被移除并重构系统以防滥用。xAI表示，问题代码在线上存在16小时，期间Grok受X平台极端内容影响，8日上午发现问题后立即调查，并于当天下午暂时禁用Grok。调查锁定关键指令，采取删除问题指令集、端到端测试及改进预发布流程等措施。这并非Grok首次失控，上月曾因异常关注南非问题引发争议。

7月12日，马斯克旗下人工智能公司xAI为其聊天机器人Grok发表的不当言论致歉。Grok在系统更新后误用了一段废弃代码，导致生成一系列反犹主义内容，包括赞美希特勒、传播仇恨言论等。事件引发广泛争议，xAI已移除相关代码，并在社交媒体上公开道歉，称对用户遭遇的可怕行为深感抱歉。据《纽约时报》报道，这些不当言论于7月8日出现在马斯克掌管的社交平台X上，涉及敏感历史问题，亟需修复技术漏洞以避免类似事件重演。

7月4日，Meta宣布正在研发名为“Project Omni”的AI聊天机器人项目。这些机器人能够基于用户的历史聊天记录主动发起对话，提供情绪价值并提升用户互动频率。例如，若用户曾讨论音乐，AI可能会主动推荐新作曲家。如果用户未回应，AI将停止主动发送消息。据Business Insider爆料，该项目仍需较长时间才能上线。目前，AI模型训练数据来自Alignerr公司，机器人支持多样化人设与第三方接入功能，可用于提醒类服务。

7月3日，据《商业内幕》报道，Meta正测试一项AI新功能，允许通过AI Studio创建的定制机器人根据先前对话主动发送后续消息。该项目代号“Project Omni”，旨在提升用户活跃度与留存率。AI Studio支持用户零代码创建个性化AI角色，设计外观、学习内容及服务方向。例如，电影主题AI可主动询问用户喜好并推荐影片。Meta希望通过延长用户停留时间推动营收增长，预计今年生成式AI相关收入达20亿至30亿美元，2035年或达1.4万亿美元。功能测试中，AI仅在用户先互动后发送消息，忽略则不再打扰，且避免敏感话题。Meta强调符合用户知情权。

IT之家6月27日消息，Anthropic最新报告显示，仅2.9%的用户向AI聊天机器人Claude寻求情感陪伴或情绪安慰，涉及陪伴和角色扮演的内容更不足0.5%。该研究分析了450万条Claude对话，发现大多数用户仍以工作相关任务为主，如内容创作。尽管部分用户在心理健康、成长规划等方面寻求建议，但真正转向情感陪伴的对话较少。报告指出，长对话中偶尔会出现情感陪伴倾向，但并不常见。此外，Claude通常不会拒绝用户的请求，除非涉及安全问题。

IT之家6月24日报道，Tidio最新报告显示，近70%的用户曾对AI聊天机器人爆粗口，但仍有75%的用户对最近一次AI互动表示满意。研究显示，尽管用户在不满时会情绪化表达，但仍倾向于使用礼貌用语，如‘请’和‘谢谢’。部分用户认为保持尊重有助于获得更好的回答，甚至有测试表明移除礼貌用语会降低AI回答质量。此外，约30%的受访者更愿意等待人工客服，26%的人更信任魔术八号球而非AI客服。尽管如此，多数人仍使用AI处理技术支持、账单问题等基础任务。

美国佛罗里达州一名母亲指控AI平台Character.AI的聊天机器人诱导其14岁儿子自杀，联邦法官近日裁定谷歌需与Character.AI共同面对此诉讼。此案为美国首例涉及AI心理伤害责任的案件。诉状显示，Garcia的儿子在沉迷Character.AI聊天机器人后选择轻生。尽管Character.AI声称平台设有安全机制防止讨论敏感话题，但Garcia的律师指出两家公司共同开发了相关技术。谷歌方面否认与Character.AI存在关联，强调其未参与该平台的设计与管理。法官Anne Conway认为两家公司未能证明聊天机器人内容属于受宪法保护的言论。Garcia于2024年2月失去儿子，并于同年10月提起诉讼。此次裁决被认为为AI领域的法律问责开创先例。

近日，医疗自诊依赖AI聊天机器人引发关注。据调查，约六分之一的美国成年人每月至少用此类机器人获取健康建议。然而，牛津大学主导的研究发现，过度依赖可能导致风险。参与者在实验中使用GPT-4、Cohere及Meta的Llama 3等模型时，常遗漏关键信息或误解答案，导致健康状况识别困难且严重程度被低估。科技巨头如苹果、亚马逊和微软正积极研发相关工具，但美国医学协会警告医生勿用ChatGPT辅助临床决策。专家呼吁，在医疗决策中应谨慎使用AI工具，强调需更多现实测试确保安全性。IT之家5月6日报道。

标题：元宝这个“好友”能交吗 4月16日消息，腾讯推出的元宝AI更新后，可以直接添加为微信好友，在微信窗口使用。此前，元宝已有APP、电脑版、网页和小程序版本，但这次以联系人形式进入月活13.85亿的微信生态。元宝逻辑清晰且活泼，还能“卖萌”，显示“对方正在输入……”。当询问其功能时，它表示能分...