1月20日，英国议会财政委员会警告称，英国金融监管体系对AI风险的应对滞后，可能无法抵御潜在冲击，呼吁启动针对AI的压力测试。报告显示，超四分之三的英国金融机构已使用AI，但缺乏匹配的风险评估机制。AI在投资策略、流程自动化等领域的广泛应用，可能带来系统性金融风险。委员会要求英国金融行为监管局年底前明确AI使用边界，并将亚马逊云和谷歌云纳入关键监管范围。此前10月亚马逊云宕机事件导致多家企业业务中断，凸显基础设施风险。专家警告，AI驱动交易策略可能放大市场一致性行为，增加系统性风险。英格兰银行及相关部门表示欢迎报告建议，并将研究实施相关措施。

1月20日，上海市委网信办召开全市网络安全工作协调机制（扩大）会议。会议指出，2026年是‘十五五’开局之年，强调提升网络安全能力的重要性。重点工作包括：统筹协调网络安全机制，强化关键信息基础设施保护，加强数据全生命周期安全管理以支持数字经济发展，探索人工智能安全治理新模式以应对新技术风险，并健全网络安全应急响应体系，提升实战化攻防能力。这些措施旨在筑牢网络安全防线，护航技术发展与经济转型。

2025年，AI看病问诊功能逐渐普及，用户可通过手机应用快速获取健康建议。阿里云数据显示，国内已有101个医疗AI模型备案，这些工具尤其擅长处理感冒等常见病，为年轻人、上班族及医疗资源薄弱地区居民提供便利。然而，AI诊断也暴露出风险，如海外用户因听信AI建议导致溴中毒，国内一名女子因长期依赖AI延误肺结核治疗。专家指出，AI仅基于用户描述和大数据推测，缺乏全面诊断能力，且责任归属不清。行业正探索解决方案，如限定高置信度数据源、专注专科领域等。尽管AI在健康监测、用药提醒等场景中表现优异，但在急重症或不明病因情况下，仍需依赖真人医生。面对身体异常，走进医院始终是最安全的选择。

Anthropic创始人Dario Amodei近日透露，其AI模型Claude本可早于ChatGPT发布，但团队选择暂缓以确保安全。Dario以‘既兴奋又焦虑’的心态看待AI发展，认为未来2-3年内AI或在几乎所有领域超越人类，但也可能带来失业等社会风险。他曾因预警AI威胁初级白领岗位而被贴上‘末日预言家’标签，但他强调预警旨在解决问题而非唱衰。Anthropic专注企业客户市场，预计2025年底前实现90亿美元年化营收目标，并计划最早于2026年IPO。Dario批评同行激进投资算力，呼吁更负责任地管理AI发展。Anthropic已与微软Azure、AWS、Google Cloud达成合作，成为多云平台模型提供方。

1月12日，比尔盖茨在最新年度信中警告，AI若被恶意利用可能成为生物恐怖主义武器。他指出，尽管AI在医疗、教育等领域有革命性潜力，但非政府组织利用开源AI工具设计生物武器的风险已超过自然疫情威胁。盖茨强调，社会对AI时代的准备仍不足，主要问题包括恶意行为者利用AI及对就业市场的冲击。他呼吁谨慎开发和管理AI技术，并提到企业可能借AI掩盖常规裁员。他认为应通过提升生产力减少工人工时，而非简单裁员，以更公平分配AI带来的新能力。

1月4日，英国《卫报》报道，英国先进研究与发明署（Aria Agency）AI安全专家David Dalrymple警告称，前沿AI系统发展迅猛，世界可能已来不及充分应对相关安全风险。他指出，AI能力快速超越人类，在经济价值工作中的低成本高质量表现或将在5年内显现。此外，AI模型性能指标约每8个月翻倍，部分学徒级任务成功率从去年10%升至50%，并具备独立完成专业任务的能力。Dalrymple强调，政府和企业对技术突破的认知存在落差，防护措施难以跟上技术发展。他还预测，到2026年末，AI可能实现自动完成整日研发工作，并在关键领域自我强化，呼吁加强风险控制以避免安全与经济体系失稳。

12月30日，中国证券业协会在北京召开第八届风险管理专业委员会首次全体会议。会议总结了2025年工作成果，并明确2026年重点方向，包括完善自律规则体系、强化重点领域风险防控、推动新兴技术在风险管理中的应用及加强行业培训与交流。委员们强调，要结合市场新趋势修订风险管理制度，聚焦频发风险领域，推广先进经验，并探索人工智能、区块链等技术对风险管理的影响。中证协表示，将进一步发挥委员会职能，引导证券公司向主动风控转型，提升行业风险管理水平，助力‘十五五’时期证券行业和资本市场高质量发展。

12月30日，OpenAI发布高薪招聘启事，拟以年薪55.5万美元招募一名“安全与风险准备主管”。该职位将直接负责评估和应对AI在心理健康、网络安全、生物安全等领域可能引发的系统性风险。OpenAI首席执行官山姆·奥尔特曼强调，这是公司当前阶段的“关键角色”，将承担“帮助世界应对AI潜在负面影响”的职责。此次招聘凸显了AI安全治理压力的持续上升，也反映了OpenAI对AI技术潜在风险的高度重视。

2025年12月29日，OpenAI首席执行官奥尔特曼透露，公司正在招聘新的风险防范主管。该岗位旨在应对模型对心理健康潜在影响及其他现实挑战，这些挑战在2025年已显现端倪。据职位描述，年薪高达55.5万美元，并提供股权激励。这一关键岗位的设立，正值模型能力快速提升时期，凸显了OpenAI对技术风险管控的重视。

AI专家本吉奥近日反驳了辛顿关于‘水管工等体力工作在AI时代仍安全’的观点，认为随着机器人技术发展，这些职业也可能被取代。他警告称，AI正走向‘人类竞争者’的危险道路，并呼吁更多投资用于提升AI安全性。本吉奥强调，AI风险不仅是技术问题，更是社会问题，需全球协作应对。他还提到自己因孙子的未来而更加关注AI对后代的影响，并建议年轻人培养责任感与集体福祉意识，而非单纯依赖技术技能。他呼吁公众加强对AI风险的认知，共同推动更负责任的AI发展方向。