2025世界人工智能大会暨人工智能全球治理高级别会议将于7月26至28日在浦东世博中心等地举行，主题为“智能时代 同球共济”。大会由外交部、国家发改委等多部门与上海市政府共同主办，设置论坛、展览、赛事等5大板块，全面展示AI技术前沿与产业趋势。展览面积突破7万平方米，吸引800余家企业参展，包括40余款大模型和100余款全球首发新品。国际化程度显著提升，已有30余个国家和地区1200余位嘉宾确认参会，包括图灵奖得主及中外院士等。大会聚焦青年创新，设立三大前沿议题，并推出创投孵化板块，促进产业生态合作。上海正深化人工智能全产业链布局，力争在AI发展和治理方面走在前列，形成示范效应。

上海市规划和自然资源局发布《上海城市空间治理领域人工智能应用暨量子城市空间智能建设工作实施方案（2026—2027年）》，提出开展城市空间治理大模型研发。重点包括研发具备知识检索、时空理解能力的云宇星空行业基座大模型，以及具备遥感识别监测功能的鹰眼垂类模型。同时开发支持100+城市公共空间质量与安全指数分析的快反系统，并探索创域等创新空间垂类模型。方案旨在提升城市空间智能化治理水平，为未来城市建设提供技术支撑。

2025年4月起，中央网信办发起“清朗·整治AI技术滥用”专项行动，针对AI换脸、拟声侵权及误导性内容等问题展开重点整治。截至当前，各地网信部门已累计处置违规AI产品3500余款，清理违法信息96万余条，处置账号3700余个。北京开设举报渠道，上海推动标识规范落地，浙江拦截清理2550万余条违规信息，江苏排查并处理163个风险域名，天津采用“人工+技术”监测通报14个风险问题。重点平台如腾讯、微博、通义、抖音等也积极行动，分别从准入管理、内容审核、语料安全及虚假信息识别等方面加强治理。下一步，网信办将聚焦7类突出问题，推进第二阶段工作，构建长效监管机制，促进AI健康发展。

6月13日，工信部召开信息通信行业防范治理电信网络诈骗工作推进会。会议要求全行业从业务管理和技术防控两方面入手，重点整治虚拟运营商电话卡、中间号、短信端口等涉诈问题，堵塞管理漏洞。同时，加强反诈技术创新，提升新型诈骗手法的技术反制能力，并深化数据共享与能力联动，打好攻防对抗主动战。此外，还需通过强化反诈宣传，借助人工智能和大数据技术提高监测预警的精准度，营造全民参与的反诈氛围，持续推进群防群治持久战。

财联社6月12日电，小红书今日公布虚假内容治理报告。报告显示，2025年上半年，小红书通过构建虚假内容全链路治理体系，累计处置虚假笔记320万篇，清理虚假人设账号1万个，并处理虚假低质AIGC（人工智能生成内容）笔记60万篇。此外，小红书还对批量造假的黑灰产账号采取严厉措施，封禁相关账号超1000万个。这一系列行动体现了平台在净化社区环境方面的持续努力。

近日，《科创板日报》报道指出，利用AI技术合成视频的诈骗手段频发，尤其在抖音、小红书等社交平台，对用户财产安全构成威胁。典型案例包括山东东营的刘某因仿冒抖音客服被骗16.8万元，以及山东网友贾某因跨平台导流欺诈损失27.5万元。AI技术被用于模仿亲友诈骗、伪造公职人员证件及假冒明星代言等，手段隐蔽且逼真。对此，国家相关部门联合发布《人工智能生成合成内容标识办法》，要求自9月起AI生成内容须加标识。抖音和小红书正通过技术升级加强防控，日均封禁涉诈账号超8万，拦截异常投稿超400万条。专家呼吁平台间联动协作，共同打击AI诈骗产业链。

5月20日，中英人工智能对话在北京举办。外交部军控司司长孙晓波与英国外交发展部科技司司长琼斯共同主持，两国相关部门官员参与。双方深入探讨了人工智能的发展机遇、挑战及政策方向，强调加强交流互鉴和务实合作，推动人工智能健康安全有序发展。此外，双方同意在人工智能全球治理方面保持沟通协调，支持落实联合国未来峰会通过的《全球数字契约》，助力发展中国家提升能力，实现人工智能向善普惠的目标。

抖音今日发布“AI 起号”专项治理行动公告，宣布近期集中整治利用 AI 生成低俗猎奇视频、虚假育儿内容、AI 视频账号售卖教程等问题。平台已累计清理311条违规内容，并封禁包括“心x甜”在内的15个严重违规账号。抖音强调，将严格执行《关于人工智能生成内容的平台规范暨行业倡议》等相关规定，严惩利用 AI 进行虚假宣传及规避平台审核的行为。平台呼吁用户举报违规内容至 feedback@douyin.com，共同维护健康的内容生态。该行动旨在遏制不当利用 AI 技术带来的负面影响，提升平台内容质量。

5月6日，中国常驻联合国代表傅聪在人工智能能力建设国际合作之友小组专题会上表示，中国将坚持智能向善，推动AI发展与应用以增进人类福祉。他强调应公平普惠，保障发展中国家平等享有AI发展权，并主张通过协同共治，让联合国主导全球AI治理进程。傅聪提到，中国不仅是倡议者，也是践行者。自‘之友小组’成立后，中国已在北京、上海举办两期研讨班，吸引40多个国家的180余位代表参与，成果显著。（央视新闻）

中央网信办部署开展为期3个月的‘清朗・整治 AI 技术滥用’专项行动，旨在规范AI服务和应用，保护公民合法权益。行动分两阶段进行，第一阶段聚焦AI技术源头治理及违规应用清理；第二阶段针对利用AI制作谣言、不实信息、色情低俗内容等突出问题进行集中整治。重点包括清理违规AI产品、加强语料管理、完善安全措施、标识生成内容等。同时，将打击假冒他人、网络水军活动及侵害未成年人权益的行为。该行动强调落实属地管理责任，提升技术检测能力，并加强人工智能知识普及，引导正确应用AI技术。