2月8日，未经授权的AI拜年视频在春节前夕走红网络，引发关注。专家提醒，尽管正规大型AI服务平台和专业工具已尝试通过添加标识、水印及内容检测机制防止滥用，但部分开源模型和小型应用仍缺乏防护措施，存在法律风险。这些工具可能未明确限制未授权使用他人形象和声音，导致滥用空间增大。随着AI技术深入节日娱乐，公众需警惕潜在问题。

4月20日，武汉市公安局通报称，近期硚口区分局查处了一起利用AI技术编造网络谣言的案件。今年1月中旬，硚口网警发现某资讯网站文章内容失实，经取证后联系网站所属公司，该公司因追求流量购买AI智能写作软件生成文章。经查，涉案文章由AI生成，但发布前未按规审核，存在违规行为。硚口警方依据《计算机信息网络国际联网安全保护管理办法》，对该涉事公司予以行政警告。目前，该公司已公开致歉并在首页下架AI生成板块，同时开展内部整改。根据《互联网信息服务深度合成管理规定》，任何组织和个人不得利用AI服务制作或传播虚假信息，违者将依法处罚。

国家网信办于3月12日公开发布第十批境内深度合成服务算法备案信息。此次备案名单包括阿里云云安全中心智能助手内容生成算法、腾讯音乐文生图合成算法、有道智能应用大模型算法、高途闪学AI深度合成算法、万华材料大模型算法及百川教育大模型算法等。

【2024年】中国在AI领域迈出关键一步，国家互联网信息办公室发布《人工智能生成合成内容标识办法(征求意见稿)》，配套国家标准《网络安全技术 人工智能生成合成内容标识方法》。这是全球首个针对AI生成内容标识的国家标准，旨在强化AI内容可信度与透明度。《意见稿》提出，AI生成合成内容应添加显式或隐式标识，以明确告知用户内容来源与性质，涵盖智能对话、文本生成、语音编辑、人物图像及视频处理等各类AI创作。此前，国内已有多项AI管理规范，如《生成式人工智能服务管理暂行办法》等，旨在促进AI健康应用与创新发展。国际层面，欧盟、英国、美国等国家也相继出台AI治理法案，强调平衡发展与风险，确保安全与公平性，推动构建人类命运共同体。中国此次行动不仅体现了对AI技术的深入思考与监管力度的加强，也为全球AI治理提供了新的参考范例。

国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》，旨在规范互联网上生成合成内容的标识，增强公众辨别能力。该办法覆盖提供生成合成服务的网络信息服务提供者、内容传播平台、互联网应用程序分发平台以及普通用户。核心要求是： 1. **服务提供者**需对属于特定情形的生成合成内容添加显式标识，并...

【8月6日】国家网信办公布第七批深度合成服务算法备案名单，财跃星辰研发的财跃F1文本生成算法及财跃文本生成算法成功获得备案。此番备案是财跃继生成式人工智能服务后，年内再次获得国家监管机构的认可。财跃大模型及系列算法聚焦于智能投顾、智能投研、智能创作及智能审核等领域，旨在构建“AI+”应用场景。此次备案标志着财跃在深度合成技术领域的持续创新与合规发展，彰显了其在AI应用领域的领先地位。

国家网信办于6月12日公告了第六批深度合成服务算法备案信息，涵盖虹软科技的PSAI内容合成、鹿影科技视频生成、广联达文本生成、腾讯混元大模型多模态及科沃斯机器人AI模型等技术。这一重要动态反映了我国对人工智能技术的监管持续深化，及时更新备案以保障网络安全和信息透明。