“网信中国”发布最新通报，针对部分平台在人工智能内容管理上的违规行为亮出红牌。因未有效落实AI生成合成内容的标识要求，“剪映”“猫箱”App及“即梦AI”网站被依法查处。

触碰合规红线，多平台遭约谈警告

通报指出，上述平台的行为已违反《网络安全法》《生成式人工智能服务管理暂行办法》以及《人工智能生成合成内容标识办法》等相关法律法规。国家互联网信息办公室已指导属地网信部门，迅速采取行动，对涉事平台依法实施了约谈、责令改正、警告以及从严处理相关责任人等一系列处罚措施。

网信办相关负责人强调，任何网站平台都必须严守法律底线与红线，将AI内容标识的规定要求不折不扣地落实到位，绝不能打折扣、搞变通。

新规之下：AI内容不得“悄悄生成”

据了解，我国《人工智能生成合成内容标识办法》自2025年9月1日起正式施行。该办法的核心目的在于通过强制标识，帮助用户在海量信息中辨别虚假信息，防范AI造假风险。

办法明确了从内容制作到传播各环节中，服务主体必须承担的标识责任义务。无论是利用AI生成的文本、图片、音频、视频还是虚拟场景，都应当清晰标明。同时，办法划出了一条严厉的禁区：任何组织和个人绝不允许恶意删除、篡改、伪造或隐匿法定的生成合成内容标识。

持续亮剑，推动AI向善发展

随着AI技术的爆发式增长，规范其应用已成为当务之急。网信部门明确释放信号，未来将深入推进依法管网、治网，持续加大对AI生成合成内容标识的监督管理力度。此次查处不仅是对违规平台的敲打，更是为了切实维护社会公共利益，确保人工智能技术在法治轨道上健康、有序地发展。