随着AI浪潮的到来，生成式人工智能技术在内容生产领域的应用越来越广泛。一方面，这一技术显著提高了创作和生产的效率；另一方面，也带来了技术滥用、AI造假问题。
“一键生成”足以乱真的文本、图片、音视频，将一个人的外貌、声音、行为模式复制到另一个人身上……AI技术降低虚假视频制作成本，让“有图有真相”“眼见为实”等常识受到强烈冲击。
前不久，中国互联网联合辟谣平台对今年2月网络谣言进行了梳理分析。网上数据监测和网民举报显示，当月网络谣言主要集中在利用AI技术生成虚假信息、杜撰灾害事故信息等方面。
针对这一乱象，国家出手了。
近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（下称《办法》）。同时，为推动《办法》落地实施，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（下称《标识方法》）也同步发布。
用一句话简单总结，就是要求给所有AI生成合成内容打上“水印”、刻上“身份标识”。
《办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式。
所谓显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识，即明确“哪些内容是生成的”。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识，即明确“是谁生成的”和“由谁传播的”。
《办法》还指出，服务提供者、传播平台、应用服务分发平台和用户四类主体要承担标识义务。可以预见，未来AI服务平台和各类媒体平台上都将更加清晰地展示相关标识，帮助公众更便捷地识别AI生成内容和深度伪造信息。
值得注意的是，《办法》还规定了用户使用网络信息传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。这对于利用AI技术抄袭、搬运内容的新媒体营销号无疑是一次“致命打击”。
对AI生成合成内容标识的重点环节及关键要素，《办法》也进行了阐述。如针对视频，要求“在视频起始画面和视频播放周边的适当位置添加显著的提示标识”；针对音频，要求“添加语音标识或者音频节奏等标识”。
近年来，AI技术发展迅速，已从单纯的学术研究发展为改变人类生活方式的重要力量。世界各地都高度关注AI技术滥用带来的信息造假问题，探索治理之道。
今年1月世界经济论坛发布的《2025年全球风险报告》指出，“错误和虚假信息”被列为2025年全球面临的五大风险之一，同时受访者所认为的未来两年风险和未来十年风险展望中，人工智能都榜上有名。
近年来，针对人工智能生成合成内容带来的颠覆性风险挑战，世界各国以及国际组织纷纷采取措施推进人工智能生成内容标识制度的建立。
无论是已施行的欧盟《人工智能法案》、正式出台的澳大利亚《安全和负责任的人工智能咨询：澳大利亚政府的临时回应》，还是正在制定中的美国《编辑和深度伪造内容来源保护完整性法案》《数字内容溯源标识法案》和英国《人工智能（监管）法案》等提案，均对水印、标识义务有要求。
可见，人工智能生成合成内容标识已成为国际惯例。
对此，我国此前也制定了一系列明确的法律法规，如《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》等，均对深度合成技术生产的内容提出监管要求，除了不得用于制作、发布、传播虚假新闻信息，还包括制作、发布、传播非真实音视频信息应当以显著方式标识。
但是，这些规定主要明确了需要添加标识的情况，对于添加标识的位置、字型和表达并未作出具体要求。因此各类企业在实施过程中出现了文本内容显式标识不明显、难察觉，音频、视频等内容显式标识未插入、浅提示，隐式标识少信息、难校验等问题，对落实监管提出了挑战。
而这次《办法》《标识方法》的出台，则是对已有规定的细化：前者主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，后者主要提出强制执行部分的标识具体实施方式和操作方法。
浙江省律协数字经济专业委员会主任方钧亮认为，以“办法+强标”组合拳方式，不但在管理维度明确了全链条主体责任，还在监管维度建立了责任追溯闭环机制，在技术维度统一规范了标准并预留未来政策空间。“这种敏捷治理、三位一体的治理架构是我国人工智能治理体系的又一次重要创新，并为该领域治理提供了清晰的实施和优化路径。”他表示。
虽然离2025年9月1日新规正式实施，预留了近半年的过渡期，不少AI平台和社交平台已开启了显式标识的落地工作。
如小红书、微博、微信公众号和视频号、抖音、快手等社交平台均为用户上传AI生成合成内容提供了主动声明功能；DeepSeek、豆包、文心一言、腾讯元宝等AI平台，也在所生成的文字对话、图片、视频中添加了明显的AI标识。
AI本质是工具，工具都有两面性，关键在于“人怎么用”。《办法》《标识方法》的发布和施行，将有效治理“AI造假迷人眼”的乱象，还网络空间以清朗，促进AI技术与应用健康发展。