AI生成内容为何一定要添加“数字水印”？

随着生成式人工智能技术快速发展，虚假信息、深度伪造等问题对信息安全和公共信任构成严峻挑战。从全球数字化治理来看，内容标识已成为全球治理生成内容的共识性议题。联合国在2024年的有关报告中将“损害信息完整性”列为人工智能首要风险。各国纷纷探索内容标识制度，欧盟《人工智能法》要求披露深度伪造内容来源，美国加州通过的《人工智能透明度法案》明确了显示或隐藏标识义务。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），并于2025年9月1日起施行。我国的《标识办法》通过显隐双标识机制和全链条责任体系，为全球治理贡献了兼具技术落地性与制度创新性的“中国方案”。

一是完善生成式人工智能体系化治理方案。在体系衔接上，《标识办法》与算法推荐、深度合成、生成式人工智能相关规定形成制度协同，在备案和安全评估基础上，针对人工智能生成内容构建了标识管理架构。在制度创新上，首次将用户可感知的显式标识与技术可追溯的隐式标识相结合，既保障公众知情权，又为溯源追责提供技术锚点。在技术兼容上，鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识，推动与国际主流技术接轨，促进标识技术标准化与全球互认。

二是从生成到传播责任闭环的全链条管理。《标识办法》通过分层义务分配，构建覆盖“生成-传播-分发-使用”的全链条责任体系。对于生成合成服务提供者，一是承担显式标识义务，针对可能引发混淆的深度合成场景，须在内容显著位置添加标识，如文本首尾标注“AI生成”、音频插入语音提示。二是承担隐式标识义务，通过元数据嵌入服务商名称、内容编号等要素，确保技术可追溯性，为侵权追责提供依据。对于内容传播平台，承担核验与打标义务，须检测隐式标识真实性，并在传播界面添加提示标识，履行“数字守门人”职责。对于应用程序分发平台，履行上架审核义务，核验应用程序是否具备标识功能，阻断不合规服务进入市场。对于用户而言，应承担主动声明和善意使用的义务——用户发布AI生成内容时须主动打标，禁止恶意删除或篡改标识。

三是平衡透明性与创新性的技术管理方案。相较于欧盟《数字服务法案》侧重平台透明度报告等程序性要求，中国政策更聚焦技术落地。在技术工具开发方面，《标识办法》鼓励企业研发数字水印、内容溯源等技术，构建标识检测数据库，提升平台自动化审核能力；在安全与发展平衡方面，允许用户协议约定后提供无显式标识生成合成内容，为创新保留空间。同时，服务提供者需要履行依法留存信息日志义务，为事后追溯提供保障。

为进一步优化《标识办法》实施效能，笔者建议加快开展以下工作。一是明确责任分层，细化产业链主体（如基础模型开发者、垂直应用服务商）的差异化义务，避免“一刀切”监管。二是强化技术协同，推动隐式标识技术与区块链、隐私计算融合，在保障可追溯性的同时防范隐私泄露风险。例如，通过加密元数据实现“可验不可见”的隐式标识。三是深化国际合作，参与全球标识标准制定，推动跨境内容标识互认，共同维护网络空间。

*本篇刊载于《通信世界》2025年3月25日*第6期 总964期原标题：《打造闭环全链条管理体系，中国贡献人工智能标识方案》

作者：中国信息通信研究院人工智能研究所

高级业务主管 呼娜英

责编/版式：王禹蓉

审校：王 涛 梅雅鑫

监制：刘启诚