2026年8月2日起,欧盟人工智能法案第50条将正式适用。该条款针对的是那些看到、听到或与AI输出内容互动的人所应享有的透明度。多数关于该法案的报道聚焦于高风险系统规则,第50条则不同。它的适用范围要广泛得多,涵盖任何系统与人对话或生成合成内容的提供者或部署者,也是大多数内容、营销和AI产品团队最先会感受到的部分。
本文说明该条款究竟要求什么,欧盟委员会为帮助各方满足要求发布了哪些文件,以及文档和内容溯源在其中处于什么位置,又有哪些方面它无法覆盖。
第50条的具体要求
该条款规定了四项独立义务,分别针对不同情形:
- 直接互动披露。旨在与自然人直接互动的AI系统的提供者,必须确保用户被告知自己正在与AI系统交互,除非这一点从情境中已经显而易见。
- 机器可读且可检测的标记。生成合成音频、图像、视频或文本内容的系统提供者,必须确保输出内容以机器可读格式标记,并可被检测为人工生成或篡改。两项属性缺一不可,如果下游系统无法将内容检测为合成内容,仅有人可读的标签是不够的。
- 针对深度伪造和AI文本的公共利益披露。生成深度伪造内容的系统部署者,以及生成或篡改用于就公共利益事项告知公众的文本的AI系统部署者,必须披露相关内容系人工生成或篡改。
- 情绪识别与生物特征分类通知。使用情绪识别或生物特征分类系统的部署者,必须告知接触该系统的自然人有关系统的运作情况。
在完整条款文本中,每项义务都有各自的例外和边界情形,而标记究竟应采取何种确切的技术形式,目前仍在实践中摸索,并非由法规本身固定下来。
欧盟委员会的行为准则
2026年6月10日,欧盟委员会发布了《AI生成内容透明度行为准则》。这是一套自愿性框架,而非强制性标准,旨在帮助提供者和部署者履行第50条第2、4、5款规定的标记与披露义务。加入该准则是证明善意合规的一种途径,但并非唯一途径,也不能取代根本的法律义务。只要能够实现相应结果(用户知情、合成内容可检测、深度伪造内容已披露),各机构也可以通过其他技术和组织措施来满足第50条的要求。
关于该义务的现行文本,AI Act Service Desk的第50条页面是欧盟委员会自己的权威参考,建议直接查阅原文,而非依赖包括本文在内的二手总结。
执法与处罚
第50条由各欧盟成员国的国家市场监管机构负责执法,而非由单一中央监管机构执行。违规最高可处以一千五百万欧元或全球年营业额3%的罚款,以较高者为准。这使透明度违规与AI法案的其他多项义务处于同一处罚区间,远高于多数公司为文档缺口预留的预算。
溯源封存能覆盖什么,又不能覆盖什么
在这一点上,我们希望做到精确,而不是自我推销。对文档或媒体文件加盖合格的、带时间戳的封印,能确立两件事:某个特定文件在特定时间以特定状态存在过,以及在ZertES和eIDAS规定的QES级别下,是谁创建或授权了该文件。这是一种内容溯源形式,而溯源与第50条第2款所要求的内容相近,即事后判断某项内容是否名副其实的一种手段。
但它并不等同于第50条第2款所描述的那种机器可读、可检测的AI内容标记,也不应被这样宣传。该法案要求的是嵌入或附加在生成内容本身之中的标记机制,其具体形式仍有待欧盟委员会的行为准则及相关技术标准工作进一步明确。Swiss Trust Layer的封印能证明一份文档曾经是什么样子,并在合格级别下证明谁为其背书。这是一种补充性证据,机构在就训练记录、模型文档或披露日志等AI相关内容展示善意溯源实践时可以援引,但它无法替代适用于AI生成输出本身的具体技术标记标准。
同时生成或依赖数据集的AI产品团队,还应关注训练数据溯源如何被记录和佐证,这是该法案数据治理条款下一项相关但独立的义务。我们的AI数据集溯源页面对合规的这一方面有更详细的说明。
8月2日前应做的事
对任何涉及AI的团队而言,有三个实际步骤。第一,梳理产品中每一个直接与用户互动或生成音频、图像、视频、文本的系统,并标明四项义务中哪一项适用于它。第二,确定自己依赖的是欧盟委员会的行为准则、自有技术措施,还是两者结合,并将这一决定记录在案。第三,对披露与标记做法保留带日期的记录,因为一旦出现合规争议,关键将在于某个具体日期实际执行的做法,而不是事后补写的政策。
第50条会让能够证明自身工作的机构受益。无论最终选定何种具体的标记技术作为标准,拥有一份清晰、带时间戳的合规决策记录始终是值得的。
