← 博客

欧盟AI法案的训练数据摘要能揭示什么、不能揭示什么

EU AI Act AI/LLM 透明度 数据
文章头图:欧盟AI法案的训练数据摘要能揭示什么、不能揭示什么

欧盟AI法案第53(1)(d)条要求每一家通用AI模型提供方,按照AI办公室于2025年7月发布的模板,公布一份关于其训练所用内容的"足够详细的摘要"。该义务已于2025年8月2日生效。我一直在把实际已提交的摘要收集成一个可横向比较的小型数据集——它已上线于transparency.kieranmaynard.com/ai-training——而这项工作最终揭示的,与其说是这些模型,不如说是这项监管本身的现状。

模板究竟要求了什么

模板刻意保持克制。对于训练数据中存在的每一种模态——文本、图像、音频、视频、其他——提供方在三个规模区间中勾选其一(文本为:少于10亿个token、10亿至10万亿、或多于10万亿),并描述内容类型。接着是一组关于数据来源的是/否标记——公开数据集、商业许可数据、来自第三方的私有数据、提供方自行抓取的数据、用户数据、合成数据。再加上一个数据获取的截止日期。

就这些。没有token数量,没有数据集名称,没有比例。委员会的设计意图,是在不迫使提供方交出商业机密的前提下,给版权方和公众一个基准。因此,任何单份摘要所能揭示内容的上限,在设计上就被刻意压低了。若说有价值,那也来自把它们并排比较——这是此前无人在做的事,也是我构建这个数据集的原因。我把每个规模区间归一化为一个等级(1至3,"不适用"为0),至少让粗糙的规模能在各提供方之间排序。

最有信息量的信号是"谁缺席"

在我上次更新数据时,共有7家提供方的11个模型提交了标准模板:Google(Gemini 3 Pro)、Meta(Muse Spark)、Microsoft(Phi-4系列)、OpenAI(GPT-5.5)、瑞士的Swiss AI(Apertus)、波兰的SpeakLeash(Bielik),以及Hugging Face(SmolLM3)。

显眼的缺席者,正是你本以为会看到的前沿实验室。Anthropic——包括其现任旗舰Fable 5——以及Mistral、xAI都没有按模板提交。它们仍以老办法披露训练内容,即在模型卡中用一段散文:诸如"公开可得的信息、许可数据以及由我们团队生成的数据的专有组合"之类。这是一种真实的披露,但它不是监管如今所要求的标准化产物,也无法与任何东西相比较。

这道分界并非抗拒与遵守之别,而是写进法律里的一道"时间接缝"。在2025年8月2日之后投放欧盟市场的模型必须现在就提交;而在该日之前已在市场上的模型,则有到2027年8月2日的宽限期来拿出摘要。因此,模板上的模型几乎清一色,要么是在截止日之后越线的全新旗舰,要么是把"开放"当作全部卖点、因而主动提交的开源与欧洲实验室。缺席的一方,多半正坐等过渡期限。"谁提交了"目前更像是"谁最近发布了新模型、或想显得透明"的代理指标,而非"谁更透明"。

已提交的数据能显示什么

横向读这些摘要,有几点站得住脚。

人人都声称使用公开数据;有意思的差异全在别处。每个提交者都勾选"公开数据集"。这个标记几乎不含信息量——它是入场的门票。提供方真正的分野在于其他类别:是自行运行爬虫,还是依赖他人整理好的公开数据集;是否购买了商业许可数据;是否使用了合成数据;以及——那个读起来像真正披露的——是否用了用户数据来训练。OpenAI在用户数据上勾"是",且摘要谨慎地说明,这指的是ChatGPT、Codex等产品的数据,而非与模型的对话日志;Meta也勾"是"。而开放与欧洲的实验室——Apertus、Bielik、SmolLM3——都勾"否",同时无商业许可、无自行抓取。模板的是/否标记很粗,但恰恰是那一列,才让一份摘要告诉你营销页面不会说的东西。

最高的规模区间已经饱和。"多于10万亿个token"是模板为文本提供的最大桶,而它如今就是常态:Gemini 3 Pro、Muse Spark、GPT-5.5、SmolLM3全都落在其中。一个30亿参数的开源模型和一个前沿系统,报告的是同一个文本规模区间。这不是错误——而是一个三档刻度在整个领域越过最高桶之后,会精确表现出的样子:它失去了区分力。规模字段有助于把一个小型或较旧的模型(Bielik落在中间区间)与一个现代大模型区分开,但再细一点就无能为力。

模态覆盖是最干净的切口。数据唯一能清晰划开的,是多模态与纯文本之别。Google、Meta、OpenAI报告了图像、音频与视频的训练数据;开放实验室的条目则是纯文本。这是一个真实、可核验的区分,而且与规模区间不同,它一眼可辨。

这些局限是结构性的,而非偶然

正如我此前写过的DSA透明度报告一样,约束与内容同样重要,而其中若干项是嵌在制度本身、而非我的收集方式之中的。

没有登记册。没有人维护一份已提交摘要的权威清单,因此"谁已公布"本身就是一个研究问题——这些当中有好几个,是我从一篇学术综述和Hugging Face模型卡里倒推找到的。每家提供方都在自己喜欢的地方、以自己喜欢的格式自行发布。实践中这意味着:Google是一份透明度报告PDF,Meta和OpenAI是表单式PDF,Microsoft是一张markdown的"数据摘要卡",Apertus是Hugging Face仓库里的一份PDF,而SmolLM3则是一个由Gradio应用驱动的交互式小组件——我不得不从应用源码里把填好的模板抠出来。一个以五种方式发布的标准模板,只标准化了一半。

没有审计。每个标记都是自我声明;没有任何外部方能确认"未抓取数据"或"未用用户数据"的"否"是准确的。而且模板只问某一来源是否被使用,从不问用了多少,于是一家绝大部分靠许可数据训练的提供方,和一家只碰过一个许可数据集的提供方,勾的是同一个框。"公开可得"从未被定义,因此它把从精挑细选的研究语料到开放网络的一切都囊括其中。

这些都不会让数据变得无用。它只是让数据成为它本来的样子:一份结构化、自我申报、跨提供方的快照,用来看清这个领域的轮廓时确实有用(谁用哪类来源、大致多大规模、在哪些模态上训练),但若把一个勾选的框当作一个被测量的量,就会产生误导。

接下来会怎样

执法权限将于2026年8月2日生效——从那天起,AI办公室即可针对缺失或不充分的摘要采取行动,处罚最高可达全球营业额的3%或1500万欧元。更大的转折将随2027年8月2日的过渡期限一同到来,届时既有模型也必须提交。数据从那时起才变得有趣——如今以散文披露的那些旗舰,也就是我今天不得不排除在外的那些,将被迫拿出标准化产物,否则就要承担执法风险;而"谁缺席"这一信号,也终将意味着更接近"不合规"、而非"时间差"的东西。

随着这一切发生,我预计有两件事会浮出水面。其一,粗糙的最高区间只会更尴尬,而非更好:随着越来越多前沿系统涌入"多于10万亿个token",增加更细的桶——或干脆报告一个实际数字——的压力将不断增大,因为一个连12万亿token模型与50万亿token模型都区分不了的透明度工具,向监管者传递不了多少信息。其二,除非AI办公室真的建起一个登记册,否则格式的碎片化会先恶化再好转;散落在上百个企业CDN和模型仓库里的又一百份摘要,不是一套透明度制度,而是一场寻宝游戏。

相比此前"一无所有"的现状,模板是一次真实的进步。但眼下数据里有意思的故事,并不是哪个模型披露了什么——而是那些不得不提交的实验室,与那些尚未提交的实验室之间的接缝,以及这一个时间上的偶然,眼下究竟解释了多少。随着2027年的期限把这个领域的其余部分拉上模板,我会持续更新这个数据集。到时我们就能看到,可比较性能否在再来一百份提交的冲击下幸存。

esc