Skip to content

CSlawyer1985/legal-skillhub / skills/ai-act-knowledge

ai-act-knowledge

Verified

欧盟 AI 法案知识引擎——以 70 份官方欧盟来源文件为基础的权威监管问答(包括 2026 年委员会关于 Art. 6 高风险分类的指南草稿——一般原则、附件 I、附件 III)。基于完整条例文本、委员会指南、EDPB/EDPS 意见、《实践守则》、协调标准、FRIA 指南、事件模板和行业特定指引,以条款级引用回答关于 AI 法案的任何问题。当用户询问"EU AI Act"、"AI Act regulation"、"Regulation 2024/1689"、"KI-Verordnung"、要求"explain an AI Act article"、"what does Article X say"、"AI Act requirements"、"AI Act penalties"、"AI Act timeline"、"GPAI obligations"、"high-risk AI"、"prohibited AI practices"、"AI Act and GDPR"、"fundamental rights impact assessment"、"AI Act standards"、"AI Act national implementation"、"AI literacy"、"serious incident reporting"、"Digital Omnibus"、"AI regulatory sandbox",或任何关于欧盟人工智能监管的问题时,应使用本技能。德语术语同样触发:"KI-Gesetz"、"KI-Verordnung"、"Hochrisiko-KI"、"KI-Kompetenz"、"Grundrechte-Folgenabschaetzung"、"GPAI-Verhaltenskodex"。对于产出分类决定而非知识答案的评估工作流,提议在会话内运行结构化风险等级分类。

FileKindSize
LICENSE.txtmarkdown33.7 KB
README.mdmarkdown6.0 KB
SKILL.mdskill md13.5 KB
evals.jsonconfig19.0 KB
references/codes-of-practice/README.mdmarkdown621 B
references/codes-of-practice/gpai-code-detailed.mdmarkdown42.4 KB
references/codes-of-practice/gpai-code-ec-overview.mdmarkdown3.4 KB
references/codes-of-practice/gpai-code-final.mdmarkdown101.8 KB
references/codes-of-practice/transparency-code-draft-1.mdmarkdown1.0 KB
references/codes-of-practice/transparency-code-draft-2.mdmarkdown3.8 KB
references/codes-of-practice/transparency-code-overview.mdmarkdown5.0 KB
references/commission-guidelines/art-6-classification-annex-i-2026.mdmarkdown30.8 KB
references/commission-guidelines/art-6-classification-annex-iii-2026.mdmarkdown371.7 KB
references/commission-guidelines/art-6-classification-general-principles-2026.mdmarkdown12.2 KB
references/compliance-guides/README.mdmarkdown646 B
references/compliance-guides/ai-literacy-repository.mdmarkdown1.8 KB
references/compliance-guides/copyright-tdm-consultation.mdmarkdown3.6 KB
references/compliance-guides/modifying-ai-classification.mdmarkdown24.7 KB
references/compliance-guides/small-businesses-guide.mdmarkdown12.6 KB
references/compliance-guides/whistleblowing-ai-act.mdmarkdown18.1 KB
references/core/README.mdmarkdown1.1 KB
references/core/annex-iii-high-risk.mdmarkdown8.0 KB
references/core/decision-trees.mdmarkdown10.2 KB
references/core/high-level-summary.mdmarkdown13.6 KB
references/core/regulation-preamble-recitals.mdmarkdown173.0 KB
references/core/regulation-title-I-general.mdmarkdown18.8 KB
references/core/regulation-title-II-prohibited.mdmarkdown8.2 KB
references/core/regulation-title-III-high-risk.mdmarkdown79.5 KB
references/core/regulation-title-IV-transparency.mdmarkdown3.9 KB
references/core/regulation-title-V-gpai.mdmarkdown12.0 KB
references/core/regulation-title-VI-X-governance.mdmarkdown104.3 KB
references/core/regulation-title-XI-XIII-final.mdmarkdown39.4 KB
references/cybersecurity/README.mdmarkdown440 B
references/cybersecurity/enisa-advisory-opinion.mdmarkdown29.7 KB
references/cybersecurity/enisa-ai-cybersecurity.mdmarkdown7.4 KB
references/cybersecurity/enisa-cybersecurity-standardisation.mdmarkdown3.7 KB
references/fria/README.mdmarkdown338 B
references/fria/article-27-fria.mdmarkdown4.8 KB
references/fria/ecnl-fria-guide.mdmarkdown43.3 KB
references/fria/fria-guide-danish-institute.mdmarkdown2.7 KB
references/governance/README.mdmarkdown660 B
references/governance/ai-office-faq.mdmarkdown59.8 KB
references/governance/ai-pact.mdmarkdown5.4 KB
references/governance/ec-qa-navigating-ai-act.mdmarkdown38.5 KB
references/governance/governance-enforcement.mdmarkdown2.8 KB
references/governance/implementation-next-steps.mdmarkdown6.2 KB
references/governance/implementation-timeline.mdmarkdown12.8 KB
references/governance/whistleblower-tool.mdmarkdown2.8 KB
references/guidelines/README.mdmarkdown664 B
references/guidelines/ai-system-definition.mdmarkdown4.0 KB
references/guidelines/digital-omnibus.mdmarkdown9.4 KB
references/guidelines/ec-regulatory-framework.mdmarkdown13.7 KB
references/guidelines/gpai-obligations-scope.mdmarkdown1.7 KB
references/guidelines/guidelines-roadmap.mdmarkdown3.0 KB
references/guidelines/prohibited-practices-full.mdmarkdown58.8 KB
references/guidelines/prohibited-practices-web.mdmarkdown3.0 KB
references/impact-assessments/README.mdmarkdown382 B
references/impact-assessments/healthcare-study-2026.mdmarkdown4.3 KB
references/impact-assessments/impact-assessment-original.mdmarkdown1.9 KB
references/impact-assessments/supporting-study.mdmarkdown1.4 KB
references/law-enforcement/README.mdmarkdown312 B
references/law-enforcement/europol-ai-policing.mdmarkdown2.9 KB
references/law-enforcement/gpai-guidelines-overview.mdmarkdown9.2 KB
references/national/README.mdmarkdown467 B
references/national/german-ai-bill.mdmarkdown10.3 KB
references/national/national-implementation-plans.mdmarkdown13.7 KB
references/national/national-resources-service-desk.mdmarkdown3.5 KB
references/national/regulatory-sandboxes.mdmarkdown29.2 KB
references/opinions/README.mdmarkdown447 B
references/opinions/edpb-edps-joint-opinion-2021.mdmarkdown2.6 KB
references/opinions/edpb-edps-joint-opinion-2026.mdmarkdown20.6 KB
references/opinions/edpb-opinion-28-2024.mdmarkdown3.1 KB
references/sector-specific/README.mdmarkdown409 B
references/sector-specific/banking-ai-implications.mdmarkdown5.0 KB
references/sector-specific/medical-devices-ai.mdmarkdown22.4 KB
references/sector-specific/staffing-businesses-ai.mdmarkdown10.7 KB
references/standards/README.mdmarkdown617 B
references/standards/article-40-harmonised-standards.mdmarkdown3.5 KB
references/standards/harmonised-standards-map.mdmarkdown10.3 KB
references/standards/pren-18286.mdmarkdown1.6 KB
references/standards/standardisation-overview.mdmarkdown4.8 KB
references/standards/standardisation-qa.mdmarkdown7.9 KB
references/standards/standardisation-request-c2025-3871.mdmarkdown1.5 KB
references/templates/README.mdmarkdown476 B
references/templates/draft-guidance-art73-high-risk.mdmarkdown2.4 KB
references/templates/gpai-submitting-documents.mdmarkdown3.9 KB
references/templates/gpai-training-data-summary.mdmarkdown2.0 KB
references/templates/serious-incident-template-gpai.mdmarkdown2.5 KB

references/governance/ai-office-faq.md

View on GitHub
# AI 法案服务台——官方常见问题解答(FAQ)

来自欧盟委员会 AI 办公室的全面常见问题解答,涵盖适用范围、定义、时间表、义务与实施。

> **AI Omnibus 2026——高风险日期已推迟。** 本 FAQ 转载了欧盟委员会的官方文本,其中引用的是 *原* 第 113 条的高风险日期。AI Omnibus 2026 将其推迟:附件 III / 第 6(2) 条 → **2027 年 12 月 2 日**(自 2026 年 8 月 2 日推迟);附件 I / 第 6(1) 条 → **2028 年 8 月 2 日**(自 2027 年 8 月 2 日推迟);第 111(2) 条遗留规则截止日 → **2027 年 12 月 2 日**。**未**推迟的包括:第 50 条透明度要求、2026 年 8 月 2 日的全面适用/执法起始日期,以及第 57 条监管沙盒。有关执行日期,参见 `../../../ai-act-high-risk/references/ai-omnibus-timeline-postponements.md`。

| 方面 | 详情 |
|--------|--------|
| 机构 | 欧盟委员会——AI 办公室 |
| 日期 | 持续更新(定期更新) |
| 来源 URL | https://ai-act-service-desk.ec.europa.eu/faq_en |
| NotebookLM 来源 ID | 3a67651c-... |

*德文:Offizielles FAQ des AI Act Service Desk der Europäischen Kommission*

---

本常见问题解答清单系根据 AI 公约(AI Pact)网络研讨会期间收到的咨询以及利益相关方的提交材料汇编而成。本清单将根据需要定期更新。

## AI 法案:一般问题

### 什么是 AI 法案,其目标是什么?

欧盟《人工智能法案》(EU AI Act)是全球首部全面的人工智能法律。其目标是在促进人工智能创新与普及的同时,确保健康、安全以及包括民主与法治在内的基本权利得到高水平保护。

人工智能系统的普及具有带来社会效益、经济增长并提升欧盟创新能力与全球竞争力的巨大潜力。然而,在某些情况下,特定人工智能系统的特有特征可能产生与用户安全(包括人身安全)及基本权利相关的风险。一些被广泛使用的强大 AI 模型还可能带来系统性风险。

由于缺乏信任,这导致法律不确定性,并可能减缓公共机构、企业和公民对 AI 技术的采用。各国监管机构各自为政的监管回应可能造成内部市场碎片化的风险。

为应对上述挑战,需要采取立法行动,以确保人工智能系统和模型在内部市场运作良好,使利益与风险均得到妥善处理。

相关资源:
- [人工智能——问与答](https://ec.europa.eu/commission/presscorner/detail/en/qanda_21_1683)

### AI 法案监管哪些类型的系统?

AI 法案并非适用于所有 AI 解决方案,仅适用于符合《AI 法案》第 3(1) 条含义内"AI 系统"定义的那些系统。

AI 法案采用基于风险的方法,根据 AI 系统可能带来的风险水平为其设定规则。对健康、安全或《基本权利宪章》所载基本权利构成不可接受风险的任何 AI 实践均被禁止(例如用于检测工作场所员工情绪的人工智能系统(医疗和安全原因除外);某些社会评分实践)。对健康、安全或基本权利构成高风险的 AI 系统须满足特定要求,以确保其安全可信(例如用于边境管控管理、执法或自动驾驶汽车的人工智能系统均可视为高风险 AI 系统)。某些 AI 系统须满足透明度要求(例如,深度伪造须标注为 AI 生成;聊天机器人应告知用户其对话对象并非真人)。所有其他 AI 系统则不受监管,可在欧盟市场投放、投入使用或使用而无任何要求——在起草 AI 法案提案时,据估计此类系统约占 85%。

相关资源:
- [人工智能——问与答](https://ec.europa.eu/commission/presscorner/detail/en/qanda_21_1683)
- [委员会发布关于 AI 系统定义的指南](https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application)

### "基于逻辑"或"基于知识"的方法是否也属于 AI 系统定义的涵盖范围?

具体就 AI 系统的构建阶段而言,《AI 法案》序言第 12 段进一步澄清:"构建 AI 系统时实现推理的技术包括从数据中学习以实现特定目标的机器学习方法,以及从编码知识或待解决问题符号表示中进行推理的逻辑与知识方法。"这些技术应理解为"AI 技术"。

除通常被理解为 AI 技术的各种机器学习方法外,《AI 法案》序言第 12 段所述的第二类 AI 技术是"从编码知识或待解决问题符号表示中进行推理的逻辑与知识方法"。这类 AI 系统并非从数据中学习,而是从人类专家编码的规则、事实和关系等知识中学习。

基于人类专家编码的知识,这些系统可通过演绎或归纳推理引擎,或借助排序、搜索、匹配和链接等操作进行"推理"。此类系统通过逻辑推理得出结论,将形式逻辑、预定义规则或本体论应用于新情境。逻辑与知识方法包括:知识表示、归纳(逻辑)编程、知识库、推理与演绎引擎、(符号)推理、专家系统以及搜索与优化方法。

### AI 模型与 AI 系统有何区别?是否会发布相关指南?

AI 法案对第 3(1) 条定义的 AI 系统与第 3(63) 条定义的通用人工智能(GPAI)模型作了区分。

AI 法案将 AI 模型定义为"AI 系统的基本组成部分。它们本身不构成 AI 系统。AI 模型需要增加其他组件(例如用户界面)才能成为 AI 系统。AI 模型通常被集成到 AI 系统中并构成其组成部分"(序言第 97 段)。"大型生成式 AI 模型是通用人工智能模型的典型例子,因为它们能够灵活生成文本、音频、图像或视频等内容,可轻松适应各种不同的任务"(序言第 99 段)。

AI 法案将 AI 系统定义为"一种基于机器的系统,设计为以不同程度的自主性运行,且可能在部署后表现出适应性,并为明示或默示目标,根据其接收的输入推断如何生成能够影响物理或虚拟环境的输出,如预测、内容、建议或决策"(第 3(1) 条,序言第 12 段)。

更多信息,请参阅[人工智能系统定义指南](https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application)。

相关资源:
- [人工智能——问与答](https://ec.europa.eu/commission/presscorner/detail/en/qanda_21_1683)

### "基于风险的方法"是什么意思?

AI 法案采用基于风险的方法,将 AI 系统分为四个不同的风险类别:不可接受风险、高风险、透明度风险以及最低至无风险。

对于不可接受风险类别,AI 法案列出了被禁止的具体实践(《AI 法案》第 5 条)。高风险 AI 系统依据《AI 法案》第 6 条并结合附件 I([欧盟统一立法清单](https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng#anx_I))和附件 III 界定。附件 III 涵盖八个领域,在这些领域中使用 AI 可能特别敏感,并列出了共同立法者评估认为对健康、安全和基本权利构成重大风险的具体用例。对于透明度特别重要的某些 AI 系统,规定了透明度规则。所有其他 AI 系统被视为"最低至无风险"AI 系统,AI 法案未对其设定任何义务。这些系统的提供者可自愿选择适用可信 AI 要求并遵守自愿行为准则。

### 高风险、透明度风险和最低风险 AI 系统的义务是什么?

根据风险水平的不同,与特定 AI 系统相关的义务和要求将有所不同。

高风险 AI 系统的提供者须确保其高风险 AI 系统在投放市场或投入使用前符合 AI 法案的要求。此类要求的示例包括:建立风险管理体系、记录日志、确保数据质量和数据治理,以及人工监督。此外,提供者还须在欧盟数据库中注册其系统,并为部署者附上使用说明。

透明度风险系统(如聊天机器人、AI 社交伴侣或深度伪造)的提供者须遵守某些透明度义务。这包括例如告知自然人其正在与 AI 系统交互,或确保 AI 生成的内容能够被识别为 AI 生成。能够生成或操纵内容的系统部署者须披露该内容系由 AI 生成。

AI 法案未对最低风险 AI 系统规定义务,但成员国可推动为非高风险 AI 系统制定自愿行为准则。

### AI 法案是否适用于已在市场上使用的系统?

AI 法案并非自动适用于其适用日期之前在市场上投放的所有 AI 系统。相反,合规义务根据类别以及系统是否发生重大修改而分阶段适用。

AI 法案将自 2030 年 12 月 31 日起适用于作为附件 X 所列法律文件设立的大型 IT 系统组成部分、且于 2027 年 8 月 2 日之前已投放市场或投入使用的 AI 系统。若此类大型 IT 系统在 2030 年 12 月 31 日之前被评估,或附件 X 中的法律文件被替换或修订,则应考虑 AI 法案的适用。

AI 法案还将适用于 2026 年 8 月 2 日之前已投放市场或投入使用的高风险 AI 系统,但仅限于该系统发生重大修改的情形。AI 法案还将自 2030 年 12 月 31 日起适用于 2026 年 8 月 2 日之前已投放市场或投入使用、且(拟)由公共机关使用的高风险 AI 系统。

最后,AI 法案将自 2027 年 8 月 2 日起适用于 2025 年 8 月 2 日之前已投放市场的通用人工智能模型。

然而,关于被禁止的 AI 实践(第 5 条)的规则适用于所有 AI 系统,无论其投放市场的日期如何。

### 应如何处理不断演进的 AI 系统?

原则上,AI 系统的演进不产生法律影响。但是,就高风险 AI 系统而言,此类演进应在风险管理框架及相关合规义务内予以预见和处理。当 AI 系统发生实质性修改时,可能引发法律后果,包括根据 AI 法案需要重新进行合格评定。

### 是否建议企业内部设立"AI 官"或治理委员会?

AI 法案不要求企业内部设立任何特定的内部治理结构。

但是,根据第 17(1)(m) 条,**高风险 AI 系统的提供者**应建立质量管理体系,该体系应包括问责框架,明确管理层及其他工作人员就《AI 法案》第 17 条所列质量管理体系相关各个方面的职责。

### 如何获得 AI 相关资助计划?

欧盟委员会的[欧盟资助与招标门户网站](https://ec.europa.eu/info/funding-tenders/opportunities/portal/screen/home)是查找欧盟各类资助机会(包括 AI 相关机会)的中心平台。在资助计划中,特别值得关注的是"地平线欧洲"(Horizon Europe)和"数字欧洲计划"(Digital Europe Programme)。在地平线欧洲框架内,有多个相关领域,即集群 4 和欧洲创新理事会。其他领域如自下而上的欧洲研究理事会也可能相关。

GenAI4EU 旗舰计划为在欧洲战略部门开发与部署可信、生成式人工智能提供了大量机会。该计划已投入近 7 亿欧元,为帮助欧洲更具竞争力和创新性提供了大量机遇。专门[网站](https://digital-strategy.ec.europa.eu/en/policies/genai4eu)概述了地平线欧洲和数字欧洲计划下可用的各类提案征集。

相关资源:
- [欧盟资助与招标门户网站](https://ec.europa.eu/info/funding-tenders/opportunities/portal/screen/home)
- [GenAI4EU:提升"欧洲制造"生成式 AI 的资助机会](https://digital-strategy.ec.europa.eu/en/policies/genai4eu)

## 治理与执法——时间表

### AI 法案何时生效?其实施时间表如何?

AI 法案分阶段适用,至 2027 年 8 月 2 日全面实施。

- 禁止性规定、定义及与 AI 素养相关的条款自 2025 年 2 月 2 日起适用;
- 治理规则及通用人工智能模型义务自 2025 年 8 月 2 日起适用;
- 附件 III 所列高风险系统的义务、透明度要求(第 50 条)及支持创新的措施将自 2026 年 8 月 2 日起适用。该日期同时也是 AI 法案执法启动之日;
- 因嵌入受监管产品而被归类为高风险的 AI 系统(见附件 I([欧盟统一立法清单](https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng#anx_I)))的义务将于 2027 年 8 月 2 日生效。

相关资源:
- [欧盟 AI 法案实施时间表](https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act)

### 近期是否预期对 AI 法案进行修订?

AI 法案被设计为一项灵活且面向未来的法规,能够使规则适应技术的快速发展、AI 系统使用的潜在变化及新兴风险。

虽然总体而言 AI 法案只能通过立法程序修订,但在某些情况下,委员会有权修订 AI 法案的特定部分。例如,委员会可调整 AI 法案的以下部分:

- 附件 III 中的高风险用例清单。委员会有义务进行年度审查,评估是否需要变更该清单。
- 通用人工智能模型被推定具有高影响能力并被归类为构成系统性风险的阈值。

委员会还定期评估 AI 法案是否需要其他变更,并向欧洲议会和理事会报告。此类定期评估直接在 AI 法案中作了规定。

## 数字综合法案——拟议修订

### 欧盟委员会为何提议修订 AI 法案?

AI 法案于 2024 年 8 月 1 日生效。其适用采取分阶段推进的方式,部分内容已经适用,如某些禁止性规定、AI 素养要求及通用人工智能模型规则。法案的其他部分定于 2026 年 8 月 2 日和 2027 年 8 月 2 日适用。

这种渐进式实施使我们能够基于适用首批规则所积累的经验不断改进。委员会致力于持续学习并加大工作力度。对于 AI 这样快速发展的技术而言,这一点尤为重要。

2025 年全年的利益相关方磋商揭示了实施中需要解决的挑战,以便 AI 法案能够成功落地。本提案正是为此提出立法修订,并补充了正在进行的促进 AI 法案合规的举措,如启动 AI 法案服务台。

### 对 AI 法案提出的主要修改是什么?

委员会致力于按照《AI 大陆行动计划》和《应用 AI 战略》所述,实现 AI 法案清晰、简单且有利于创新的实施。委员会的提案通过以下方式使 AI 法案符合这一方针:

**将规则的适用时间与支持工具的可用性挂钩**

- 将高风险 AI 规则的适用与标准等支持工具的可用性挂钩。委员会正在将高风险规则的适用时间表调整为最长 16 个月。

**引入简化措施:**

- 将某些简化履行法律义务的模式从中小企业(SME)扩展至小型中型市值公司(SMC),例如简化技术文档;
- 要求委员会和成员国促进 AI 素养,并通过在既有工作基础上(如 AI 办公室的 [AI 素养实践库](https://digital-strategy.ec.europa.eu/en/library/living-repository-foster-learning-and-exchange-ai-literacy))为企业提供持续支持,而不是对运营者施加不明确的义务,同时保留高风险部署者的培训义务;
- 取消对统一化上市后监测计划的强制性规定,为企业提供更大灵活性;
- 减少在非高风险任务中使用的高风险领域 AI 系统的注册负担。

**提升 AI 法案治理的有效性:**

- 将基于通用人工智能模型构建的 AI 系统的监督集中于 AI 办公室,以减少此类模型和系统的开发者的治理碎片化;
- 将嵌入超大型在线平台和搜索引擎的 AI 的监督集中于委员会层面,由 AI 办公室承担该项监督职责。

**扩展支持合规的措施:**

- 允许提供者和部署者在采取适当保障措施的前提下,处理特殊类别的个人数据以确保偏见检测与纠正;
- 扩大 AI 监管沙盒和真实世界测试的使用,使更多创新者受益于这些工具。这包括从 2028 年起建立欧盟层面的监管沙盒以支持真实世界测试。

**改进 AI 法案的程序与运作:**

- 澄清 AI 法案与其他欧盟法律之间的相互作用。简化程序以促进合格评定机构及时到位。

### 这些修改将如何惠及企业?

根据委员会的初步估算,拟议的 AI 相关措施预计将降低欧盟各地企业的合规成本。

同时,通过将授予中小企业的优惠扩展至包括小型中型市值公司(SMC),委员会使欧洲另外 8,250 家公司的实施更加便利。

总体而言,委员会提出的方案将帮助企业履行其义务,也为在欧盟开展更多创新打开了机会之门,进一步推动旨在为可信 AI 创造单一市场的监管框架的实施。

### 提出了哪些新的时间表?

该提案承认标准及其他支持工具的延迟对 AI 法案实施造成的挑战。

高风险 AI 规则的时间表与标准和其他支持工具的可用性保持一致。一旦委员会确认这些工具已充分可用,相关规则将在过渡期后开始适用。

这种灵活性有截止日期:就业和执法等敏感领域(附件 III)的高风险 AI 规则在任何情况下最晚比原定时间晚 16 个月适用,嵌入医疗器械等产品中的高风险 AI(附件 I)的规则最晚晚 12 个月适用。

该提案还建议为需要追溯性地将技术解决方案纳入其生成式 AI 系统以使其可被识别的提供者提供 6 个月的过渡期。

## AI 素养(第 4 条)

### 《AI 法案》第 4 条所述的 AI 素养是什么?

《AI 法案》第 4 条提到的 AI 素养概念依赖于该法案第 3(56) 条中对该术语的定义,根据该定义:"AI 素养"是指使提供者、部署者和受影响人员能够在考虑其在本条例下各自权利和义务的情况下,做出知情的 AI 系统部署决定,并了解 AI 的机会、风险及其可能造成的损害的技能、知识和理解。

在此阅读完整的 [AI 素养常见问题解答](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)。

相关资源:
- [AI 素养——问与答](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)
- [促进 AI 素养学习与交流的活态资源库](https://digital-strategy.ec.europa.eu/en/library/living-repository-foster-learning-and-exchange-ai-literacy)
- [第三次 AI 公约网络研讨会:AI 素养](https://digital-strategy.ec.europa.eu/en/events/third-ai-pact-webinar-ai-literacy)

### 企业如何确保 AI 能力(例如员工培训)?

没有放之四海而皆准的方法。这取决于企业所处理的 AI 系统类型以及相关员工的知识水平。不过,并无外部培训或外部认证的义务。

请进一步参阅 [AI 素养——问与答](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)。

相关资源:
- [AI 素养——问与答](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)

### 委员会是否会为 AI 官提供培训材料或课程?

AI 法案不要求公司指定 AI 官。但是,AI 法案要求 AI 系统的提供者和部署者尽最大努力确保其员工以及代表其处理 AI 系统运行和使用的其他人员具备足够水平的 AI 素养。

委员会发布了[促进 AI 素养学习与交流的活态资源库](https://digital-strategy.ec.europa.eu/en/library/living-repository-foster-learning-and-exchange-ai-literacy)、[AI 素养问与答](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)以及[关于 AI 素养的网络研讨会录像](https://digital-strategy.ec.europa.eu/en/events/third-ai-pact-webinar-ai-literacy)。该资源库将持续扩充。网上有许多免费的在线培训课程。选择取决于相关员工的具体技能。

相关资源:
- [促进 AI 素养学习与交流的活态资源库](https://digital-strategy.ec.europa.eu/en/library/living-repository-foster-learning-and-exchange-ai-literacy)
- [AI 素养——问与答](https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers)
- [第三次 AI 公约网络研讨会:AI 素养](https://digital-strategy.ec.europa.eu/en/events/third-ai-pact-webinar-ai-literacy)

## 被禁止的 AI 实践

### 哪些 AI 系统被禁止?

《AI 法案》第 5 条的禁止性规定包括:某些操纵性实践、社会评分、仅基于画像的预测性警务、抓取互联网和监控摄像头资料以建立或扩展人脸识别数据库、教育和职场中的情绪识别、推断政治观点或性取向等敏感属性的生物识别分类,以及为执法目的在公共场所进行的实时远程生物识别(有少数有限例外)。

更多信息,请参阅[被禁止的人工智能实践指南](https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act)。

### 《AI 法案》第 5 条禁止哪些系统(例如社会评分、情绪识别)?

第 5 条的禁止性规定包括:某些操纵性实践、社会评分、仅基于画像的预测性警务、抓取互联网和监控摄像头资料以建立或扩展人脸识别数据库、教育和职场中的情绪识别、推断政治观点或性取向等敏感属性的生物识别分类,以及为执法目的在公共场所进行的实时远程生物识别(有少数有限例外)。

### 是否会就被禁止的 AI 系统发布指南?

[指南已于 2025 年 2 月发布](https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act)。

相关资源:
- [委员会发布关于被禁止的人工智能(AI)实践的指南](https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act)

### 在工作场所/教育环境中或为此类目的(例如员工监控)使用情绪识别是否被禁止?

将用于推断自然人在工作场所和教育机构环境中情绪的 AI 系统投放市场、为此特定目的投入使用或使用,均被禁止。但是,当 AI 系统拟出于医疗或安全原因安装或投放市场时,该禁止不适用于此类 AI 系统的使用。

## 高风险 AI 系统

### 关于高风险 AI 系统分类的指南何时发布?

委员会目前正在编制高风险 AI 系统分类指南,预计于 2026 年 2 月发布。

### 附件 III 的用例清单与领域清单有何区别?

附件 III 包含八个领域,并为每个领域列出了具体的用例,欧盟共同立法者评估认为这些用例对健康和安全或基本权利构成高危害风险。

简言之,领域在附件 III 中作为条目列举(例如第 1 点——生物识别,第 2 点——关键基础设施,第 3 点——教育与职业培训等)。用例列于每个领域之下。例如,附件 III 第 6 点涵盖执法领域,其中包括五个用例((a)-(e))。

要归类为高风险,AI 系统必须属于附件 III 的一个领域_并且_与该领域中列出的一个用例相对应。换言之,并非在某一特定领域(如执法)使用的所有 AI 系统都被自动视为高风险;只有属于附件 III 中确定的具体用例的系统才符合条件。

### 高风险 AI 系统的提供者需要哪些文件/评估以符合 AI 法案?

《AI 法案》第 16 条概述了高风险 AI 系统的提供者为遵守 AI 法案须遵循的义务。

在将其高风险 AI 系统投放市场或投入使用之前,此类系统的提供者须确保其高风险 AI 系统符合《AI 法案》第 8-15 条并已通过合格评定。应国家主管机关的合理要求,应能证明这种符合性。

完成合格评定后,提供者须起草欧盟符合性声明,并在系统(或其包装或随附文件)上加贴 CE 标志,同时在高风险 AI 系统上标注联系信息以便联系。提供者还须在欧盟数据库中注册其高风险 AI 系统。

此外,提供者须遵守《AI 法案》第 17-20 条:建立质量管理体系、将文件保存 10 年、保存高风险 AI 系统自动生成的日志,并采取必要的纠正措施并提供与这些措施相关的信息。

最后,高风险 AI 系统的提供者须确保其系统符合相关无障碍要求。

### 位置数据在 AI 法案下是否属于生物识别数据?

位置数据通常不属于生物识别数据。因此,它既不属于附件 III 第 1 点所列的高风险用例,也不属于第 5(1)(g) 条规定的被禁止实践。

### 生物识别系统(例如用于银行安保的人脸识别)是否被允许?

大多数生物识别 AI 系统在 AI 法案下并不被禁止。涉及生物识别系统的被禁止 AI 实践是有限的,主要包括:工作场所的情绪识别、某些生物识别分类系统,以及为执法目的在公共场所进行的实时远程生物识别。这些均受制于严格限定的例外。

但是,有一些额外规则适用于被允许的生物识别系统。特别是,某些生物识别应用被视为高风险(远程生物识别系统、某些用于生物识别分类的 AI 系统,以及用于情绪识别的 AI 系统)。AI 法案为高风险 AI 系统规定了具体要求。这些要求除其他外涉及数据和数据治理、文件与记录保存、透明度和向用户提供信息、人工监督、稳健性、准确性和安全性。

使用 AI 系统进行生物识别验证——即确认某个人确为其自称之人——在 AI 法案下不被禁止,也不属于高风险系统类别。

更多信息,请参阅[被禁止的人工智能实践指南](https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act)。

### 人工监督要求意味着什么?

欧盟 AI 法案强调人工监督对高风险 AI 系统的重要性。这意味着这些系统的设计和开发必须使人类能够在其使用期间进行监控。应配备适当的工具和措施,帮助人们有效监督 AI,确保对健康、安全或基本权利的任何风险得到预防或最小化。系统在使用期间,人工监督还包括由部署者实施的适当措施。这些措施应在使用说明中予以描述,并应有效且与风险、系统的自主性水平以及高风险 AI 系统的使用情境相称。

部署者应实施人工监督措施,并将此任务分配给具备必要能力、培训、权限以及必要支持的自然人。

### 高风险 AI 系统的中小企业提供者是否有简化合规路径?

AI 法案引入了一系列面向中小型企业(SME)量身定制的支持措施。这些措施包括:可以编制简化技术文档,以及为高风险 AI 系统实施简化的质量管理体系。中小企业还可免费使用 AI 监管沙盒,使其能够在受控环境中测试和开发 AI 系统。此外,根据第 62 条,欧盟委员会和国家主管机关有义务为中小企业提供具体支持措施。通过咨询论坛中的特别成员类别,中小企业的利益得到进一步代表,确保其需求在监管过程中得到考虑。最后,中小企业在施加处罚时享有特别考虑,这反映了其在市场中的特殊地位以及制裁的潜在影响。

## 通用人工智能模型

### 什么是通用人工智能(GPAI)系统?

当通用人工智能模型被集成到 AI 系统中或构成 AI 系统的组成部分时,如果该集成使其获得服务于多种目的的能力,则所产生的系统应被视为通用人工智能系统。通用人工智能系统可以直接使用,也可以嵌入其他 AI 系统中。

鉴于其多功能性,通用人工智能系统可以其自身名义用作高风险 AI 系统,或作为其他高风险 AI 系统的组成部分。为确保 AI 价值链中责任的公平分配,通用人工智能系统的提供者应与相关高风险 AI 系统的提供者密切合作,除非本条例另有规定。这种合作应使高风险 AI 系统提供者能够履行其在本条例下的义务,并促进与依本条例设立的负责主管机关的互动。

相关资源:
- [通用人工智能行为准则——问与答](https://digital-strategy.ec.europa.eu/en/faqs/questions-and-answers-code-practice-general-purpose-ai)
- [AI 法案中的通用人工智能模型——问与答](https://digital-strategy.ec.europa.eu/en/faqs/general-purpose-ai-models-ai-act-questions-answers)

### AI 代理在 AI 法案下如何处理?

"AI 代理"一词在公开讨论中常常使用不一致,部分原因在于 AI 代理与其他类型 AI 之间的界限模糊且仍在演变。尽管如此,人们普遍认同 AI 代理必须能够接收和处理来自其环境的输入,并基于这种处理执行可能与其环境交互或影响其环境的动作(例如发出函数调用)。"智能体 AI"(Agentic AI)一词有时用于描述集成多个 AI 代理的更复杂配置。然而,这两个术语之间的确切相互关系仍在演变。

_通常_,AI 代理将至少包含一个通用人工智能(GPAI)模型,并构成一个 AI 系统,因为它通常具有某种形式的界面,该界面被视为系统组件(《AI 法案》序言第 97 段)。要作出比"通常"更精确的表述很困难,因为"AI 代理"一词没有法律定义,且被口语化地用于各种不同类型的制品。因此,虽然 AI 代理不是 AI 法案下的单独 AI 类别,但《AI 法案》第 3(1) 条对 AI 系统的定义和第 3(63) 条对 GPAI 模型的定义足以涵盖 AI 代理。这意味着 AI 法案下适用于 AI 系统和 GPAI 模型的规则也适用于 AI 代理。

在 AI 系统的规则中,特别相关的是 AI 法案对有害操纵和利用脆弱性的禁止(《AI 法案》第 5(1) 条第 (a) 和 (b) 项),遵守这些规定可能需要在 AI 代理的设计和开发中设置保障措施,以避免合理可能造成重大伤害的被禁止实践。自 2026 年 8 月 2 日起,如果 AI 代理被归类为高风险 AI 系统,它还将受到确保其在预期用途下安全和可信的额外要求(《AI 法案》第三章)。此外,如果 AI 代理拟与自然人交互或生成内容,将适用透明度规则(《AI 法案》第 50 条)——一份用于落实这些规则的《行为准则》正在[制定中](https://digital-strategy.ec.europa.eu/en/library/first-draft-code-practice-transparency-ai-generated-content)。

关于通常构成 AI 代理基础的 GPAI 模型,模型的自主性水平或工具使用等因素可能在其被认定为具有系统性风险的模型时起决定性作用(《AI 法案》第 51(1)(b) 条、附件 XIII 第 (e) 点)。此外,具有系统性风险的 GPAI 模型的提供者须履行风险管理义务,其中包括考虑模型的自主能力及其代理性使用(例如在[《GPAI 行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)安全和安保章节的措施 5.1 第 7 点、附录 1.3.1 第 (5) 和 (7) 点、附录 1.3.3 第 (1)、(4) 和 (12) 点,或附录 3.2 第二段中加以落实)。

鉴于与 AI 代理相关的发展是近期且快速演变的,欧盟委员会现阶段仅持初步监管考虑。AI 办公室继续密切监测这些发展,如有必要,将考虑制定战略以应对 AI 代理构成的潜在风险。例如,AI 办公室最近就 AI 安全技术援助发布的[招标公告](https://digital-strategy.ec.europa.eu/en/funding/eu-ai-office-launches-eu9-million-tender-technical-support-gpai-safety)中包含一个专门用于评估 AI 代理安全与安保的标段。

### AI 代理如何融入 AI 法案下的 GPAI 框架?

虽然 AI 代理不是 AI 法案下的单独类别,但它们可能需要遵守 AI 系统的要求和/或通用人工智能模型提供者的义务。特别相关的是 AI 法案对有害操纵或利用脆弱性的禁止,这可能要求在智能体 AI 系统的设计中设置技术保障措施。如果智能体 AI 系统被归类为高风险,则须遵守确保其安全和可信的额外要求。

此外,如果智能体 AI 系统拟与自然人交互或生成内容,将适用透明度规则(更多信息,参见[这些常见问题解答](https://digital-strategy.ec.europa.eu/en/faqs/guidelines-and-code-practice-transparent-ai-systems)和[本次咨询](https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-develop-guidelines-and-code-practice-transparent-ai-systems))。就通用人工智能模型而言,模型的自主性水平或工具使用等因素可能在其被认定为具有系统性风险时起决定性作用。具有系统性风险的通用人工智能模型提供者须履行风险管理义务,其中包括考虑模型的自主能力及其代理性使用。

鉴于相关发展是近期且快速演变的,加上对何谓 AI 代理的理解差异很大,欧盟委员会现阶段仅持初步监管考虑。欧盟委员会继续密切监测 AI 代理的发展,如有必要,将考虑采取相应行动。例如,AI 办公室最近就 AI 安全技术援助发布的[招标公告](https://ec.europa.eu/info/funding-tenders/opportunities/portal/screen/opportunities/tender-details/76f9edf2-d9e2-4db2-931e-a72c5ab356d2-CN)中包含一个专门评估 AI 代理安全与安保的标段。

### AI 法案适用于哪些 AI 模型?

AI 法案除其他外,对投放欧盟市场的通用人工智能模型进行监管,包括其开发和使用。关于在何种条件下 AI 模型被视为"通用",请参阅"模型何时符合通用人工智能模型的资格?"这一问题以及[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2.1 节。

"投放市场"是指在商业活动中首次向欧盟市场供应 AI 系统或通用人工智能模型以供分销或使用,无论有偿还是免费(《AI 法案》第 3(9)(10) 条)。何者构成投放市场的一些示例可参见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 3.1.2 节。

开源发布可构成投放市场。值得注意的是,模型的商业供应可以是免费的(《AI 法案》第 3(10) 条)。但是,不构成系统性风险的开放源代码通用人工智能模型的提供者被豁免于某些义务。更多信息,请参阅"AI 法案如何适用于以开源方式发布的通用人工智能模型?"这一问题以及[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 4 节。

通用人工智能模型的内部使用至少在以下情况下构成投放市场:该使用对于向欧盟市场第三方提供产品或服务必不可少,或该使用影响欧盟境内自然人的权利。更多示例见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 3.1.2 节。

专门为科学研究与开发的唯一目的而开发并投入使用的 AI 模型不属于 AI 法案的适用范围(《AI 法案》第 2(6) 条)。

### 模型何时符合通用人工智能模型的资格?

《AI 法案》第 3(63) 条将"通用人工智能模型"定义为"一种 AI 模型,包括以大规模数据在规模上自监督方式训练的 AI 模型,该模型表现出显著的通用性,能够胜任地执行范围广泛的各种不同任务,无论该模型以何种方式投放市场,并且可以集成到各种下游系统或应用中,但投放市场前用于研究、开发或原型制作活动的 AI 模型除外"。这一定义概括性地列举了决定模型是否为通用人工智能模型的因素。然而,它并未设定潜在提供者可用来评估其模型是否为通用人工智能模型的具体标准。

[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2.1 节提供了一个指示性标准:**如果用于训练模型的计算资源超过 10^23 次浮点运算,且该模型能够生成语言(文本或音频)、文生图或文生视频,则该模型被视为通用人工智能模型**。这一计算阈值对应于在大型数据集上训练具有十亿参数模型的典型计算量。此外,所选模态能够实现灵活的内容生成,从而适应各种不同的任务。然而,这并非绝对规则——符合此标准的模型若缺乏显著通用性,可能在例外情况下不符合通用人工智能模型的资格;而低于此阈值的模型如果表现出显著通用性并能胜任地执行广泛任务,仍可能属于通用人工智能模型。

### 通用人工智能模型何时属于具有系统性风险的模型?

如果通用人工智能模型满足以下两个条件中的任一条件,则被归类为具有系统性风险的通用人工智能模型。

第一,如果其能力达到或超过最先进模型的能力。**AI 法案推定,训练累计计算资源超过 10^25 次浮点运算的模型具备此类能力**(《AI 法案》第 51(2) 条)。设定该阈值的依据是:使用如此规模的计算量表明,该模型可能因其影响力或对公共健康、安全、安保、基本权利或社会的潜在负面影响而显著影响欧盟市场。欧盟委员会应在必要时调整该阈值以考虑技术发展。

第二,如果模型的能力或影响相当于最先进模型,欧盟委员会可以主动或应科学小组的合格警示,将该模型指定为具有系统性风险的通用人工智能模型(《AI 法案》第 51(1)(b) 条)。这考虑到存在一些模型虽未达到计算阈值但可能呈现系统性风险。

对于满足任一条件的模型,其提供者必须履行额外义务,包括评估和缓解系统性风险(参见"具有系统性风险的通用人工智能模型有哪些额外要求?"这一问题)。

累计训练计算量低于 10^25 次浮点运算的模型提供者,除非其模型被欧盟委员会指定为呈现系统性风险,否则无需将其模型通知欧盟委员会,也无需遵守安全与安保义务。

### 提供者应在何时评估其模型是否会成为通用人工智能模型和/或具有系统性风险的通用人工智能模型?

训练通用人工智能模型(无论是否具有系统性风险)需要预先分配大量计算资源。因此,提供者在训练完成前就能知道其模型是否满足[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2.1 节给出的构成通用人工智能模型的指示性标准,或《AI 法案》第 51(2) 条的累计训练计算阈值(《AI 法案》序言第 112 段)。特别是,提供者应在大规模预训练开始前估计其模型是否会成为通用人工智能模型(累计训练计算量超过 10^23 次浮点运算)以及是否会成为具有系统性风险的通用人工智能模型(累计训练计算量超过 10^25 次浮点运算)。

一旦模型超过《AI 法案》第 51(2) 条设定的 10^25 次浮点运算累计训练计算阈值,或提供者知道模型将超过该阈值,提供者有两周时间通知欧盟委员会(《AI 法案》第 52 条)。关于通知的更多信息,请参见"如果通用人工智能模型高于此类具有系统性风险模型的计算阈值,是否始终被认为具有系统性风险?"。

### 累计训练计算量估算(包括合成数据)的方法是什么?

提供者可以选择自己的方法,以浮点运算为单位计算/估算累计训练计算量。[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)在其附件中提供了两种可能的方法:基于架构的方法和基于硬件的方法;以及关于计算中应包含/排除内容的通用原则。用于生成合成数据——即由算法(包括其他模型)而非从真实世界来源收集的人工创建的训练数据——的计算量,如果合成数据不公开可获取,则必须计入累计训练计算量,除使用该合成数据训练所需的计算量之外。但是,父模型(即生成合成数据的模型)的累计训练计算量无需计入计算/估算。

### 如果通用人工智能模型高于此类具有系统性风险模型的计算阈值,是否始终被认为具有系统性风险?

提供者可以在达到《AI 法案》第 51(2) 条计算阈值时,对自动归类为具有系统性风险的通用人工智能模型提出异议。例如,**他们可以通过提供证据证明其模型的能力未达到或超过最先进模型中记录的能力,来反驳其模型具有高影响能力的推定**。[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2.3 节就如何做到这一点提供了进一步指导。如果欧盟委员会接受提供者的论证,该模型将不再被归类为具有系统性风险,从而自接受之时起减轻提供者就该特定模型承担的义务。

按照 AI 法案协作性与相称性适用的原则以及提供者享有良好行政的权利,欧盟委员会可以在通知之后考虑提供者提交的新信息(一旦可得)。此外,欧盟委员会接受或拒绝提供者论证的决定可以考虑到所提供信息中的不确定性,并相应地为未来可能的重新评估设定条件。但是,具有系统性风险的通用人工智能模型提供者的义务自该模型满足《AI 法案》第 51(1)(a) 条条件(即通过达到计算阈值而被推定为高影响能力)之时起适用。

### 内置安全措施(如输出过滤器)是否影响作为具有系统性风险的通用人工智能模型的分类?

一般来说,不影响。可以依靠安全措施来缓解源自提供者的具有系统性风险的通用人工智能模型的系统性风险。但是,缓解措施并不改变模型呈现(可接受的)系统性风险这一事实。如果模型即使未实施安全与安保措施也不呈现系统性风险,提供者可以根据《AI 法案》第 52(2) 条对自动分类提出异议(参见"如果通用人工智能模型高于此类具有系统性风险模型的计算阈值,是否始终被认为具有系统性风险?")。

### 每次大规模发布 AI 模型是否也是 AI 法案意义上的新模型?

欧盟委员会认为,如果由同一提供者或代表同一提供者进行,模型在其大规模预训练之后的下游任何后续开发都属于同一模型生命周期的一部分,因此属于同一模型(参见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2.2 节)。**如果另一主体修改模型,则适用不同的考虑**(参见"如果通用人工智能模型被原提供者以外的另一主体修改,修改主体是否成为提供者?"以及[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 3.2 节)。

欧盟委员会经过认真考虑后选择了这种对模型的理解。在现代 AI 开发中,模型投放市场后进行小规模迭代修改很常见。提供者还经常对其已投放市场的模型进行更重要的后训练,由此产生的修改后模型以新名称推向市场,口语中被称为"新模型"。由于我们对技术的理解仍在演变,目前很难为"在将后续模型版本区分为不同模型时,何种修改构成相关或不相关修改"划定良好边界。因此,就目前而言,欧盟委员会认为由同一提供者从同一次大规模预训练衍生出的每一个模型版本都是同一模型,以提供法律确定性。由此可知,按照指南中的解释,并非提供者标榜的每一次"发布"都必然是 AI 法案意义上的新模型。确定"发布"是否构成新模型可能需要有关训练过程的非公开技术细节。

由于在 2025 年 8 月 2 日之前投放市场的模型仅需自 2027 年 8 月 2 日起遵守 AI 法案(《AI 法案》第 111(3) 条),这一过渡期可能仍然适用于现在发生的"发布"。

### 就模型而言,AI 法案适用于哪些主体或角色?

与 AI 系统的规定(涵盖提供者、部署者、进口商或分销商等多种角色)不同,通用人工智能模型的规定仅规范"提供者"。此处的"提供者"是指开发通用人工智能模型或委托他人开发通用人工智能模型,并以自己名义或商标将其投放市场(无论有偿还是免费)的任何人(《AI 法案》第 3(3) 条)。重要的是,"投放市场"指的是**首次**在欧盟市场商业供应该模型以供分销或使用(《AI 法案》第 3(9)(10) 条)。

例如,雇主向其员工提供已在欧盟市场上可用的模型的许可证,既不被视为该模型的提供者,也无需根据 AI 法案核验其合规性。但是,如果下游主体将已在欧盟市场上可用的模型集成到其 AI 系统中,则可能面临 AI 法案关于 AI 系统的规定下的义务。

### 如果通用人工智能模型被原提供者以外的不同主体修改,修改主体是否成为提供者?

欧盟委员会认为,只有在下游修改者导致模型的通用性、能力或系统性风险发生重大变化时,该修改者才成为修改后通用人工智能模型的提供者。一个指示性标准是:用于修改的训练计算量大于原模型训练计算量的三分之一(关于"训练计算量"应如何理解,参见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)的附件)。但是,如果无法预期下游修改者知道该值且无法估算,则应按如下方式替换阈值。

如果原模型是具有系统性风险的通用人工智能模型,该阈值应替换为被推定为具有高影响能力的模型阈值的三分之一(即目前为 10^25 次浮点运算)。否则,应替换为被推定为通用人工智能模型的模型阈值的三分之一(即目前为 10^23 次浮点运算,参见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2.1 节)。

该阈值基于如下预期:以该计算量进行修改的模型将显示出重大变化,从而有理由使下游修改者承担通用人工智能模型(并可能为具有系统性风险的通用人工智能模型)提供者的义务。虽然目前满足此标准的修改可能很少,但随着用于修改模型的计算量增加,成为通用人工智能模型提供者的下游修改者数量可能会随时间增加。因此,该标准主要具有前瞻性,符合 AI 法案基于风险的方法。因此,欧盟委员会的方法可能随着技术和市场的发展在未来发生变化。

更多信息参见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 3.2 节。

### 主体能否通过合同确定谁是提供者?

AI 法案承认训练模型的主体可能并非在合同上、经济上和/或技术上主导开发的主体(参见第 3(3) 条中"已委托开发"的提供者定义)。模型在谁的权限下训练这一问题需要个案评估,除其他因素外可考虑合同关系。一些示例见[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 3.1.1 节。

### 自 2025 年 8 月 2 日起,通用人工智能模型的提供者在 AI 法案下承担哪些法律义务?

通用人工智能模型的提供者必须(《AI 法案》第 53 条):

- 编制并维护关于模型的技术文档,包括开发过程信息,以供应 AI 办公室的要求提供;国家主管机关在行使其监督职责确有必要时,也可以请求 AI 办公室代其索取信息;
- 向下游 AI 系统提供者提供信息和文档,帮助其了解模型的能力和局限性并履行自身义务;
- 实施符合欧盟版权法和相关权利的政策,包括通过最先进技术识别和尊重权利保留;发布用于训练模型的内容的足够详细的摘要;如果在欧盟境外设立,则须在将模型投放市场之前在欧盟指定授权代表。

提供者可以通过[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)(该准则已[被评估为充分](https://digital-strategy.ec.europa.eu/en/library/commission-opinion-assessment-general-purpose-ai-code-practice))或通过其他充分的替代方式证明合规。

### 具有系统性风险的通用人工智能模型有哪些额外要求?

除所有通用人工智能模型提供者的标准义务外,具有系统性风险的通用人工智能模型的提供者必须(《AI 法案》第 55 条):

- 使用标准化协议和最先进工具进行模型评估,包括开展对抗性测试并记录在案,以识别和缓解系统性风险;
- 评估并缓解可能源于这些模型的开发、投放市场或使用的欧盟层面可能存在的系统性风险及其来源;
- 毫不拖延地向 AI 办公室以及适当时向国家主管机关跟踪、记录和报告与严重事件相关的信息及可能的纠正措施;
- 确保模型及其物理基础设施均获得充分的网络安全保护,以防止未经授权的访问、盗窃或泄露。

此类模型的提供者可以通过遵守[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)证明合规,或展示其他充分的合规方式。如果提供者选择通过其他方式合规,他们必须提出论证说明为何这些方式是充分的,以供欧盟委员会评估。

### AI 法案如何适用于以开源方式发布的通用人工智能模型?

以开源方式发布的通用人工智能模型的提供者可被豁免于某些义务(《AI 法案》第 53(2)、54(6) 条),具体为:

- 为监管机关维护技术文档的要求;
- 向下游 AI 系统提供者提供文档的要求;
- 指定授权代表的要求(针对非欧盟提供者)。

这些豁免要求该通用人工智能模型:

- 根据免费开源许可发布,允许在不以盈利为目的的情况下访问、使用、修改和分发;
- 其参数(包括权重、架构和使用信息)公开可获取;
- 不是具有系统性风险的通用人工智能模型——具有系统性风险的通用人工智能模型的提供者必须遵守通用人工智能模型提供者的所有义务,无论该模型是否以开源方式发布。

这些豁免承认开源模型有助于研究和创新,同时通过其开放性已经提供了透明度。尽管如此,其模型符合上述开源要求的提供者并不被豁免于版权政策义务或发布训练数据摘要的要求(《AI 法案》第 53(1)(c)(d) 条),因为其开源性质并不必然使有关训练或修改模型所用数据的信息以及如何确保遵守版权法的信息可被获取。

欧盟委员会[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 4 节就开源豁免提供了进一步指导。

### 什么是《通用人工智能行为准则》?

[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)是一项自愿性工具,由独立专家通过多方利益相关方程序制定,旨在帮助行业遵守 AI 法案中通用人工智能模型提供者的义务,确保投放欧洲市场的通用人工智能模型(包括最强大的模型)安全透明。

它概述了通用人工智能模型及具有系统性风险的通用人工智能模型提供者证明遵守《AI 法案》第 53 条和第 55 条所规定义务的一种方式。

该准则分为三章:**透明度**和**版权**,均针对所有通用人工智能模型的提供者;以及**安全与安保**,仅适用于须遵守 AI 法案中具有系统性风险的通用人工智能模型提供者义务的少数最先进模型提供者。任何通用人工智能模型的提供者(或潜在的未来提供者)都可以通过填写[签署方表格](https://ec.europa.eu/newsroom/dae/redirection/document/118312)并发送至 [EU-AIOFFICE-CODE-SIGNATURES@ec.europa.eu](mailto:EU-AIOFFICE-CODE-SIGNATURES@ec.europa.eu) 来签署该准则。该表格应由有足够权限使提供者受准则约束的人员(如高级管理人员)签署。关于签署过程的更多信息见[这些问答](https://digital-strategy.ec.europa.eu/en/faqs/signing-general-purpose-ai-code-practice)。

关于哪些 AI 模型属于"通用"以及在何种条件下被归类为"系统性风险"的更多信息,请参见其他问题及[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)第 2 节。欲了解更多,请阅读[这些问答](https://digital-strategy.ec.europa.eu/en/faqs/questions-and-answers-code-practice-general-purpose-ai)中关于《通用人工智能行为准则》的内容。

### 《通用人工智能行为准则》如何更新?

欧盟委员会将定期监测和评估[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)(准则)目标的实现情况。更新机制在欧盟委员会对该准则的[充分性评估](https://digital-strategy.ec.europa.eu/en/library/commission-opinion-assessment-general-purpose-ai-code-practice)中作了进一步阐述。

特别是,欧盟委员会将考虑至少每两年促进对准则的正式更新,例如基于标准的出现、相关技术发展或风险格局的变化。

为监测准则目标的实现情况,欧盟委员会将与签署方保持交流,以了解何处需要实施支持,并可能与国家主管机关、下游提供者、权利人和参与其他主体合作。此外,准则不影响欧盟委员会就 AI 法案适用发布指导的责任,该指导可能与准则中的概念相关。特别是,在面临大规模不可逆损害迫在眉睫的威胁或为应对其负面影响时,欧盟委员会将考虑除充分执法行动外,快速发布关于 AI 法案适用的指导或由签署方商定对准则的快速更新是否适当。[通用人工智能模型义务范围指南](https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act)将定期审查并酌情更新。

### 不知道其通用人工智能模型能耗的提供者应记录什么?

根据《AI 法案》第 53(1)(a) 条和附件 XI 第 1 节第 2(e) 点,通用人工智能模型的提供者必须记录其模型已知或估计的能耗。如果能耗未知,该估算可基于所使用的计算资源。此外,欧盟委员会有权通过委托法案详细规定提供者应采用的测量和计算方法,以测量或估算其模型的能耗,从而实现可比较和可验证的记录。在通过此类委托法案之前的期间,[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)(准则)的模型文档表连同透明度章节,在"能耗(训练和推理期间)"项下提供了提供者可如何证明遵守此要求的指导。

特别是,如果准则的签署方不知道训练其模型的能耗,除非其缺乏使其无法作出估算的关键计算或硬件信息,否则承诺报告估算金额。在这种情况下,签署方承诺记录其缺失的信息。为估算能耗之目的,AI 办公室将利用有关训练所用计算资源的可得信息来推导估算值。为此,AI 办公室将依靠其掌握的关于提供者缺失何种关键信息的知识、可得的科学资源,以及欧盟委员会正在进行的关于节能低碳 AI 研究的初步结果,并借助科学小组的专业知识。

### 如果发生涉及模型的严重事件,提供者的义务是什么?

具有系统性风险的通用人工智能模型的提供者需要跟踪、记录并无不当延误地向 AI 办公室以及适当时向国家主管机关报告与严重事件相关的信息及可能的纠正措施(《AI 法案》第 55(1)(c) 条)。欧盟委员会认为,该义务涵盖与模型或其物理基础设施相关的严重网络安全违规,包括模型参数的(自我)泄露和网络攻击,因为它们可能影响第 55(1)(b) 和 (d) 条所规定义务的履行。除此之外,欧盟委员会认为在《AI 法案》第五章语境下的"严重事件"是指直接或间接导致《AI 法案》第 3(49)(a) 至 (d) 条中 AI 系统相应定义所列任一事件发生的通用人工智能模型的任何事件或故障。[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)的安全与安保章节通过其承诺 9 提供了一种证明遵守该义务的方式。

### 欧盟委员会在 2026 年 8 月执法开始前的第一年对提供者有何期望?

欧盟委员会期望提供者遵守 AI 法案中于 2025 年 8 月生效的通用人工智能模型提供者义务。其中一些义务很简单——例如,提供者在训练具有系统性风险的通用人工智能模型时根据《AI 法案》第 52 条向 AI 办公室发出通知。提供者应毫不拖延地发出这些通知。其他义务则更为复杂。对于这些义务,提供者可以通过[《通用人工智能行为准则》](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai)(准则)或通过展示其他充分的合规方式证明合规。

欧盟委员会理解,尤其就更复杂的义务而言,一些提供者可能无法在 2025 年 8 月前完全实施准则中的措施,或同样充分的合规证明方式。在提供者未能立即完全遵守准则所有承诺的情况下,欧盟委员会将认为其是善意行事,并准备合作寻找确保完全合规的途径。特别是,欧盟委员会鼓励在提供者训练具有系统性风险的通用人工智能模型期间与其进行密切的非正式合作,以促进合规并确保及时投放市场。此外,欧盟委员会期望具有系统性风险的通用人工智能模型的提供者主动报告,无论是作为准则下的承诺的一部分,还是作为其他合规证明方式的一部分。这在第一年尤为重要,届时欧盟委员会将侧重于工作层面的技术交流,以促进提供者尽快完全合规。

## 创新措施

### 什么是 AI 监管沙盒,提供者/部署者如何参与?

AI 监管沙盒是用于创新 AI 系统试验、开发、训练和测试的安全受控环境。监督沙盒的主管机关可以就 AI 法案条款及其他相关欧盟或国家立法的解释提供指导和咨询。任何拥有属于 AI 法案适用范围内的 AI 系统的提供者都可以申请参与 AI 监管沙盒。

成员国应在 2026 年 8 月 2 日前建立其 AI 监管沙盒,此后(潜在的)提供者可以申请参与沙盒。每个成员国至少将提供一个 AI 监管沙盒。

### 成员国何时需要建立 AI 监管沙盒?

成员国应在 2026 年 8 月 2 日前建立覆盖全国的 AI 监管沙盒。

### 哪些类型的 AI 系统可以在 AI 监管沙盒中测试?

任何拥有属于 AI 法案适用范围内的 AI 系统的提供者都可以申请参与 AI 监管沙盒。这意味着 AI 监管沙盒可以(除其他外)监督特定 AI 项目以履行 AI 法案中的要求和义务,包括高风险 AI 系统的合格评定、交互式和生成式 AI 系统对《AI 法案》第 50 条透明度要求的遵守,或支持识别、测试和实施有效的预防与缓解措施,以确保特定边缘情况的 AI 系统不构成被禁止的实践。

### AI 监管沙盒与 AI 法案服务台将如何互动?

AI 监管沙盒与 AI 法案服务台预计将相互补充彼此的目标。AI 监管沙盒旨在处理更具体和复杂的监管问题与挑战,而 AI 法案服务台的目标是为关于 AI 法案的更一般性问题提供答案。在 AI 监管沙盒中处理的监管挑战和回答的问题,也可以通过利用沙盒中获得的经验教训、指导和解答来支持 AI 法案服务台目标的实现。
slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack."Stars: 198kUpdated Claude CodeCodexVerifiedInstall
ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read.Stars: 196kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report.Stars: 196kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt.Stars: 196kUpdated Claude CodeCodexVerifiedInstall