CSlawyer1985/legal-skillhub / skills/ai-act-knowledge
ai-act-knowledge
Verified欧盟 AI 法案知识引擎——以 70 份官方欧盟来源文件为基础的权威监管问答(包括 2026 年委员会关于 Art. 6 高风险分类的指南草稿——一般原则、附件 I、附件 III)。基于完整条例文本、委员会指南、EDPB/EDPS 意见、《实践守则》、协调标准、FRIA 指南、事件模板和行业特定指引,以条款级引用回答关于 AI 法案的任何问题。当用户询问"EU AI Act"、"AI Act regulation"、"Regulation 2024/1689"、"KI-Verordnung"、要求"explain an AI Act article"、"what does Article X say"、"AI Act requirements"、"AI Act penalties"、"AI Act timeline"、"GPAI obligations"、"high-risk AI"、"prohibited AI practices"、"AI Act and GDPR"、"fundamental rights impact assessment"、"AI Act standards"、"AI Act national implementation"、"AI literacy"、"serious incident reporting"、"Digital Omnibus"、"AI regulatory sandbox",或任何关于欧盟人工智能监管的问题时,应使用本技能。德语术语同样触发:"KI-Gesetz"、"KI-Verordnung"、"Hochrisiko-KI"、"KI-Kompetenz"、"Grundrechte-Folgenabschaetzung"、"GPAI-Verhaltenskodex"。对于产出分类决定而非知识答案的评估工作流,提议在会话内运行结构化风险等级分类。
references/core/regulation-title-XI-XIII-final.md
View on GitHub# AI 法案——第十一至十三编及附件一至附件十三(第 100-113 条)
最终条款、授权、修订以及全部 13 个附件。
| 方面 | 详情 |
|--------|--------|
| 文件 | 条例 (EU) 2024/1689——《人工智能法案》 |
| 机构 | 欧洲议会和欧盟理事会 |
| 日期 | 2024 年 6 月 13 日(《欧盟官方公报》L 辑,2024 年 7 月 12 日) |
| 来源 URL | https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689 |
| NotebookLM 来源 ID | 62ef9ece-b7a1-4efd-883e-9ff17bf963ff |
*德文:Verordnung (EU) 2024/1689 — Gesetz ueber kuenstliche Intelligenz (KI-Verordnung)*
---
## 附件一——欧盟统一立法清单
#### A 节:基于新立法框架的欧盟统一立法清单
| | | |
1. 欧洲议会和理事会 2006 年 5 月 17 日关于机械的第 2006/42/EC 号指令,并修订第 95/16/EC 号指令([OJ L 157, 9.6.2006, p. 24](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2006:157:TOC));
| | | |
2. 欧洲议会和理事会 2009 年 6 月 18 日关于玩具安全的第 2009/48/EC 号指令([OJ L 170, 30.6.2009, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2009:170:TOC));
| | | |
3. 欧洲议会和理事会 2013 年 11 月 20 日关于娱乐船艇和个人水上交通工具并废止第 94/25/EC 号指令的第 2013/53/EU 号指令([OJ L 354, 28.12.2013, p. 90](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2013:354:TOC));
| | | |
4. 欧洲议会和理事会 2014 年 2 月 26 日关于统一成员国有关电梯及电梯安全部件的法律的第 2014/33/EU 号指令([OJ L 96, 29.3.2014, p. 251](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2014:096:TOC));
| | | |
5. 欧洲议会和理事会 2014 年 2 月 26 日关于统一成员国有关用于潜在爆炸性环境的设备及保护系统的法律的第 2014/34/EU 号指令([OJ L 96, 29.3.2014, p. 309](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2014:096:TOC));
| | | |
6. 欧洲议会和理事会 2014 年 4 月 16 日关于统一成员国有关无线电设备投放市场的法律并废止第 1999/5/EC 号指令的第 2014/53/EU 号指令([OJ L 153, 22.5.2014, p. 62](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2014:153:TOC));
| | | |
7. 欧洲议会和理事会 2014 年 5 月 15 日关于统一成员国有关压力设备投放市场的法律的第 2014/68/EU 号指令([OJ L 189, 27.6.2014, p. 164](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2014:189:TOC));
| | | |
8. 欧洲议会和理事会 2016 年 3 月 9 日关于索道装置并废止第 2000/9/EC 号指令的第 2016/424 号条例([OJ L 81, 31.3.2016, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2016:081:TOC));
| | | |
9. 欧洲议会和理事会 2016 年 3 月 9 日关于个人防护装备并废止理事会第 89/686/EEC 号指令的第 2016/425 号条例([OJ L 81, 31.3.2016, p. 51](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2016:081:TOC));
| | | |
10. 欧洲议会和理事会 2016 年 3 月 9 日关于燃气燃料燃烧器具并废止第 2009/142/EC 号指令的第 2016/426 号条例([OJ L 81, 31.3.2016, p. 99](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2016:081:TOC));
| | | |
11. 欧洲议会和理事会 2017 年 4 月 5 日关于医疗器械、修订第 2001/83/EC 号指令、第 178/2002 号条例(EC)及第 1223/2009 号条例(EC)并废止理事会第 90/385/EEC 号和第 93/42/EEC 号指令的第 2017/745 号条例([OJ L 117, 5.5.2017, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2017:117:TOC));
| | | |
12. 欧洲议会和理事会 2017 年 4 月 5 日关于体外诊断医疗器械并废止第 98/79/EC 号指令和委员会第 2010/227/EU 号决定的第 2017/746 号条例([OJ L 117, 5.5.2017, p. 176](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2017:117:TOC))。
#### B 节:其他欧盟统一立法清单
| | | |
13. 欧洲议会和理事会 2008 年 3 月 11 日关于民航安保领域共同规则并废止第 2320/2002 号条例(EC)的第 300/2008 号条例(EC)([OJ L 97, 9.4.2008, p. 72](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2008:097:TOC));
| | | |
14. 欧洲议会和理事会 2013 年 1 月 15 日关于两轮或三轮车辆及四轮机动车批准与市场监管的第 168/2013 号条例(EU)([OJ L 60, 2.3.2013, p. 52](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2013:060:TOC));
| | | |
15. 欧洲议会和理事会 2013 年 2 月 5 日关于农林业车辆批准与市场监管的第 167/2013 号条例(EU)([OJ L 60, 2.3.2013, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2013:060:TOC));
| | | |
16. 欧洲议会和理事会 2014 年 7 月 23 日关于船用设备并废止理事会第 96/98/EC 号指令的第 2014/90/EU 号指令([OJ L 257, 28.8.2014, p. 146](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2014:257:TOC));
| | | |
17. 欧洲议会和理事会 2016 年 5 月 11 日关于欧盟内部铁路系统互操作性的第 (EU) 2016/797 号指令([OJ L 138, 26.5.2016, p. 44](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2016:138:TOC));
| | | |
18. 欧洲议会和理事会 2018 年 5 月 30 日关于机动车及其挂车、以及为此类车辆设计的系统、部件和独立技术单元的批准与市场监管、修订第 715/2007 号条例(EC)和第 595/2009 号条例(EC)并废止第 2007/46/EC 号指令的第 2018/858 号条例(EU)([OJ L 151, 14.6.2018, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:151:TOC));
| | | |
19. 欧洲议会和理事会 2019 年 11 月 27 日关于机动车及其挂车、以及为此类车辆设计的系统、部件和独立技术单元的型式批准要求(涉及一般安全及对车辆乘员和弱势道路使用者的保护)、修订欧洲议会和理事会的第 2018/858 号条例(EU)并废止欧洲议会和理事会的第 78/2009 号、第 79/2009 号和第 661/2009 号条例(EC)以及委员会的第 631/2009 号、第 406/2010 号、第 672/2010 号、第 1003/2010 号、第 1005/2010 号、第 1008/2010 号、第 1009/2010 号、第 19/2011 号、第 109/2011 号、第 458/2011 号、第 65/2012 号、第 130/2012 号、第 347/2012 号、第 351/2012 号、第 1230/2012 号条例(EC)和第 2015/166 号条例(EU)的第 2019/2144 号条例(EU)([OJ L 325, 16.12.2019, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2019:325:TOC));
| | | |
20. 欧洲议会和理事会 2018 年 7 月 4 日关于民航领域共同规则并设立欧洲联盟航空安全局、修订欧洲议会和理事会的第 2111/2005 号条例(EC)、第 1008/2008 号条例(EC)、第 996/2010 号条例(EU)、第 376/2014 号条例(EU)和第 2014/30/EU 号、第 2014/53/EU 号指令,并废止欧洲议会和理事会的第 552/2004 号条例(EC)、第 216/2008 号条例(EC)及理事会第 3922/91 号条例(EEC)的第 2018/1139 号条例(EU)([OJ L 212, 22.8.2018, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:212:TOC)),涉及该条例第 2 条第 1 款第 (a)、(b) 项所述飞机的设计、生产和投放市场,且该等飞机为无人驾驶飞机及其发动机、螺旋桨、部件和用于遥控的设备的。
* * *
## 附件二——第 5 条第 1 款第一小段第 (h)(iii) 项所指的刑事犯罪清单
第 5 条第 1 款第一小段第 (h)(iii) 项所指的刑事犯罪:
| — | 恐怖主义, |
| — | 贩卖人口, |
| — | 对儿童的性剥削和儿童色情, |
| — | 非法贩运麻醉药品或精神药物, |
| — | 非法贩运武器、弹药或爆炸物, |
| — | 谋杀、严重身体伤害, |
| — | 非法买卖人体器官或组织, |
| — | 非法贩运核材料或放射性材料, |
| — | 绑架、非法拘禁或劫持人质, |
| — | 属于国际刑事法院管辖范围内的犯罪, |
| — | 非法劫持航空器或船舶, |
| — | 强奸, |
| — | 环境犯罪, |
| — | 有组织抢劫或武装抢劫, |
| — | 破坏活动, |
| — | 参与涉及上述一项或多项犯罪的犯罪组织。 |
* * *
## 附件三——第 6 条第 2 款所指的高风险人工智能系统
根据第 6 条第 2 款,高风险人工智能系统为以下任一领域所列的人工智能系统:
| 1. | 生物识别,只要其使用在相关欧盟或国家法律下被允许:
(a) 远程生物识别系统。<br>这不包括拟用于生物识别验证、且唯一目的是确认某一特定自然人确为其所声称之人的人工智能系统;
(b) 拟用于根据敏感或受保护属性或特征进行推断,进而进行生物识别分类的人工智能系统;
(c) 拟用于情绪识别的人工智能系统。 |
| 2. | 关键基础设施:拟作为安全部件用于关键数字基础设施、道路交通的管理和运行,或用于水、燃气、供暖或电力供应的 AI 系统。 |
| 3. | 教育和职业培训:
(a) 拟用于确定接受教育或录取资格,或将自然人分配到各级教育和职业培训机构的人工智能系统;
(b) 拟用于评估学习成果的人工智能系统,包括当这些成果被用于引导各级教育和职业培训机构中自然人的学习过程时;
(c) 拟用于评估个人在各级教育和职业培训机构中将要获得或能够获得的适当教育水平的人工智能系统;
(d) 拟用于在各级教育和职业培训机构的考试中监测和检测学生违规行为的人工智能系统。 |
| 4. | 就业、劳动者管理及自主就业准入:
(a) 拟用于招聘或选拔自然人的人工智能系统,尤其是用于投放定向招聘广告、分析和筛选求职申请以及评估候选人;
(b) 拟用于作出影响工作关系条款、晋升或终止劳动关系合同关系的决定,根据个人行为或个人特质或特征分配任务,或监测和评估此类关系中人员的表现和行为的 AI 系统。 |
| 5. | 获取和享受基本私人服务以及基本公共服务和福利:
(a) 拟由公共当局或代表公共当局使用,用于评估自然人获得基本公共援助福利和服务(包括医疗服务)的资格,以及用于授予、减少、撤销或收回此类福利和服务的人工智能系统;
(b) 拟用于评估自然人信用worthiness或确定其信用评分的 AI 系统,但用于检测金融欺诈的 AI 系统除外;
(c) 拟用于人寿保险和健康保险情形中对自然人进行风险评估和定价的 AI 系统;
(d) 拟用于评估和分类自然人紧急呼叫,或用于调度紧急第一响应服务(包括警察、消防和医疗救助)或确定其调度优先级,以及用于紧急医疗患者分诊系统的 AI 系统。 |
| 6. | 执法,只要其使用在相关欧盟或国家法律下被允许:
(a) 拟由执法机关或代表执法机关使用,或由欧盟机构、团体、办公室或机构为支持执法机关或代表执法机关使用,以评估自然人成为刑事犯罪受害者风险的人工智能系统;
(b) 拟由执法机关或代表执法机关使用,或由欧盟机构、团体、办公室或机构为支持执法机关使用,作为测谎仪或类似工具的人工智能系统;
(c) 拟由执法机关或代表执法机关使用,或由欧盟机构、团体、办公室或机构为支持执法机关使用,以在刑事犯罪的调查或起诉过程中评估证据可靠性的人工智能系统;
(d) 拟由执法机关或代表执法机关使用,或由欧盟机构、团体、办公室或机构为支持执法机关使用,以评估自然人犯罪或再犯罪风险的人工智能系统,且该评估并非仅基于指令 (EU) 2016/680 第 3 条第 4 款所指的自然人画像,或用于评估自然人群体的人格特质和特征或过往犯罪行为;
(e) 拟由执法机关或代表执法机关使用,或由欧盟机构、团体、办公室或机构为支持执法机关使用,以在刑事犯罪的侦查、调查或起诉过程中对指令 (EU) 2016/680 第 3 条第 4 款所指的自然人进行画像的人工智能系统。 |
| 7. | 移民、庇护和边境管理,只要其使用在相关欧盟或国家法律下被允许:
(a) 拟由主管公共当局或代表主管公共当局使用,或由欧盟机构、团体、办公室或机构作为测谎仪或类似工具使用的人工智能系统;
(b) 拟由主管公共当局或代表主管公共当局使用,或由欧盟机构、团体、办公室或机构使用,以评估拟进入或已进入成员国领土的自然人所带来的风险(包括安全风险、非正常移民风险或健康风险)的人工智能系统;
(c) 拟由主管公共当局或代表主管公共当局使用,或由欧盟机构、团体、办公室或机构使用,以协助主管公共当局审查庇护、签证或居留许可申请及相关申诉,涉及申请某种身份的自然人是否符合资格,包括对证据可靠性的相关评估的人工智能系统;
(d) 拟由主管公共当局或代表主管公共当局使用,或由欧盟机构、团体、办公室或机构在移民、庇护或边境管理背景下使用,以检测、识别或确认自然人身份的人工智能系统,但旅行证件查验除外。 |
| 8. | 司法行政和民主进程:
(a) 拟由司法机关或代表司法机关使用,以协助司法机关研究和解释事实和法律并将法律适用于具体事实,或以类似方式用于替代性争议解决的人工智能系统;
(b) 拟用于影响选举或公投结果或影响自然人在选举或公投中行使投票时的投票行为的 AI 系统。这不包括自然人未直接接触其输出的 AI 系统,例如从行政或后勤角度用于组织、优化或构建政治竞选活动的工具。 |
* * *
## 附件四——第 11 条第 1 款所指的技术文档
第 11 条第 1 款所指的技术文档应至少包含以下适用于相关 AI 系统的信息:
| 1. | AI 系统的一般描述,包括:
(a) 其预期目的、提供者名称及体现其与先前版本关系的系统版本;
(b) AI 系统如何与不属于 AI 系统本身的硬件或软件(包括其他 AI 系统)交互,或可如何用于与之交互(如适用);
(c) 相关软件或固件的版本,以及与版本更新有关的任何要求;
(d) AI 系统投放市场或投入使用的所有形式的描述,例如嵌入硬件的软件包、下载或 API;
(e) AI 系统拟在其上运行的硬件描述;
(f) 当 AI 系统是产品的组成部分时,显示外部特征、标记和内部布局的产品照片或插图;
(g) 向部署者提供的基本用户界面描述;
(h) 供部署者使用的使用说明,以及向部署者提供的基本用户界面描述(如适用); |
| 2. | 对 AI 系统要素及其开发过程的详细描述,包括:
(a) 为开发 AI 系统而执行的方法和步骤,包括(如相关)诉诸第三方提供的预训练系统或工具,以及提供者如何使用、集成或修改这些系统或工具;
(b) 系统的设计规范,即 AI 系统和算法的一般逻辑;关键设计选择,包括所作出选择的理由和假设,包括关于拟使用该系统的人或人群的假设;主要分类选择;系统设计为优化什么,以及不同参数的相关性;系统预期输出和输出质量的描述;为遵守第三章第二节规定的要求而采用的技术解决方案方面所作的任何权衡的决定;
(c) 系统架构的描述,解释软件组件如何相互构建或衔接并整合到整体处理中;用于开发、训练、测试和验证 AI 系统的计算资源;
(d) 如相关,数据要求,以数据表形式描述所采用的训练方法和技巧及所用训练数据集,包括这些数据集的一般描述、其来源、范围及主要特征的信息;数据是如何获得和选择的;标注程序(例如用于监督学习);数据清理方法(例如异常值检测);
(e) 根据第 14 条所需的人工监督措施评估,包括根据第 13 条第 3 款第 (d) 项评估为便利部署者解读 AI 系统输出所需的技术措施;
(f) 如适用,对 AI 系统及其性能的预定变更的详细描述,以及为确保 AI 系统持续符合第三章第二节规定的相关要求而采用的技术解决方案的所有相关信息;
(g) 所用的验证和测试程序,包括所用验证和测试数据及其主要特征的信息;用于衡量准确性、稳健性以及是否符合第三章第二节规定的其他相关要求以及潜在的歧视性影响的指标;测试日志以及由负责人员签署日期和签名的所有测试报告,包括涉及 (f) 项所述预定变更的测试报告;
(h) 已落实的网络安全措施; |
| 3. | 关于 AI 系统监测、运行和控制的详细信息,特别是关于:其性能能力和局限,包括系统拟用于的特定人或人群的准确度以及与其预期目的相关的总体预期准确水平;考虑到 AI 系统的预期目的,可预见的意外结果以及健康和安全、基本权利和歧视方面的风险来源;根据第 14 条所需的人工监督措施,包括为便利部署者解读 AI 系统输出而采取的技术措施;适当的输入数据规格; |
| 4. | 对特定 AI 系统性能指标适当性的描述; |
| 5. | 根据第 9 条对风险管理体系的详细描述; |
| 6. | 提供者在系统整个生命周期内对系统所作相关变更的描述; |
| 7. | 全部或部分适用且其参考文献已公布在《欧盟官方公报》上的统一标准清单;如未适用此类统一标准,则需详细描述为满足第三章第二节规定的要求而采用的解决方案,包括所适用的其他相关标准和技术规范清单; |
| 8. | 第 47 条所指欧盟符合性声明副本; |
| 9. | 根据第 72 条在售后阶段评估 AI 系统性能的现行体系的详细描述,包括第 72 条第 3 款所指的售后监测计划。 |
* * *
## 附件五——欧盟符合性声明
第 47 条所指的欧盟符合性声明应包含以下全部信息:
| 1. | AI 系统的名称和类型,以及任何有助于识别和追溯 AI 系统的额外无歧义引用; |
| 2. | 提供者或(如适用)其授权代表的名称和地址; |
| 3. | 一份声明,说明第 47 条所指的欧盟符合性声明由提供者承担全部责任签发; |
| 4. | 一份声明,说明 AI 系统符合本条例,以及(如适用)符合任何其他规定签发第 47 条所指欧盟符合性声明的相关欧盟法律; |
| 5. | 当 AI 系统涉及个人数据处理时,一份说明该 AI 系统符合条例 (EU) 2016/679 和 (EU) 2018/1725 及指令 (EU) 2016/680 的声明; |
| 6. | 对任何已使用的相关统一标准或任何其他共同规范的引用,且据以声明符合性; |
| 7. | 如适用,公告机构的名称和识别号、所执行的符合性评估程序的描述以及所签发证书的标识; |
| 8. | 声明的签发地点和日期、签署人的姓名和职务,以及签署人代表何人签字或为何人签字的说明,并附签名。 |
* * *
## 附件六——基于内部控制的符合性评估程序
1.
基于内部控制的符合性评估程序是指基于第 2、3、4 点的符合性评估程序。
2.
提供者核实已建立的质量管理体系符合第 17 条的要求。
3.
提供者审查技术文档所载信息,以评估 AI 系统是否符合第三章第二节规定的相关基本要求。
4.
提供者还核实 AI 系统的设计和开发过程及其第 72 条所指的售后监测与技术文档一致。
* * *
## 附件七——基于质量管理体系评估和技术文档评估的符合性
1. 引言
基于质量管理体系评估和技术文档评估的符合性是指基于第 2 至 5 点的符合性评估程序。
2. 概述
根据第 17 条,经批准用于 AI 系统设计、开发和测试的质量管理体系应按照第 3 点进行审查,并应接受第 5 点规定的监督。AI 系统的技术文档应按照第 4 点进行审查。
3. 质量管理体系
| | | |
| | 3.1. | 提供者的申请应包括:
(a) 提供者的名称和地址,如申请由授权代表提出,则还包括授权代表的名称和地址;
(b) 同一质量管理体系涵盖的 AI 系统清单;
(c) 同一质量管理体系涵盖的每个 AI 系统的技术文档;
(d) 关于质量管理体系的文档,该文档应涵盖第 17 条所列的所有方面;
(e) 为确保质量管理体系保持充分和有效而建立的程序的描述;
(f) 一份书面声明,说明同一申请未向任何其他公告机构提出。 |
| | | |
| | 3.2. | 质量管理体系应由公告机构评估,公告机构应确定其是否满足第 17 条所述的要求。<br>决定应通知提供者或其授权代表。<br>通知应包含质量管理体系评估的结论和附理由的评估决定。 |
| | | |
| | 3.3. | 经批准的质量管理体系应由提供者继续实施和维护,以保持其充分和有效。 |
| | | |
| | 3.4. | 对经批准的质量管理体系或其涵盖的 AI 系统清单的任何拟议变更,应由提供者提请公告机构注意。<br>拟议变更应由公告机构审查,公告机构应决定修改后的质量管理体系是否继续满足第 3.2 点所述的要求,或者是否需要进行重新评估。<br>公告机构应将其决定通知提供者。通知应包含变更审查的结论和附理由的评估决定。 |
4. 技术文档的控制。
| | | |
| | 4.1. | 除第 3 点所述申请外,提供者还应根据其选择向公告机构提出申请,以评估提供者拟投放市场或投入使用、且属于第 3 点所述质量管理体系涵盖范围的 AI 系统的技术文档。 |
| | | |
| | 4.2. | 申请应包括:
(a) 提供者的名称和地址;
(b) 一份书面声明,说明同一申请未向任何其他公告机构提出;
(c) 附件四所指的技术文档。 |
| | | |
| | 4.3. | 技术文档应由公告机构审查。如相关,且以完成任务所需为限,公告机构应获准完全访问所用的训练、验证和测试数据集,包括(在适当且遵守安全保护措施的前提下)通过 API 或其他相关技术手段和工具进行远程访问。 |
| | | |
| | 4.4. | 在审查技术文档时,公告机构可要求提供者提供进一步证据或进行进一步测试,以便对 AI 系统是否符合第三章第二节规定的要求进行适当评估。当公告机构对提供者进行的测试不满意时,公告机构应视情况自行直接进行适当测试。 |
| | | |
| | 4.5. | 为评估高风险 AI 系统是否符合第三章第二节规定的要求所必需,且在所有其他核实符合性的合理手段均已用尽且被证明不足之后,经附理由的请求,公告机构还应获准访问 AI 系统的训练模型和已训练模型,包括其相关参数。此种访问应遵守关于保护知识产权和商业秘密的现行欧盟法律。 |
| | | |
| | 4.6. | 公告机构的决定应通知提供者或其授权代表。通知应包含技术文档评估的结论和附理由的评估决定。<br>当 AI 系统符合第三章第二节规定的要求时,公告机构应签发欧盟技术文档评估证书。证书应载明提供者的名称和地址、审查结论、其有效性的条件(如有)以及识别 AI 系统所需的数据。<br>证书及其附件应包含所有相关信息,以便评估 AI 系统的符合性,并在适用的情况下,对使用中的 AI 系统进行控制。<br>当 AI 系统不符合第三章第二节规定的要求时,公告机构应拒绝签发欧盟技术文档评估证书,并应相应通知申请人,详细说明拒绝理由。<br>当 AI 系统不符合与其训练所用数据有关的要求时,需要在申请新的符合性评估之前对 AI 系统进行重新训练。在此情况下,公告机构拒绝签发欧盟技术文档评估证书的附理由评估决定应包含对用于训练 AI 系统的数据质量的特别考量,特别是关于不合规原因。 |
| | | |
| | 4.7. | 对 AI 系统可能影响其符合要求或其预期目的的任何变更,应由签发欧盟技术文档评估证书的公告机构进行评估。提供者应将其拟引入任何上述变更的意图告知该公告机构,或者在其以其他方式知悉此类变更发生时告知。拟议变更应由公告机构评估,公告机构应决定这些变更是否需要根据第 43 条第 4 款进行新的符合性评估,或者是否可通过补充欧盟技术文档评估证书的方式解决。在后一种情况下,公告机构应评估变更、将其决定通知提供者,并在变更获得批准时向提供者签发欧盟技术文档评估证书补充件。 |
5. 经批准的质量管理体系的监督。
| | | |
| | 5.1. | 第 3 点所述由公告机构实施的监督,其目的是确保提供者适当遵守经批准的质量管理体系的条款和条件。 |
| | | |
| | 5.2. | 为评估目的,提供者应允许公告机构进入进行 AI 系统设计、开发、测试的场所。提供者还应向公告机构提供所有必要信息。 |
| | | |
| | 5.3. | 公告机构应进行定期审计,以确保提供者维护并实施质量管理体系,并应向提供者提供审计报告。在此类审计的背景下,公告机构可对已签发欧盟技术文档评估证书的 AI 系统进行额外测试。 |
* * *
## 附件八——根据第 49 条登记高风险 AI 系统时应提交的信息
A 节——根据第 49 条第 1 款由高风险 AI 系统提供者提交的信息
关于拟根据第 49 条第 1 款登记的高风险 AI 系统,应提供并在其后保持更新以下信息:
| 1. | 提供者的名称、地址和联系方式; |
| 2. | 当信息由他人代表提供者提交时,该人的名称、地址和联系方式; |
| 3. | 如适用,授权代表的名称、地址和联系方式; |
| 4. | AI 系统的商品名称以及任何有助于识别和追溯 AI 系统的额外无歧义引用; |
| 5. | AI 系统预期目的以及通过该 AI 系统支持的组件和功能的描述; |
| 6. | 系统所用信息(数据、输入)及其运行逻辑的基本简明描述; |
| 7. | AI 系统的状态(已投放市场,或已投入使用;已不再投放市场/投入使用,已召回); |
| 8. | 如适用,公告机构签发证书的类型、编号和到期日,以及该公告机构的名称或识别号; |
| 9. | 如适用,第 8 点所述证书的扫描副本; |
| 10. | AI 系统已在欧盟投放市场、投入使用或提供使用的任何成员国; |
| 11. | 第 47 条所指欧盟符合性声明副本; |
| 12. | 电子版使用说明;该信息不适用于附件三第 1、6、7 点所述的执法或移民、庇护和边境管理领域的高风险 AI 系统; |
| 13. | 供进一步获取信息的 URL(可选)。 |
B 节——根据第 49 条第 2 款由高风险 AI 系统提供者提交的信息
关于拟根据第 49 条第 2 款登记的 AI 系统,应提供并在其后保持更新以下信息:
| 1. | 提供者的名称、地址和联系方式; |
| 2. | 当信息由他人代表提供者提交时,该人的名称、地址和联系方式; |
| 3. | 如适用,授权代表的名称、地址和联系方式; |
| 4. | AI 系统的商品名称以及任何有助于识别和追溯 AI 系统的额外无歧义引用; |
| 5. | AI 系统预期目的的描述; |
| 6. | 第 6 条第 3 款下的一项或多项条件,基于该等条件该 AI 系统被视为非高风险; |
| 7. | 适用第 6 条第 3 款程序认定该 AI 系统为非高风险的理由摘要; |
| 8. | AI 系统的状态(已投放市场,或已投入使用;已不再投放市场/投入使用,已召回); |
| 9. | AI 系统已在欧盟投放市场、投入使用或提供使用的任何成员国。 |
C 节——根据第 49 条第 3 款由高风险 AI 系统部署者提交的信息
关于拟根据第 49 条第 3 款登记的高风险 AI 系统,应提供并在其后保持更新以下信息:
| 1. | 部署者的名称、地址和联系方式; |
| 2. | 代表部署者提交信息的人员的名称、地址和联系方式; |
| 3. | 提供者在欧盟数据库中 AI 系统条目的 URL; |
| 4. | 根据第 27 条进行的基本权利影响评估结论摘要; |
| 5. | 如适用,根据本条例第 26 条第 8 款的规定,按照条例 (EU) 2016/679 第 35 条或指令 (EU) 2016/680 第 27 条进行的数据保护影响评估摘要。 |
* * *
## 附件九——根据第 60 条就附件三所列高风险 AI 系统在真实世界条件下测试登记时应提交的信息
关于拟根据第 60 条登记的真实世界条件测试,应提供并在其后保持更新以下信息:
| 1. | 真实世界条件测试的全欧盟统一唯一识别号; |
| 2. | 参与真实世界条件测试的提供者或预期提供者及部署者的名称和联系方式; |
| 3. | AI 系统、其预期目的以及识别该系统所需其他信息的简要描述; |
| 4. | 真实世界条件测试计划主要特征的摘要; |
| 5. | 关于真实世界条件测试中止或终止的信息。 |
* * *
## 附件十——自由、安全与司法领域大规模 IT 系统的欧盟立法文件
1. 申根信息系统
(a) 欧洲议会和理事会 2018 年 11 月 28 日关于使用申根信息系统遣返非法滞留第三国国民的第 2018/1860 号条例(EU)([OJ L 312, 7.12.2018, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:312:TOC))。
(b) 欧洲议会和理事会 2018 年 11 月 28 日关于在边境检查领域建立、运行和使用申根信息系统(SIS)、修订《申根协定执行公约》并修订和废止第 1987/2006 号条例(EC)的第 2018/1861 号条例(EU)([OJ L 312, 7.12.2018, p. 14](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:312:TOC))。
(c) 欧洲议会和理事会 2018 年 11 月 28 日关于在警务合作和刑事司法合作领域建立、运行和使用申根信息系统(SIS)、修订和废止理事会第 2007/533/JHA 号决定,并废止欧洲议会和理事会的第 1986/2006 号条例(EC)和委员会第 2010/261/EU 号决定的第 2018/1862 号条例(EU)([OJ L 312, 7.12.2018, p. 56](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:312:TOC))。
2. 签证信息系统
(a) 欧洲议会和理事会 2021 年 7 月 7 日修订第 603/2013 号条例(EU)、第 2016/794 号条例(EU)、第 2018/1862 号条例(EU)、第 2019/816 号条例(EU)和第 2019/818 号条例(EU)的第 2021/1133 号条例(EU),涉及为签证信息系统目的规定访问其他欧盟信息系统的条件([OJ L 248, 13.7.2021, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2021:248:TOC))。
(b) 欧洲议会和理事会 2021 年 7 月 7 日修订欧洲议会和理事会的第 767/2008 号条例(EC)、第 810/2009 号条例(EC)、第 2016/399 号条例(EU)、第 2017/2226 号条例(EU)、第 2018/1240 号条例(EU)、第 2018/1860 号条例(EU)、第 2018/1861 号条例(EU)、第 2019/817 号条例(EU)和第 2019/1896 号条例(EU),并废止理事会第 2004/512/EC 号和第 2008/633/JHA 号决定的第 2021/1134 号条例(EU),以改革签证信息系统([OJ L 248, 13.7.2021, p. 11](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2021:248:TOC))。
3. Eurodac
欧洲议会和理事会 2024 年 5 月 14 日关于建立“Eurodac”以比较生物识别数据从而有效适用欧洲议会和理事会的第 2024/1315 号条例(EU)和第 2024/1350 号条例(EU)及理事会第 2001/55/EC 号指令并识别非法滞留第三国国民和无国籍人、以及关于成员国执法机关和欧洲刑警组织为执法目的请求与 Eurodac 数据进行比对的第 2024/1358 号条例(EU),修订欧洲议会和理事会的第 2018/1240 号条例(EU)和第 2019/818 号条例(EU)并废止欧洲议会和理事会的第 603/2013 号条例(EU)([OJ L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj](https://data.europa.eu/eli/reg/2024/1358/oj))。
4. 出入境系统
欧洲议会和理事会 2017 年 11 月 30 日建立出入境系统(EES)以登记跨越成员国外部边界的第三国国民的出入境数据和拒绝入境数据、并确定为执法目的访问 EES 的条件,同时修订《申根协定执行公约》和第 767/2008 号条例(EC)及第 1077/2011 号条例(EU)的第 2017/2226 号条例(EU)(OJ L 327, 9.12.2017, p. 20)。
5. 欧洲旅行信息和授权系统
(a) 欧洲议会和理事会 2018 年 9 月 12 日建立欧洲旅行信息和授权系统(ETIAS)并修订第 1077/2011 号条例(EU)、第 515/2014 号条例(EU)、第 2016/399 号条例(EU)、第 2016/1624 号条例(EU)和第 2017/2226 号条例(EU)的第 2018/1240 号条例(EU)([OJ L 236, 19.9.2018, p. 1](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:236:TOC))。
(b) 欧洲议会和理事会 2018 年 9 月 12 日为建立欧洲旅行信息和授权系统(ETIAS)而修订第 2016/794 号条例(EU)的第 2018/1241 号条例(EU)([OJ L 236, 19.9.2018, p. 72](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2018:236:TOC))。
6. 关于第三国国民和无国籍人的欧洲犯罪记录信息系统
欧洲议会和理事会 2019 年 4 月 17 日建立集中式系统以识别持有第三国国民和无国籍人定罪信息的成员国的第 2019/816 号条例(EU)(ECRIS-TCN),以补充欧洲犯罪记录信息系统并修订第 2018/1726 号条例(EU)(OJ L 135, 22.5.2019, p. 1)。
7. 互操作性
(a) 欧洲议会和理事会 2019 年 5 月 20 日关于在边境和签证领域建立欧盟信息系统之间互操作性框架、并修订欧洲议会和理事会的第 767/2008 号条例(EC)、第 2016/399 号条例(EU)、第 2017/2226 号条例(EU)、第 2018/1240 号条例(EU)、第 2018/1726 号条例(EU)和第 2018/1861 号条例(EU)及理事会第 2004/512/EC 号和第 2008/633/JHA 号决定的第 2019/817 号条例(EU)([OJ L 135, 22.5.2019, p. 27](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2019:135:TOC))。
(b) 欧洲议会和理事会 2019 年 5 月 20 日关于在警务和司法合作、庇护和移民领域建立欧盟信息系统之间互操作性框架、并修订第 2018/1726 号条例(EU)、第 2018/1862 号条例(EU)和第 2019/816 号条例(EU)的第 2019/818 号条例(EU)([OJ L 135, 22.5.2019, p. 85](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2019:135:TOC))。
* * *
## 附件十一——第 53 条第 1 款第 (a) 项所指的技术文档——通用人工智能模型提供者的技术文档
第 1 节
所有通用人工智能模型提供者应提供的信息
第 53 条第 1 款第 (a) 项所指的技术文档应至少包含以下根据模型规模和风险状况适用的信息:
| 1. | 通用人工智能模型的一般描述,包括:
(a) 模型拟执行的任务以及可集成该模型的 AI 系统的类型和性质;
(b) 适用的可接受使用政策;
(c) 发布日期和分发方式;
(d) 架构和参数数量;
(e) 输入和输出的模态(如文本、图像)和格式;
(f) 许可证。 |
| 2. | 对第 1 点所述模型要素的详细描述,以及开发过程的相关信息,包括以下要素:
(a) 通用人工智能模型集成到 AI 系统所需的技术手段(如使用说明、基础设施、工具);
(b) 模型和训练过程的设计规范,包括训练方法和技巧、关键设计选择及其理由和假设;模型设计为优化什么以及不同参数的相关性(如适用);
(c) 如适用,用于训练、测试和验证的数据信息,包括数据的类型和来源以及整理方法(如清理、筛选等)、数据点数量、其范围和主要特征;数据是如何获得和选择的,以及用于检测数据来源不适宜性的所有其他措施和用于检测可识别偏见的方法(如适用);
(d) 用于训练模型的计算资源(如浮点运算次数)、训练时间,以及与训练有关的其他相关细节;
(e) 模型已知或估计的能耗。
关于第 (e) 点,当模型的能耗未知时,能耗可根据所用计算资源的信息进行估算。 |
第 2 节
具有系统性风险的通用人工智能模型提供者应提供的额外信息
| | | |
1. 对评估策略的详细描述,包括基于现有公开评估协议和工具或其他评估方法得出的评估结果。评估策略应包括评估标准、指标以及识别局限性的方法。
| | | |
2. 如适用,为进行内部和/或外部对抗性测试(如红队测试)、模型调整(包括对齐和微调)而采取的措施的详细描述。
| | | |
3. 如适用,解释软件组件如何相互构建或衔接并整合到整体处理中的系统架构的详细描述。
* * *
## 附件十二——第 53 条第 1 款第 (b) 项所指的透明度信息——通用人工智能模型提供者向将模型集成到其 AI 系统的下游提供者提供的技术文档
第 53 条第 1 款第 (b) 项所指的信息应至少包含以下内容:
| 1. | 通用人工智能模型的一般描述,包括:
(a) 模型拟执行的任务以及可集成该模型的 AI 系统的类型和性质;
(b) 适用的可接受使用政策;
(c) 发布日期和分发方式;
(d) 如适用,模型如何与不属于模型本身的硬件或软件交互,或可如何用于与之交互;
(e) 如适用,与通用人工智能模型使用相关的相关软件版本;
(f) 架构和参数数量;
(g) 输入和输出的模态(如文本、图像)和格式;
(h) 模型的许可证。 |
| 2. | 对模型要素及其开发过程的描述,包括:
(a) 通用人工智能模型集成到 AI 系统所需的技术手段(如使用说明、基础设施、工具);
(b) 输入和输出的模态(如文本、图像等)和格式及其最大规模(如上下文窗口长度等);
(c) 如适用,用于训练、测试和验证的数据信息,包括数据的类型和来源以及整理方法。 |
* * *
## 附件十三——第 51 条所指的认定具有系统性风险的通用人工智能模型的标准
为确定通用人工智能模型具有与第 51 条第 1 款第 (a) 项所列相同的能力或影响,委员会应考虑以下标准:
(a) 模型的参数数量;
(b) 数据集的规模或其质量,例如通过 token 衡量;
(c) 用于训练模型的计算量,以浮点运算次数衡量,或通过其他变量的组合予以表示,如训练的估计成本、训练所需的估计时间或训练的估计能耗;
(d) 模型的输入和输出模态,如文本到文本(大语言模型)、文本到图像、多模态,以及为每种模态确定高影响能力的现行最优阈值,以及输入和输出的具体类型(如生物序列);
(e) 模型能力的基准和评估,包括考虑无需额外训练即可完成的任务数量、学习新的不同任务的能力、其自主性和可扩展性水平、其可访问的工具;
(f) 模型是否因其覆盖面而对内部市场产生高影响,当该模型已提供给欧盟境内至少 10 000 家注册商业用户使用时,应推定存在高影响;
(g) 注册终端用户的数量。
* * *
ELI: http://data.europa.eu/eli/reg/2024/1689/oj
ISSN 1977-0677(电子版)
Related skills
| Skill | Stars | Updated | Works with | Status | Install |
|---|---|---|---|---|---|
| slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack." | Stars: 198k | Updated | Claude CodeCodex | Verified | Install |
| ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |