Skip to content

CSlawyer1985/legal-skillhub / skills/ai-act-knowledge

ai-act-knowledge

Verified

欧盟 AI 法案知识引擎——以 70 份官方欧盟来源文件为基础的权威监管问答(包括 2026 年委员会关于 Art. 6 高风险分类的指南草稿——一般原则、附件 I、附件 III)。基于完整条例文本、委员会指南、EDPB/EDPS 意见、《实践守则》、协调标准、FRIA 指南、事件模板和行业特定指引,以条款级引用回答关于 AI 法案的任何问题。当用户询问"EU AI Act"、"AI Act regulation"、"Regulation 2024/1689"、"KI-Verordnung"、要求"explain an AI Act article"、"what does Article X say"、"AI Act requirements"、"AI Act penalties"、"AI Act timeline"、"GPAI obligations"、"high-risk AI"、"prohibited AI practices"、"AI Act and GDPR"、"fundamental rights impact assessment"、"AI Act standards"、"AI Act national implementation"、"AI literacy"、"serious incident reporting"、"Digital Omnibus"、"AI regulatory sandbox",或任何关于欧盟人工智能监管的问题时,应使用本技能。德语术语同样触发:"KI-Gesetz"、"KI-Verordnung"、"Hochrisiko-KI"、"KI-Kompetenz"、"Grundrechte-Folgenabschaetzung"、"GPAI-Verhaltenskodex"。对于产出分类决定而非知识答案的评估工作流,提议在会话内运行结构化风险等级分类。

FileKindSize
LICENSE.txtmarkdown33.7 KB
README.mdmarkdown6.0 KB
SKILL.mdskill md13.5 KB
evals.jsonconfig19.0 KB
references/codes-of-practice/README.mdmarkdown621 B
references/codes-of-practice/gpai-code-detailed.mdmarkdown42.4 KB
references/codes-of-practice/gpai-code-ec-overview.mdmarkdown3.4 KB
references/codes-of-practice/gpai-code-final.mdmarkdown101.8 KB
references/codes-of-practice/transparency-code-draft-1.mdmarkdown1.0 KB
references/codes-of-practice/transparency-code-draft-2.mdmarkdown3.8 KB
references/codes-of-practice/transparency-code-overview.mdmarkdown5.0 KB
references/commission-guidelines/art-6-classification-annex-i-2026.mdmarkdown30.8 KB
references/commission-guidelines/art-6-classification-annex-iii-2026.mdmarkdown371.7 KB
references/commission-guidelines/art-6-classification-general-principles-2026.mdmarkdown12.2 KB
references/compliance-guides/README.mdmarkdown646 B
references/compliance-guides/ai-literacy-repository.mdmarkdown1.8 KB
references/compliance-guides/copyright-tdm-consultation.mdmarkdown3.6 KB
references/compliance-guides/modifying-ai-classification.mdmarkdown24.7 KB
references/compliance-guides/small-businesses-guide.mdmarkdown12.6 KB
references/compliance-guides/whistleblowing-ai-act.mdmarkdown18.1 KB
references/core/README.mdmarkdown1.1 KB
references/core/annex-iii-high-risk.mdmarkdown8.0 KB
references/core/decision-trees.mdmarkdown10.2 KB
references/core/high-level-summary.mdmarkdown13.6 KB
references/core/regulation-preamble-recitals.mdmarkdown173.0 KB
references/core/regulation-title-I-general.mdmarkdown18.8 KB
references/core/regulation-title-II-prohibited.mdmarkdown8.2 KB
references/core/regulation-title-III-high-risk.mdmarkdown79.5 KB
references/core/regulation-title-IV-transparency.mdmarkdown3.9 KB
references/core/regulation-title-V-gpai.mdmarkdown12.0 KB
references/core/regulation-title-VI-X-governance.mdmarkdown104.3 KB
references/core/regulation-title-XI-XIII-final.mdmarkdown39.4 KB
references/cybersecurity/README.mdmarkdown440 B
references/cybersecurity/enisa-advisory-opinion.mdmarkdown29.7 KB
references/cybersecurity/enisa-ai-cybersecurity.mdmarkdown7.4 KB
references/cybersecurity/enisa-cybersecurity-standardisation.mdmarkdown3.7 KB
references/fria/README.mdmarkdown338 B
references/fria/article-27-fria.mdmarkdown4.8 KB
references/fria/ecnl-fria-guide.mdmarkdown43.3 KB
references/fria/fria-guide-danish-institute.mdmarkdown2.7 KB
references/governance/README.mdmarkdown660 B
references/governance/ai-office-faq.mdmarkdown59.8 KB
references/governance/ai-pact.mdmarkdown5.4 KB
references/governance/ec-qa-navigating-ai-act.mdmarkdown38.5 KB
references/governance/governance-enforcement.mdmarkdown2.8 KB
references/governance/implementation-next-steps.mdmarkdown6.2 KB
references/governance/implementation-timeline.mdmarkdown12.8 KB
references/governance/whistleblower-tool.mdmarkdown2.8 KB
references/guidelines/README.mdmarkdown664 B
references/guidelines/ai-system-definition.mdmarkdown4.0 KB
references/guidelines/digital-omnibus.mdmarkdown9.4 KB
references/guidelines/ec-regulatory-framework.mdmarkdown13.7 KB
references/guidelines/gpai-obligations-scope.mdmarkdown1.7 KB
references/guidelines/guidelines-roadmap.mdmarkdown3.0 KB
references/guidelines/prohibited-practices-full.mdmarkdown58.8 KB
references/guidelines/prohibited-practices-web.mdmarkdown3.0 KB
references/impact-assessments/README.mdmarkdown382 B
references/impact-assessments/healthcare-study-2026.mdmarkdown4.3 KB
references/impact-assessments/impact-assessment-original.mdmarkdown1.9 KB
references/impact-assessments/supporting-study.mdmarkdown1.4 KB
references/law-enforcement/README.mdmarkdown312 B
references/law-enforcement/europol-ai-policing.mdmarkdown2.9 KB
references/law-enforcement/gpai-guidelines-overview.mdmarkdown9.2 KB
references/national/README.mdmarkdown467 B
references/national/german-ai-bill.mdmarkdown10.3 KB
references/national/national-implementation-plans.mdmarkdown13.7 KB
references/national/national-resources-service-desk.mdmarkdown3.5 KB
references/national/regulatory-sandboxes.mdmarkdown29.2 KB
references/opinions/README.mdmarkdown447 B
references/opinions/edpb-edps-joint-opinion-2021.mdmarkdown2.6 KB
references/opinions/edpb-edps-joint-opinion-2026.mdmarkdown20.6 KB
references/opinions/edpb-opinion-28-2024.mdmarkdown3.1 KB
references/sector-specific/README.mdmarkdown409 B
references/sector-specific/banking-ai-implications.mdmarkdown5.0 KB
references/sector-specific/medical-devices-ai.mdmarkdown22.4 KB
references/sector-specific/staffing-businesses-ai.mdmarkdown10.7 KB
references/standards/README.mdmarkdown617 B
references/standards/article-40-harmonised-standards.mdmarkdown3.5 KB
references/standards/harmonised-standards-map.mdmarkdown10.3 KB
references/standards/pren-18286.mdmarkdown1.6 KB
references/standards/standardisation-overview.mdmarkdown4.8 KB
references/standards/standardisation-qa.mdmarkdown7.9 KB
references/standards/standardisation-request-c2025-3871.mdmarkdown1.5 KB
references/templates/README.mdmarkdown476 B
references/templates/draft-guidance-art73-high-risk.mdmarkdown2.4 KB
references/templates/gpai-submitting-documents.mdmarkdown3.9 KB
references/templates/gpai-training-data-summary.mdmarkdown2.0 KB
references/templates/serious-incident-template-gpai.mdmarkdown2.5 KB

references/fria/ecnl-fria-guide.md

View on GitHub
# ECNL 基本权利影响评估指南

ECNL 与丹麦人权研究所编制的《人工智能法》下基本权利影响评估(FRIA)实施综合指南——含详细方法论、检查清单与实用工具。

| 方面 | 详情 |
|--------|--------|
| 编制机构 | ECNL / 丹麦人权研究所 |
| 日期 | 2025 |
| 来源 URL | https://www.humanrights.dk/files/media/document/ECNL%20DIHR%20Guide%20to%20FRIA.pdf |
| NotebookLM 来源 ID | fb1b2f3e-... |

*德语:ECNL-Leitfaden zur Grundrechte-Folgenabschatzung*

---

本项目由欧洲人工智能与社会基金(European Artificial Intelligence & Society Fund)资助。依据知识共享许可协议发布:CC-BY SA 4.0 署名—相同方式共享 4.0 国际版。

**致谢:** ECNL 与 DIHR 感谢 AlgorithmWatch 和 Michele Loi 在本指南编写中发挥的作用,尤其是对问卷模板的大量贡献。其他参与贡献者包括:Gianclaudio Malgieri(莱顿大学 eLaw)、Isabelle Schipper(荷兰人权研究所)、Iris Muis 与 Julia Straatman(乌得勒支数据学院)、Patricia Shaw(Beyond Reach Consulting Limited)以及众多公民社会组织同仁。

**方法论:** 本指南基于 ECNL 与 DIHR 的材料和经验、人权专家与公民社会组织在柏林、哥本哈根和布鲁塞尔举办的 3 场研讨会中的意见,以及学术文献等公共领域信息。Excel 版 FRIA 模板中所含问题(尤其是背景分析部分)是在审阅多份人工智能影响评估方法论中的类似问卷后开发的,其中包括荷兰政府采用的基本权利与算法影响评估、加泰罗尼亚数据保护局的《基本权利影响评估模型》、FRIAct 部署前问卷,以及欧洲委员会关于人工智能系统对人权、民主与法治的风险和影响评估的方法论。

---

## 目录

1. 引言
2. 如何使用本指南
   - A. 对《人工智能法》的整体解读
   - B. 借鉴国际标准
   - C. 避免常见误区
3. 有意义的 FRIA 的标准
4. FRIA 分步指南
   - 第一阶段:规划与界定范围
   - 第二阶段:评估并缓解对基本权利的负面影响
   - 第三阶段:部署决策与公开报告
   - 第四阶段:监测与审查
   - 第五阶段:咨询受影响群体与利益相关方(贯穿全程)
5. 有用资源

---

## 1. 引言

2024 年通过的《欧盟人工智能法》(EU AI Act)是一项创新性的立法框架,它通过一种适用于各行业和各领域的风险分级架构来规范人工智能的开发和部署。《人工智能法》将保护基本权利列为目标之一,要求部署高风险人工智能系统的组织在其首次使用前进行基本权利影响评估(FRIA)。

除了保护基本权利之外,设计良好并得到妥善实施的 FRIA 还带来诸多好处:它可以支持组织建立和(或)完善负责任的人工智能治理框架,与外部利益相关方建立信任和常态化沟通渠道,并最大限度地降低潜在的声誉成本和诉讼成本。此外,就公共机关而言,FRIA 还能在权利主体与国家发生互动的关键领域(如教育、医疗保健、执法)推动围绕人工智能采用的决策民主化。

本指南的目标是支持组织依照《欧盟人工智能法》及相关国际标准开展 FRIA。作为人工智能系统部署前的决策里程碑,FRIA 包括:规划与界定范围;对负面影响的严重性和可能性进行结构化审议,包括吸收可能受影响的人、其相关代理人以及具备基本权利专业知识的利益相关方的参与;实施并监测缓解措施;公共透明度;以及全程的严格记录。当 FRIA 植根于以专门的政策和程序、角色与职责、资源与能力为支撑的组织级人工智能治理战略时,它最能发挥其潜力。

### 《人工智能法》第 27 条规定的 FRIA 要素

FRIA 应包括:

**(a)** 对部署者将按照预期目的使用高风险人工智能系统的过程的说明;

**(b)** 对每项高风险人工智能系统拟使用的时间段和使用频率的说明;

**(c)** 在特定情境下可能受其使用影响的自然人及群体的类别;

**(d)** 可能对根据本款(c)项确定的自然人类别或人群群体产生影响的特定损害风险,并考虑到提供者提供的信息;

**(e)** 根据使用说明实施人工监督措施情况的说明;

**(f)** 在这些风险实际发生时拟采取的措施,包括内部治理安排和投诉机制。

### 目标受众

本指南的主要受众是《人工智能法》下高风险人工智能系统的部署者,内容专门面向公共机关和公共机构。除此类受众外,任何希望以负责任且符合基本权利的方式部署人工智能的组织均可使用本指南。

### 《人工智能法》下的部署者

以下三类部署者有义务开展 FRIA:

1. **公共机关**在《人工智能法》附件三所列领域部署高风险人工智能系统,具体包括:生物识别、教育与职业培训、就业、基本私人服务和公共服务的使用与享有、执法、移民、庇护与边境管控管理、司法管理与民主进程;
2. **提供基本公共服务的私营实体**;以及
3. **保险公司和银行**,利用人工智能为人身保险和健康保险定价,并评估自然人的信用状况。

---

## 2. 如何使用本指南

### 2A. 对《人工智能法》的整体解读

本指南将 FRIA 义务置于《人工智能法》的更广泛背景中,将其与对高风险人工智能系统部署者的其他相关要求联系起来。例如,部署者建立内部人工智能素养能力(第 4 条)和实施人工监督(第 26 条)的要求已被列为可以应对基本权利负面影响的缓解措施。部署者报告严重事件(包括侵犯基本权利的事件)(第 26 条)的要求,也与部署者应当建立投诉机制的预期相关联。

### 2B. FRIA 与 DPIA 的关系

围绕《通用数据保护条例》(GDPR)要求的数据保护影响评估(DPIA)与 FRIA 之间的关系产生了疑问,特别是当一个组织需要同时遵守这两项评估时,二者应当整合还是分开进行。本指南将 DPIA 和 FRIA 视为独立、分离但互补的两项评估。

GDPR 第 35 条要求数据处理者在其数据处理对个人的权利和自由构成高风险时开展 DPIA。有人指出,由于那些被要求开展 FRIA 的组织依 GDPR 也必然被要求开展 DPIA,这两项评估的整合可能成为必要。虽然 DPIA 与 FRIA 之间存在明显相似之处,但也存在一些重要差异。在实践中,大多数 DPIA 主要处理对数据保护的影响,而 FRIA 则意在处理对所有基本权利的影响。此外,高风险人工智能系统可能产生并非严格源于数据处理过程的负面影响,例如新人工智能系统导致的工人岗位流失。

### 2C. 借鉴国际标准

联合国人权理事会在 2011 年核可的《联合国工商业与人权指导原则》(UNGPs)为将人权纳入企业风险管理和影响评估提供了规范性基础——这一过程被称为"人权尽责"(human rights due diligence)。欧洲政策制定者借鉴 UNGPs 制定了负责任商业行为的具有法律约束力的标准,例如《欧盟企业可持续发展尽职调查指令》和《企业可持续发展报告指令》。本指南在评估基本权利影响严重性的方法论、利益相关方参与的核心地位、投诉机制的有效性标准等方面借鉴了 UNGPs。

### 2D. 避免常见误区

本指南也借鉴了算法影响评估和人权影响评估实施中获得的经验教训。对影响评估的典型关切包括:

- 缺乏充足的资源分配和管理层支持
- 利益相关方参与不充分或流于形式
- 组织对缓解措施缺乏跟进和监测
- 公共透明度不足
- 评估时点不当(即在重要的运营决策作出之后才进行评估)

《人工智能法》下 FRIA 的正当性将取决于此类常见误区在多大程度上得到克服。例如,如果组织仅以桌面推演方式开展 FRIA,没有任何外部意见和(或)咨询,利益相关方可能会怀疑评估结论的可信度。或者,如果在已就人工智能系统部署作出决定之后才实施 FRIA,外部利益相关方可能会担心组织低估了潜在负面影响的严重性。

---

## 3. 有意义的 FRIA 的标准

### 以基本权利为基准

- 所有影响均以基本权利标准为基准进行评估。相关标准包括《欧盟基本权利宪章》和《欧洲人权公约》,并可由专门性国际人权条约加以补充,如《儿童权利公约》和《残疾人权利公约》。
- 评估的重点是对人的负面影响(相对于正面影响)。
- 缓解措施与基本权利一致,且不损害基本权利。
- 开展 FRIA 的团队依托基本权利专业知识,例如基本权利组织的意见、对相关判例的审查以及区域和国际人权机构的权威建议。

### 有意义的参与和不歧视

- 在识别和评估负面影响以及设计缓解和补救措施时(如有必要,在部署后阶段),应咨询可能受影响的权利主体和(或)其合法代理人。
- 组织应留出充足时间与权利主体进行有意义的交流,并提供关于人工智能系统及咨询目的的相关、可获取的信息。
- 组织应考虑并处理参与的可能障碍,例如地理距离、人工智能和数字素养有限、缺乏时间和资源。
- 组织应考虑到面临更高损害风险和(或)受益于非歧视法律保护的人群的差异化需求,例如儿童、残疾人、移民和寻求庇护者、老年人。

### 问责制

- 公司内部应指定具体个人或职能部门负责 FRIA 的实施、监测和跟进。
- 组织应保存适当的文件和记录,以证明 FRIA 的实施情况。

### 获得救济

- 受影响的权利主体有渠道就人工智能系统提出投诉。
- 部署者层面的投诉机制应可访问、可预期,且不损害现有的司法和非司法机制。
- 如果在部署后更新 FRIA,组织应处理已经实际发生且需要补救的负面影响。

### 透明度与信息获取

- 《人工智能法》要求的 FRIA 摘要应提供准确、充分和可靠的信息。
- 作为良好做法,FRIA 的评估结果应广泛公开,并与过程中咨询过的外部利益相关方分享。

---

## 4. FRIA 分步指南

本部分为设计和实施 FRIA 提供结构化方法,作为 FRIA 模板的配套指南;FRIA 模板包含一套实用问题,部署者可以用其指导和记录审议与决策过程。本指南分为五个不同阶段,分别处理 FRIA 的不同方面。虽然前 4 个阶段可以按顺序进行,但利益相关方参与阶段具有贯穿全程的相关性。

**五个阶段:**
1. 第一阶段:规划与界定范围
2. 第二阶段:评估并缓解对基本权利的负面影响
3. 第三阶段:部署决策与公开报告
4. 第四阶段:监测与审查
5. 第五阶段:咨询受影响群体与利益相关方(贯穿全程)

---

### 第一阶段:规划与界定范围

#### 步骤 1.1:考虑 FRIA 的时机

部署者应在高风险人工智能系统首次使用之前开展 FRIA。就公共机关而言,公共采购是识别负面人权影响风险并在损害发生前实施缓解措施以应对此类风险的关键节点。例如,FRIA 可以影响采购规划阶段,包括供应商资格评定和投标评审,以及与供应商的合同条款。仅在人工智能系统采购完成之后才开展 FRIA,可能会削弱部署者制定有效缓解措施的能力,尤其是在这些缓解措施需要由提供者实施技术措施并与提供者协作的情况下。

#### 步骤 1.2:为 FRIA 分配切合实际的预算

FRIA 涉及跨职能协调、利益相关方参与、迭代审议、缓解措施、记录和监测。这些活动需要专门的时间和资源,因此需要适当的预算。后者可以纳入组织在考虑采用新人工智能系统时进行的更广泛成本效益分析之中。

#### 步骤 1.3:组建 FRIA 团队

FRIA 团队应由来自不同学科和内部职能部门的专家组成,例如基本权利、工程、人工智能安全与伦理,以及法律合规、数据保护、采购、信息技术、运营等内部职能部门。如果组织没有具备基本权利能力的工作人员,则应评估 FRIA 团队如何能够借助该专业知识(例如参加培训、咨询外部专家)。虽然数据保护专业知识具有相关性,但团队还应具备与特定人工智能用例相关的其他权利和判例知识,如反歧视、正当程序权利、移民法、受教育权和健康权。理想情况下,团队应具有多样性,考虑性别和年龄等因素。

团队的职责是就按照基本权利标准部署人工智能系统向管理层提供建议。

建议在团队内分配具体角色,例如主持会议、联络利益相关方、记录评估结果。

##### 组建 FRIA 团队的三种模式

**内部模式:**由组织内的跨职能团队开展 FRIA。

| 优点 | 缺点 |
|------|------|
| 通过明确分配实施、跟进和监测的角色与职责确保问责 | 如果内部能力/专业知识有限,FRIA 可能以肤浅的方式实施 |
| 为部署者提供培养员工人工智能素养技能和基本权利能力的机会 | 由于存在偏见的感知,外部利益相关方可能怀疑评估的可信度 |
| 保留 FRIA 的制度记忆,能够在部署后总结经验教训并持续改进 | 内部约束可能阻碍团队跳出思维定式 |
| 更好地使部署者做好准备,以应对人工智能系统监测过程中可能出现的问题,例如严重事件、回应可能的投诉 | |

**外部化模式:**由于内部能力限制或独立性需要,委托第三方开展 FRIA。部署者应确保第三方具备必要的专业知识,并采用基于基本权利的方法论。

| 优点 | 缺点 |
|------|------|
| 有机会借助内部可能缺乏的专门专业知识 | 可能削弱部署者的问责制 |
| 视所选择的顾问而定,可以缓解对偏见的感知 | 评估和缓解措施可能无法完全贴合部署者的机构现实 |

**混合模式:**内部团队与外部专家指导组合作,获得高层级建议和质量保证。该模式适用于部署影响规模较大的人工智能系统的公共实体。

| 优点 | 缺点 |
|------|------|
| 保持机构所有权,并创建借助外部专业知识的结构化方法 | 运作指导组的治理框架、协调内部和外部利益相关方的时间安排与流程可能耗费时间和资源 |
| 通过外部意见和反馈纠正部署者可能的偏见 | |
| 增强评估的可信度 | |

#### 步骤 1.4:开展背景分析

FRIA 团队的首要任务是开展背景分析,逐一回答一系列问题,这些问题参考了《欧盟人工智能法》的要求等。背景分析问卷不必一次性填写完毕——它可能涉及迭代讨论、识别数据缺口和进一步收集数据的需要,包括通过收集内部和外部利益相关方的意见。

问题分为 3 类:

1. **人工智能系统部署背景:**人工智能系统的预期目的;使用的时间框架和频率;借助人工智能系统的输出作出的决策;适用的法律框架,包括是否存在司法和非司法投诉机制;识别用户和可能受影响的人。
2. **人工智能系统特征:**技术方面;个人数据处理;可获得的数据质量、准确性和可靠性信息。
3. **人工智能系统治理:**提供者与部署者之间的角色、职责和信息共享;是否存在关于人工智能系统监测的内部政策和程序;人工监督、人工智能素养以及对受影响的人保持透明的措施。

为回答这些问题,团队可以查阅:

- 内部文件,例如采购前分析、成本效益评估、数据保护影响评估、人工智能治理政策。
- 供应商/厂商的文件,例如技术说明、提供者风险管理系统的信息以及对基本权利风险的评估。
- 公开信息,例如人权组织对类似系统表达的关切、可以咨询的关键基本权利利益相关方。

有些问题(例如与人工智能系统特征相关的问题)如果在系统采购之前开展 FRIA,将难以回答。这些问题仍然有助于为评估潜在供应商的投标设定评审标准。部署者应优先选择那些对基本权利影响和缓解措施有扎实理解、并承诺提供充分文件和透明度的供应商。

背景分析可以通过两种相互关联的方式为识别和缓解对基本权利的负面影响奠定基础:

1. 它可以初步提示基本权利风险的潜在来源,例如对人工智能系统的预期目的及其如何整合到部署者决策中缺乏共识、人工智能输出的可解释性低、有意义的人工监督能力低、监管框架不明确/含糊不清。
2. 它可以间接提示可以采取的缓解措施类型,例如在与供应商的合同中设置基本权利保障条款、建立专门的人工智能系统监测流程。

##### 第一阶段的相关文件

- FRIA 流程的工作计划和时间表
- 现有文件汇编
- 初步利益相关方图谱(见第五阶段)
- 如相关,外部顾问的职责范围(ToR)和(或)合同条款
- 如相关,FRIA 团队的职责范围(ToR)

---

### 第二阶段:评估并缓解对基本权利的负面影响

在本阶段,FRIA 团队侧重于识别人工智能系统可能对人产生的负面基本权利影响,并决定需要哪些缓解措施来应对这些负面影响。以下步骤与 FRIA 模板("影响评估与缓解"选项卡)中的问题相对应。

#### 步骤 2.1:编写简要情景并识别受影响的各项权利

FRIA 团队应编写简要情景,概述人工智能系统可能如何对人产生负面影响——包括受人工智能输出所作决策影响的人,以及直接与人工智能系统互动的人。团队可以先头脑风暴所有可能的情景,再选择 3-5 个进行深入分析,同时考虑典型情景和最坏情景。典型情景突出预期条件下的负面结果,而最坏情景则侧重于可能加剧损害严重性的意外事件或累积影响。同一情景可以用"典型"和"最坏"两种框架进行分析。对于每个情景,应识别所有可能受到负面影响的各项基本权利。每个情景很可能涉及几项权利,因为权利往往是相互关联的。例如,教育领域有偏见的人工智能系统可能影响不受歧视权、受教育权、儿童权利和隐私权。

##### 典型情景与最坏情景示例

**情景 1:典型影响**

在地中海例行行动中,某边境保护机构在多个区域部署了用于海上人员探测的人工智能系统。由于北非渔民经营的渔船与欧洲休闲船艇在船型、着装模式和移动行为上存在差异,该算法持续将前者错误分类为"高风险非正规移民"。三个月内,该系统在部分区域产生了 45% 的误报,不成比例地触发海岸警卫队对合法渔业活动的拦截。与此同时,在黄昏时段海况恶劣的情况下,该系统未能探测到一艘部分泄气的橡皮筏上寻求庇护者的遇险状况——这一情况在训练数据中代表性不足。响应迟缓导致了死亡和严重低温症案例。算法将警报降级,是因为乘客因精疲力竭而动作极少,且缺乏可见的紧急信号,被解读为"低风险"。海岸警卫队军官因频繁误报而产生警报疲劳,并逐渐过度依赖系统的风险评估,在模棱两可的案件中不再运用独立判断。

受影响的基本权利:
- 生命权(《欧洲人权公约》第 2 条;《宪章》第 2 条):救援响应迟缓导致可预防的死亡
- 禁止不人道或有辱人格的待遇(《欧洲人权公约》第 3 条;《宪章》第 4 条):在海上暴露于危及生命的环境
- 可能构成间接歧视的偏见(《欧洲人权公约》第 14 条;《宪章》第 21 条):对北非渔民的系统性偏见

**情景 2:最坏情景**

地缘政治危机发生后,移民路线急剧改变,成千上万的人逃离冲突区,使用人工智能训练数据中不存在的新出发点和船型。该系统无法识别新模式,系统性地低估遇险状况,同时过度标记受影响地区的常规海上活动。在此期间,海岸警卫队资源被导向虚假警报,而真正的紧急情况却未被发现。这一错误影响了五个成员国的行动,导致多起大规模伤亡事件。与此同时,供应该系统的公司遭遇数据泄露,将个人的生物识别数据、移动模式和地理位置信息暴露给犯罪网络和敌对国家行为者。部分成员国迫于国内政治压力,开始利用该系统的"非正规移民风险"评分,在没有法律程序的情况下为全面推回政策辩护。

受影响的基本权利:
- 生命权(《欧洲人权公约》第 2 条;《宪章》第 2 条):系统性探测失败和数据暴露给犯罪网络导致大规模伤亡
- 禁止酷刑和不人道待遇(《欧洲人权公约》第 3 条;《宪章》第 4 条):长期暴露于危及生命的海上环境
- 庇护权和不推回原则(《宪章》第 18 条;《难民公约》第 33 条):自动化拦截阻碍了获得保护
- 隐私权和数据保护权(《欧洲人权公约》第 8 条;《宪章》第 7-8 条):生物识别数据泄露
- 获得有效救济的权利(《欧洲人权公约》第 13 条;《宪章》第 47 条):自动化决策的不透明性阻碍了问责

##### 权利识别指引

为支持 FRIA 团队完成本步骤,FRIA 模板包含一个选项卡,提供人工智能系统可能对基本权利造成负面影响的不穷尽示例("基本权利"选项卡)。其中包括《欧盟基本权利宪章》中所有基本权利的清单及《欧洲人权公约》中的对应条款;每项权利内容的简要说明;以及可能源于受 FRIA 义务约束的高风险用例的负面影响的非穷尽清单。FRIA 团队应开展补充研究,以识别与该用例相关的最新基本权利发展。

##### 人工智能与基本权利研究来源

- 欧盟基本权利机构(EU Fundamental Rights Agency):《欧盟基本权利宪章》
- 欧盟基本权利机构:判例法数据库
- 欧盟基本权利机构:数据保护、隐私与新技术
- 欧洲人权法院:专题简报(禁止歧视;言论自由;私人生活;工作场所监控;新技术;公正审判权)
- 欧洲数据保护监督专员:人工智能
- 联合国人权事务高级专员办事处:人工智能
- Access Now:出版物
- 国际特赦组织:Amnesty Tech
- 第十九条(Article 19):最新新闻
- 欧洲数字权利组织(EDRi):出版物
- 欧洲国家人权机构网络:人工智能工作组
- 欧洲平等机构网络:人工智能与平等图书馆
- 欧洲非营利法律中心:新闻与研究
- 隐私国际(Privacy International):近期新闻

##### 权利评估的整体方法

基本权利的表述较为宽泛;其精确的法律义务范围是通过次级立法和判例法得以明确的。何种行为达到侵权阈值,其精确性和确定性在不同基本权利之间差异很大。此外,在与人工智能技术部署相关的侵权方面,从业者可借鉴的基本权利判例仍然有限。

在编写情景时,FRIA 团队应采取整体方法,将所有可能损害人的尊严、自由和应享权益的影响——无论它们与基于现有判例的法律义务对应得多么整齐——都纳入记录和讨论。这可能意味着,例如,考虑以下相关影响:

- 人工智能取代工人导致的大规模失业
- 自动化偏见和对人工智能系统输出的过度依赖导致教育工作者和医疗专业人员技能退化
- 儿童认知能力下降,例如记忆保持能力下降和批判性思维受到侵蚀

鉴于人工智能技术快速演变的性质,以及其对个人和群体权利在短期、中期和长期将如何产生干扰的不确定性,采取这种预防性方法是必要的。与其回避规范性不确定性,不如将其视为 FRIA 的一个特征——如果得到充分记录和披露,它可以促使基本权利机构作出更广泛的进一步指导和解释。

#### 步骤 2.2:评估负面影响的严重性和可能性

下一步,FRIA 团队评估每项负面基本权利影响的严重性和可能性。

**严重性**根据以下几个参数进行评估:

- **干预程度:**评估人工智能系统如何干预某项特定权利,促使反思部署者的行为和负面影响在多大程度上可能构成对基本权利的侵犯,例如基于次级法律(如反歧视法、数据保护法)、判例法以及区域和国际人权机构的不具约束力意见。
- **影响范围:**评估影响有多广泛、受影响的人数有多少,以及处于弱势地位的人是否受到影响。
- **影响严重程度:**评估损害的严重程度(物质、心理、身体)。
- **不可逆性:**评估使可能受影响者恢复到至少与其负面影响之前相同或相当的状态有多容易或多困难。

**可能性:**考虑影响负面可能性的因素,例如:

- 高风险人工智能系统的提供者在风险管理、数据质量、准确性、质量管理体系方面遵守义务的程度
- 部署者实施有意义人工监督的程度
- 人工智能系统将进行进一步修改的程度
- 部署者的利益、动机和激励
- 恶意行为者可能试图篡改人工智能系统的程度
- 法律框架的变化

FRIA 模板中的"严重性"和"可能性"问题包含封闭式答案,采用高、中、低等量表,用于计算优先级排序公式(见步骤 2.3)。如果用于优先级排序的量化估计对组织没有用处,或者组织更倾向于完全定性的参与方式,则可以直接删除预定义的答案。

利益相关方参与以支持和压力测试 FRIA 团队自身对严重性和可能性的评估,这一点至关重要(见第五阶段)。应当指出,FRIA 是一个围绕未来可能发生之事的审议过程——因此,不同的人可能有不同的视角和见解。达成共识可能需要迭代对话、识别潜在盲点以及修正基本假设。

##### 处于弱势地位的人

处于弱势地位的人的基本权利受到干预的风险更高,并且由于社会或政策边缘化,其寻求补救和(或)从相关损害中恢复的资源和能力更少。处于弱势境地的个人可能更严重地经历同样的影响。例如,为健康保险设定保费的人工智能系统可能不成比例地损害低收入个人,导致更差的健康结果和更高的贫困风险。

识别与特定部署最相关的受影响最大群体将视背景而定。《人工智能法》不同部分提到的示例包括:处于极端贫困中的人、族裔或宗教少数群体(序言第 29 段)、18 岁以下的人(第 9 条)、残疾人(序言第 132 段、第 60 条)、历史上的歧视模式,例如针对妇女、特定年龄段人群、残疾人,或具有特定种族或族裔出身或性取向的人(序言第 65 段)。

为识别处于弱势地位的人,部署者可以关注:

- **个人特征:**潜在的歧视事由,如性别、种族、族裔、语言、宗教、政治见解、残疾、年龄或性取向(《欧洲宪章》第 21 条)。虽然歧视与弱势并非同一概念,但弱势往往可以由歧视造成或加剧。
- **权力不平衡:**地位、知识和社会经济状况的差异,例如非正规移民与边境机构之间,或福利受助人与决定福利发放的机关之间。

#### 步骤 2.3:对负面影响进行优先级排序

在回答关于可能性和严重性的问题后,FRIA 模板会生成优先级排序结果(高/中/低优先级)和风险矩阵可视化。这允许基于可能性和严重性对不同权利的影响进行比较评估。优先级排序由嵌入 FRIA 模板且对用户可见的公式支撑。

优先级排序结果帮助部署者决定预防和缓解工作的先后顺序;它也确保部署者将重点放在那些可能对人造成严重损害的影响上,而不是那些最容易或最方便缓解的影响。话虽如此,虽然最严重的影响获得优先,但所有影响最终都应得到处理。

#### 步骤 2.4:确定缓解措施

对于每个已识别的影响,FRIA 团队应确定现有或新的预防或缓解措施。《人工智能法》建议了人工监督安排和投诉处理程序等示例。有效的缓解措施会随着时间推移而演变,尤其是在技术层面。

建议对缓解措施进行分类:

- **组织措施:**例如有意义上的人工监督;投诉处理和救济程序;公共透明度;人工智能素养;制定应对可解释性请求的协议响应。
- **技术措施:**例如网络安全政策、日志管理和存储、确保输入数据具有相关性和代表性。
- **面向提供者的合同条款:**例如对输入数据质量和代表性的要求;要求提供者与部署者合作完成和更新 FRIA;当部署者面临解释人工智能系统输出的请求时要求提供文件;要求提供者告知部署者可能影响人工智能系统准确性和性能的任何技术变更。

部署者应优先实施那些旨在避免或预防负面影响并减少或最小化负面影响的措施。

在制定缓解计划时,FRIA 团队应确定负责实施缓解措施的内部职能部门和(或)工作人员,并评估对额外能力和资源的需求,包括对措施有效性进行监测的需求。

##### 投诉处理与救济程序

部署者应建立程序,接收和回应关于人工智能系统部署的询问、关切和申诉。部署者层面的投诉机制可以补充司法(如法院)和非司法(如平等机构、数据保护机构、监察专员)救济机制,为人们提供可访问、快捷的程序,就人工智能系统提出更广泛的关切。在某些情况下,此类机制可以提醒部署者注意基本权利风险或严重事件的存在,这些风险或事件触发通知义务。

设计此类机制时可以考虑不同因素,例如部署者的性质(如教育机构、医疗服务提供者、执法机关)、已有的投诉机制(如举报人渠道、工人投诉机制),以及各自司法辖区更广泛的救济背景(如非司法和司法渠道的可用性和可访问性)。

在梳理现有申诉机制后,部署者可能认为无需建立定制机制,而只需扩大现有机制的范围,确保其可向更广泛的利益相关方开放,并且处理投诉的工作人员具备足够的人工智能素养技能。

**有效投诉机制的标准:**

**可访问性:**
- 投诉机制的可用性应向可能受影响的个人主动告知
- 投诉机制向广泛的利益相关方开放,包括公民社会组织、学者和研究人员
- 投诉机制的投诉资格门槛较低,无需证明违反政策或法律
- 投诉机制所选用的界面(如在线表单、电子邮件、电话、当面提交)应考虑到数字素养低和互联网连接受限等障碍

**可预期性与公平性:**
- 投诉机制应有公开、清晰的流程和合理的投诉解决时限
- 部署者应根据需要向投诉人提供额外信息和专业知识

**权利兼容性:**
- 使用投诉机制的受影响个人应被告知其所在司法辖区针对基本权利侵权的司法和非司法救济
- 如果部署者决定提供救济,补救措施应与基本权利标准一致。补救可以采取不同形式,包括恢复原状、赔偿、康复、满足与保证不再发生

**持续学习与透明度:**
- 部署者利用投诉机制学习和改进人工智能系统治理
- 部署者发布关于机制运行情况的信息,包括收到的投诉的数量和类型及其处理结果

##### 第二阶段的相关文件

- FRIA 模板中记录的影响严重性和可能性评估
- 与受影响的人和其他利益相关方的咨询活动记录,包括咨询目的、参与人员以及其意见如何被纳入影响评估和缓解措施设计
- 载明角色、职责和预期预算的缓解计划
- 投诉机制的内部程序

---

### 第三阶段:部署决策与公开报告

#### 步骤 3.1:就部署或不部署作出决定

在完成负面影响评估和识别预防与缓解措施后,FRIA 团队应就人工智能系统的部署提出支持或反对的建议。FRIA 模板("部署"选项卡)中包含一组支持该建议的指导性问题。具体而言,FRIA 团队被要求考虑:在实施预防和缓解措施后,最初识别的影响是否仍然相关,和(或)其负面影响的可能性与严重性是否有所降低。部署决定应考虑受影响的权利是绝对权利还是限定权利。在影响限定权利的情况下,部署者应评估任何干预的必要性和相称性。

##### 对绝对权利和限定权利的干预

少数基本权利被认为是**绝对**的,这意味着对这些权利的任何干预在任何情况下都不会被认为是可接受的。此类权利包括思想自由、禁止酷刑和免受强迫劳动。

然而,大多数权利是**限定权利**,这意味着在严格条件下对这类权利的干预是可以接受的。限定权利的例子包括隐私权、言论自由、集会自由。

对限定权利的限制在以下情况下是允许的:
- 法律明确规定相应的限制
- 该限制旨在实现公共健康、公共安全、公共治安、保护他人权利的需要等正当的公共利益目标
- 该限制相对于该目标是必要的和相称的

此类评估高度依赖具体情况,需要权衡不同的考量和利益,传统上由法官事后进行。期望 FRIA 团队以法官所应达到的精确度和知识水平开展这一工作是不现实的——部分原因在于事前就潜在干预进行此类评估本身具有固有的不确定性。然而,只要能够在部署后面对基本权利侵权指控时帮助 FRIA 团队理解部署者的行为将依据哪些标准被评判,这一评估就是有用的。

**部署决策的推荐方法:**

- 在干预**绝对权利**的情况下(即使严重性和可能性被评估为低),**不应**建议部署
- 在干预**限定权利**的情况下(当严重性和(或)可能性为中度和(或)高度时),FRIA 团队应评估这些干预是否必要和相称,并据此决定是否部署

#### 步骤 3.2:公开报告 FRIA 评估结果

《人工智能法》要求作为公共实体的部署者在高风险数据库中公布 FRIA 评估结果的摘要。执法和移民机关的 FRIA 摘要将在数据库中对公众封闭的部分公布(仅市场监督机关可见)。

报告义务应置于更广泛的背景下理解:大多数欧盟国家都有信息自由法,保障公众获取公共机关所持信息的权利。欧洲人权法院近期的一项裁决明确,信息获取权包含定性维度,即信息应当真诚、准确、充分和可靠。

**FRIA 摘要应以通俗易懂的语言提供充分信息,使更广泛的公众能够理解:**

- 部署者如何使用人工智能系统,以及借助系统输出作出哪些类型的决策
- FRIA 的方法论和局限性,包括部署者是否已与受影响的人及(或)其合法代表以及具备基本权利知识的组织进行接触
- 所有已识别的负面影响和拟议的缓解措施,包括说明为什么认为缓解措施有效(例如资源、职责和能力的分配)
- 最终部署决定的理由
- 用于提出关切的投诉机制的存在情况

鼓励部署者在其自身网站上公布 FRIA 摘要,并附上额外文件,如 FRIA 团队组成、工作计划、收集和分析的数据类型、参与的利益相关方、FRIA 评估结果与审议情况以及缓解计划。扩大透明度可以建立公众对流程质量的信任,并促进良好实践的同行学习。

##### 第三阶段的相关文件

- 基于 FRIA 评估结果并由高级管理层批准的部署决定理由
- 用于公布 FRIA 评估结果的文档

---

### 第四阶段:监测与审查

#### 步骤 4.1:部署后建立监测流程

部署后,组织应监测缓解措施的有效性,并评估是否需要作出任何变更和调整。监测计划应回答以下问题:

- 监测的**内容**究竟为何?例如,关于借助人工智能系统作出的输出和预测的投诉的存在和处理情况;人工监督的质量;用户对人工智能系统满意度的调查结果。
- 人工智能系统部署后应在**何时**进行监测活动,部署后多长时间进行?多久一次、间隔多少?
- 应由**谁**(内部和(或)外部)开展监测活动?监测计划的管理采用何种治理结构、角色、程序和组织安排?以何种程序就监测结果达成一致并实施后续行动?

#### 步骤 4.2:在初始情况发生变化时更新 FRIA

《人工智能法》要求部署者在 FRIA 的任何必需要素发生变化或不再是最新信息时更新评估。在以下情况下可以考虑更新 FRIA:

- 人工智能系统的使用方式发生改变
- 部署已导致对基本权利的负面影响,包括严重事件,且初始评估未充分或恰当地涵盖这些影响
- 缓解措施未按预期有效发挥作用
- 立法变化和新的判例改变了最初关于部署合法性的评估

更新 FRIA 需要 FRIA 团队重新完成第一阶段至第三阶段和第五阶段列出的步骤。

##### 第四阶段的相关文件

- 监测计划,载明监测内容、频率、角色与职责、FRIA 更新触发条件

---

### 第五阶段:咨询受影响群体与利益相关方(贯穿全程)

现有资源,如《有意义参与框架》(ECNL)和《人权影响评估指南》(DIHR),可用于规划有意义且包容的利益相关方参与流程。

开展 FRIA 需要的不仅仅是桌面研究和分析:它要求与权利可能受人工智能系统影响的群体和社区和(或)其合法代表进行有意义的接触和咨询。《人工智能法》序言第 96 段支持这一点,其中规定部署者应吸收相关利益相关方参与开展影响评估和设计缓解措施。

此外,《人工智能法》提及的两份人权文书中明确规定了独立的参与权,这两份文书与受人工智能系统不成比例损害的人有关:
- **《联合国儿童权利公约》**确认儿童有权参与并影响可能影响其生活的决策过程。
- **参与**生活各个领域是**《联合国残疾人权利公约》**的核心原则。

除可能受影响的人之外,部署者还可以识别和接触其他利益相关方,其领域知识和专业知识可以通过填补知识空白和压力测试关于 FRIA 影响的假设来支持 FRIA 审议。此类利益相关方可包括:国家人权机构、平等机构、监察专员、数据保护机构、学者和研究人员、公民社会组织和倡导团体、行业机构、专业协会等。

#### 第一阶段中的第五阶段:规划与界定范围

FRIA 团队识别应参与流程的利益相关方。在这一初始阶段,也可能与一些利益相关方进行初步访谈。

**指导性问题:**
- 谁受到或可能受到人工智能系统部署的影响?
- 谁将与人工智能系统互动,例如警察、医护人员、人力资源人员?
- 哪些个人和群体受借助人工智能系统输出作出的决策的影响,例如求职者、申请公共福利的人、聚集在公共空间的人、移民、被定罪的人?
- 人工智能系统将处理哪些个人和群体的个人数据?
- 这些个人和群体中哪些最可能处于弱势地位?
- 根据《人工智能法》,部署者是否有义务告知这些个人将使用人工智能系统对其实施决策?
- 直接接触受影响的人存在哪些实际障碍,如何克服?是否存在代表受影响人利益和权利的合法代理组织(例如工会、移民权利组织、儿童权利组织)可以接触?
- 除受影响的人及其合法代表外,是否有其他利益相关方应优先接触?
- 接触这些个人/群体需要多少时间和资源?

#### 第二阶段中的第五阶段:影响评估与缓解

利益相关方应有意义地参与影响的识别和评估,以及有效预防和缓解影响措施的设计。

**指导性问题:**
- 谁应负责组织与利益相关方的接触?是否需要外部协调人?
- 接触的目的是什么,例如听取可能受影响的人关于人工智能系统可能如何对其产生负面影响的观点和关切;就缓解措施征求意见;借助专门专业知识评估任何剩余基本权利影响的可接受性?
- 最合适的面对面和(或)数字化接触方式是什么,例如公开咨询、访谈、焦点小组、问卷调查?这些方式是否考虑到弱势人群的需求,是否适合年龄并适应儿童的成熟度?
- 如何确保流程被视为值得信赖,而非走过场?应建立哪些保密协议?
- 应事先分享什么类型的信息,例如关于人工智能系统、受影响的人的权利、部署者的义务、已识别的负面影响,以促进双向交流?

#### 第三阶段中的第五阶段:部署与公开报告

应以有意义且可获取的方式将 FRIA 结果告知被咨询的利益相关方。

**指导性问题:**
- 应如何告知被咨询的个人和群体 FRIA 评估结果、部署决定,以及其意见如何被纳入决策?
- 咨询过程应如何记录?根据与利益相关方约定的保密协议,哪些信息可以公开?

#### 第四阶段中的第五阶段:监测与审查

受影响的人应具备在部署后就人工智能系统提出关切的机制,并参与其关切的解决。

**指导性问题:**
- 部署者是否具备有效的投诉机制,使受影响的人可以就人工智能系统的部署提出关切?这些投诉机制是否规定受影响的人在适当时参与补救措施的设计?
- 部署者是否有适当的程序回应关于人工智能系统在决策过程中所起作用的有意义解释的请求?

#### 利益相关方图谱表

| 利益相关方类别 | 示例 |
|----------------------|----------|
| **主要利益相关方——受影响的人或群体** | 直接受影响的个人和社区;面临更高损害风险的边缘化群体(儿童和残疾人;种族、族裔和宗教少数群体;妇女和性别少数群体;难民、移民和流动人口);合法代表/代理人 |
| **次要利益相关方——可能掌握影响相关知识的中间方** | 各类监管机构;公民社会组织和倡导团体;工会和专业协会;学术研究人员和人权专家;法律从业者和司法机构;人权组织,如平等机构、国家人权机构、区域/国际组织 |

---

## 有用资源

### 影响评估方法与实用指南

- 荷兰政府,《基本权利与算法影响评估》(2021)——FRAIA 及其试点报告 FRAIA in action
- 欧洲委员会,人工智能对人权、民主和法治影响评估方法论(2024)——HUDERIA
- 加泰罗尼亚数据保护局,FRIA 模型:指南与用例(2025)
- 丹麦人权研究所,《数字活动的人权影响评估》(2020)
- 欧洲非营利法律中心,《人工智能开发中的有意义参与框架》(2025)
- AlgorithmWatch,《公共部门的自动化决策系统——面向公共机关的影響評估工具》(2023)

### 学术文献

- Karen Yeung,Can risks to fundamental rights arising from AI systems be 'managed' alongside health and safety risks? Implementing Article 9 of the EU AI Act(2025)
- Gianclaudio Malgiere 与 Cristiana Santos,Assessing (the Severity of) Impacts on Fundamental Rights,将发表于 Computer Law & Security Review(2024)
- Alessandro Mantelero,The Fundamental Rights Impact Assessment (FRIA) in the AI Act: roots, legal obligations and key elements for a model template,载于 Computer Law & Security Review 54(2024 年 9 月)
- Vanja Skoric,Critical Criteria for AI Impact Assessment: An Aggregated View(2023)
slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack."Stars: 198kUpdated Claude CodeCodexVerifiedInstall
ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read.Stars: 196kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report.Stars: 196kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt.Stars: 196kUpdated Claude CodeCodexVerifiedInstall