CSlawyer1985/legal-skillhub / skills/ai-governance-initial-questions
ai-governance-initial-questions
Verified在采购或开工之前,对拟议 AI 应用做一次结构化初始问询,产出「可继续 / 需补齐 / 不可按此形态部署」三种结论与带责任人和期限的行动清单。 方法论移植自波兰个人数据保护局(UODO)2026-08-05《初始问题清单》。覆盖 GDPR 与 AI Act 信号提示,适用于出海与境外 AI 项目; 中国大陆境内 AI 用例的红线与备案判断请走 ai-governance-use-case-triage。
| File | Kind | Size |
|---|---|---|
| SKILL.mdexecutable | skill md | 8.9 KB |
| references/00-来源说明.mdexecutable | script | 3.9 KB |
| references/01-版本0-零号清单.mdexecutable | script | 19.7 KB |
| references/02-中小企业版.mdexecutable | script | 11.3 KB |
| references/03-公共部门版.mdexecutable | script | 14.8 KB |
| references/04-扩展版.mdexecutable | script | 28.3 KB |
references/04-扩展版.md
View on GitHub# 扩展版:加长问题清单——GDPR + AI Act(信号性)
> 译自波兰个人数据保护局(UODO)2026-08-05 发布的 *WERSJA ROZSZERZONA: ROZBUDOWANA LISTA PYTAŃ – RODO + sygnalizacyjnie AI Act*。
> 中文译本由北京大成(杭州)律师事务所数字业务团队制作,仅供理解与参考;填报与判断以波兰文原件为准。
> 原文为征求意见稿,UODO 意见征集截止 2026-09-30,其后可能更新。
| 项 | 内容 |
|---|---|
| **层级** | 深化层——三份入口层清单各自的第二层 |
| **依据** | GDPR + AI Act(信号性) |
| **适用对象** | 任何规模、任何行业的组织,在填完入口层清单之后 |
| **目的** | 收集进行风险分析、数据保护影响评估所需的事实,以及证明 GDPR 合规、并就 AI Act 项下义务作出信号提示所需的事实 |
| **时点** | 构想与选型阶段,采购或开工之前 |
| **何时使用** | 不论填了哪一份入口层清单,出现下列任一情形即适用:组织用自有数据自建或微调模型;系统输出影响个人的法律地位;处理特殊类别数据、儿童数据或与判决相关的数据;数据传出 EEA;系统可能构成 AI Act 意义上的高风险系统 |
| **产出** | 风险分析与数据保护影响评估的输入材料,在适当情形下也是基本权利影响评估(FRIA)的输入材料,以及构成部署前提条件的任务清单 |
| **功能性进路** | 项目问题(P)提供关于系统的认知,合规问题(Z)核查 GDPR 与 AI Act 要求,P/Z 兼具两者 |
## 方法论前提
### 功能性进路
清单结合两类互补的问题。**项目问题(P)** 识别 AI 应用的目的、性质与场景、供应商、数据以及组织准备度——提供合规判断所必需的认知。**合规问题(Z)** 核查具体 GDPR 要求是否满足,特别是法律依据、个人权利、告知义务、数据保护影响评估、设计阶段的数据保护以及委托处理。**P/Z** 标记表示该问题兼具两个方面。
两类问题彼此关联:项目问题「系统处理哪些数据?」是合规问题「处理这些数据是否有法律依据?」的前提。清单的结构反映了这一关系。
### AI 系统生命周期阶段
| 符号 | 阶段 | 说明 |
|---|---|---|
| [T] | 训练 / 开发 | AI 模型的开发与训练:训练数据、模型构建、测试。 |
| [W] | 部署 / 使用 | 部署成品 AI 系统而不做训练:配置、集成、日常使用。 |
| [T+W] | 两个阶段 | 共通事项:GDPR 角色、处理活动记录、DPO、设计与默认的数据保护、DPIA、安全。 |
### 关于「是否值得做」的前置问题
清单以关于 AI 系统部署正当性的问题开篇,用于确定构建或部署系统的收益是否超过与之相关的风险,特别涉及:AI 与所解决问题性质的适配度、系统满足组织需求的能力、系统对不同群体影响的公平性、可用数据的质量与代表性、人力与物力资源的充足性,以及系统被超出用途使用的风险。
这些问题与合规问题互为补充——它们确立决策语境,项目层面与监管层面的后果均由此而来。
## 清单的用途与填写方式
加长清单是入口层清单之后的**第二步**。它涵盖 GDPR 要求以及信号性的 AI Act 要求。其目的是收集进行风险分析、数据保护影响评估(DPIA),以及在适当情形下进行基本权利影响评估(FRIA)所必需的材料。
它与入口层清单的区别**不在适用对象,而在深度**:同样的议题,它按训练阶段与部署阶段分别处理,按每一项法律依据、每一段留存期限、每一类数据分别处理。
清单不是 DPIA 或 FRIA 的表格,也不替代二者。它是二者之前的一层:梳理组织对系统、数据、供应商与角色的认知状态;没有这一层,两项评估都只能建立在假设之上。清单同样不替代风险分析。但填写结果构成这些分析的输入材料。**填完清单不等于确认该应用符合 GDPR。**
> 已经知道该应用涉及个人数据、且设有合规职能的组织,可以直接从扩展版开始;此时填写版本 0 是多余的。
## 填写说明
1. 按 AI 系统将被创建或使用的每个流程分别填写;对于多功能系统,**按每一项风险画像不同的功能分别填写**。
2. 由流程的业务责任人协调填写,并有数据保护官或合规负责人以及信息系统负责人参与。
3. **对于用组织数据微调的系统,标记 [T] 和 [W] 的问题须按阶段分别填写。** 法律依据、数据范围与留存期限在两个阶段可能不同。
4. 如果该问题与本案无关,选择「说明」并在「行动」栏写明原因。只写「说明」而不填写说明内容的,视同未答复。
5. 答复栏留空表示存在信息缺口,须连同责任人与期限记入「行动」栏。「说明 / 来源」栏指明到哪里去找答案。
6. **第 10 板块(AI Act 信号提示)应当与熟悉 AI Act 的人共同审阅。该板块的问题具有信号性质,不替代对系统的完整分级。**
7. 填好的清单作为问责文档的组成部分留存(GDPR 第 5 条第 2 款),并作为核查该应用时、以及系统或其使用方式发生每一次重大变化时的参照点。
8. 当每个问题都有答复、且答复揭示出需要行动之处已在「行动」栏写明任务、责任人和期限时,填写即告完成。
9. **任务并不等价。** 涉及处理合法性条件的任务——特别是**分别就训练阶段与部署阶段**确定法律依据、特殊类别数据的处理要件、委托处理、数据传出 EEA 的依据、告知义务、对产生法律效果的决定的人工监督、数据保护影响评估,以及在高风险系统情形下的基本权利影响评估——**须在处理开始之前完成。在这些任务完成之前不作出部署决定。**
10. 涉及组织性措施的任务,例如 AI 素养培训与能力建设(AI Act 第 4 条)、AI 政策、事件响应程序、数据管理程序、技术文档,可以与部署并行推进,按「行动」栏写明的期限完成,前提是这段时间内风险仍处于受控状态。
11. **另有一类独立情形:按既定形态部署是不被允许的**,例如完全自动作出、产生法律效果且没有人工干预机制的决定,法律规定保留给人来做的行为,被禁止的 AI 做法。此处不安排带期限的任务——**必须改变流程的构造,或者放弃部署。**
---
## 清单正文
**列说明**:答复栏填「是 / 否 / 说明」;行动栏填「任务、责任人、期限」。以下表格省略这两栏空格,填写时自行补列。
### 1. 部署的目的、正当性与场景
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 1 | P [T+W] | AI 要解决哪个具体问题 / 需求?商业或公共目的是什么? | 界定目的是判断处理目的正当性(GDPR 第 5 条第 1 款 b 项)与部署相称性的前提。来源:项目文档。 |
| 2 | P [T+W] | 这个目的能否不用 AI、或用现有技术实现? | 应当评估现有技术与流程在多大程度上能更好地解决问题,同时考虑 AI 的风险画像和潜在负面后果。对相称性检验具有重要意义(第 5 条第 1 款 c 项)。 |
| 3 | P [T+W] | 预期有哪些可量化的收益(时间、成本、利润、服务质量)? | 明确预期收益有助于判断部署的相称性与个人数据处理范围的适当性(第 5 条第 1 款 c 项)。 |
| 4 | P [T+W] | 可能出现哪些声誉、法律、社会风险,或对人的风险? | 风险的初步识别有助于确定潜在风险级别,以及是否需要做 DPIA(第 35 条)。**收益与风险的权衡构成部署决定的准入门槛。** 来源:初步分析、与 DPO 的咨询。 |
| 5 | P [W] | 系统能否满足组织的需求与预期? | 应当评估计划中的系统在多大程度上能满足部署主体的需求与预期。系统不匹配会加大冗余处理的风险。 |
| 6 | P [T+W] | 系统有哪些使用场景,以及被超出用途滥用的风险? | 应当识别系统潜在的使用场景与滥用风险,包括超出最初用途的部署。与风险评估(第 35 条)相关。 |
### 2. AI 系统的性质与自主性
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 7 | P [T+W] | 系统做什么:生成内容、分类、预测、推荐、辅助 / 作出决定? | 明确系统功能对以下判断不可或缺:画像(GDPR 第 4 条第 4 项)、自动化决策(第 22 条)、DPIA 的范围与告知义务。 |
| 8 | P [W] | AI 的输出是有约束力的、建议性的,还是仅供参考的? | 输出的性质决定是否适用 GDPR 第 22 条(自动化决策)。若输出有约束力或对个人产生重大影响,则需要第 22 条第 3 款的保障措施。 |
| 9 | P [W] | 系统是仅作为对人的辅助,还是可能导致产生法律效果的决定? | 对判断是否构成 GDPR 第 22 条第 1 款意义上的自动化决策、以及是否需要第 22 条第 3 款的人工监督至关重要。 |
| 10 | P [W] | 系统是否对自然人作出自主决定?**人是否对 AI 的结果作出实质性的、有内容的复核——并有基于自身判断改变结果的现实可能——还是实践中 AI 的结果就已决定了裁断?** | 答复决定 GDPR 第 22 条的适用与人工干预的要求。来源:流程规格、工作流说明。 |
| 11 | Z [W] | 是否存在法律规定表明该行为应当由人来进行(例如作出行政决定、医生诊断)? | 在合规分析中可能需要结合部门法规作出判断。 |
| 12 | P [W] | 系统是否会被用于自然人(如客户、公民、员工、儿童)? | 对识别数据主体、告知义务范围(GDPR 第 13–14 条)以及风险分析范围至关重要。来源:项目说明、利益相关方分析。 |
| 13 | P [T+W] | 组织是自建 AI 系统,还是部署成品?(build vs. deploy) | 这一区分决定 GDPR 责任范围:原则上自建方对训练数据负责,部署方对输入数据和使用方式负责。 |
| 14 | P [T+W] | AI 是作为服务采购、内部开发,还是基于外部模型?**若供应商担任受托处理者角色,须核查其是否仍然主张某些自身的处理目的(例如数据再利用)。** | 系统的获取形式决定义务范围:委托处理协议(GDPR 第 28 条)、许可协议、共同控制(第 26 条)、第 28 条第 10 款的后果。来源:与供应商的合同。 |
| 15 | P [W] | 组织是否掌握系统架构与供应商说明的相关知识?如果供应商提供了使用说明,组织是否已经研读该说明及系统的运作目的? | 了解架构与供应商说明决定设计阶段数据保护(第 25 条)的有效性以及风险评估(第 32 条)的质量。来源:供应商文档。 |
| 16 | P [W] | 组织是否掌握系统正确配置的相关知识? | 正确的系统配置影响数据处理的范围与安全级别(GDPR 第 25 条与第 32 条)。来源:技术文档、供应商说明。 |
### 3. 个人数据——识别与来源
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 17 | P/Z [T+W] | AI 系统是否直接处理个人数据(如姓名、身份号码、联系方式、肖像)? | 应当涵盖:训练数据、输入数据(input)、输出数据(output)以及一切构成上下文的数据(如 RAG)。GDPR 第 4 条第 1 项对个人数据作广义定义。**这是根本性问题——41–58.5% 的组织识别不出这一关联**(战略报告)。来源:系统文档、数据流分析。 |
| 18 | P/Z [W] | 系统是否生成关于个人的新数据(如推断、画像、评分、分类)? | AI 生成的关于个人的数据(推断、画像、评分)可能构成 GDPR 第 4 条第 1 项意义上的个人数据,以及第 4 条第 4 项意义上的画像。 |
| 19 | P [T+W] | 属于哪些数据类别:一般数据、特殊类别数据(第 9 条)、儿童数据(第 8 条)、与判决相关的数据(第 10 条)? | 数据类别决定法律依据、DPIA 范围与所需保护级别:GDPR 第 9 条(特殊类别数据)、第 8 条(儿童数据)、第 10 条(判决数据)。来源:技术文档。 |
| 20 | P [T+W] | 数据主体中是否有处境特别脆弱的人(儿童、员工、残障人士)? | 处理这类数据会影响法律依据的判断,尤其是第 6 条第 1 款 f 项(控制者的正当利益)这一依据;也会影响处理原则的判断,尤其是最小化与目的限制原则,以及风险分析。 |
| 21 | P [T] | 训练数据的来源有哪些:自有、外部、公开、供应商提供、合成、来自数据主体? | 数据来源影响:目的相容性(GDPR 第 6 条第 4 款)、法律依据、告知义务(第 14 条——间接取得的数据)。来源:供应商文档、模型卡。 |
| 22 | P [W] | 使用阶段输入数据的来源有哪些:由用户提供给 AI 系统,还是 AI 系统自行从其他来源获取? | 输入数据的来源可能是用户直接提供,也可能是系统从外部抓取——为判断告知义务与法律依据,必须作出区分。 |
| 23 | P [T+W] | 训练阶段的数据、输入数据和输出数据的范围各是什么? | 各阶段的数据范围都必须符合最小化原则(GDPR 第 5 条第 1 款 c 项),涉及训练数据、输入数据与输出数据。 |
| 24 | P [T+W] | 数据的质量与代表性是否充分? | 数据的质量与代表性决定系统的有效性与安全性。数据准确性原则(GDPR 第 5 条第 1 款 d 项)要求避免有害偏见。 |
| 25 | P/Z [T+W] | 组织是否落实了涵盖 AI 系统所用数据的数据治理程序:数据分类、质量控制、访问管理、数据集版本管理与数据血缘(data lineage)记录? | 已落实的数据管理程序决定对数据、进而对 AI 系统运行结果的实际控制。没有这些程序,就无法证明符合准确性(GDPR 第 5 条第 1 款 d 项)、最小化(c 项)、存储限制(e 项)与问责(第 5 条第 2 款)原则。本题与第 45 题(数据治理责任角色)互为补充。来源:数据管理政策、内部程序、IT 文档。 |
### 4. 法律依据与处理目的
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 26 | Z [T] | 处理训练数据的法律依据是什么(GDPR 第 6 条第 1 款)? | 应当指明第 6 条第 1 款中使训练数据处理合法化的具体要件。**该要件可能不同于部署阶段的要件。** |
| 27 | Z [W] | 部署 / 使用阶段处理数据的法律依据是什么(第 6 条第 1 款)? | **部署与使用阶段可能需要不同于训练阶段的第 6 条第 1 款依据。** 来源:处理活动记录、DPO 意见。 |
| 28 | Z [T+W] | 若采用同意(a 项)——在强制使用 AI 的情况下,同意还能是自愿的吗? | GDPR 鉴于条款第 42–43 条:同意必须是自愿的。**在支配关系中(雇主—员工、机关—公民),同意的自愿性可能存疑。** |
| 29 | Z [T+W] | 若采用正当利益(f 项)——是否进行了利益衡量检验? | GDPR 第 6 条第 1 款 f 项要求在控制者的正当利益与数据主体的利益、权利和自由之间进行衡量检验。 |
| 30 | Z [T] | 若最初收集数据的目的不同于开发 AI 系统,是否进行了目的相容性评估(相容性检验,第 6 条第 4 款)? | GDPR 第 6 条第 4 款:若数据是为 AI 之外的目的收集的,应当按该条列举的标准进行目的相容性检验。 |
| 31 | Z [T+W] | 特殊类别数据是否存在独立要件(第 9 条第 2 款)? | 处理特殊类别数据需要 GDPR 第 9 条第 2 款的独立要件,与第 6 条第 1 款的依据相互独立。 |
### 5. 处理原则(GDPR 第 5 条)
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 32 | Z [T] | 训练数据的范围是否限于实现目的所必需的最小限度(最小化,第 5 条第 1 款 c 项)? | 数据最小化原则(GDPR 第 5 条第 1 款 c 项)要求训练数据的范围限于实现目的所必需的最小限度。 |
| 33 | Z [W] | 使用阶段的输入 / 输出数据是否限于必需的最小限度? | 数据最小化原则(第 5 条第 1 款 c 项)同样适用于 AI 系统使用阶段的输入与输出数据。 |
| 34 | Z [T+W] | 训练、验证、测试数据以及输入数据是否准确、及时且不含系统性错误(第 5 条第 1 款 d 项)? | 准确性原则(GDPR 第 5 条第 1 款 d 项)适用于所有类别的数据:训练、验证、测试与输入数据。**不准确的数据可能导致歧视。** |
| 35 | Z [T] | 是否确定了训练数据的留存期限? | 存储限制原则(GDPR 第 5 条第 1 款 e 项)要求确定训练数据的留存期限,并在目的消灭后删除。 |
| 36 | Z [W] | 是否确定了 AI 输入与输出数据的留存期限? | 存储限制原则(第 5 条第 1 款 e 项)同样适用于输入与输出数据,**包括与系统的交互历史**。 |
| 37 | Z [T+W] | 是否落实了设计阶段与默认的数据保护(GDPR 第 25 条)?如已落实,请说明如何落实。 | 设计阶段的数据保护与默认的数据保护(第 25 条)要求在系统设计阶段就落实适当的技术与组织措施。 |
### 6. GDPR 角色、合同与供应商
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 38 | P/Z [T+W] | 组织是谁:控制者、共同控制者,还是受托处理者? | 正确认定 GDPR 意义上的角色(第 4 条第 7–8 项、第 26 条、第 28 条)是确定义务与责任范围的关键。 |
| 39 | Z [W] | 是否与 AI 供应商签订了委托处理协议(GDPR 第 28 条)? | 供应商代表组织处理数据时为强制要求。协议须规定:标的、期限、性质、目的、数据与个人的类别。须核查供应商是否为自己保留将数据用于自身目的的权利,并注意第 28 条第 10 款的后果。 |
| 40 | Z [W] | 委托处理协议是否规定了 GDPR 第 28 条第 3 款的全部要素:处理的标的、期限、性质与目的,数据与个人的类别,仅按书面指令处理,保密,安全,再委托的条件,协助实现个人权利与协助报告泄露,服务终止后删除或返还数据,以及审计和提供证明合规所必需信息? | GDPR 第 28 条第 3 款 a–h 项规定了委托处理协议的强制内容。**实践中最常被遗漏的是**:再委托的条件(d 项结合第 28 条第 2、4 款)、协助实现个人权利(e 项)、泄露事件的支持(f 项),以及合作结束后数据的去向(g 项)——这在 AI 场景中尤为重要,因为数据可能留存在模型中、上下文记忆中或备份副本中。来源:委托处理协议、供应商 DPA。 |
| 41 | P [W] | 供应商是否披露训练数据来源并提供模型文档? | AI 供应链的透明度是严谨评估风险和确保 GDPR 合规的前提。来源:供应商文档、模型卡。 |
| 42 | P [W] | AI 模型基于开源方案还是闭源方案? | 开源与闭源模型影响组织进行审计、控制与风险评估的可能性。来源:技术文档、许可证。 |
| 43 | P [T+W] | 若为内部开发,是否使用了外部资源(顾问、数据、基础设施)? | 构建 AI 时使用外部资源(顾问、分包商)须依 GDPR 第 28 条第 2、4 款(再委托)予以核查。 |
| 44 | P/Z [T+W] | 是否指定了 AI 业务责任人、合规负责人、数据保护官? | GDPR 第 24 条将确保合规的责任赋予控制者。第 37–39 条规定了 DPO 的相关要求。来源:组织架构。 |
| 45 | P [T+W] | 是否指定了负责数据治理的角色? | 指定数据治理责任角色,有助于强化合规保障以及 GDPR 第 5 条各项原则(含第 5 条第 2 款问责)的落实。 |
| 46 | P [T+W] | 是否具备管理 AI 风险的充足资源? | 应当评估可用的人力与物力资源是否足以满足技术要求并管理已识别的风险。 |
### 7. 数据转移与安全
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 47 | P/Z [T+W] | 数据是否传出 EEA(服务器、云、供应商 API)? | GDPR 第 44 条确立一般原则:只有在保障适当保护水平的前提下,才允许向第三国传输数据。 |
| 48 | Z [T+W] | 转移的依据是什么:充分性决定、SCC、BCR(第 44–49 条)? | 应当指明使转移合法化的具体机制:充分性决定(第 45 条)、标准合同条款(第 46 条第 2 款 c 项)、约束性公司规则(第 47 条)。 |
| 49 | Z [T+W] | 是否进行了转移影响评估(TIA)? | **在 Schrems II 判决之后**,对基于 GDPR 第 46 条机制(含标准合同条款)的转移,须进行转移影响评估(TIA)。来源:供应商文档、TIA。 |
| 50 | Z [T+W] | 是否落实了 AI 特有的安全措施(第 32 条):访问控制、加密、监控、攻击防护? | GDPR 第 32 条要求落实与已识别风险相称的安全措施。应当考虑当前的技术发展水平(state of the art)。 |
| 51 | Z [T+W] | 是否确定了 AI 相关泄露的报告程序(第 33–34 条)? | GDPR 第 33–34 条要求确定向监管机关(72 小时)和数据主体报告数据泄露的程序。 |
### 8. 个人权利与透明度
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 52 | Z [W] | 告知条款是否已更新以加入关于 AI 的信息(第 13 条第 2 款 f 项 / 第 14 条第 2 款 g 项)?**该告知也应当面向系统的使用者,因为在与其交互中可能出现敏感内容(例如与模型对话中的特殊类别数据)。** | GDPR 第 13 条第 2 款 f 项与第 14 条第 2 款 g 项要求告知自动化决策(含画像)的存在,以及关于处理逻辑的实质性信息。 |
| 53 | Z [W] | 是否保障了查阅权(第 15 条)、更正权(第 16 条)、删除权(第 17 条)的实现? | 组织必须在技术与组织上保障在 AI 系统语境下实现查阅(第 15 条)、更正(第 16 条)、删除(第 17 条)权利的可能。 |
| 54 | Z [W] | 是否保障了限制处理权(第 18 条)与数据可携权(第 20 条)? | 限制处理权(GDPR 第 18 条)与数据可携权(第 20 条)在 AI 系统中可能需要特别的技术方案。 |
| 55 | Z [W] | 是否保障了对 AI 处理的反对权(第 21 条)? | 反对权(GDPR 第 21 条)可能涉及基于正当利益(第 6 条第 1 款 f 项)的处理或用于营销目的的处理。 |
| 56 | Z [T+W] | 是否保障了不受自动化决策约束的权利(第 22 条)与人工干预的权利(第 22 条第 3 款)? | GDPR 第 22 条要求保障:获得人工干预、表达自身立场并对决定提出异议的权利。**这需要真实的机制,而非形式上的机制。** |
| 57 | P [W] | 组织能否以可理解的方式解释 AI 的运作? | GDPR 第 12 条第 1 款要求以清晰简明的语言传达关于处理的信息。这同样适用于对 AI 运作的解释。 |
| 58 | P [T+W] | 系统的影响对不同群体是否公平? | 应当评估系统的后果对所涉不同群体在多大程度上是公平的。与 GDPR 鉴于条款第 71 条(非歧视)相关。 |
### 9. 影响评估与文档
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 59 | Z [T+W] | 是否满足第 35 条第 1 款或第 3 款、或 UODO 清单的要件?如满足,是否进行了 DPIA(第 35 条)? | 必须分析是否有必要进行 DPIA(从 GDPR 第 35 条的角度分析)。在此语境下,**确定是否已识别出该工具将被使用的具体流程同样重要——对工具作总体评价是不够的,必须在各个流程的层面上作出评估。** |
| 60 | Z [T+W] | 是否评估了 AI 特有的风险:错误决定、歧视、偏见、隐私侵害、对人的风险? | 风险评估应当涵盖 AI 特有的风险:错误决定、算法歧视、数据中的偏见、缺乏可解释性、模型漂移。 |
| 61 | P [T+W] | 风险评估是否考虑了 AI 模型类型、其组件与资源的特殊性? | 风险评估应当考虑 AI 模型类型、其组件与外部资源的特殊性。来源:技术文档、安全审计。 |
| 62 | Z [T+W] | 是否识别了将创建或使用 AI 系统的流程,并更新了处理活动记录(GDPR 第 30 条)? | 对创建或使用 AI 的流程进行盘点,是正确更新处理活动记录的前提。记录应涵盖:AI 语境下的处理目的、数据与个人的类别、接收方、留存期限与安全措施。来源:项目文档、处理活动记录。 |
| 63 | P/Z [T+W] | 是否安排了部署后的系统监测:输出质量控制、模型漂移的发现、事件记录,以及在系统、数据或使用场景发生重大变化时对风险与影响评估的重新评估? | 与处理相关的风险发生变化时,影响评估须复查(GDPR 第 35 条第 11 款)。在 AI 系统中,供应商侧的模型更新、输入数据范围的变化或系统的新用途都会引起这种变化。来源:复查计划、变更登记、监测报告。 |
### 10. 关于 AI Act 的信号提示
> 本板块问题具有信号性质,应当与熟悉 AI Act 的人共同审阅,**不替代对系统的完整分级**。
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 64 | P/Z [T+W] | 系统是否可能被归类为高风险系统(AI Act 第 6 条、附件 I 与 III)? | 信号性问题:应当评估系统是否可能被归类为 AI Act 第 6 条与附件 III 意义上的高风险系统。 |
| 65 | P/Z [W] | 该 AI 系统的使用是否不构成 AI Act 第 5 条意义上的被禁止的做法? | AI Act 第 5 条列举了被禁止的 AI 做法。 |
| 66 | P [T+W] | 是否识别了组织在 AI Act 视角下的角色,特别是作为**提供者**还是**部署者**,以及由此定性产生的义务? | AI Act 第 3 条第 4 项与第 8 项定义了提供者与部署者。正确识别角色决定义务范围:**对提供者**,特别是确保 AI 系统符合高风险系统要求的义务,包括风险管理体系、数据质量与数据管理、文档与透明度方面的要求;**对部署者**,包括落实措施以确保符合使用说明、监督、能力、对输入数据的控制,以及进行系统对基本权利的影响评估(FRIA)。 |
| 67 | P/Z [W] | 是否需要进行基本权利影响评估(FRIA)——AI Act 第 27 条? | AI Act 第 27 条要求下列主体就附件 III 所指高风险 AI 系统进行 FRIA(有若干例外):公法主体或提供公共服务的私法主体;以及附件 III 第 5 点 b 项和 c 项所指高风险 AI 系统的部署者。 |
| 68 | P [W] | 供应商是否提供了 AI Act 要求的文档(模型卡、使用说明)? | AI Act 第 13 条要求提供技术文档与使用说明。能否取得供应商提供的 AI 系统技术文档,是正确评估风险并确保符合 GDPR 与 AI Act 的前提。 |
| 69 | P [W] | 部署者是否研读了供应商提供的、AI Act 要求的文档(模型卡、使用说明)? | AI Act 第 26 条第 1 款:高风险 AI 系统的部署者应当落实适当的技术与组织措施,以确保这类系统按照随附的使用说明被使用。 |
| 70 | Z [W] | 是否满足 AI Act 的透明度要求(第 50 条——通用目的 AI 系统、聊天机器人、深度伪造)? | AI Act 第 50 条确立透明度要求:标识 AI 生成内容、告知用户正在与聊天机器人交互、标识深度伪造。 |
### 11. 组织准备度(ARE WE READY?)
| 序号 | 类型 | 问题 | 说明 / 来源 |
|---|---|---|---|
| 71 | P [T+W] | 组织是否具备 AI 政策与 AI 事件响应程序?是否落实了 AI 系统运行异常的发现机制? | 组织应当具备 AI 政策以及事件响应程序(GDPR 第 24 条)。来源:安全政策、内部规章。 |
| 72 | P [T+W] | 是否计划就安全使用 AI 对员工进行培训?(AI 素养 / AI LITERACY) | AI Act 第 4 条(AI 素养)与 GDPR 第 39 条(DPO 职责)要求确保使用 AI 系统的员工具备适当的知识水平。 |
| 73 | P [T+W] | 是否确定了数据质量相关事件的响应程序? | 应当确定数据质量相关事件的响应程序(GDPR 第 5 条第 1 款 d 项:准确性原则),包括纠正与重新验证的程序。 |
---
**类型图例**:P = 项目问题(提供认知);Z = GDPR 合规问题(核查要求);P/Z = 兼具两者的问题。部署成品系统(不做训练)的组织可跳过标记 [T] 的问题。
Related skills
| Skill | Stars | Updated | Works with | Status | Install |
|---|---|---|---|---|---|
| slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack." | Stars: 198k | Updated | Claude CodeCodex | Verified | Install |
| ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |