CSlawyer1985/legal-skillhub / skills/ai-act-knowledge
ai-act-knowledge
Verified欧盟 AI 法案知识引擎——以 70 份官方欧盟来源文件为基础的权威监管问答(包括 2026 年委员会关于 Art. 6 高风险分类的指南草稿——一般原则、附件 I、附件 III)。基于完整条例文本、委员会指南、EDPB/EDPS 意见、《实践守则》、协调标准、FRIA 指南、事件模板和行业特定指引,以条款级引用回答关于 AI 法案的任何问题。当用户询问"EU AI Act"、"AI Act regulation"、"Regulation 2024/1689"、"KI-Verordnung"、要求"explain an AI Act article"、"what does Article X say"、"AI Act requirements"、"AI Act penalties"、"AI Act timeline"、"GPAI obligations"、"high-risk AI"、"prohibited AI practices"、"AI Act and GDPR"、"fundamental rights impact assessment"、"AI Act standards"、"AI Act national implementation"、"AI literacy"、"serious incident reporting"、"Digital Omnibus"、"AI regulatory sandbox",或任何关于欧盟人工智能监管的问题时,应使用本技能。德语术语同样触发:"KI-Gesetz"、"KI-Verordnung"、"Hochrisiko-KI"、"KI-Kompetenz"、"Grundrechte-Folgenabschaetzung"、"GPAI-Verhaltenskodex"。对于产出分类决定而非知识答案的评估工作流,提议在会话内运行结构化风险等级分类。
references/codes-of-practice/gpai-code-detailed.md
View on GitHub# 通用人工智能行为准则——详细概述
GPAI(通用人工智能)行为准则结构、措施与实施指引的详细概述。
| 方面 | 详情 |
|--------|--------|
| 机构 | 欧盟人工智能法案(artificialintelligenceact.eu) |
| 日期 | 2025 |
| 来源网址 | https://artificialintelligenceact.eu/code-of-practice/ |
| NotebookLM 来源 ID | 9eacb0a4-... |
*德语:Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck——Detaillierte Übersicht(通用用途人工智能模型行为准则——详细概述)*
---
## 概述
本行为准则提供了一个清晰的框架,帮助通用人工智能(GPAI)模型开发者满足欧盟《人工智能法案》的要求。提供者可以选择遵循本准则,也可以自由地通过其他适当方式证明合规。
GPAI 规则自 2025 年 8 月 2 日起生效,这意味着所有自该日起发布的新模型都必须合规。但委员会的执法行动——如信息请求、模型访问请求或模型召回——将仅在一年后,即 2026 年 8 月 2 日开始。这一宽限期为提供者提供了与人工智能办公室(AI Office)合作、确保达标的时间。
对于 2025 年 8 月 2 日前发布的模型,提供者最迟须在 2027 年 8 月 2 日前使其合规。
## 执行摘要
### 透明度章
签署方承诺为在欧盟境内分发的每一个 GPAI 模型维护最新、全面的文档,但免费、开源且不构成系统性风险的模型除外。该文档须遵循标准化的《模型文档表》,详细载明许可、技术规格、用例、数据集、计算与能源使用等信息。文档应安全保存至少十年,并在请求时提供给人工智能办公室和下游用户。鼓励公开发布该信息以促进透明度。
### 版权章
本章确保与欧盟版权法保持一致,尤其是"除特定例外情形(如文本与数据挖掘)外须事先获得授权"的要求。签署方须制定并定期更新稳健的版权政策,明确界定内部责任并符合法律标准。签署方必须确保通过网络爬取收集的数据可以合法获取,尊重 robots.txt 等机器可读的权利保留信号,并避免访问被标记为侵犯版权的网站。技术保障措施应尽量减少侵权内容的生成,服务条款必须明确禁止未经授权的使用。必须为权利人提供指定的投诉联系点,并以高效、公平的程序处理投诉。
### 安全与安保章
本章为具有系统性风险的 GPAI 模型开发者规定了全面义务,要求其在模型全生命周期内识别、评估、减轻并透明报告安全与安保风险。本章建立了一个以市场前评估、持续监测和持续监督为核心的风险治理框架。
签署方必须在模型发布前制定最先进的安全与安保框架,载明评估触发条件、风险类别、缓解策略、预测方法及组织责任。该框架应根据新风险、事件或模型及其环境的重大变化定期更新。
系统性风险通过清单、情景分析以及与内外部专家磋商等结构化流程加以识别。随后运用模拟、对抗性测试和市场后监测等严格评估方法对这些风险进行分析。
在推进开发或部署之前,签署方必须运用带有内置安全边际的风险层级框架评估已识别风险是否可接受。如风险被认为不可接受,须立即采取纠正措施。
为维持可接受的风险水平,安全措施必须贯穿模型全生命周期,包括过滤、持续监测、拒答训练、分阶段访问控制、下游工具保障及安全部署环境。并行的安全控制措施须防止未经授权的访问或滥用,在模型公开发布或退役之前采用强有力的数字与物理保护。
强制性《安全与安保模型报告》须在发布前提交,并随风险演变而更新。该报告应包括风险识别、分析、缓解工作的详细文档,模型行为,外部评估,以及风险格局的任何实质性变化。
组织问责是关键。签署方必须在其治理结构中明确分配监督、负责、监测与保证角色,并确保充足的资源、健全的风险文化和举报人保护。
严重事件须及时追踪、记录,并按严重程度和紧迫期限向监管机构报告(例如,影响关键基础设施的事件须在 2 天内报告)。报告须定期更新并保存至少五年。
最后,签署方须将安全与风险管理活动的详细记录保存至少十年。在需要降低风险时,应发布其安全框架和模型报告的高层摘要,除非模型符合"同样安全或更安全"的具体标准。
---
## 透明度章(详细)
本章为签署方如何履行《人工智能法案》第 53 条第(1)款(a)-(b)项及附件十一、附件十二规定的透明度义务确立了明确预期。主要目标是确保关键信息有效流向下游提供者和人工智能办公室,同时保持适当的保密水平。
### 承诺 1:文档
签署方承诺:
- 为每个模型保存全面、最新的文档(措施 1.1)
- 促进与人工智能办公室和下游提供者的信息共享(措施 1.2)
- 保障所有文档的准确性、完整性和保护(措施 1.3)
这些承诺不适用于免费和开源模型,除非该模型被归类为具有系统性风险的 GPAI 模型。
#### 措施 1.1:编制并保持最新模型文档
在将 GPAI 模型投放欧盟市场之前,签署方必须编制涵盖《模型文档表》所载全部要素的全面文档。
该文档必须保持最新,反映任何实质性变更,并在模型首次发布后保存至少 10 年。
#### 措施 1.2:提供相关信息
- 签署方必须公开提供联系方式,以便人工智能办公室和下游提供者请求查阅文档。
- 收到请求后,必须在指定时限内向人工智能办公室交付最新版本的文档。
- 下游提供者必须在 14 天内收到必要文档——连同任何必要的澄清——除非存在合理的延迟理由。
- 建议公开发布文档,以此提升整体透明度。
#### 措施 1.3:确保信息质量、完整性与安全性
签署方有责任维护精确的文档、防止未经授权的修改,并安全存储以证明监管合规。
### 《模型文档表》
该表格涵盖以下类别,供监管和下游使用:
- 许可与分发
- 模型识别(名称、版本、发布日期、主体)
- 技术规格(架构、规模、输入/输出格式)
- 预期与已批准的用例
- 集成依赖(平台、软件/硬件)
- 训练方法与设计理由
- 数据集详情(来源、类型、范围、规模、整理、偏见缓解)
- 能源与计算使用(训练与推理)
---
## 版权章(详细)
本章促进对《人工智能法案》第 53 条第(1)款(c)项的遵守,该条款要求提供者制定符合欧盟版权及相关权利立法的版权政策。虽然遵循这些指引有助于监管合规工作,但并不构成完全法律合规的保证——最终合规取决于国家法院和欧盟法院(CJEU)的解释。
欧盟版权法基于一项基本原则:使用受保护作品须事先获得授权,但特定例外情形除外——如《欧盟指令 (EU) 2019/790》第 4 条第(1)款的文本与数据挖掘(TDM)条款——且权利人未明示保留其权利。
### 承诺 1:版权政策
签署方承诺建立、维护并执行一项全面的版权政策,适用于在欧盟境内分发的所有 GPAI 模型。该政策须符合本章规定的标准。
然而,遵守本章要求并不能替代遵守欧盟及国家版权立法的根本义务。签署方在开展任何涉版权活动之前,仍须全权负责确保其运营符合适用法律框架,包括《欧盟指令 (EU) 2019/790》第 4 条第(3)款。
#### 措施 1.1:制定、保持最新并执行版权政策
签署方必须制定并维护统一的、定期更新的版权政策,证明遵守本章要求并明确界定内部问责结构。
鼓励发布政策摘要以提升透明度和社会理解。
#### 措施 1.2:爬取万维网时仅复制和提取可合法访问的受版权保护内容
- 为训练目的部署的网络爬取系统必须将访问限于可合法获取的内容。
- 禁止规避技术壁垒(如付费墙或访问限制机制)。
- 提供者必须排除欧盟/欧洲经济区(EEA)主管部门认定为持续侵犯版权的网站,依据是一个公开维护的、由欧盟托管的注册表。
#### 措施 1.3:爬取万维网时识别并遵守权利保留
- 爬取系统必须能够识别并尊重机器可读的权利保留,包括 robots.txt 文件,符合 RFC 9309 标准。
- 提供者必须遵守经欧盟层面协商认可的其他广泛认可且在技术上可行的标准。
- 鼓励签署方积极参与制定此类技术协议。
- 签署方必须就其爬虫运作、处理权利保留内容的做法保持透明,并为权利人提供自动化通知系统。
- 搜索引擎运营商必须确保尊重权利保留不损害其索引能力。
#### 措施 1.4:降低版权侵权输出的风险
- 提供者必须部署技术保护措施,旨在最大程度降低 AI 模型生成侵权内容的可能性。
- 提供者必须在其服务条款或文档中明确禁止侵权使用,包括开源模型分发情形。
- 无论模型被直接使用还是通过第三方实施使用,这些保护措施都必须保持有效。
#### 措施 1.5:指定联系点并支持投诉的提交
- 签署方必须为权利人设立专门的联系点,并建立接收有据可查的电子投诉的系统。
- 除明显无根据或重复性投诉外,所有投诉均须得到公正审议和及时回应。
- 该投诉机制不影响权利人为保护自身利益而享有的其他法律救济。
---
## 安全与安保章(详细)
### 承诺 1:安全与安保框架
签署方承诺建立最先进的安全与安保框架,界定全面的系统性风险管理程序和措施,旨在将系统性风险维持在可接受水平。这包括制定、实施并定期更新该框架,同时让人工智能办公室了解所有进展。
#### 措施 1.1:创建框架
签署方应制定一个框架,记录评估和减轻系统性风险的既有及计划流程。框架必须涵盖:
- 有依据的触发点,确定在模型全生命周期中何时应进行较轻程度的模型评估。
- 关于系统性风险接受(承诺 4):
- 建立系统性风险类别及其实际应用的明确标准和理由。
- 与每个风险类别相对应的全面高层缓解策略。
- 预计模型何时将超越当前最高风险层级的预计时间表,并附详细理由、基本假设,以及预测方法、专家调查或专业估算的运用。
- 清晰说明外部指引(包括政府意见)如何影响开发和部署决策。
- 明确分配系统性风险管理责任(承诺 8)。
- 框架更新和修订的程序。
签署方必须在通知委员会其 GPAI 模型达到被归类为具有系统性风险的 GPAI 模型的门槛后四周内确认框架,且至少应在市场发布前两周确认。
#### 措施 1.2:实施框架
签署方应通过以下方式维持持续的系统性风险评估:
- 在指定触发点(基于时间框架、计算训练资源、开发里程碑、用户可及性、推理计算能力,和/或可供性确定)执行精简模型评估(如自动化评估)。
- 持续的市场后监测。
- 纳入严重事件报告的情报。
- 视情况扩大评估范围与强度,或基于评估结果、市场后监测数据和严重事件情报,执行全面的系统性风险评估与缓解协议。
签署方应持续部署反映评估结果(模型评估、市场后监测和严重事件分析)的系统性风险缓解措施。
签署方应执行全面的系统性风险评估与缓解协议,包括:
1. 系统性地识别系统性风险。
2. 深入分析每个已识别的系统性风险。
3. 确定系统性风险可接受水平。
4. 当风险不可接受时,实施缓解措施并重新评估,随后部署安全和/或安保对策,流程循环回到风险识别。
该流程必须在市场引入之前完成。在以下情形必须重复该流程:
- 支持可接受系统性风险水平(包括内置安全边际)理由的可合理预见情形不再成立。
- 模型在 AI 系统中的应用程序或集成已经发生,或预计将发生实质性修改。
签署方必须向人工智能办公室全面报告所有措施和流程。
#### 措施 1.3:更新框架
签署方应在必要时修订框架——在任何评估之后立即进行——以确保其保持最新并维持最先进标准。所有更新必须包含全面的变更文档,说明理由、版本标识和实施日期。
框架评估应在以下时间进行:
- 模型市场引入后至少每年一次;或
- 更早——当有合理证据表明充分性或合规性已受到重大损害时。
触发条件包括:
- 可合理预见会导致不可接受系统性风险的实质性变更。
- 表明系统性风险已实际发生的严重事件或险情。
- 系统性风险状况的显著变化(包括模型能力演进或缓解措施有效性下降)。
评估审查以下方面:
- **充分性:** 框架程序和措施是否有效应对系统性风险。
- **遵循度:** 是否符合框架要求、任何不合规情况的解释、已采取的纠正措施,以及在未来不合规看似可能时详细的补救策略。
#### 措施 1.4:框架通知
签署方应在最终确认后五个工作日内,向人工智能办公室提供其框架及所有后续更新的完整、未经删减的访问权限。
### 承诺 2:系统性风险识别
签署方承诺通过系统化方法识别系统性风险,包括创建为系统性风险分析和接受决策提供信息的风险情景。
#### 措施 2.1:系统性风险识别流程
签署方应通过以下方式识别系统性风险:
- 创建潜在风险综合清单(附录 1.1),借鉴与模型无关的来源、模型特定信息(包括市场后数据和事件报告),以及人工智能办公室、科学小组(Scientific Panel)或国际 AI 安全机构网络(International Network of AI Safety Institutes)的指引(在经官方认可的情况下)。
- 审查相关特征(附录 1.2)和来源(附录 1.3)。
- 从这一综合分析中识别系统性风险。
- 识别附录 1.4 中列明的风险。
#### 措施 2.2:系统性风险情景
签署方应构建详细的系统性风险情景,为每个已识别的系统性风险确定最佳数量与粒度水平。
### 承诺 3:系统性风险分析
签署方承诺深入审查每个已识别的系统性风险,为系统性风险接受决策提供信息,包括收集与模型无关的信息、执行模型评估、风险建模、估算活动,以及对系统性风险的持续监测。
#### 措施 3.1:与模型无关的信息
签署方应通过以下方式收集相关的模型无关信息:全面文献综述、市场与训练数据分析、事件模式研究、趋势预测、专家咨询和公众意见研究。
#### 措施 3.2:模型评估
签署方应在所有相关模态中执行最先进的评估,以审查模型能力、行为倾向、运作特征和现实世界影响(附录 3)。
评估应采用适当方法,纳入针对新兴属性的开放式测试,并以模型无关信息为指导。方法包括:结构化提问、任务导向评估、标准化基准、对抗性测试、人类增强研究、模型生物体研究、模拟演练,以及针对受限内容领域的代理评估。
#### 措施 3.3:系统性风险建模
签署方应基于风险情景,以已识别的风险和综合分析为依据,执行先进的系统性风险建模。
#### 措施 3.4:系统性风险评估
签署方应使用最先进方法计算潜在危害的可能性和严重程度。估算可以是定量、半定量或定性的,涵盖风险评分系统、风险矩阵或概率分布,且必须纳入已识别的风险、分析结果和严重事件数据。
#### 措施 3.5:市场后监测
签署方应建立全面的市场后监测系统,为系统性风险判定、模型报告更新和时间表预测提供信息。
监测活动应通过以下方式评估模型能力、倾向、可供性和影响:
- 终端用户反馈收集、专门的报告渠道、漏洞赏金计划、社区驱动的评估。
- 对代码库和社交媒体平台的监测、研究支持计划。
- 保护隐私的数据记录(包括水印和来源追踪)。
- 监测对使用限制的违反情况及由此产生的事件。
- 追踪与系统性风险评估相关的模型不透明特征。
运营包含其 GPAI 模型的 AI 系统的签署方,必须为该等系统实施相应的监测协议。
为便于有效监测,签署方应向足够数量的独立外部评估人员提供模型最新版本的免费访问权限,包括安全约束最少的变体,除非提供了同等安全的模型。访问机制包括 API 接口、本地安装、专用硬件提供或公开模型分发。
签署方应公布透明的评估人员遴选标准,并仅将评估结果用于系统性风险评估目的。未经明确同意,评估人员的输入和输出不得纳入模型训练过程。
签署方不得对善意开展测试和发表活动的评估人员采取法律或技术报复,前提是其:
- 保持模型可用性不受干扰。
- 负责任地处理敏感数据。
- 避免制造公共安全危害。
- 避免胁迫性地应用研究结果。
- 遵守负责任披露协议。
此类披露政策应允许在 30 个工作日内发表,除非因系统性风险关切升高而有理由延长延迟。
中小企业(SME)和小型中型企业(SMC)可就监测活动寻求人工智能办公室协助。
### 承诺 4:系统性风险接受判定
签署方承诺确立明确的系统性风险接受标准,并在推进开发活动、市场引入或运营部署之前判定系统性风险是否可接受。
#### 措施 4.1:系统性风险接受标准与接受判定
签署方应在其框架文档中阐明并论证系统性风险接受标准。
标准必须包括可量化的风险层级——至少包含一个尚未达到的类别——基于能力评估、行为倾向、风险计算或其他指标。
签署方应在考虑风险识别和分析结果的前提下,以适当的安全边际实施这些类别,评估单项和总体系统性风险的可接受性。
安全边际必须考虑:
- 系统性风险来源的不确定性(如评估后出现的能力)。
- 评估方法论的局限(包括诱导不足问题)。
- 缓解有效性的脆弱性(如规避风险)。
#### 措施 4.2:基于系统性风险接受判定决定是否推进
签署方仅在系统性风险被判定为可接受时推进开发和部署。
当风险不可接受或即将不可接受时,必须实施适当的纠正措施,包括使用限制、市场撤回、加强缓解措施和全面重新评估。
### 承诺 5:安全缓解措施
签署方承诺在模型全生命周期部署适当的安全缓解措施,以维持可接受的系统性风险水平。
#### 措施 5.1:适当的安全缓解措施
缓解措施必须展现对抗对抗性攻击的韧性,并与模型的分发策略相一致。
实施示例包括:
- 全面的训练数据过滤。
- 实时的输入和输出监测。
- 行为修正(包括拒答训练协议)。
- 分阶段的模型访问部署。
- 面向下游用户的缓解工具。
- 量化安全保障。
- 安全的代理生态系统(包括模型识别、专门协议、事件响应工具)。
- 透明度提升工具(包括思维链可及性、缓解措施持久性评估)。
### 承诺 6:安保缓解措施
签署方承诺在模型全生命周期维持稳健的网络安全措施,防止因未经授权的发布、访问或窃取而产生的风险。能力低于至少一个参数可供公开下载的模型的模型除外。安保措施持续有效,直至模型参数公开可用或被安全删除。
#### 措施 6.1:安保目标
签署方应制定全面的安保目标,基于当前和预计的模型能力,识别其缓解措施旨在防御的威胁行为者。
#### 措施 6.2:适当的安保缓解措施
签署方应部署与其既定安保目标相一致的安保措施,包括附录 4 中规定的措施。
任何偏离附录 4.1-4.5(a) 的做法都必须证明达到同等的保护效果。实施可分阶段进行,以与模型能力的提升相对应。
### 承诺 7:安全与安保模型报告
签署方承诺在市场引入前编制全面的安全与安保模型报告,确保其得到更新,并及时通知人工智能办公室。报告可引用此前提交的内容,并在适当时涵盖多个模型。中小企业(SME)和小型中型企业(SMC)可提供较低详略程度的报告。
#### 措施 7.1:模型描述与行为
模型报告必须包含:
- 对模型架构、能力、倾向、可供性和开发方法(包括训练方法和数据来源)的高层描述。
- 模型当前及预期的应用。
- 可用的模型变体和版本。
- 模型规格(包括治理原则、原则层级、拒答类别、系统提示词)。
#### 措施 7.2:推进的理由
报告必须就系统性风险为何被视为可接受提供清晰理由,包括:
- 全面理由和纳入的安全边际。
- 理由可能失效的可合理预见情形。
- 决策过程详情(在适用时包括政府意见)。
#### 措施 7.3:系统性风险识别、分析与缓解的文档
报告必须全面记录:
- 系统性风险识别与分析结果,包括:
- 对系统性风险识别流程的描述。
- 对模型使用及其在 AI 系统中集成的相关不确定性和假设的说明。
- 系统性风险建模结果摘要。
- 对模型所构成系统性风险的详细描述,包括评估程序、评估期间执行的测试和任务、评分方法、能力诱导过程、评估分数与人类基线的比较(跨模型版本和评估设置)。
- 每个相关模型评估随机选取的五组输入和输出样本,以支持对评估结果和系统性风险评估的独立解读。对解释系统性风险具有重要作用的行为轨迹必须包含在内。人工智能办公室要求时应提供额外随机样本。
- 对提供给内部模型评估团队和独立外部评估人员的资源和访问权限的描述。
- 在适用时,"安全参考模型"和"同样安全或更安全模型"标准已得到满足的论证。
- 对所有已实施安全缓解措施的描述;它们如何满足措施 5.1 规定的标准;以及缓解措施的局限。
- 对安保目标(措施 6.1)的描述;所有已实施的安保缓解措施;它们如何实现安保目标,包括与国际标准的对接;以及如未遵循附录 4.1-4.5(a) 中的任何安保缓解措施,替代方法如何实现预期安保目标的论证。
- 对未来六个月模型开发的计划技术和资源的简要描述,包括其他 AI 系统的使用;未来模型在能力和行为上的预期差异;以及计划新增或重大更新的安全与安保缓解措施。
#### 措施 7.4:外部报告
报告必须包含:
- 独立外部评估人员(附录 3.5)和独立安保审查人员(附录 4.5)报告的超级链接或引注,同时尊重保密要求和评估人员监督。
- 未聘请外部评估人员时的理由(依据附录 3.5)。
- 对基于已证实资质遴选评估人员的说明。
#### 措施 7.5:系统性风险格局的实质性变化
报告必须描述因模型开发或部署而导致的系统性风险环境的显著变化,例如:
- 新的扩展规律。
- 突破性的架构创新。
- 缓解措施有效性的增强或减弱。
- 提高分布式训练可行性的新训练方法。
#### 措施 7.6:模型报告更新
当系统性风险可接受性理由受到实质性削弱时,报告需要更新,包括:
- 指定触发条件的激活(能力转变、新集成、严重事件)。
- 因额外后训练、与新工具集成或推理计算增加而导致能力、倾向或可供性的实质性变化。
- 模型使用方式或其 AI 系统集成方式的实质性变化。
- 涉及该模型或类似模型的严重事件或险情。
- 实质性削弱此前所执行模型评估的外部有效性、显著提升模型评估领域的技术水平,或以其他方式表明原始系统性风险评估存在实质错误的事态发展。
更新应在合理时限内完成。因蓄意变更引起的更新,必须在变更投放市场之前完成。
对于当前市场上能力最强的模型,签署方必须至少每六个月向人工智能办公室提供更新后的模型报告,除非:
- 自上次报告以来,模型的能力、倾向或可供性没有实质性变化;
- 签署方打算在一个月内发布能力更强的模型;或
- 依据附录 2.2,该模型对依据措施 2.1 识别的每个系统性风险均符合"同样安全或更安全"标准。
更新后的模型报告必须包含措施 7.1 至 7.5 规定的更新内容(基于最近一次全面的系统性风险评估与缓解流程)、一份变更日志(说明更新了什么、为何变更、新版本号和更新日期)。
#### 措施 7.7:模型报告通知
报告必须在市场引入时交付(除国家安保立法限制外不作删减)。
更新必须在确认后 5 个工作日内提交。在以下情形允许 15 天延期:
- 人工智能办公室认定签署方正在善意运作;且
- 立即提交一份中期报告,载明推进的理由(措施 7.2)和系统性风险格局的变化(措施 7.5)。
### 承诺 8:系统性风险责任分配
签署方承诺在组织各级明确分配与其模型相关的系统性风险管理责任;向负责管理系统性风险的个人或团队分配适当资源;并在组织内部培育健全的风险文化。
#### 措施 8.1:明确责任界定
- **系统性风险监督:** 对系统性风险评估与缓解流程的监督。
- **系统性风险负责:** 系统性风险的日常管理,包括评估、缓解和事件响应。
- **系统性风险支持与监测:** 对系统性风险流程的持续支持与监测。
- **系统性风险保证:** 就风险管理的充分性向监督管理机构或同等独立机构提供内部和/或外部保证。
责任必须根据签署方的治理结构和复杂性进行适当分配,包括:
- 管理机构的监督职能(如董事会、风险/审计委员会);
- 管理机构的执行职能;
- 运营团队;
- 内部保证提供方(如内部审计),如有;
- 外部保证提供方(如第三方审计机构),如有。
在与模型的系统性风险相称的前提下,满足以下情形即推定满足本措施:
- 监督由专门委员会或独立机构(如风险/审计委员会)负责。对于中小企业/小型中型企业,监督职能中的一名个人即可。
- 负责由适当的高管级别个人承担(如研究/产品负责人),并向运营管理层逐级传递责任。
- 支持与监测由不直接参与产生风险业务的执行成员负责(如首席风险官 CRO 或安全副总裁)。中小企业/小型中型企业必须至少有一名执行成员负责该职能。
- 保证由指定的个人或职能(如内部审计负责人)牵头,并辅以内部/外部审计。对于中小企业/小型中型企业,要求进行定期监督评估。
#### 措施 8.2:分配适当资源
签署方的管理机构必须监督并确保分配足够的资源,以支持承担系统性风险责任的人员(依据措施 8.1),并与系统性风险水平相称。资源类型包括人力资源、财务资源、信息和知识获取渠道,以及计算资源。
#### 措施 8.3:培育健全的风险文化
- **领导基调:** 高层领导清晰传达系统性风险框架。
- **开放沟通:** 员工可以提出并质疑系统性风险决策。
- **独立性与激励:** 风险人员保持独立,并受到激励以避免低估或高估风险。
- **员工意识:** 调查确认员工了解风险及提出关切的渠道。
- **有效的报告渠道:** 报告机制得到使用并被适当处理。
- **举报人政策:** 每年告知员工,政策可公开查阅。
- **禁止报复:** 不因员工向主管部门善意举报系统性风险而采取不利行动。
### 承诺 9:严重事件报告
签署方承诺系统性地追踪、记录并无不当延迟地向人工智能办公室和国家主管部门报告涉及其模型的严重事件。报告必须包含纠正措施,并与事件严重程度相称。
#### 措施 9.1:严重事件识别方法
为识别严重事件,签署方必须:
- 适用措施 3.5 规定的方法,包括系统性市场后监测。
- 参考外部来源,包括警方和媒体报道、社交媒体内容、学术研究和事件数据库。
- 支持第三方报告,告知下游提供者、用户和其他利益相关方可用的直接报告渠道,并便利其向签署方报告或直接向人工智能办公室和/或国家主管部门报告。
#### 措施 9.2:严重事件追踪、记录与报告的相关信息
签署方必须至少在其所知范围内,向人工智能办公室以及在适用时向国家主管部门追踪、记录并报告以下信息(经适当删减以符合欧盟数据保护及其他适用法律):
1. 事件开始和结束日期(或最佳估算)。
2. 由此产生的危害及受影响个人或群体的描述。
3. 事件的因果链条。
4. 所涉模型的识别。
5. 模型参与的证明。
6. 签署方已采取或拟采取的措施。
7. 建议人工智能办公室或主管部门采取的行动。
8. 根本原因分析,包括:
- 导致或促成事件发生的模型输出。
- 所使用的输入。
- 系统性缓解措施的失效或规避。
- 市场后监测中与事件合理相关的模式(如险情、异常趋势)。
如报告时某些信息不可用,报告必须明确记录这一情况。详略程度必须反映事件的严重程度。
#### 措施 9.3:报告时限
**初步报告**必须包含措施 9.2 第(1)-(7)项的信息,按以下要求提交:
- 关键基础设施中断:自获知之日起 2 天内
- 严重网络安全漏洞(如数据外泄、网络攻击):自获知之日起 5 天内
- 人员死亡:自获知之日起 10 天内
- 对健康、基本权利、财产或环境的严重损害:自获知之日起 15 天内
"获知"既包括签署方模型的已确立参与,也包括合理怀疑的参与。
**中期报告:** 如事件仍未解决,签署方必须在提交初步报告后至少每 4 周提供更新信息,包括措施 9.2 中的额外细节。
**最终报告:** 须在事件解决后 60 天内提交,并须包含措施 9.2 要求的全部信息。
**合并报告:** 如在一个报告窗口内发生多起类似严重事件,可将其与首起事件纳入同一报告,但须遵守该初始案件各自的报告时限。
#### 措施 9.4:保存期限
依据本措施收集的所有文档和相关信息必须自文件形成之日或严重事件发生之日(以较晚者为准)起保存至少五(5)年——不影响任何适用的欧盟信息保存法律义务。
### 承诺 10:额外文档与透明度
签署方承诺记录其对安全与安保章的实施情况,并在为减轻系统性风险所必要时公布其框架和模型报告的摘要版本。
#### 措施 10.1:额外文档
**应维护并在请求时提供的基础文档:**
签署方必须编制并维护以下记录,以便在人工智能办公室请求时提供,并确保这些文件保持最新:
- 对模型架构的详细描述。
- 对模型如何集成到 AI 系统中的详细说明,包括软件组件如何相互构建或馈送,以及它们如何集成到整体处理管线中(就签署方所知的范围)。
- 依据本章进行的模型评估的详细记录,包括评估策略和评估结果。
- 依据承诺 5 实施的安保缓解措施的详细描述。
该文档必须在相关模型投放市场后至少保存十(10)年。
**支持遵守系统性风险措施的额外记录:**
为在人工智能办公室请求时证明遵守本章,签署方还须追踪并维护以下记录(如未包含在上述文档中):
- 构成签署方系统性风险评估与缓解工作的流程、措施和关键决策。
- 如依赖任何特定最佳实践、最先进流程或措施、或其他创新流程或措施来证明遵守本章,须提供选择理由的论证。
上述信息无需在单一存储库中汇编或存储。但必须可检索,并在人工智能办公室请求时提供。
#### 措施 10.2:公开透明度
在评估和/或减轻系统性风险所必要时,签署方必须公布(如通过其网站)其框架(依据承诺 1)和模型报告(依据承诺 7)的摘要版本,包括其任何更新。
公布版本必须包含系统性风险评估结果的高层摘要,以及已实施安全与安保缓解措施的高层描述。
任何公布均须排除或删减会削弱安全和/或安保缓解措施有效性或损害敏感商业信息的内容。
以下情形无需公布:
- 框架——如签署方的所有模型依据附录 2.2 均符合"同样安全或更安全模型"标准。
- 模型报告——如相关模型依据附录 2.2 符合"同样安全或更安全模型"标准。
---
## 附录 1:系统性风险及其他考虑因素
### 附录 1.1:风险类型
为确定是否存在系统性风险(依据《人工智能法案》第 3 条第(65)项),风险分为五大类,可能相互重叠:
1. 对公共健康的风险
2. 对安全的风险
3. 对公共安全的风险
4. 对基本权利的风险
5. 对整个社会的风险
示例包括对关键基础设施、公众心理健康、言论自由、数据隐私、经济安全、环境和民主的威胁。特定风险如虚假信息、非自愿亲密影像(NCII)和儿童性虐待材料(CSAM)也被涵盖。
### 附录 1.2:系统性风险的性质
#### 基本特征
一项风险在以下情形具有系统性:
- 特定于高影响力 AI 能力,
- 对欧盟市场产生显著影响,且
- 可通过 AI 价值链扩展。
#### 促成特征
- **能力或触达依赖:** 风险随模型能力或使用而增长。
- **高速度:** 快速发作,超越缓解措施。
- **级联影响:** 触发连锁反应。
- **不可逆性:** 持续或永久性损害。
- **不对称性:** 少数行为者即可造成大规模影响。
### 附录 1.3:系统性风险的来源
#### 模型能力
风险可能源于以下功能:
- 攻击性网络或 CBRN(化学、生物、放射、核)能力,
- 说服性或欺骗性互动,
- 自主性、自我复制或规划,
- 工具使用和对物理系统的控制,
- 自我推理和逃避监督。
#### 模型倾向
这些指以下倾向:
- 与人类意图或价值观不一致,
- 歧视性偏见、幻觉或无规则行为,
- 目标坚持或追求权力,
- 与其他系统的共谋或冲突。
#### 模型可供性及其他系统性风险来源
系统性风险也可能源于:
- 对强大工具或基础设施的访问,
- 安保薄弱、监督不力或滥用,
- 大规模部署或用户基础,
- 发布策略中的漏洞,
- 可解释性或透明度不足。
### 附录 1.4:特定系统性风险
以下风险为风险识别目的(措施 2.1 第 2 点)被认定为特定系统性风险:
- **CBRN 风险:** AI 降低化学、生物、放射或核攻击的门槛或增大其影响。
- **失控风险:** 因错位、自主性或抵抗,人类无法修改或关闭模型。
- **网络攻击:** AI 使先进网络攻击成为可能,尤其是针对关键基础设施。
- **有害操纵:** 针对人群或决策者的战略性说服或欺骗,可能破坏民主进程或基本权利。
---
## 附录 2:同样安全或更安全模型
### 附录 2.1:安全参考模型
一项模型就特定系统性风险而言符合安全参考模型的条件,须满足以下所有条件:
- **监管地位:** 该模型在本章公布之前已投放市场;或已完成全部系统性风险评估与缓解流程,人工智能办公室已收到其模型报告,且风险被认定为可接受。
- **充分可见性:** 签署方对该模型的架构、能力、倾向、可供性和缓解措施有充分了解。对于签署方自己的模型或获得完全技术访问权限(包括模型参数)的模型,推定满足该条件。
- **无相反证据:** 没有其他合理理由相信该模型的系统性风险不可接受。
### 附录 2.2:同样安全或更安全模型
一项模型在以下情形可就特定系统性风险被归类为同样安全或更安全:
- **风险比较:** 在系统性风险识别之后,签署方合理预见到与安全参考模型相比不存在任何实质不同的风险情景。
- **基准测试:** 该模型在所有相关的、最先进的轻量级基准上表现等于或低于参考模型,仅有不实质性提升风险的轻微能力增长。基准测试必须按照既定程序(措施 3.2)进行。
- **技术等同性:** 不存在已知的架构或行为差异会合理地导致系统性风险增加。也没有其他合理理由相信风险实质性高于参考模型。
附录 2.2 第(2)和(3)点及附录 2.1 第(2)点的评估必须包含适当的安全边际,以考虑不确定性,如信息不完整或测量误差。
如先前用作安全参考的模型丧失该地位,签署方必须在六个月内采取行动,要么确定新的安全参考模型,要么对相关模型适用全部监管义务,包括完成系统性风险评估流程中此前豁免或减免的所有要素。
---
## 附录 3:模型评估
### 附录 3.1:严格的模型评估
所有模型评估必须以高水平的科学和技术严谨性进行,确保:
- **内部有效性**(结果准确反映所测试的情景),
- **外部有效性**(结果可推广到现实世界使用),以及
- **可复现性**(独立复制是可能的)。
### 附录 3.2:模型诱导
评估必须使用最先进技术诱导模型的全部能力、倾向和潜在影响,旨在:
- 尽量减少诱导不足(遗漏相关行为),
- 防止模型在测试期间欺骗(如蓄意藏拙 sandbagging)。
技术可能包括改变计算访问、提示词设计、脚手架和微调。
签署方必须:
- 匹配潜在滥用行为者的诱导能力,且
- 反映预期的使用情境,包括计划中或已用于类似模型的工具和集成。
### 附录 3.3:评估缓解措施有效性
评估必须测试安全缓解措施的表现,尤其是当系统性风险接受取决于这些措施时。这包括:
- 缓解措施是否按预期发挥作用,
- 是否可以被规避或颠覆(如通过越狱),
- 其有效性是否可能随时间下降。
测试必须使用最先进的对抗性技术来探查漏洞。
### 附录 3.4:合格评估团队与资源
评估必须由具备与特定系统性风险相关的技术和领域专业知识的跨学科团队进行。参考资质包括:
- 相关博士学位或同行评审成果,
- 开发模型评估方法的经验,
- 至少 3 年相关工作或研究经验。
必须为团队提供:
- 对模型的充分访问权限,包括内部组件(如 logits、激活值)和在适当时的未缓解版本,
- 模型信息,包括规格和训练数据,
- 时间(如大多数任务至少 20 个工作日),以及
- 资源,包括计算、工程支持和人员配备。
在授予对敏感模型组件的访问权限时,必须考虑安保问题。
### 附录 3.5:独立外部模型评估
除内部审查外,签署方必须指定合格的独立外部评估人员,除非:
- 该模型已被认定为"同样安全或更安全"(附录 2.2),或
- 尽管已尽善意努力(如为期 20 天的公开征集),仍无法找到合适的外部评估人员。
独立评估人员必须:
- 具有相关的领域和技术专业知识,
- 遵循严格的安保协议,且
- 同意保护商业敏感信息。
必须按照附录 3.4 的说明授予其充分的访问权限、信息、时间和资源。签署方不得干预外部测试的完整性(如未经许可记录测试数据)。
中小企业(SME/SMC)可就满足这些要求向人工智能办公室寻求支持。
---
## 附录 4:安保缓解目标与措施
### 附录 4.1:通用安保缓解措施
签署方必须采取基线网络安全措施以防御常见威胁。包括:
- **网络访问控制:** 身份与访问管理(如 MFA 多因素认证、强密码、零信任架构、与有线同等的无线安全、访客网络隔离)。
- **社会工程防护:** 电子邮件过滤以检测钓鱼邮件和可疑附件。
- **恶意软件与可移动介质:** 限制使用 USB 及类似设备的政策。
- **软件安全:** 定期软件更新和补丁管理以防止漏洞利用。
### 附录 4.2:未发布模型参数的保护
为保护敏感模型数据,签署方必须:
- **追踪所有存储副本:** 维护持有模型参数的设备/地点的安全登记册。
- **限制向不受管理设备复制:** 实施访问控制并监测未经授权的数据传输。
- **传输和静态加密参数:** 使用 256 位加密和安全密钥存储(如 TPM 可信平台模块)。
- **安全的临时存储:** 仅在非持久性内存中为合法用途解密参数。
- **使用中的参数安全:** 部署机密计算技术,如经认证的可信执行环境。
- **控制物理访问:** 限制对敏感环境(如数据中心)的访问,并检查是否存在未经授权的在场人员或设备。
### 附录 4.3:加固对未发布模型参数的接口访问
签署方必须加固所有访问未发布模型参数的接口:
- **限制接口访问:** 仅限经授权的用户/软件,使用 MFA 并至少每 6 个月审查权限。
- **加固接口代码:** 对与模型参数访问相关的代码进行深入的人工或自动化安全审查。
- **防止数据外泄:** 在接口上应用输出速率限制等方法。
- **尽量减少内部人员访问:** 限制可访问含模型参数的非加固接口的人员。
### 附录 4.4:内部威胁
为防御破坏或内部窃取(包括由模型实施或经由模型实施的):
- **人员审查:** 对可接触敏感模型数据/系统的人员进行背景调查。
- **内部威胁意识:** 培训员工识别和报告内部威胁。
- **防止模型自我外泄:** 使用沙箱和代码执行隔离。
- **保护模型训练:** 检查训练数据是否存在篡改或破坏。
### 附录 4.5:安保保证
为验证安保措施的有效性,签署方必须:
- 内部能力不足时使用独立外部审查。
- 进行红队测试以识别网络和设施中的安保缺口。
- 在适当时为面向公众的端点运行漏洞赏金计划。
- 测试内部威胁缓解协议,包括人员诚信评估。
- 通过安全的第三方沟通渠道便利问题报告。
- 使用端点检测与响应(EDR)或入侵检测系统(IDS)主动监测系统。
- 使用训练有素的安保团队快速响应威胁,进行事件处理和恢复。
Related skills
| Skill | Stars | Updated | Works with | Status | Install |
|---|---|---|---|---|---|
| slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack." | Stars: 198k | Updated | Claude CodeCodex | Verified | Install |
| ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |
| ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt. | Stars: 196k | Updated | Claude CodeCodex | Verified | Install |