Skip to content

CSlawyer1985/legal-skillhub / skills/ai-act-knowledge

ai-act-knowledge

Verified

欧盟 AI 法案知识引擎——以 70 份官方欧盟来源文件为基础的权威监管问答(包括 2026 年委员会关于 Art. 6 高风险分类的指南草稿——一般原则、附件 I、附件 III)。基于完整条例文本、委员会指南、EDPB/EDPS 意见、《实践守则》、协调标准、FRIA 指南、事件模板和行业特定指引,以条款级引用回答关于 AI 法案的任何问题。当用户询问"EU AI Act"、"AI Act regulation"、"Regulation 2024/1689"、"KI-Verordnung"、要求"explain an AI Act article"、"what does Article X say"、"AI Act requirements"、"AI Act penalties"、"AI Act timeline"、"GPAI obligations"、"high-risk AI"、"prohibited AI practices"、"AI Act and GDPR"、"fundamental rights impact assessment"、"AI Act standards"、"AI Act national implementation"、"AI literacy"、"serious incident reporting"、"Digital Omnibus"、"AI regulatory sandbox",或任何关于欧盟人工智能监管的问题时,应使用本技能。德语术语同样触发:"KI-Gesetz"、"KI-Verordnung"、"Hochrisiko-KI"、"KI-Kompetenz"、"Grundrechte-Folgenabschaetzung"、"GPAI-Verhaltenskodex"。对于产出分类决定而非知识答案的评估工作流,提议在会话内运行结构化风险等级分类。

FileKindSize
LICENSE.txtmarkdown33.7 KB
README.mdmarkdown6.0 KB
SKILL.mdskill md13.5 KB
evals.jsonconfig19.0 KB
references/codes-of-practice/README.mdmarkdown621 B
references/codes-of-practice/gpai-code-detailed.mdmarkdown42.4 KB
references/codes-of-practice/gpai-code-ec-overview.mdmarkdown3.4 KB
references/codes-of-practice/gpai-code-final.mdmarkdown101.8 KB
references/codes-of-practice/transparency-code-draft-1.mdmarkdown1.0 KB
references/codes-of-practice/transparency-code-draft-2.mdmarkdown3.8 KB
references/codes-of-practice/transparency-code-overview.mdmarkdown5.0 KB
references/commission-guidelines/art-6-classification-annex-i-2026.mdmarkdown30.8 KB
references/commission-guidelines/art-6-classification-annex-iii-2026.mdmarkdown371.7 KB
references/commission-guidelines/art-6-classification-general-principles-2026.mdmarkdown12.2 KB
references/compliance-guides/README.mdmarkdown646 B
references/compliance-guides/ai-literacy-repository.mdmarkdown1.8 KB
references/compliance-guides/copyright-tdm-consultation.mdmarkdown3.6 KB
references/compliance-guides/modifying-ai-classification.mdmarkdown24.7 KB
references/compliance-guides/small-businesses-guide.mdmarkdown12.6 KB
references/compliance-guides/whistleblowing-ai-act.mdmarkdown18.1 KB
references/core/README.mdmarkdown1.1 KB
references/core/annex-iii-high-risk.mdmarkdown8.0 KB
references/core/decision-trees.mdmarkdown10.2 KB
references/core/high-level-summary.mdmarkdown13.6 KB
references/core/regulation-preamble-recitals.mdmarkdown173.0 KB
references/core/regulation-title-I-general.mdmarkdown18.8 KB
references/core/regulation-title-II-prohibited.mdmarkdown8.2 KB
references/core/regulation-title-III-high-risk.mdmarkdown79.5 KB
references/core/regulation-title-IV-transparency.mdmarkdown3.9 KB
references/core/regulation-title-V-gpai.mdmarkdown12.0 KB
references/core/regulation-title-VI-X-governance.mdmarkdown104.3 KB
references/core/regulation-title-XI-XIII-final.mdmarkdown39.4 KB
references/cybersecurity/README.mdmarkdown440 B
references/cybersecurity/enisa-advisory-opinion.mdmarkdown29.7 KB
references/cybersecurity/enisa-ai-cybersecurity.mdmarkdown7.4 KB
references/cybersecurity/enisa-cybersecurity-standardisation.mdmarkdown3.7 KB
references/fria/README.mdmarkdown338 B
references/fria/article-27-fria.mdmarkdown4.8 KB
references/fria/ecnl-fria-guide.mdmarkdown43.3 KB
references/fria/fria-guide-danish-institute.mdmarkdown2.7 KB
references/governance/README.mdmarkdown660 B
references/governance/ai-office-faq.mdmarkdown59.8 KB
references/governance/ai-pact.mdmarkdown5.4 KB
references/governance/ec-qa-navigating-ai-act.mdmarkdown38.5 KB
references/governance/governance-enforcement.mdmarkdown2.8 KB
references/governance/implementation-next-steps.mdmarkdown6.2 KB
references/governance/implementation-timeline.mdmarkdown12.8 KB
references/governance/whistleblower-tool.mdmarkdown2.8 KB
references/guidelines/README.mdmarkdown664 B
references/guidelines/ai-system-definition.mdmarkdown4.0 KB
references/guidelines/digital-omnibus.mdmarkdown9.4 KB
references/guidelines/ec-regulatory-framework.mdmarkdown13.7 KB
references/guidelines/gpai-obligations-scope.mdmarkdown1.7 KB
references/guidelines/guidelines-roadmap.mdmarkdown3.0 KB
references/guidelines/prohibited-practices-full.mdmarkdown58.8 KB
references/guidelines/prohibited-practices-web.mdmarkdown3.0 KB
references/impact-assessments/README.mdmarkdown382 B
references/impact-assessments/healthcare-study-2026.mdmarkdown4.3 KB
references/impact-assessments/impact-assessment-original.mdmarkdown1.9 KB
references/impact-assessments/supporting-study.mdmarkdown1.4 KB
references/law-enforcement/README.mdmarkdown312 B
references/law-enforcement/europol-ai-policing.mdmarkdown2.9 KB
references/law-enforcement/gpai-guidelines-overview.mdmarkdown9.2 KB
references/national/README.mdmarkdown467 B
references/national/german-ai-bill.mdmarkdown10.3 KB
references/national/national-implementation-plans.mdmarkdown13.7 KB
references/national/national-resources-service-desk.mdmarkdown3.5 KB
references/national/regulatory-sandboxes.mdmarkdown29.2 KB
references/opinions/README.mdmarkdown447 B
references/opinions/edpb-edps-joint-opinion-2021.mdmarkdown2.6 KB
references/opinions/edpb-edps-joint-opinion-2026.mdmarkdown20.6 KB
references/opinions/edpb-opinion-28-2024.mdmarkdown3.1 KB
references/sector-specific/README.mdmarkdown409 B
references/sector-specific/banking-ai-implications.mdmarkdown5.0 KB
references/sector-specific/medical-devices-ai.mdmarkdown22.4 KB
references/sector-specific/staffing-businesses-ai.mdmarkdown10.7 KB
references/standards/README.mdmarkdown617 B
references/standards/article-40-harmonised-standards.mdmarkdown3.5 KB
references/standards/harmonised-standards-map.mdmarkdown10.3 KB
references/standards/pren-18286.mdmarkdown1.6 KB
references/standards/standardisation-overview.mdmarkdown4.8 KB
references/standards/standardisation-qa.mdmarkdown7.9 KB
references/standards/standardisation-request-c2025-3871.mdmarkdown1.5 KB
references/templates/README.mdmarkdown476 B
references/templates/draft-guidance-art73-high-risk.mdmarkdown2.4 KB
references/templates/gpai-submitting-documents.mdmarkdown3.9 KB
references/templates/gpai-training-data-summary.mdmarkdown2.0 KB
references/templates/serious-incident-template-gpai.mdmarkdown2.5 KB

references/cybersecurity/enisa-advisory-opinion.md

View on GitHub
# ENISA 咨询组关于人工智能的意见

ENISA 咨询组关于 AI 网络安全的意见文件——风险分析、威胁分类学以及实施建议。

| 方面 | 详情 |
|--------|--------|
| 机构 | ENISA 咨询组 |
| 日期 | 2025 |
| 来源 URL | https://www.enisa.europa.eu/sites/default/files/2025-07/AG_opinion_paper_on_AI.pdf |
| NotebookLM 来源 ID | 38df5d00-... |

*德文:Stellungnahme der ENISA-Beratergruppe zu KI(ENISA 咨询组关于人工智能的意见)*

---

## 作者与致谢

**作者:** Marta Beltran Pardo, Ana Ferreira, Eva Fogelstrom, Thomas Haeberlen, Liina Kamm, Emmanuel Kessler, Wolfgang Klasen, Stephane Lenco, Matti Mantere, Ana-Maria Matejic, Roxana Radu, Bart Preneel, Luca Zampaglione。

**ENISA 活动经理支持:** Apostolos Malatras。主要起草由 Marta Beltran Pardo 和 Eva Fogelstrom 负责。

**免责声明:** 咨询组(AG)所表达的意见对 ENISA 不具有约束力,也不代表该机构的官方立场。

## 引言

欧盟委员会在《人工智能法》(AI Act)中认可了安全、有韧性且值得信赖的人工智能(AI)的重要性。在实施《人工智能法》的同时,还需要提高对网络安全与人工智能的认知,并根据 AI 的情况更新网络安全战略。

网络安全与人工智能可以从三个主要维度来看待,ENISA 在关于 AI 网络安全挑战的报告中概述了这三个维度:

1. **AI 的网络安全**(Cybersecurity for AI)——保障 AI 系统本身的安全。
2. **AI 支持网络安全**(AI to support cybersecurity)——利用 AI 改善网络安全运营。
3. **AI 的恶意使用**(Malicious use of AI)——AI 作为网络威胁的工具。

本意见文件聚焦于**AI 的网络安全**,并依据《2025-2027 年单一规划文件》(Single Programming Document 2025-2027)中确立的 ENISA 业务活动,为 ENISA 推荐具体活动。

### 推荐活动摘要

**活动 1:** ENISA 应开展政策监测,以支持识别 AI 网络安全政策开发的潜在领域。ENISA 应编写一份概述保障 AI 系统安全最佳实践的实用指南。AG 建议提高政策制定者对 AI 多样化风险的认识。AG 建议 ENISA 强调对可解释性的要求。

**活动 2:** ENISA 应在支持 NIS2 与《人工智能法》实施的同时提高认识,具体方式包括:(a)提供互操作的欧盟风险管理工具箱,(b)为中小企业提供专门的 AI 风险管理工作表,以及(c)为国家机构接收《人工智能法》项下 AI 系统通知提供配套材料。AG 建议 ENISA 监测不同成员国《人工智能法》的实施情况,以识别共同的网络安全挑战,重点关注关键部门。

**活动 3:** ENISA 应为审查和更新成员国国家网络安全战略提供支持与工具。ENISA 应组织或支持针对网络安全专业人员的专门培训计划和演练,重点聚焦 AI 特定威胁与防御策略。ENISA 应制定网络安全教育路线图,在不同层级整合 AI 相关主题。AG 建议创建并传播易于理解的关于 AI 网络安全风险与最佳实践的内容。

**活动 4:** ENISA 应通过促进经验交流,为接收《人工智能法》通知的组织提供支持。ENISA 应建立结构化流程,用于报告、验证和披露 AI 系统中的漏洞。AG 建议 ENISA 在下一届 Cyber Europe 演练中引入与 AI 相关的注入场景(injects)。

**活动 5 和 6:** ENISA 应支持 CSIRTs 网络(计算机安全事件响应小组网络)、EU CyCLONe、EUIBAs 和国家主管部门,建立和增强关于 AI 相关网络威胁的标准检测与态势感知能力。AG 建议创建一个框架,支持成员国准备、应对和恢复涉及 AI 的大规模网络安全事件。ENISA 应帮助成员国发展在本地部署基本 AI 系统的能力。

**活动 7:** ENISA 应建立开展评估的方法,以增强对 AI 系统、产品和服务的信任。ENISA 应提供 AI 网络安全基线和指标,用于评估 AI 系统的安全性。ENISA 应为 AI 采购合同奔走呼吁,并制定一套标准化合同条款,以核实供应商的合规性。

**活动 8:** ENISA 应监测 AI 网络安全市场,识别系统、产品、服务与漏洞之间的依赖关系以及关键趋势、挑战与机遇。ENISA 应促进 AI 与网络安全市场参与者之间的合作平台。ENISA 应识别研究空白,并与国际利益相关方和机构开展对话,利用其地位建立正式或非正式的研究网络,并与相关行动方实现合作正式化。

拟议的许多活动将需要与 AI 办公室(AI Office)合作,因为后者依据《人工智能法》拥有相应权限。

AG 强调,在欧盟支持 AI 系统安全不是通过在工作计划中添加活动就能解决的问题;AG 推荐的不是以项目为导向的方法,而是以机构为导向的方法。ENISA 需要具备相关技能、能力和战略,以便在未来几年内履行其在该问题上的使命。

---

## 活动 1:政策监测与开发支持

> "通过提供技术性的、基于事实的和量身定制的政策分析与建议,支持新兴或前沿技术领域的政策倡议。ENISA 将通过基于证据的投入支持欧盟机构和成员国的新政策倡议,参与政策制定过程。"

### 政策监测

ENISA 应开展政策监测(政策相对于政策目标的表现如何、产生了何种影响),以支持识别 AI 网络安全政策开发的潜在领域,同时考虑技术、地缘政治和社会趋势。它还应在现有政策倡议与制定中的政策倡议之间识别差距、重叠和协同效应。

ENISA 应分析已实施政策对目标实体的影响,以及(希望如此)AI 网络安全水平的提高情况,识别薄弱环节和可能的改进。该分析应与欧盟委员会和欧盟成员国协调开展,并应包括产出政策建议、报告、论文或意见。该活动还应促进与利益相关方的对话,确保 AI 网络安全嵌入欧盟政策的所有领域。

### 最佳实践指南

ENISA 应编写一份概述保障 AI 系统安全最佳实践的实用指南,并生成一份与欧盟政策(现有及制定中的)和欧盟最佳实践进行对比的差距分析。改进欧盟 AI 网络安全方法的政策建议应参考政策监测结果和该差距分析。

### 提高政策制定者对 AI 风险的认识

AG 建议重点关注提高政策制定者对 AI 多样化风险的认识。虽然 AI 系统是信息系统,因此与常规 IT 系统一样存在相同的信息安全问题,但还需特别关注:

- **数据可见性与数据主体权利**问题,因为 AI 系统中的数据往往并非显式可见。
- **AI 算法漏洞**,如模型投毒(model poisoning)、对抗性学习(adversarial learning)、提示注入(prompt injection)、规避攻击(evasion attacks)、信息提取攻击或拒绝服务攻击。
- **社会与伦理挑战**,如滥用、偏见模型,以及剥削性或成瘾性应用。
- **影响本地模型与集中式模型的不同风险**。

### 可解释性

AG 建议 ENISA 强调对可解释性的要求。ENISA 应在其政策建议中强调,需要区分 AI 作为决策支持工具与 AI 作为决策者这两种情形,以及风险及其潜在影响之间的差异。ENISA 应提高对 AI 可能出错的认识,并强调所有 AI 系统都需要可解释性。

ENISA 应详细阐述**AI 系统可解释性与网络安全之间的关系**,因为缺乏可解释性可能影响组织调查和缓解 AI 系统被攻破影响的能力。可解释的系统更容易调试和监控,也更适合进行更彻底的文档记录、审计和治理。

---

## 活动 2:关键部门的网络安全与韧性

> "支持成员国和欧盟机构实施 NIS2。该活动的目标是快速、协调一致地实施 NIS2,提高 NIS 部门的成熟度,并确保以符合 NIS2 的方式实施部门韧性政策,例如金融部门韧性的 DORA 以及跨境电力流网络安全的网络规范。"

### NIS2 与《人工智能法》在风险管理上的相互作用

ENISA 应研究 NIS2 与《人工智能法》在风险管理以及保障关键部门所用 AI 系统安全方面的相互作用。ENISA 作为咨询论坛(第 67 条)的组成部分——该论坛旨在确保利益相关方参与本条例的实施和适用——可以通过提供关于 AI 风险管理或特定安全控制的指引和建议,帮助提高认识与素养,同时支持《人工智能法》的实施。例如,对高风险 AI 系统或具有系统性风险的一般用途 AI 模型的网络安全要求、AI 网络安全指标、基准或特定控制措施。

### 互操作的欧盟风险管理工具箱

ENISA 应提供互操作的欧盟风险管理工具箱,以及适用于 AI 系统风险评估的框架和标准,并为供应商提供实用指南,以协调高风险 AI 系统中风险的识别、验证和管理。这些必须包括必要的监测和监管工具,以应对 AI 系统生命周期内可能发生的变化。

ENISA 可以帮助确保满足强制性风险评估要求,例如:

- 所用数据集的质量与相关性
- 技术文档与记录保存
- 透明度与向部署者提供信息
- 人工监督
- 稳健性、准确性与网络安全

### 面向中小企业的 AI 风险管理工作表

中小型组织往往既没有信息安全管理体系(ISMS),也没有风险管理政策。ENISA 应致力于为中小企业和发展成熟度较低的组织提供专门的 AI 风险管理工作表。该工作表将使组织在采用带 AI 组件的系统时,能够轻松获取并提高对最低必要步骤的认识。可辅之以一套识别和分析 AI 系统关键网络安全问题的良好实践加以补充。

### 特定安全控制

正如《人工智能法》序言第 78 段所提及,欧盟委员会应就与 AI 系统网络安全相关的问题与 ENISA 合作。所需网络安全水平须与系统的风险和基本权利相一致,高风险 AI 系统提供方采取的网络安全措施还需考虑底层 ICT 基础设施。

需要应用适当的安全控制措施,以赋予 AI 系统抵御未经授权的第三方试图改变其用途、行为或性能的网络韧性,包括 AI 特定漏洞,如:

- 数据投毒
- 对抗性攻击
- 意外模型泄露
- 成员推断(membership inference)
- 未授权发布
- 规避安全措施
- 抵御网络攻击、未授权访问或模型窃取

### 法律协调与跨法规分析

ENISA 应在相关欧盟政策倡议——NIS2 指令、《人工智能法》、《网络韧性法》(Cyber Resilience Act)、GDPR 和知识产权法——的背景下分析 AI 的网络安全方面,以提供技术性的、基于事实的和量身定制的网络安全建议,既要独立考虑这些政策倡议,也要考虑它们之间的相互作用。

ENISA 可与咨询论坛的其他利益相关方(《人工智能法》序言第 150 段)一起,为创建一个框架(grid)作出贡献,将 AI 网络安全的具体但共同的方面并入各项立法(NIS2、GDPR、CRA 等)的要求之中。查阅此类框架有助于清晰识别合规的要求和未达标的环节,从而进行持续的审计与纠正。

AG 强调**欧盟内部标准化术语和分类学**的重要性。

### 对国家机构的支持

ENISA 应为接收《人工智能法》项下 AI 系统通知的国家机构(指定机构,notified bodies)提供配套材料,重点是处理这些通知以及哪些通知需要具体回应。该机构可制定专门的指引文件、检查清单、模板或补充措施目录,供国家机构用于处理和回应《人工智能法》项下的通知。

### 监测《人工智能法》的实施

AG 建议 ENISA 监测不同成员国《人工智能法》的实施情况,以识别关键部门共同的网络安全挑战,并按需提供额外支持。如果在过程中识别出围绕通知和报告义务的简化机会,可在数字简化一揽子计划中考虑 ENISA 的意见。

---

## 活动 3:能力建设

> "提高成员国、欧盟机构、机关和部门以及 NIS2 部门的公共和私人利益相关方的能力。其重点是提高利益相关方的韧性和响应能力,增强其在网络卫生方面的技能和行为改变,并提高其准备程度。"

### 国家网络安全战略支持

ENISA 应为审查和更新成员国的国家网络安全战略提供支持和具体工具。AG 建议 ENISA 编制一份修订这些国家战略时应考虑要素的初始检查清单,特别是基本服务对 AI 系统的整合与依赖。该检查清单可通过研讨会和圆桌会议进行测试和改进。

### 实用技术指南

目标应当是提供保障 AI 系统安全的实用技术指南,说明关键漏洞和缓解策略,并澄清网络安全政策和框架如何适用于 AI。资源应包括:

- 一份按风险类型、AI 系统类型或组织类别整理的资源清单。
- 一个开放的用例库,作为如何管理风险和应用安全控制的示例。

### AI 网络安全信息共享与分析中心

ENISA 可以推动或支持建立一个专注于 AI 网络安全的信息共享与分析中心(ISAC),以便在利益相关方之间共享威胁情报、最佳实践和事件响应策略。该中心将作为收集、分析和传播 AI 相关网络威胁、漏洞与事件信息的中心枢纽。

AG 建议在现有威胁情报交换渠道的基础上建设该中心,以保证更大范围和更快速的采用。

### 专门培训与演练

ENISA 应组织或支持针对网络安全专业人员的专门培训计划和演练,聚焦 AI 特定威胁与防御策略。这些举措应包括:

- 如何开展漏洞评估或红队演练(red teaming),以识别 AI 系统和基础设施中的弱点,并与"左移"(shift left)方法保持一致。
- 举办研讨会、挑战赛和黑客马拉松,以促进保障 AI 系统安全方面的创新与合作。
- 加强政策制定者、技术社区与关键企业代表之间的合作。
- 创建一个专注于应对 AI 安全挑战的专家社区或团体。

### AI 网络安全素养与技能

ENISA 应致力于提高 AI 网络安全素养与技能。需要研究安全使用 AI 系统所需的必要能力、如何保障 AI 系统的安全,以及在环境和技术快速变化的情况下如何持续做到这一点。

### 公众认识

AG 建议通过多种媒体渠道创建和传播面向(普通公众的)易于理解的关于 AI 网络安全风险与最佳实践的内容。ENISA 应支持其他机构提升 AI 素养、公众认识,以及对使用 AI 系统相关的益处、风险、保障措施以及权利和义务的理解。《盒装意识提升包》(Awareness Raising in a Box,AR-in-a-BOX)应予以审查和更新,以满足这一目标。

### 网络安全教育路线图

ENISA 应制定结构化的网络安全教育路线图,将 AI 相关主题整合到各个层级,从小学和中学教育到职业培训和高等教育。路线图应识别 AI 驱动的网络安全格局所需的关键技能和能力,并概述个人获取这些技能的路径。

《欧洲网络安全技能框架》(ECSF)应予以审查和更新。应建立与全球倡议(如《欧洲数字教育行动计划》或《AI 大陆行动计划》)的联系。

---

## 活动 4:促进业务合作

> "支持成员国、欧盟机构、机关、办公室和部门之间以及各项业务活动之间的业务合作。该活动的主要目标是提供支持和协助,以确保欧盟业务网络和网络危机管理机制的高效运转。"

### 支持接收《人工智能法》通知的组织

随着《人工智能法》各章陆续进入适用阶段,各组织可以预期开始收到主管部门的通知。这些通知可能表明存在违反《人工智能法》的可能、调查和审计通知,或警告等。

ENISA 应通过组织会议、圆桌会议或研讨会支持接收《人工智能法》通知的组织,使它们能够交流经验、相互学习,并规划解决所收通知的方案。

### AI 漏洞披露流程

ENISA 应建立(或在现有流程中整合)一个结构化的流程,用于报告、验证和披露 AI 系统中的漏洞。该流程应明确所有利益相关方的角色与责任,确保漏洞得到及时有效的处理。该流程应包括以下指引:

- 负责任披露的时间表
- 沟通协议
- 补救步骤

ENISA 应创建和传播关于补救和缓解 AI 漏洞的专门指引,为供应商、开发者和用户提供可操作的措施,以解决已识别的弱点。这些指引应涵盖广泛类型的漏洞,并考虑到扩展的攻击面、供应链的复杂性以及数据依赖性,对现有资源加以补充。

### Cyber Europe 演练中的 AI 注入场景

AG 建议 ENISA 在下一届 Cyber Europe 演练中引入一些与 AI 相关的注入场景(injects)。场景可包括:

- 攻击者或恶意用户操纵 AI 模型,使其在关键层面(如能源、医疗或金融)作出不同的决策。
- 使用 AI 模型自动化攻击。
- 在供应链场景中利用 AI 模型,在供应商层面修改安全系统或关键系统的行为,从而影响所有客户。

目标将是鼓励业界制定或调整考虑 AI 的事件响应和业务连续性/恢复计划。

---

## 活动 5 和 6:态势感知与业务协助

> 活动 5:"通过对威胁和风险进行数据驱动的分析,基于事件、漏洞和威胁信息的收集提出业务和战略建议,为欧盟和成员国层面的合作性准备与应对作出贡献,从而为欧盟共同的态势感知作出贡献。"
>
> 活动 6:"通过实施和交付事前(ex-ante)与事后(ex-post)服务,为在欧盟和成员国层面进一步发展大规模跨境网络安全相关事件或危机的准备和应对能力作出贡献。"

### 检测与态势感知

ENISA 应支持 CSIRTs 网络、EU CyCLONe、EUIBAs 和国家主管部门,建立和增强关于 AI 相关网络威胁的标准检测与态势感知能力。这些能力应聚焦于监测 AI 系统、检测异常和共享威胁情报。活动 3 中提到的 AI 网络安全信息共享与分析中心可能在此发挥关键作用。

### 协调测试演练

ENISA 应推动组织协调测试演练,以评估特定 AI 系统抵御网络攻击的准备程度和韧性。这些演练应涉及多个部门,并模拟真实世界的攻击场景。在确定应开展协调准备程度测试的部门与子部门时,应咨询 ENISA。ENISA 可为这些协调测试演练制定共同的风险场景和方法论。

### AI 事件响应框架

ENISA 应在成员国响应 AI 相关事件时提供支持。AG 建议创建一个框架,支持成员国准备、应对和恢复涉及 AI 的大规模网络安全事件。该机制应包括:

- 准备措施
- 不同层面的支持请求和互助协议
- 宣布"AI 网络紧急状态"的标准(考虑到规模、对基本服务的影响等)
- 不同响应/恢复协议的启动

### 标准化恢复协议

AG 建议 ENISA 制定详细的、标准化的协议,用于网络事件后 AI 系统的恢复。这些协议应包括以下步骤:

- 数据恢复
- 模型重新训练
- 漏洞修补
- 确保重新训练的模型不含有攻击期间引入的偏见或后门

### 本地部署能力

ENISA 应帮助成员国发展在危机期间本地部署基本 AI 系统的能力(例如在国家数据中心或安全设施内),从而即使外部或基于云的 AI 基础设施受到攻击,也能确保关键服务的连续性。这包括识别对国家安全、公共安全和经济社会稳定至关重要的关键 AI 应用,并创建冗余的、本地托管的版本。

此类系统的一个良好示例是在欧盟委员会联合研究中心(Joint Research Centre)运行的 GPT@JRC 系统。

---

## 活动 7:评估流程技术指南的开发与维护

> 注:ENISA《2025-2027 年单一规划文件》中的活动 7 是"支持欧盟网络安全认证框架的开发和维护"。由于根据《网络安全法》第 21 条第 5 款,AG 应就机构任务的履行向 ENISA 提供建议(第三编——网络安全认证框架规定的任务除外),AG 决定就另一项活动提供建议。

### AI 信任的评估方法

ENISA 应着力建立开展评估流程的方法,以增强对 AI 系统、产品和服务的信任。AI 系统并不总是完整、可预测和可重复的。因此,AI 评估流程应被理解为一种动态体系,应包括"安全设计(Secure by Design)、默认安全(Secure by Default)、运营中安全(Secure in Operations)"原则,并以风险为基础。

### AI 网络安全基线

ENISA 应提供 AI 网络安全基线,为不同情境下使用的 AI 系统、产品和服务定义最低安全标准(实践与控制)。这些基线将作为评估 AI 网络安全的参照点。ENISA 应发布不同的基线(按 AI 系统类型、组织类型、应用领域等划分),并附上用于评估差距或合规性的工具和模板。

此类基线理想情况下应源自标准化机构和标准,或由私营第三方(如汽车领域的 EuroNCAP 组织)监督。欧盟可要求进行这些基线评估作为进入欧盟市场的条件,或定义一个可接受的最低结果水平。

### 指标与基准

ENISA 应从不同角度定义评估 AI 系统安全性的目标和可量化指标。AG 建议创建基准来衡量不同 AI 系统的这些数值,并附评估工具和报告模板。

在市场的生命周期中,技术会发展,漏洞可能出现。监管机构可以像航空领域的 EASA 一样运作,强制要求对现有 AI 系统进行变更,在问题得到满意解决之前将其限制在市场之外,并提供公开的经验教训以充实基线。这意味着在欧盟运营的每个 AI 系统都必须有一个声明的"负责"所有者,以便就这些措施联系相关方。

此类欧盟 AI 监管机构可被授予常规安全审计能力,或被授权回应成员国或欧盟委员会就特定主题提出的问询。

### AI 采购合同要求

ENISA 应为包含 AI 安全特定要求的 AI 采购合同奔走呼吁。合同应确保 AI 供应商证明其符合既定的 AI 安全基线,并提供持续监测和改进的证据(例如使用拟议的基准)。

ENISA 应制定一套与 AI 安全相关的标准化合同条款,以及核实供应商合规性的流程。

---

## 活动 8:支持欧洲网络安全市场、研究与开发及产业

> "促进欧盟产品和服务网络安全市场的发展,同时推动网络安全产业和服务的发展,特别是对中小企业和初创企业,以减少对外部依赖、提高欧盟的能力,并强化供应链以惠及内部市场。"

### AI 网络安全市场分析

ENISA 应对 AI 网络安全市场进行定期分析,以监测、收集和识别系统、产品、服务与漏洞之间的依赖关系。ENISA 应促进 AI 与网络安全市场参与者之间的合作平台,提高数字单一市场中的可见性。

ENISA 还应定期进行深入分析,以识别需求侧(寻求 AI 网络安全解决方案的组织的需求与偏好)和供给侧(AI 网络安全供应商的能力与产品)的关键趋势、挑战与机遇。理想成果是一份详细说明具体市场趋势、竞争格局和新兴技术的年度报告。

ENISA 可以开展定期调查,以评估利益相关方对现有 AI 网络安全解决方案的满意度。ENISA 还应监测对 AI 网络安全有影响的标准化进展。

### 地平线扫描与研究

ENISA 可以通过定期开展地平线扫描(horizon scanning)以及针对 AI 系统特有新兴威胁与漏洞的研究简报,积极增进对新兴挑战与机遇的认识。这些可与欧洲学术机构合作开展。

ENISA 应考虑如何实时分发关于新 AI 相关威胁或 AI 安全创新的信息,使其一发布即可在实地转化为行动。从长远看,ENISA 应支持将 AI 分析整合为更广泛的威胁与风险分析及安全设计的一部分,并将其内置于所有系统和流程之中。

### 前瞻演练

ENISA 应组织研讨会,让各领域的专家为 AI 网络安全的未来制定合理情景。这些情景应考虑从乐观到悲观的一系列可能性,并探索对机构使命和运营的潜在影响。

### 研究空白与战略

ENISA 应识别研究空白,以帮助确定当前和未来的需求,并推动制定一项鼓励关键领域研究的战略。AG 建议 ENISA 在确定哪些方面需要超越现有技术水平(state-of-the-art)的进展方面发挥积极作用。

ENISA 可以扫描影响 AI 网络安全的新兴技术、监管和社会趋势,以确定研究与创新优先事项。该过程应涉及定期咨询用户群体、项目(特别是欧盟资助的项目)、研究人员、大学、产业界、初创企业和数字创新中心。

ENISA 还应系统地利用法定机构,如国家联络官网络(National Liaison Officers Network)、ENISA 咨询组和利益相关方网络安全认证组(SCCG),以收集有意义且最新的意见。

### 国际参与与合作

ENISA 应与其他国际利益相关方和机构开展对话,利用其地位建立正式或非正式的研究网络。该机构可以推动不同的对话论坛,以促进双向知识共享:收集信息以确定最紧迫的需求,同时分享信息以便研究人员了解已确立的优先事项以及合作和资助的可能性。

ENISA 应与以下机构实现结构化合作的正式化:

- 欧盟委员会联合研究中心
- 欧洲网络安全能力中心(European Cybersecurity Competence Centre)
- 欧洲 AI 办公室

这种合作应协调研究倡议,并为欧盟 AI 网络安全研究议程提供战略指引或方向。应考虑与当前和未来的欧盟 AI 网络安全卓越网络(例如欧盟 AI 与机器人 NoE 社区)进行可能的合作。

### 支持欧盟资助的行动

确保在各种利用 AI 系统或从事相关研究与创新的欧盟资助行动中考虑网络安全问题至关重要。ENISA 应考虑为负责为此类活动制定评估标准和相关工作计划的各个欧盟工作组提供建议和支持。作为具体示例,这种支持可以通过帮助定义"AI 稳健性"评估子标准来实现——该概念目前是许多欧盟资助项目(如 Horizon Europe、数字欧洲计划)申请评估中的常见要素。

虽然应确保欧盟资助项目中使用的任何 AI 系统的网络安全,但也应取得平衡,以免为 AI 技术的创新使用设置不当障碍。应仔细考虑各国在资助 AI 相关工作方面的差异,以免事实上引入进一步限制,损害欧盟实体(based entities)的竞争力。

---

## 结论

当今 AI 的无处不在的可用性和使用,需要通过采取理解风险、解决 AI 的网络安全和隐私、确保 AI 的透明度和韧性的措施来加以平衡。

本意见文件概述了 ENISA 支持这一总体目标并制定长期战略的行动,包括:

- 协助制定关于 AI 网络安全的政策
- 通过工具箱和配套材料提高认识
- 支持审查和更新成员国的国家战略
- 促进经验交流
- 将 AI 的网络安全方面纳入网络安全演练
- 建立评估方法以增强对 AI 系统、产品和服务的信任
- 分析 AI 网络安全市场
- 制定教育与研究路线图

AG 强调,由于 AI 办公室依据《人工智能法》拥有相应权限,在许多拟议活动中需要与 AI 办公室合作。AI 办公室的任务是发展欧盟在 AI 领域的专业知识和能力,并促进欧盟 AI 法律的实施;因此,欧洲机构开展的许多与 AI 网络安全相关的活动都需要与该办公室进行某种程度的合作或协调。

---

## 附件 A:供未来考虑的超出范围事项

检测到但未在本文件中展开的需求,因为它们超出了范围(AI 的网络安全):

### AI 支持网络安全

1. 审查欧盟现行关于将 AI 系统应用于网络安全的政策,并在必要时提出修订建议,以在网络安全中利用 AI(例如允许在蓝队和红队演练中使用)。
2. 提供用例、实践示例和技术指南,说明如何按照《人工智能法》开发和部署使用 AI 的网络安全系统。
3. 组织研讨会/黑客马拉松,开发/设计支持网络安全任务的 AI 工具,涵盖蓝队和红队两个方面。
4. 制定将 AI 整合到网络安全业务合作中的指南和最佳实践,考虑具体用例。
5. 促进或推动可靠且安全的 AI 驱动网络安全工具和平台的开发与采用。
6. 提供非常具体的建议:应使用或应避免使用的 AI 系统/工具清单。
7. 为这些应用构建/提供测试数据集。所有黑客马拉松和演练的数据都应作为资源提供给研究人员和网络安全产业。
8. 探索共享(如数据、工具)的可能性,以改善欧盟的网络安全:AI 向善(AI for good)。
9. 与欧盟盟友在数据驱动(AI 驱动)的网络安全方面开展合作。
10. 推动开发由成员国维护的 AI 模型,以支持国家 CSIRTs 更高效地响应网络事件。
11. 探索利用 AI 进行主动准备与响应的可能性。
12. 促进 AI 用于网络安全的研发,重点关注威胁情报、漏洞分析、恶意软件检测或事件响应等领域。
13. 识别和评估市场上使用 AI 用于网络安全的机会。

### AI 的恶意使用

14. 提高对 AI 如何被用于服务某些具有特定议程者的需求的认识。AI 作为威胁值得更多关注:AI 威胁关键基础设施、公众舆论、篡改选举结果等。
15. 开展威胁建模或风险评估,以识别和分析由 AI 恶意使用产生的潜在攻击向量和漏洞。
16. 通过保持对 AI 在未遂或成功网络攻击中成为重要因素的可观察案例的整体鸟瞰,支持态势感知。
17. 澄清术语,例如当 AI 被用作"网络攻击"工具时。当深度伪造(deepfakes)被用于误导公众时,这与网络安全相关吗?这实际上是网络攻击案例吗?如果是,如何分类?
18. 制定和传播防御 AI 驱动网络攻击的指南和最佳实践,包括检测、响应和恢复此类攻击的策略。
19. 与国际伙伴和组织合作,共享缓解 AI 驱动威胁的情报和最佳实践。
slack-gif-creatoranthropics/skillsKnowledge and utilities for creating animated GIFs optimized for Slack. Provides constraints, validation tools, and animation concepts. Use when users request animated GIFs for Slack like "make me a GIF of X doing Y for Slack."Stars: 198kUpdated Claude CodeCodexVerifiedInstall
ponytailDietrichGebert/ponytailLazy senior dev mode for any coding task: the smallest change that fully solves it, and a reply a busy human understands in one read.Stars: 196kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailHarvest every shortcut: comment into one debt ledger, so deferrals get tracked instead of forgotten. One-shot report.Stars: 196kUpdated Claude CodeCodexVerifiedInstall
ponytail-debtDietrichGebert/ponytailList every `shortcut:` comment (and older `ponytail:` ones) as a debt ledger. One-shot report, changes nothing. Use for "ponytail debt", "what did ponytail defer", "list the shortcuts", /ponytail-debt.Stars: 196kUpdated Claude CodeCodexVerifiedInstall