联系电话:
021-68580866
ISO/PAS 8800:2024 是为确保道路车辆中人工智能 (AI) 和机器学习 (ML) 系统的功能安全性而开发的规格。它扩充了既有的汽车安全标准 (例如 ISO 26262 和 ISO 21448/SOTIF)，以应对 AI 技术所带来的独特挑战和风险。遵守 ISO 8800 要求组织采用结构化、以生命周期为基础的方法，以开发、部署和监控安全关键汽车应用中的 AI 系统。
与现有标准整合
ISO/PAS 8800 旨在补充而非取代现有的汽车安全标准：
标准 | 重点领域 | 与 ISO 8800 的关系 |
ISO 26262 | E/E 系统的功能安全 | ISO 8800 延伸至 AI/ML 组件 |
ISO 21448 | 预期功能安全 (SOTIF) | ISO 8800 针对 AI 特有的风险 |
ISO 9001 | 质量管理系统 | 形成组织基础 |
成功合规的最佳实务
-
及早识别风险：在概念和设计时间处理潜在的 AI 专属危害。
-
可追溯性：在安全要求、AI 组件和测试结果之间维持明确的连结。
-
持续改善：使用现场数据和上市后的监控来改进和更新人工智能模型和安全措施。
-
训练与意识：确保员工接受有关 ISO/PAS 8800 及相关标准的要求和意图的训练。
-
通过遵循这些结构化的步骤，组织可以有系统地解决汽车系统中人工智能所带来的独特安全挑战，建立坚实的保证论据，并证明符合ISO/PAS 8800。
组织合规的关键步骤
-
建立 AI 安全管理架构
-
定义 AI 系统范围与安全需求
-
数据管理与质量保证
-
AI 系统设计与架构
-
验证与验证 (V&V)
-
安全分析与风险管理
-
生命周期管理与上市后措施
-
文件与保证论证
-
建立 AI 安全管理架构 · 定义 AI 安全管理的角色、责任与流程。
· 以 ISO 9001 和 IATF 16949 等标准为基础，将人工智能安全融入组织的质量管理系统 (QMS）。
· 确保 AI 专家、安全工程师与领域专家之间的跨功能合作。
-
定义 AI 系统范围与安全需求
· 明确辨识并记录车辆系统内的 AI 组件 (例如训练模型、决策模块)。
· 指定一套完整的 AI 安全需求，确保可追溯至系统层级的安全目标与法规需求。
· 依据开发心得与验证结果迭代精进需求。
-
数据管理与质量保证
· 建立严格的数据管理实务，以确保 AI 训练与验证的数据质量、完整性与代表性。
· 记录数据集的建立、验证与限制，包括已知的不足或涵盖范围的缺口。
-
AI 系统设计与架构
· 根据安全需求选择特定 AI 技术与架构，并说明使用的理由。
· 将安全需求分配至特定的 AI 组件，并定义架构与开发措施以降低风险。
· 处理开发环境与作业环境之间的差异，必要时调整措施。
-
验证与验证 (V&V)
· 针对 AI 组件和整合系统实施全面的验证和验证程序。
· 使用最佳实务，包括需求分析、边界值分析和错误猜测，开发测试案例。
· 确保每个测试案例都有明确的通过/失败标准，并涵盖指定的输入空间。
-
安全分析与风险管理
· 进行有系统的安全分析，以辨识并处理潜在危险，包括人工智能特有的危险 (例如偏差、效能限制、错误分类) 。
· 应用因果模型追踪功能不足的根本原因，并定义缓解策略。
-
生命周期管理与上市后措施
· 管理从概念到部署的 AI 安全生命周期，包括维护与现场监控。
· 实施监控现场 AI 系统效能的流程，侦测新出现的风险，并在必要时更新模型。
-
文件与保证论证
· 为所有阶段制作全面的文件：需求、设计、数据、V&V 与安全分析。
· 开发安全保证论证，证明 AI 系统行为不存在不合理的风险。
RELATED RESOURCES
