近日，随着人工智能在核电领域的应用从预测性维护迈向更核心的安全辅助功能，如何确保其可靠性成为行业关键课题。业界提出将经典故障模式与影响分析(FMEA)方法进行系统性革新，以适应人工智能系统的特有风险，为核能智能化构筑安全基石。
人工智能的引入为核电站的安全与效率带来新可能，但深度学习等模型的“黑箱”特性、数据依赖性和对网络攻击的脆弱性，也带来了传统工程方法未曾面对的挑战。在此背景下，将经过数十年工程验证的FMEA方法论进行针对性扩展，被认为是管理这些新型风险的有效路径。扩展后的AI FMEA框架，其核心在于识别并评估人工智能特有的故障模式，例如因训练数据偏差导致的决策错误、因运行数据分布变化引发的模型性能退化，以及针对算法的对抗性攻击等。
在核安全这一最高准则下，对AI系统进行FMEA评估需进行深刻调整。传统方法中用于量化风险的发生率评估，需从硬件失效率统计转向对系统“脆弱性”的衡量，例如评估模型对数据噪声的鲁棒性或网络安全防护水平。同时，检测度的评估则需聚焦于如何监控一个“黑箱”模型的内部状态，其可解释性成为关键指标。报告指出，严重度的评估标准则与核安全要求一脉相承，任何可能危及反应堆屏障完整性或导致放射性物质失控释放的潜在影响，都必须被赋予最高等级。
报告强调，有效的AI FMEA必须融入人工智能系统从设计到退役的全生命周期。这意味着FMEA活动需要与机器学习运维流程深度结合：在概念设计阶段进行初步系统级风险评估;在模型开发阶段分析数据与训练过程引入的偏差;在部署前针对已识别的模型失效模式进行鲁棒性测试;在运行阶段持续监控数据漂移与性能指标，并将真实异常反馈至FMEA分析中，使其成为一个动态更新的“活文档”。
国际原子能机构等组织正密切关注此领域进展，业界期待相关的国际安全指导文件能尽快出台。可以预见，构建适应人工智能特性的新型安全分析方法，将成为确保核能智能化行稳致远的核心工程实践。这不仅需要方法论上的创新，更依赖于培养兼具核工程与人工智能知识的复合型人才，并推动监管机构建立与之相适应的审评能力。
