信通院-人工智能安全框架（2020年）.pdf

一、人工智能安全现状

(一)人工智能安全挑战

(二)人工智能风险地图

(三)人工智能安全技术现状

(四)人工智能安全框架缺失

二、人工智能安全框架

(一)设计思路

1.框架范围

2.设计原则

3.核心要素

(二)安全框架

(三)框架分析

1.安全目标

2.安全能力

3.安全技术

4.安全管理

三、人工智能安全技术实施

(一)业务安全

1.业务合规性评估

2.安全攻击检测

3.业务安全机制

4.恶意应用检测

(二)算法安全

1.算法鲁棒性增强

2.算法公平性保障

3.算法可解释性提升

4.算法知识产权保护

5.算法安全评测

(三)数据安全

1.数据隐私计算

2.数据追踪溯源

3.问题数据清洗

4.数据公平性增强

5.数据安全评测

(四)平台安全

1.漏洞挖掘修复

2.模型文件校验

3.框架平台安全部署

(五)安全技术图谱

四、人工智能重点应用安全防护实践

(一)自动驾驶安全防护

1.安全风险

2.安全防护

(二)智能信贷风控安全防护

1.安全风险

2.安全防护

(三)深度伪造应用安全防护

1.安全风险

2.安全防护