信通院-人工智能治理白皮书.pdf

一、人工智能开辟治理新需要

（一）人工智能时代的兴起   

1. 人工智能驱动新一轮科技革命 

2. 人工智能打造经济发展新引擎 

3. 人工智能显著提升社会生活质量

（二）人工智能的技术特性   

1. 通用目的性，导致风险更为普遍  

2. 算法黑箱性，导致过程更难解释  

3. 数据依赖性，导致结果更不可控 

（三）人工智能引发不同维度的风险

1. 社会维度：影响社会稳定  

2. 企业维度：加大合规难度  

3. 个人维度：侵犯基本权益

（四）人工智能治理的新挑战

1. 治理专业化的需要  

2. 治理多元化的需要  

3. 治理敏捷化的需要  

4. 治理全球化的需要  

二、全球构建人工智能治理机制

（一）治理目标：坚持科技造福人类，平衡创新发展与有效治理

1. 不断释放人工智能带来的技术红利和价值   

2. 精准防范并应对人工智能可能带来的风险   

（二）治理模式：打造多元主体参与、协同共治的模式  

1. 国家政府是执行治理规则的核心主体

2. 政府间国际组织是引导治理方向的重要力量

3. 行业组织是协调多方治理的积极推动者 

4. 企业是践行行业自律自治的中坚力量

5. 公众是监督治理效果的重要参与者

（三）治理手段：实施多层次、多样化的治理举措

1. 伦理约束

2. 技术应对

3. 规范立法

三、以伦理为导向的社会规范体系

（一）国际层面：开始制定全球性伦理倡议

（二）国家层面：各国伦理关注点各有侧重

1. 美国借助伦理规范保障国家安全

2. 欧盟推广可信人工智能伦理框架

3. 德国率先提出自动驾驶伦理准则

4. 中国倡导发展负责任的人工智能

（三）企业层面：践行伦理的自我规制之道

1. 制定企业伦理原则

2. 开展内部机构建设

3. 构建企业实践机制

（四）总结：人工智能伦理规制从伦理原则走向伦理体系

1. 第一阶段—已形成共识性伦理原则

2. 第二阶段—逐步探索伦理体系构建

四、以法律为保障的风险防控体系

（一）全球人工智能立法整体趋势

1. 数据和算法规制成为人工智能立法的首要命题

2. 人工智能立法渐趋理性，更尊重技术规律和法律安定性

3. 普遍体现以风险为导向的分级分类治理思路

（二）人工智能的场景化规制

1. 助力自动驾驶落地

2. 防止深度伪造滥用

3. 规范智能金融产品

4. 促进智能医疗发展

五、人工智能治理展望

（一）坚持包容、弹性的治理理念

（二）构建不同阶段的治理路径

1. 近期应加快制定产品和服务标准，利用“数据治理”推动人工智能治理问题的解决

2. 中远期应调整责任法律制度，实现法律与伦理相衔接

（三）打造多元共治的治理机制