白皮书关于对网络安全领域可解释人工智能的全面调查.pdf

1.引言
人工智能已成为实现全球各行业可持续性目标的关键技术。其应用在日常场景中显而易见，如医疗保健、农业、教育、金融服务、面部识别、欺诈检测、零售购买预测、导航、在线客户支持以及许多其他领域。
由于人工智能的广泛影响，众多国际和国家级别的倡议已被启动，旨在应对其发展和监管。然而，人工智能是一把双刃剑，在网络安全领域既是变革者，也是潜在风险。
人工智能在网络安全中提升了对威胁的识别和响应，无需人工干预。然而，人工智能在各领域关键应用中的广泛应用使得Al模型容易受到攻击。因此，保护Al系统和确保数据安全和用户隐私是至关重要的。
1.1背景□i Motiva□ie
认识到人工智能在网络安全中的重要性以及确保人工智能系统的必要性，印度政府首席科学顾问办公室(PSA)通过SETS发布了题为“CybSec4AI”的课题组报告。该报告强调了人工智能和网络安全交叉学科中必要的研发倡议，以及专业技能的培养。目标是实现开发基于人工智能/机器学习(Al/ML)的工具和系统在网络安全方面的自给自足，同时创建安全的人工智能/机器学习系统和解决方案。
该工作组审议了在人工智能和网络安全等跨学科领域启动研发方案的需要，这些方案将导致系统发展、解决方案和产品的产生。同时，还提出了为数据创建、模拟和测试设施所需的研发基础设施。
人力资源需求已确定，以应对该新兴领域中工程师和科学家不断增长的需求，并提出了加速技能建设的方案。
根据麦肯锡全球人工智能(Al)2021调查，由于人工智能对盈利能力和成本节约的日益显著影响，越来越多的组织正在采用人工智能能力[1]。
可解释人工智能(XAl)1帮助人类用户理解、解释和信任由Al模型做出的预测。通过提供Al模型决策的依据，XAI确保决策过程的透明性。这种提高的透明度使用户对结果更加有信心，并促进信任的形成。