这是首份《先进人工智能安全国际科学报告》。继2024年5月发布中期报告后，来自30个国家提名的国际专家顾问小组、经济合作与发展组织(OECD)、欧盟(EU)和联合国(UN)的96位人工智能
(Al)专家组共同参与完成了这份首份完整报告。该报告旨在提供科学信息，以支持明智的政策制定，但并不提出具体的政策建议。
本报告是独立专家的工作成果。本报告由独立专家在主席的指导下完成，专家组对报告内容拥有完全的决定权。
虽然本报告关注的是人工智能风险和人工智能安全，但人工智能也为人类、企业和社会带来了许多潜在的益处。人工智能有很多种类型，每种类型都有不同的益处和风险。多数情况下，在大多数应用中，人工智能可以帮助个人和组织提高效率。但只有妥善管理其风险，世界各地的人们才能安全地、充分地享受人工智能的诸多潜在益处。本报告重点在于识别这些风险，并评估降低风险的方法。它并不旨在全面评估人工智能可能对社会产生的所有影响，包括其众多潜在益处。
本报告重点关注通用型人工智能。报告将重点放在近年来发展尤为迅速且相关风险研究和理解相对较少的一类人工智能上，即通用型人工智能，也就是能够执行多种任务的人工智能。本报告的分析聚焦于撰写时最先进的通用型人工智能系统，以及未来可能更强大的系统。
本报告总结了三个核心问题的科学证据：通用型人工智能能做什么?通用型人工智能存在哪些风险?针对这些风险有哪些缓解技术?
事关重大。作为本报告的撰稿专家，我们在有关通用型人工智能的能力、风险和风险缓解措施等方面仍存在诸多分歧，无论大小。但我们认为本报告对于增强我们对这项技术及其潜在风险的集体理解至关重要。我们希望这份报告能够帮助国际社会就通用型人工智能达成更广泛的共识，更有效地缓解其风险，从而让人们能够安全地享受其众多潜在益处。我们期待着继续这项努力。
本文来自知之小站
PDF报告已分享至知识星球，微信扫码加入立享3万+精选资料，年更新1万+精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
