人工智能正在变革我们的世界。这套技术具有巨大的向善潜力，从开辟新的科学探索领域和优化能源网络，到改善公共卫生和农业，乃至促进在实现可持续发展目标方面取得更广泛的进展。
但若不予监管，人工智能的机遇可能就无法显现或得到公平分配。由于数字鸿沟不断扩大，可能只有少数国家、企业和个人能从人工智能中获益。错失利用机会，即由于缺乏信任或缺失推动因素(如能力差距和无效治理)而未能利用和分享人工智能的相关惠益，则可能会限制机遇空间。
人工智能还带来了其他风险。人工智能的偏见和监视伴随着新的担忧，例如大型语言模型的虚构(或“幻觉”)、人工智能增强的虚假信息生成和传播、对和平与安全的风险以及人工智能系统在气候危机时期的能耗。
快速、不透明和自主的人工智能系统对传统监管体系构成挑战，与此同时，这些日益强大的系统可能会颇覆工作领域。自主武器和人工智能在公共安全领域的使用引发了严重的法律、安全和人道主义问题.
目前，人工智能全球治理存在缺陷。尽管就伦理道德和原则开展了大量讨论，但各种零散的规范和机构仍处于起步阶段，而且充满漏洞。问责制的缺失常常引人注目，包括在部署影响他人且不可解释的人工智能系统方面。合规往往基于自愿；言行前后矛盾。
正如我们在中期报告中指出的，人工智能治理不仅对于应对挑战和风险极为关键，而且对于确保在利用人工智能潜力的同时确保不让任何一个人掉队至关重要。
全球治理的必要性
全球治理的必要性尤其无可辩驳。从关键矿物到训练数据，人工智能的各种原材料都源自世界各地。跨境部署的通用人工智能在全球催生了众多应用人工智能加速发展，引发了全球范围内权力和财富的聚集效应，并产生了地缘政治和地缘经济影响。
此外，目前没有人充分了解人工智能的所有内部运作，因而无法完全控制输出内容，或预测其演变过程。决策者也不会因为开发、部署或使用他们所不理解的系统而被追究责任。与此同时，这些决策可能会产生全球性的负面溢出效应和下游影响。
这种技术的开发、部署和使用不能仅由市场随意决定。各国政府和区域组织将发挥关键作用，但鉴于该技术本身在结构和应用方面的跨境性质，必须采取全球性办法。治理也可成为推动人工智能创新促进全球实现可持续发展目标的关键因素。
因此，人工智能的挑战和机遇并存，需要采取统筹兼顾的全球性办法，涵盖政治、经济、社会、
伦理、人权、技术、环境等各个领域。这种办法可将不断演变的零散举措汇聚成以国际法和可持续发展目标为基础、连贯一致、可互操作的整体，并随具体情况和时间推移不断作出调整。
-我们在中期报告中概述了建立新的国际人工智能治理机构的指导原则²。这些原则承认，人工智能治理并不在真空状态下进行，国际法尤其是国际人权法适用于人工智能领域。
本文来自知之小站
PDF报告已分享至知识星球，微信扫码加入立享3万+精选资料，年更新1万+精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
