来源丨世界经济论坛

作者丨翟丽影 刘瑾

本文为世界经济论坛《未来系列:网络安全、新兴技术与系统性风险》报告的上篇，在世界基于互联网联系得日益紧密的今天，报告重点介绍了新兴技术环境中固有的隐性和系统性风险所带来的日益严重的威胁，以呼吁国际社会和业界重视并采取措施保障网络安全。

网络空间正在发生变化

未来，我们将看到一个以各种技术为基础的网络空间，这些技术共同搭建出一个创新平台，其结构、组件、关系和流程都在不断发生变化，以支持新兴的想法、服务和商业需求。网络空间的潜在动态正在发生变化：

新技术将带来的新机遇，为应对未来全球风险提供可能。

四项变革性技术：

新技术给世界带来的新机遇：

关键系统性风险和挑战

网络空间的新兴动力正在加强网络中各个组织的相互依存及其对数字环境的依赖，因此，网络空间中潜藏着多种可能造成系统性风险的威胁。

保护数字生态系统的五个新挑战

伴随组织相互依赖程度的加深，广泛的数字生态系统的恢复力和安全性开始对组织和社会至关重要。某一组织或地区的网络韧性和安全将影响到其他组合或地区，并给双方带来严重的危害。目前，数字生态系统正面临着以下5项挑战：

• 维护网络安全能力匮乏
  

除非加速网络安全教育和培训，否则许多劳动力将不会拥有可以应对网络风险的意识和能力。

• 技术和政策的碎片化
  

公共政策原则和相关技术标准的制定存在分歧，地缘政治和贸易保护主义使全球数字生态的治理被划为个个孤岛。

• 现有维护安全的技术和能力并不适用
  

现有的操作能力和技术不足以应对新兴风险，例如对网络犯罪的侦测、破坏和威慑等，因此必须提高网络防御的自动化水平，提高互操作性，为应对新兴威胁提供支持。

• 对安全地开发新兴技术的支持和投资不足
  

安全性能并未被视为技术创新中的重要组成部分，如果没有适当的激励措施来防止这种情况发生，将可能会带来恶意威胁的风险，并面临着日后昂贵的技术更新成本。

• 问责模糊
  

依赖的加深可能带来责任不明晰的后果。风险转移(例如通过合同或技术E&O[过失和遗漏]保险)不能覆盖横向风险的全部范围。

人工智能

AI的简介与应用

随着AI（Artificial Intelligence,人工智能）技术在经济领域内的应用快速发展，全球AI技术竞赛也正愈演愈烈。AI旨在建立一个推理系统：让科技可以执行通常需要人类智慧（如决策、视觉感知、语言认知、环境适应力等）的任务。强AI（“strong AI”）能够在没有指令时像人一样“思考”，从而能够在推理任务中创造优势；弱AI（“narrow AI”）则只专注于特定任务中的特定应用，这也是目前主要的AI。

目前，全球多个国家都在对AI研发进行大量投资，尤其是在机器学习技术的应用方面。2019年全球AI研发支出约为375亿美元，预计到2023年将达到979亿美元，其中中国和美国将占主导地位。预计在未来的5-10年内，AI技术将扮演越来越关键的角色。

网络攻击者和防守者

近年来，网络攻击者和防守者都在加紧部署AI，很难说哪一方更具有优势。从长远来看，攻击者可能会发起更多全新的攻击。那么防守者又该如何应对呢？

攻击者方面，通过使攻击或攻击组件自动化，攻击者利用AI能够加快并扩大其行动；同时，随着自动化对专业知识需求的减少，AI带来的威胁可能也会增加；攻击者通过“深度学习分析”来预测攻击范围，了解被攻击者的防御方法，从而实现更精确的攻击；此外，攻击者利用AI可成功“隐身”，从而逃避检测和查杀。

防守者方面，尽管AI为攻击者创造了明显价值，但同时也提高了网络防御的速度、准确性、影响力以及韧性。目前，AI防御正在研究和开发中，它能够辅助分析人员执行增强与自动化任务。以上应用已越来越多地融入网络安全生态系统中的防御响应中，到2027年，AI在网络安全中的全球价值预计将达到460亿美元。

挑战与威胁

1. 攻击范围扩大并操纵算法

AI系统正迅速成为大型企业重要资产的一部分，其执行的关键功能越来越多，而人员监督却越来越少，这使得攻击者利用AI造成的攻击规模和严重性大大增加。另外，攻击者利用AI 改变算法和数据的完整性以操纵或破坏组织的流程以及社会所依赖的基础设施。不仅如此，攻击者还能够利用AI从窃取的数据中获取更多价值，并通过AI改进网络攻击模式，制造更多伤害。

2. 深度伪造问题

由数字操控的视频、图像和音频（Deepfake，深度伪造）变得越来越复杂，也越来越普遍，“真相”随之变得越来越模糊。一些针对性强的虚假新闻和可操控的信息扭曲了公众对事实真相的认知，甚至会带来政治和经济结果的改变。深度伪造，已经成为新的网络攻击媒介。

应对措施

免责声明：本文根据报告 “Future Series: Cybersecurity, emerging technology and systemic risk” 编译，原作者Sadie Creese等。文章内容系原作者个人观点，如有任何异议，欢迎联系我们！

作者简介

刘瑾 国务院发展研究中心国际技术经济研究所数据部，研究助理

联系方式：liujin@drciite.org

翟丽影 国务院发展研究中心国际技术经济研究所数据部，研究助理

联系方式：zhaily@drciite.org