过去十年,中国在人工智能研发方面取得了不可否认的成功。一些专家现在发现,与美国的努力 相比,中国在人工智能军事应用方面的优势越来越大。但人们担心,规范因素对中国军事人工智能应用的限制与美国和欧洲不同。此外,中国一个新兴的民用人工智能部门,与军事部门密切协作;事实上,中国的“军民融合”政策 被认为使中国比美国和欧洲更有优势,因为后者的社会运作原则是,在可能的情况下,这两个领 域应该保持独立,并对技术从一个领域转移到另一个领域进行控制。此外,西方的许多民用人工 智能工程师不愿意从事军事项目,这种不情愿被认为符合中国的利益。 与过去的军事变革不同,创新往往来自军工复合体,今天的民用IT部门站在技术变革的最前沿。 世界各地的军队都在竞相跟上创新的周期。虽然许多国家目前都在进行军民两用人工智能技术的研究,
但我们关注的是中国、美国和欧盟, 因为前两个国家已经成为开发这一技术的主要参与者,而后者正试图主导全球监管军民两用人工 智能的努力。这些发展的背景是对技术优势的持续竞争,这将对未来的军事力量平衡产生重大影 响。 中国打算将人工智能作为其制造高技术武器计划的一部分,这将对美国武装力量(特别是 在印度-太平洋)。军民两用技术的商业进步对国防部门有利,据一些人说,这些进步将允许中国 以确保战场上“大脑”的方式进行人工智能战争。在努力推动中国成为开发和生产新技术的 领导者的同时,正在努力规范该领域。2020年《出口管理法》出于国家安全和公共政策的考 虑,限制军工和军民两用产品及技术出口。具体技术领域包括:无人机信息处理技术——例如,个人交互数据算法;智能评分;和网络相关技术。
十多年来,美国国防部一直在研究人工智能的军事潜力。2018年,国防部启动了联合人工智能 中心,目的是在美国武装部队内部建立一个人工智能相关倡议的主要焦点。此外,2018 年,美国政府启动了引入新的贸易管制的监管程序,以防止中国和俄罗斯等行为体获得美国开 发的先进人工智能技术。然而,由于软件的无形性所带来的固有困难,进展一直很缓慢。欧盟强调人工智能是近期的主要战略重点。它在人工智能技术发展方面的战略主要面向制定道 德标准,并支持成员国和私营部门遵守这些标准,降低潜在的道德风险。欧盟还采取多项措施, 加强成员国对两用物项出口管制的协调和趋同,例如在2021年对敏感的两用技术出口管制采取 新规定。俄罗斯入侵乌克兰,以及随后欧盟和美国的制裁,有可能加大这场竞争的风险。除了中国可能用于军民两用人工智能技术之外,
欧盟和美国的政策制定者还需要考虑中国可能通过将硬件和软件 转让给俄罗斯的风险。人工智能的应用有可能以多种方式塑造未来的冲突,比如提高各国作战的速度。人工智能系统还 可能导致军事战略的变化,例如在某些决策方面取代人类。此外,人们认为两用技术领域的任何 进展都有可能造成“两用安全困境”。双重用途技术因此造成了另一层不确定性,因为人们无法 知道任何特定项目是出于民用目的还是军事目的而制造的。在当前中美对抗的背景下,围绕两国可能取得的任何进展的不确定性,都可能对战略力量平衡产 生影响。特别是,中国对两用人工智能能力的追求将继续助长美国许多政策圈的看法,在较小程 度上,在欧洲,中国打算利用这种技术来推进其外交目标。在当前地缘战略竞争的背景下,新兴的人工智能技术可能被 中国用于军事目的因此,美国和欧盟一直在采取措施,
此外,欧洲防御局提供了机器学习的定义,即:“通过从这些系统产 生的数据中学习来建模系统。”这个定义的关键元素是,它可以在没有外部程序员持续干预的情况 下发生,就像“无监督机器学习”一样。AI系统可以被视为包含与人类相关的几种不同角色。到目前为止,最常见的现代应用是人机合作或 用人工智能增强人类智能。这种使用将涉及人类在人工智能提供的信息支持下做出决策。在军事环 境中,这可能涉及到人工智能系统警告飞行员可能的威胁,并可能建议行动方案,但让飞行员选择 实际目标。第二个用途涉及人工智能系统的决策和行动,但由人类监督,并在需要时进行干预。一 个民用的例子是自动驾驶汽车,它被设计为由一个警觉的人类驾驶员驾驶。人工智能的第三种形式 涉及所谓的“完全自主系统”,这种系统在没有人类直接干预的情况下做出决定和行动。
大多数武器可以用于进攻或防守(也就是说,通常没有必要将武器归类为任何 一种)。作为一种工具,武器可以有多种形式,包括:一个物理对象或它们的集合;无形实体 (例如计算机病毒);或生物实体(例如,被设计用作武器的细菌)。一些武器由不同的单元组 成,这些单元在物理上是分开的,统称为武器系统。例如,一个防空系统可能由集成的导弹、雷 达和一个火控哨所组成,它们之间可能相距数公里。系统的每个部分都是按预期运行所必需的。武器属于更广泛的军事装备类别。此类设备专用于武装部队或安全部队,包括非武器但被其用 于军事用途的物品,例如防弹衣、雷达或安全通信。除了最基本的武器或军事装备以外,所有的武器或军事装备都是由零件组成的,个别组成部分本身
可能不是造成伤害或供军事部队使用的有用工具。例如,扳机是枪支的重要组成部分,但就其本 身而言,扳机是无害的金属片。武器装备的技术创新往往发生在组件以新颖的方式组合时,例如, 人工智能软件为微型无人机提供计算机视觉,这些机载平台安装无后坐力火炮,结果这些平台的 蜂群(本身由多智能体软件协调,使蜂群内通信)可以自主选择并向一组预定目标开火。正如这个 例子所显示的那样,这种武器的杀伤力和新颖性与其说来自于单独的组件,不如说是来自于它们 组合成一个特定的系统。两用物品是兼具民用和军用的物品。例如,欧盟在其法规中将双重用途定义为“可用于民用和军 事目的”的物品。这样的定义可能非常广泛。如果一个人足够努力地思考,就可以想象出任何物 品的军事用途;例如,粮食和水是一切军事力量的基本保障。
显然,有两种方法可以将一项物品归类为双重用途。首先,它可能从一开始就被设计用于民用 和军事用途。例如,可能已经研制出一种飞机发动机,用于规格相似的民用客机和军用飞机(例 如海上巡逻机)。从这个意义上说,双重用途是该技术的一个固有方面。其次,技术可能被用于不同于它最初发展的环境中。在某些情况下,纯军事技术可能扩散到民用应用,直到民用可能成 为最主要的使用形式。例如,雷达最初被发展用来探测敌机和海军舰艇。现代的用途要广泛得多, 雷达是民用船舶和飞机上必不可少的安全设备。雷达的类型包括在挪威、美国和欧盟的两用设备 清单中。背景上的第二个变化涉及最初为民用而设计,但后来发现具有重大军事用途的设备。例 如,在2019年,欧盟委员会成功地扩大了双重用途的定义,将民用公司已经开发的“网络监视技 术”包括在内。
本文中阐述的“双重用途”和“人工智能”这两个术语都是边界模糊的宽泛类别,其构成取决于使用 项目的环境以及技术的内在品质。例如,微芯片可用于许多不同的任务,其中之一可能是运行AI 软件。如果将模式识别算法用于识别和选择目标,它可能是武器的关键组成部分。但是,至少在 原则上,如果这种算法被用于医学,用于识别癌细胞,那么它可能最好被归类为两用产品。对人工智能军民两用技术进行分类和识别的困难,给中国、欧盟和美国的监管机构带来了深刻挑 战。在过去,受管制的货物通常是实物,其贸易可以由驻在港口的海关官员加以监测。双用途人 工智能技术给贸易控制带来了一些问题,因为该技术的关键方面是基于软件的。具体地说,这给 那些试图控制这些物品贸易的人带来了下列复杂情况:
• 该软件组件是无形的,因此很容易跨境转移,因此避免了海关官员和其他参与执行贸易 控制的人员的监控。• 人工智能软件可能需要数万或数十万行代码。因此,外部人员很难验证特定系统的能力。• 软件可以快速更新,因此最初的导出可能不是受控项目,但对部分软件的后续更新可 能会超过这个阈值。这是一个确保遵守法规的问题。阻止某些行为体获得人工智能技 术的企图更令人担忧。• 与其他程序一样,人工智能软件现在是作为服务提供的,而不是作为最终出口的独 立产品。人工智能服务可能被在许多不同国家运营的客户使用,因此很难控制谁使 用已开发的人工智能系统。通用人工智能程序随处可见,因此对通用软件的贸易控制很可能是无效的,如果它们 抑制了用于商业应用的出口,可能会损害美国、欧盟或中国的技术部门。
限制专门为 军事应用设计的人工智能软件的出口可能更可行(如果这能得到充分的定义和识别)。当它们管制一些两用物品的生产和贸易时(并在此过程中产生长长的两用物品清单),特别是可 用于武器或武器系统,包括核武器、化学武器和生物武器的材料(如铀)。