首发 | 人工智能技术的军事应用边界研究

Original 薛颖、房超军事高科技在线

2024-09-16

文字来源《国防科技》2021年第42卷第4期

引用本文：薛颖,房超.人工智能技术的军事应用边界研究[J].国防科技,2021,42（4）.

[摘要] 与国际上其他军事强国相比，我国军事智能化发展还处于起步和探索阶段。当前军事智能化发展呈现出技术增长点随机发散与关键技术领域不聚焦等特征，阻碍了人工智能技术在军事领域的应用。人工智能技术在军事应用中应本着“有所为有所不为”的原则。为了增强对“为军所用”人工智能核心技术的评价能力，推动高需求匹配度的核心技术发展，本文对军事智能化的边界问题进行了探索研究，通过将军事智能“五性”与现有武器装备“六性”和作战试验与鉴定相结合，并基于“封闭性”准则，提出了将“军事智能化”这一开放性问题进行边界收敛，以促进军事智能技术创新发展呈现收敛状态并逐步形成有序的体系。

[关键词] 军事智能化；封闭性；武器装备“六性”；武器装备作战试验与鉴定

一

引言

随着机器学习、数据库、自然语言处理等核心技术的快速发展，人工智能技术发展迎来第三次热潮。技术应用已经进入到教育、金融服务、医疗、汽车、运输和物流、通信、娱乐、能源及制造业等主要商业和经济领域，并且显示出极大的应用价值和潜力。当前在信息化战争时代，人工智能技术已经在军事领域的网络空间安全、自动目标识别、情报分析与理解、自动规划与人力配置以及文件智能管理等方面发挥了巨大作用[1]。

市场经济条件下，经济效益是技术发展的一项重要推动力，对高经济效益的追逐是企业得以长足稳定发展的可靠保障，技术创新能力也是企业经济效益提升的关键所在[2]。2019年，中国人工智能赋能实体经济产业规模接近570亿元[3]。由此可见，人工智能技术在民用市场会产生极大的经济效益并保持高速发展势头，这将会导致其在民用市场的技术迭代快于军用市场，企业的资本投入也会更多倾向于民用技术创新。在我国，人工智能技术在军民应用市场已然呈现出“民用优于军用”的发展态势。在这种情况下，“技术尝试应用于场景”是军事智能技术创新发展的主要模式。当前的军事智能技术创新也已显现出技术增长点随机发散和重点技术领域不聚焦的特征。未来军事智能技术创新持续发展必须是系统性、高可用性、高可靠性和高可信性的，因此，尽快对其设定清晰的评价指标，建立完善性能评价体系，探索人工智能技术的军事应用边界，使其在一定范围内收敛有序发展，就显得尤为重要。

二

人工智能技术的不完备性与军事智能化的发展定位

1931年，哥德尔提出“哥德尔不完备定理”。定理一的表述为“任何一个相容的公理体系，必定是不完备的，其中一定有真命题，但不能被证明。”也就是说，任何一个逻辑自洽的体系，本身都具有不完备性。目前，人工智能算法领域的技术（包括深度学习、卷积神经网络等）主要还依赖于数学原理，如图1所示，因此，根据“不完备定理”，人工智能核心技术在一定范围内的逻辑一定是自洽的，同时也一定是不完备的。

图1 人工智能关键技术与数学基础的对应关系

从这个角度讲，现有人工智能技术体系的基础决定了其一定存在边界限定，技术创新发展也一定存在无能为力的技术空间，就如同数学并不能反映人类全部的思维，以数学为基础的人工智能技术也不能完全模拟人类智能。以当前机器学习中最成功、影响最大的两种经典思维“基于模型的暴力法”与“基于元模型的训练法”为例[4]，这两种方法集中体现了“以数学原理为基础的机器思维”的本质，但它们也都存在明显的“脆弱性”，并不能解决全部问题[5]。由此可见，人工智能技术本身的不完备性，也会造成其在军事场景应用中必然存在“可用不可用和好用不好用”的情况。

军事智能化主要指的是依托于人工智能的技术研究，与军事需求进行匹配，进而能够开发出符合国防战略需求、具有特殊性能的智能化军事产品的过程。美国是率先把人工智能应用于军事的国家，1972年的“灵巧炸弹”炸毁越南清化大桥事件，是战争迈入智能化时代的开端[6]。海湾战争后，智能化军事应用迎来快速发展，其中一个典型案例就是精密制导武器的发展，以色列研制出的“哈比”反辐射导弹能够在目标区上空滞空飞行、自动识别、锁定并攻击雷达目标。美国、日本以及欧洲国家已经认识到人工智能技术在军事领域应用的重要价值，正在积极部署规划和推动发展人工智能技术在各国军事领域的应用，并已经出现如智能机器人、智能C31系统、智能飞机、智能导弹及智能电子战系统等典型应用。但是，当前智能化军事应用还处于起步和探索阶段。

从人工智能基础层、技术层和应用层的三层次产业结构看，军事智能化发展核心思想应该聚焦于“用”，以新质军事能力建设为内核，以推动人工智能产业基础层和技术层协调发展为手段，形成军事智能创新发展闭环系统。“以智取胜”是新时代国防建设的核心思想，是军事智能化的顶层战略设计[7-8]。如何保证人工智能技术在军事场景中的“适用性和有效性”，实现“以智取胜”的重大战略使命，是进行人工智能技术军事应用边界探索的首要目标。首要任务是探索和研究可以区分人工智能技术在军事应用中的“可用不可用”和“好用不好用”的边界限制条件。

人工智能的核心算法基于数学基础，前文提到的“暴力法”就继承了公式化逻辑、数学分析、概率论和有限理性决策论等传统数学思维，“训练法”则遵从数据拟合原理[9]。综上所述，基于数学原理发展的人工智能技术不可能完全取代不完全依赖于数学原理的人类智能。如图2所示，在基于数学原理开展的人工智能研究中，有一部分是可以替代人类智能的（图2中的A部分）。这里需要说明的是，对于特定技术而言，如果它能够与人类智能水平持平甚至超越人类智能水平，我们就认为该技术是可以“替代”人类智能的。如在自然语言处理技术领域，在2019年5月4日举行的斯坦福大学会话问答（CoQA）挑战赛中，微软AI的会话能力以大优势战胜人类，表明这种人工智能技术可以在特定领域“替代”人类智能。另外还有一部分是在现有数学体系框架下，可以证明是不可能替代人类智能的（图2中的B部分）。以智能化皮肤病诊断系统为例，当其内部模型足够好时，输入任何皮肤病信息都可以给出正确诊断；但当对输入不属于皮肤病的内容进行诊断时，就超出了系统确定性模型的涵盖范围，从而产生错误结果[9]。使人工智能在这一问题上“替代”人类智能，既难以实现又没有必要。最后还有一部分是目前暂时还不能通过数学体系证明是否可以用于替代人类智能的（图2中未被白色覆盖的黑色部分）。基于上述情况，可以认为，在军事应用中真正可用的人工智能技术是图2中的A部分，并且其中只有一部分（图2A中阴影部分）是真正可以用于提升军事力量的人工智能技术（如提高装备效率、提高装备精准性等）。因此，在人工智能技术的军事应用研究中，必须要对其边界进行明确，从而得到军事智能化的准确发展定位。

图2 人工智能应用边界

三

“封闭性”准则在军事人工智能中的运用

在技术应用理论中，“封闭性”准则一般是指技术必须应用在一个限定的范围内，它侧重的应用范围有限制，存在一定的外围框架边界。技术创新发展初期一般都偏向于探索性问题研究，特征通常相对自由、开放，没有规定路径。随着技术创新发展特别是当技术匹配应用需求后，应用产品研发就倾向于工程性问题，这类问题具有目标性和方向性，通常认为属于封闭性问题。因此，对人工智能技术在军事应用的边界探索研究可以看成是将人工智能技术创新发展的开放性问题转化为研制军事战争未来战场中高需求匹配度军事智能化产品的封闭性问题。在探索人工智能技术军事应用的边界问题上，要考虑以下具体的边界设定基准。

基准一：人工智能技术的物化装备产品是该技术的必要载体。技术一般是通过应用产品体现其社会性和经济性，国防领域也不例外。尽管人工智能技术的物化装备产品往往是核心技术与辅助技术的系统化结合的产物，涉及到的技术范围更广，但它往往是将技术封闭化的必要集合，甚至在很多转换用装备中，它是最小集合。从这个意义上讲，人工智能技术的物化装备为该技术的封闭性提供了一种实在和必要的载体。

基准二：人工智能技术的物化装备产品必须是可检测质量以及可鉴定性能的。武器装备研制与生产必须进行质量监控，质量监控用于评估产品是否达到作战性能规定的要求，主要是看是否达到“六性”的指标要求[10]。除去用武器装备“六性”作为质量检测标准外，武器作战试验与鉴定也是检验装备能否成功执行作战任务能力的重要手段，它有利于摸清效能底数，提前暴露问题，为装备研制改进和组织运用提供重要参考，为提高交付质量、充分发挥作战效能、加快体系作战能力提供有力支撑[11]。因此，通过质量检测与试验鉴定这两个标准体系对人工智能技术物化装备进行限制，可以显著增强军事智能技术的“封闭性”。

第一条基准是军事智能化最基本的基础，一切脱离装备的军事智能化都具有极大的不确定性；第二条基准为细化军事智能化边界提供了具体可行的探索路径。需要强调的是，这里的“装备产品”既包括广义的军事装备，又包括狭义的武器装备。军事装备是指用于武装力量建设、作战和其他军事行动的各种装备，包括训练装备、后勤装备、文化装备和试验装备等；武器装备是指实施和保障军事行动的武器、武器系统和军事技术器材等，从属于军事装备，是军事装备最重要的组成部分[12]。这些都是人工智能应用于军事的实在载体。

四

军事智能化边界界定的方法

以武器装备“六性”引导边界探索

武器装备“六性”指的是可靠性、维修性、保障性、测试性、安全性和环境适应性。可靠性是装备在规定条件范围和时间内完成规定功能的能力；维修性是装备在规定条件范围和时间内，按规定功能的程序和方法进行维修时，可以保持和恢复到规定状态的能力；测试性是装备能及时准确确定其状态，隔离内部故障的能力；保障性是装备设计特性和计划的保障资源能满足平时战备和战时使用要求的能力；安全性是装备在生产、运输、储存和使用中不会导致人员伤亡，不会危害健康及环境，不会给设备或财产造成破坏损坏的能力[13]；环境适应性是装备在其全寿命周期，在预计可能遇到的各种环境作用下，能实现所有预定功能和性能和（或）不被破坏的能力[14]。

“六性”是保证装备性能有效发挥的一组通用性非功能性指标，对装备的作战和生存能力、部署机动性和维修保障费用会产生重要影响[10]。目前，以“六性”为评价指标的非智能化武器装备设计制造质量管理体系已相对较成熟，对于每一类或每一台成熟的非智能化武器装备的生产，都可以认为“六性”已形成相对固化通用的指标。正因为如此，当人工智能技术赋能于军事装备后，“六性”的评价体系会将军事智能技术的边界限定在哪里，“六性”的评价指标体系是否还能有效推动军事智能产品的质量评估和监控，就成为需要思考探索的方向。当前，人工智能技术的发展本身就存在可解释性弱、鲁棒性差和安全性差等不足，其应用于军事场景后产生的军事智能技术要求满足边界不确定性、博弈强对抗性、响应高实时性、环境高复杂性和信息不完整性（即军事智能“五性”）[15]，这些特性会对武器装备“六性”提出新的挑战。

以多传感器数据融合技术的军事应用为例。多传感器数据融合是利用各类传感器收集的信息进行分析、处理、综合、决策，成为数据处理的新分支[16]。应用多传感器数据融合技术的武器装备，其“六性”指标中的可靠性和环境适应性将会对技术的使用范围起到主要限定作用。从可靠性上讲，多传感器数据融合系统中各类信息源提供的环境信息具有一定的不确定性，同时，这些不确定信息的融合过程也是具有不确定性的推理过程[17]。这种不确定性的叠加使得技术本身的可靠性就存在很大挑战，因此，应用此类技术的武器装备如要保证现有可靠性指标不变，就需要对技术的范围进行调整，如降低传感器的使用维度，包括种类、个数等。从环境适应性上讲，多传感器数据融合技术常应用于作战平台环境感知。作战平台一般分为空中、水下和地面三类，空中平台和水下平台环境相对简单统一，地面平台环境复杂多变且存在未知障碍。应用于地面平台环境感知的多传感器融合技术将面临工作环境的不确定性，极易出现观测数据包含噪声成分，传输过程存在各种干扰的问题。因此，应用多传感数据融合技术的武器装备如要保证现有环境适应性指标不变，就需要对其技术范围进行限定，例如寻找优化的数据融合方法、采用更合理的处理器结构等。通过上述分析可以看出，在保持可靠性和环境适应性指标不变的情况下，应用多传感器数据融合技术对武器装备进行升级改造，并不是可以无限制进行的，需要在满足指标要求的合理范围内实现其技术应用。

再以无人机集群技术的军事应用为例。无人机集群是指由一定数量的同类或异类无人机组成，利用信息交互与反馈、激励与响应，通过相互间实现行为协调，适应动态环境，从而共同完成特定任务的自主式空中智能系统[18]。无人机自主集群系统是无人机领域研究的一个重要方向，无人机集群技术重点关注群组、共享和协同。将无人机集群技术应用于武器装备，如遂行护卫、侦察、打击、毁伤判定、目标追踪和精准打击等任务时，这类武器装备“六性”指标中的测试性和维修性将会对技术的使用范围起到主要限定作用。从测试性上看，集群装备是一个整体，样本选取会成为关注的重点，是选取单个样机还是选取多个样机进行测试评价，如选取多个样机，如何设定样机的个数标准，从而保证其对整体性能评价的权威性。另外，在集群装备中对产生故障的个体进行迅速定位也对测试性提出了新的挑战。从维修性上看，集群装备重点强调装备间的共享协同，这就增加了此类装备的维护难度。例如，在集群系统中，如何保证在单机维护过程中对集群中的其他个体不会造成影响。2015年，美国海军研究办公室启动的LOCUST项目，就对类似技术进行了限定，提出“即使某架无人机因自身故障而掉队，集群的作战能值也不会受到影响”的要求[19]。通过上述分析可以看出，在保持测试性和维修性指标不变的情况下，应用无人机集群技术对武器装备进行升级改造，也并非可以无限制进行的，需要在满足指标要求的合理范围内实现技术应用。

智能技术的军事应用呈现多样化，导致不同应用场景下“六性”指标在武器装备质量判定的权重比例存在差异，因此，必须要分析清楚智能技术赋能于武器装备后所具有的典型特性。从典型特性出发，对“六性”指标体系进行权重分级，再通过合理制定相应指标，从而完成对军事智能武器装备的质量评估，实现智能技术在军事应用中的边界可用性。

以武器装备作战试验与鉴定引导边界探索

武器装备作战试验与鉴定是指在武器装备的全寿命周期中，试验鉴定机构为确定其作战适用性和效能，根据训练与作战任务要求，通过构建近似于实战的试验环境，并运用多种试验方法手段对武器装备进行试验评估的过程[20]。效能指标、适用性指标及其定性要求构成武器装备作战试验与鉴定的指标体系。其中，效能包括单项效能和作战效能；适应性包括环境适应性、使用适应性和保障适应性[13]。

武器装备作战试验与鉴定用于确定武器、装备或弹药在战斗中的有效性和适用性[21]。当前，智能化军事应用会对武器装备的有效性和适用性提出新的挑战。在现有作战试验与鉴定体系下，我们要思考如何建立军事智能武器装备的作战效能和作战适用性的评估体系，从而引导产生可靠的军事智能技术边界。

以人机协同技术的军事应用为例。人机协同系统中存在信任感和理解不一致的问题，通过作战试验与鉴定可以确定系统的自主层级和人机编组效能。一方面，人机协同系统中，作战人员要放权给自主系统进行自主决策和行动，但系统内在智能模型的低观测性和低理解性会导致人员难以完全信任系统，这对矛盾必然就会束缚人机协同编组的作战效能。因此，通过作战试验与鉴定科学权衡系统的自主层级，就可以既不降低系统的作战效能，又不会因信任感而影响系统的作战适用性。另一方面，当前人工智能框架下的自主系统与人类的认知模式和思维方式还存在较大差异，会导致对威胁态势和作战目标的理解不一致，这时，就要通过武器装备作战试验与鉴定深度考核人机认知层次的编组效能。上述两种情况中，要将结果和作战需求进行对比评估，判断武器装备是否可以满足作战要求，如不满足，则要对技术进行调整。从这个角度讲，系统自主层级和人机编组的效能评估指标可以对技术起到边界收敛的作用。

再以群体智能技术的军事应用为例。群体智能涌现出的社会行为将会带来面向复杂性科学的武器装备作战试验与鉴定问题。无人自主系统发展到异构无人自主集群时，集群中个体间的自组织和自同步会催生合作、竞争、学习等社会行为的大量涌现，这些行为对无人自主集群的作战效能和生存力有着极大的影响，最终将影响集群的整体作战力量。目前，建立在信息论、控制论、计算机和机械工程等基础上的武器装备作战试验与鉴定体系难以有效评估具有复杂性科学的群体智能社会行为及其衍生的作战能力[22]。如不尝试升级武器装备作战试验与鉴定方法，完善试验与鉴定指标体系，有限的试验与鉴定能力会对群体智能技术的军事应用起到边界限制的作用，也会限制群体智能技术在军事应用中的广泛发展。

武器装备要在战场环境中高效发挥作用，这是它的唯一使命。智能技术赋能于武器装备后，其本身具有的“五性”将增加武器装备作战试验与鉴定的测试难度，因此，就要进一步对武器装备作战试验与鉴定体系进行评估调整。合理制定评估指标，使智能技术在军事领域的应用保持在有效合理的边界限定内，进而保证智能武器装备的有效性和适用性。

五

结语

未来军事战争的竞争主要是以新质军事能力生成为总体要求，以“智胜科技力”体系建设为主线，这就要求军事智能化技术创新发展必须呈现有序性和方向性。在这种情况下，为推动具有高军事需求匹配度的人工智能核心技术发展，本文通过借鉴将开放性问题封闭化的方法，对人工智能技术的军事应用边界进行探讨，以军事智能化产品为核心，结合武器装备“六性”和武器装备作战试验与鉴定两个评价体系，开展人工智能技术军事应用边界研究。智能技术的军事应用并不是可以无限制进行的，必须在“六性”和试验与鉴定的指标限定下，在满足指标要求的合理范围内实现技术应用，并且对于不同的技术应用，各类指标对技术创新发展的影响程度也是不同的。

参考文献

[1] 蔡华悦, 未志元. 人工智能在各军事强国的发展[J]. 国防科技, 2017, 38(5): 7-11.

[2] 赵耀新. 技术创新能力与企业经济效益的关系研究[C]//北京中外软信息技术研究院. 第四届世纪之星创新教育论坛论文集. 北京: 北京中外软信息技术研究院, 2016: 592.

[3] 艾瑞咨询. 2019中国人工智能产业研究报告[R/OL]. [2020-08-19]. https://www.iresearch.com.cn/Detail/report? id=3396&isfree=0.

[4] 陈小平. 封闭性场景: 人工智能的产业化路径[J]. 文化纵横, 2020(1): 34-42.

[5] 马兆远. 人工智能之不能[M]. 北京: 中信出版集团, 2020: 187-253.

[6] 蔡亚梅. 人工智能在军事领域中的应及其发展[J]. 智能物联技术, 2018, 1(3): 41-48.

[7] 徐源, 房超, 周羽. 从“军事智能化”到“以智取胜”: 内涵、机理及其技术实现[J]. 国防科技, 2019, 39(6): 67-71.

[8] 房超, 黄仲文, 牛惠敏. “智胜科技力”理论体系探究: 关于军事智能化发展的思考[J]. 国防, 2020(5): 19-24.

[9] 陈小平. 人工智能的历史进步、目标定位和思维演化[J]. 开放时代, 2018(6): 31-49.

[10] 沈军, 徐翔, 李健, 等. 关于装备“六性”问题的几点思考[J]. 航空维修与工程, 2015(10): 50-53.

[11] 贾哲, 王锐华, 马贤明. 数据链装备作战试验评估指标体系[J]. 指挥与控制学报, 2020, 6(1): 21-27.