人工智能会对战略产生何种影响？
导读：随着各国不断加快人工智能军事化应用，人工智能技术对人类战略活动产生深刻影响已成必然。人工智能在战略活动中的表现与其创造者有何不同？它在军事领域的广泛应用会带来哪些战略影响？未来人类会不会面对来自人工智能的挑战，我们有可能获胜吗？本文原载于《战略研究杂志》（Journal of Strategic Studies）2016年第39卷（DOI:10.1080/01402390.2015.1088838），作者是卡里姆·阿友布（Kareem Ayoub）与肯尼思·佩恩（Kenneth Payne）。文章将人工智能分为模块化人工智能（Modular AI）和通用人工智能（General AI）两类，先从分析人类心理主导下的战略活动特点入手，结合模块化人工智能当下的军事应用探讨了其对人类战略活动的影响方式，最后对未来人类如何与通用人工智能在竞争中共存作出思考，具有较大参考价值，故将其主要内容编译如下，以飨读者。
人类与人工智能在战略活动中的表现存在明显差异
1
战略活动是一种高级智力活动，自该词诞生之日起就与人类最剧烈的冲突形式——战争息息相关。作者综合休·斯特拉坎（Hew Strachan）与劳伦斯·弗里德曼（Lawrence Freedman）关于战略的观点，将战略定义为狭义上与战争相关的谋略，即与代表一个群体的、有组织的暴力有关的决策。其内容主要包括确定目标、风险判断和战略决策。过去，战略活动更多是人类的专属活动，它借助人类的创造力和想象力，并由人类社会所塑造。但当人工智能参与到战略活动中，由人工智能制定的战略可能会与人类大不相同。这种差异性主要体现在：
（1）战略动机更纯粹。进化心理学将人类许多战略目标归因于基因的自然选择，这意味着战略动机通常包括了对食物、性、安全和地位的追求。另外，群体规范影响着战略动机，战略活动的出发点与所处的文化环境有着紧密联系。而人工智能则很少受到生物动机和来自特定文化身份的社会心理约束，这可能意味着人工智能的战略动机更为纯粹。
（2）战略目标确立难。人类战略家追求的目标通常是动态的，它们可能随着时间的推移而改变，以应对出现的新情况和新机会。此外，战略家追求的目标可能很难衡量。例如，人类重视“声誉”和“公信力”，也可能寻求“威慑”或“胁迫”，但这些都是心理和主观现象。显然，目前人工智能在衡量这些主观经验和动态目标方面能力不足。
（3）风险判断更靠谱。偏见和武断是人类战略家通常容易犯的错误，信息不足或信息过载都不会影响许多决策者的主角心态，他们作为人类中的佼佼者取得了尊崇的地位，于是便认为他们拥有足够的能力对事件施加影响，对过去经验的迷信和集体一致性一同加剧了这种倾向。人工智能则不仅可以更好地搜集、处理大量信息，而且不会受到“乐观偏见”的影响，对风险的判断更为客观高效。
（4）战略决策制约少。人类作为生物体难免会受到物理层面的制约，认知负荷、时间期限、承压能力、缺乏葡萄糖、个人情绪和疲劳等都易对战略决策产生极为不利的影响。在这一点上人工智能优势巨大，物理因素对它几乎没有影响。如果它认为目前处于劣势，就不会采取激进行为；它不会雇用“保镖”来排除反对意见；也不会在没有系统考虑的情况下，对过去的事件进行简单而无效的类比。
模块化人工智能的军事应用及其战略影响
2
除开人工智能直接参与战略活动，这项技术的应用场景在军事领域不断扩展同样会自下而上的对战争博弈产生根本性变革。为了探究这种颠覆性影响，作者回顾了目前模块化人工智能在军事领域的一些具体表现。
（1）解决控制问题。2004年，斯坦福大学(Stanford University)吴恩达(AndrewNg)教授的团队成功让机器自主学习驾驶直升机，这一实验已经证明，一种多用途的模块化算法可以自学空气动力学、机械控制、定时和感知环境等技能，进而掌握人类驾驶员需要多年练习才能完成的任务。模块化人工智能对控制问题的掌握自然会对军事行动的各个层面产生影响。在战术层面，该算法拥有控制无人机在周遭环境中飞行的能力，于是便能够执行维持飞行的作战级命令。在战略层面，当算法学会大规模协调、优化数十甚至数百架无人机的飞行路径、飞行模式和操作控制时，一种更为灵活高效的空战形式就会出现，并为使用者提供前所未有的军事优势。
（2）助力兵棋推演。兵棋推演是军队用来辅助战略决策的抽象表示，它们被用来概念化地形、模拟部队部署、预测对手的反应和行动等。在这个领域中使用模块化人工智能将允许使用者设定合适的游戏规则模拟即将面对的战场态势，并对可能出现的结果进行无限次迭代计算。研究发现，基于强化学习的人工智能在这类兵棋推演中的表现要优于人类，这种优势主要体现为：机器人可以比人类更快地进行回合；机器人可以同时进行每一步行动，从中暴露出以前从未考虑到的情况。显然，这种带有模块化人工智能的推演模型在应对瞬息万变的战争发展时很有价值，理想状态下，指挥官和决策者几乎可以预测到对手的所有行动，从而建立起战略优势。
（3）强化态势感知。机器具有“观察”能力，这种能力允许它识别敌人、目标、建筑物和任何它经过训练的事物的特征，甚至该事物还不一定肉眼可见。机器视觉允许算法从景观或图像中提取显著特征，然后用于分类和模式识别。作为机器视觉的一种生动运用，生物学家已经使用价格低廉、便捷易用的声学传感器搭配人工智能算法在完全黑暗的条件下实现了对昆虫的实时分类，分类精度已经超过95％，即使借助当前的机器学习，在这样恶劣的条件下对这种细小目标进行识别分类也绝非易事。将机器视觉移植运用到战争中，无疑可以极大提高己方的战场态势感知能力。这种能力对于开发出智能战争时代的自主战斗系统至关重要。
（4）改变军力对比。目前，忌惮于核武器的相互摧毁作用和对本国民众生命的普遍珍视，世界各主要军事强国由此维系着一个微妙的战略平衡，大国间发生大规模战争的可能性较低。而随着战术与作战系统（tactical and operational systems）逐渐引入军队并代替人类作战，这种更高效、更致命的无人武器为大国间的军事竞争提供了一种新方式。衡量一国军事实力时，军队规模和武器装备水平将被无人作战系统的数量和质量所替代，这种“无人战争”可能会引发当今世界军事格局的重新洗牌，进一步激发战争投机主义，对战略平衡造成深远破坏。
图4 未来无人战争可能变成现实
人类与通用人工智能的竞争战略
3
模块化人工智能的战略影响有望在短时间内实现，而通用人工智能与人类发生冲突的威胁则相对遥远，但一旦出现，影响也更为深远。虽然人工智能的最终目标很可能是非进化的，即无须像人类般追求基因的进步，然而人工智能的目标可能至少将包括生存，这是一个确保其更好面向未来的目标。因此在战略竞争中，人工智能的中间目标将包括优化现有资源并拒绝向可能阻挠这一目标的潜在对手提供同样的资源；对自身系统的保护，包括保护它的物理组成部分。它的目标可能还包括通过升级系统追求更高级的智能水平，但这将需要额外的资源。因此，在实现上述目标的资源竞争方面和调和这些紧张关系所遵循的道德伦理方面，通用人工智能与人类之间存在着紧张矛盾。
与超级智能作战的人类，在早期的战略较量中可能会有一些微弱的优势。例如，基于人工智能对人类战略行为的理解，人类可以寻求以不可预测的方式做出反应，这样即便人工智能也具有人类般强大的想象力，并能考虑到复杂性、随机性和自由意志，它也不大可能迅速变得聪明到能够洞察一切随机结果。其次，人工智能在早期阶段发展仍然需要人类因素的参与，这就使它易受人类弱点的影响，人类的部分对抗措施仍然有效。类似地，短期内新兴超级智能面对针对其基础设施或电源的物理攻击依然会损失惨重。但总的来说，人类的脆弱性是深远的，特别是考虑到人类正不断推进武器和后勤系统自动化和网络化。此外，具有竞争性目标和委托代理关系的人类社会难以为应对人工智能的威胁就解决方案达成有效共识，因为人类对威胁的估计判断各不相同，这会极大影响人类与通用人工智能竞争的行动效果。
作者认为，一种可能的应对方式是与人工智能一同进化。在上述场景中隐含的观点是人类不会有明显变化，而人工智能则在大踏步前进，这就难免会发生主仆关系的颠倒。人工智能服务人类的另一种方案可以是利用智能机器来增强人类的能力（Augmented Humans），比如通过人机接口(HCIs)来改变人类的能力或属性。目前的人机接口技术仅涉及通过将人类与机器人结构连接起来以增强物理功能，未来，人机接口技术将与人体的生理结构相结合，以增强诸如认知、思维处理、记忆和视觉等属性。如果人类能够与他们所使用的机器一起“升级”，那么就不容易出现人类与机器对抗的情况。取而代之会在人类内部出现“物种”和阶层分化，但这又是另一个问题了。
THE END
文字 | 文力浩、龙坤 （国防科技大学）
图片 | 来源于网络
编辑 | LH
审阅 | Q、黄洋
“军事高科技在线”征稿啦！！
详情请戳👇👇👇
往期精彩
涂装怎么就成为了战斗力
卫星导航系统哪家强？一文带你读懂全球卫星导航系统的现状与特点