北邮教授刘伟：应该由人类共同定义未来战争的规则

10月21日下午，第九届北京香山论坛平行安排了8个分组会议，其中第八分组会议议题为“人工智能与未来战争”。北京邮电大学人机交互与认知工程实验室主任刘伟教授在会上进行了发言。

刘伟指出，未来人工智能和正义的战争应该承担着人类和平的使命，人负责做正确的事，公平正义、共同命运、安全可控，而人工智能只要正确的做事，快速准确、海量存储、可解释性。

在刘伟看来，未来的战争很可能就是人机环境系统交叉融合的战争。

“真正的智能或者是人工智能不是抽象的数学系统所能够实现的，数学只是一种工具，实现的只是功能而不是能力。只有人才产生真正的能力。所以，人工智能是人、机器、环境、系统相互作用的产物，未来的战争也是机器计算结合人的算计所得出的洞察结果。”刘伟说。

刘伟指出，战争是一团迷雾，存在着大量的不确定性，是不可预知、不可预测的。从当前人工智能的发展趋势来看，可预见的未来战争中，存在着许多人机融合隐患仍未能解决，具体有：

一，在复杂的信息环境中，人类和机器在特定的时间内吸收、消化和运用有限的信息，对人而言，人的压力越大，误解的信息越多，也就越容易导致困惑、迷茫和意外。对机器而言，对于跨领域非结构化数据的学习理解预测，依然是非常困难的事。

二，战争中决策所需要的信息在时间和空间上的广泛分布，决定了一些关键信息仍然很难获取。而且机器采集到的重要的客观物理性数据与人类获得的主观加工后的信息和知识很难协调融合。

三，未来的战争中，存在着大量的非线性特征和出乎意料的多变性，常常会导致作战过程和结果诸多不可预见性，基于公理的形式化逻辑推理已远远不能满足复杂多变战况决策的需求。

刘伟认为，“鉴于核武器的不断蔓延和扩散，国家无论大小，国与国之间的未来战争成本将会越来越高。”

最后，刘伟同时指出，无论人工智能怎么发展，未来是属于人类的，应该由人类共同定义未来战争的游戏规则并决定人工智能的命运，而不是由人工智能决定人类的命运，究其因，人工智能是逻辑的，而未来战争不仅仅是逻辑的，还存在着大量的非逻辑因素。