笔趣阁

手机浏览器扫描二维码访问

第六章 暗知识神迹机器能否超越人类（第4页）

新型自主性武器的开发

最早的自动化的武器就是导弹，但我们通常并不把导弹称为人工智能武器。这里的区别在于是自动化（automated）还是自主化（autonomous）。自动化是确定性地输入感知信号产生确定性的输出反应，而自主化是不确定性地输入感知信号产生一定概率分布的输出反应信号，甚至是一个从未见过的输入，通过推理、常识和经验产生一个最佳的输出。五角大楼国防科学委员会在2016年发布的一份报告是这样描述的：“要实现自主，一个系统必须具备基于其对世界、自身和形势的认识与理解，独立构建和选择不同的行动路线以便实现其目标的能力。”一个预先设定了打击目标的导弹是自动化武器，一个放飞到塔利班巢穴上空的会随机应变的捕食者无人机是自主性武器。未来自主性武器将率先在各类飞行器上全面普及，进而开始应用于水上和水下，包括水面舰船与潜艇以及各种机器鱼。最后是陆地，包括车辆、坦克和各种机器人，骡、狗、蛇等。目前，以色列已经部署了一种自主的防辐射无人机Harop，可以飞行长达6个小时，只在敌人防空雷达亮起的时候进行攻击。俄罗斯武器生产公司Kalashnikov已经制造出了一把全自动AK-47步枪，通过使用AI确定目标瞄准射击，而该武器准备向俄罗斯军方供应。

电池容量是野战机器人的瓶颈

大型自主性武器的能源主要还是热能量密度高的石化燃料。但是内燃机的传动远不如电力灵活方便，一个四旋翼的无人机要用内燃机驱动传动部分会非常复杂。所以很多小的自主性武器例如无人机，机器人、骡、狗、蛇等最理想的动力来源是电池驱动，但是以目前的锂电池容量密度（约300瓦时／千克）和每年的改进程度（约5%），在短期内很难有能够支持机器运行长达一天的电池，在野外充电和换电池也都是很大的问题。除了锂电池，目前另一个比较有希望的是氢燃料电池，与锂电池相比，其优势是充电快（几分钟而不是几个小时），单位体积或重量的能量密度也更高，所以未来军用电池很可能以氢燃料电池为主。

军用技术将落后于民用技术

人工智能和电子、信息产业类似，由于该技术在民生中的巨大商业前景，民用和商用对该技术的总投入要大于军事上的投入。民用和商用通过市场竞争机制也会吸引人工智能方面一流的人才（如创业的回报巨大）。由于开放性的学术交流和开源软件，民用技术将进展神速，巨大的商业前景也会造成空前激烈的市场竞争。这一切都会推动人工智能在民用和商用方面快速进展。而军用技术的发展则会落后于民用技术，许多军用技术研发最便宜的方法都是依托在民用技术之上。

大规模协同作战的演进

一场战役的规模常常受信息获取和传导的限制。在今天有了铺盖天地的无线通信后，人类接收信息的速度和反应时间又进一步成了瓶颈。当信息接收和反应都由机器接管后，一次战斗和战役的规模可以大大增加。如果都是机器之间互相协调，那么几百万台机器可以瞬间协同行动。最近美国国防部新型武器研发部公布了一段几百台微型无人机“群舞”的视频。当战斗机在沙漠中撒下几百台无人机后，这些无人机会自动组成飞行队形对一大片地形实施侦察，还可以随时改变队形。当个别无人机离队时，队形会自动调整，当离队的无人机回到群体后，队形又会自动改变。5G通信网络的到来也将加速机器协同的进程。5G的高带宽、低功耗、低时延的特点能够保证更多的机器以更少的耗电量，做出更为敏捷的协作。2018年韩国平昌冬奥会，在5G试验网络的支持下，英特尔公司用1218架无人机组成了奥运五环、运动员、和平鸽等图案进行灯光秀表演，刷新了“同时放飞数量最多的无人机”的吉尼斯世界纪录。（见图6.11）

图6.11在韩国平昌冬奥会上1218架无人机组成的奥运五环

图片来源：https:zhuanlan.zhihu.p33766210。

军事组织的混成化、单官化和扁平化

军队之所以分为不同的兵种，主要原因是武器的使用和场景不同，一个人很难成为多面手，分工有利于提高掌握该武器的技能。但当武器自身越来越自动化和自主化时，分工的必要性就降低了，混合使用武器的好处越来越凸显。所以今后的战争可能不再是陆军和陆军打，空军和空军打，海军和海军打，而是所有的军种一起打。军种之间的界限会越来越模糊，甚至会取消现有的军种。

由于未来战争前端主要是自动化和自主化武器在拼搏，所以需要的血肉之躯会越来越少，一个人可以协调操控大批自主化武器。作为传统的作战第一线的“士兵”将消失，每个作战人员都是一个指挥员，所以未来的趋势不是“单兵化”而是“单官化”。

军队有最严格的层级结构。传统军事对个人依赖很小，制胜的保障是一个巨大团体的协调行动。层级结构能保障命令和信息在巨大人群中最快地传递和严格地执行。由于战斗人群规模的缩小和个体（单官）能力大大增加，所以未来军队将像今天的高科技公司一样越来越重视个体能力和能动性。这一切都会导致未来的军队组织越来越扁平化。

军事组织从以武器为中心转向以数据为中心

军事组织的结构取决于什么样的结构最能打胜仗。传统军事组织围绕武器组织、物流组织，新军事组织将围绕数据组织。未来战争的前端主要是钢铁机器，后端则是大量人和计算能力负责数据收集与处理。由于数据的复杂性，组织将划分为数据收集、存储、处理、决策。每一种武器及其行动轨迹和效果，对后台军事人员来说就是一组数据。飞机和舰船没有任何区别。未来的后勤能力主要是对机器的能源进行供给和补充。

战役的机器参谋部

指挥像诺曼底登陆这样的大型战役要处理的信息无穷多，同时要面对各方面的不确定性，即使一个天才军事指挥官也不可能处理如此巨量的信息，所以在传统战争中偶然性巨大。在未来战争中，一场战役已经在计算机中模拟了许多遍。变量越多，不确定性越强，机器学习算法就越得心应手。当然最后还是要指挥官做决定，但传统的参谋部的工作许多会被机器取代。正如机器能赢得了围棋世界冠军，谁的机器参谋部算法更聪明，谁赢得战争的机会就大。

未来最大的挑战不仅是谁能开发出最先进的人工智能武器，也是谁能通过实战数据的快速迭代训练出最佳模型，更是谁能最先在实战中演化出最佳的人-机混成。而且这种混成比例和结构会随着机器能力的提高一直改变。人工智能将再一次改变战争的形态，这个新形态不以消灭肉体为主，而是以机器之间的搏斗为主，这对人类来说越来越像一场狂热的足球赛。和体育比赛不同的是只要机器人败了，活人就乖乖投降。

AI武器的伦理

目前国际法对人工智能武器没有任何具体规定，国际社会也没有明确支持限制或禁止此类武器系统的条约。学界对此也争议不断，许多重量级科学家反对人工智能武器化。2015年，包括马斯克和霍金在内的1000多名人工智能专家签署了一封公开信，呼吁禁止自主化武器，他们甚至称完全人工智能的发展可能招致人类历史的终结。2018年谷歌公司仅仅因为向美国军方的一个项目Maven提供了TensorFlow的接口，就有近4000名谷歌员工联合签名请愿公司不要和军方合作，因为这个项目的目标是为军方提供先进的计算机视觉，能够自动检测和识别无人摄像机捕获的38种物体，甚至有十几名员工因此要辞职。国际机器人武器控制委员会（ICRAC）也发布一封联名公开信，超过300位人工智能、伦理学和计算机科学的学者公开呼吁谷歌结束该项目的工作，并支持禁止自主武器系统的国际条约。

自主化武器很可能加剧全球军备竞赛。2016年美国国防部发表新报告表示，美国需要“立即采取行动”加速AI战争科技的开发工作，未来AI战争不可避免，建议五角大楼在这方面加强发展，否则会被潜在的敌人超越。2017年7月，中国推出了《新一代人工智能发展规划》，该规划将人工智能指定为未来经济和军事力量的转型技术。它的目标是，到2030年，中国将利用“军民融合”战略成为人工智能领域的卓越力量。2017年9月，普京对刚开学的俄罗斯孩子说：“人工智能就是未来，不仅对俄罗斯而言，更是对整个的人类社会。谁成为这个领域的领导者，谁就将成为世界的统治者。”马斯克在推特上回应道：“在国家层面上人工智能优势的竞争是最可能导致第三次世界大战的原因。”这种军备竞赛可能会使国际局面特别不稳定，除了几个超级大国，其他国家也会效仿。

人工智能很可能将加速全球军事力量不对等和战争的发生。拥有人工智能技术、战争经历和战争数据的国家能够让自主化武器迭代速度更快。目前，美国、俄罗斯、以色列等国家拥有较多战争的文字、视频记录。通过监控恐怖组织、社交媒体、其他国家行动的数据，并把这些数据喂给人工智能让它们快速升级。另外，自主化武器更易流通和被滥用，或被其他国家和恐怖分子获得。即使达成了禁止军事机器人的协议，自主化武器技术也非常易于转让，并将普及开来。另外，因为该类武器能够将人员伤亡降到最低，所以政客发动战争的阻碍因素又减少了一项，毕竟美国等地民众对战争造成士兵牺牲的抗议比战争花费更让政府头疼。

自主化武器失控和错判的风险将一直存在，比如软件代码错误，或者受到网络攻击。这可能导致机器失灵或攻击自己人，或由于系统升级太快，人类伙伴无法及时响应。很难对自动化武器的可靠性进行测试，会思考的机器的行事方式也可能会超出人类控制者的想象。无论是在人机交互的回路之内（人类不间断监控操作，并保有关键决策的负责人），还是在回路之上（人类监督机器，并可以在任务的任何阶段干预机器）或者跳出回路（机器执行任务时没有人员干预），人们应该如何与不同程度的自主机器交互仍然有待研究。西方军事机构坚持认为，人类必须始终处于人机交互的回路之中。但是看到了完全自主系统所带来的军事优势，不是每个国家都会这么审慎。

群体学习和光速分享

一个很有意思的例子是谷歌关于机械手学习的实验。如图6.12所示，在盘子里放一些各种形状的物体，预先没有任何编程指令，让机械手通过上方的摄像头自己摸索着把每个物体从盘子里拿出来。可以想象，这个学习过程需要很长时间，因为一开始机械手在空中乱抓，直到蒙对了一个的时候它才能找对地方，然后又要学会抓取不同形状的物体。更复杂的是一个物体紧挨着另一个物体，机械手必须学会先把边上的物体挪开。这台机器学习大约需要80万次的摸索，如果每10秒抓取一次，那么一台机器要24小时不停地学习100天。

图6.12机械手学习从盘子中抓取不同的物体

图片来源：https:spectruieee.comautomatonroboticsartificial-intelligencegoogle-largescale-robotic-grasping-project。

但当谷歌让14台机器一起学习的时候，学习的时间就缩短到了10014=7天。这14台机器都互相联网，当一台机器找对地方或学会了一个技能时，其他所有的机器瞬间都学会了。这种机器之间的交流不仅是无障碍的而且是以光速进行的。（如图6.13）

图6.13谷歌的14台互相联网的机械手同时学习抓取物体

图片来源：https:spectruieee.comautomatonroboticsartificial-intelligencegoogle-largescale-robotic-grasping-project。

人类的知识传播阻力重重，有成本问题，有利益问题，还有学习者的接受能力问题。未来机器之间的群体学习、无私共享和光速传播一定会带来不可思议的奇迹。我们今天可以想象的奇迹有以下几方面。

（1）机器可以在极短的时间内掌握极难的技能。例如驾驶飞机通常需要几百小时的飞行训练，战斗机需要更长的时间，如果是1万个机器模型用不同的数据一起学习，可能一秒就能达到王牌飞行员的水平。

（2）数年内让几千万人失业。目前硅谷Vicarious公司在开发机械手的通用软件，可以安装在任何类型的机械手上来取代目前各种加工、筛选、检测、物流中的人力。一旦这种类型的软件成熟，取代人工的成本就是一些塑料和齿轮加上几个芯片。

（3）超级规模的协同行动。协调人类的大规模行动很难，例如让分布在世界各个国家的100万人在同一个时间唱同一首歌就是一个几乎无法完成的任务，但是让100万台机器同时跳一支舞却很容易。人类最大规模的协同行动通常是战争，未来的战争可能是天空中突然出现几万架无人机，战斗在几秒内结束。