如何用人工智能赢得一场战争并减少伤亡

• 新太空竞赛 (1) - 金砖五国与太空采矿
• 美国核复兴所需的铀：满足前所未有的需求 (1)
• 突尼斯 ESFSI 早期预警系统和指标高级培训第五年
• 迈向美国核复兴？
• 战争中的人工智能 (3) - 中东的超级战争
• 战争中的人工智能（2）--为中美战争做准备？
• 尼日尔：法国核能未来的新威胁？
• 重新审视铀供应安全 (1)

中美技术之争越来越像一场生死之战，对华为的进攻主要是为了保护未来的5G网络（Cassell Bryan-Low, Colin Packham, David Lague, Steve Stecklow And Jack Stubbs, "中国的挑战：5G之争“, 路透社的调查，2019年5月21日）。对于华为和中国以及世界来说，后果是深远的，因为在谷歌 "停止华为的安卓许可"，以及英特尔和高通的禁令之后，由日本软银特别控股的英国芯片设计公司ARM现在停止了与华为的关系（Paul Sandle, "ARM停止供应对中国科技巨头华为造成新的打击“, 路透社, 2019年5月22日; "DealBook简报。华为的反击是全球性的“, 纽约时报，2019年5月23日；汤姆-沃伦，"华为的安卓和Windows替代品注定要失败“, The Verge，2019年5月23日）。

美国极有可能对中国的海康威视采取行动，海康威视是世界上最大的视频监控系统生产商之一，主要涉及 "人工智能、语音监控和基因测试"，这只会进一步证实美国的进攻（Doina Chiacu, Stella Qi, "特朗普称 "危险的 "华为可能被纳入美中贸易协定中“, 路透社, 2019年5月23日; Ana Swanson 和 黄爱华，"特朗普政府可能将中国的监控公司海康威视列入黑名单“, 纽约时报，2019年5月21日）。

中国则以 "人民战争"、"长征 "等意识形态上的全民动员来应对贸易战和技术战，并改变电视编排来播放战争片（Iris Zhao and Alan Weedon, "在中美贸易战中，中国电视台突然切换到反美电影的排片。"，ABC新闻，2019年5月20日。 迈克尔-马蒂纳, 大卫-劳德, “贸易战一触即发，中国习近平敦促为困难时期做好准备“, 路透社报道称，2019年5月22日）。这凸显了对中东国家来说有多大的利害关系，正如我们之前解释的那样(★传感器和执行器（4）。人工智能、先进机器人的长征与地缘政治).

这些举措强调了所涉及的巨大利益。事实上，新技术，从多种形式的人工智能（AI）到物联网（IoT）和通信，通过量子信息科学（QIS）和技术，参与了一个范式的变化，其中也包括治理、国际权力和可能进行的战争的方式和胜利。

内容

1. 人类如何成为AI-代理的执行者
   1. 案例研究
      1. 谷歌DeepMind的围棋游戏的例子
      2. 乘飞机旅行
      3. 智能家居的案例
   2. 训练人类不假思索的行动
2. 通过屈服于敌人来赢得战争：对一个乌托邦场景的反思
3. 从连接世界到改变世界的平衡
   1. 改变世界，克服困难
      1. 数字网关
      2. 非物质化的世界
      3. 欢迎来到矩阵
   2. 世界的不可能完全非物质化和脆弱性
      1. 不存在单纯的数字世界
      2. 能源，数字化的物理隐藏部分
      3. IT企业、与气候变化有关的灾害和责任
   3. 用户的国家买单，系统性威胁和战略转折
      1. 用户的国家和系统性的威胁
      2. 战略性的转折

在这里，我们将重点讨论一般安全，特别是战争的这种可能的新面貌。这些潜在的--以及已经在运作的--变化源于已经释放出来的复杂的动力。正如我们所发现的 之前在向先进机器人艰难迈进的过程中，加上利益相关者对获得人工智能（AI）系统的强烈兴趣，特别是 深度学习 (DL)，它们的运作和盈利，导致了一个意外的后果。人类本身正越来越多地被拖入人工智能代理的生态系统中。他们实际上被变成了算法的执行者。

我们将首先审视正在发生的事情，并解释人类如何成为人工智能代理的执行者，并举例说明。然后，我们将勾勒出一个场景，解释这种演变如何导致一个乌托邦式的未来，即掌握了人工智能代理的国家行为者可以用一种新的方式赢得战争。

第三，我们将转向数字和物质世界以及它们之间的桥梁。我们将强调，看到人工智能发展的需要也将导致世界的进一步非物质化，如极端的虚拟现实。然而，我们将解释，完全的非物质化是不可能的，并伴随着一个主要的隐藏成本，即能源消耗的增加，从而对气候变化产生影响。我们还将强调用户国家如何首当其冲，面临重大的系统性威胁。最后，我们将找出一种方法，让他们在一个有趣的战略转折中预先解决这些系统性威胁。

人类如何成为AI-代理的执行者

案例研究

谷歌DeepMind的围棋游戏的例子

首先让我们再次以谷歌DeepMind的围棋游戏为例（见 在现实中插入人工智能).正如我们所解释的，游戏的设置看起来如下。

我们指出，要看到DeepMind的AI-agent变得完全可操作，人们必须提供一个传感器来代替C中的女士，并提供一个执行器来代替A中的先生。

然而，要想在A中得到一个执行器，我们最好需要一个先进的机器人。正如所见，这样复杂的先进机器人还没有出现(★传感器和执行器（4）...).我们离获得先进机器人的种类还有很长的路要走，我们将需要许多人工智能/DL-代理人的执行任务（同上）。

因此，正在发生的是，A在不久的将来仍然是一个人，而人工智能和值得注意的DL将继续扩大，因为利益相关者需要它们的扩张（同上）。

换句话说，促进人工智能代理及其使用的利益相关者，为了克服目前仍然缺乏的非人类执行器，将把人工智能旨在帮助的人类变成这些人工智能代理的执行器。

乘飞机旅行

作为另一个例子，让我们采取一系列旨在销售机票的人工智能代理。旅行者的最终目的是能够从家到P地。通过一系列的数字化过程和使用各种算法，最好的算法是深度学习的那种，未来的旅行者将看到一系列的目的地和航空公司的路线和机票。他/她将选择一个，然后向航空公司支付她/他的机票。

如果我们的旅客有一部智能手机，那么他/她将能够在她或他的智能手机上获得机票。如果没有，他/她将不得不打印。在机场，如果没有智能手机，他/她将不得不打印一张登机牌。

在任何情况下，他/她都必须打印行李票。根据机场现有的机器人，他/她将不得不扫描登机牌和行李票，将行李放在传送带上，检查重量，或者，将行李拖入机器人，然后检查行李票和重量。

最后，他/她要准备好通过安全检查。

对于大多数步骤，我们可以看到智能先进设备的缺失是如何由用户，即人类来弥补的。用户已经变成了航空公司的人工智能代理的执行者，同时也取代了航空公司的前雇员。此外，当一个智能设备投入使用时，消费者或用户是那些必须购买智能设备的人。因此，他们现在也承担了曾经由公司支付的部分投资。

我们在智能农业的案例中观察到了类似的情况，当时先进的农业机械还没有出现，也没有在整个人工智能驱动的过程中建立起来（见 ★人工智能、物联网和农业的未来。智能农业安全？(1) 和 (2)).

智能家居的案例

当我们看到智能家居及其中的一些组件时，情况就不那么清楚了，例如著名的人工智能助手亚马逊Alexa，它与智能扬声器Echo或Google assistant连接，通过扬声器Google Home与从手机到平板的物联网设备相连。

我们可以想象，这些助手中的一个可以说出这样的建议："为了按时到达你必须与这个客户或那个人见面的地方，你应该现在就出发，按照这个行程开车。"

第一个系列的执行器将开始工作，将DL算法的结果翻译成一系列的句子，并以人类议程的方式排序。然后，其他执行器将以人类可以听到和理解的方式来表达这些建议。在其他情况下，如果没有语音功能，那么建议就可以显示在屏幕上。

可能，接受建议的人将认为人工智能助手在帮助她或他，这很可能是真的。

然而，从人工智能代理的角度来看，个人也将根据人工智能代理的建议采取行动。个人将使人工智能代理的输出存在于物理世界中。

训练人类不假思索的行动

从人类的角度来看，令人不安的是，我们自己的 "从认知到行动 "的顺序，如果我们只考虑克罗马努人（Cro-magnon），那么它已经建立了4万多年。大英百科全书》(Encyclopaedia Britannica))，被打破了。简而言之，如果我们对导致我们行动的顺序做一个非常简单的评估，我们或多或少有以下模式：感知世界，分析收集的数据，根据分析做出决定，采取行动。这个模式应该利用现有的研究来完善。然而，不管有什么发现和最新的研究，有了人工智能助手，我们通常的过程被改变了，其中的一部分被移除。

在我们的案例中，人工智能代理进行分析，然后提出决策的可能性。这是为了让我们放心，让我们相信我们可以自由决定是否行动，然后采取相应行动。

然而，在没有对输入和分析进行任何控制的情况下做出决定，然后根据这个决定采取行动，这与几千年来在理解、知识和教育方面的努力大相径庭。这 "感觉 "就像我们充其量被变成了孩子，最糟糕的是变成了奴隶......或机器人。尽管决定权仍在我们手中，但没有分析意识的决定不是一个真正的决定，并且为任何操纵或错误的可能性打开了大门。

因此，在这里，绝对需要发展信任，以及 "进入 "和监督分析的能力，即克服人工智能的 "黑箱问题"（例如Will Knight，"处于人工智能核心的黑暗秘密“, 麻省理工学院技术评论, 2017年4月11日)

事实上，企业部门拥有人工智能代理，因此会首先为自己的利益而使用它，其次才是为其客户的利益，这只会加剧问题。几十年的广告和营销试图操纵消费者的决策过程，只会使问题变得更糟，更不用说几百年来为公司利益而进行的游说，往往是违背公众利益的。

因此，只有政治当局作为公共利益和每个公民（无论是个人还是法律实体）安全的保证发挥非常有力的作用，才能在最后为信任创造条件，而这种信任对于看到将人类变成执行者的人工智能代理安全发展绝对是必要的。

此外，关键是要确保人的能力不会在这期间丧失。有几位作者在战略决策的案例中提到了这种可能性，例如（Andrew Hill, "人工智能创造了真正的战略困境“, 金融时报，2019年5月20日）。

通过屈服于敌人来赢得战争：对一个乌托邦场景的反思

可以想象一个反乌托邦式的场景，以突出这种可能的现实的一些特征。

新社会被一分为二。

较富裕的公民和公司可以购买机器人，然后在这些先进的机器人出现的时候，代替他们行事。在这种情况下，这些更富有的人可以节省时间和资源，将一定数量的任务完全外包给人工智能代理和他们的先进机器人执行器。诚然，与此同时，他们也放弃了自己的部分权力，因为行动--如德国的 马赫特 或在英语中 权力 - 从根本上说是权力。然而，他们中的少数人，那些有足够智慧的人，将节省下来的时间用于其他更进化的任务。

贫穷的公民和企业，大多数人，越来越多地变成了人工智能代理和他们的利益相关者的执行者。他们的意志力表面上保持着，但是，由于他们根据属于企业利益相关者的人工智能代理的建议和分析行事，他们事实上顺从于这些利益相关者的利益。

例如，继续我们之前的例子，当他或她在去开会的路上，较穷的公民的连接设备将选择一个接近这个或那个商店的行程。然后设备会告诉她或他，他/她需要购买这个产品，而这个产品在那家商店有售。相反，我们更富有的公民，有他或她的一套机器人，将不必经过这个过程。他/她会发现产品已经送到了他/她的家里。

在自由方面，似乎较贫穷的人实际上比较富裕的阶层要好。但这是值得怀疑的，因为在较穷的人的情况下，已经养成了一种习惯，即依赖某种不经思考就告诉你该怎么做。因此，决定自由的表象确实只是一种表象。然后，一旦形成了这种习惯，结果是，在行动前思考的能力逐渐丧失，就会为任何操纵行为打开大门。

诚然，较富裕的人将被放在前面。 既成事实但是，从思考到行动的顺序不会被打破和破坏。如果--这是一个很大的假设--较富裕的人利用节省下来的时间进一步教育自己，那么他们就可以摆脱另一种危险，那就是完全放弃对生活中某些部门的掌控权。

在这两种情况下，如果没有强有力的控制和保护，公民将面临失去部分人性和被转化为事物的巨大风险。他们可能会逐渐成为人工智能代理和他们的利益相关者的工具，而不会有任何反抗，因为这种转变是缓慢的，而且表面上是无害的。

现在，考虑一下，出售一系列人工智能代理的主要利益相关者是一个外国势力。或者，销售这些人工智能代理的企业可能是外国的，并且由于一系列原因，包括国家利益和国家安全，必须服从外国政治当局。

然后，该外国势力将几乎完全控制使用人工智能代理的人口。在战争的情况下，假设目标国家的军队和政治当局打算打仗，统治人工智能代理的外国行为者可以很容易地操纵使用的人口，无论是富人还是穷人，都可以根据他们被改造的方式。然后，军队可能会面临外部的攻击，特别是内部的大量敌人，因为人口可以通过各种方式来反对自己的军队。 侵略者将以最低的伤亡水平进行战斗，并可能取得胜利。

考虑到这种危险，政治当局--再次假设他们既不是掠夺性的，也不是被 "卖 "给更强大的行为者--在确保他们所统治的人口最终不被他人统治方面具有更大的利益。

一般来说，这里的重点不是拒绝技术进步，也不是提高对人工智能的恐惧和敌意。重要的是要意识到风险，并努力确保我们采取正确的行动，以便我们最好地利用进步，同时减少意外的不利后果。

更具体地说，对于每一个政体来说，了解其中的利害关系是很重要的，以确保一个外来的、可能是负面的规则不会被强加给一个坦率的人口。即使没有侵略性的意图，建立起缓解外国统治的能力的可能性就应该敲响警钟，并引发保护性行动。

现在，正如从航空旅行的例子中可以清楚地看到，这里的关键不仅仅是人工智能代理的使用。这个问题更广泛，包括整个数字化过程，我们现在将探讨这个问题。

从连接世界到改变世界的平衡

最初，我们发现，一个AI-agent（或一系列）的传感器和执行器也是不同类型的世界或现实之间的桥梁(在现实中插入人工智能).

改变世界，克服困难

数字网关

我们可以有只在数字世界中运作的人工智能。在这种情况下，传感器和执行器主要是以不同的方式来理解数字世界的桥梁。例如，传感器将 "读取 "最初可被人类或另一设备理解的数字输入，并使其可被人工智能-代理理解。执行器将接受人工智能的输出，并以数字方式使其能够被任何需要它的行为者所理解，无论其是否为人类。

谷歌DeepMind的人工智能代理AlphaStar最近实现的壮举，即掌握了暴雪游戏《星际争霸II》，就是这种纯数字环境的典范（AlphaStar团队，"阿尔法星。掌握实时战略游戏《星际争霸II》的方法“, DeepMind博客，2019年--查看他们的网站，了解更多照片和视频）。

非物质化的世界

以更复杂的方式，我们有传感器和执行器，它们必须作为物理或物质世界与数字世界之间的桥梁。

面对弥合真正不同世界的困难，除了将人转化为执行者之外，一个前进的方向是将尽可能多的物理世界引入数字世界。这正是上述航空旅行的例子所描述的。

因此，我们可以预期，在未来的几年里，世界的数字化将得到更多的推动。事实上，我们之前已经看到了各利益相关方对进一步开发和制造可运营和可盈利的人工智能系统的兴趣，特别是涉及到DL的系统（见《世界日报》第三部分）。 ★传感器和执行器（4）。人工智能、先进机器人的长征与地缘政治).因此，这些行为者极有可能将人类变成执行者，同时也尽可能地减少对连接数字世界和物理世界的执行者的需求，这是一个双管齐下的战略。

世界的数字化成为一种非物质化，人类必须找到与之互动的方法。

欢迎来到矩阵

一个极端的演变是进一步发展所谓的虚拟现实，从而使人类进一步进入人工智能代理的世界。在这种情况下，执行器将被颠覆。它们将不再是作为从数字世界到物理世界的桥梁并允许人工智能代理在物理世界中输出的设备。它们将是连接物理世界和数字世界的设备，因此类似于传感器，并将人类带入人工智能代理的世界。

欢迎来到 "母体"!

该设备可以是外部的，例如，著名的耳机（如"2019年最佳VR头盔“, PC杂志)或使用谷歌眼镜(最新一代 为企业，2019年5月20日发布）。它们甚至可以被植入人类体内。它们可能是两者之间的混合体，如AlterEgo，"一种非侵入性、可穿戴的外周神经接口，允许人类与机器、人工智能助手、服务和其他人在没有任何声音的情况下进行自然语言对话......对用户的反馈是通过音频，通过骨传导提供的。"......传感器 "在内部语音发音器自愿和神经性地激活时捕捉周边神经信号" （AlterEgo网站；另见Lauren Golembiewski，"可穿戴式人工智能将如何放大人类的智慧“, HBR，2019年4月30日）。

世界的非物质化直至虚拟现实和执行器的反转，以及在这一阶段之前人类向执行器的转变，对武装部队有着至关重要的影响，因为其可能目标的性质发生了变化。因此，攻击和防御的目的、方式和手段也需要相应地改变。然而，正如下文所解释的，我们也不能过分夸大变化。考虑到开发新的武器系统和军备所需的时间，预测这种演变是至关重要的。

世界的不可能完全非物质化和脆弱性

现在让我们以示意图的方式看一下这些序列，但作为一个整体，作为一个系统，用下面的图来表示。

不存在单纯的数字世界

因为我们作为人类，生活在现实世界中，是有形的存在，那么，在某个阶段，即使是最初看起来只发生在数字世界的事情，也必须转化为有形的世界。 无论非物质化程度有多高，都必须与物理世界建立联系。.

因此，实际上，从系统的角度看问题的正确方式不是设想两种类型的序列，一方面是数字-数字，另一方面是数字-物理，这两者是分开的。

我们所拥有的总是一个独特的序列，就世界或环境而言是物理-数字-数字-物理。如果数字部分等于零，那么我们就会找回经典的物理互动。但我们在任何情况下都不能去除这两个物理极端，即使我们认为我们只是在一个数字-数字序列中。

即使在广泛的虚拟现实的极端情况下，人类仍然需要看到他们的基本需求得到满足，如食物和饮料，正如电影中所描述的那样。 矩阵.他们的情感和认知过程必须保持健康，因为在 全面回顾.同时，数字系统将需要运作。

能源，数字化的物理隐藏部分

事实上，无论多么隐蔽，社会的非物质化总是伴随着与物理或物质世界的基本桥梁或联系。正如托马斯-霍默-狄克逊（Thomas Homer Dixon）所强调的那样，这种联系是对物质世界最基本的资源--能量的使用，这一点很有见地。下降的颠覆，灾难，创造力和文明的更新, 2006).

在这个框架中，Janine Morley、Kelly Widdicks和Mike Hazas研究了 "互联网流量的惊人增长，作为一个对能源需求有重要影响的趋势"（"数字化、能源和数据需求。互联网流量对总体和峰值电力消耗的影响"。 能源研究与社会科学，第38卷，2018年4月，第128-137页。 https://doi.org/10.1016/j.erss.2018.01.018).他们呼吁制定一项议程，以更好地了解并随后缓解 "互联网能源使用的最有问题的预测"，他们还强调了 互联网和数字化带来的大量能源使用。，尽管考虑到不确定性，各种情况仍然是可能的。例如：

"大多数对ICT相关能源消耗的估计也预测了稳定的增长。例如，Van Heddeghem等人估计，数字设备和基础设施消耗的电力增长速度（每年7%）比全球电力需求本身（每年3%）快，其中网络的增长率最高（10.4%）。Andrae和Edler也预计每年复合增长率为7%，计算出到2030年ICT的生产和运行将上升到全球电力消耗的21%：这是从2010年的大约2000TWh的基础上绝对上升到8000TWh。在最坏的情况下，到2030年，这可能达到全球用电量的50%，但在最好的情况下只有8%。" 

W.Van Heddeghem, S. Lambert, B. Lannoo, et al. "2007至2012年全球ICT用电趋势"，Comput.Commun., 50 (2014), pp. 64-76A and Andrae, T. Edler, "On global electricity usage of communication technology: trends to 2030", Challenges, 6 (2015), p. 117, quote by Morley, Widdicks, and Hazas.

如果存在提高能源效率的努力，到目前为止，它们还不能抵消能源使用的增长（同上）。

IT企业、与气候变化有关的灾害和责任

毋庸置疑，在气候变化方面的影响以及随后的多种相关不利影响也同样重要。

作为这种沉重的能源足迹的进一步信号，以及与气候变化有关的不利影响，"微软已经加入了一个由保守派领导的团体，该团体要求化石燃料公司获得法律豁免权，以防止有人试图从他们帮助造成的气候变化中收回损失"......它因此 "成为第一家加入CLC[气候领导委员会]的技术公司，该委员会的创始成员包括石油巨头BP、埃克森美孚、壳牌、道达尔和康菲石油。"("（奥利弗-米尔曼，"微软加入寻求扼杀历史性气候变化诉讼的团体“, 卫报，2019年5月1日）。除了强调我们必须谨慎对待 "企业沟通 "之外，微软此举不仅表明他们充分意识到了自己沉重的能源足迹，而且还表明他们参与了全球气候变化相关的灾难？

用户的国家买单，系统性威胁和战略转折

用户的国家和系统性的威胁

此外，莫利、威迪克斯和哈扎斯，强调了一个关键点。

"如果[研究]准确，这表明互联网基础设施的大部分能源消耗发生在使用国"。

因此，在同一动态中，首先，使用人工智能系统的国家的人口（无论是公民还是企业）都变成了执行者。其次，他们看到自己的世界被非物质化，必须找到方法来应对它。第三，如果他们想避免被完全 "机器人化"，他们也必须投资于昂贵的设备。第四，他们还必须通过他们的能源账单和税收来支付前期和隐藏的能源成本及其后果。

显然，无论一个国家是非物质化和人工智能的生产者还是消费者，其对国家和人口的影响都是非常不同的。在人工智能和计算方面的领导地位和竞争，因此在影响力和市场份额方面也很重要。那些领先于竞赛和最有影响力的人对其他国家形成了巨大的和多维的力量。

对其他国家来说，只有意识到所面临挑战的强大政治当局才有希望解决这种对全体人民的系统性威胁。

因此，考虑到美国在这一问题上的巨大优势，以及中国为成为这一领域的领导者所做的巨大努力，两国的对抗就更像是一个合理的结果，甚至可以说是不可避免的。同时，其他国家，如果他们可以的话，最好尽早醒过来，做出一系列的反应，如果他们不想付出极其沉重的代价。

战略性的转折

在一个有趣的战略转折中，一方面是能源的依赖，另一方面是人类的依赖，对于整个系统来说，很可能是影响力较小的国家可能扮演的关键。

换句话说，作为第一类反应，有关的政治当局可以设法教育民众不要成为 "被变成执行者 "的更坏的认知影响的牺牲品。

第二，行为者可以开发一系列的行动、工具和武器，旨在威胁非物质化世界的提供者和人工智能代理人的能源使用。然后，他们可以利用这些设备的存在作为一个先发制人的保险，以确保非物质化和人工智能供应商不违背他们的人口，或以一种对人口和国家有不利后果的方式行事。在需要的情况下，例如一场宣战，针对能源的行动，即数字和物理世界之间的桥梁，可以使敌人的整个数字大厦崩塌。

最后，从防御和安全的角度来看，人类和 "能源桥 "都必须优先得到保障。这意味着也要采取行动，确保气候变化及其影响，以及能源枯竭，不会最终摧毁那些促成这些对地球生物物种的生存威胁蔓延的人。

特色图片。三星的虚拟现实MWC 2016新闻发布会，作者Maurizio Pesce来自意大利米兰[CC BY 2.0] 通过维基共享资源。