本文重点讨论人工智能(AI)在其深度学习部分与计算能力--硬件--或者说高性能计算能力(HPC)之间的反馈关系所带来的政治和地缘政治后果。它建立在一个 第一部分 我们在那里解释并详细说明了这种联系。

相关的

人工智能、计算能力和地缘政治 (1):人工智能和HPC之间的联系

高性能计算竞赛和权力--人工智能、计算能力和地缘政治(3)。:考虑到HPC的重要意义,需要确定一个复杂的框架,在这个框架内,行为者可以做出反应。

赢得超大规模计算的竞赛 - 人工智能、计算能力和地缘政治 (4) :通往超大规模计算的竞赛,现状,以及对权力和政治及地缘政治(不)秩序的影响;竞赛可能出现的中断。

在那里我们特别强调了需要计算的三个典型阶段:人工智能程序的创建、训练和推理或生产(使用)。我们表明,对各阶段改进的追求,以及架构设计的压倒性和决定性的重要性--这发生在创建阶段--产生了对越来越强大的计算能力的关键需求。同时,我们确定了人工智能-DL和计算能力之间的反馈螺旋,即更多的计算能力允许人工智能方面的进步,而新的人工智能和优化它的需要需要更多的计算能力。在这些发现的基础上,我们在此设想计算能力和人工智能-DL系统之间的反馈螺旋是如何越来越可能影响政治和地缘政治的。

因此,考虑到计算能力的关键性和不断上升的重要性,在下一篇文章中,我们将讨论由此产生的计算能力竞赛会如何进行,并且很可能已经开始了。在那里,我们将特别考虑我们之前确定的一个补充不确定性,即计算能力和硬件领域的演变甚至变异,因为它受到了人工智能-DL的影响。

会员专享

以pdf格式下载文章 - 人工智能、计算能力和地缘政治第二部分.pdf- 12页

成为会员 红色(团队)分析协会的。

在这里,我们首先想象一下计算能力不足的行为体所面临的政治和地缘政治影响。我们根据行为者的选择来研究这些潜在的后果。我们专注于人工智能系统的创建,并更简要地谈论训练阶段。然后,我们根据计算能力来审视新兴人工智能世界的权力分配,并强调对我们当前现代国际秩序的可能威胁。

人工智能时代没有高性能计算能力的生活:依赖性和主权的丧失

在理解和想象计算能力与人工智能-深度学习之间的反馈关系对未来的政治和地缘政治的影响时,首先要看一下没有计算能力或者说没有高性能计算可能带来的后果,可能会更容易理解。

正如我们在上一篇文章中开始指出的那样,不具备创建人工智能系统阶段(我们上一篇文章中的第0阶段)所需的计算能力将 事实上 使得各种行为者依赖那些拥有计算能力的人。

我们所面临的是一种类似于新时代的人才流失的情况,或者说是最初的人才匮乏,它禁止或者至少使进化变得非常困难。正如谷歌的AutoML的详细例子所示(见 当AI开始创造AI时),如果人工智能创造的深层神经网络总是或在大多数时候比人类创造的深层神经网络更有效率,那么那些在设计人工智能的最初阶段不能表现得最好的行为者,将拥有效率较低的人工智能,没有人工智能,将依赖外部计算能力来创造他们的人工智能,或者更糟的是,依赖他人来实现他们将使用的人工智能-DL的核心程序。如果这些人工智能系统对其治理或人工智能管理至关重要,那么潜在的负面影响可能会波及整个系统。因此,他们在国际相对权力分配中的人工智能权力地位将受到三次影响:一次是因为潜在的低效率的人工智能治理或人工智能管理,一次是因为他们无法通过其最佳的人工智能系统发挥影响力,一次是因为他们没有有用和必要的计算能力。对一般国际影响力和国际权力地位的影响将随之而来,并源于人工智能治理和人工智能管理日益积极使用的所有领域,而这只有那些拥有计算能力的国家才能充分实现。我们将更详细地研究那些没有足够计算能力的行为者的每一个选择。

在这里,我们假设--这确实是一个非常强烈的假设--使用人工智能系统进行治理和管理的潜在负面影响和意外后果得到了缓解。请注意,为了从假设到更好地理解整个可能性的未来,有必要进行详细的设想。

例如,我们可以考虑一种完全相反的可能性,根据这种可能性,大量使用人工智能系统的行为者完全低估并错误地管理了不利影响,最后,那些没有计算机能力并决定不在治理或管理中使用人工智能的行为者最终比他们对人工智能友好的同行要好得多。

选择1:没有人工智能系统和非人工智能行为者

值得注意的是,如果我们考虑到人工智能领域仍在兴起和高度变化,以及所带来的成本,特别是在计算能力方面,我们可以想象在国际互动方面的情景,出于有意识的政治决定或纯粹的必要性和胁迫,一些没有人工智能的行为者最终在治理或管理方面发展出战略、行动和战术优势,这使他们能够比拥有人工智能的行为者做得更好。在此,我们应该记住著名的战争模拟Millenium Challenge 2002--由已解散的美国联合部队司令部主办的战争模拟演习--其中一个无理论的红队(扮演 "敌人")最初战胜了蓝队(美国),包括不使用预期的技术(Micah Zenko, "千年挑战:一场腐败的军事演习及其遗产的真实故事", War On The Rocks, 5 Nov 2015; Malcolm Gladwell, 眨眼。不假思索的思考力谈到这个问题时,他说:"我想说的是,我们都有一个共同的目标,那就是把这个目标变成我们的目标。)

如果政治当局面对计算能力的巨大赤字,有意识地和有意愿地选择决定排除人工智能,那么,在上文所唤起的发展意外优势的可能性之上--然而,这绝不是必然的--他们也许能够尝试利用这一战略。作为一个类比,在一切都相同的情况下,我们可以想想不丹在国家政策方面的决定。这个国家--确实,到目前为止,在对外关系方面主要由印度 "指导",在2007年修订了《印度-不丹友好条约》,而且在国际体系中,尽管现实比较严峻,但自二战结束以来,和平反而成为一种常态--选择了一种特定的文化 "官方强调不丹的独特性 "来发展,放弃了对现代化的疯狂追求,并将这种特殊性作为国家的骄傲、政策和资产(Syed Aziz-al Ahsan 和 Bhumitra Chakma, "不丹的外交政策。谨慎的自我主张?“, 亚洲调查,第33卷,第11期(1993年11月),第1043-1054页。

如果没有这种深思熟虑和有计划的方法,而且在不断变化的国际秩序中,这种方法在中期甚至短期内可能都不可行,也无法适应每一个行为者,没有人工智能的治理可能很快就会变得复杂。事实上,如果大多数国家的许多治理领域越来越多地涉及人工智能系统,那么,"非人工智能国家 "在与其他国家就一系列问题进行国际互动时,可能会迅速面临各种挑战,从反应速度和处理数据的能力,到无法沟通和误解,因为处理问题的方式不同(有或没有人工智能)。非人工智能公司很可能会面临类似的困难,如果它们位于政治当局提倡人工智能的国家,情况会更加严重。在这种情况下,这些非人工智能企业很可能不得不转向人工智能,假设他们可以的话,或者消失。

选择2:次优的AI-系统

如果计算能力的缺失或不足导致使用次优的人工智能,也会出现类似的问题,甚至更糟糕的障碍。

所有使用效率较低的人工智能的治理或管理领域都会受到影响。

所谓效率低下,我们涵盖了一个非常大的范围,从能源效率低下到通过速度降低精度的问题,即所有那些寻求优化和改进的元素,正如我们之前看到的(见"人工智能、计算能力和地缘政治 (1)",第三部分)。

例如,想象一下,无人机能够携带武器和射击,使用人工智能系统进行物体探测(关于谷歌创建的开源NASNet的例子,见"当AI开始创造AI时").如果你的物体探测的人工智能系统比对手使用的系统效率低,那么你的无人机甚至在开始做任何事情之前就可能被摧毁。它也可能被一系列的诱饵所欺骗。

人工智能、智慧城市、地缘政治、AI、司机、场景、战略预警、深度学习高性能计算能力、风险分析、风险管理、战略预见、红队分析社会、指标、无人机、LAWS
"为了在预计将是复杂和多维的战场上取得优势",美国陆军研究实验室," ARL正在开发互联的武器,这些武器将纳入共享传感、计算和导航方面的进展。"图片来源:Evan Jensen,ARL--来自Frank Fresconi博士、Scott Schoenfeld博士和Dan Rusin,美国中校(退役),"On Target",《陆军AL&T》杂志2018年1-3月刊,公共领域。

我们甚至可以想象,敌人的优势计算能力允许创造更好和更多的人工智能系统,可以有能力向次优的无人机提供虚假或稍微歪曲的信息,导致后者只针对自己军队的部队和物资。在这里,即使有世界上最好的意愿,计算能力不足的行为者也不能--它确实没有能力--保护自己,也不能阻止卓越的计算能力,因此,事实上,人工智能可以创造和做什么。此外,由于人工智能创造的策略是人工智能特有的,通常不是人类所能想象的,正如谷歌一系列专门用于围棋游戏的人工智能程序所显示的那样(见"人工智能和深度学习--正在形成的新人工智能世界"),很可能就像上面想象的进攻性例子一样,只有高效和最佳的AI才能对抗AI。

这只是一个例子,但它可能会在整个人工智能驱动的物体,如物联网(IoT)的范围内下降。

选择3:最佳的人工智能,但在外部计算能力的基础上创建。

现在让我们来看看一个没有足够计算能力的行为者,但却有意愿开发和优化自己的人工智能系统--假设这个行为者也有其他必要的因素,比如说科学家。

这个行为体除了使用他人的计算能力之外,可能没有其他选择。这个行为者将不得不为这种使用付费,如果它使用商业设施,则以货币形式付费,如果想象中的具体合作协议,则以独立形式付费。根据行为者、计算能力的提供者以及正在开发的人工智能系统的具体目标,这可能涉及或不涉及安全责任。

例如,就国家安全而言,我们真的能想象国防部或内政部在商业计算设施上开发高度敏感的人工智能系统吗?

事实上,是的,可以想象,因为,美国军队已经在 "在工业界的帮助下走向云端",例如,"联合企业防御基础设施(JEDI)",将在2018年秋季最终获得(例如"军队实现现代化,向云计算迁移“, 军事和航空电子,2018年3月20日;弗兰克-康克尔,,"五角大楼的商业云将是一个单一的奖项--而业界并不高兴“, 下一届政府,2018年3月7日;LTC Steven Howard, U.S. Army (Ret. ), "美国国防部将于2018年秋季授予联合企业防御基础设施云合同“, 网络防御,2018年5月23日)。这种云应该用于战争,"一家商业公司"--可能是亚马逊--将 "负责托管和分发关键任务的工作负载和机密军事机密给全球的作战人员"(Howard,同上;Frank Konkel "五角大楼的合同如何引发了一场云计算战争“, 下一届政府,2018年4月26日)。JEDI可能会在2018年秋季被授予亚马逊(同上)。诚然,我们不知道这种云是否也会被用作分布式架构来创建人工智能系统,但它可能是。利用商业公司进行治理,如果目的与国防有关,就更需要商业公司承担安全任务,而直到最近,这还是国家的特权。这样赋予商业公司的权力使美国的政治动态更加丰富。值得注意的是,艾森豪威尔的军工综合体很可能正在改变(例如"军事-工业综合体演讲",德怀特-艾森豪威尔,1961年,阿瓦隆计划,耶鲁大学)。

现在,这是关于美国的安全,私有化给美国公司。然而,五角大楼会把这种合同授予中国公司或欧洲公司吗?

同样,我们可能会想,人工智能系统的创建是否可能在属于外国公司的商业超级计算机上完成,和/或在国外进行本地化。如果外国公司已经与外国军队或国防部签订了合同,那就更是如此,因为在这种情况下,外国军队对商业公司有更大的胁迫力:如果商业公司不做其投标,它可能会威胁扣留合同,或推迟付款,不管是什么投标。

面对黑客和其他安全漏洞的可能性迅速增加。

类似的现象也可能发生在构成计算能力的元素上,比如外国制造的芯片,正如最近美国克莱姆森大学电气和计算机工程系的两位研究人员所指出的机器学习的计算能力供应链漏洞(Joseph Clements和Yingjie Lao,"对神经网络的硬件木马攻击",arXiv:1806.05768v1 [cs.LG] 2018年6月14日)。

分布式架构的使用,即计算能力分布在不同的机器上,就像上面JEDI的例子一样,可以设想在一定程度上抵消超级计算机的缺失,这不仅使所需的功率成倍增加(见 人工智能、计算能力和地缘政治 (1)),但也为新的危险打开了大门,因为数据旅行和网络的每台计算机都必须是安全的。因此,它可能不是摆脱超级计算能力不足的那么容易的方法。

在网络安全领域之外,使用他人的计算能力也为非常简单的漏洞打开了大门:例如,美国赞成的那一轮制裁,可能会突然禁止任何行为体,无论是公共还是私人,获得所需的计算能力,即使提供者是一个商业实体。依赖性行为体实际上可能非常依赖计算能力的东道国,以至于它已经失去了大部分的主权和独立性。

这对公司来说也是如此,如果他们把自己的命运交给其他国家和竞争对手--没有适当的计算能力供应多样化政策,假设这是可能的--就像中兴通讯和美国制裁的例子一样,尽管该案例涉及到比计算能力更多的因素(例如蒋思佳,"澄清美国法案影响后,中兴通讯港股上涨“, 路透社, 2018年6月20日; Erik Wasson, Jenny Leonard, and Margaret Talev "官员称特朗普将论证对中兴通讯的罚款和处罚已经足够惩罚了“, 彭博社,2018年6月20日;李涛,Celia Chen,Bien Perez,"中兴通讯可能大到不能再大,因为它仍然是中国全球科技野心中楔子的一角", 南华早报,2018年4月21日;许桂清,"独家 - 美国考虑加强对中国与美国企业的联系的控制", 路透社。 2018年4月27日).

选择4:最优的AI,但由他人创造

最后,使用他人设计和创造的人工智能系统也可能导致类似的脆弱性和依赖性,这对使用大众市场产品的公司来说可能是可以接受的,但对国家等行为者来说,当国家利益和国家安全受到威胁时,就不能接受,当竞争性敏感领域受到威胁时,公司也不能接受(特别是在面临掠夺性做法时,见"超越全球化的终点--从英国脱欧到美国总统特朗普“, 红色(团队)分析, 2017年2月27日)。

我们已经提到了那些能够销售这种系统的人所获得的影响力,以及那些购买和使用这种系统的人所承担的风险,在中国的案例中,""向津巴布韦出口面部识别技术" (环球时报,2018年4月12日),在"大数据,人工智能的驱动力......但不是在未来?"(Helene Lavoix, 红色(团队)分析, 2018年4月16日)。

让我们再举一个未来智能城市的例子。我们可以想象,一个国家如果没有足够的计算能力,就必须依靠计算能力或直接依靠外国的人工智能系统来建设他们的城市。下面的视频,虽然不是以人工智能为重点,但也让我们了解到互联和 "智能城市 "的趋势。

现在,知道在战争中,城市行动被认为是未来的一个主要组成部分(如英国 DCDC战略趋势方案。未来运营环境2035报道称,城市作战极有可能越来越多地发生在智能和人工智能驱动的城市。为了更好地设想未来可能发生的事情,我们应该在心理上把视频和下面由美国陆军研究实验室制作的城市作战图片并列起来。换句话说,陆军图片的背景不是一个被破坏的 "现代世界 "的传统背景,而是一个智能、人工智能驱动的城市作为背景。

人工智能、智慧城市、地缘政治、AI、司机、场景、战略预警、深度学习高性能计算能力、风险分析、风险管理、战略预见、红队分析社会、指标、无人机、LAWS
图片来自美国ARL--在亚历山大-科特博士的文章中使用,"The ARTIFICIAL Becomes REAL",第90-95页,Army-ALT 2018年1-3月。

人工智能、智慧城市、地缘政治、AI、司机、场景、战略预警、深度学习高性能计算能力、风险分析、风险管理、战略预见、红队分析社会、指标、无人机、LAWS

现在,如果一个外国行为体创造了管理人工智能城市的人工智能系统,那么,如果它的部队将来不得不在这个城市里开展进攻行动,有什么能阻止该行为体潜在地包括对它有利的 "元素 "呢?

或者,作为另一个例子,如果战略上明智的政治当局希望赋予他们的城市以人工智能驱动的防御,能够对抗传统和人工智能赋予的攻击,但如果这些政治当局没有任何计算能力来开发这样的系统,外国商业公司会被他们自己的政治当局允许开发这样的系统吗?

在一个由人工智能驱动的世界里,主权和独立变得依赖于计算能力。

缺乏用于人工智能系统训练阶段的计算能力,在某种程度上相当于一个没有教育系统的国家,必须完全依靠外部和外国资源来提供这种教育。当必须对大数据集进行训练时,监督学习也是如此,这只会加剧之前在《中国的未来》中已经确定的障碍。  大数据,人工智能的驱动力... 这也是事实,正如我们之前看到的(第一部分),对于强化学习来说,计算能力对于这种类型的深度学习更加重要,尽管它不需要外部大数据。这是否也可以用最新的 谷歌Deep Mind的方法,转移学习?这将需要在以后进行研究,对这种最新的AI-DL方法进行深入研究。

人工智能世界的权力分配,高性能计算能力和对威斯特法伦体系的威胁?

因此, 500强名单 超级计算机的排名每半年产生一次,因此每6个月对全世界的超级计算机进行一次排名,成为评估行为者(无论是公司还是国家)当前和未来人工智能力量的宝贵指标和工具。它还为我们提供了一个相当精确的国际舞台上的力量图景。

例如,根据 2017年11月Top500名单 (下一期于2018年6月25日提出,并在本文发表后公开--请注意有一个 信号 在2018年6月的榜单上),并假设所有的超级计算机都已提交给榜单的基准,在整个中东地区,只有沙特阿拉伯拥有世界上最强大的500台计算机中的超级计算机。它有四台,分别排在20、60、288和386位。最后三个属于石油公司Aramco。沙特最强大的超级计算机的性能为5.5Petaflops,即比中国最强大的计算机几乎少17倍,比美国新的Summit少36倍(关于Summit的更多细节,请见。 当AI开始创造AI时).如果沙特阿拉伯想在人工智能方面独立,那么它将需要构建一个战略,使其能够克服在计算能力方面可能缺乏的能力。对于像阿联酋这样的国家来说,情况甚至更具挑战性,尽管它愿意发展人工智能,但没有任何超级计算机(阿拉伯联合酋长国2031年人工智能战略 - 视频).

同时,作为另一个例子,英伟达在2016年上线了超级计算机DGX Saturn V,该计算机在2017年11月排名36,性能为3,3 Petaflops,但在建造时考虑到了DL。加上其另一台超级计算机DGX SaturnV Volta,这意味着英伟达拥有相当于4,37 Petaflops的计算能力,因此优于俄罗斯,其三台超级计算机分别排名63、227、412,表现的性能分别为2,1;0,9和0,7 petaflops。请注意,NVIDIA最新的GPU加速器。 NVIDIA DGX-2 而其2-petaFLOPS可能只会加强该公司的实力(见 第一部分).当然,就国际权力而言,俄罗斯受益于国家的属性和能力,特别是其对暴力的垄断,而英伟达却没有这种能力。然而,想象一下,似乎是这样的,新出现的人工智能世界在建设中越来越多地将人工智能融入国家的职能和治理中,那么俄罗斯将面临新的依赖性,以及因其相对较低的计算能力而带来的新的安全挑战。就其本身而言,英伟达--或其他公司--可以逐步接管国家职能,正如上文美国国防部JEDI的例子所示。如果我们回顾英国东印度公司,这将不是历史上第一次有公司作为统治者的行为。

在这里,这些正是我们现代威斯特伐利亚世界的原则,有可能发生变化。

然而,事情比刚才描述的情况还要复杂,因为硬件领域也受到了人工智能革命的影响,正如在《世界日报》上看到的那样。 第一部分.如果我们考虑到这些硬件的演变和变化,必要的计算能力在哪里,更困难的是,它将在哪里? 

此外,如果高性能计算能力如此重要,那么,行为者可以决定对它做什么?他们可以建立和加强自己的计算能力,拒绝别人的计算能力,或者寻找其他战略?这就是我们接下来要看到的,与硬件领域的变化一起。

关于作者:博士 Helene Lavoix伦德博士(国际关系),是红色(团队)分析协会的主任。她专门从事国家和国际安全问题的战略预测和预警。

特色图片。美国陆军插图,"陆军研究探索个性化、适应性技术,重点是加强异质人类智能代理团队内的团队合作。"见美国陆军研究实验室(ARL),"陆军研究人员推进人类与智能代理的合作",公共领域。

由Dr Helene Lavoix (MSc PhD Lond)发布

Helene Lavoix博士伦敦大学博士(国际关系) ,是Red Team Analysis Society的总裁/CEO。她专门研究国际关系、国家和国际安全问题的战略预见和早期预警。她目前的工作重点是乌克兰战争、国际秩序和中国的崛起、行星越轨行为和国际关系、战略预见和预警方法、激进化以及新技术和安全。

加入对话

2 评论

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注

本网站使用Akismet来减少垃圾邮件。了解您的评论数据如何被处理

ZH