(艺术设计。 Jean-Dominique Lavoix-Carli)

在2022-2023年的深冬，人工智能（AI）再次成为热门话题。这一次，它不是一个人工智能代理的惊人能力、 DeepMind的Alphago (现在的Alphabet/Google），展示了单独战胜围棋大师的能力，但最新版本的OpenAI（微软）人工智能模型所展示的讨论和做 "许多事情 "的能力、 GPT-4.

恐惧和迷恋再一次被释放出来。

• 突尼斯 ESFSI 早期预警系统和指标高级培训第五年
• 迈向美国核复兴？
• 战争中的人工智能 (3) - 中东的超级战争
• 战争中的人工智能（2）--为中美战争做准备？
• 尼日尔：法国核能未来的新威胁？
• 重新审视铀供应安全 (1)
• 铀需求的未来--中国的激增

随着每一次颠覆性技术的传播，我们可能会抱怨，与它斗争，或害怕它。然而，人工智能和更具体的 "GPT型 "人工智能极有可能（超过80%，尽管并不确定）产生重大变化*。

在面对这种疯狂的变化时，最明智的行为是找出我们如何能确保技术仍然是为我们服务的工具，而不是成为技术的奴隶或受害者。

因此，本系列文章将具体探讨人工智能，更具体地说，那些基于GPT-like模型的人工智能如何帮助我们预测未来，特别是在地缘政治、国家和国际安全领域。

该系列的第一篇文章首先介绍了什么是GPT模型、ChatGPT以及为什么它们在职业和工作方面很重要。然后，我们在一个具体问题上测试了ChatGPT："未来十二个月内乌克兰战争的前景"。

在最初的失望之后，我们解释说，我们继续进行测试，以确定ChatGPT是否可以协助我们识别变量及其因果关系，以进行战略预见和预警分析。我们提供了我们与ChatGPT的对话记录以及我们的评论，并得出结论，有足够的潜力来创建一个名为Calvin的变量人工智能助手（请访问 该链接).

ChatGPT、GPT、生成性人工智能......让我们先把事情做对吧

这有什么关系呢？

2023年4月5日和7日，高盛公司在其 洞察力 并在其特别技术版中 简报 他警告说，"生成性人工智能"（见图1）将给 "全球经济带来翻天覆地的变化"。 以下是)会带来。

"它们可以推动全球GDP增加7%（或几乎$7万亿），并在10年内将生产力增长提高1.5个百分点......"

然而，"由这些进展引发的工作流程的转变可能会使相当于3亿个全职工作面临自动化......"

高盛洞察力，"生成性人工智能可使全球GDP提高7%"，2023年4月5日

OpenAI方面也进行了 研究 关于其人工智能模型和更广泛的大型语言模型（LLMs）对劳动力市场的影响（Tyna Eloundou, Sam Manning, Pamela Mishkin, Daniel Rock, " "）。GPTs是GPTs：对大型语言模型的劳动力市场影响潜力的早期观察“, ArXiv，2023年3月17日（v1)，最后一次修订是2023年3月23日-v4)。 然而，请注意，OpenAI在推广LLMs，特别是其GPTs模型作为 "通用技术 "方面也有企业和法律利益。对OpenAI来说，看到其GPTs模型被视为 "通用技术"，例如，意味着在保护其商标和防止其他人使用GPT名称方面具有非常大的优势（例如，Connie Loizos，"'如果OpenAI得逞，"GPT "可能很快会成为商标。“, 技术新闻网(TechCrunch)，2023年4月25日）。

一般来说，OpenAI研究公司发现，：

"......大约80%的美国劳动力的工作任务可能因引进LLM而受到至少10%的影响，而大约19%的工人可能看到他们的任务受到至少50%的影响......

我们的分析表明，如果能够获得LLM，美国所有工人的任务中约有15%可以在相同的质量水平下大大加快完成。如果将建立在LLM之上的软件和工具纳入其中，这一份额将增加到所有任务的47至56%。

Eloundou, et al. ("GPT就是GPT, 2023)

生成性人工智能将特别影响 "软件、医疗保健和金融服务行业"，以及更广泛的媒体和 "娱乐、教育、医药和IT行业 "部门（同上，高盛透视，"稳定的AI首席执行官说，AI将被证明比大流行病更具破坏性"，2023年3月31日）。

例如，在2023年5月，好莱坞作家进行了罢工，以确保他们的工作和报酬不受生成性人工智能的影响（Dawn Chmielewski 和 Lisa Richwine，"剽窃的机器"：好莱坞作家和电影公司为人工智能的未来而战", 路透社2023年5月3日）。一家销售专业辅导服务的加州公司Chegg，由于其客户使用ChatGPT，其股价暴跌（Parthana Prakash，"在这家教育技术公司表示其客户正在使用ChatGPT而不是为其学习工具付费后，Chegg的股价暴跌近50%。“, 财富，2023年5月2日）。

一般来说，估计有900种职业会受到影响，其中首先是知识工作者、科学家和软件编码员（同上）。

作为关注未来的人类，或者更具体地说，作为战略预见和预警的科学家和实践者，我们需要三次考虑这些发展。

首先，因为关注未来，我们必须能够将人工智能的发展和使用输入到我们所有的预见和警告分析中。这就是为什么，例如，我们创建了关于人工智能的最初系列文章。

第二，战略预见、预警、风险管理等的从业者是 "知识工作者 "和 "科学家"。因此，如果高盛公司是对的，我们就处于那些将被生成性人工智能打击的第一线。因此，最好是确保人工智能为我们服务，而不是杀死我们。

• 
  使用视频进行情景模拟：2035-2050 年的未来行动环境
• 
  从预言家到国王--以战略预见和警告获得成功
• 
  从卡桑德拉的诅咒到毕蒂亚的成功
• 
  战略预见、警告和情报产品和文件
• 
  为什么信使被枪杀以及如何避免这种命运

最后，更理想化的是，如果生成性人工智能确实在许多方面有助于缓解预测过程，那么它也应该有助于广泛传播可操作的预见性和预警的使用。因此，预防危机和减轻威胁的障碍将有可能减少。然而，与预测过程的组织和听从警告的意愿有关的挑战可能在很大程度上没有受到影响。

什么是ChatGPT、基于GPT的人工智能和生成性人工智能？

GPT模型

GPT是一个语言模型（自然语言由 兴业银行 (微软），使用深度学习来生成类似人类的提示反应。GPT "代表 "生成性预训练转化器"，这意味着人工智能已经在大量的文本数据上进行了训练，不仅了解英语语言的细微差别，也了解其他语言的细微差别。GPT-模型是属于 生成式人工智能 家庭。

目前仍由OpenAI测试的最新模型是 gpt-4.OpenAI最近商业化使用的模型是 gpt-3.5-turbo.等待gpt-4的到来，gpt-3.5-turbo是我们在RTAS这里使用的模型，用于战略预见和警告的人工智能助手实验：Aria（在整个网站的右下角始终可用）、 卡尔文、凯、里贾纳 和 皮斯亚.

聊天室GPT

聊天室GPT 是一个使用GPT模型的应用程序，它可以与人进行对话，并产生听起来像人写的回复。这就是该应用的与众不同之处，同时也让人们感到害怕。在2023年3-5月，公开版本的 聊天室GPT 使用gpt-3.5-turbo模型。最先进的应用程序使用最新的模型gpt-4，但只对付费用户开放（通过 聊天室GPT Plus).对于通过API的外部使用，开发者和用户必须通过等待名单申请。

生成式人工智能

生成式人工智能属于机器学习 > 深度学习 > 无监督、有监督和强化学习的人工智能类别（关于人工智能类型的更多细节，见Hélène Lavoix，"人工智能何时为地缘政治提供动力 - 呈现AI“, “人工智能和深度学习--正在形成的新人工智能世界“, “在现实中插入人工智能“, The Red Team Analysis Society).

GPT的最新模型是通过监督和强化学习以及人类反馈来训练的（见OpenAI，"对准语言模型，遵循指令“).

因此，生成性人工智能通常基于深度学习模型，这些模型在大型实例数据集上进行训练，以学习模式并生成新内容。例如，我们有生成式对抗网络（GANs--伊恩-古德费罗（Ian Goodfellow）等人的"生成式对抗网络"，2014年）和变异自动编码器（VAEs--2013年被定义为 Kingma等人。 和 Rezende等人。 - 的解释 J. Altosaar，"教程 - 什么是变异自动编码器？").例如，GAN可以在一个图像数据集上进行训练，然后用来生成在风格和内容上与原始数据集相似的新图像，但不是完全复制。

因此，生成性人工智能是一种人工智能，旨在创造或生成新的和原创的内容，如图像、视频、音乐或文本。你可以看到以下用OpenAI生成的图像的例子 Dall-E 这篇文章的模型，关于三个主题：深海安全、太空安全和蒸汽朋克建筑。

用法、应用和影响

生成式人工智能具有广泛的潜在应用，从创建逼真的3D模型到为用户生成个性化的内容。然而，它也引起了围绕生成内容的潜在滥用的道德和安全问题，如深度伪造或假新闻。

像ChatGPT这样的应用实际演化的世界，以及大多数基于GPT的应用都是数字化的。换句话说，大多数基于GPT的应用程序没有能力直接在现实中具体行动......除非人类成为它们的执行者（见Helene Lavoix，"人工智能的执行者（1）：在现实中插入人工智能“, The Red Team Analysis Society，2019年1月14日）。

因此，那些将受到基于GPT的应用程序及其同类产品影响最大的活动是那些位于数字世界的活动。实际上，我们可以把这句话改写为：我们的活动越是没有实体--在没有实体存在的意义上--就越有可能受到生成性人工智能应用的影响，比如基于GPT的应用。

例如，如果你是一个水管工或泥瓦匠，ChatGPT或类似的基于GPT的应用程序极不可能对你的活动产生严重影响。它可能会帮助人们理解排水管或泥瓦匠，并给他们提供建议和步骤来做一些事情，但真正的修理脸盆或拆除部分墙壁以制作橱柜的活动仍将由真正的人进行，而且可能由专家进行。

相反，如果你的工作与世界网络直接相关并在其中进行，从网络营销到编码和开发，你的工作很可能受到ChatGPT或其同类产品的严重影响。

在与思想有关的活动世界中，包括知识，同样，生成性人工智能的影响将极有可能是重要的。

这一逻辑与我们之前确定并解释的关于传感器和执行器对人工智能发展的重要性相似（见Lavoix，"人工智能的执行者（1）：在现实中插入人工智能"，同上，2019）。这与Eloundou等人的观点相对应（"GPT就是GPT2023年）发现：

...信息处理行业（4位数NAICS）表现出较高的风险，而制造业、农业和采矿业表现出较低的风险[对LLMs和GPTs]。

Eloundou, et al. ("GPT就是GPT, 2023)

事实上，OpenAI的研究论文提出了一个受影响职业的表格，在此转载。

从逻辑上看，根据一项活动最需要的技能类型，"思想性 "活动的接触程度也有差异。科学和批判性思维受法律硕士的影响最小，而编程和写作是受影响最大的活动的一部分：

"我们的研究结果表明，科学和批判性思维能力的重要性与暴露程度呈强烈的负相关，这表明需要这些技能的职业不太可能受到当前LLMs的影响。相反，编程和写作技能显示出与接触的强烈正相关，意味着涉及这些技能的职业更容易受到LLMs的影响"。

Eloundou, et al. ("GPT就是GPT, 2023), p.14.

Eloundou, et al. ("GPT就是GPT, 2023）提供了一个表格，在此转载，估计各种类型的主要认知技能的暴露。

这将使我们每个人都能根据对人工智能的看法、在社会中的整合和使用方式，评估我们的哪些任务可以被类似GPT的模型所缓解，或受到它们的威胁。

因此，我们对使用基于GPT的应用程序进行战略预见和预警的关注，是有关生成性人工智能将影响知识和思想活动的更大问题的一个案例。

现在，具体来说，生成性人工智能模型及其应用的影响类型和程度将取决于每个模型的具体情况及其在具体活动方面的应用。因此，让我们实际地转向这样一个案例，即使用ChatGPT进行战略预见和警告，以及我们所做的第一个测试，重点是乌克兰战争的未来。

测试乌克兰战争的未来的ChatGPT

并非（还）是监测当前事件的工具

我们面临的第一个挑战是gpt-3.5-turbo，也就是ChatGPT使用的模型，在2021年9月结束了它的培训。第二个挑战是，ChatGPT是一个封闭的系统，在其培训结束后无法访问互联网或任何信息来源。

用ChatGPT的话说，被问及是否能对当前事件作出政治评估：

我可以根据截至2021年9月最后一次培训截止日期的信息，尽我所能提供对当前事件的政治评估。然而，请记住，我的回答可能无法反映最新的发展或现状，因为世界在不断发展。

ChatGPT - 2023年5月2日

因此，ChatGPT及其同类产品目前还不能用于战略预见和预警过程或风险管理系统的所有步骤，这些步骤需要最新的信息。例如，它不能用于监测和调查预警问题，也不能用于估计各种情况的可能性或利用后者来指导政策。在地平线扫描方面，它需要由其他工具来完成。

对于那些会感到失望的人来说，请注意，OpenAI已经向从事以下工作的开发者开放了其模型 用于ChatGPT的插件 例如，这将允许 "检索实时信息"。因此，在基于GPT的模型和应用能够达到最新水平之前，只是一个时间问题。事实上，"新宾"，微软新的搜索引擎，使用GPT-4和、 事实上在这里，我们可以访问世界网络。

尽管该领域的发展非常迅速，但就目前而言，我们的测试将用现有的东西来完成：一个生成型人工智能，其 "知识 "在2021年9月被切断。

如果目前的ChatGPT（2023年春季）不是一个我们可以用来监测当前演变的工具，这是否也意味着它对我们的目的毫无用处？或者说，即使与最近的事件和知识隔绝，它仍然可以是有用的吗？

有助于建立战略预测和预警模型的工具的第一个里程碑

考虑到战略预见和预警的方法，我们将测试ChatGPT和GPT模型以何种方式成为分析过程中不同方面和部分的工具。

我们知道，大多数严肃的战略预见和预警方法，实际上是任何分析的基础，我们将首先审查ChatGPT的能力，以帮助我们创建和发展我们的模型（见Hélène Lavoix，"动态风险和不确定因素的建模 (1) : 绘制风险和不确定因素图“, The Red Team Analysis Society, 2018 [2011]; Joshua Epstein, Joshua M., "为什么要做模型？“, 人工社会和社会模拟杂志》（Journal of Artificial Societies and Social Simulation）。 11(4)12, 2008; 千年项目。未来研究方法,3.0版，2009年）。

ChatGPT能否帮助确定与我们的问题相关的关键因素和行为者？更确切地说，它能否帮助发现驱动我们的战略预见和警告问题的动态的变量和因果关系？

我们将与ChatGPT的对话剪切并粘贴在下面，并在答案旁边的栏目中添加了评论。

试验的结论

事实上，ChatGPT和gpt-3.5-turbo模型并不能直接输出一个足够好的模型来解决有关国家和国际安全问题的战略预见和预警。

为此，GPT及其应用有很大的潜力，因此也可能是生成性人工智能。

就像现在这样，我们估计ChatGPT对初学者和非专业人员还是很有帮助的。迭代和提出越来越精确的问题似乎是在变量和因果关系方面使用ChatGPT的最佳系统方法。我们也可以想象，如果提出的问题是精确的--从而被ChatGPT很好地理解，那么人工智能可以帮助专家。

这也突出了提示（向生成性人工智能提出的问题）在与此类人工智能互动时的关键重要性，并因此建议在传统活动的基础上可能出现一种新的活动类型，特别是对于战略预见和警告，以及更广泛的对生成性人工智能的良好使用。

我们还发现了影响识别变量和因果关系的其他挑战，如参考文献的问题，这里缺乏ChatGPT答案。事实上，变量和因果关系应该建立在事实、逻辑以及科学研究的基础上。因此，理想情况下，我们需要为每个变量和每个关系提供参考。我们将在另一篇文章中讨论这一关键方面。事实上，如果错误的或明显虚假的变量和联系被包括在模型中，或者如果变量被省略，无论是自愿的还是因为偏见，那么模型将变得毫无用处，或者有偏见，在预防方面产生严重后果。

作为一个整体，我们估计这里有足够的潜力来创建一个相应的人工智能助理、 卡尔文，我们的成员和读者将能够使用。我们打算继续改进这个人工智能助手。值得注意的是，在未来，为我们的特定目的进一步训练AI--称为 微调 - 可能会产生非常有趣的结果。然而，似乎最好等到GPT-4的全面发布后再开始这样一个过程，在用GPT-4进行全面测试后。

最后，假设生成型人工智能确实可以创建我们所需要的概念模型，那么一个潜在的危险是，从业者会停止努力思考（也见下文**）。我们可能会想，这是否会导致认知能力的下降。在这种情况下，重要的是要确保思考继续进行，并确保生成性人工智能的能力被适当地嵌入到一个不会伤害人类的过程中。

从积极的一面来看，使用生成性人工智能可以大大增加创建适当模型的速度，它将缓解和推广使用适当的战略预见和警告，从而提高人类预防威胁的能力。

笔记

*......除非发生了其他更令人不安的事件。一般来说，使用人工智能，特别是类似ChatGPT的人工智能所产生的具体变化，也可能与我们目前的预期不同。这两点将在未来的文章中讨论。在这里，我们集中讨论极有可能发生的以及由ChatGPT-like AI产生的演变。

**......这项任务也被用在研讨会上，以打开参与者的思路，产生新的想法。对于分析家来说，在认知上努力找出变量及其因果关系这一事实本身就能增强对问题的理解和认识。因此，能够单独或在小组中执行这项任务本身就有很大的价值。因此，如果看到它完全由一个AI-agent完成，可能会产生严重的负面影响。因此，关键是要创造性地整合人工智能工具，一旦投入使用，要尽量减少弊端。