(Conception artistique : Jean-Dominique Lavoix-Carli)

(Traduction IA / Traduction humaine en cours) À la fin de l'hiver 2022-2023, l'intelligence artificielle (IA) a de nouveau fait parler d'elle. Cette fois, il ne s'agit pas de la capacité étonnante d'un agent d'intelligence artificielle, Alphago par DeepMind (aujourd'hui Alphabet/Google), à gagner seul contre un maître du jeu de go, mais de la capacité à discuter et à faire "beaucoup de choses comme un humain" de la dernière version du modèle d'IA d'OpenAI (Microsoft), GPT-4.

La peur et la fascination se déchaînent donc à nouveau.

Comme à chaque fois qu'une technologie perturbatrice se répand, nous pouvons nous plaindre, lutter contre elle ou la craindre. Pourtant, il est très probable (plus de 80%, mais pas certain) que l'IA, et plus particulièrement l'IA de type "GPT", génèrera des changements significatifs.*

Face à des changements aussi radicaux, le comportement le plus sage consiste à chercher comment utiliser la technologie pour qu'elle soit un outil à notre service, évitant ainsi de devenir l'esclave ou la victime du progrès.

Cette série d'articles explorera donc concrètement comment l'IA et plus spécifiquement les IA basées sur des modèles de type GPT peuvent nous aider à anticiper l'avenir, notamment dans les domaines de la géopolitique et de la sécurité nationale et internationale.

Le premier article de la série présente d'abord ce que sont les modèles GPT, ChatGPT et pourquoi ils sont importants en termes de professions et d'emplois. Ensuite, nous testons ChatGPT sur une question spécifique : "L'avenir de la guerre en Ukraine au cours des douze prochains mois".

Après une déception initiale que nous expliquons, nous avons poursuivi le test afin de déterminer si ChatGPT pouvait nous aider à identifier des variables et leurs relations de cause à effet pour la prospective stratégique et l'analyse d'alerte précoce. Nous fournissons une transcription de notre conversation avec ChatGPT ainsi que nos commentaires, et concluons qu'il y a suffisamment de potentiel pour créer un assistant IA pour les variables nommé Calvin (rencontrez Calvin en cliquant ici).

ChatGPT, GPT, IA Générative... Commençons par mettre les choses au clair

Pourquoi est-ce important ?

Les 5 et 7 avril 2023, Goldman Sachs, dans ses Perspectives et dans l'édition spéciale "technologie" de ses Briefings a mis en garde contre les "changements radicaux de l'économie mondiale" que l'"intelligence artificielle générative" (voir ci-dessous) pourrait impliquer.

"Elle pourrait entraîner une augmentation de 7% (ou près de $7 trillions) du PIB mondial et augmenter la croissance de la productivité de 1,5 point de pourcentage sur une période de 10 ans..."

Cependant, "les changements dans les flux de travail déclenchés par ces avancées pourraient exposer l'équivalent de 300 millions d'emplois à temps plein à l'automatisation..."

Goldman Sachs Insights, "L'IA générative pourrait augmenter le PIB mondial de 7%", 5 avril 2023

OpenAI, pour sa part, a également fait une recherche sur l'impact, sur le marché du travail, de ses modèles d'IA et plus généralement sur les effets des grands modèles de langage (LLM) (Tyna Eloundou, Sam Manning, Pamela Mishkin, Daniel Rock, "GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models“, ArXiv, 17 Mar 2023 (v1), dernière révision le 23 mars 2023 - v4). Il convient toutefois de noter qu'OpenAI a également un intérêt corporatif et juridique à promouvoir les LLM et plus particulièrement ses modèles GPT en tant que "technologie d'usage général". Pour OpenAI, voir ses modèles GPTs perçus comme une "technologie d'usage général" impliquerait, par exemple, un très fort avantage pour la protection de sa marque. Cela renforcerait également la position de OpenAI dans sa lutte contre l'utilisation du nom GPT par d'autres (par exemple Connie Loizos, "'GPT’ may be trademarked soon if OpenAI has its way“, TechCrunch,25 avril 2023).

En général, la recherche menée par OpenAI a constaté que:

"... environ 80% de la main-d'œuvre américaine pourrait voir au moins 10% de ses tâches affectées par l'introduction des LLM, tandis qu'environ 19% des travailleurs pourraient voir au moins 50% de leurs tâches affectées...

Notre analyse suggère qu'avec l'accès à un LLM, environ 15% de toutes les tâches des travailleurs aux États-Unis pourraient être accomplies beaucoup plus rapidement au même niveau de qualité. Si l'on incorpore les logiciels et les outils construits sur la base des LLM, cette part augmente pour atteindre entre 47 et 56% de toutes les tâches".

Eloundou, et al. ("GPTs are GPTs, 2023)

L'IA générative est censée avoir un impact particulier sur les "industries du logiciel, de la santé et des services financiers" et, plus largement, sur les médias et les secteurs du "divertissement, de l'éducation, de la médecine et des technologies de l'information" (Ibid., Goldman Sachs Insights, "Stability AI CEO says AI will prove more disruptive than the pandemic", 31 mars 2023).

Par exemple, en mai 2023, les scénaristes d'Hollywood se sont mis en grève pour s'assurer que leur travail et leur salaire soient protégés de l'IA générative (Dawn Chmielewski et Lisa Richwine, "‘Plagiarism machines’: Hollywood writers and studios battle over the future of AI”, Reuters, 3 mai 2023). Comme autre exemple, une société californienne, Chegg, qui vend des services de tutorat spécialisés, voit ses actions chuter en raison de l'utilisation de ChatGPT par ses clients (Prarthana Prakash, "Chegg’s shares tumbled nearly 50% after the edtech company said its customers are using ChatGPT instead of paying for its study tools“, Fortune2 mai 2023).

En général, on estime que 900 types de professions seront touchés, et en premier lieu les travailleurs de la connaissance, les scientifiques et les codeurs de logiciels (Ibid.).

Comme êtres humains concernés par l'avenir, ou plus spécifiquement comme scientifiques et praticiens de la prospective stratégique et de l'alerte précoce, nous avons trois raisons majeures de nous pencher sur ces évolutions.

Tout d'abord, nous intéressant au futur, nous devons pouvoir intégrer le développement et l'utilisation de l'IA dans toutes nos analyses de prospective et d'alerte. C'est pour cette raison, par exemple, que nous avons créé notre première série d'articles sur l'IA.

Ensuite, les praticiens de la prospective stratégique, de l'alerte précoce, de la gestion des risques, etc. sont des "travailleurs du savoir" et des "scientifiques". Nous serons donc parmi les premiers touchés par l'IA générative, si Goldman Sachs a raison. Il est donc préférable de veiller à ce que l'IA nous serve plutôt qu'elle ne nous détruise.

Enfin, et de manière plus idéaliste, si l'IA générative contribue effectivement à faciliter le processus d'anticipation à bien des égards, elle devrait également permettre de répandre largement l'utilisation de la prospective et de l'alerte précoce. En conséquence, les obstacles à la prévention des crises et à l'atténuation des menaces seront potentiellement réduits. Toutefois, les défis liés à l'organisation du processus d'anticipation et à la volonté de prendre en compte les alertes précoces pourraient rester largement inchangés.

Qu'est-ce que ChatGPT, l'IA basée sur les modèles GPT et l'intelligence artificielle générative ?

Modèles GPT

GPT est un modèle linguistique (Natural Language) développé par OpenAI (Microsoft) qui utilise l'apprentissage profond pour générer des réponses semblables à celles des humains. Le sigle "GPT" signifie "Generative Pre-trained Transformer", ce qui signifie que l'IA a été entraînée sur de vastes quantités de données textuelles pour comprendre les nuances non seulement de la langue anglaise, mais aussi d'autres langues ((il existe une traduction française: "transformateur génératif pré-entraîné" ou TGP, mais nous garderons ici l'acronyme plus connu de GPT). Les modèles GPT font partie de la famille de l' IA générative .

Le modèle le plus récent, toujours testé par OpenAI, est gpt-4. Le modèle le plus récent commercialisé par OpenAI est gpt-3.5-turbo. En attendant que gpt-4 soit disponible, gpt-3.5-turbo est le modèle que nous utilisons ici, au sein de RTAS, dans le cadre de nos expériences avec les assistants IA pour la prospective et l'alerte stratégiques : Aria (toujours disponible sur le site, en bas à droite), Calvin, Kai, Regina et Pithia.

ChatGPT

ChatGPT est une application, utilisant un modèle GPT, qui peut tenir une conversation avec un humain et générer des réponses qui semblent avoir été écrites par une personne. C'est ce qui distingue l'application et effraie les gens. En mars-mai 2023, la version publique de ChatGPT utilise le modèle gpt-3.5-turbo. L'application la plus avancée utilise le modèle le plus récent, gpt-4, mais elle n'est accessible qu'aux abonnés payants (via ChatGPT Plus). Pour une utilisation externe via l'API, les développeurs et les utilisateurs doivent s'inscrire sur une liste d'attente.

IA générative

L'IA générative appartient à la catégorie Apprentissage automatique > Apprentissage profond > Apprentissages non supervisés, supervisés et de renforcement de l'IA (pour plus de détails sur les typologies de l'IA, voir Hélène Lavoix, "L'intelligence artificielle au service de la géopolitique - Présentation de l'IA“, “Intelligence artificielle et apprentissage approfondi - Le nouveau monde de l'IA en devenir“, “Insérer l'intelligence artificielle dans la réalité“, The Red Team Analysis Society).

Les derniers modèles GPT ont été formés par apprentissage supervisé et par renforcement avec un retour d'information humain (voir OpenAI, "Aligning language models to follow instructions“).

L'IA générative est donc typiquement basée sur des modèles d'apprentissage profond, qui sont entraînés sur de grands ensembles de données d'exemples afin d'apprendre des modèles et de générer de nouveaux contenus. Nous avons, par exemple, les réseaux adversaires génératifs (GAN - Ian Goodfellow et al. "Generative Adversarial Networks", 2014) et les autoencodeurs variationnels (VAEs - définis en 2013 par Kingma et al. et Rezende et al. - pour une explication J. Altosaar, "Tutorial – What is a variational autoencoder?"). Par exemple, un GAN peut être entraîné sur un ensemble d'images, puis utilisé pour générer de nouvelles images dont le style et le contenu sont similaires à ceux de l'ensemble de données original, mais qui ne sont pas des copies exactes.

L'IA générative est donc un type d'IA conçu pour créer ou générer un contenu nouveau et original, tel que des images, des vidéos, de la musique ou du texte. Vous pouvez voir ci-dessous des exemples d'images générées avec OpenAI Dall-E pour cet article, sur trois sujets : la sécurité dans les abysses, la sécurité spatiale et l'architecture steampunk.

Utilisation, applications et impacts

L'IA générative offre un large éventail d'applications potentielles, de la création de modèles 3D réalistes à la génération de contenus personnalisés pour les utilisateurs. Cependant, elle soulève également des questions d'éthique et de sécurité liées à l'utilisation abusive potentielle du contenu généré, comme les "deepfakes" ou les "fake news" (fausses nouvelles).

Le monde dans lequel évolue une application telle que ChatGPT, ainsi que la plupart des applications basées sur les modèles GPT, est numérique. En d'autres termes, la plupart des applications basées sur les GPT n'ont pas la capacité d'agir directement et concrètement dans la réalité... sauf si des êtres humains deviennent leurs actionneurs (voir Helene Lavoix, "Actionneur pour l'IA (1) : Insérer l'intelligence artificielle dans la réalité“, The Red Team Analysis Society, 14 janvier 2019).

Ainsi, les activités qui seront les plus touchées par les applications basées sur les modèles GPT et leurs semblables sont celles qui se situent dans le monde numérique. Nous pourrions reformuler cette caractéristique comme suit : plus une activité est insubstantielle - c'est-à-dire qu'elle n'a pas d'existence physique, plus elle sera susceptible d'être affectée par les applications d'IA générative telles que les applications basées sur les modèles GPT.

Par exemple, si vous êtes plombier ou maçon, il est très peu probable que ChatGPT ou une application similaire basée sur les GPT ait un impact sérieux sur votre activité. ChatGPT peut aider les gens à comprendre les canalisations ou la maçonnerie, et leur donner des conseils et des étapes à suivre pour faire quelque chose, mais l'activité réelle de réparation d'un évier ou d'enlèvement d'une partie d'un mur pour faire un placard sera toujours (tant que des robots adéquats n'existent pas) effectuée par un être humain réel et probablement par un spécialiste.

Au contraire, si votre travail est directement lié au web, qu'il s'agisse de marketing web, de codage ou de développement, il est très probable que votre travail soit fortement impacté par ChatGPT ou ses semblables.

De même, dans le monde des activités liées aux idées, y compris la connaissance, l'impact de l'IA générative sera très probablement important.

La logique est similaire à celle que nous avons identifiée et expliquée précédemment concernant l'importance des capteurs et des actionneurs pour le développement de l'IA (voir Lavoix, "Actionneur pour l'IA (1) : Insérer l'intelligence artificielle dans la réalité", Ibid, 2019). Cela correspond à ce que Eloundou, et al. ("GPTs are GPTs, 2023) ont trouvé :

...les industries de traitement de l'information (SCIAN à 4 chiffres) présentent une exposition élevée, tandis que l'industrie manufacturière, l'agriculture et l'exploitation minière présentent une exposition plus faible [aux LLM et aux GPT].

Eloundou, et al. ("GPTs are GPTs, 2023)
"Occupations with the highest exposure to GPTs or GPT-powered software", Eloundou, et al. ("GPTs are GPTs2023), tableau 4, p.16

Dans le même ordre d'idées, le document de recherche d'OpenAI présente un tableau des professions impactées, reproduit ici.

Logiquement, il apparaît que le degré d'exposition des activités "idéationnelles" varie également en fonction des types de compétences les plus nécessaires à une activité. Les sciences et la pensée critique sont les moins exposées et les moins impactées par les LLM, tandis que la programmation et l'écriture font partie des activités les plus exposées :

"Nos résultats indiquent que l'importance des compétences scientifiques et de la pensée critique est fortement associée négativement à l'exposition, ce qui suggère que les professions nécessitant ces compétences sont moins susceptibles d'être influencées par les LLMs actuels. À l'inverse, les compétences en programmation et en rédaction présentent une forte association positive avec l'exposition, ce qui implique que les professions faisant appel à ces compétences sont plus susceptibles d'être influencées par les LLMs."

Eloundou, et al. ("GPTs are GPTs, 2023), p.14.
"Skills exposure to GPTs or GPT-powered software", Eloundou, et al. ("GPTs are GPTs2023), tableau 5, p.17

Eloundou, et al. ("GPTs are GPTs, 2023) fournissent un tableau, reproduit ici, estimant l'exposition de divers types d'aptitudes principalement cognitives.

Cela permettra à chacun d'entre nous d'évaluer quelles tâches peuvent être facilitées ou menacées par des modèles de type GPT, en fonction de la manière dont l'IA est perçue, intégrée dans la société et utilisée.

Notre préoccupation concernant l'utilisation d'applications basées sur les GPT pour la prospective et l'alerte précoce stratégiques est donc un cas d'une question plus large concernant la manière dont l'IA générative aura un impact sur les activités fondées sur la connaissance et les idées.

Concrètement, le type et l'étendue de l'impact des modèles d'IA générative et de leurs applications dépendront des particularités de chaque modèle et de ses applications dans le cadre d'activités spécifiques. Passons donc à un cas pratique, l'utilisation de ChatGPT pour la prospective et l'alerte précoce stratégiques. Le premier test que nous avons effectué, est axé sur le futur de la guerre en Ukraine.

Test de ChatGPT sur le futur de la guerre en Ukraine

Pas (encore) un outil permettant la surveillance et la veille des évènements en-cours

Le premier défi auquel nous avons été confrontés était que gpt-3.5-turbo, donc le modèle utilisé par ChatGPT, a terminé sa formation en septembre 2021. Le second était que ChatGPT est un système fermé, incapable d'accéder à l'internet ou à toute autre source d'information après la fin de sa formation.

Voici la réponse de ChatGPT, à qui nous avons demandé s'il pouvait fournir une analyse politique des questions d'actualité :

Je peux fournir des évaluations politiques sur les événements actuels au mieux de mes capacités, sur la base des informations disponibles jusqu'à la fin de ma dernière formation en septembre 2021. Cependant, veuillez garder à l'esprit que mes réponses peuvent ne pas refléter les développements les plus récents ou l'état actuel des affaires, car le monde est en constante évolution.

ChatGPT - 2 mai 2023

Par conséquent, ChatGPT et ses semblables ne peuvent pas être utilisés, pour l'instant, pour toutes les étapes du processus de prospective stratégique et d'alerte précoce ou du système de gestion des risques qui nécessitent des informations actualisées. Par exemple, il ne peut être utilisé ni pour le suivi et la surveillance des questions d'alerte précoce, ni pour estimer la probabilité de scénarios, ni pour l'utilisation de ces derniers pour orienter la politique. En ce qui concerne les "scans" (horizon scanning), il devrait être complété par d'autres outils.

Pour ceux qui seraient déçus, sachez qu'OpenAI a ouvert ses modèles aux développeurs qui travaillent sur des plugins pour ChatGPT , lesquels permettraient, par exemple, de "récupérer des informations en temps réel". Ce n'est donc qu'une question de temps avant que les modèles et les applications basés sur les GPT puissent être mis à jour. D'ailleurs, le "Nouveau Bing', le nouveau moteur de recherche de Microsoft, utilise GPT-4 et, de facto, accède à l'Internet.

Même si les développements sont très rapides dans le domaine, pour l'instant, notre test sera effectué avec ce qui est disponible : une IA générative dont les "connaissances" ont été coupées en septembre 2021.

Si ChatGPT, tel qu'il est actuellement (printemps 2023), n'est pas un outil que nous pouvons utiliser pour suivre les évolutions en cours, cela signifie-t-il aussi qu'il est inutile pour tout ce qui concerne la prospective stratégique et l'alerte précoce ? Alternativement, même coupé des événements et des connaissances les plus récents, peut-il néanmoins nous être utile ?

Premiers jalons d'un outil contribuant à l'élaboration d'un modèle de prospective stratégique et d'alerte précoce

Compte-tenu de la méthodologie de prospective stratégique et d'alerte précoce, nous testerons la manière dont ChatGPT et les modèles GPT peuvent devenir des outils pour différents aspects du processus analytique.

Sachant que la plupart des méthodologies sérieuses de prospective stratégique et d'alerte, voire toute analyse, reposent sur une modélisation explicite, nous examinerons tout d'abord la capacité de ChatGPT à nous aider dans la création et le développement de notre modèle (voir Hélène Lavoix, "Modélisation des risques et des incertitudes dynamiques (1) : Cartographie des risques et des incertitudes“, The Red Team Analysis Society, 2018 [2011] ; Joshua Epstein, Joshua M., "Why Model?“, Journal of Artificial Societies and Social Simulation 11(4)12, 2008; The Millennium Project: Futures Research Methodology,Version 3.0, 2009).

ChatGPT peut-il aider à identifier les facteurs et les acteurs cruciaux pour notre question ? Plus précisément, peut-il nous aider à découvrir les variables et les relations de cause à effet qui déterminent la dynamique de notre problème de prévision et d'alerte stratégiques ?

Nous avons copié et collé la conversation avec ChatGPT ci-dessous, et ajouté des commentaires dans la colonne à côté des réponses.

Dialogue avec Chat GPT (26 mars 2023)

Commentaires

discours, keynote, orateur, conférence, Red Team, Red Teaming, quantum, AI, changement climatique, risque, risque externe, prospective stratégique, futurisme, alerte, red team, société d'analyse, consultant, chercheur, expert Pouvez-vous identifier les variables avec leurs attributs pour la question "l'avenir de la guerre en Ukraine au cours des 12 prochains mois" ?

ChatGPT :

Certainement ! Voici quelques variables possibles avec leurs attributs associés qui pourraient être pertinentes pour la question de l'avenir de la guerre en Ukraine au cours des 12 prochains mois :

  1. Force militaire : La force militaire relative des parties opposées dans le conflit, y compris leur armement, leur entraînement et leurs effectifs.
  2. Efforts diplomatiques : L'étendue et le succès des efforts diplomatiques pour résoudre le conflit, y compris les négociations entre l'Ukraine, la Russie et les autres parties concernées.
  3. Sanctions économiques : L'utilisation et l'efficacité des sanctions économiques contre la Russie, accusée de soutenir les rebelles séparatistes dans l'est de l'Ukraine.
  4. Politique intérieure : La situation politique intérieure en Ukraine, en Russie et dans d'autres pays concernés, y compris la popularité des dirigeants et leur volonté de compromis ou d'escalade du conflit.
  5. Alliances internationales : Le niveau de soutien que l'Ukraine et la Russie reçoivent de leurs alliés et partenaires, y compris l'OTAN, l'UE et la Chine.
  6. Situation humanitaire : La situation humanitaire en Ukraine et l'impact du conflit sur les civils, y compris les déplacements, les victimes et l'accès aux besoins fondamentaux tels que la nourriture, l'eau et les soins médicaux.
  7. La couverture médiatique : La couverture médiatique et l'opinion publique sur le conflit en Ukraine, tant au niveau national qu'international, qui peuvent influencer les décisions politiques et la pression publique en faveur d'une résolution.

Il ne s'agit là que de quelques variables possibles qui pourraient être pertinentes pour comprendre l'avenir de la guerre en Ukraine au cours des 12 prochains mois. D'autres facteurs, tels que la géographie, le contexte historique et les différences culturelles, peuvent également être importants à prendre en compte.

Même si les modèles GPT ont été fermés avant le début de la guerre, une guerre est fondée sur des dynamiques qui commencent souvent bien avant ledit début de la guerre. En outre, la connaissance ayant trait aux relations internationales, à la guerre, aux différents acteurs impliqués, etc. s'appuie sur des millénaires de compréhension. Par conséquent, un modèle de formation GPT arrêté en septembre 2021 devrait être suffisant pour nous aider à identifier les variables et leurs relations de cause à effet pour notre problème. Il nous suffirait de vérifier que les variables identifiées permettent de prendre en compte les événements et les dynamiques de la vie réelle qui se sont déroulés après septembre 2021. Le cas échéant, nous pourrions corriger notre modèle en conséquence.

Ici, les variables données par ChatGPT sont correctes mais, comme le dit ChatGPT, non exhaustives, alors que si nous n'avons pas effectivement besoin de toutes les variables, nous avons néanmoins besoin de nombre d'entres elles, et certainement de plus que ce qui a été donné ici par ChatGPT. De surcroit, nous sommes encore à un niveau de généralité très élevé. Les variables données sont à peine suffisantes pour capturer les complexités des dynamiques réelles, les spécificités de chaque acteur, etc. Elles n'intègrent pas non plus certains aspects de la connaissance et de la compréhension, comme, par exemple, le niveau d'analyse systémique.

Ainsi, avec le type de question utilisé au départ, les réponses de ChatGPT pourraient être utiles aux débutants, aux profanes et aux non-spécialistes qui commencent une analyse sur ce type de questions. Ces variables peuvent servir de point de départ mais ne sont pas suffisantes.

En ce qui concerne les attributs des variables, certains sont donnés mais pas systématiquement. Cet aspect devra être traité de manière plus précise et spécifique par la suite.


discours, keynote, orateur, conférence, Red Team, Red Teaming, quantum, AI, changement climatique, risque, risque externe, prospective stratégique, futurisme, alerte, red team, société d'analyse, consultant, chercheur, expert Pouvez-vous ajouter des variables relatives au système international ?

ChatGPT :

Certainement ! Voici quelques variables supplémentaires liées au système international qui pourraient être pertinentes pour la question de l'avenir de la guerre en Ukraine au cours des 12 prochains mois :

  1. Géopolitique : Le contexte géopolitique plus large du conflit, y compris la dynamique du pouvoir et les intérêts stratégiques des principales puissances impliquées, telles que les États-Unis, la Russie, la Chine et l'UE.
  2. Le droit international : Le rôle du droit international et des institutions internationales dans la résolution du conflit, y compris l'autorité et les capacités de mise en œuvre d'organismes tels que les Nations unies et la Cour pénale internationale.
  3. Normes et valeurs : Le rôle des normes et valeurs partagées, telles que la démocratie, les droits de l'homme et l'État de droit, dans la formation des attitudes internationales à l'égard du conflit et dans l'influence du comportement des parties impliquées.
  4. L'interdépendance économique : Le degré d'interdépendance économique entre l'Ukraine, la Russie et d'autres pays concernés, et l'impact potentiel du conflit sur le commerce, les investissements et la stabilité économique mondiale.
  5. Alliances militaires : L'impact des alliances militaires et des accords de sécurité, tels que l'OTAN et l'Organisation du traité de sécurité collective, sur le conflit et le potentiel d'escalade.
  6. Coopération internationale : L'étendue et l'efficacité de la coopération et de la coordination internationales dans le traitement du conflit, y compris les efforts pour fournir une aide humanitaire, surveiller les accords de cessez-le-feu et soutenir les négociations diplomatiques.

Ces variables soulignent l'importance de comprendre le contexte international plus large dans lequel se déroule le conflit et la manière dont il influence les actions et les décisions des parties impliquées.

Nous avons donc demandé à ChatGPT d'ajouter d'autres types de variables que nous savions importantes.

Les résultats obtenus sont à la fois intéressants et bons. Il est particulièrement frappant que ChatGPT ait pensé à inclure les normes et les valeurs.

Cependant, là encore, des variables manquent. Par exemple, les éléments relatifs à l'école réaliste des relations internationalessont absents, mais nous pouvons supposer que de meilleures questions donneraient de meilleurs résultats. Nous devons également veiller à ce que des biais ne soient pas introduits à l'étape du choix des variables.

Après deux échanges, il semble qu'un moyen d'utiliser ChatGPT pour les variables, est de travailler par itérations grâce à un dialogue entre le praticien et l'IA, le premier obtenant ainsi progressivement les variables dont il a besoin.


discours, keynote, orateur, conférence, Red Team, Red Teaming, quantum, AI, changement climatique, risque, risque externe, prospective stratégique, futurisme, alerte, red team, société d'analyse, consultant, chercheur, expert Faut-il ajouter l'intérêt national américain comme variable ?

ChatGPT :

Oui, l'intérêt national américain pourrait être une variable pertinente à prendre en compte dans la question de l'avenir de la guerre en Ukraine au cours des 12 prochains mois. Les États-Unis se sont impliqués dans le conflit de différentes manières, notamment en fournissant une aide militaire et économique à l'Ukraine, en imposant des sanctions à la Russie et en soutenant les efforts diplomatiques visant à résoudre le conflit.

Parmi les attributs possibles de cette variable, on peut citer

  1. Intérêts stratégiques : La mesure dans laquelle le conflit en Ukraine s'aligne sur les intérêts stratégiques américains ou les remet en cause, tels que la promotion de la démocratie et des droits de l'homme, l'endiguement de l'agression russe et le maintien de la stabilité en Europe.
  2. La politique intérieure : Le rôle de la politique intérieure dans l'élaboration de la politique américaine à l'égard du conflit, y compris les points de vue et les intérêts des principales parties prenantes telles que le Congrès, le président et les groupes d'intérêt.
  3. Alliances et partenariats : L'impact des alliances et partenariats américains, tels que l'OTAN et l'UE, sur le conflit et le potentiel d'escalade.
  4. Intérêts économiques : L'impact potentiel du conflit sur les intérêts économiques américains, tels que le commerce et les investissements avec l'Ukraine et d'autres pays de la région.
  5. Capacités militaires : La mesure dans laquelle les capacités militaires américaines pourraient être mobilisées en réponse au conflit, y compris la possibilité d'une intervention militaire directe ou d'un soutien aux forces ukrainiennes.

Cependant, il est important de noter que l'intérêt national américain n'est qu'une des nombreuses variables qui pourraient être pertinentes pour comprendre l'avenir de la guerre en Ukraine au cours des 12 prochains mois, et qu'il devrait être considéré en conjonction avec d'autres facteurs, tels que les intérêts et les actions d'autres acteurs clés dans le conflit.

Nous avons également testé ChatGPT en demandant si une variable très spécifique, en l'occurrence "l'intérêt national américain", était une variable pour notre question.

La réponse était intéressante, bien qu'imparfaite du point de vue strict de la définition d'une variable et de ses attributs en sciences sociales.

En termes de sciences sociales, "une variable est un ensemble logique d'attributs" (art "Variable et attribut (recherche)" Wikipedia - mentionnant Earl R. Babbie, The Practice of Social Research, 12e édition, Wadsworth Publishing, 2009, p. 14-18).

Il semble donc qu'ici nos instructions et nos définitions n'aient pas été suffisamment claires pour ChatGPT. Le résultat n'est donc pas celui que nous attendions.

Plutôt que d'obtenir un ensemble clair de variables avec leurs attributs, nous avons obtenu une variable avec des variables influentes (ou dépendantes) et des variables influencées (indépendantes), avec des explications et des attributs, le tout présenté de manière explicative.

La substance de la réponse, cependant, nous laisse penser que si nous corrigeons notre question et, finalement, formons ChatGPT de manière adéquate, nous pourrons - avec un peu de chance - obtenir le bon ensemble de variables avec leurs attributs.


discours, keynote, orateur, conférence, Red Team, Red Teaming, quantum, AI, changement climatique, risque, risque externe, prospective stratégique, futurisme, alerte, red team, société d'analyse, consultant, chercheur, expert Maintenant que vous avez mis en évidence des variables, pouvez-vous spécifier des liens de causalité entre elles ?

ChatGPT :

Certainement ! Voici quelques liens de causalité possibles entre les variables précédemment identifiées pour la question de l'avenir de la guerre en Ukraine au cours des 12 prochains mois :

  1. Force militaire -> escalade du conflit : Si l'une des parties perçoit un avantage militaire significatif, elle peut être plus encline à intensifier le conflit, ce qui entraîne une augmentation de la violence et du nombre de victimes.
  2. Efforts diplomatiques -> Résolution du conflit : Des efforts diplomatiques fructueux pourraient conduire à une résolution pacifique du conflit, éventuellement par le biais de négociations ou d'un accord de cessez-le-feu.
  3. Sanctions économiques -> pression politique : les sanctions économiques pourraient exercer une pression politique sur la Russie pour qu'elle modifie son comportement, ce qui pourrait conduire à une réduction du soutien aux rebelles séparatistes et à une désescalade du conflit.
  4. Politique intérieure -> Décisions politiques : La situation politique en Ukraine, en Russie et dans d'autres pays concernés pourrait influencer les décisions politiques de leurs dirigeants, ce qui pourrait conduire à une escalade ou à une désescalade du conflit.
  5. Alliances internationales -> Soutien militaire et économique : Le niveau de soutien que l'Ukraine et la Russie reçoivent de leurs alliés et partenaires pourrait influencer les capacités militaires et économiques des parties opposées, ce qui pourrait conduire à une escalade ou à une désescalade du conflit.
  6. Situation humanitaire -> Intervention internationale : La situation humanitaire en Ukraine pourrait accroître la pression internationale en faveur d'une intervention, ce qui pourrait conduire à une réponse plus énergique au conflit.
  7. Couverture médiatique -> Opinion publique : La couverture médiatique du conflit pourrait influencer l'opinion publique et les décisions politiques, ce qui pourrait conduire à une escalade ou à une désescalade du conflit.
  8. Géopolitique -> Décisions stratégiques : Le contexte géopolitique plus large du conflit pourrait influencer les décisions stratégiques des principales puissances impliquées, ce qui pourrait conduire à une escalade ou à une désescalade du conflit.
  9. Droit international -> Conformité : Le rôle du droit international et des institutions internationales dans la résolution du conflit pourrait influencer le respect des accords de cessez-le-feu et des autres efforts diplomatiques par les parties concernées.
  10. Interdépendance économique -> Impact économique : Le degré d'interdépendance économique entre l'Ukraine, la Russie et d'autres pays concernés pourrait influer sur l'impact économique potentiel du conflit, ce qui pourrait entraîner des pressions en faveur d'une désescalade.
  11. Alliances militaires -> Risque d'escalade : L'impact des alliances militaires et des accords de sécurité pourrait augmenter le risque d'escalade, ce qui pourrait conduire à des réponses plus énergiques au conflit.
  12. Coopération internationale -> Résolution des conflits : La coopération et la coordination internationales pourraient soutenir les efforts diplomatiques visant à résoudre le conflit, ce qui pourrait conduire à une résolution pacifique du conflit.
  13. Intérêt national américain -> Décisions politiques : L'intérêt national américain pourrait influencer les décisions politiques du gouvernement américain à l'égard du conflit, ce qui pourrait conduire à une escalade ou à une désescalade du conflit.

Il est important de noter qu'il ne s'agit que de quelques liens de causalité possibles entre les variables, et que les relations de causalité réelles entre les variables peuvent être plus complexes et interdépendantes que ne le suggèrent ces relations simples.

Sachant qu'il est donc possible, avec des corrections, un entraînement et des itérations, obtenir des variables pour notre modèle, l'étape suivante consistait à savoir si ChatGPT pouvait identifier des relations de cause à effet entre lesdites variables.

Il est intéressant de noter que ChatGPT a pu recueillir toutes les variables de nos échanges depuis le début de la conversation.

Il a également pu identifier certaines relations entre les variables, mais en aucun cas toutes. Pour ne citer qu'une relation manquante parmi tant d'autres, "escalade du conflit" et "risque d'escalade" ne sont pas liés par ChatGPT.

Nous pouvons imaginer, bien que nous ne l'ayons pas essayé, qu'à nouveau, nous pourrions inciter ChatGPT à tester plus avant l'existence ou non d'autres relations causales. Cependant, dans ce cas, l'utilisation de ChatGPT pourrait s'avérer plus lourde et plus longue que la création directe de nos relations causales sans intervention de modèle GPT à partir de notre compréhension, de l'accumulation classique de connaissances (recherche, lecture, compréhension) et/ou d'ateliers d'experts.

De plus, un résultat énumérant les relations de cause à effet entre les variables pourrait être extrêmement ennuyeux à lire et peu pratique.

Pour établir des relations de cause à effet entre les variables, il est préférable d'utiliser un logiciel de construction et de visualisation de graphes et non un texte linéaire. ChatGPT étant une application basée sur le texte, elle ne peut pas vraiment aider, ou du moins pas directement ici.

Pour mener à bien l'expérience, nous avons néanmoins continué à chercher un moyen de traduire facilement le résultat produit par ChatGPT en quelque chose qu'un logiciel de graphes pourrait lire et utiliser.


discours, keynote, orateur, conférence, Red Team, Red Teaming, quantum, AI, changement climatique, risque, risque externe, prospective stratégique, futurisme, alerte, red team, société d'analyse, consultant, chercheur, expert Pouvez-vous maintenant représenter les relations causales entre les variables sous forme de matrice ?

ChatGPT :

Certainement ! Voici une matrice qui montre les relations causales possibles entre les variables identifiées pour la question de l'avenir de la guerre en Ukraine au cours des 12 prochains mois :

Liens de causalitéLa force militaireEfforts diplomatiquesSanctions économiquesPolitique intérieureAlliances internationalesSituation humanitaireCouverture médiatiqueGéopolitiqueDroit internationalInterdépendance économiqueAlliances militairesCoopération internationaleIntérêt national américain
Force militaire -> escalade des conflits1
Efforts diplomatiques -> Résolution des conflits1
Sanctions économiques -> Pression politique1
Politique intérieure -> Décisions politiques1
Alliances internationales -> Soutien militaire et économique1
Situation humanitaire -> Intervention internationale1
Couverture médiatique -> Opinion publique1
Géopolitique -> Décisions stratégiques1
Droit international -> Conformité1
Interdépendance économique -> Impact économique1
Alliances militaires -> Risque d'escalade1
Coopération internationale -> Résolution des conflits11
Intérêt national américain -> Décisions politiques111111

Dans la matrice ci-dessus, la variable de ligne représente la cause ou la variable indépendante, et la variable de colonne représente l'effet ou la variable dépendante. Un "X" dans une cellule indique un lien de causalité potentiel entre les variables de ligne et de colonne correspondantes, et une cellule vide indique qu'il n'y a pas de lien de causalité significatif.

Là encore, il est important de noter qu'il ne s'agit que de quelques liens de causalité possibles entre les variables, et que les relations de causalité réelles entre les variables peuvent être plus complexes et interdépendantes que ne le suggèrent ces relations simples.

L'outil mathématique derrière un graphe étant une matrice carrée, nous avons demandé à ChatGPT de traduire les relations causales pour les variables qu'il a identifiées sous la forme d'une matrice.

Le résultat est à la fois décevant et enthousiasmant.

Excitant parce qu'il a effectivement créé une matrice, décevant parce que les relations que ChatGPT avait trouvées initialement sont incluses dans les variables horizontales, et que les liens, par conséquent, ne sont pas corrects.

Cependant, avec une formation du modèle GPT et des efforts, il pourrait être possible d'obtenir quelque chose de mieux... à tester à l'avenir.

Nous avons pu ensuite exporter la matrice sous forme de fichier csv et la lire dans Gephi sous forme de graphe.


Conclusion du test

En l'état, les modèles ChatGPT et gpt-3.5-turbo ne peuvent pas produire directement un modèle suffisamment bon pour une question de prospective stratégique et d'alerte précoce relative à la sécurité nationale et internationale.

Toutefois, il existe dans ce domaine un grand potentiel pour les GPT et leurs applications, et donc probablement pour l'IA générative.

En l'état, nous estimons que ChatGPT peut néanmoins être très utile aux débutants et aux non-spécialistes. Les itérations et les questions de plus en plus précises apparaissent comme la meilleure façon systématique d'utiliser ChatGPT pour les variables et les relations causales. Nous pouvons également imaginer que l'IA peut aider les spécialistes si les questions posées sont formulées avec précision - et donc bien comprises par ChatGPT.

Cela met également en évidence l'importance des invites (les questions posées à une IA générative) lors de l'interaction avec de telles IA, et suggère ainsi un nouveau type d'activité qui pourrait émerger à côté des activités traditionnelles, pour la prospective et l'alerte stratégiques en particulier et plus généralement pour une bonne utilisation de l'IA générative.

Nous avons également identifié d'autres défis ayant un impact sur l'identification des variables et des relations causales, tels que le problème des références bibliographiques, qui manquent ici dans les réponses du ChatGPT. En effet, les variables et les relations causales devraient être fondées sur des faits, sur la logique et la recherche scientifique. L'idéal serait donc de disposer d'une référence pour chaque variable et chaque relation. Nous aborderons plus en détail cet aspect essentiel dans un autre article. En effet, si des variables et des liens erronés ou carrément faux étaient inclus dans les modèles, ou si des variables étaient omises volontairement ou à cause de biais, alors le modèle deviendrait inutile, ou biaisé, avec de graves conséquences en termes de prévention.

Dans l'ensemble, nous estimons que le potentiel est suffisant pour créer un assistant d'IA correspondant, Calvin, que nos membres et nos lecteurs pourront utiliser. Nous avons l'intention de continuer à améliorer cet assistant IA. Notamment, à l'avenir, une formation plus poussée de l'IA à nos fins spécifiques - appelée réglage fin - pourrait donner des résultats très intéressants. Toutefois, il semble préférable d'attendre la version complète de GPT-4 pour entamer un tel processus, après avoir effectué un nouveau test avec GPT-4.

Finalement, à supposer qu'une IA générative puisse effectivement créer les modèles conceptuels dont nous avons besoin, l'un des dangers potentiels serait que les praticiens cessent de faire l'effort de penser (voir également ** ci-dessous). On peut se demander si cela n'entraînerait pas une diminution des capacités cognitives. Dans ce cas, il serait important de s'assurer que la réflexion se poursuive et que les capacités de l'IA générative soient correctement intégrées dans un processus qui ne nuise pas aux êtres humains.

D'un point de vue positif, l'utilisation de l'IA générative pourrait tellement accélérer la création d'un modèle adéquat qu'elle faciliterait et diffuserait l'utilisation de prospective stratégique et d'alerte précoce de qualité et, par conséquent, renforcerait les capacités humaines à prévenir les menaces.

Notes

*... à moins que d'autres événements encore plus bouleversants ne se produisent. Les spécificités des changements qui émergeront de l'utilisation de l'IA en général, et de l'IA de type ChatGPT en particulier, peuvent également différer de nos attentes actuelles. Ces deux points seront abordés dans de futurs articles. Nous nous concentrons ici sur le très probable et l'évolution générée par l'IA de type ChatGPT.

**... cette tâche est également utilisée dans les ateliers pour ouvrir l'esprit des participants et générer de nouvelles idées. Pour les analystes, le simple fait de faire l'effort cognitif de trouver les variables et leurs relations de cause à effet améliore la compréhension d'une question. Ainsi, pouvoir effectuer cette tâche seul ou en groupe a une grande valeur en soi. Que cet aspect de la recherche et de l'analyse soit entièrement réalisé par un agent IA risque donc d'avoir de graves conséquences négatives. Il sera donc essentiel d'intégrer de manière créative l'outil d'IA, une fois opérationnel, de manière à minimiser les inconvénients.

Publié par Dr Helene Lavoix (MSc PhD Lond)

Dr Hélène Lavoix, PhD Lond (relations internationales), est la présidente de The Red Team Analysis Society. Elle est spécialisée dans la prospective stratégique et l'alerte précoce pour les relations internationales et les questions de sécurité nationale et internationale. Elle s'intéresse actuellement notamment à la guerre en Ukraine, à l'ordre international et à la place de la Chine en son sein, au dépassement des frontières planétaires et aux relations internationales, à la méthodologie de la prospective stratégique et de l'alerte précoce, à la radicalisation ainsi qu'aux nouvelles technologies et à leurs impacts sécuritaires.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

FR