Prévoir l'arrivée de l'AGI : une étude souligne le risque existentiel imminent pour l'humanité,
qui pourrait être confrontée à son plus grand et son plus proche péril existentiel
Une étude utilise des modèles économiques pour estimer la date d’arrivée de l’intelligence artificielle de niveau humain (AGI), c’est-à-dire une intelligence artificielle capable de réaliser toutes les tâches intellectuelles humaines. Selon cette étude, la date moyenne prévue pour l’AGI est 2041, avec une fourchette probable de 2032 à 2048, et une date la plus proche possible de 2028. L’étude souligne que l’AGI représente un risque existentiel imminent pour l’humanité, qui pourrait survenir avant les effets du réchauffement climatique.
L’étude retrace également l’évolution historique de la recherche et de la technologie en informatique et en intelligence artificielle, en mettant en évidence les progrès récents dans les systèmes de langage génératif et les avertissements des experts sur les dangers potentiels de l’AGI. L’AGI désigne un type de système d’IA capable de réaliser toutes les tâches intellectuelles d’un être humain. Autrement dit, l’AGI a une compréhension générale du monde et peut s’adapter à de nouvelles situations et environnements, tout comme le ferait un être humain.
L’IA se rapproche plus vite que prévu des capacités humaines. Les progrès rapides de l’IA dans des domaines comme le traitement du langage naturel (NLP) ont relancé le débat sur ce concept qui serait pour certains observateurs largement spéculatif. ChatGPT est une innovation majeure dans le domaine du traitement du langage naturel. Ce modèle de génération de langage à la pointe de la technologie a déjà démontré son efficacité dans divers secteurs. L’évolution rapide de l’IA ces derniers mois montre que l’ère de l’IA est déjà là. De nombreuses entreprises technologiques, comme Baidu et Google BARD, travaillent déjà sur leurs propres modèles concurrents pour ChatGPT.
Toutefois, il faut souligner que ce que nous avons accompli jusqu’à présent est une forme d’intelligence artificielle étroite (ANI). Ces systèmes d’IA sont conçus pour réaliser des tâches spécifiques, comme la reconnaissance d’images ou le jeu d’échecs, mais ils n’ont pas la compréhension générale du monde qu’aurait une intelligence artificielle générale.
Selon les chercheurs, le prochain quart de siècle jusqu'au milieu du XXIe siècle verra probablement l'arrivée de l'AGI et de tous les défis et risques qu'elle peut apporter à l'humanité, y compris des changements existentiels et catastrophiques, auxquels les générations actuelles, et pas seulement futures, devront faire face et qu'elles devront gérer.
L’AGI, une réalité proche et incertaine
L'étude appuie donc les alertes récentes sur les dangers existentiels à l’horizon 2023 émises par les principaux acteurs de la technologie de l’IA, tels que Hinton, Hassibis et Bengio. Par contre, elle ne va pas dans le sens des philosophes qui minimisent ou détournent les accusations de risque existentiel de l’IA, et qui se heurtent à des obstacles insurmontables dans les questions abstraites, comme celle de la conscience de l’IA.
Selon le PDG de Google Deepmind, « Il est possible d’atteindre une forme d’intelligence artificielle au niveau humain dans une décennie », ce qui donnerait aux machines un « sens commun. » À ce stade d’intelligence artificielle générale, elles seraient capables de raisonnement causal, c’est-à-dire de cette aptitude à réfléchir sur « la raison pour laquelle les choses se passent. »
En attendant d’y arriver, le PDG de Google Deepmind préconise de développer les systèmes d’intelligence artificielle de manière responsable pour une transition en douceur. « Je suis favorable à ce que nous continuions à travailler sur des systèmes d’IA à utiliser comme des outils pour nous aider à mieux les comprendre avant de passer à un autre niveau », admet-il en ajoutant que « cette approche peut permettre une meilleure exploration des mystères de la conscience. »
Pour Masayoshi Son, PDG de SoftBan, l'intelligence générale artificielle verrait le jour d'ici 10 ans. S'exprimant lors de la conférence d'entreprise SoftBank World, il a déclaré : « Il est faux de dire que l'IA ne peut pas être plus intelligente que l'homme, car elle est créée par l'homme. L'IA est désormais capable de s'auto-apprendre, de s'auto-former et de s'auto-inférencer, tout comme les êtres humains. »
Depuis quelques années, Son évoque le potentiel de l'AGI - en utilisant généralement le terme "singularité" - pour transformer les entreprises et la société, mais c'est la première fois qu'il donne un calendrier pour son développement.
Comme la date d'arrivée de l'AGI est estimée, selon l’étude, à un quart de siècle ou au milieu du XXIe siècle, il est presque certain qu'elle se produira avant que l'urgence du réchauffement planétaire ne prenne effet. Et comme l'AGI pourrait comporter un risque existentiel pour l'homme, on peut en conclure et en déduire que l'AGI est probablement le risque existentiel potentiel le plus important et le plus imminent pour l'humanité, et qu'il convient donc de s'en préoccuper de toute urgence et à l'échelle mondiale dès à présent. Une hypothèse initiale prudente pourrait donc être que nous nous trouvons actuellement quelque part entre 5 % et 30 % du chemin à parcourir pour passer de l'absence d'AGI à l'AGI complète.
Un chemin semé d’innovations et de dangers
La question suivante est de savoir à quelle vitesse nous avançons, année après année, sur ce chemin vers l’AGI. Il est évident qu’il y a eu une longue période dans l’histoire de l’humanité, disons de 500 000 ans à 1900, où l’on pourrait dire qu’il n’y a pas eu d’avancée mécanique vers l’AGI, même si des découvertes importantes en physique et en mathématiques ont été faites, surtout vers la fin de cette période, qui forment la base conceptuelle du développement de l’AGI.
De même, de 1900 à 1960, par exemple, avec l’apparition des premiers transistors électroniques, il y a eu plus de recherche fondamentale sur la théorie de l’AGI, la théorie de l’informatique s’est développée et les premiers grands ordinateurs centraux ont été construits. La période de 1960 à 2000 a connu d’immenses progrès dans la technologie des puces d’ordinateur et le développement des puces graphiques, des PC et des serveurs.
C'est pour quand ? Prédire la date d'arrivée prévue de l'AGI
La période 2000-2020 a été marquée par l’explosion des technologies de l’information, des télécommunications et des réseaux sociaux, ainsi que par la connexion de tous les habitants de la planète. La période de 2020 à 2023+, malgré la crise du Covid, a vu l’apparition publique de systèmes d’IA générative à grand modèle de langage LLM, tels que : ChatGPT, GPT4, Bard et, au premier semestre 2023, des alertes de la part des principaux scientifiques qui ont créé ces systèmes, d’un risque existentiel possible si le développement non régulé continue.
L’intelligence, l’IA et l’AGI : une tentative de définition et de compréhension
Il existe une littérature riche et continue qui essaie de proposer des définitions plus formelles et plus complètes de l’intelligence, de l’IA et de l’AGI, mais aucune d’elles n’est sans problèmes ou controverses. Par exemple, Legg et Hutter proposent une définition de l’AGI centrée sur les objectifs : l’intelligence mesure la capacité d’un agent à atteindre des objectifs dans une grande variété d’environnements.
Cependant, cette définition n’englobe pas forcément tout le spectre de l’intelligence, car elle exclut les systèmes passifs ou réactifs qui peuvent accomplir des tâches complexes ou répondre à des questions sans motivation ou objectif intrinsèque. On pourrait imaginer une AGI, un oracle brillant par exemple, qui n’a pas d’agence ni de préférences, mais qui peut fournir des informations précises et utiles sur n’importe quel domaine.
De plus, la définition de la réalisation d’objectifs dans une grande variété d’environnements implique aussi un certain degré d’universalité ou d’optimalité, qui n’est peut-être pas réaliste (l’intelligence humaine n’est certainement jamais universelle ni optimale). La nécessité de reconnaître l’importance du contexte (par opposition à l’universalité) a été soulignée dans la définition proposée par Cholletin, qui centre l’intelligence sur l’efficacité de l’acquisition des compétences ou, en d’autres termes, met l’accent sur l’apprentissage par l’expérience (qui s’avère également être l’une des principales faiblesses des LLM).
Il n’y a pas de définition de l’intelligence qui fasse l’unanimité, mais un aspect largement admis est que l’intelligence ne se limite pas à un domaine ou à une tâche spécifique, mais qu’elle couvre plutôt un large éventail de compétences cognitives et d’aptitudes. Dans leurs premiers écrits, les fondateurs du domaine moderne de la recherche sur l’intelligence artificielle (IA) ont parlé d’objectifs ambitieux pour comprendre l’intelligence.
Au fil des décennies, les chercheurs en IA ont étudié les principes de l’intelligence, y compris les mécanismes généralisables de raisonnement et la construction de bases de connaissances contenant un large corpus de connaissances de bon sens. Cependant, beaucoup des succès récents de la recherche en IA peuvent être décrits comme étant étroitement focalisés sur des tâches et des défis bien définis, tels que le jeu du Chorus ou du Go, qui ont été maîtrisés par des systèmes d’IA en 1996 et 2016, respectivement.
La singularité de l’IA fait référence à un futur hypothétique où l’intelligence artificielle dépasse l’intelligence humaine et évolue potentiellement hors du contrôle humain. Elle est souvent associée à des scénarios dans lesquels les machines deviennent conscientes d’elles-mêmes et constituent une menace pour l’humanité. Cependant, tous les experts ne croient pas que l’AGI conduira à la singularité, et certains pensent que le développement de l’AGI pourrait ne jamais se produire. Jusqu’à présent, l’AGI reste un élément fondamental de la science-fiction, comme en témoignent les films hollywoodiens de science-fiction dystopique.
Les checheurs présentent les hypothèses de base qui sous-tendent l’analyse, qui consiste à utiliser des modèles économiques pour estimer la date d’arrivée de l’intelligence générale artificielle. Ces hypothèses sont basées sur l’extrapolation et le raisonnement inductif à partir des connaissances actuelles, et impliquent que l’AGI se produira dans un nombre fini d’années à partir de maintenant, qu’elle sera observable et connue a posteriori. Cette distribution peut être utilisée pour produire une estimation de la trajectoire de croissance plausible attendue et une distribution des limites attendues de l’AGI, ainsi qu’une estimation de l’évolution plausible vers l’AGI à 50 %, dans l’hypothèse supplémentaire d’un choc mondial majeur (mais inférieur au niveau de l’Armageddon).
S’il est vrai que l’analyse des chercheurs sur la date d’arrivée de l’intelligence générale artificielle est intéressante et originale, il n’en est pas moins vrai que la conclusion des chercheurs présente également quelques limites et faiblesses, qui pourraient être améliorées ou discutées. Par exemple :
- la conclusion ne précise pas comment les modèles économiques sont construits, ni quels sont les paramètres et les données utilisés pour les calibrer. Il serait utile de fournir plus de détails sur la méthodologie employée et sur la robustesse des résultats obtenus ;
- elle ne tient pas compte des aspects éthiques, sociaux et politiques liés au développement de l’AGI, qui pourraient avoir un impact significatif sur la date d’arrivée et sur les conséquences de l’AGI ;
- les chercheurs ne mentionne pas les incertitudes et les risques associés aux hypothèses de base, qui pourraient être remises en question ou invalidées par des événements imprévus ou des découvertes scientifiques.
Source : St Cross College - University of Oxford
Et vous ?
L'analyse des chercheurs est-elle pertinente ?
Quels sont selon vous, les facteurs qui peuvent influencer ou modifier la trajectoire de développement de l’AGI ?
Pensez-vous que ces facteurs sont correctement pris en compte ou intégrés dans les scénarios de croissance plausibles ?
Quels sont les impacts potentiels de l’AGI sur la société, l’économie, l’environnement, la culture, l’éthique ? Comment ces impacts peuvent-ils être anticipés, évalués, régulés ou atténués ?
À votre avis, quels sont les risques et les incertitudes associés aux hypothèses de base de l’analyse ? Comment ces risques et ces incertitudes peuvent-ils être quantifiés, réduits ou gérés ?
Voir aussi :
L'intelligence générale artificielle (AGI), qui surpasse l'intelligence humaine dans presque tous les domaines, verrait le jour d'ici 10 ans, a déclaré Masayoshi Son, PDG de SoftBank
L'atteinte d'une forme d'IA de niveau humain est-elle plus rapide que prévu ? Il y aurait une chance sur deux pour qu'une « AGI » soit conçue, testée et annoncée publiquement d'ici 2040
« L'atteinte d'une forme d'intelligence artificielle de niveau humain (AGI) est possible dans une décennie », d'après le PDG de Google Deepmind, pour le développement responsable des systèmes d'IA
John Carmack, développeur de Doom, pense que l'IA générale (AGI) est réalisable d'ici 2030
Répondre avec citation
Envoyé par TotoParis
Partager