Il y a 15 % de chances d'avoir une IA capable de construire une sphère de Dyson d'ici 2030 et 40 % d'ici 2040
Il y a 15 % de chances d'avoir une IA capable de construire une sphère de Dyson d'ici 2030 et 40 % d'ici 2040
selon l'ancien responsable de l'alignement des modèles de langage d'OpenAI
La sphère de Dyson est une technologie hypothétique censée permettre à une civilisation très avancée de capter la totalité, ou presque, de l'énergie d'une étoile afin de l'utiliser pour atteindre les prochains stades de son évolution. Le concept a fasciné et captivé l'imagination des scientifiques depuis des décennies, mais est actuellement bien au-delà de nos capacités technologiques. Cependant, Paul Christiano, l'ancien responsable de l'alignement des modèles de langage d'OpenAI, pense que l'IA pourrait nous aider à atteindre cet objectif. Le chercheur en IA a déclaré qu'il y a 15 % de chances d'avoir une IA capable de créer une sphère de Dyson d'ici 2030 et 40 % de chances d'ici 2040.
Alors que certains chercheurs restent prudents sur les possibilités qu'offre l'IA, d'autres se laissent aller aux prédictions les plus folles possible. Elon Musk, fondateur de la startup xAI, pense que l'arrivée d'une forme d'intelligence générale artificielle (IAG) pourrait supprimer la nécessité de travailler pour gagner sa vie. Sam Altman, PDG d'OpenAI, a laissé entendre que l'IAG pourrait remplacer les "humains médians", des propos ont fait l'objet de controverses. Récemment, c'est Paul Christiano, un ancien cadre d'OpenAI, qui a fait une prédiction qui a suscité un grand débat dans la communauté : l'IA pourrait être en mesure de créer une sphère de Dyson.
Du nom du célèbre physicien théoricien britanno-américain Freeman Dyson, la sphère de Dyson est une mégastructure hypothétique qui recouvre une grande partie ou la totalité de la surface d'une étoile. Le but est de collecter et d'exploiter de façon optimale toute l'énergie émise par l'étoile. L'énergie collectée pourrait ensuite être utilisée afin d'alimenter les besoins de la civilisation qui aura réussi cette prouesse, et la surface intérieure de la sphère pourrait être habitée ou utilisée à diverses fins. Voici une représentation concrète de la chose : imaginez toute l'énergie de notre Soleil disponible et exploitable par les humains. Que pourrions-nous en faire ?
Les possibilités semblent infinies, mais dans un premier temps, cela pourrait nous aider à résoudre la crise énergétique et réduire les coûts élevés des voyages spatiaux et interstellaires. Cette énergie presque inépuisable pourrait nous propulser vers des exoplanètes et pourrait potentiellement nous permettre de trouver des formes de vie extraterrestre. Le concept est purement théorique et actuellement hors de portée. La construction d'une sphère de Dyson introduit des défis d'ingénierie auxquels l'humanité n'a pas le début d'une solution. Mais Christiano pense que l'IA pourrait nous mettre sur des pistes sérieuses dans un avenir pas si lointain que ça.
Dans un entretien avec Dwarkesh Patel, l'animateur de Lunar Society Podcast, Christiano a déclaré : « […] je pense que c'est une sorte de propriété d'une civilisation qui dépend de beaucoup d'infrastructures physiques. Et par sphère de Dyson, j'entends, je ne sais pas, un milliard de fois plus d'énergie que toute la lumière solaire incidente sur Terre ou quelque chose comme ça. Je pense que je me demande le plus souvent quelle est la probabilité dans cinq ans, dix ans, etc. Je dirais donc 15 % de chances d'ici à 2030 et 40 % d'ici à 2040. Ce sont des chiffres qui datent d'il y a six ou neuf mois et que je n'ai pas revus depuis longtemps ».
Christiano laisse entendre lors de l'entretien que ces chiffres datent d'avant la sortie de GPT-4, considéré par OpenAI comme le grand modèle de langage (LLM) le plus puissant du marché. Ce qui signifie que ces chiffres pourraient bien avoir évolué depuis lors. Ses prédictions ont suscité des avis mitigés dans la communauté. Certains abondent dans son sens, tandis que d'autres affirment qu'il ne s'agit que d'une simple spéculation. « Nous ne construirons probablement jamais une sphère de Dyson. C'est un projet majeur pour seulement la production d'énergie d'un soleil. Et avec de tels progrès, il faut replanifier comme chaque semaine », écrit un critique.
D'autres pensent plutôt que Christiano fait référence à l'arrivée d'une forme de superintelligence. « Je ne vois pas très bien ce que ces prévisions signifient précisément. Atteindre l'ASI est une chose, avoir une sphère de Dyson en est une autre. Même l'IAG aurait probablement besoin d'un certain temps pour la construire. Je suis aussi optimiste que n'importe qui d'autre sur le sous-marin, mais je vois 0 % de chance d'avoir une sphère de Dyson en 2030. Je pense que Christiano fait référence à l'IAG qui existera simplement en 2030 », peut-on lire dans les commentaires. Lors de l'interview, l'ancien cadre d'OpenAI a donné plus de détails sur ses prédictions.
En répondant à la question demandant pourquoi il pense qu'il y a seulement 15 % de chances de voir apparaître une telle IA capable de créer une sphère de Dyson d'ici 2030, le chercheur a déclaré : « d'un côté, je me dis que les systèmes d'IA semblent très doués pour beaucoup de choses et qu'ils s'améliorent de plus en plus rapidement, de sorte qu'il est vraiment difficile de dire ce qu'ils ne peuvent pas faire ou ce qui les empêche d'agir. D'un autre côté, il n'y a même pas de preuve de principe à l'heure actuelle que les systèmes d'IA effectuent un travail cognitif très utile ». Christiano a déclaré que l'industrie ne pouvait pas être certaine sur la question :
« Nous n'avons pas de tendance que nous pourrions extrapoler en disant : "oui, vous avez fait telle chose cette année, vous allez faire telle autre chose". Vous allez faire ceci l'année prochaine. Et l'autre chose l'année suivante. Je pense qu'à l'heure actuelle, les barres d'erreur sont très larges en ce qui concerne les difficultés fondamentales, et six ans, ce n'est pas, je suppose, six ans et trois mois, ce n'est pas beaucoup de temps. Je pense donc que pour avoir une sphère de Dyson en 2030, il faudrait probablement une IA de niveau humain ou une IA capable de faire du travail humain dans environ 3 ans, 4 ans, quelque chose comme ça ».
En arrivant à créer une sphère de Dyson, l'humanité pourrait franchir d'autres étapes de l'évolution d'une civilisation telles que définies par l'astrophysicien russe Nikolaï Kardachev. L’échelle de Kardachev classe les civilisations de l'univers en fonction de leur consommation d'énergie. En appliquant l'échelle de Kardachev à l'humanité, nous avons les évolutions suivantes :
- en consommant un jour toute l'énergie disponible sur Terre, l'humanité deviendra une civilisation de type I ;
- lorsque l'humanité sera en mesure d'utiliser toute l'énergie rayonnée chaque seconde par le Soleil, en l'entourant d'une sphère de Dyson, elle deviendra une civilisation de type II ;
- en colonisant notre galaxie (la Voie Lactée) pour exploiter l'énergie de toutes les étoiles de la même manière, l'humanité pourrait devenir une civilisation de type III.
Paul Christiano est l'ancien responsable de l'alignement des modèles de langage d'OpenAI. Il est considéré comme l'un des principaux experts en matière de recherche sur la sécurité de l'IA. Il a inventé l'apprentissage par renforcement à partir du feedback humain (RLHF) lorsqu'il dirigeait l'équipe chargée de l'alignement des modèles de langage chez OpenAI. Il dirige aujourd'hui un centre de recherche sur l'alignement. Des critiques appuyant le point de vue de Christiano estiment qu'il ne se trompe pas sur la question. Selon eux, les progrès remarquables qui ont eu lieu dans le domaine ces dernières années sont souvent relativisés par plusieurs personnes.
Paul Christiano: when will an AI be able to build a Dyson sphere around The Sun?
— Roko ⬜🟥⏸️ (@RokoMijic) October 31, 2023
- 15% chance by 2030
- 40% chance by 2040 pic.twitter.com/k5FjpB4w2X
Lors de l'interview, l'animateur a déclaré que Dario Amodei, PDG d'Anthropic, a un calendrier encore plus court. « Il convient de prendre toute prédiction avec un grain de sel, quelle que soit l'expertise de la personne qui l'émet. Toutefois, ce type de prédiction implique que le taux d'accélération du développement de l'IA est bien plus important que la plupart des gens ne le pensent. Je comprends qu'il dit simplement qu'il prédit que l'IA sera capable de le faire, et qu'il ne construit pas réellement la sphère de Dyson, mais il s'agit tout de même d'une prédiction absolument stupéfiante », note un critique. D'autres proposent qu'une telle IA serve à autre chose.
Pour certains critiques, une IA capable de construire une sphère de Dyson pourrait servir à d'autres choses ayant plus de valeur, comme le prolongement de la durée de vie. « Je ne me préoccupe pas d'une hypothétique sphère de Dyson pour l'instant, mais du prolongement de ma vie d'au moins quelques centaines d'années. Une IA capable de construire une sphère de Dyson serait très certainement aussi capable d'allonger massivement la durée de vie et l'espérance de vie, voire d'inverser et d'arrêter complètement le vieillissement. Il y a d'autres moyens d'exploiter toute l'énergie émise par notre Soleil », peut-on lire dans les commentaires.
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Envoyé par Mathis Lucas
Partager