Discussion :

[Christian Olivier]

Pour Elon Musk l’IA est bien plus dangereuse que l'arme nucléaire
Alors que Bill Gates estime que l'IA est à la fois porteuse d’espoir et dangereuse

Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). D’après Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie.

« Je ne suis pas normalement un partisan de la réglementation et de la surveillance - je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.

Ce n’est pas la première fois que le patron de Tesla fait des prédictions alarmantes sur le potentiel de l’intelligence artificielle, mais sa vision pessimiste probablement motivée par le caractère incertain de l’avenir et peut être aussi la trop grande confiance en soi des concepteurs de cette technologie interpelle constamment sur la nécessité d’une surveillance et d’une réglementation étroites de l’IA. Devrait-on lui en tenir rigueur ?

Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé », a-t-il martelé.

Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18^e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « à la fois porteuse d’espoir et dangereuse ».

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.

D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.

Le patron de Tesla semble cependant résolu à ne pas se voiler la face et n’hésite pas à traiter ceux qui minimisent ou ignorent ses avertissements « d’imbéciles ». Lors du SXSW, il a déclaré : « le plus gros problème que je vois avec les soi-disant experts en IA est qu’ils pensent en savoir plus qu’ils ne savent et se croient plus intelligents qu’ils ne le sont réellement ». Selon Elon Musk, ce phénomène « a tendance à toucher les gens intelligents. Ils se définissent par leur intelligence et ils n’aiment pas l’idée qu’une machine puisse être beaucoup plus intelligente, alors ils réfutent cette idée - qui est fondamentalement défectueuse ».

S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».

Dans son analyse des dangers de l’intelligence artificielle, Elon Musk établit une distinction entre les applications spécifiques à l’intelligence des machines comme les voitures autonomes et l’intelligence des machines en général. Le patron de SpaceX souhaite que tout soit mis en œuvre afin de s’assurer que, si un jour l’humanité décide collectivement que la création d’une super-intelligence numérique est la bonne décision à prendre, nous procédions en restant très très vigilants.

« Je ne suis pas vraiment inquiet à propos des projets à court terme ». Une IA mineure ne représente pas un risque particulier. Elle entrainera probablement une dislocation, des pertes d’emplois, une sophistication de l’armement et ce genre de choses, mais elle ne représente pas un risque fondamental contrairement à la super intelligence numérique, a expliqué Elon Musk.

Source : CNBC

Et vous ?

Que pensez-vous des points de vue exprimés dans cet article ?
La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?
Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?
Quel est votre avis sur les dangers liés à la création d’une d’une super-intelligence numérique ?

Voir aussi

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

[Ryu2000]

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.

La Chine et les USA investissent à fond dans l'IA militaire.
Des dizaines et des dizaines de milliards de dollars partent là-dedans.
The US Army wants to turn tanks into AI-powered killing machines

D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.

Je ne vois pas en quoi c'est irresponsable de dire que l'IA militaire peut devenir un danger...

S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».

Il faut arrêter tout de suite avec ce délire utopiste et humaniste, les états en ont rien à foutre de l'éthique, quand il s'agit d'arme il n'y a plus de règle.
Les gros pays comme les USA continuent certainement de développer secrètement des armes illégales (bactériologique, nucléaire, etc).
Il y a des pays qui n'hésitent pas à utiliser l'arme nucléaire, l'agent orange, le phosphore blanc sur des civils.

L'important c'est de gagner la guerre et de mettre la faute sur le perdant.

Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?

Pour moi c'est réaliste, on ne connait pas les limites de l'IA, on ne sait pas où elle en sera dans 20 ans.

La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?

La comparaison me semble judicieuse, parce que l'IA et l'arme atomique ont un potentiel de destruction gigantesque.

[BLeguillou]

Je voulais juste apporter une info qui a son poids dans tous les débats concernant l'IA:

Bill Gates, Elon Musk, Stephen Hawking, Zukerberg et Compagnie ne connaissent rien à l'IA.

Je partage l'avis de Luc JULIA, père de SIRI:
Stephen Hawking était quelqu’un de très fort dans son domaine, il a découvert des trous noirs que personne n’avait vus. Mais les mathématiques appliquées à l’IA n’étaient pas sa discipline. Donc, comment a-t-il pu avoir l’autorité de dire que l’IA allait prendre le pouvoir ?
Quant à Elon Musk, c’est un visionnaire du marketing, il est bon en communication mais nul en technologie.
Lire son livre "L'intelligence Artificielle n'existe pas". Très intéressant.

[Ryu2000]

Mais les mathématiques appliquées à l’IA n’étaient pas sa discipline. Donc, comment a-t-il pu avoir l’autorité de dire que l’IA allait prendre le pouvoir ?

Il faut arrêter avec cette connerie "d'autorité"...
Ce n'est pas parce que quelqu'un n'est pas d'un domaine que ses prévisions seront forcément toutes fausses...
C'est quoi ce manque de respect "Ce n'est pas un grand spécialiste de l'IA alors l'intégralité de ses réflexions sur le sujet ne valent rien" ?!

Justement ceux qui bossent dans l'IA ne sont pas neutre, ils ne veulent pas qu'une image négative soit associé à leur discipline.
Si ça se trouve Luc Julia pense que l'IA peut devenir très dangereuse, mais il le garde pour lui et rassure le public, ou alors il est vraiment convaincu qu'aucun pays n'arrivera à produire d'arme dangereuse en utilisant l'IA.

L'IA est déjà capable de faire des choses impressionnantes :
Reconnaissance faciale: Un homme repéré au milieu d’une foule de 50 000 personnes en Chine

L'IA va progresser très vite, donc il est pour moi très probable que des armes très dangereuses utilisant l'IA finissent par voir le jour.

[Sodium]

Le problème de l'IA et de n'importe quoi d'autre, c'est qu'à partir du moment où ça peut être utilisé comme arme, il y en aura toujours pour le faire. Certains dictateurs n'hésitent pas à utiliser des armes chimiques interdites par le droit international contre leur peuple, je les vois mal s'embarasser de remords pour faire des ravages grâce à l'IA.

[Dgamax]

Il a bien raison et c'est pas le seul à le penser.
L'IA est surement notre plus gros danger après le réchauffement climatique and co si on ne fait rien pour le réguler.

[Fulsi]

A mon avis l'IA n'est pas un problème en soit pour le moment, il s'agit bien d'IA mineur et du haut de mes faibles connaissance on a le temps de voir venir une IA majeure. Le problème actuel de l'IA est l'usage qui en ait fait : arme autonome, anticipation et influence comportementale (politique notamment)... Et c'est bien dommage que l-Elon Musk ne s'attarde pas plus dessus et ce qui existe déjà. Donc oui il faut être alarmiste mais pas comme il l'est.

[free07]

Si ça se trouve Luc Julia pense que l'IA peut devenir très dangereuse, mais il le garde pour lui et rassure le public, ou alors il est vraiment convaincu qu'aucun pays n'arrivera à produire d'arme dangereuse en utilisant l'IA.

Soit dit en passant, cette remarque est tout aussi irrespectueuse !

Et Luc Julia ne dit pas que l'IA ne peut pas être dangereuse, il indique simplement qu'il y a beaucoup de fantasmes autour de cette discipline et que l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

C'est effectivement l'usage que l'on peut en faire comme tout le reste d'ailleurs !

[Sodium]

Et Luc Julia ne dit pas que l'IA ne peut pas être dangereuse, il indique simplement qu'il y a beaucoup de fantasmes autour de cette discipline et que l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

Et tu te bases sur quoi pour dire ça ? Sur le côté bienveillant et mesuré de Donal Trump, Kim Jong Un ou Vladimir Poutine ?

[Ryu2000]

l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

Même si toutes les nations du monde se mettent d'accord sur des règles à propos de l'utilisation militaire de l'IA, ça n'empêchera pas les gouvernements de développer des armes illégales en secret.

C'est basé sur la paranoïa, un pays A pense qu'un pays B développe une arme Y, donc le pays A va développer l'arme Y pour ne pas se faire dépasser, en réalité le pays B ne développait pas du tout l'arme Y, le pays A c'était mis ça dans la tête tout seul.

En ce moment les USA et la Chine dépensent des dizaines de milliards dans l'IA militaire.
On dirait qu'ils anticipent un conflit majeur dans un futur relativement proche.

[Sodium]

De plus, un pays qui se met en tête de conquérir la planète entière, ça s'est vu il n'y a pas si longtemps que ça...
Imaginer un équivalent du régime nazie équipé d'une armée d'IA tellement efficace que toute résistance humaine serait impossible, ça fait froid dans le dos.
Oui je sais, point Godwin tout ça tout ça.

[BufferBob]

Imaginer un équivalent du régime nazie équipé d'une armée d'IA tellement efficace que toute résistance humaine serait impossible, ça fait froid dans le dos.

ou même, suffirait que les machines poussent les humains jusqu'aux bords de la planète pour qu'ils tombent, c'est tout aussi effrayant.

je suis bien d'accord, penser que l'IA est une technologie comme une autre est naïf (et de quel droit en plus, hein ? non mais.)
heureusement qu'on est un certain nombre à avoir des idées plus pertinentes et ancrées dans le réel, comme celle d'un régime nazi qui ferait copain avec skynet par exemple.

[Sodium]

ou même, suffirait que les machines poussent les humains jusqu'aux bords de la planète pour qu'ils tombent, c'est tout aussi effrayant.

Je ne sais pas jusqu'à quel point ton message était sarcastique mais si l'idée d'une IA indépendante décidant de détruire l'humanité ne m'inquiète pas vraiment, celle d'une puissance étrangère ne s'embarassant pas du respect des droits de l'homme faisant des ravages grâce à l'IA est une idée bien ancrée dans le réel...

Et il n'y a pas besoin d'IAs super évoluées pour cela. Tu places quelques tourelles avec fusil à gros calibre capables d'aligner 10 personnes à la seconde et tu as déjà de quoi mettre en place un régime dictatorial contre lequel le peuple n'a aucune chance de pouvoir se rebeller.

[Ryu2000]

Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé », a-t-il martelé.

Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18^e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « à la fois porteuse d’espoir et dangereuse ».

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.

Bill Gates a plus peur des systèmes d'armement qui utilisent l'IA que de la mutation de la société causé par l'IA.
Perso, quand je vois ce qui ce passe en Chine, la mutation de la société m'inquiète, surtout si au pouvoir il y a des gens comme Macron...

penser que l'IA est une technologie comme une autre est naïf

Il existe des technologies dangereuses qui ne devrait pas être accessible par n'importe qui.

Avec l'IA on peut théoriquement fabriquer des armes surpuissantes. (beaucoup plus rapide, précise, intelligente qu'un humain, et elles pourront communiquer entres elles instantanément et avoir accès à énormément d'informations)
Rien qu'un drone autonome équipé d'un fusil d’assaut ça fait peur, alors que c'est le truc le plus basique.

IA dans le militaire : la France reste dans la course aux armements

L'IA va-t-elle changer l'art de la guerre?
L'IA représente-t-elle une véritable rupture dans l'art de la guerre ? Pour Jérôme Lemaire, chargé de mission intelligence artificielle et digitalisation systèmes opérationnels à la DGA ), "c'est une possibilité. Mais nous avons du temps pour nous y préparer, car il existe encore peu d'applications en service dans le domaine militaire, contrairement au domaine civil où on les trouve déjà dans le trading financier, le commerce électronique ou dans les smartphones, avec la reconnaissance vocale et faciale".

L'intelligence artificielle permettra entre autre de contrer les futurs missiles hypervéloces, capables d'atteindre des vitesses allant de cinq à dix fois la vitesse du son. Elle le fait déjà aujourd'hui. "Face à ces missiles hyper rapides, l'IA répond en temps réflexe à la place de l'humain. Elle va également venir en appui de l'homme pour les tâches complexes, comme la relève des blessés, le ravitaillement ou les actions de combat, même si l'humain doit rester au cœur de la décision", a expliqué le colonel. Les IA intégrées dans les capteurs vont également augmenter l'agilité dans les décisions.

[BufferBob]

(...) une puissance étrangère ne s'embarassant pas du respect des droits de l'homme faisant des ravages grâce à l'IA est une idée bien ancrée dans le réel...

vraiment ? c'est donc le scénario de "l'IA qui tombe aux mains des méchants", mais ça tombe bien : les gentils l'utilisent aussi

si le méchant pays peut faire du mal aux gentils en général l'inverse est vrai également, et comme le monde est pas si mal foutu que ça, quand la force de destruction est trop grande des deux cotés on trouve un terrain d'entente, un pacte de non-utilisation dans les conflits ou de désescalade de l'armement existant par exemple, ou au pire une guerre "froide" c'est à dire qui n'implique pas directement les populations civiles

Tu places quelques tourelles avec fusil à gros calibre capables d'aligner 10 personnes à la seconde et tu as déjà de quoi mettre en place un régime dictatorial contre lequel le peuple n'a aucune chance de pouvoir se rebeller.

pourquoi absolument vouloir une prise de pouvoir par la violence et les gros calibres ?

tu penses que les services de renseignement n'utilisent pas déjà l'IA ? pourquoi ne pas envisager que l'IA, au lieu de tirer des grosses balles, permette de faire des simulations sur la population par exemple ? de telles simulations seraient bien utiles si l'on cherchait à déstabiliser une région tu ne crois pas ?

on pourrait facilement imaginer un scénario dans lequel l'IA préconise de faire de la désinformation "douce" via tel ou tel canal (un organe d'information comme Russia Today par exemple) et devrait être accompagnée d'une désinformation plus "dure" via de faux comptes sur les forums et réseaux sociaux qui agiraient en masse pour marteler des idées nocives et/ou fausses, le tout éventuellement généré plus ou moins automatiquement par une autre IA spécialisée dans le traitement du langage pourquoi pas...

et tout cela ayant pour but final de rendre les gens un peu plus bêtes, parce qu'on sait (de par l'Histoire, la sociologie, la psychologie etc.) que plus les gens sont idiots plus ils vont spontanément vers les régimes autoritaires, ce qui à l'arrivée fait chuter le pays sur le plan économique et affaibli ses voisins et ses alliés... le tout sans jamais sortir la gatling de Terminator

on ne vit pas dans un monde de jeux vidéo, la vraie vie est bien suffisamment cruelle et dangereuse, ça a toujours été le cas, et on est des milliards (en augmentation...) à avoir survécu depuis des millénaires malgré les fléaux qu'a connu l'humanité (peste, nucléaire, tektonik... mettez ce que vous voulez dedans : on a survécu à tout.)

par contre je te rejoins là dessus, il ne faut pas être dupe : l'équilibre du monde actuel peut s'inverser à tout moment, comme il s'est déjà inversé par le passé à de nombreuses reprises, et tous ces gens qui aujourd'hui se font des films apocalyptiques et misent plus ou moins consciemment sur la stratégie de la peur, ceux qui font des documentaires très sérieux sur la Terre plate, ceux qui encouragent les prises de position extrêmes et organisent le chaos dans nos sociétés, ceux là je suis d'accord que la question doit se poser un moment donné : dans quelle mesure sont-ils agents (consciemment ou non) d'une puissance étrangère ?

[Sodium]

Ta conception du monde est bien naïve, surtout sur le point "les forces finiront par s'équilibrer".
Que fait-on si une grande puissance à la politique expansionniste prend une avance considérable sur ses adversaires ?
Cela s'est vu de nombreuses fois. Quand les colons européens ont débarqué en Amérique, cela s'est très mal terminé pour les populations locales.

Au débuts de la première guerre mondiale, les alliés se sont faits rouler dessus car les allemands avaient des armes de pointe ainsi que les premiers tanks alors que les français en étaient encore à charger à cheval avec des fusils ridicules.
Sauf qu'avec des fusils automatiques, de l'artillerie, aviation et tanks tout nuls, on peut faire de sérieux dégâts chez l'adversaire et gagner peu à peu du territoire, mais l'on ne peut pas raser un pays d'un coup. Les alliés ont donc eu le temps de rattraper le coup avant qu'il soit trop tard. Ce ne sera pas le cas si un King Yong Un se pointe avec des armes autonomes capables de raser une grande ville en quelques minutes.

Tu vas encore me dire que c'est alarmistes, des scénarios de science-fiction... sauf qu'il n'y a pas besoin d'imaginer le futur, il suffit de regarder notre passé.

[free07]

Et tu te bases sur quoi pour dire ça ? Sur le côté bienveillant et mesuré de Donal Trump, Kim Jong Un ou Vladimir Poutine ?

Tu parles de l'utilisation que l'on peut en faire et effectivement, cela peut être utilisé d'une façon malveillante ( comme toute chose ) mais l'IA ne peut pas décider d'elle-même de devenir malveillante, je parlais de ce fantasme, l'idée que par exemple, les robots puissent prendre un certain pouvoir de leur propre initiative.

[Sodium]

Elle le pourrait si on décide de la doter de pensées ou d'émotions, mais je ne vois pas quel intérêt de l'implémenter pour des utilisations purement fonctionnelles (armes, services...). Je n'irais cependant pas jusqu'à dire que ça ne pourrait pas arriver.

[free07]

Elle le pourrait si on décide de la doter de pensées ou d'émotions.

C'est justement la question, est ce vraiment réalisable ou est ce un fantasme ?

[Sodium]

Ca dépend comment on se situe par rapport à l'humain... soit l'humain est une création divine avec quelque chose de sacré et de mystérieux, soit l'humain n'est qu'un ensemble de processus chimiques et d'échanges d'informations et il n'y a donc aucune raison pour que l'ensemble des processus qui lui donnent une conscience propre ne puissent pas être modélisés informatiquement.

Personnellement je me situe dans la seconde catégorie. Quand un humain voit une chose et la reconnaît, son cerveau passe en revue l'ensemble des images qu'il a en mémoire pour en extirper ce qui statistiquement ressemble le plus à ce qu'il est en train de voir. Il n'y a rien de magique là derrière. Les neurones fonctionnent comme des bits avec un signal électrique qui passe ou ne passe pas. L'ADN est une chaîne constituée d'une combinaison de seulement quatre éléments différents. Pour beaucoup de gens, il est déjà très vexant d'imaginer que l'humain n'est qu'un animal comme les autres en plus performant, et le fait qu'une grande partie des processus le faisant fonctionner ressemble beaucoup à ce qui fait tourner un ordinateur l'est encore plus.