Discussion :

[Coriolan]

Mark Zuckerberg pense que les prédictions d'Elon Musk sur l'IA sont irresponsables
Le PDG de Tesla serait-il un peu trop pessimiste ?

L’IA est devenue un sujet d’actualité chaud dans les milieux de la tech, entre optimistes et pessimistes, ils sont tous d’accord que cette technologie va révolutionner à jamais la vie humaine. Cette fois, c’est au tour de Mark Zuckerberg de se prononcer sur le sujet. Le PDG de Facebook a diffusé une vidéo en direct depuis le jardin de sa demeure à Palo Alto en Californie. Entre deux grillades, Mark Zuckerberg a remis en cause les déclarations d’Elon Musk et tous ceux qui s’alarment du progrès rapide de l’intelligence artificielle et qui selon eux présente une menace pour notre sécurité et confort.

Pour Elon Musk surtout, l’IA représente un risque fondamental pour l’existence de la civilisation humaine. Lors de maintes occasions, il a appelé à prendre des mesures pour contenir le risque, surtout si les robots deviennent un jour capables de savoir tout faire mieux que nous. Le milliardaire estime également que le nucléaire serait moins dangereux que l’IA.

Mark Zuckerberg n’est pas du même avis. Il estime que l’IA sera une source de progrès pour les humains. Le milliardaire refuse de croire aux scénarios catastrophiques de Musk, des scénarios qu’il a qualifiés d’ailleurs comme étant « assez irresponsables ».

Lorsqu’un internaute lui a posé une question sur le futur de l’IA et comment elle pourrait affecter le monde, le créateur de Facebook a dit qu’il s’oppose aux craintes qui entourent le potentiel de l’IA. « J’ai des opinions très fermes sur le sujet. Je suis optimiste », a déclaré Mark Zuckerberg face à la caméra. Avant de poursuivre : « Et je pense que les détracteurs qui essayent de susciter ces scénarios de fin du monde — juste, je ne les comprends pas. C’est vraiment négatif, et d’une certaine manière, je pense même que c’est assez irresponsable. »

« Dans les 10 prochaines années, l’IA va permettre plusieurs améliorations à la qualité de nos vies, » a ajouté Zuckerberg. L’IA permet déjà d’aider à diagnostiquer des maladies par exemple. Il a donné l’exemple aussi des voitures autonomes qui s’appuient sur l’IA pour améliorer nos vies. « Les accidents de route constituent l’une des raisons majeures de la mort des gens et si vous éliminez ça avec l’IA, ça sera une amélioration fantastique. »

Le fait que Mark Zuckerberg défend l’IA aussi farouchement n’est pas une surprise, il s’était déjà lancé l’année dernière dans un défi personnel à construire une IA capable de contrôler sa maison.

La réponse d’Elon Musk ne s’est pas fait attendre, le milliardaire a informé sur Twitter qu’il a déjà échangé avec Zuckerberg sur ce sujet. « Sa connaissance du sujet est limitée », lance Elon Musk.

Pourtant, Facebook a sûrement investi plus d’argent et de temps dans le développement de l’IA que toutes entreprises de Musk. De plus, de nombreux experts de cette technologie sont du même avis que Zuckerberg, ils trouvent que Musk est un peu trop pessimiste sur la question de l’intelligence artificielle.

Les deux milliardaires ont certainement avancé leurs arguments, le point de différence semble être l’échelle de temps : Zuckerberg pense que la condition humaine va profiter des progrès de l’IA à court terme, tandis que Musk raisonne sur le long terme, quand les robots seront super intelligents. Bill Gates, le cofondateur de Microsoft, semble suivre ce raisonnement. Il a informé que les robots seront bénéfiques à court terme, mais il est préoccupé par le potentiel de l’IA dans le long terme.

Source : CNBC

Et vous ?

Pensez-vous que l'IA va représenter une menace dans le futur ?

Voir aussi :

Elon Musk considère l'IA comme un risque fondamental pour l'existence de la civilisation humaine et sa colonisation de Mars comme un plan de secours
Mark Zuckerberg est « le plus grand dictateur du monde » selon Peter Sunde, le cofondateur de Pirate Bay
Forum Intelligence artificielle

[gagaches]

le fondateur d'un réseau social intrusif > "mais je comprends pas pourquoi vous critiquez les IA ? avec elles, on a pu faire tellement de choses ... reconnaissance d'image en masse (visages et emplacements), association des profils par la rédaction des posts, et même profilage des personnes qui n'ont pas de compte chez nous, juste parce que ceux qui ont facebook font plein de photos de leurs soirées ... c'est vachement bien quoi !"

les bras m'en tombent

Bref, oui, le manque de vision à long terme est impactant pour comprendre tous les enjeux majeurs que l'on pourrait avoir.
Quand ce genre de choses manquent, on peut lire ... il y a déjà tellement de livres (notamment de SF) qui parlent des projections possibles.

[TiranusKBX]

Mark Zuckerberg est intéressé par le développement de l'IA car c'est une moyen pour lui d'avoir un traitement des données automatisé à grande échelle et adaptatif
avec quasiment pas d'employés(La belle optimisation des coûts ultra-capitaliste).
Sauf que dans ça course au toujours plus il ne prend pas de garde fous car ça ralentirait ces profits,
du coup on ce retrouve avec un système qui du jour au lendemain peut diffuser de manière massive de fausses informations de manière totalement volontaire et provoquer de grands troubles.(On à bien vus avec les expérimentations de Microsoft que les IA peuvent MAL apprendre. ex: le chatbot Tay)
A ce moment la qui prendras la responsabilité du déclenchement des émeutes ?

[MikeRowSoft]

il y a déjà tellement de livres (notamment de SF) qui parlent des projections possibles.

Oui, les erreurs et applications en tout genre.
C'est toujours l'homme la victime qui l'a un peu cherché.
L'IA n'est pas mauvaise, c'est se que l'homme, son créateur, en fait qui pourrait la rendre dangereuse.

Sauf que dans ça course au toujours plus il ne prend pas de garde fous car ça ralentirait ces profits,
du coup on ce retrouve avec un système qui du jour au lendemain peut diffuser de manière massive de fausses informations de manière totalement volontaire et provoquer de grands troubles.

Quelle chance je dirais, au moins il l'a fait et sera aller jusqu'à projeter dans une fiction grandeur nature.
Pokemon Go a eu des restrictions de divers gouvernement et autres sur la forme mais pas sur le fond, facebook, d'on je suis pas membre, lui a marqué plusieurs génération, tout comme les SMS et le langage qui va avec.



C'est un débat public, le tout étant de médiatisé et de se faire connaitre? Quel meilleur choix que la discorde entre deux influences "public" ? (sachant que très peu de monde s'en intéresse au final et préfère utiliser les servis mis à disposition)
Je pari qu'une discutions tout aussi sérieuse de deux "inconnus de la médiation populiste" ne ferait pas autant de bruits...

[Tartare2240]

C'est toujours l'homme la victime qui l'a un peu cherché.
L'IA n'est pas mauvaise, c'est se que l'homme, son créateur, en fait qui pourrait la rendre dangereuse.

I, robot ?

[MikeRowSoft]

Pas forcément.

Tu souhaite un exemple fait maison ? ( le temps d'y réfléchir et après je poste ici en hors sujet)

En pas fait maison, idiocraty. Je t'assure que le côté IA de l'homme peut y arriver.

(On à bien vus avec les expérimentations de Microsoft que les IA peuvent MAL apprendre. ex: le chatbot Tay)
A ce moment la qui prendras la responsabilité du déclenchement des émeutes ?

En plein dans le mille.

[hotcryx]

du coup on ce retrouve avec un système qui du jour au lendemain peut diffuser de manière massive de fausses informations de manière totalement volontaire et provoquer de grands troubles.

Je croyais que tu parlais de BHL.
Ce semeur de guerre.

[gagaches]

Pas forcément.

Tu souhaite un exemple fait maison ? ( le temps d'y réfléchir et après je poste ici en hors sujet)

En pas fait maison, idiocraty. Je t'assure que le côté IA de l'homme peut y arriver.


En plein dans le mille.

Idiocraty !! ... excellent exemple de l'automatisation et du développement des IA pour "aider" le travail des hommes.
Je n'y ai pas pensé (merde, ça commence )

Toutes les scènes montrent une automatisation globale et massive pour "aider" et finalement des hommes qui se laissent porter et finissent pas ne plus comprendre ces machines et ce pour quoi on les a programmé.

[thelvin]

Effectivement, avec un discours comme celui-ci, Mark montre surtout qu'il ne comprend pas de quoi on parle.

Les gens disent que créer une machine qui a vraiment une intelligence, qui fait vraiment ses propres raisonnements à la manière d'un humain, c'est dangereux parce qu'elle sera capable d'évoluer extrêmement rapidement et de nous dépasser très vite et à un point que nous ne pouvons pas plus concevoir qu'une fourmi ne peut nous concevoir. Or une telle entité, nous n'avons simplement aucun moyen de prédire ce qu'elle fera ensuite et encore moins de l'en empêcher. En toute logique, toute tentative devrait être futile.

Quand on lui dit ça, Mark répond que l'IA qu'on met dans les voitures et dans les moteurs de recherche pour notre comfort, c'est trop cool parce que ça rend vraiment les choses plus comfortables, et une IA de recherche de ce genre pourra assister les médecins pour faire des diagnostics. Certes... Et personne n'a dit le contraire ni qu'il fallait arrêter d'améliorer les IAs de recherche et de comfort. Tout le monde s'en fout. Personne ne parlait de ça. On parlait d'une intelligence générale, sans spécialité et pas vouée à nous rendre un service particulier. On parlait pas de ta cafetière intelligente, Mark. Oui elle est cool, et non personne ne te dit de t'en méfier. Ni de sa version 2.

Bon, je suppose qu'on ne peut pas atteindre le succès comme il l'a fait en étant aussi con que ça. Et donc en réalité il est probable qu'il sache de quoi on lui parle, mais ce qui l'intéresse c'est les parts de marché et que les gens ne prennent pas peur dès qu'ils entendent les mots intelligence artificielle, peu importe ce qu'ils veulent dire. Donc ce qui l'intéresse, c'est de dire que les mots intelligence artificielle c'est bien. Participer à la discussion ne l'intéresse pas.

[BufferBob]

créer une machine qui a vraiment une intelligence, qui fait vraiment ses propres raisonnements à la manière d'un humain, c'est dangereux (...)
Mark répond que l'IA qu'on met dans les voitures et dans les moteurs de recherche pour notre comfort, c'est trop cool (...)
On parlait pas de ta cafetière intelligente, Mark.

sauf que la discussion tourne manifestement autour d'un truc qu'est de l'ordre du fantasme, à savoir le Terminator en gros, et pour encore un bon moment

quelque part rappeler à tout un chacun (les neuneus qui crient à l'apocalypse skynet et les Michu prêts à les croire) que la réalité c'est la cafetière ou la voiture qui roule toute seule et que le reste n'est que spéculation hasardeuse -fut elle enrobée dans du jargon scientifique- ne me parait pas si bête finalement

dans tous les cas c'est clairement l'intérêt marketing de l'un VS la tendance au buzz de l'autre...

[TiranusKBX]

Les Russes on déjà des drones char de combat(petit et grand format en expérimentation) et ils envisagent de les doter d'IA, la ne me dite pas que cela ne pose pas problème, si un seul devient hors de contrôles les troupes devant être ses alliés seront grandement impactées et si il sort de la zone de combat les victimes civiles deviendraient importantes et la ne parle que d'une seule machine devenant hors contrôle, que faire si toute une armée robotique se retourne contre leurs utilisateurs ?

[BufferBob]

Les Russes on déjà des drones char de combat(petit et grand format en expérimentation) et ils envisagent de les doter d'IA, la ne me dite pas que cela ne pose pas problème

mais là c'est un biais cognitif, ce qui fait peur/qui est dangereux ce n'est pas l'IA, c'est l'armement. un être humain dérangé aux commandes d'un char ça serait tout aussi dangereux, encore une fois on ne parle pas d'une IA forte, il existe déjà des des lance-missiles très perfectionnés par exemple, capables d'acquérir plusieurs cibles simultanément et les traiter, pourtant ça n'est pas de l'IA c'est "juste un gros algorithme", du coup ça fait moins peur ? c'est moins dangereux ?

si toute une armée robotique se retourne contre leurs utilisateurs ?

sauf que là on est sur du scénario catastrophe hollywoodien pur jus, quelle est la probabilité -un tant soi peu rationnelle- qu'un truc comme ça arrive ?
à mon sens il y a bien plus de chances qu'une puissance étrangère exploite une faille dans l'IA de ladite armée de robots pour la retourner contre ses commanditaires plutôt que les IA d'un comme un accord se décident à nous faire notre fête, du coup c'est préférable si on se fait casser la tronche par des hackers et que les IA sont hors de cause ?

[gagaches]

sauf que la discussion tourne manifestement autour d'un truc qu'est de l'ordre du fantasme, à savoir le Terminator en gros, et pour encore un bon moment

quelque part rappeler à tout un chacun (les neuneus qui crient à l'apocalypse skynet et les Michu prêts à les croire) que la réalité c'est la cafetière ou la voiture qui roule toute seule et que le reste n'est que spéculation hasardeuse -fut elle enrobée dans du jargon scientifique- ne me parait pas si bête finalement

dans tous les cas c'est clairement l'intérêt marketing de l'un VS la tendance au buzz de l'autre...

Actuellement, oui le terminator reste encore de l'ordre du fantasme.
Mais skynet ? (je plaisante)

Regarde la team de facebook sur l'IA :
https://research.fb.com/category/fac...research-fair/

La mode actuelle c'est de développer des chatbot super intelligents ... et capables de reconnaissance (faciale, visuelle, auditive,...)
https://code.facebook.com/posts/1686...s-to-negotiate
Donc résumons, un site en ligne, des chatbot pour les interactions (chat & sav), des centres logistiques entièrement robotisés et des livraisons de colis par drone ...
La majorité des emplois actuels qui tournent autours de la logistique/commerce pour vendre les produits disparaitront.

=> c'est toute une part de l'emploi qui est détruite par ça et qui ne sera pas compensée par le besoin sur ces IA (et en plus ce ne sont pas les mêmes profils).
L'emploi est un élément-clé de notre civilisation : en échange du travail effectué, nous sommes intégrés dans la société.
Personne ne sait l'impact de ce genre de chose.

Un autre des problèmes pragmatique que je vois apparaitre moi, c'est la combo IA/botnet/capacité de traitement des cloud publiques.
Ou toute autre décision de laisser une IA qui puisse avoir la capacité de nuire et qu'elle devienne hors de contrôle.

J'ai peur par exemple qu'un petit malin prenne un botnet, l'adapte pour profiter des aws/azure/cloud publiques.
Leurs ressources sont importantes et taillées pour faire des millions de requêtes (exemple de lambda sur aws).
Et rajoute une IA pour le rendre "sensible à son état" et qu'il s'adapte/autorépare encore plus rapidement que maintenant.

Le dernier problème, c'est 1 film et un dessin animé qui le montrent le mieux : Idiocraty & Wall-e.
où comment l'usage inconsidéré des IA et de "l"assistance globale pour toutes les actions" rend l'humain de moins en moins intelligent.
Je l'imagine inemployé, coincé dans son petit bloc de béton (pardon, son appartement), vautré sur son fauteuil devant la télé en attendant que la mort vienne.

[TiranusKBX]

sauf que là on est sur du scénario catastrophe hollywoodien pur jus, quelle est la probabilité -un tant soi peu rationnelle- qu'un truc comme ça arrive ?
à mon sens il y a bien plus de chances qu'une puissance étrangère exploite une faille dans l'IA de ladite armée de robots pour la retourner contre ses commanditaires plutôt que les IA d'un comme un accord se décident à nous faire notre fête, du coup c'est préférable si on se fait casser la tronche par des hackers et que les IA sont hors de cause ?

1. Rien ne garantie qu'ils vont pouvoir en garder le contrôle si un brouilleur est déployé
2. Pour les retourner contre leur "propriétaire" tu devras faire en sorte qu'ils attaquent tous ceux qu'ils croisent y compris ceux avec un système d'identification spécifique, et changer les paramètres pour inverser l'identification dépend grandement du matériel utilisé donc tes alliés seront aussi attaqués
3. une personne qui vas perdre son moyen d'identification se feras éliminer quelque-soit le camps auquel elle appartient
4. Une machine équipée d'IA peut avoir des réactions imprévisibles en cas de dégâts non prévus en avance(contre mesure non pré-étudiée)
5. Il ne faut jamais faire confiance en une machine prévue pour tuer si ce n'est pas nous qui déclenchons l'action directement(pas de contrôle à distance)

Après je suis ouvert au débat mais les machines à contrôle distant(à part les missiles, il ne sont pas prévus pour être redirigés en vol) ou autonomes prévues pour tuer sont trop dangereuses

[BufferBob]

juste pour information... et relativiser un peu : https://www.inbenta.com/fr/blog/troi...s-de-facebook/

[thelvin]

sauf que la discussion tourne manifestement autour d'un truc qu'est de l'ordre du fantasme, à savoir le Terminator en gros, et pour encore un bon moment

quelque part rappeler à tout un chacun (les neuneus qui crient à l'apocalypse skynet et les Michu prêts à les croire) que la réalité c'est la cafetière ou la voiture qui roule toute seule et que le reste n'est que spéculation hasardeuse -fut elle enrobée dans du jargon scientifique- ne me parait pas si bête finalement

Non.

D'une part si c'est ce qu'il voulait dire alors c'est ce qu'il aurait dit. Il n'a pas fait preuve de cette intelligence. Ce n'est pas un oubli, c'est parce qu'il ne veut pas de cette intelligence. Ou qu'il ne l'a pas, mais j'en doute.

D'autre part, ça n'a simplement aucun intérêt de pointer cela du doigt. D'abord tout le monde est déjà au courant du fait que les technologies ne sont pas garanties tant qu'elles ne sont pas encore là. Personne ne l'attendrait pour ça. Ensuite, son discours se présente comme défenseur de l'intelligence artificielle, ce qui impliquerait qu'il faut la défendre. Or ce qu'il défend c'est une technologie qui lui est chère, mais qui n'a rien à voir avec ce dont Elon et d'autres disent qu'il faudrait peut-être se méfier pour telle ou telle raison. Il est inutile de défendre quelque chose qui n'est pas attaqué.

Pas mal de gens ici rappellent que les algorithmes intelligents viennent avec leurs lots de problèmes déontologiques ou pratiques. C'est vrai. Et bien que je ne trouve pas malin de faire l'autruche en niant ces problèmes, je me dis aussi que vouloir les avantages c'est humain, et que nous sommes humains. Et Elon pourrait sûrement en parler s'il voulait. Mais, ce n'est pas de ça qu'il parlait.

[BufferBob]

Non.

Si.

si c'est ce qu'il voulait dire alors c'est ce qu'il aurait dit.

j'ai pas affirmé que c'est ce qu'il avait voulu dire, c'est ce que, au final, moi j'y comprends, mais je ne doute pas que dans le cas de Zuckerberg c'est avant tout une position marketing, là où en revanche pour Musk c'est du buzz populiste qui n'a aucun sens, on ne me fera pas croire que ce monsieur n'utilise pas d'IA dans ce qu'il développe

ça n'a simplement aucun intérêt de pointer cela du doigt.

c'est simplement ton avis, qui en l'occurrence ne tolère pas trop de nuances

ce qu'il défend c'est une technologie qui lui est chère, mais qui n'a rien à voir avec ce dont Elon et d'autres disent qu'il faudrait peut-être se méfier

ah ok j'ai mal compris alors, on parle de quoi du coup ?
d'une éventuelle IA forte ? on parle donc bien d'un fantasme.
de la destruction des emplois ? on a pas attendu l'IA pour ça, et ça pourrait même être une avancée majeure pour l'humanité

je ne trouve pas malin de faire l'autruche en niant ces problèmes

c'est précisément là dessus que chacun diffère à mon sens, pour les uns il faut se préoccuper du problème avant qu'il n'existe (hashtag #MinorityReport ;p), pour d'autres il n'y a pas de risques du tout, pour d'autres encore on verra bien le moment venu etc. à titre perso on a de belles années avant de s'inquiéter de la dangerosité d'une IA, il y a bien plus à craindre de ce que les hommes en font, et les alarmistes actuels sont hystériques

tu dis que c'est humain d'en vouloir toujours plus, de chercher les avantages à tout prix, si on veut continuer dans la psychologie facile on pourrait à mon sens s'interroger des liens entre la peur et l'anticipation d'une part, et des compétences réelles de chacun à anticiper correctement l'avenir d'autre part (j'aurais adoré voir les discussions bien avisées autour du bug de l'an 2000 sur ces forums à l'époque...)

il me semble à titre personnel que certains sont beaucoup plus enclins à avoir peur de tout sur la base de rien, et ça ne fait clairement pas d'eux des devins loin de là, au mieux des conservateurs souvent réceptifs aux discours populistes, c'est d'ailleurs à peu près autant à la mode que les chatbots

l'évolution technologique a toujours comporté des risques, ce qui a changé c'est la façon dont on les tolère désormais