Version imprimable
Je pense que l'I.A., a l'heure des évolutions actuelles et du contexte socio-politique (puisque il faut bien en tenir compte), est une mauvaise idée, domaine civil ou militaire. Si je devais comparer, je dirais :"guérissons le cancer avant d'essayer d'aller sur Mars". Comprenne qui veut. Bien à vous.
POUR MOI C'EST CELUI QUI PROGRAMERAS CETTE IA QUI SERAS PLUS INTELLIGENT QUE SA MACHINE
Pièce jointe 417670
franchement, elle n'a pad grande conversation.
Même nos rapport etaient froid.
Vivement dans dans 5 ou 10 ans !!!!
Je trouve ça risqué comme prédiction, 5-10 ans.
OK, les IA spécialisées sont très performantes sur certaines tâches notamment visuelles vu que c'est inspiré du cortex visuel.
Ensuite, faut pas perdre de vue qu'un rat a plus de sens commun que notre meilleure IA.
OK, une IA reconnaît un chat sur des photos avec une grande précision (sauf si les photos sont piégées avec un pixel changé... https://www.dvhardware.net/article67588.html ), mais faut pas perdre de vue qu'on lui a montré 4 millions de photos de chats tagués pour l'entraîner, alors que si tu prends une gamine de 3 ans normale et que tu lui montres UN chat, alors elle reconnaîtra tous les chats de la Terre et leurs représentations.
ça se trouve, les réseaux profonds vont atteindre un plafond technologique dans leurs performances notamment en terme d'intelligence généraliste, et faudra attendre encore un siècle avant qu'une nouvelle révolution apparaisse.
Ben on n'est pas rendus, moi j'vous l'dis, quand on voit ce qui s'est passé hier par bonne visibilité et temps calme, dans un environnement immense et bien dégagé, et avec tous les instruments actuels hautement performants :Citation:
Envoyé par Fagus
Pièce jointe 418030
Car ne perdons pas de vue que ces instruments hautement performants sont + ou - les mêmes que ceux qui sont/seront utilisés comme capteurs de données pour les véhicules autonomes et autres, et que les programmes d'IA sont réalisés par des humains, les mêmes que ceux qui ont abouti à ce résultat dément...
Oui enfin il y a du personnel sur ce genre de bateau, à ma connaissance ils ne circulent pas en complet autopilotage d'un point A à un point B.Citation:
Envoyé par Jipété
Ils pionçaient tous, le commandant de bord et tout l'équipage, pendant que leur bateau (qui apparemment allait plus vite qu'il ne le devait, donc pas réglé par une IA qui aurait respecté les "limitations") fonçait droit sur un bateau immobile de plusieurs dizaines de mètres de long ? :weird:
Ils n'ont pas entendu les 150 000 instruments qui devaient biper de partout justement ?
C'est facile de toujours rejeter la faute sur les instruments / les IA, mais dans la majorité des cas, c'est pratiquement toujours un problème humain. Et pour le cas de cette collision, attendons les résultats de l'enquête avant d'incriminer ceci ou cela. ;)
On se pose tous la question...Citation:
Envoyé par Ecthelion2
Tu as zappé ma phrase sous la photo : je ne rejette pas la faute sur les instruments, et je suis bien persuadé qu'il s'agit d'une erreur humaine.Citation:
Envoyé par Ecthelion2
Mais j'ajoute que si les humains à bord d'un navire ne sont pas fichus d'interpréter correctement des données en provenance de ce type d'instruments, comment un programme fabriqué par des humains pourra y arriver ?
Car il ne sera programmé que pour cela, ne pourra pas être déconcentré par des éléments extérieurs, ne subira pas la fatigue, ne sera pas sur son Smartphone a regardé des vidéos de chats ou du porno au lieu de tenir la barre, etc. etc.Citation:
Envoyé par Jipété
Dans le cas présent, instruments ou pas, les mecs auraient du voir le bateau en face d'eux, un cargo de 250m cela ne passe pas inaperçu, il n'y avait même pas à interprété les instruments, juste ouvrir les yeux (l'autre bateau était à l'arrêt en plus, donc même pas d'histoire de calcul de trajectoire ou autre), alors qu'une IA, limite n'aurait même pas besoin d'un visuel, elle bougerait rien qu'avec le radar.
Les IA ne sont certes pas aussi développées que l'intelligence humaine, mais en général, elles sont tout de même plus performantes que l'humain sur la tâche précise pour laquelle on les a conçues.
PS: je n'avais pas zappé la phrase sous la photo, j'ai juste mal interprété le sens de "les mêmes", je pensais que tu parlais "des mêmes instruments", pas "des mêmes humains qui ont conçu les instruments". :)
Si tu veux comprendre comment ce type d'accidents peut être encore possible, et il en arrive plusieurs chaque année, avec des scénarios bien plus absurdes qu'on ne pourrait l'imaginer, lis ce bouquin, c'est édifiant :Citation:
Envoyé par Jipété
https://www.amazon.fr/d%C3%A9cisions...dp/2070457664/
Il y en a pour trois tomes, et des situations qu'on a tous observées au sein du management des grands comptes pour qui on bosse. Instructif ET divertissant. ;)
:ccool:Citation:
Envoyé par Grogro
Merci pour le lien, qui inclut l'option "feuilleter", ce qui m'a permis de découvrir ces deux accidents d'avions (avec des morts...) mais aussi cette collision de pétroliers où j'ai notédonc, non, je ne l'achèterai pas, j'aurais trop peur de vomir pendant des mois, et de ne plus pouvoir prendre l'avion, ne plus rouler en voiture et quant à la Méditerranée, impossible d'envisager de la traverser en voilier, maintenant.Citation:
La plupart des collisions ont requis une action énergique pour faire en sorte qu'elles se produisent
On vit vraiment dans un monde de fous ('tain, l'histoire des joints de Challenger, détaillée comme si on y était)...
Moi je crois optimiste de croire que "niveau humain" veut dire conscience.
L'IA n'a pas besoin de conscience pour battre un être humain et se comporter de manière équivalente. Les pièces commencent à se mettre en place. Système de reconnaissance visuelle pour identifier son environnement, système de locomotion sur pattes. système de navigation et de guidage, drones...
C'est un peu la conviction / espoir / croyance que j'ai, et qui serait cohérente avec toutes les autres révolutions technologiques déçues promises, citons en 3 : l'énergie, la thérapie génique, les voyages spatiaux.Citation:
Envoyé par Fagus
L'IA c'est comme le couteau de cuisine. Il ne sert pas à tuer, mais il aide à faire de bons plats bien garnis. Il faudrait aider l'humain à comprendre qu'il ne doit pas utiliser ce couteau pour d'autres fins. Je vous invite à signer cette pétition...
https://futureoflife.org/open-letter...omous-weapons/
« L’atteinte d’une forme d’intelligence artificielle de niveau humain (AGI) est possible dans une décennie », d’après le PDG de Google Deepmind
Pour le développement responsable des systèmes d’IA
L’intelligence artificielle soulève déjà des questions difficiles pour l’humanité : les universitaires se demandent s’il faut revenir aux examens oraux à l’ère de ChatGPT, les professionnels de plusieurs métiers craignent désormais pour leurs emplois dans le futur, etc. La liste devrait aller en s’allongeant en cas d’atteinte par les équipes de recherche de l’intelligence artificielle de niveau humain. C’est la raison pour laquelle le PDG de Google Deepmind appelle au développement responsable des systèmes d’intelligence artificielle. La recette : poursuivre avec la compréhension des modèles actuels pour une transition en douce. Sinon, ce serait la porte ouverte à des catastrophes, comme déjà prédit par plusieurs acteurs et observateurs de la filière.
L’atteinte de l’intelligence artificielle de niveau humain est possible dans une décennie, selon le PDG de Google Deepmind. Rendues à ce stade, les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale (AGI), elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. »
En attendant d’y être, le PDG de Google Deepmind recommande d’opter pour le développement responsable des systèmes d’intelligence artificielle pour une transition en douce. « Je suis pour que nous poursuivions avec les travaux sur des systèmes d’IA à déployer comme outils afin de nous permettre de mieux les comprendre avant d’aller à un autre stade », reconnaît-il en soulignant en sus que « cette approche peut permettre une meilleure exploration des mystères de la conscience. »
Un ancien chercheur clé d'OpenAI estime qu'il y a des chances que l'intelligence artificielle générale (AGI) prenne le contrôle de l'humanité et la détruise
« Je le prends très au sérieux. Dans l'ensemble, nous parlons peut-être d'une probabilité de catastrophe de 50/50 peu de temps après que nous avons mis en place des systèmes qui concernent l'humain », déclare Paul Christiano.
Son propos rejoint celui de Geoffrey Hinton : « L'idée que l'IA puisse devenir plus intelligente que les gens, quelques personnes y ont cru. Mais la plupart des gens pensaient que c'était une erreur. Et je pensais personnellement que c'était loin d'être le cas. Je me disais qu'il fallait attendre dans les 30 à 50 ans, voire plus. Évidemment, je ne le pense plus. »
Stephen Hawking a prévenu en 2014 que le développement d'une IA de niveau humain pourrait sonner le glas de la race humaine
Stephen Hawking (1942-2018) est un physicien théoricien, cosmologiste et auteur britannique qui a apporté d'importantes contributions au domaine de la physique, en particulier dans l'étude des trous noirs et de la nature du temps. Il est également connu pour son livre à succès "Une brève histoire du temps", qui explique des concepts scientifiques complexes à un public populaire. Il a appris à 21 ans qu'il souffrait d'une sclérose latérale amyotrophique (SLA), une forme rare de maladie des neurones moteurs qui l'a progressivement laissé paralysé et incapable de parler. Mais malgré ses limitations physiques, il a continué à travailler et à communiquer.
Bien sûr, tout cela a été rendu possible grâce à des outils issus des premières années de l'IA : il s'est appuyé sur un dispositif de génération de la parole, qu'il utilisait pour donner des conférences et écrire des livres. Cet appareil, appelé "Equalizer", a été mis au point par une société californienne appelée Words Plus. Pour faire court, le gadget permettait à Hawking de sélectionner des mots et des phrases sur un écran d'ordinateur à l'aide d'un commutateur manuel, qu'il pouvait actionner grâce à ses fonctions motrices limitées. Une fois qu'il avait sélectionné un mot ou une phrase, l'appareil générait une voix synthétique qui prononçait les mots à haute voix.
Hawking a pu expérimenter l'un des cas d'utilisation de l'IA, mais quelques années avant sa mort, il a mis en garde contre les dangers potentiels que la technologie pourrait représenter pour l'humanité. Dans une interview accordée à la BBC en 2014, Hawking a déclaré que le développement d'une intelligence artificielle de niveau humain pourrait sonner le glas de l’espèce humaine. Bien qu'il utilisait lui-même une forme élémentaire d'IA, il a averti que la création de systèmes intelligents qui rivalisent avec l'intelligence humaine ou la surpassent pourrait être désastreuse pour l'homme. Rappelons qu'il a utilisé son dispositif de communication de 1985 à sa mort le 14 mars 2018.
« Les humains, qui sont limités par une évolution biologique lente, ne pourraient pas rivaliser et seraient supplantés », a ajouté Hawking. Dans son dernier livre, "Brief Answers to the Big Questions", publié après sa mort en 2018, Hawking a affirmé que les ordinateurs "dépasseront probablement les humains en matière d'intelligence" d'ici 100 ans. « Nous pourrions être confrontés à une explosion de l'intelligence qui aboutirait finalement à des machines dont l'intelligence dépasserait la nôtre de plus que la nôtre ne dépasse celle des escargots », a-t-il écrit dans son livre. Il a appelé à former l'IA pour qu'elle s'aligne systématiquement sur les objectifs humains.
En outre, il a prévenu que ne pas prendre au sérieux les risques associés à l'IA pourrait être la pire erreur que l'humanité ait jamais faite.
C’est la raison pour laquelle des experts de la filière demandent à tous les laboratoires d’interrompre la formation de systèmes d’intelligence artificielle
Dans une lettre ouverte, Elon Musk et un groupe d'experts en intelligence artificielle et de dirigeants de l'industrie demandent une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI, en invoquant les risques potentiels pour la société et l'humanité.
Au début du mois de mars, OpenAI, soutenue par Microsoft, a dévoilé la quatrième itération de son programme d'IA GPT (Generative Pre-trained Transformer), qui a séduit les utilisateurs par sa vaste gamme d'applications, allant de l'engagement des utilisateurs dans une conversation de type humain à la composition de chansons et au résumé de longs documents.
La lettre, publiée par l'organisation à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, dont Musk, appelle à une pause dans le développement de l'IA avancée jusqu'à ce que des protocoles de sécurité partagés pour de telles conceptions soient élaborés, mis en œuvre et contrôlés par des experts indépendants.
« Des systèmes d'IA puissants ne devraient être développés qu'une fois que nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables », peut-on lire dans la lettre.
La lettre détaille les risques potentiels pour la société et la civilisation que représentent les systèmes d'IA compétitifs pour les humains, sous la forme de perturbations économiques et politiques, et appelle les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités de régulation.
Parmi les cosignataires figurent Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind, propriété d'Alphabet (GOOGL.O), et des poids lourds de l'IA, Yoshua Bengio, souvent considéré comme l'un des "parrains de l'IA", et Stuart Russell, pionnier de la recherche dans ce domaine.
Selon le registre de transparence de l'Union européenne, Future of Life Institute est principalement financé par la Musk Foundation, ainsi que par le groupe Founders Pledge, basé à Londres, et la Silicon Valley Community Foundation.
Ces inquiétudes surviennent alors qu'Europol, la police de l'Union européenne, s'est jointe le 27 mars 2023 à un concert de préoccupations éthiques et juridiques concernant l'IA avancée telle que ChatGPT, mettant en garde contre l'utilisation abusive potentielle du système dans des tentatives de phishing, de désinformation et de cybercriminalité.
Dans le même temps, le gouvernement britannique a dévoilé des propositions pour un cadre réglementaire adaptable autour de l'IA. L'approche du gouvernement, décrite dans un document d'orientation publié il y a peu, répartirait la responsabilité de la gestion de l'intelligence artificielle entre les organismes de réglementation des droits de l'Homme, de la santé et de la sécurité, et de la concurrence, plutôt que de créer un nouvel organisme dédié à la technologie.
Les grandes enseignes technologiques multiplient les projets dans le but d’atteindre l’intelligence artificielle de niveau humain
Google par exemple est lancé en secret sur le développement de Pitchfork ou AI Developer Assistance. C’est un outil qui utilise l'apprentissage automatique pour apprendre au code à s'écrire et se réécrire lui-même. Comment ? En apprenant des styles correspondant à des langages de programmation et en appliquant ces connaissances pour écrire de nouvelles lignes de code.
L’intention initiale derrière ce projet était de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu'une nouvelle version était publiée, sans nécessiter l'intervention ou l'embauche d'un grand nombre d'ingénieurs. Cependant, le potentiel du programme s'est avéré beaucoup plus important que prévu. Désormais, l'intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l'intervention humaine dans les tâches de développement et de mise à jour.
Un tel objectif pourrait ne plus relever de la science-fiction en cas d’atteinte du stade d’intelligence artificielle générale. Le tableau viendrait alors raviver la possibilité pour l’humanité d’entrer dans une ère de domination par les machines comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.
C’est d’ailleurs la raison pour laquelle Elon Musk travaille sur un projet visant à fusionner un cerveau humain et un ordinateur afin de permettre aux Hommes de rivaliser avec l’intelligence artificielle. Le « Neural Lace » est une interface cerveau-ordinateur permettant de relier le cerveau humain à des ordinateurs sans avoir besoin de connexion physique. Cette technologie donnerait aux humains la possibilité de fusionner avec l’intelligence artificielle et d’améliorer ainsi leur mémoire et leurs facultés cognitives. Cette puce issue de sa société Neuralink peut diffuser de la musique directement au cerveau. C’est l’une des applications de cette interface cerveau-ordinateur à côté d’autres comme la possibilité de guérir la dépression et la dépendance.
Elon Musk est d’avis que seule la mise sur pied d’une interface cerveau-ordinateur peut permettre à l’Homme de subsister. Son initiative vise une sorte de symbiose avec l'intelligence artificielle, ce, à un degré qui rendrait le langage humain obsolète. Il suffirait alors de penser pour communiquer. Grosso modo, dans les laboratoires de la société d’Elon Musk, on est au « service de l’humanité. »
Source : Entretien en vidéo
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Comment évaluez-vous les avancées en matière d’intelligence artificielle ? Quels sont les marqueurs qui laissent penser que ce n’est qu’une question de temps avant que la recherche n’atteigne le stade d’intelligence artificielle de niveau humain ? Est-il possible que ce ne soit jamais le cas ?
Voir aussi :
:fleche: Les IA inamicales constituent-elles le plus grand risque pour l'humanité ? Oui, d'après le créateur d'Ethereum qui s'attend à une future catastrophe, causée par l'intelligence artificielle générale
:fleche: « Le développement de l'IA sans réglementation induit une menace existentielle pour l'humanité », d'après Elon Musk, dont une société développe des puces à insérer dans le cerveau pour contrer l'IA
:fleche: Un chercheur de Google Deepmind cosigne un article selon lequel l'IA éliminera l'humanité et ravive les débats sur la possibilité d'un futur où la machine domine sur l'Homme
:fleche: L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité
Le stade est dépassé. ChatGPT réussit tous les concours avec mention "très bien". Aucun humain ne peut rivaliser, même en cherchant dans la catégorie surdoués. Alors bien sur, parfois il est très bête. Par exemple je lui ait demandé d'analyser la 1ere strophe du poème "Le bateau ivre" d'Arthur Rimbaud. C'est un désastre. Il faut que je lui explique que le narrateur n'est pas Rimbaud mais le bateau. En lui expliquant que le poète a fait une figure de style, une personnification en l’occurrence, il comprend très bien.Citation:
Envoyé par Patrick Ruiz
Alors je poursuis et lui demande de composer un tableau pour illustrer cette strophe. Et là, il est remarquable. Il connait les symboles des formes et des couleurs comme un critique d'art. Je transmet à Midjourney sa description du tableau en ajoutant quelques mots-clé (car il ne connait pas la manière de faire un prompt pour un générateur d'images).
Et bien le résultat est d'une très grande qualité. Bref, tout ça pour dire que la combinaison homme/machine est bénéfique. Alors avoir peur que la machine prenne le pouvoir, je vois pas comment. C'est la machine qui est au service de l'homme et non l'inverse. D'ailleurs, a écouter les Cassandre, la machine serait tellement intelligente qu'on serait trop bête pour comprendre ce qu'elle dit. Et puis quoi encore ?
Je vois que du faux dans ce que vous dites.Citation:
Envoyé par eric44000
Au début ChatGpt qui n'est pas du tout une AGI et qui ne fait pas du mention très bien a tout. ChatGpt est un outil capable de tenir une conversation et si ce qu'il raconte est souvent impressionnant sur un sujet mal connu, il est plus proche de la médiocrité quand il échange avec un spécialiste. Bref il est remarquable sur la forme mais très médiocre sur le fond.
A la fin quelle naïveté que de penser qu'on peut comprendre ce que dit une machine. Aujourd'hui déjà aucun humain ne peut suivre en temps réelle ce que raconte une machine dans ses échanges internes alors que nous savons le langage qu'on lui a donné pour fonctionner, c'est bien pour cela qu'on l'utilise d'ailleurs. Si demain la machine est réellement intelligent libre a elle de communiquer de pleins de manières différentes que nous serions non seulement incapables de suivre assez vite comme aujourd'hui mais aussi incapable de suivre parce que totalement inconnu pour nous.
Les machines aujourd'hui nous aident parce qu'elles font ce qu'on leur demande et c'est bien pour cela que quand il y a problème on peut affirmer que le bug est entre la chaise et le clavier. Le jour où on pourra parler de machine intelligente alors la bêtise et maladresse dépassera largement le clavier.
Sous réserve que je n'interprète pas mal l'origine de ces images, il me semble qu'on a commencé à voir dans les reportages JT/Envoyé Spécial de France 2 des images générées par IA comme illustration d'arrière-plan des commentaires ou des enregistrements audio.Citation:
Envoyé par eric44000
Pour ma part, j'ai réagi par une sensation désagréable en les voyant : au lieu de suivre le message qu'elles contenaient, je les ai observées en tant qu'images artificielles, un peu comme un défaut de prononciation ou une déformation physique chez un interlocuteur parasite la possibilité de suivre son discours. Ça me rappelle les films en 3D de ces dernières années. Après en avoir vu quelques uns, je les ai évités parce qu'en tant que spectateur, cela me faisait "sortir du film".
Pour l'instant, pour moi, ces images générées, c'est "non".
A fortiori, qu'on ne s'aventure pas à parasiter mon cerveau avec des puces ! D'ailleurs, l'idée d'augmenter artificiellement les capacités cérébrales a déjà été jugée non-souhaitable par l'humanité. C'est le retour d'expérience des drogues. Même avec une intention thérapeutique, on sait qu'il y a un prix à payer en termes d'effets indésirables quand on prend un traitement psychotrope. Pour l'instant, il semble qu'on ne modifie pas l'équilibre systémique d'un cerveau sans qu'il perde de ses capacités : le projet d'Elon Musk serait naïf sur ce point. :mouarf:
L'atteinte d'une forme d'IA de niveau humain est-elle plus rapide que prévu ? Il y aurait une chance sur deux pour qu'une « AGI » soit conçue,
testée et annoncée publiquement d'ici 2040
L’IA se rapproche des capacités humaines plus rapidement que prévu. Les développements rapides de l’IA dans des domaines tels que le traitement du langage naturel (NLP) ont relancé le débat sur ce concept qui serait pour certains observateurs largement spéculatif. ChatGPT représente une avancée majeure dans le domaine du traitement du langage naturel. Ce modèle de génération de langage à la pointe de la technologie a déjà fait ses preuves dans divers secteurs. L’évolution rapide de l’IA au cours des derniers mois montre que l’ère de l’IA est déjà à nos portes. De nombreuses entreprises technologiques, telles que Baidu et Google BARD, travaillent déjà sur leurs propres modèles concurrentiels pour ChatGPT.
Cependant, il est important de noter que ce que nous avons réalisé jusqu’à présent est une forme d’intelligence artificielle étroite (ANI). Ces systèmes d’IA sont conçus pour effectuer des tâches spécifiques, comme la reconnaissance d’images ou le jeu d’échecs, mais ils n’ont pas la compréhension générale du monde qu’aurait une intelligence artificielle générale (AGI). L’AGI désigne un type de système d’IA capable d’effectuer toutes les tâches intellectuelles d’un être humain. En d’autres termes, l’AGI possède une compréhension générale du monde et peut s’adapter à de nouvelles situations et environnements, tout comme le ferait un être humain.
Une IA de niveau humain serait une machine, ou un réseau de machines, capable d'effectuer la même gamme de tâches que celles dont nous sommes capables. Il s'agirait d'une machine « capable d'apprendre à faire tout ce qu'un humain peut faire », comme le disent Norvig et Russell dans leur manuel sur l'IA. Elle serait capable de choisir les actions qui lui permettent d'atteindre ses objectifs et de les exécuter. Elle serait capable de faire le travail d'un traducteur, d'un médecin, d'un illustrateur, d'un enseignant, d'un thérapeute, d'un chauffeur, ou le travail d'un investisseur.
Ces dernières années, plusieurs équipes de recherche ont contacté des experts en IA et les ont interrogés sur leurs attentes concernant l'avenir de l'intelligence artificielle. Ces enquêtes auprès d'experts sont l'un des éléments d'information sur lesquels nous pouvons nous appuyer pour nous faire une idée de ce que pourrait être l'avenir de l'IA. Il a été demandé aux experts s'ils pensaient qu'il y avait 50 % de chances que l'IA de niveau humain existe.
L’atteinte de l’intelligence artificielle de niveau humain est possible dans une décennie, selon le PDG de Google Deepmind. Rendues à ce stade, les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale (AGI), elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. »
En attendant d’y être, le PDG de Google Deepmind recommande d’opter pour le développement responsable des systèmes d’intelligence artificielle pour une transition en douce. « Je suis pour que nous poursuivions avec les travaux sur des systèmes d’IA à déployer comme outils afin de nous permettre de mieux les comprendre avant d’aller à un autre stade », reconnaît-il en soulignant en sus que « cette approche peut permettre une meilleure exploration des mystères de la conscience. »
Définitions de l'intelligence, de l'IA et de l'AGI.
L’intelligence artificielle générale : mythe ou réalité ?
Voici, une définition informelle de l'intelligence en mettant l'accent sur le raisonnement, la planification et l'apprentissage par l'expérience. Cette définition ne précise pas comment mesurer ou compenser ces capacités. De plus, elle ne reflète peut-être pas les défis et les opportunités spécifiques des systèmes artificiels, qui peuvent avoir des objectifs et des contraintes différents de ceux des systèmes naturels.
Il existe une littérature abondante et continue qui tente de proposer des définitions plus formelles et plus complètes de l’intelligence, de l’IA et de l’AGI, mais aucune d’entre elles n’est exempte de problèmes ou de controverses. Par exemple, Legg et Hutter proposent une définition de l’AGI axée sur les objectifs : l’intelligence mesure la capacité d’un agent à atteindre des objectifs dans un large éventail d’environnements.
Toutefois, cette définition n’englobe pas nécessairement tout le spectre de l’intelligence, car elle exclut les systèmes passifs ou réactifs qui peuvent accomplir des tâches complexes ou répondre à des questions sans motivation ou objectif intrinsèque. On pourrait imaginer une AGI, un oracle brillant par exemple, qui n’a pas d’agence ni de préférences, mais qui peut fournir des informations précises et utiles sur n’importe quel domaine.
En outre, la définition de la réalisation d’objectifs dans un large éventail d’environnements implique également un certain degré d’universalité ou d’optimalité, qui n’est peut-être pas réaliste (l’intelligence humaine n’est certainement jamais universelle ni optimale). La nécessité de reconnaître l’importance des antécédents (par opposition à l’universalité) a été soulignée dans la définition proposée par Cholletin, qui centre l’intelligence sur l’efficacité de l’acquisition des compétences ou, en d’autres termes, met l’accent sur l’apprentissage par l’expérience (qui s’avère également être l’une des principales faiblesses des LLM).
Il n'existe pas de définition de l'intelligence qui fasse l'objet d'un consensus général, mais un aspect largement accepté est que l'intelligence ne se limite pas à un domaine ou à une tâche spécifique, mais qu'elle englobe plutôt un large éventail de compétences cognitives et d'aptitudes. Dans leurs premiers écrits, les fondateurs de la discipline moderne de la recherche sur l'intelligence artificielle (IA) ont parlé d'objectifs aspirationnels pour comprendre l'intelligence.
Au fil des décennies, les chercheurs en IA ont étudié les principes de l'intelligence, y compris les mécanismes généralisables de raisonnement et la construction de bases de connaissances contenant un large corpus de connaissances de bon sens. Cependant, bon nombre des succès récents de la recherche en IA peuvent être décrits comme étant étroitement concentrés sur des tâches et des défis bien définis, tels que le jeu de Chorus ou Go, qui ont été maîtrisés par des systèmes d'IA en 1996 et 2016, respectivement.
La singularité de l'IA fait référence à un futur hypothétique où l'intelligence artificielle surpasse l'intelligence humaine et évolue potentiellement hors du contrôle de l'homme. Elle est souvent associée à des scénarios dans lesquels les machines deviennent conscientes d'elles-mêmes et constituent une menace pour l'humanité. Cependant, tous les experts ne croient pas que l'IAG mènera à la singularité, et certains pensent que le développement de l'IAG pourrait ne jamais se produire. Jusqu'à présent, l'AGI reste un élément de base de la science-fiction, comme en témoignent les films hollywoodiens de science-fiction dystopique.
Calendrier de l'IA : Quelles sont les prévisions des experts en intelligence artificielle pour l'avenir ?
Selon une enquête menée par Our World in Data, les prévisionnistes estiment qu'il y a une chance sur deux pour qu'une « intelligence artificielle générale » soit « conçue, testée et annoncée publiquement » d'ici 2040, c'est-à-dire dans moins de 20 ans. Aujourd'hui, Translated, une société de traduction, a mis au point un indicateur, le Time to Edit (TTE), pour calculer le temps nécessaire aux rédacteurs humains professionnels pour corriger les traductions générées par l'IA par rapport aux traductions humaines. Cela pourrait aider à quantifier la vitesse à laquelle nous nous rapprochons de la singularité.
Translated a calculé qu'il faut environ une seconde à un traducteur humain pour corriger chaque mot produit par un autre traducteur humain. En 2015, les rédacteurs professionnels mettaient environ 3,5 secondes par mot pour réviser une suggestion traduite par une machine. À l'heure actuelle, ce délai a été ramené à 2 secondes. Si cette tendance se poursuit, Translated prévoit que sa technologie d'IA atteindra la qualité de la traduction humaine d'ici la fin de la décennie, voire plus tôt.
Progression vers la singularité de l'IA
D'autres enquêtes menées auprès d'experts en IA aboutissent à des conclusions similaires. Dans la visualisation suivante, j'ai ajouté les échéances de deux enquêtes antérieures menées en 2018 et 2019. Il est utile d'examiner différentes enquêtes, car elles diffèrent dans leur façon de poser la question et de définir l'IA de niveau humain. Vous trouverez plus de détails sur ces études à la fin de ce texte.
Le fait qu'il y ait de si grandes différences dans les réponses montre clairement que les experts ne sont pas d'accord sur le temps qu'il faudra pour développer un tel système. Certains pensent que ce niveau de technologie ne sera jamais développé. D'autres pensent que c'est possible, mais que cela prendra beaucoup de temps. Enfin, beaucoup pensent que ce système sera mis au point dans les prochaines décennies.
Comme le soulignent les annotations, la moitié des experts ont donné une date avant 2061, et 90 % ont donné une date dans les 100 prochaines années.
Que faut-il penser des calendriers des experts en IA ?
Les enquêtes auprès des experts sont un élément d'information à prendre en compte lorsque nous réfléchissons à l'avenir de l'IA, mais nous ne devons pas surestimer les résultats de ces enquêtes. Les experts d'une technologie particulière ne sont pas nécessairement des experts capables de prédire l'avenir de cette technologie.
Les experts de nombreux domaines n'ont pas de bons antécédents en matière de prévisions concernant leur propre domaine, comme l'ont montré des chercheurs tels que Barbara Mellers, Phil Tetlock et d'autres. L'histoire de l'aviation offre un exemple frappant d'un tel échec. Wilbur Wright aurait déclaré : « J'avoue qu'en 1901, j'ai dit à mon frère Orville que l'homme ne piloterait pas avant 50 ans ». Deux ans plus tard, non seulement « l'homme » pilotait, mais ce sont ces mêmes hommes qui ont réalisé l'exploit.
En outre, ces études révèlent souvent d'importants « effets de cadrage », c'est-à-dire que deux questions logiquement identiques reçoivent des réponses très différentes en fonction de la formulation exacte des questions. La grande majorité des experts pensent que, dans les décennies à venir, il y a une chance égale de voir apparaître une technologie d'IA qui aura un impact transformateur sur notre monde. Si certains prévoient des échéances lointaines, beaucoup pensent qu'il est possible que nous disposions de très peu de temps avant l'arrivée de ces technologies.
Source : Our world in data
Et vous ?
:fleche: L'IA se rapproche des capacités humaines plus rapidement que prévu ?
:fleche: Quels sont les avantages et les inconvénients de l’IA qui se rapproche des capacités humaines ?
:fleche: Quelles sont selon vous les limites actuelles de l’IA par rapport aux capacités humaines ?
:fleche: Quels seraient les domaines où l’IA pourrait surpasser les capacités humaines ?
Voir aussi :
:fleche: Les voitures autonomes seraient-elles déjà plus sûres que les conducteurs humains ? Cruise et Waymo affirment que c'est le cas
:fleche: La solution du GPT-4 à l'énigme de l'œuf équilibré aurait convaincu Microsoft que l'AGI, intelligence artificielle générale, est plus proche, selon Microsoft Research
:fleche: « L'atteinte d'une forme d'intelligence artificielle de niveau humain (AGI) est possible dans une décennie », d'après le PDG de Google Deepmind, pour le développement responsable des systèmes d'IA
C'est pas tant les capacités de l'IA qui augmentent vite, l'abrutisation générale des gens facilite aussi la vie des vendeurs de rêve qui veulent vendre des trucs tous pourris :P
mais ne serait t'il pas possible de produire de l'énergie avec ?Citation:
Envoyé par Jules34
un peu comme dans doom par exemple ou les démons ce servent de la souffrance humaine pour produire l'énergie Argent.
