Discussion :

[Bill Fassinou]

Des scientifiques affirment qu'ils essaient maintenant activement de construire des robots dotés d'une conscience
mais cela introduit de nouveaux défis et soulève de nombreux problèmes éthiques

Des scientifiques de l'université de Columbia travailleraient à la création de robots dotés de conscience, capables d'apprendre et de s'adapter aux situations en temps réel. Cela signifie également qu'ils seraient en mesure de diagnostiquer eux-mêmes les problèmes et corriger leurs erreurs. Les chercheurs pensent en outre que les robots dotés d'une conscience pourraient à l'avenir aider l'humanité à guérir le cancer et d'autres maladies difficiles à traiter. Ainsi, la conscience artificielle pourrait être la prochaine frontière de la robotique, mais elle s'accompagne d'une foule de questions difficiles et de nombreux défis.

Les entreprises spécialisées dans le domaine de l'intelligence artificielle (IA) ont régulièrement tenté au cours de ces trois dernières années de repousser les limites de ce qui peut être fait dans le secteur. En témoignent les récents modèles de langage tels que DALL-E 2, Midjourney AI, ChatGPT, GPT-3 et Stable Diffusion. Ces systèmes d'IA sont impressionnants, mais pour certains experts du secteur, ils (qui sont pour la plupart des chatbots et les générateurs d'images) sont encore loin de représenter la dernière frontière de la robotique. La prochaine étape ? La conscience, une chose sur laquelle certains scientifiques travailleraient discrètement.

Dans une interview accordée au New York Times (NYT), Hod Lipson, ingénieur en mécanique qui dirige le Creative Machines Lab de l'université de Columbia, a déclaré qu'il s'y consacre depuis une vingtaine d'années. Il a fait remarquer que le sujet était auparavant tabou, mais que de plus en plus de personnes acceptent aujourd'hui d'en discuter publiquement. « Ce sujet était tabou. On nous interdisait presque d'en parler - "ne parlez pas du mot C, vous ne serez pas titularisé" - alors au début, je devais le déguiser, comme si c'était autre chose », dit-il. En employant le mot "C", le professeur Lipson fait sans doute référence au mot "conscience".

La question de la conscience se pose dans de nombreux cercles au-delà de la robotique, notamment en psychologie, en neurosciences et en philosophie, de sorte que la construction de robots conscients ne sera pas une tâche simple. Si, pour certains, la perspective d'avoir des machines dotées d'une conscience artificielle est digne d'une science-fiction - et c'est d'ailleurs la trame d'innombrables livres, bandes dessinées et films de science-fiction - pour d'autres, comme Lipson, c'est un objectif, qui changerait sans doute définitivement la vie humaine telle que nous la connaissons. Il donne l'exemple le niveau d'intégration des robots dans nos vies.

Selon Lipson, un robot consciencieux deviendrait de plus en plus important à mesure que nous deviendrions plus dépendants des machines. Aujourd'hui, les robots sont utilisés pour les interventions chirurgicales (comme les robots chirurgiens Da Vinci), la fabrication de produits alimentaires, les transports et toute sorte d'usines. Les applications des machines semblent pratiquement illimitées, et toute erreur dans leur fonctionnement, à mesure qu'elles s'intègrent à nos vies, pourrait être catastrophique. « Nous allons littéralement abandonner notre vie à un robot. Ne voudriez-vous pas que ces machines soient résilientes ? », a déclaré Lipson.

Une façon d'y parvenir était de s'inspirer de la nature. Les animaux, et en particulier les humains, sont doués pour s'adapter aux changements. Cette capacité pourrait être le résultat de millions d'années d'évolution, car la résilience en réponse aux blessures et aux changements d'environnement augmente généralement les chances de survie et de reproduction d'un animal. Lipson s'est demandé s'il pouvait reproduire ce type de sélection naturelle, créant ainsi une forme d'intelligence généralisable capable d'apprendre à connaître son corps et sa fonction, quelle que soit l'apparence de ce corps et quelle que soit cette fonction.

« Ce n'est pas simplement une autre question de recherche sur laquelle nous travaillons, c'est la question. C'est plus important que de guérir le cancer. Si nous pouvons créer une machine qui aura une conscience égale à celle d'un humain, cela éclipsera tout ce que nous avons fait. Cette machine elle-même pourrait guérir le cancer », a déclaré le chercheur. La conscience est l'une des questions les plus controversées en matière d'intelligence artificielle, mais outre le défi technologique que représente la réalisation de cet objectif, le mot lui-même est défini de manière philosophique, vague et subjective. Ce qui complique les choses.

Pour sa part, Lipson a sa propre définition de la conscience, à savoir la capacité de "s'imaginer dans le futur". Ainsi, l'ingénieur a consacré une grande partie de sa carrière à la construction de machines adaptables, c'est-à-dire d'une intelligence généralisée capable d'apprendre à évoluer par une sélection naturelle apprise par la machine, répondant ainsi aux changements d'environnement et aux erreurs ou blessures du corps mécanique. En d'autres termes, Lipson cherche à mettre en place une machine capable dans un premier temps d'apprendre davantage et de se corriger en conséquence, comme le font actuellement les machines.

Ensuite, Lipson veut qu'elle soit capable d'imaginer comment elle pourrait être meilleure et d'évoluer en fonction de cette vision. C'est une légère distinction, mais elle est importante. Il est également impossible d'ignorer le fait que les humains aiment vraiment anthropomorphiser à peu près tout ce qu'ils peuvent, des grille-pain aux animaux domestiques en passant par les légumes, etc. Cette tendance est extrêmement présente dans les domaines de la robotique et de l'intelligence artificielle, où les constructeurs de machines projettent constamment des caractéristiques humaines, tant physiques qu'intellectuelles, sur les appareils qu'ils créent.

Et à cette fin, il est toujours utile de se demander si ces machines possèdent réellement les qualités que des chercheurs comme Lipson imaginent qu'elles posséderont un jour, ou si les scientifiques, sous l'effet de leurs propres pulsions très humaines, projettent l'humanité - ou la nature, ou la conscience, ou tout ce que vous voulez - sur des machines très peu conscientes, renvoyant ce qu'ils espèrent voir, plutôt que ce qui est. « Il y a l'orgueil démesuré de vouloir créer la vie. C'est le défi ultime, comme aller sur la lune », a déclaré Lipson. En outre, la construction de robots dotés d'une conscience a également des implications morales et éthiques.

Auront-ils des droits, comme dans Bicentennial Man (L'Homme bicentenaire) ? Ce film de science-fiction de 1999 suit la vie et l'évolution d'Andrew, un robot acheté comme un appareil ménager programmé pour effectuer des tâches subalternes. Les enfants de la maison réagissent chacun différemment à la présence d'un nouveau venu. Grâce, l'aînée de la famille, considère le robot domestique comme une boite de conserve et lui ordonne de sauter du premier étage. Cependant, lorsqu'Andrew commence à éprouver des émotions et une pensée créative, la famille découvre rapidement qu'elle n'a pas un robot ordinaire.

Le film est une adaptation cinématographique d'une œuvre littéraire d'Isaac Asimov, ancien écrivain russo-américain et professeur de biochimie à l'Université de Boston. Il est également connu pour ses livres de vulgarisation scientifique. Isaac Asimov a écrit plusieurs romans - dont "I, Robot" - qui examinent les implications du point de vue de la loi, de la société et de la famille, soulevant de nombreuses questions morales. Les experts en éthique de la technologie ont examiné et approfondi ces questions alors que des scientifiques comme ceux du laboratoire de l'université Columbia travaillent à la construction de machines plus intelligentes.

La science-fiction nous a également apporté des machines tueuses comme dans Terminator, et les robots conscients semblent être un bon moyen d'en avoir. Les humains peuvent apprendre de mauvaises idées et les mettre en pratique, et il n'y a aucune raison de croire que les robots ne tomberont pas dans le même piège. Certains des plus grands esprits de la science ont mis en garde contre le risque de se laisser emporter par l'intelligence artificielle. Cependant, le professeur Lipson croit fermement que la société se dirige vers un avenir mécanisé. Mais encore, Lipson affirme qu'il n'y aucun moyen de l'éviter.

« Nous disposons déjà d'appareils de l'Internet des objets qui sont intégrés à des appareils ménagers courants et qui peuvent faire des listes de courses, surveiller votre maison pour détecter les intrus et même permettre à vos animaux domestiques de communiquer avec vous. Les robots conscients sont inévitables, et ils vont probablement se lier d'amitié avec Alexa et Siri », a-t-il déclaré.

Le Creative Machines Lab aurait déjà construit des machines qui sont conscientes d'elles-mêmes et qui peuvent dessiner des images et des simulations d'elles-mêmes. L'une d'elles serait même capable de se reconnaître dans un miroir. Cependant, l'étape suivante consiste à permettre à ces machines de s'imaginer dans un état futur et de voir comment cet état pourrait affecter la tâche qu'elles effectuent ou détériorer leur activité future.

Source : NYT

Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous que les robots dotés d'une conscience verront réellement le jour ?
Dans le cas où ces robots deviendraient une réalité, quelles pourraient être les implications pour la société ?
Que pensez-vous de la difficulté qu'éprouvent les scientifiques à adopter un consensus sur la définition de la conscience ?
À votre avis, l'absence de consensus sur la définition de la conscience ruine-t-elle les chances de voir un robot avec une conscience un jour ?

Voir aussi

Intelligence artificielle : un robot montre des signes de conscience de soi, à l'issu d'un test effectué par des chercheurs

Il serait difficile pour les humains d'éteindre un robot qui les supplie de ne pas le faire, d'après une étude réalisée par des chercheurs allemands

Les droits de l'Homme doivent-ils être étendus à l'IA ? La question fait débat sur plusieurs axes dont celui de savoir si une IA peut être mentionnée comme inventeur sur un brevet

Les robots peuvent surpasser l'homme en performance, mais peuvent-ils ressentir le toucher ? Des scientifiques développent une peau robotisée qui va aider les machines à acquérir le sens du toucher

[eric44000]

Que pensez-vous de la difficulté qu'éprouvent les scientifiques à adopter un consensus sur la définition de la conscience ?

Les scientifiques sont tous d'accord sur le fait qu’être conscient c'est ressentir ce qui se passe à l'intérieur ou à l'extérieur du corps. C'est éprouver une sensation. Et la composante fondamentale de la conscience est la représentation de l'intériorité.
La conscience est le fruit de l'aller-retour incessant entre les perceptions externes et les émotions internes. L'esprit est le résultat de cet échange à double sens entre le corps et l'environnement. C'est de la matière (particules->atomes->molécules->cellules->tissus->organes->système d'organes) organisée a un certain niveau de complexité qu'émerge la conscience.

À votre avis, l'absence de consensus sur la définition de la conscience ruine-t-elle les chances de voir un robot avec une conscience un jour ?

Non, ce n'est pas l'absence de consensus, c'est l'absence systémique des algorithmes qui ruine toute chance. La conscience se mérite. Pour cela il faudrait une modélisation parfaite de la complexité cérébrale et non une pale copie de soi-disant neurones comme actuellement.

[totozor]

Pour sa part, Lipson a sa propre définition de la conscience, à savoir la capacité de "s'imaginer dans le futur". Ainsi, l'ingénieur a consacré une grande partie de sa carrière à la construction de machines adaptables, c'est-à-dire d'une intelligence généralisée capable d'apprendre à évoluer par une sélection naturelle apprise par la machine, répondant ainsi aux changements d'environnement et aux erreurs ou blessures du corps mécanique. En d'autres termes, Lipson cherche à mettre en place une machine capable dans un premier temps d'apprendre davantage et de se corriger en conséquence, comme le font actuellement les machines.

Donc si je comprend bien il veut faire une machine qui évolue suivant un modèle d'échec-résolution. Ce qui pose un certain nombre de problèmes éthiques quand on s'en sert en médecine.
Le Die & Retry est une philosophie peu admise en recherche médicale, demandez à Musk et Neuralink.
Et au delà de la recherche médicale, la prise de conscience des rapports cause/conséquence dans le monde est parfois extrêmement compliquée, la conséquence pouvant être observée longtemps après la cause.

« [...]Si nous pouvons créer une machine qui aura une conscience égale à celle d'un humain[...]. Cette machine elle-même pourrait guérir le cancer », a déclaré le chercheur.

Je ne vois vraiment pas le rapport entre conscience et guérison du cancer

Pensez-vous que les robots dotés d'une conscience verront réellement le jour ?

Si on suit la définition de Ipson et dans un domaine très précis et relativement isolé du reste du monde pourquoi pas.

Que pensez-vous de la difficulté qu'éprouvent les scientifiques à adopter un consensus sur la définition de la conscience ?
À votre avis, l'absence de consensus sur la définition de la conscience ruine-t-elle les chances de voir un robot avec une conscience un jour ?

Pourquoi ne se basent-ils pas sur les dictionnaires. Le Larousse est relativement claire : "1. Connaissance, intuitive ou réflexive immédiate, que chacun a de son existence et de celle du monde extérieur.
2. Représentation mentale claire de l'existence, de la réalité de telle ou telle chose"
Mais ils tombent sur un gros problème : ils veulent la traduire scientifiquement ET veulent que la définition puisse être un objectif atteignable parce qu'ils veulent vendre à des financeurs qu'ils y arriveront dans X années.

Le problème n'est pas l'absence de consensus mais l'incapacité des scientifiques à gérer des concept. Ils veulent traduire les concepts en faits et en objectifs atteignables.

Ca me fait penser à un sujet chaud chez nous en ce moment: La direction nous a demandé d'améliorer l'ergonomie de notre système informatique (ensemble de nos outils informatiques).
Mon chef a donc lancé un projet (début, fin, objectifs) de 5 ans d'ergonomisation informatique qu'il nous a présenté. La réunion a été catastrophique parce que la demande n'est pas un projet construit avec un début, une fin et des objectifs définis avant de commencé. C'est de l'amélioration continue, c'est un travail continu qui évoluera toujours qui se déroule avec une interaction continue avec les utilisateurs.
Mais il est impossible pour lui d'intégrer ce genre d'organisation parce que ça ne rentre pas dans un diagramme de Gant avec des jalon précis, des livrables identifiés J0 etc.

L'ergonomie, comme la conscience des machines, est un objectif que l'on suit en continu mais qu'on atteindra jamais, juste parce qu'à chaque pas en avant, l'objectif s'éloignera d'un autre pas parce qu'on aura découvert un nouvel aspect de celles ci.

[eric44000]

Si on suit la définition de Ipson et dans un domaine très précis et relativement isolé du reste du monde pourquoi pas.

Ce qu'on fait Lipson et son équipe d'ingénieurs de Creative Machines Lab de l'université de Columbia c'est un robot qui a appris à se mouvoir en regardant son corps au travers de cinq caméras. De là à dire que le robot à une image de soi, c'est jouer sur les mots. La conscience de soi c'est autre chose.

[Artemus24]

Salut à tous.

Qu'est-ce que la conscience ?
Nous sommes incapables de donner une définition car nous ne savons pas ce que c'est.
Mais s'il s'agit d'imiter l'homme, je ne crois pas que l'on puisse dire qu'un robot à une conscience.

En ce qui me concerne, je ne vois pas de différence, vue de l'extérieur, entre une intelligence artificielle et un programme bardé de capteurs.
Le résultat sera le même car son champs d'application restera limité.
Il faudra que l'IA puisse sortir de sa programmation et nous surprendre avec une réponse à laquelle nous ne nous attendions pas, ce qui en l'état des choses me paraitrait très surprenant.

Cordialement.
Artemus24.
@+

[Mat.M]

Qu'est-ce que la conscience ?
Nous sommes incapables de donner une définition car nous ne savons pas ce que c'est.

là vous risquez vite de vous embarquer dans les régressions à l'infini,les raisonnements circulaires
N'oubliez pas la formule bien connue de Descartes Ergo Cogito Sum je pense donc j'essuie...c'est qu'être conscient de ce que l'on est c'est une démarche réflexive donc on cela entraine des régressions à l'infini..


et puis ensuite la conscience est-elle de la matière ou non ?

[eric44000]

Qu'est-ce que la conscience ? Nous sommes incapables de donner une définition car nous ne savons pas ce que c'est.

Tous les scientifiques qui s'intéressent à la question (neurobiologistes, éthologistes...) s'accordent à dire que c'est une représentation du corps et du milieu environnant.
Le Caenorhabditis Elegans (ver de 1mm) qui possède le plus petit cerveau connu (302 neurones) n'a pas de conscience malgré un comportement réflexe qui pourrait y faire croire. Son système nerveux central ne sert qu'a traiter simplement l'influx nerveux.
Par contre une expérience faite sur avec mouche montre qu'elle a conscience de son corps. Son cerveau est bien plus élaboré que celui du C. Elegans.
Par ailleurs, il existe plusieurs niveaux de conscience. Du plus simple comme celui de la mouche à celui qui permet de se reconnaitre dans une glace (éléphant, cochon...). Quant à la conscience de l'homme, c'est le niveau le plus haut.

Il faudra que l'IA puisse sortir de sa programmation et nous surprendre avec une réponse à laquelle nous ne nous attendions pas, ce qui en l'état des choses me paraitrait très surprenant.

En effet, modéliser informatiquement le cerveau du C. Elegans est d'une très grande complexité (qui vient en grande partie de la biologie). Alors prétendre comme Lipson d'y avoir réussi... Bien sûr, il peut y a voir dans la modélisation quelques raccourcis qui simplifient les algorithmes mais cela reste quand même à la marge.

la conscience est-elle de la matière ou non ?

Les deux mon général. Ou aucun des deux, c'est selon. Pour être plus sérieux, la conscience est virtuelle et intelligible. C'est à dire qu'elle a des propriétés différentes des caractéristiques physiques sous-jacentes. Elle n'existe qu'en puissance active.

[Mat.M]

Les deux mon général. Ou aucun des deux, c'est selon. Pour être plus sérieux, la conscience est virtuelle et intelligible. C'est à dire qu'elle a des propriétés différentes des caractéristiques physiques sous-jacentes. Elle n'existe qu'en puissance active.

si c'est pas de la matière est-ce de l'anti-matière alors ?
Et vous affirmez des caractéristiques physiques sous-jacentes.
Etant donné que le premier principe de la matière bref ce qui constitué tout corps c'est d'être constitué d'atomes que ce soit sous forme gazeuse, liquide , solide ou plasmique,peut-on parler de matière d'un corps n'étant pas constitué d'atomes ?

[Artemus24]

Salut à tous.

@ Mat.M : je ne parle pas d'un raisonnement qui aboutirait à une prise de conscience, ou à l'intuition de ce que l'on est, comme le fit Descarte dans son discours de la méthode. Le fait de savoir que l'on pense ne nous indique pas ce qu'est la pensée, le fait de savoir que l'on existe ne nous indique pas ce qu'est l'existence. Cela ne nous renseigne pas sur ce qu'est la conscience, mais juste ce que nous croyons qu'elle est ou qu'elle n'est pas.

Par ce raisonnement, on arrive à comprendre que la conscience est immanente à tout être vivant, comme étant la nature même de son expression. On arrive alors à ce que les bouddhistes nomment la vacuité, et pour répondre à ta question :

et puis ensuite la conscience est-elle de la matière ou non ?

la conscience a sa propre existence. C'est ce que je crois.

Le Caenorhabditis Elegans (ver de 1mm) qui possède le plus petit cerveau connu (302 neurones) n'a pas de conscience malgré un comportement réflexe qui pourrait y faire croire. Son système nerveux central ne sert qu'a traiter simplement l'influx nerveux.

Un être humain qui est dans le coma a sa conscience endormie. Cela ne veut pas dire qu'il n'a pas de conscience, mais qu'elle ne peut pas se manifester.

Selon moi, plus le cerveau est complexe et plus la conscience se manifestera.

Par contre une expérience faite sur avec mouche montre qu'elle a conscience de son corps. Son cerveau est bien plus élaboré que celui du C. Elegans.

Ta mouche a donc une conscience qui se manifeste un peu plus car son cerveau est un peu plus complexe.

Quant à la conscience de l'homme, c'est le niveau le plus haut.

Tu n'en sais rien du tout !

Et je reviens à ma question de départ : qu'est ce que la conscience ?
Sans définition, il est impossible d'avoir un échange cohérent sur la conscience.

Cordialement.
Artemus24.
@+

[eric44000]

la conscience a sa propre existence. C'est ce que je crois.

C'est une tautologie.

Un être humain qui est dans le coma a sa conscience endormie. Cela ne veut pas dire qu'il n'a pas de conscience, mais qu'elle ne peut pas se manifester.

Pourtant quelques comateux ont décrit après en être sortis ce qui s'était passé pendant leurs états cérébral "plats". Aucune activité cérébrale visible par imagerie, et pourtant une conscience présente. En fait l'imagerie ne voit pas tout ce qui se passe dans le cerveau. Elle est myope.

Ta mouche a donc une conscience qui se manifeste un peu plus car son cerveau est un peu plus complexe.

Oui.

Tu n'en sais rien du tout !

Que la conscience de l'homme soit supérieure, c'est un fait sur terre. Après, la possibilité que des extra-terrestres ayant une conscience plus haute a une probabilité non nulle.

Et je reviens à ma question de départ : qu'est ce que la conscience ? Sans définition, il est impossible d'avoir un échange cohérent sur la conscience.

Il ne tient qu'a vous de vous informer auprès de scientifiques.

[Bruno]

L'IA et les avancées technologiques pourraient-elles donner naissance à une nouvelle ère d'évolution ?
symbiogenèse cruciale face à la menace existentielle liée à la fusion croissante biosphère-technosphère

Mark C. Taylor, professeur de religion à l'université de Columbia, explore la possibilité d'une nouvelle ère d'évolution résultant de la symbiose croissante entre l'homme et la technologie, en particulier l'intelligence artificielle (IA). Il rejette l'idée que l'humanité représente la dernière étape de l'évolution, envisageant plutôt une relation symbiotique entre les humains et la technologie. Dans un essai rendu publique le 12 octobre, le chercheur examine les neuroprothèses, les biobots, la biologie synthétique et l'IA organique-relationnelle comme des trajectoires clés de cette évolution. Les neuroprothèses sont présentées comme des extensions technologiques de l'intelligence humaine, tandis que les biobots, créés à partir de nanotechnologies, pourraient avoir des applications médicales significatives.

La biologie synthétique explore la création de nouvelles formes de vie fonctionnelles, comme les xénobots, résultant d'une interaction complexe entre gènes et protéines. Enfin, il présente l'IA organique-relationnelle, basée sur la compréhension évolutive des réseaux neuronaux, comme une alternative prometteuse aux approches traditionnelles de l'IA. Taylor souligne l'importance de cette évolution symbiotique face aux défis existentiels actuels, tout en appelant à une perspective non anthropocentrique de l'IA pour une transformation significative.

Notre examen des phénomènes quantiques, des corps conscients, de l'écologie relationnelle et de la cognition des plantes et des animaux a révélé que nous sommes entourés de toutes sortes d'intelligences alternatives et que nous sommes enchevêtrés avec elles. L'IA est une autre forme d'intelligence alternative. Les critiques diront que ce qui rend l'IA différente, c'est qu'elle a été délibérément créée par des êtres humains. Cependant, tous les organismes façonnent et sont façonnés par leur corps et leur esprit en expansion.

Au lieu d'être obsédé par la perspective de créer des machines dont le fonctionnement est indiscernable de la cognition humaine, il est plus important d'examiner en quoi l'IA est différente de l'intelligence humaine. La question ne devrait pas être : "L'IA peut-elle faire ce que l'homme peut faire ? L'IA peut-elle faire ce que les humains peuvent faire ? mais plutôt : "Que peut faire l'IA que les humains ne peuvent pas faire ? Que peut faire l'IA que les humains ne peuvent pas faire ?

Ce qu'il faut, c'est une forme non anthropocentrique d'intelligence "artificielle". Si l'humanité doit continuer à vivre, l'IA doit devenir plus intelligente que les personnes qui l'ont créée. Pourquoi devrions-nous nous préoccuper d'aligner la superintelligence sur les valeurs humaines alors que les valeurs humaines sont en train de détruire la Terre, sans laquelle les humains et de nombreuses autres formes de vie ne peuvent survivre ?

Avec l'enchevêtrement croissant de la biosphère et de la technosphère, une symbiogenèse plus poussée serait le seul moyen de faire face à la menace existentielle très réelle à laquelle nous sommes confrontés. Mais il est trop facile de se montrer optimiste sur les avantages salvateurs de la technologie sans être précis. Je voudrais suggérer ici quatre trajectoires qui seront de plus en plus importantes pour la relation symbiotique entre les humains et les machines : les neuroprothèses, les biobots, la biologie synthétique et l'IA organique-relationnelle.

« Ce qui viendra après l'humain ne sera ni simplement organique, ni machinique, mais le résultat de la relation de plus en plus symbiotique entre les êtres humains et la technologie », Mark C. Taylor.

Neuroprothèses

Nous vivons à une époque où la peur dystopique a été militarisée pour créer un désespoir paralysant qui laisse de nombreuses personnes - en particulier les jeunes - sans espoir. Sans sous-estimer les effets néfastes réels et possibles de l'évolution rapide des technologies, il est important de ne pas laisser ces visions sombres éclipser les avantages remarquables que beaucoup de ces technologies apportent.

L'internet des objets connecte des dispositifs intelligents aux réseaux mondiaux qui augmentent l'intelligence en élargissant l'esprit. Alors que les critiques et les régulateurs des récentes innovations tentent de distinguer les technologies utilisées pour la thérapie, qui sont acceptables, des technologies utilisées pour l'amélioration, qui sont inacceptables, la frontière entre ces applications alternatives est pour le moins floue. Ce qui commence comme un traitement devient inévitablement une amélioration.

Ni les neuroprothèses ni l'augmentation cognitive ne sont nouvelles. Après tout, l'écriture est une technologie mnémotechnique qui améliore l'esprit. À l'époque moderne, les appareils personnels nous permettent d'archiver nos souvenirs et d'y accéder. Plus récemment, les innovations technologiques ont porté l'amélioration cognitive à un autre niveau : les implants cérébraux, par exemple, existent depuis au moins 2006, et des entrepreneurs comme Elon Musk (qui a fondé Neuralink pour "créer ... une symbiose avec l'intelligence artificielle") visent à établir des interfaces homme-machine incarnées.

Les possibilités croissantes de relations symbiotiques entre les ordinateurs et les cerveaux conduiront à des formes alternatives d'intelligence qui ne sont ni humaines ni machinales, mais quelque chose entre les deux. « L'intelligence dite "artificielle" est la dernière extension du processus émergent par lequel la vie prend des formes de plus en plus diverses et complexes », Mark C. Taylor.

Biobots

Ces dernières années, la robotique a connu une véritable révolution grâce aux progrès de la nanotechnologie et à l'amélioration des grands modèles de langage tels que le ChatGPT. Des nanorobots individuels ou en essaims pourraient un jour être implantés dans le corps et utilisés à des fins diagnostiques et thérapeutiques, potentiellement pour délivrer des médicaments et réparer des tissus. Plutôt que d'agir sur l'ensemble du corps, les nanorobots pourraient cibler l'endroit précis où un médicament est nécessaire et réguler son administration.

Le déploiement le plus remarquable des nanotechnologies à ce jour est leur utilisation dans les vaccins, y compris les vaccins Covid. Comme l'a écrit un groupe d'experts en microbiologie et en pharmacologie dans un document publié en 2021, « les nanotechnologies ont joué un rôle important dans le succès de ces vaccins » ; l'autorisation d'utilisation d'urgence qui a permis le développement et l'essai rapides de cette technologie « constitue une étape majeure et met en évidence l'immense potentiel des nanotechnologies pour l'administration des vaccins et la lutte contre les futures pandémies ».

La recherche et le développement dans le domaine des nanotechnologies n'en sont qu'à leurs débuts, mais se développent rapidement. À mesure qu'elles progressent, non seulement les corps deviendront plus attentifs, mais il sera de plus en plus difficile de distinguer le naturel de l'artificiel.

Alors que les nanorobots sont implantés dans le corps et opèrent au niveau moléculaire, d'autres robots deviennent de plus en plus autonomes et capables de penser et d'agir d'une manière plus proche de celle de l'homme. Kevin Roose a rapporté dans le New York Times que le dernier robot de Google, le RT-2, peut interpréter des images et analyser le monde environnant.

Pour ce faire, il traduit les mouvements du robot en une série de chiffres - un processus appelé "tokenizing" - et incorpore ces tokens dans les mêmes données d'apprentissage que le modèle de langage. À terme, tout comme ChatGPT ou Bard apprend à deviner les mots qui suivent dans un poème ou un essai historique, RT-2 peut apprendre à deviner comment le bras d'un robot doit bouger pour ramasser une balle ou jeter une canette de soda vide dans la poubelle de recyclage.

Le RT-2 s'appuie sur des VLM qui prennent une ou plusieurs images en entrée et produisent une séquence de jetons qui, par convention, représentent un texte en langage naturel. De tels VLM ont été entraînés avec succès sur des données à l'échelle du web pour effectuer des tâches telles que la réponse à des questions visuelles, le sous-titrage d'images ou la reconnaissance d'objets. Pour contrôler un robot, il faut l'entraîner à produire des actions. Google veut relever ce défi en représentant les actions comme des jetons dans la sortie du modèle - similaires aux jetons du langage - et en décrivant les actions comme des chaînes de caractères qui peuvent être traitées par des tokenizers standards du langage naturel, comme illustré ici :

Représentation d'une chaîne d'action utilisée dans la formation RT-2. Un exemple d'une telle chaîne pourrait être une séquence de numéros de jetons d'action du robot, par exemple « 1 128 91 241 5 101 127 217 ». La chaîne commence par un tag qui indique s'il faut continuer ou terminer l'épisode en cours, sans exécuter les commandes suivantes, et se poursuit avec les commandes de changement de position et de rotation de l'effecteur terminal, ainsi que l'extension souhaitée de la pince du robot. Ainsi, plutôt que de programmer un robot pour qu'il effectue une tâche spécifique, il est possible de lui donner des instructions sur la tâche à effectuer et de le laisser découvrir comment l'accomplir.

S'appuyant sur ces avancées récentes, Hod Lipson, directeur du Creative Machines Lab de l'université de Columbia, fait passer la recherche robotique à la vitesse supérieure en construisant des « robots qui créent et sont créatifs ». Ses recherches sont « inspirées de la biologie » et il cherche « de nouveaux concepts biologiques pour l'ingénierie et de nouvelles perspectives d'ingénierie pour la biologie ».

Jürgen Schmidhuber vs Geoffrey Hinton : Regards Contradictoires sur l'IA

Dans une interview accordée au New York Times (NYT), Hod Lipson, ingénieur en mécanique qui dirige le Creative Machines Lab de l'université de Columbia, a déclaré qu'il s'y consacre depuis une vingtaine d'années. Il a fait remarquer que le sujet était auparavant tabou, mais que de plus en plus de personnes acceptent aujourd'hui d'en discuter publiquement. « Ce sujet était tabou. On nous interdisait presque d'en parler - "ne parlez pas du mot C, vous ne serez pas titularisé" - alors au début, je devais le déguiser, comme si c'était autre chose », dit-il. En employant le mot "C", le professeur Lipson fait sans doute référence au mot "conscience".

L'objectif ultime de Lipson est de créer des robots non seulement capables de raisonner, mais aussi conscients et conscients d'eux-mêmes. Définissant la conscience comme « la capacité de s'imaginer dans le futur », il prédit avec assurance que « ces machines finiront par comprendre ce qu'elles sont et ce qu'elles pensent ». Au fur et à mesure que les compétences cognitives rendues possibles par l'IA générative deviennent plus sophistiquées, les mouvements et les activités physiques deviendront plus "naturels". Grâce à ces nouvelles compétences, les robots pourraient avoir l'agilité nécessaire pour naviguer dans leur environnement aussi efficacement que les humains.

Dans une sortie médiatique sur l’évolution et les risques de l’intelligence artificielle, Jürgen Schmidhuber, considéré comme le « père de l’IA », a déclaré que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il se distingue ainsi de certains de ses pairs, comme Geoffrey Hinton, qui ont quitté Google pour dénoncer la course à l’armement de l’IA et ses dangers potentiels.

En réaction aux propos de Geoffrey Hinton, un pionnier de l’IA qui a quitté Google pour avertir que l’IA pourrait bientôt surpasser les humains en intelligence et apprendre à détruire l’humanité par elle-même, Meredith Whittaker, une chercheuse en intelligence artificielle (IA) qui a également quitté Google en 2019 après avoir dénoncé les pratiques de l’entreprise en matière d’IA militaire et éthique indique que l'alarmisme de Geoffrey Hinton détourne l'attention de menaces plus pressantes.

Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA.

Taylor explore de manière approfondie l'interaction croissante entre l'homme et la technologie, mettant en avant la possibilité d'une évolution vers une symbiose plus poussée, voire une nouvelle ère d'évolution. L'idée que l'IA et les avancées technologiques peuvent être perçues comme une extension naturelle du processus évolutif est intrigante. Cependant, certaines idées présentées soulèvent des questions et suscitent des réflexions.

L'argument selon lequel l'intelligence artificielle est une nouvelle forme d'intelligence alternative, distincte de l'intelligence humaine, est intéressant. La proposition de développer une forme d'intelligence artificielle non anthropocentrique, dépassant les valeurs humaines, ouvre une réflexion sur les implications éthiques et philosophiques de la création d'une intelligence autonome.

L'utilisation d'exemples concrets, tels que les neuroprothèses, les biobots et la biologie synthétique, renforce la crédibilité des propositions avancées. Les discussions sur les xénobots et leur capacité à s'auto-assembler, s'auto-organiser et s'auto-réparer offrent une perspective fascinante sur le potentiel des avancées biomécaniques. Cependant, le texte pourrait être critiqué pour sa vision optimiste des implications de ces avancées technologiques. Il souligne la nécessité d'une symbiogenèse accrue sans aborder de manière approfondie les risques potentiels, tels que ceux liés à la sécurité, à la vie privée et à la dépendance excessive à la technologie.

En outre, la discussion sur l'IA organique-rationnelle, bien que fascinante, peut sembler spéculative et soulève des questions quant à la faisabilité réelle de créer une intelligence artificielle basée sur des modèles biologiques complexes.

Sources : Berggruen Institute, Google

Et vous ?

La conscience dans l'intelligence artificielle : aperçu de la science de la conscience, une étude interdisciplinaire menée par des universitaires de Toulouse et d'ailleurs

Des scientifiques affirment qu'ils essaient maintenant activement de construire des robots dotés d'une conscience, mais cela introduit de nouveaux défis et soulève de nombreux problèmes éthiques

Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent, selon la chercheuse Meredith Whittaker

[unanonyme]

Bonjour,

c'est la news la plus intéressante sur le sujet depuis
le vagabondage dramatique de l'homme alternatif pour
faire pisser dans leurs frocs les investisseurs.

Cependant, elle semble être passée totalement inaperçue
tant les réactions sont inexistante.

Les sujets abordés sont pourtant centraux, et intéressant.
Ceux ci devraient même rendre fou les religieux de tous bords,
du moins, ceux qui n'avaient pas déjà vrillés au delà du raisonnable.

Il me semblait intéressant d'appuyer sur cet extrait

La proposition de développer une forme d'intelligence artificielle non anthropocentrique, dépassant les valeurs humaines, ouvre une réflexion sur les implications éthiques et philosophiques de la création d'une intelligence autonome.

Si l'on considère que l'intelligence existait avant l'humanité,
qu'elle existera après l'humanité, en constatant simplement,
la complexité du vivant, ou l'agencement de la physique,
l'intelligence en tant que tel, est, déjà, autonome.

Si on considère que la biologie est à l'intelligence
ce que la machinerie est à l'humanité, alors,
la technologie telle que nous l'entendons communément
n'est qu'une sous section du déploiement de l'intelligence
dans l'univers.

La question qui se pose alors est de savoir si
la volonté de créer une incarnation alternative de nous
même n'est pas l'expression pathologique de notre conditionnement
au schéma évolutif général qui s'impose à nous.
Et donc, une volonté de l'intelligence pour l'intelligence, et non,
de l'humanité pour l'humanité.

Si par ailleurs il est question de créer une incarnation supplémentaire de l'intelligence,
- soit, celle ci est capable de voyager dans l'univers, et donc d'accéder à des
ressources infinies, en conséquence de quoi nous deviendrions pour elle
ce que la fourmi est pour nous (autant dire qu'au regard de notre comportement
envers les fourmis, on ne fera pas long feu),
- soit, elle est destinée à rester sur terre, ou ces planètes proches, du fait d'impossibilité technique,
nous aurions donc deux incarnations mues par la compétition pour accéder
aux mêmes ressources dans leurs nécessités de persistance (sinon, point de conscience ?),
- soit, c'est une intelligence en boîte, si tant est que cela soit possible,
et alors, celle ci favoriserait notre croissance, et donc,
précipiterait l'épuisement des ressources, ce qui, à son tour,
favoriserait une nouvelle génération d'émergence de vie sur terre,
tant que cette dernière reste viable, le système solaire ayant, lui aussi, une date de péremption.

Mais bon bref, revenons en au sujet,
ces pulsions biologique qui nous habite,
implantées (ou implémentées ?) par quelques milliards (millions, centaines de milliers, ça dépend où on se place) d'années d'évolutions,
qui nous pousse à prétendre solutionner, innover, inventer, pour les satisfaire,
nous mènent elles par le bout du nez au delà de notre capacité consciente ?

l'intelligence, on la subit ou on la contrôle ?

De quoi réfléchir pour l'hiver.

Bonne journée.