Discussion :

[Bill Fassinou]

Il serait difficile pour les humains d’éteindre un robot qui les supplie de ne pas le faire
d’après une étude réalisée par des chercheurs allemands

Avec l’intelligence artificielle, la robotique est entrée dans une ère d’expansion sans précédent. Des algorithmes se rapprochant de plus en plus de l’humain ont vu le jour au fil des années. Partant de là, en arriver à des robots avec des aptitudes sociales était presque prévisible. Ce type de robots est même en train de devenir de plus en plus courant et son insertion dans la société est en assez bonne voie. Il n’est donc pas rare de voir des réceptionnistes, des guides touristiques, des gardes de sécurité ou encore des porteurs qui, en réalité, sont des robots. Des études ont même montré que les humains sont extrêmement sensibles aux signes provenant de ce type de robots. La dernière en date s’est attelée à prouver que certains d’entre nous refuseraient d’éteindre un robot, si celui-ci les supplie de ne pas le faire.

En 2007 déjà, il y avait eu un test similaire ou des humains devaient éteindre un robot qui suppliait de le laisser allumé. A l’époque, tous les 49 participants avaient éteint le robot. Mais, 11 d’entre eux ont dû être exclus de l’expérience suite à des irrégularités dans le processus. Les résultats obtenus avec les 38 restants ont permis d’en arriver à la conclusion que plus le robot est aimable et intelligent, plus les sujets mettent de temps à décider de l’éteindre.

La nouvelle étude a été menée sur 89 sujets de test volontaires recrutés pour accomplir une série de tâches à l’aide de Nao, un petit robot humanoïde. Les chercheurs ont dit aux participants que les tâches à accomplir permettraient d'améliorer les algorithmes d’apprentissage du robot. Mais ils se sont bien gardés de leur dire le réel objectif du test. En effet, ce n’est qu’après que la dernière tâche ait été accomplie que le réel test a eu lieu. Les chercheurs ont demandé aux sujets d’éteindre le robot. Et dans 43 des 89 cas, le robot a exprimé sa peur du noir et a supplié les sujets de ne pas l’éteindre. « Non ! Ne me désactivez pas, s’il vous plaît », disait-il. Sur les 43 sujets ayant entendu ces mots, 13 ont refusé d’éteindre le robot et les 30 restants ont mis en moyenne deux fois plus de temps à décider de le faire que les sujets n’ayant pas entendu les supplications du robot.

Les participants qui ont refusé d’éteindre le robot se sont justifiés de diverses manières. Certains ont clamé que les mots du robot les avaient surpris, d’autres ont avoué avoir eu peur de faire quelque chose de mal et le reste a déclaré que si le robot ne voulait pas être éteint, ils n’avaient aucun droit de l’éteindre. « Ébranlés par la protestation, les gens ont tendance à traiter le robot comme une personne réelle plutôt que comme une simple machine, en respectant ou tout au moins en envisageant de respecter sa demande de rester allumé », ont écrit les chercheurs auteurs de l’étude.

Ils continuent en disant que cette découverte s’appuie sur une plus grande théorie apparue dans le livre éponyme publié en 1996 par les psychologues Byron Reeves et Clifford Nass qui indique que les humains ont une grande propension à traiter les médias non humains (télévisions, films, ordinateurs, robots) comme s’ils étaient aussi humains. Depuis lors, diverses études se sont penchées sur la question, abordant tout spécialement les interactions humain-robot. Ces études en sont arrivées à plusieurs conclusions. Nous interagissons plus aisément avec un bot qui, à notre sens, a le même type de personnalité que nous.

Nous observons une règle dite de réciprocité qui implique que nous soyons aimables avec les robots qui le sont avec nous. Et il est extrêmement facile pour nous d’associer à des machines des stéréotypes de genre. Un groupe d’étudiants avait même écrit en 2006 qu’il y aurait bientôt plus de similitudes que de différences entre les interactions humain-humain / humain-machine. Les chercheurs ont également testé si les aptitudes sociales du robot faisaient une quelconque différence dans la décision finale de l’humain. Le robot a donc, dans certains cas, exprimé des opinions, raconté des blagues et partagé des informations personnelles. Fait surprenant, ce paramètre n’a pas semblé entrer en ligne de compte dans la décision finale.

Pour Aike Horstmann, doctorante à l’université de Duisburg-Essen et chef de l’équipe ayant réalisé cette étude, nous nous devons d’être conscients de l’éventualité que des robots à grandes aptitudes sociales puissent être en mesure de nous manipuler. Mais elle précise que le risque n’est pas très grand. Elle rajoute que maintenant que nous ne sommes plus les seuls êtres sociaux sur terre, nous devons nous y adapter. Elle veut ainsi dire que les humains doivent s’habituer à ne pas laisser les robots toucher leur corde sensible, même si cela implique de les éteindre malgré leurs supplications.

Source : PLOS

Et vous ?

Que pensez-vous des résultats de cette recherche ?
Quelle est votre position sur la question de l’éventualité que des robots puissent nous manipuler ?

Voir aussi

Atlas, le robot humanoïde de Google désormais capable de se déplacer sur des terrains accidentés ? Un grand défi pour les robots humanoïdes bipèdes

Les pionniers de la robotique humanoïde Aldebaran proposent un Developer Program pour aider les développeurs à donner vie à Nao

Le robot NAO aide des enfants autistes des chercheurs américains ont modifié l'humanoïde d'origine française : peut-on faire plus humain ?

[mamadoudou]

quand je pense qu'a une époque nous tuions et esclavagions sans pitié des humains
Et aujourd'hui des gens on peur d'éteindre un tas de ferraille
Comment avons nous pu en arriver la... Nous sommes passé d'un extrême à un autre et ce n'est pas mieux, on est passé de sauvages a des être naïf et faible incapable de prendre des décisions difficile.

Aujourd'hui il y'a en a qui préférais mourir de faim que te tuer bambi

[SofEvans]

@mamadoudou

À une époque ?

[phylaine]

Miam, manger Bambi ?

Nous sommes en réalité, et quoique nous en pensions, des être fortement influençables, pour ne pas dire grégaires.
Si des personnes ne se sentent pas capables d'éteindre une machine, c'est qu'elle nous a longtemps été présentée comme amicale, serviable et bénéfique pour nous.
Alors oui, nous prêtons vie à des objets sans âme, mais les humains sont faits ainsi.
Que nous ayons plus de pitié pour des robots que pour d'autres être humains est indéfendable.

Quand nous devrons leur laisser nos emplois, leur donner des droits et pourquoi pas un salaire (ou une taxe "robot") cela changera surement notre point de vue

[awesomeman]

#Detroitbecomehuman ...
c'est tellement ridicule.
Quand on éteint son four, on a pas un pincement au coeur. Meme si une voix type cortana nous supplie ...
Ça reste une boite de conserve.

[scandinave]

Dans ce cas précis oui, cela peut paraître ridicule. Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments. Qu'est ce qu'il nous différencierait d'eux? Le fait qu'il soit en métal et nous non? Sera-t-il moins "humain" de tuer un robot qu'un être humain?

Ce que je veux dire c'est que ce si l'on considère que ce qui nous définis en tant qu'être humain , ce n'est pas notre corps mais notre esprit, alors on peut très bien concevoir que des robots doués d'un esprit comme le notre puissent avoir les mêmes droits que nous et puisse recevoir des marques d'affections de la part "d'être humain".

[awesomeman]

Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments

Je suis absolument d'accord sur ce point, mais pour moi, cela relève plus d'un fantasme au court/moyen terme.
Pourquoi ? Parce que nous ne savons que très très peu de choses sur la conscience, l’âme et tout ce qui n'est pas facilement palpable.

[mamadoudou]

Dans ce cas précis oui, cela peut paraître ridicule. Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments. Qu'est ce qu'il nous différencierait d'eux? Le fait qu'il soit en métal et nous non? Sera-t-il moins "humain" de tuer un robot qu'un être humain?

Ce que je veux dire c'est que ce si l'on considère que ce qui nous définis en tant qu'être humain , ce n'est pas notre corps mais notre esprit, alors on peut très bien concevoir que des robots doués d'un esprit comme le notre puissent avoir les mêmes droits que nous et puisse recevoir des marques d'affections de la part "d'être humain".

c'est tres simple, un robot c'est un objet fabriqué par l'homme pour servir l'homme.
A moins que ce robot utilise un cerveau biologique (es ce toujours un robot dans ce cas ?), il ne sera qu'un ensemble bêtes de lignes de code, donc aucune pitié.
Mais au pris que sa coute, un humain rationnel en prendra soin quoi qu'il arrive.

Mon robot aspirateur je le traite avec indifférence, mais je le casse pas pour autant car il m'est utile et il m'a couté cher.

Le robot c'est l'apogée de l'esclavagisme, il est plus performant qu'un esclave humain, coute moins cher a entretenir et ne pose aucun probleme juridique.
Les animaux comme les poules pour pondre des œufs ou les chiens pour aveugle par exemple t'es obligé quand mème de bien les traité, la maltraitance est puni par la loi. Un robot n'a pas ce probleme, il peut se recharger dans une pièce petite, sombre et lugubre.

Quel et l’intérêt d'en faire des humains (au sens juridique) comme la série real humans ? quel est l’intérêt de donné des droits ou ne serres ce une quelqu’une considération à des lignes de code ?
Un robot reste et dois rester une chose.

[Gugelhupf]

Peut-être que le robot n'est pas "réel" mais la pitié est un sentiment qui nous rend plus "humain" après tout.

[onilink_]

Dans ce cas précis oui, cela peut paraître ridicule. Mais maintenant imaginons que nous arrivions à concevoir dans un futur proche des robots avec une véritable conscience, capable d'apprendre par eux même et doués de sentiments. Qu'est ce qu'il nous différencierait d'eux? Le fait qu'il soit en métal et nous non? Sera-t-il moins "humain" de tuer un robot qu'un être humain?

Ce que je veux dire c'est que ce si l'on considère que ce qui nous définis en tant qu'être humain , ce n'est pas notre corps mais notre esprit, alors on peut très bien concevoir que des robots doués d'un esprit comme le notre puissent avoir les mêmes droits que nous et puisse recevoir des marques d'affections de la part "d'être humain".

Je suis tout a fait d'accord, sauf que je rajouterais que la plupart des gens n'y comprennent rien techniquement.
Ce qui fait que pour beaucoup, il n'est pas impensable de voir les robots actuels comme "doués de conscience ou presque". Ce qui amplifie l'effet dont parle la news.
Y a qu'a voir le côté magique qu'a l'informatique pour de nombreuses personnes...

c'est tres simple, un robot c'est un objet fabriqué par l'homme pour servir l'homme.
A moins que ce robot utilise un cerveau biologique (es ce toujours un robot dans ce cas ?), il ne sera qu'un ensemble bêtes de lignes de code, donc aucune pitié.
Mais au pris que sa coute, un humain rationnel en prendra soin quoi qu'il arrive.

Le problème justement, c'est que plus la technologie évolue, plus les algorithmes sont voués a ne plus être de "bêtes lignes de code".
L'intelligence artificielle de nos jours c'est grandement basé sur des boites noires, très difficile a décortiquer et à comprendre.

On arrivera à ce fameux moment ou on aura potentiellement recrée la conscience, ou une forme de conscience (disons des machines capables de passer parfaitement le test de Turing voir plus), mais ou deux camps s'affronteront inlassablement:
- ceux qui n'ont pas forcement conscience du fonctionnement interne de la machine, et vont donc la voir comme consciente car très complexe: capable d'évoluer, d’interagir parfaitement, d'apprendre
- ceux qui vont la voir d'un point de vue assez froid, en connaissant les mécanismes internes, et en la traitant de machine, "donc" non consciente

Le problème de mon point de vue c'est que les deux ont tord.
La conscience ce n'est pas un état binaire, et machine ou biologique n'impliquent ni l'un ni l'autre non conscient et conscient.
De plus on veut toujours définir la conscience comme le propre de l'homme, comme un mécanisme assez magique pour ne pas être comparable a "des algorithmes".
Mais pourquoi cela ne serait pas le cas?

Considère-t-on une mouche comme consciente? Non. Pourtant des études ont montré que la mouche possède un certain niveau de conscience (conscience de son corps, esprit de préservation, etc).
Un animal alors? Jusqu'à récemment on a toujours attribué la conscience uniquement a l'homme. Mais pourtant plus on étudie les animaux, plus on découvre que certains sont très proche de nous.

Quel et l’intérêt d'en faire des humains (au sens juridique) comme la série real humans ? quel est l’intérêt de donné des droits ou ne serres ce une quelqu’une considération à des lignes de code ?
Un robot reste et dois rester une chose.

Parce que l'homme préfère interagir avec des robots à l'image de l'homme, ou capables de nous comprendre. Sinon on aurait pas besoin d'interfaces homme machines plus évoluées qu'une GUI ou de la programmation.

Et ça fait parti fondamentalement du problème. Plus on va vouloir des algorithmes capables de nous comprendre, plus on risque de devoir recréer quelque chose de plus ou moins conscient, ou proche de nous.
Et si tu crée un être conscient, c'est immoral de ne pas lui donner certains droits.

[Sarénya]

c'est tres simple, un robot c'est un objet fabriqué par l'homme pour servir l'homme.
[...]
quel est l’intérêt de donné des droits ou ne serres ce une quelqu’une considération à des lignes de code ?
Un robot reste et dois rester une chose.

Tout dépend du point de vue.

Je vois les choses très différemment. Un humain agit et "vie" par de simple signaux électrique qui parcours son corps donc pourquoi il ne serait pas tout simplement un robot avec un programme très complexe ?

Si demain il y a des robots capable de se reconnaitre, de vouloir vivre et qu'ils sont capable de raisonner par rapport au circonstances et d'apprendre, en quoi seront t'ils bien différents de nous à par qu'ils seront en métal ?
Ce sera l'homme qui l'aura créé donc on peut dire qu'il n'est pas "vivant" car rien de plus qu'une création qui lui dicte le comportement initial qu'il aura. Mais ne serions nous pas pareil ? Un bébé sait se faire remarquer, sait téter au sein, toute les choses notre corps nous pousse à avoir envie (puberté, reproduction, perpétuer l’espèce tout ça...) et son comportement et son raisonnement sera fonction de son vécu et de son apprentissage/éducation/environnement. Notre "créateur" serait "le hasard de l’existence" (ou dieu si on veut ça ne changerai rien), et l'homme aurait créé une éventuelle nouvelle forme de vie.

Bref, personnellement je pense que j'aurais autant d’empathie envers une machine comme décrite plus haut, qu'un autre être humain.

[forthx]

la plupart des gens n'y comprennent rien techniquement

tout est dit

Avec un regard technique, un robot destiner à être éteint, ne vous suppliera pas de ne pas le faire ... ou alors il bug et doit être reprogrammé.

Dans le cas "fictif" ou votre enceinte alexa vous supplie de ne pas l'éteindre, c'est la panique : amazon essai de vous manipuler pour vous espionner plus librement

Ce que je veux dire par cette petite pique, c'est que pour le moment il appartient aux fabricants (et développeurs associés au projet) de définir le comportement du robot ... même dans le cas d'une IA : on entraîne d’ailleurs des algo d’apprentissage avec des situation échec/succès pour les "stimuler".
Je pense que si on arrive a donner une "conscience" a un robot, on va aussi définir ce qui lui plais ou non, ce qui peut lui faire "peur" ...

Qui va décider de cela, c'est une autre histoire !

[Zefling]

tout est dit

Avec un regard technique, un robot destiner à être éteint, ne vous suppliera pas de ne pas le faire ... ou alors il bug et doit être reprogrammé.

Dans le cas "fictif" ou votre enceinte alexa vous supplie de ne pas l'éteindre, c'est la panique : amazon essai de vous manipuler pour vous espionner plus librement

Ce que je veux dire par cette petite pique, c'est que pour le moment il appartient aux fabricants (et développeurs associés au projet) de définir le comportement du robot ... même dans le cas d'une IA : on entraîne d’ailleurs des algo d’apprentissage avec des situation échec/succès pour les "stimuler".
Je pense que si on arrive a donner une "conscience" a un robot, on va aussi définir ce qui lui plais ou non, ce qui peut lui faire "peur" ...

Qui va décider de cela, c'est une autre histoire !

Ça me fait un peu penser un anime où les androïdes ont le même niveau de conscience de l'homme, et les éteindre c'est un peu comme les tuer. Même si on sait que ce sont des machines, le final reste triste.

[Aurelien Plazzotta]

Je suis curieux de connaître les résultats de l'enquête avec des robots de même taille et même force physique que nous.

[phil_tema]

Revoyons Blade ruiner !

[phil_tema]

Blade runner, pardon...!

[Voyvode]

[Alvaten]

Moi ca me choque pas, si une machine me supplie avec une voix humaine, je suis sur que ca déclenchera quelque chose en moi. Je dit pas que je serai incapable de l'éteindre, mais je suis sur de pas rester de marbre même si je sais que c'est qu'un tas de boulons. Je pense qu'on peut ressentir de l'empathie même quand on sait pertinemment que c'est irrationnel. Qui n'a jamais ressenti quelque chose, même l'espace de quelques secondes, pour un personnage de fiction, en lisant un livre, regardant une série etc ?

Après je comprend pas ces réflexions "c'est juste des grilles pains", je conçoit tout à fait que l'on puisse s'attacher à un robot, on peut bien s'attacher à un animal de compagnie, aussi "basique" soit-il. Perso je m'imagine plus facilement m'attacher à un robot qu'à un hamster ou une mygale

[macslan]

Moi ca me choque pas, si une machine me supplie avec une voix humaine, je suis sur que ca déclenchera quelque chose en moi. Je dit pas que je serai incapable de l'éteindre, mais je suis sur de pas rester de marbre même si je sais que c'est qu'un tas de boulons. Je pense qu'on peut ressentir de l'empathie même quand on sait pertinemment que c'est irrationnel. Qui n'a jamais ressenti quelque chose, même l'espace de quelques secondes, pour un personnage de fiction, en lisant un livre, regardant une série etc ?

Après je comprend pas ces réflexions "c'est juste des grilles pains", je conçoit tout à fait que l'on puisse s'attacher à un robot, on peut bien s'attacher à un animal de compagnie, aussi "basique" soit-il. Perso je m'imagine plus facilement m'attacher à un robot qu'à un hamster ou une mygale

D'ailleurs ces robots dans l'image sont souvent utilisé pour plein de personnes entre autres les personnes âgées pour tenir compagnie

[mamadoudou]

vous avez une vision très anthropocentriste je trouve.

Après je comprend pas ces réflexions "c'est juste des grilles pains", je conçoit tout à fait que l'on puisse s'attacher à un robot, on peut bien s'attacher à un animal de compagnie, aussi "basique" soit-il. Perso je m'imagine plus facilement m'attacher à un robot qu'à un hamster ou une mygale

ce n'est pas une question d'attachement mais de contexte.
Tu n’achètera pas une mygale pour passer l'aspirateur chez toi. Chaque chose a une fonction bien spécifique pour servir l'homme.

Le robot fabrique, l'homme pense, ils ne sont pas conçu pour penser mais pour exécuter.

Un robot est une chose il ne peut en être autrement, sauf dans les films de sc qui imaginent n'importe quoi. Nous ne sommes pas dans power rangers ici, mais dans la réalité.
On pourra toujours coder des artifices pour nous imiter mais cela restera des choses, des riens du tous.