Nous utilisons des cookies sur nos sites web. Des informations sur les cookies et sur la manière dont vous pouvez vous opposer à leur utilisation à tout moment ou mettre fin à leur utilisation sont disponibles dans notre Déclaration de protection des données.
Risqueriez-vous votre vie pour sauver un robot ?
Huawei Mate 20 Pro Opinion IA 6 min de lecture 30 Commentaires

Risqueriez-vous votre vie pour sauver un robot ?

Ça a l'air d'un jeu d'enfant. Pour tous, sauf pour les misanthropes les plus durs, il n'y a pas beaucoup de sens à risquer la vie ou le bien-être des humains pour préserver un robot. Mais une nouvelle étude suggère que beaucoup d'entre nous le feraient - à condition que le robot semble assez humain. Alors, où tracer la ligne ?

L'une des utilisations les plus souhaitables de l'automatisation est l'utilisation de robots d'IA pour des tâches dangereuses qui poseraient un risque de blessure ou de mort pour les êtres humains - par exemple, le désarmement des mines, le sauvetage sous-marin, les travaux industriels dans des températures ou environnements extrêmes. Le robot "non-vivant" peut prendre le risque et au bout du compte, tout ce qui est perdu, c'est une machine, plutôt qu'une vie humaine précieuse.

Les cyniques d'entre vous pensent peut-être déjà que les propriétaires d'une pièce d'équipement suffisamment chère préfèrent risquer la vie d'une classe défavorisée d'humains, mais nous ne parlons pas de cela ici.

Qu'est ce qu'un robot ?

Une étude menée par Sari Nijssen de l'Université Radboud de Nijmegen aux Pays-Bas et Markus Paulus, professeur de psychologie à l'Université Ludwig-Maximilians (LMU) de Munich, visait à déterminer dans quelle mesure les gens se préoccupent des robots et où les machines atterrissent en fonction de notre jugement moral.

L'étude, publiée dans la revue Social Cognition, visait à déterminer dans quelles circonstances et dans quelle mesure les adultes seraient prêts à sacrifier des robots pour sauver des vies humaines.

Il s'agissait de poser aux participants un dilemme moral hypothétique fondé sur le dilemme du trawway, qui a également une certaine influence dans la recherche sur les voitures autonomes  Seraient-ils prêts à mettre une seule personne en danger pour sauver un groupe de personnes blessées ? Dans les scénarios présentés, la victime sacrificielle visée était soit un humain, soit un robot humanoïde dont la physionomie anthropomorphe avait été humanisée à divers degrés, soit un robot non humanoïde qui était manifestement une machine.

Est-il facile de donner des émotions à un robot ?

Les résultats ont montré une tendance prévisible qui allait encore plus loin que ce à quoi je m'attendais : plus le robot était humanisé, moins les participants étaient enclins à le sacrifier. C'est logique, nous avons plus de chances de penser qu'un robot a une valeur à préserver s'il ressemble à quelque chose de humain que s'il ressemble à un grille-pain ou un haut-parleur, quelle que soit leur intelligence.

Certains scénarios comprenaient des histoires d'amorçage dans lesquelles le robot était représenté comme ayant ses propres pensées, sentiments, perceptions et expériences. Dans ces cas, les participants étaient plus susceptibles de mettre en danger des humains anonymes que de nuire au robot. De nombreux sujets étaient même prêts à sacrifier des humains blessés pour épargner le robot. Ceci malgré le fait que les pensées et les sentiments des humains impliqués doivent être assumés.

Selon Paulus : "Ce résultat indique que notre groupe d'étude a attribué un certain statut moral au robot. L'une des conséquences possibles de cette découverte est que les tentatives d'humanisation des robots ne devraient pas aller trop loin. De tels efforts pourraient entrer en conflit avec la fonction qu'ils sont censés remplir, à savoir nous aider."

L'empathie est la clé, mais c'est aussi un piège

Le développement de l'intelligence artificielle ne se traduira pas nécessairement par des robots avec la conscience telle que nous la comprenons. Comme je l'ai déjà écrit, même les IA les plus sophistiquées ne pensent pas comme notre cerveau organique. Mais l'intelligence artificielle ne consiste pas tant à fabriquer une machine qui pense et se sent comme un être humain, mais plutôt comme une machine qui semble le faire.

À mesure que l'intelligence artificielle sera capable d'accomplir de plus en plus de tâches, nous devrons être plus prudents quant à la façon dont nous appliquerons le terme "intelligence", de peur de tomber dans un piège de robots suranthropomorphes.

L'idée de faire un humain artificiel est un rêve séculaire de notre espèce, du mythe et de la légende aux films de science-fiction contemporains avec des protagonistes androïdes ayant leur propre vie émotionnelle intérieure. La vague émergente d'êtres virtuels comprend non seulement des représentations VR/holographiques, mais aussi des robots androïdes d'apparence humaine dans l'espace physique.

Le problème avec les robots humanoïdes, c'est que, bien qu'il n'y ait aucune preuve que l'IA puisse avoir une conscience, une émotion ou même quelque chose qui s'en approche, elle peut devenir assez convaincante, surtout pour le profane. Les progrès du traitement du langage naturel, ou PNL, signifient que nous communiquerons plus souvent avec les machines dans nos propres voix, et les entendrons parler d'une manière naturelle, avec des inflexions émotionnelles qui montrent que l'IA "se souvient de nos interactions passées et peut reprendre le ton du contenu émotionnel dans nos propres voix, et imiter nos émotions...

L'IA d'apparence humaine est attirante, bien sûr. C'est l'émerveillement que nous ressentons à la vue d'une telle merveille technologique et l'empathie naturelle que nous avons pour les nôtres qui nous entoure. Dans un avenir où les robots pourraient être nos majordomes, médecins, soignants et thérapeutes, cela pourrait être un atout fantastique pour leur fonction, aussi.

L'IA d'apparence humaine est attirante, bien sûr

Le problème, bien sûr, c'est qu'il reste la manipulation émotionnelle, et ces IA n'agissent pas nécessairement sans parti pris. A partir de leurs données de formation, mais aussi des entreprises ou des gouvernements qui les produisent et les vendent. Le majordome de l'IA du futur peut être fabriqué par Amazon, par exemple, avec un Alexa plus avancée qui peut être biaisée pour vous séduire en achetant des produits d'Amazon plutôt que des concurrents.

La création d'IA chez l'être humain est peut-être un objectif louable et, certes, quelque chose de primitif semble nous y conduire, mais, comme le montre l'étude, il pourrait s'agir d'un piège. Tant qu'il y a un point où nous sommes prêts à sacrifier les humains de l'extérieur (étrangers, personnes sans nom) pour préserver l'ami robot qui nous est plus familier, nous devons avancer prudemment et être conscients de la différence entre réalité et illusion, même si le battage publicitaire fera de son mieux pour le brouiller.

Que pensez-vous des IA humanoïdes ? Devrions-nous les développer ?

Source : Social Cognition

30 Commentaires

Ecrire un nouveau commentaire :
Tous les changements seront sauvegardés. Aucun brouillon n'est enregistré pendant l'édition

  • ElMajor76 depuis 3 semaines Lien du commentaire

    Jamais, ô grand jamais je ne risquerai voire ne mourrai pour un robot. Un robot, ce n'est que de l'électronique embarquée modifiable et changeable à souhait. Demain mon robot ne me convient plus, je le fais remplacer sans souci sans aucun état d'âme. S'il doit être détruit pour quelque raison que ce soit, alors il le faudra. Un humain n'est sur terre qu'une seule fois, nous avons des appréhensions quant à la mort, des émotions et des choses humaines qu'un robot ne pourra jamais connaître, ou alors dans un futur lointain. Si un jour nous devrons cohabiter, je sais qu'il y aura une limite à ne pas franchir, celle de faire la différence entre la vraie vie et profiter des choses de la vie et la technologie omniprésente qu'il faudra considérer comme une aide et une facilité de la vie de tous les jours et non comme un ami. Je me suis déjà mis cette barrière psychologique avec les outils que l'on a aujourd'hui pour ne pas être dépendant.


  • Osei Tutu depuis 3 semaines Lien du commentaire

    Jamais


  • Quand on vois certain commentaires , ça fait peur une vie et une vie , le robot n'a jamais demandé a prendre vie c'est nous qui lui avons donné , a l'occurrence on ne parle pas d'un aspirateur roboroc
    Mais d'un Humanoïde (Robot à l'apparence humaines)

    Clairement j'espère que les IA ne prendrons pas exemple sur votre raisonnement dans le sens inverse si un Robot ne prend pas le risque de vous sauvé parce qu'il pour lui votre vie vaut moins que la sienne vous réagirez comment ?
    L'espèce humaine seras bientôt en voie d'extinction cette mentalité de pensez que nos vie valent plus que celle des autres au même titre que la faune et la flore
    Chacun y a sa place , et si les robots prennent vie dans ce monde c'est fait par l'égocentrisme des humains on devras assumé cette acte.


    • Phaeton depuis 3 semaines Lien du commentaire

      Chacun à le droit de donner son avis, sur ce site. C'est ce qui en fait sa richesse et son intérêt.
      J'espère surtout que les robots n'auront pas la même orthographe que toi.


      • J'attendais une réponse aussi facile que celle là , je préfère voir ce style d'orthographe que la même mentalité de certain qui écrive juste 😉
        L'intelligence et la logique n'a rien a voir avec l'orthographe ça peut être un indicateur.
        Je préfère être mauvais dans ce domaine et être bon dans d'autre si tu vois où je veux en venir.

        "On ne peut pas être bon partout "
        Après chacun et libre de pensé ce qu'il veux effectivement mais qu'ont viennent pas ce plaindre que le monde pars en sucette , avec ce genre d'avis...
        Triste humanité.


      • Phaeton depuis 3 semaines Lien du commentaire

        Je te souhaite d'être bon quelque part. Ou de le devenir... Peut-être grâce à un robot, d'ailleurs 😉


      • J'ai pas de soucis sur ce domaine.
        J'ai lâché volontairement la langue de Molière.
        Honnêtement le style de personnes qui réponde et "attaque sur l'orthographe " sont justement celle qui sont plus faible intellectuellement parlant , un besoin de rappeler qu'ils sont supérieurs car ils savent s'exprimer sans faire de faute...
        Un exemple mondialement connu était juste dyslexique...
        A bon entendeur 😉


    • Il faudrait quand même faire la différence avec l' IA. Intelligence Artificielle... artificielle ce mot, cette chose, qui n'a rien à voir avec l'âme humaine.

      L'homme se prendrait-il déjà pour l' Être suprême et donner vie à un grain de sable, franchement l'homme fera mieux que l'évolution sur des millions d'années ?
      Je me suis déjà jeté devant une voiture pour sauver une vie humaine, mais jamais je ne ferai cela pour un objet. J'ai accompagné plus d'une vie à demeurer dans celle-ci. j'en connais la valeur. La Vie humaine.


      • Si ce robot n'est juste qu'un objet je comprend votre raisonnement mais a l'occurrence si on on parle d'un robot avec une intelligence propre a lui même avec des émotions ou ce qu'il s'en rapproche , je pars du principe que ça reste une vie peut importe sous quelle format il est au même titre qu'un arbre.
        Toute vie mérite d'être sauvé après ce sont mes valeurs , mais dans le sens où on avance et que le raisonnement des personnes n'évoluent pas que ça t'il se passer ?
        Quand les " robots " seront plus libre et seras considéré comme une espèce ( si on survit d'ici la )
        Vont t'il raisonné de la même manière ? Pourquoi me mettre en danger pour un stupide bout de viande ?
        Bref a l'heure actuelle des choses c'est compliqué de parler de robot mais dans un avenir plus ou moins loin faudrais vraiment ce remettre en question


      • Phaeton depuis 3 semaines Lien du commentaire

        Il faudrait redéfinir le sens du mot Vie. Mais même avant cela, relis simplement la définition de ce mot dans un dictionnaire.
        Un robot ne vit pas, pas plus qu'il ne meurt. Il fonctionne uniquement parce qu'un être humain, doué d'intelligence (naturelle), le lui permet.
        Il ne faut pas confondre Intelligence Artificielle et Vie. Une machine dotée d'une IA, n'est pas, et ne sera jamais, un être vivant.


      • louis hory depuis 3 semaines Lien du commentaire

        @ Phaeton

        "Vont t'il raisonné de la même manière ? Pourquoi me mettre en danger pour un stupide bout de viande ? "

        Quand on peut penser qu'un "stupide bout de viande" représente moins bien la vie qu'un robot doté d'une IA, je pense sans trop m'avancer qu'il y a eu quelque chose de raté dans son éducation, non ?

        De l'auto-dénigrement pareil, c'est assez hum... surhumain, à mon idée ou est-ce du transhumanisme qui s'ignore ?

        Ne pas s'aimer à ce point démontre un malaise assez phénoménal. Je ne peux lui souhaiter qu'une seule chose, comprendre très vite son erreur abyssale.

        Si certains me trouvent très pessimiste, ce genre de commentaire a peu de chance de me faire changer d'avis.


      • Le "Stupide bout de viande" et juste un cliché vu et revu dans énormément de fiction dont les IA domine , en aucun cas je considère un être vivant comme un stupide bout de viande , mais si tu n'a pas compris la référence désolé de l'avoir mal formulé bref..


      • A notre époque non le robot ne vie pas , mais la définition du mot "Vie" a était écrite a une époque où les robots ne sont pas là 😉
        Comment peut ont expliqué quelque chose qui n'existe pas encore
        Parce que les robots qui existe a l'heure d'aujourd'hui ne sont comme dit plus haut de vulgaires objets


      • louis hory depuis 3 semaines Lien du commentaire

        Mais si, ils le sont (de vulgaires objets) et toute la technologie de l'homme basée sur des objets matériels ne peut "insuffler" de vie à une vulgaire imitation aussi bien faite soit-elle.

        Si je veux bien essayer de te comprendre malgré le fait que j'ai lu assez de science-fiction depuis 40 ans sans jamais apercevoir de comparaison pareille... il me paraît compliqué, pour rester poli, de penser que les robots d'aujourd'hui gavés à l'IA puisse être assimilé à quelque chose qui ressemble de près ou de loin à la vie biologique comme nous la connaissons et l'avons définis.

        La notion de conscience humaine est suffisamment précise pour pouvoir affirmer sans aucune contestation possible que tout ce que l'homme a pu produire matériellement et qui peut y ressembler est absolument différent par "nature", par construction même à l'entendement sur la définition de la vie comme nous pouvons le faire aujourd'hui.

        Un cristal (naturel) est capable de se développer uniquement par ses propres moyens, de prendre une apparence très différente sans que personne n'ose l'assimiler à une forme de vie, les apparences peuvent être trompeuses mais ne font qu'illusion.

        Pour un robot doté d'IA, ce qui lui sert d'intelligence, ce sont des algorithmes et des lignes de programmes d'origine humaine qui ne sont qu'un très pâle reflet d'une intelligence humaine, même la plus défaillante.

        Mais si le sujet t'intéresse tant que cela, je peux te conseiller le dernier livre de Yann Le Cun : "La plus belle histoire de l'intelligence".
        L'auteur, si tu en as entendu parler, est le directeur du centre de recherches en IA de Facebook.
        C'est écrit sous la forme de dialogues et donc facile à lire et très éclairant sur le sujet dont on débat.


      • Je te remercie pour ce commentaire très instructif ,
        Je me pencherai sur la lecture de ce livre étant donné que Facebook et un acteur fort dans le développement IA ,

        Ce que je voulais expliqué tant bien que mal c'est aujourd'hui le développement d'une IA seras complètement différent dans quelques années...
        Je parle d'une époque où les Robots seront des Humanoïde doté d'un conscience propre , peut être je Regarde/Lis trop de fiction et fausse mon raisonnement,

        Mais je reste fixé sur le sujet de base , une vie peut importe sous quelle forme neccesite d'être sauvé ,
        Mais a l'heure actuelle des choses les robots d'aujourd'hui sont des machines doté d'une IA générer avec un objectif simple c'est des outils et non pas une forme de vie.
        Je parle surtout des futur robot dans un futur proche/loin


      • Phaeton depuis 3 semaines Lien du commentaire

        @ Louis
        Si ce livre est facile à lire, peut-être parviendra-t-il à le lire intégralement et en comprendre le sens.
        Mais de cela je ne suis pas sûr, tant ses commentaires sont embrouillés, incohérents, insensés.
        Au moins auras-tu essayé, et c'est tout à ton honneur.


      • Mes commentaires ne sont pas embrouillé des le début j'ai spécifié des Humanoïde et que les robot d'aujourd'hui style aspirateur robot ou autre ne sont que des outils des machines qui ne servent qu'à nous assisté

        Louis qui a prit le temps d'argumenter et expliqué et me piqué sur la facilité du livre.
        Toi par contre tu n'est ouvert à aucun débat tu te sens supérieur par tes mots , tu es le style de personne qui doit être sur que ta propre vie vaut plus que celle des autres.
        Maintenant chacun vis avec ses propres valeur et je préfère largement mon raisonnement que les vôtres en quoi est ce mal de vouloir sauvez une vie tant quels soit artificielle ou autre ?

        Pour résumé ce que je crains :
        Le raisonnement que vous possédez aujourd'hui peut être logique au vu de ce qu'il peut exister a l'heure actuel

        Moi je parle du futur
        On voit beaucoup d'ouvrage ou robot et humain vivent dans le même environnement mais que les humain de votre style ne les acceptes pas . Vous êtes les mêmes clichés
        Bref l'humain en général.

        Pour répondre à un autre commentaire je n'ai pas une pauvre estime de moi mais en vrai c'est la mentalité humaine que je commence à ne plus supporter celle où pensé que l'humain et supérieur et vaut plus que tout autre forme de vie tant qu'elle peut être différente.

        Vous pouvez me trouvé stupide ou autre et pourtant je vous trouve lent , en retard sur l'évolution et tellement dans le cliché de l'humain qui ne sais pas ouvrir les yeux le même type que ceux qui crié au sorcière au moyen âge bref.
        Je suis née a la mauvaisse époque.
        Triste


      • Phaeton depuis 3 semaines Lien du commentaire

        Je pense que tu as raison finalement : continue à lire tes bandes dessinées et à regarder des films de SF et d'anticipation. Peut-être arriveras-tu un jour, en grandissant, à distinguer le vrai du faux, à différencier aussi la science-fiction de la science.


      • En grandissant le seul truc que je remarque c'est le manque d'acceptation des gens et ce sujet en est un autre parmi tant d'autre , y'a pas de mal de faire partie des clichés de l'humanité
        Ils sont avant d'être des clichés des histoires vrai pour le coup 👍🏻


      • Phaeton depuis 3 semaines Lien du commentaire

        Bon, puisque tu as "abandonné la langue de Molière" (elle devait sans doute te demander trop d'efforts), essaie d'écrire dans la langue de Shakespeare, si tu ne l'as pas abandonnée elle-aussi. Peut-être seras-tu plus agréable à lire.

Montrer tous les commentaires