Synthèse

       Les robots sont perpétuellement en pleine évolution grâce à la recherche et à l'imagination. Ce n'est pas la seule chose qui change avec cette évolution : notre façon de voir les robots peut changer allant parfois jusqu'à éprouver des sentiments pour eux. Ces nouveaux sentiments sont présentés dans les documents ci-dessous, montrant à la fois les théories scientifiques et les idées sortant de l'imagination pour la fiction. Dès lors nous nous demanderons dans quelle mesure un robot socialement acceptable peut inspirer des sentiments de par son imitation de comportements et de sentiments, question à la fois controversée mais qui demeure ouverte.

        La relation entre les humains et les robots est complexe et ce depuis toujours. Dès la naissance de la notion de "robots" nous redoutions que l'intelligence artificielle devienne trop intelligente et obsédée par sa propre survie. Cependant la relation a évoluée et bien qu'il reste des réserves sur les robots, il y a à présents de nouvelles idées qui se créent notamment en ce qui concerne la relation humains/robots. En effet il se développe aujourd'hui des robots sociaux dont la mission est de se faire accepter, et ce malgré la méfiance qui perdure depuis des années. Pour cela ils développent divers techniques, c'est notamment le cas pour le robot Nexi, présenté dans l'article, Humanoïde : nous finirons par les aimer, du journaliste Erik Sofge. Nexi, pour réussir à toucher le cœur des humains, utilise divers moyen notamment ses yeux qui se fixent sur les personnes qui l'entourent comme ceux d'un bébé selon Erick Sofge. Ainsi il exploite l'instinct humain qui est de s'attendrir devant des yeux pleins de questions et des gestes incertains, ce type de robot n'est donc pas créé pour la performance physique ou technique mais pour attendrir les hommes. L'homme est donc capable de développer des sentiments pour une machine, et même un certain attachement. L'énumération au début du texte Attachement aux robots, une histoire d'amour virtuelle de Michael Stora, psychologue psychanalyste, montre d'ailleurs qu'il y a différentes façons de s'attacher aux machines, et les avantages que cela permet, comme l'impossibilité de mourir, ou bien le fait qu'il est ouvert à toute critique car programmé pour être ce qu'il est, contrairement à l'homme. Dans cette idée le robot deviendrait une sorte de double de l'homme mais libéré du doute et de la subjectivité de celui-ci. Les robots permettent à l'homme de se créer une illusion de contrôle du monde, un contrôle cependant relatif car il faut tout de même qu'il y ait une certaine résistance, cela lui permet de ne plus se sentir seul. En effet le robot peut faire office de compagnon lorsqu'il n'y a personne d'autre, un exemple que nous pouvons constater dans le manga Lui ou Rien, de Yuu Watase, cette résistance permettrait ainsi un double sentiment à la fois du plaisir et du déplaisir, tout comme c'est le cas entre les relations humaines. La relation qui se crée serait donc assez semblable à celle qui existe entre les hommes et les animaux ou même à celle qui lie les hommes entre eux. C'est la thèse développée dans le texte Les robots ne sont pas des animaux : ne leur donnons aucun droit. En effet dans ce texte de Meneldil Palantir Talmayar, la thèse de Kate Darling, chercheur en propriété intellectuelle et en politique de l'innovation au Massachusetts Institute of Technology (MIT), est développée et contestée. Dans ce texte nous découvrons que pour Kate Darling il faudrait qu'il y ait des lois pour protéger les robots, uniquement les robots sociaux, de la maltraitance faite par les humains. Cette idée lui est venue après avoir vu un certain malaise des homme à la vue ou en étant forcés de casser, "tuer" un robot. Cette protection ne serait donc pas vraiment pour les robots, incapables de ressentir la douleur, mais pour les hommes qui ont tendance à s'attacher aux robot et qui ne souhaitent pas les voir avoir "mal".
        À partir de cet attachement humain/robot se créent différents problèmes : le tout premier selon Kate Darling est que nous ne serons plus capable de voir la différence entre le vivant et le non-vivant, et selon elle, cela finira par nuire à l'homme. Une autre idée qui revient dans deux des textes présentés ci-dessus est l'idée que l'utilisation d'un robot peut avoir un effet catarcique, comme lorsque nous allons jouer aux jeux vidéo après une dure journée. Cependant c'est justement ici que peut se créer une réelle différence entre les robots sociaux et les autres robots grâce auxquels on peut faire notre catarcisse. Les robots sociaux auraient un autre intérêt qui serait de nous tenir compagnie. Cependant ici apparait un autre problème, en effet les hommes ont tendance à s'attacher trop vite, y compris aux robots, ce qui peu effrayer bien plus que l'idée initiale d'un robot qui ferait tout pour sa survie. En effet ce lien affetcif pour les robots peut créer une autre sorte de problème : comment nous réagirions si nous devions changer de robot ou s'il devient defaillant ou encore s'il a besoin d'une mise à jour... Dans les exemples du texte Attachement aux robots, une histoire d'amour virtuelle nous permettent de voir combien les relations peuvent être nombreuses et les réactions différentes, par exemple pleurer son tamagotchi (animal de compagnie virtuel, vient des mots "oeuf" (tama) et "monstre" (wotchi)), ou si on enlève le bébé de nos Sims (jeu de simulation sociale)... Un autre problème se pose si les robots finissent par remplacer les relationc humaines, c'est pourquoi il faut créer des lois pour les concepteurs de robots : ils doivent suivre une éthique pour éviter les problèmes car aujourd'hui ils sont libres de faire se qu'ils veulent. Les robots sociaux cherchent à atteindre le coeur humain et pour cela ils doivent faire face au problème de l'uncanny valley ou “vallée de l’inquiétante étrangeté". C'est à dire que l'homme n'aime pas voir un robot ressemblant à l'homme lorsqu'il n'est pas parfaitement ressemblant car cela lui donne des sueurs froides, et donc lui fait peur, créant de doubles sentiments, à la fois de l'attraction et de la répulsion, de la crainte et de la familliarité... Ne pouvant pas encore faire de robots parfaitement identiques à l'homme, les chercheurs font en sorte d'attirer l'attachement des hommes par la ruse, en exagérant les expressions humaines notamment. Erik Sofge lors de sa rencontre avec Nexi a été très surpris car il avait regardé une vidéo de présentation du robot et en avait eu des sueurs froides, or lorsqu'il l'a rencontré en face à face, un attachement s'est créé directement, Erik souhaitant déjà devenir son ami. Peut être que les enfants naissant aujourd'hui n'auront pas la "vallée de l'inquiétante étrangeté" car ils vivraient dès le début avec la présence de ces robots sociaux.
         Les scientifiques cherchent a créer de plus en plus d'attachement des humains pour les machines et cherchent quel est le meilleur moyen de le rendre effectif. Cela crée cependant d'autres questions concernant ce rapport nouveau. Il est cependant clair que l'homme est capable d'avoir des sentiments pour les robots, il n'est donc pas fou de penser qu'un jour nous puissions en tomber amoureux ou avoir pour meilleur ami un robot social.



        Cette avancé technologique mise ne place depuis quelques années déjà a fait l'objet de nombreuses controverses. Mais qu'en est-il de la fiction ? Car en effet, si on parle des progrès de l'homme aujourd'hui en matière de machines, la fiction en faisait déjà référence depuis bien plus longtemps, en arguant que les robots étaient une autre forme de vie. C'est ce que nous verrons notamment avec les écrits et réalisations cinématographique qui nous montre toujours un côté fictif de la chose mais en même temps nait une fascination, car c'est "possible".



       Quand on parle de robots en terme de fiction, le premier mot qui nous vient à l'esprit est "Asimov", cet auteur qu'on ne présente plus avec son Cycle des Robots. C'est par ailleurs cet auteur qui a vulgarisé le terme "robotique" en étant le premier à l'employé dans son oeuvre (robotique : l'ensemble des techniques de conception et de réalisation de machines automatiques ou de robots). La critique de Benoît Ronflette met en avant cet aspect et les trois lois de la robotique établies par Isaac Asimov. En effet, dans son oeuvre de fiction, celui-ci "effectue des parallèles entre les robots et l’être humain à travers d’intéressantes paraboles", c'est ainsi dire que les robots tiennent une place très importante dans son cycle, qui inspirera ainsi plus d'un auteur. Il est par ailleurs intéressant de noter que les trois lois de la robotique (ainsi que la loi zéro) qu'il a établi deviendront en quelque sorte une référence, que par exemple I, Robot emploiera dans l'univers de son film qui est très inspiré de ce cycle. Parlons en de ces trois lois :

• Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.

• Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

• Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

        Celles-ci laissent à penser à une réalité virtuelle mise en place par Asimov. En effet, ces lois écrites et imprimées font office de quelque chose d'assez officiel dans cet univers fictif et tend à nous montrer que les robots, ce n'est justement pas que de la fiction, comme nous avons pu le constate dans la première partie de cette synthèse. Ces lois établies par l'homme (Asimov donc) se verront également agrémentées d'une loi zéro, mise ne place par Asimov également mais pensée du point de vue d'un robot. Cette dernière loi est mise en avant dans I, Robot et concerne la protection de l'humanité qui passe avant toute chose, avant l'individu, comme lorsque Sonny n'hésite pas à combattre les siens pour protéger cette humanité. On parle surtout de cette loi comme une loi logiciel. Asimov considère ainsi ses propres lois comme universelles. Son oeuvre considèrera donc les  robots comme pourvus de sentiments et de doutes, et non comme des "machines bêtes et serviles".
       On peut noter que cette notion de robots qui inspirent des sentiments a été largement développée dans le domaine de la fiction. En effet, on peut constater ce phénomène dans plusieurs récits, livres, etc. Mais aussi dans des mangas par exemple (Chobits, AI Non Stop, etc.) comme le manga présenté ci-dessous, Lui ou Rien, de Yuu Watase. Le scénario nous présente Riiko, une jeune japonaise en manque d'amour et qui désire un petit ami plus que tout. Elle tombe un jour sur un site qui propose d'"acheter" le petit-ami parfait après l'avoir configurer, ce que s'empresse de faire notre héroïne. Parfait cuisinier, parlant plusieurs langues, doué pour les massages,... C'est ainsi l'image qu'a Riiko de son futur petit-ami qui lui sera donc livré comme tel. Au fil de l'histoire, elle développera d'autres relations sociales avec son entourage, notamment avec son ami d'enfance, Soshi, amoureux d'elle depuis toujours. Cependant, Riiko n'aura d'yeux que pour son petit-ami humanoïde doté d'un code-barre, Night, qui s'est plutôt bien adapté. Mais l'intérêt de l'oeuvre réside également dans les sentiments développés par le robot et son adaptation. En effet, celui-ci peut percevoir les émotions humaines grâce à un programme et les décrypter, il sait donc quand une personne est heureuse et cherche à la combler. Concernant ses sentiments, nous nous rendons vite compte qu'en plus de posséder un mode de pensée qui lui est propre, Night, même s'il est reprogrammé, pense à sa chère Riiko même "inconsciemment". Mais l'inconvénient dans l'histoire, c'est que Night est un robot. Eh oui, il a besoin de recharger ses batteries de temps à autre et n'est pas à l'abri de dysfonctionnements et en devient sérieusement défectueux vers la fin. Mais il ne veut pas faire souffrir Riiko et n'en dit rien, la laissant tout découvrir à la fin et la confiant à Soshi, l'ami d'enfance. Bien entendu, Riiko avait déjà un semblant de sentiment pour celui-ci, ce qui n'a pas été très difficile. Mais cependant, elle dit à la fin qu'elle n'oubliera jamais Night et que celui-ci restera irremplaçable à ses yeux. Ce qui nous ramène au sujet de notre synthèse, c'est-à-dire l'amour entre un humain et une machine/un robot.

        C'est ainsi que nous pouvons transposer ce que la fiction nous démontre à la réalité. Si on se réfère à l'article Humanoïde : nous finirons par les aimer à propos de Nexi : “Nous faisons un film d’animation en temps réel”, explique Berlin, un chercheur du Media Lab. Ce qui par ailleurs confirme notre thèse de transposition dans la réalité "films d'animation en temps réel" comprendre ici comme "nous réalisons ce que la fiction nous a apporté". On pourra également se référer à l'article Attachement aux robots, une histoire d'amour virtuelle qui sert un peu de transition lorsque l'on parle de jeux vidéo et de programme informatique tels que les tamagotchi et les sims, qui nous poussent à aimer un semblant de machines virtuelles. Les films également nous implantent des images dans les esprits à propos de robots dotés de sentiments (positifs ou négatifs) comme ce fut le cas pour Terminator, qui, selon Erik Sofge, a largement imprégné notre vision des robots.
        Ce sujet très controversé de l'amour entre un humain et une machine existe depuis bien longtemps, bien avant qu'on puisse penser à réaliser des progrès technologiques. Le fait que l'être humain cherche à s'approprier cet univers de fiction ne serait-il pas un moyen pour lui de se dire que tout est en réalité possible, même en ce qui concerne les rêves et le but d'une vie ?

               Le thème des robot est assez général. Dans cette synthèse centrée sur les relations amoureuses entre humains et machines, nous avons pu voir que ce sujet à l'ordre du jour l'est depuis un moment et on pourra alors parler de transposition de la fiction dans la réalité. L'être humain a tendance à aimer et à s'attacher aux machines, bien que la "vallée de l'inquiétante étrangeté" demeure toujours dans les esprits. Cependant, Erik Sofge cite Breazeal en indiquant que les enfants d'aujourd'hui vont faire fie de cette "vallée de l'inquiétante étrangeté" et que pour eux, Terminator sera juste une vieille histoire.
L'inverse - un robot qui aime l'humanité - peut également être envisagé, surtout lorsque l'on voit le film I, Robot, dans lequel Sonny se bat pour les valeurs humaines ; et aussi avec la recherche sur l'intelligence artificielle.

Les robots ne sont pas des animaux : ne leur donnons aucun droit

Les robots ne sont pas des animaux : ne leur donnons aucun droit

Article paru sur le site notre-planète.info, écrit par Meneldil Palantir Talmayar.

Lien :

http://www.notre-planete.info/actualites/actu_3668_droits_robots_animaux.php

L'article en question :

Certains chercheurs proposent aujourd'hui d'accorder des droits et une protection juridique aux robots, en comparant leur situation à celle des animaux. Ces deux réalités n'ont en fait rien à voir, et brouiller la frontière entre les êtres vivants et les objets ne pourrait, à terme, que nuire aux premiers.

Dans un entretien au Monde.fr publié le 14 février dernier, Kate Darling, chercheur en propriété intellectuelle et en politique de l'innovation au Massachusetts Institute of Technology (MIT) de Boston propose que nous accordions une protection juridique à certains robots.

Sa réflexion part d'un robot particulier, Pleo, la reproduction robotisée d'un camarasaurus d'une semaine, et commercialisé par l'entreprise américaine Ugobe. Le robot est fourni avec un programme qui peut être changé par les utilisateurs, et il est même conçu pour que son caractère soit différent en fonction de son propriétaire.

Lors d'un atelier organisé début février à Genève, Kate Darling demandait aux participants de maltraiter l'objet jusqu'à ce que « mort » s'ensuive pour sonder ensuite leur ressenti. C'est du malaise qu'elle a éprouvé à cette occasion qu'est venue son idée : donner des droits aux robots.

Plus précisément, il s'agirait de les protéger des « maltraitances » sans aller jusqu'à leur accorder un « droit à la vie ». En d'autres termes, vous auriez le droit d'éteindre votre robot, mais pas de lui faire subir des traitements violents. Et naturellement, tous les robots ne seraient pas concernés : la loi s'appliquerait uniquement aux robots sociaux ou plus généralement à ceux sur lesquels on peut projeter des sentiments, parce qu'ils sont faits à la ressemblance d'animaux ou d'êtres humains.

Pour appuyer sa proposition, Kate Darling insiste sur le fait que cette protection juridique ne se justifierait pas par la souffrance éprouvée par le robot (puisque, justement, il n'éprouve aucune souffrance, étant une machine), mais par le sentiment – irrationnel – de souffrance qu'un humain peut ressentir en voyant le robot se faire « torturer ».

Bon. Pour être parfaitement honnête, à moi, et même en s'arrêtant là, il ne me semble pas y avoir matière à légiférer. La liberté de chacun ne s'arrêtant que là où commence celle d'autrui, je ne vois absolument pas au nom de quoi on pourrait interdire à quelqu'un de « torturer » un objet, même en postant la vidéo sur Youtube, puisque, ce faisant, il ne lèse absolument personne. Si des gens sont choqués, ils n'ont qu'à ne pas regarder. En suivant cette ligne de pensée, on pourrait tout aussi bien interdire aux gens de jouer aux jeux vidéo (les personnages que j'ai incarnés ont « tué » un nombre incalculable de monstres, d'animaux et même d'humains, parfois même de manière absolument gratuite), ou même aux enfants de gifler leur doudou. L'argument selon lequel on se comportera avec les êtres vivants comme on s'est comporté avec un objet ne tient absolument pas, beaucoup d'analystes pensant au contraire que la violence virtuelle ou sur un objet a un effet cathartique qui la rend moins probable dans la vie réelle.

Mais il y a plus grave. Dans une tentative bien malheureuse de soutenir encore son argumentaire, Kate Darling trace un parallèle proprement incroyable entre les robots et les animaux : « Je parle plutôt de quelque chose comme les lois qui protègent les animaux. À eux non plus, on n'accorde pas le droit à la vie, mais on a édicté des lois pour les protéger contre la maltraitance. À mon avis, pas tant à cause de la douleur qu'ils peuvent ressentir qu'en raison de la réaction que leur douleur suscite chez nous. Ce n'est pas pour rien que nous protégeons beaucoup plus les animaux que nous trouvons attachants ou auxquels nous pouvons nous identifier. »

Un peu plus, et on se croirait chez Descartes. Le grand retour de l'animal-machine. Comment, au XXIesiècle, est-il encore possible d'écrire une chose pareille ? Elle nie toute valeur morale intrinsèque à l'animal et ne définit ses droits qu'en fonction de l'humanité. Cette position est incroyablement rétrograde. Non, les animaux ne doivent pas être protégés pour nous protéger ; avant cela, ils doivent être protégés parce qu'ils souffrent, et que leur intérêt indéniable est de ne pas souffrir.

Mais plus encore, ils doivent être protégés parce qu'ils sont vivants, et que, sauf circonstances somme toute exceptionnelles comme celles qu'implique la fin de vie, l'intérêt de tout être vivant est de continuer à vivre jusqu'à sa mort naturelle. Quand on lui oppose cette idée, Kate Darling répond : « Comment définit-on la vie ? Et pourquoi est-ce important ? [...] Dans la tradition shintoïste japonaise, chaque objet a une âme. Et cela explique dans une certaine mesure pourquoi la culture japonaise accepte mieux les compagnons robotiques. Elle ne divise pas les choses entre "vivant" et "non-vivant", comme dans la culture occidentale. »

Disant cela, elle prouve qu'elle n'a pas compris grand-chose aux religions animistes. Justement, quand on pense qu'un objet a une âme, on pense qu'il est vivant : en effet, qu'est-ce que l'âme sinon le principe de vie ? La distinction entre « vivant » et « non-vivant » est donc universelle, mais la frontière entre les deux domaines n'est pas établie au même endroit selon la culture considérée.

Malheureusement, on dirait que le biocentrisme n'est pas pour demain. Mais pour le faire advenir, il est indispensable de maintenir la valeur de la frontière entre ce qui est vivant et ce qui ne l'est pas. Tout être vivant a des droits, même si certains êtres vivants particuliers peuvent avoir des droits particuliers. En revanche, proposer d'accorder des droits intrinsèques à des objets ouvrirait la porte à une confusion éthique qui ne pourrait que nuire à tous les vivants.

Article écrit par Meneldil Palantir Talmayar,
http://www.notre-planete.info/actualites/actu_3668_droits_robots_animaux.php

I, Robot : bande-annonce

Nous allons également nous appuyer sur cette bande annonce du film d'I, Robot, qui s'est inspiré des grands principes mis en place par Asimov et son Cycle des Robots. Ici, contrairement aux autres articles, c'est le robot qui a des sentiments, nous pourrons ainsi faire la controverse.

I, Robot (2004), un film réalisé par Alex Proyas

Le cycle des Robots d’Isaac Asimov

Article paru sur le site de CDDJ, Ça dépend des jours, un e-zine. Article écrit par Benoît Ronflette.

Lien : 

http://www.cadependdesjours.com/Litterature-critique/le-cycle-des-robots-isaac-asimov/

L'article en question :

Véritable pilier de la littérature de science-fiction et grand vulgarisateur de livres scientifiques, Isaac Asimov s’est rapidement fait un nom. Créateur de sagas reconnues, il est le génial inventeur des trois Lois de la Robotique. Et ça tombe bien, nous allons aujourd’hui nous intéresser aux Robots. Et plus particulièrement au fabuleux cycle des Robots, commencé en 1950 et achevé en 1985.

Disons le clairement, Le cycle des Robots peut être divisé en deux parties bien distinctes. Les deux premiers tomes présentent des recueils de nouvelles et des histoires courtes publiées par l’écrivain. Le tome initial est sobrement intitulé Les Robots ; le second Un défilé de robots.

Le premier tome englobe neuf petites histoires toutes racontées par un personnage récurrent chez Isaac Asimov, à savoir le Dr. Susan Calvin. Dès ce premier tome, il est étonnant de voir à quel point Isaac Asimov effectue des parallèles entre les robots et l’être humain à travers d’intéressantes paraboles. Une évolution partant de la primitivité et arrivant à la création d’une société presque utopique pour obtenir une égalité presque parfaite entre tous les continents et les hommes.

Les Robots constitue aussi une véritable révolution en ce qui concerne le monde des robots. Ce ne sont plus des machines bêtes et serviles. Elles réagissent à des règles bien strictes qui permettent toutefois à l’écrivain de jouir de multiples possibilités d’écriture. Les robots, chez Asimov, sont en proie au doute et possèdent des ébauches de sentiments. Voici les trois lois auxquelles ils sont soumis :

Première Loi : un robot ne peut porter pas porter atteinte à un être humain ni permettre, par son inaction, que du mal soit fait à un être humain.Deuxième Loi : un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la Première Loi.Troisième Loi : un robot doit protéger son existence, tant que cette protection n’entre pas en contradiction avec la Première et/ou la Deuxième Loi.

Le second tome est un rien moins bon après la véritable révolution qu’était donc le précédent. On y retrouve des personnages déjà célèbres comme Susan Calvin pour lequel l’auteur, dans sa préface, avoue son « amour ». Nous pouvons d’ailleurs y voir une forme de chaînon manquant entre l’homme et les robots. Elle est humaine, mais n’éprouve de l’affection que pour les robots. L’imagination de l’écrivain à travers les huit histoires de ce second tome reste d’ailleurs débordante et fourmille de références, notamment une claire allusion à la Guerre Froide dans l’une des nouvelles, même si toutes les nouvelles ne sont pas dignes d’intérêt — on ne s’attardera guère sur la nouvelle mettant en scène un bébé robot, par exemple.

Les quatre tomes suivants forment donc la seconde partie distincte et racontent les aventures d’Elijah Baley, un être humain qui va se retrouver plusieurs fois dans l’espace pour aider les Spaciens. Autre changement : on a affaire à des histoires complètes et non plus à des petites nouvelles.

Les cavernes d’acier évoque l’enquête d’Elijah Baley sur le meurtre d’un Spacien sur la planète Terre. Il sera, lors de l’investigation, aidé par un robot prénommé Daneel. Les Spaciens sont les descendants d’êtres humains ayant émigré de la planète Terre et qui ont colonisé d’autres planètes. Tout au long de ce troisième tome, Baley va devoir combattre son animosité vis-à-vis des Spaciens, mais aussi des robots. Une animosité désormais ancrée sur la planète Terre. L’incroyable richesse de l’oeuvre réside une nouvelle fois dans la pluralité, la multiplicité de façons dont on peut lire l’oeuvre. Il y a d’une part ce rapport entre l’homme et l’inconnu, qui le fascine d’une certaine façon, mais qui lui fait aussi affreusement peur. Le développement des robots est très important, à travers Daneel, aux caractéristiques humaines, mais dont la perfection agace Baley. Pourtant, au fur et à mesure que le récit avance, on constate qu’Asimov fait en sorte que son personnage humain comprenne que c’est à travers ses imperfections et surtout son âme qu’il est un être unique et extraordinaire. Alors que la perfection des robots les rend tout simplement inhumains et donc imparfaits. Rajoutons l’évolution qui semble tant effrayer les Hommes, parmi lesquels certains semblent vouloir obtenir un retour en arrière, vers le Médiévalisme (qui semble en réalité correspondre à notre époque). Et puis, il y a bien sûr l’avancée de l’enquête, qui maintient une forme de suspense vis-à-vis du récit, via les premiers échecs de Baley dans ses hypothèses.

Le quatrième tome est celui du grand départ pour Baley, qui doit enquêter sur une planète hors du système solaire. Or, un Terrien n’y a jamais été admis. Il s’agit de la planète Solaria. Face aux feux du soleil permet de constater à quel point Isaac Asimov est capable de se renouveler en permanence dans la manière de raconter des histoires tout en possédant un suivi logique par rapport à tout ce qu’il a créé auparavant. Il est fascinant de constater que l’écrivain est capable de prendre du recul sur les éléments qu’il a définis. Il se permet même de démontrer les limites des Trois Lois de la Robotique qu’il a inventées, en établissant par exemple qu’un robot peut blesser un être humain tant qu’il ignore que ses actes peuvent entrainer une telle conséquence. Un point de vue qui lui permet de repousser toujours plus loin les intrigues et d’ouvrir des possibilités de récit encore plus grandes. C’est aussi une évolution humaine importante puisque, dans le précédent opus, Elijah Baley ne supportait pas la lumière du soleil, le contact avec l’extérieur, etc., car la Terre s’est repliée et renfermée sur elle-même sous d’énormes couches de bétons, ne laissant rien filtrer.

Le cinquième tome, Les robots de l’aube, marque encore et toujours l’évolution de Baley face aux craintes de l’extérieur. Il entraine désormais un petit groupe d’hommes à affronter le monde. Il est alors appelé pour se rendre sur Aurora, la plus grande terre Spacienne, pour y élucider le meurtre d’un… robot. Il est encore une fois accompagné par Daneel, comme dans le précédent tome, pour y résoudre l’affaire. C’est aussi la possibilité de remarquer à quel point le personnage de Baley évolue face aux robots et de constater qu’il considère Daneel comme un ami et non plus comme un robot. Ce tome marque également de grands espoirs pour la planète Terre et ses peuples qui s’ouvrent enfin vers l’extérieur et reprennent l’envie de coloniser à nouveau des planètes, comme par son lointain passé. Cette aventure permet aussi l’apparition d’un nouveau robot, Giskard. C’est grâce à ce dernier que la fin de cet opus est très surprenante. Et c’est un personnage qui va avoir toute son importance dans le dernier tome.

Les robots et l’empire marque donc la fin du Cycle des Robots, cette fois-ci sans Elijah Baley. Des décennies se sont écoulées depuis son décès. Mais Daneel et Giskard, ainsi que Gladia, une Spacienne que Baley a aidé dans les deux précédents tomes, sont toujours en vie. Les Spaciens ont en effet une espérance de vie très longue. C’est évidemment un choc pour le lecteur d’apprendre la mort de Baley car Asimov avait réussi à faire de lui un personnage très intéressant et charismatique. Mais l’oeuvre possède véritablement l’aura de Baley car Daneel, à force de le côtoyer, a énormément appris de lui au point qu’il agit comme lui. Elément que ne manquera pas de lui souligner Giskard, le fameux robot du précédent opus, qui possède en fait des capacités télépathiques. Daneel invente une nouvelle loi de la robotique qu’il intitule la Loi Zéro et qui voit l’humanité dans son ensemble comme étant plus importante qu’un seul individu. Une loi qui va évidemment compliquer la tâche des deux robots puisqu’elle entre en conflit avec la Première Loi, qui leur impose de ne pas faire de mal à un être humain. Asimov opère donc une véritable révolution en suggérant que le fait de tuer un être humain peut permettre de rester en accord avec la Première Loi si, par cette action, l’humanité toute entière est préservée.

À cette saga, l’écrivain propose une fin triste tout en étant remarquablement ouverte. Il permet à son lecteur, à travers six tomes, d’aimer à sa manière les robots, de les voir comme des êtres dotés d’une forme d’intelligence et possédant autant d’importance que les êtres humains. Outre des aventures, des histoires et des enquêtes épiques, Isaac Asimov propose une saga au fond incroyable, comparant notre époque, l’être humain et son évolution à ce qu’il a fait avec ses robots. Pour cela, il utilise toutes sortes de styles et de formes, métaphores et paraboles. Mais il est impossible de ne pas voir dans les robots un être humain qui sommeille…

Nous reparlerons très prochainement d’Asimov puisqu’il est l’auteur d’un autre grande cycle qui a fait sa renommée : Fondation…

Le cycle des Robots, Isaac Asimov | Tome I. Les Robots ; 318 pages ; ISBN 2290342483 | Tome II. Un défilé de robots ; 246 pages ; ISBN 2290311251 | Tome III. Les cavernes d’acier ; 373 pages ; ISBN 2290319023 | Tome IV. Face aux feux du soleil ; 308 pages ; ISBN 2290327948 | Tome V. Les robots de l’aube ; 527 pages ; ISBN 2290332755 | Tome VI. Les robots et l’empire ; 566 pages ; ISBN 2290311162 | Publié aux éditions J’ai Lu | Collection J’ai Lu SF |

Critique littéraire de Benoît Ronflette, http://www.cadependdesjours.com/Litterature-critique/le-cycle-des-robots-isaac-asimov/

Lui ou Rien : Mon petit-ami est un robot !

Le support sur lequel nous allons également nous appuyer se trouve être un manga de Yûu Watase, Lui ou Rien (Zettai Kareshi), dans lequel l'héroïne commande un robot comme petit-ami.

Résumé de l'éditeur :

Riiko, jeune lycéenne, rêve de trouver un petit ami, mais cumule les échecs amoureux. Suite à un concours de circonstances, elle commande sur Internet un mannequin robotisé qui représente le petit ami idéal. Seulement la période d’essai de trois jours dépassée, Riiko se voit contrainte de faire un pacte avec la société de vente : contre l’annulation de sa dette de 740 000 euros (c'est son prix), elle doit aider Night (c'est son nom), à collecter des informations sur la psychologie féminine. Ces infos seront en effet précieuses pour améliorer les futurs "modèles".

L’arrivée de Night va bousculer les habitudes de la jeune fille et l’amener à porter un nouveau regard sur ce qui l’entoure.

Tombera-t-elle amoureuse de ce "garçon idéal" ou choisira-t-elle son ami d’enfance ?

Il faut savoir que dans cette série en 6 tomes, l'héroïne finit par réellement s'attacher au robot, Night, et en tombe éperdument amoureuse. Cependant, l'histoire finit assez tragiquement, et son petit-ami robotique finit par être défectueux. Elle se rapatriera donc sur son ami d'enfance, un humain cette fois, mais assure que Night aura toujours cette place si spéciale et irremplaçable dans son coeur...

Attachement aux robots : une histoire d’amour virtuelle

Attachement aux robots, une histoire d’amour virtuelle. 

Article paru sur le site de l'Observatoire des Mondes Numériques en Sciences Humaines (OMNHS), par Michael Stora.

Lien :

http://www.omnsh.org/spip.php?article85

L'article en question : 

Alice pleure. Son tamagotchi a rendu l’âme. Elle est en colère, car Maria à qui elle a laissé son tamagotchi n’a pas réussi à le nourrir à temps. Mme Roland, 68ans, vient de perdre son chien. Unique compagnon, depuis la mort de son mari, elle est désespérée. Son frère cadet, pensant lui faire plaisir, lui offre un chien robot : Un Aibo. Ce chien fonctionne sur batterie, elle est sure de l’avoir pour toute la vie. Vincent, 14ans, est un elfe de la nuit, dans le jeu World Of Warcraft. Cela fait quatre mois qu’il joue à ce jeu, au grand désespoir de sa mère qui se retrouve à souvent diner seule. Lui est aux anges, ses oreilles deviennent pointus comme un elfe, et il vient d’être intégré dans la guilde des « anges de la mort ». Par contre ses notes ne décollent toujours pas. Emma, 12 ans, s’occupe de son petit caniche sur sa console portable DS. Sa copine, possède le même jeu vidéo : Nintendogs, et grâce au port infrarouge, leurs adorables petits chiens peuvent gambader ensemble. Emma trouve son caniche plus obéissant, et donne le conseil à sa copine de ne pas le nourrir trop, pour qu’il sache qui est le maitre. Laetitia, 33 ans, est enceinte, elle s’ennuie car elle avait un travail de conseiller financier qui la satisfaisait. Une amie, lui offre les Sim’s. Sur la jaquette, il est écrit que c’est un « simulateur de vie ». Elle regarde amusée le couple qu’elle vient de créer. Ils sont en train de faire « crac crac » et quelques clics plus tard, un magnifique bébé vient au monde. Elle n’arrive pas à gérer son travail avec sa vie de maman virtuelle. Les services sociaux viennent lui reprendre le bébé, l’accusant de maltraitance pour abandon de bébé en détresse. Elle pleur et se rend compte qu’il ne s’agit que d’un jeu et se venge en achetant l’add-on, « party » où elle peut séduire plusieurs hommes sans aucune culpabilité. 

Ces objets technologiques nous révèlent plus qu’ils nous fondent. Pourtant, nous avons tendance à leurs prêter une vie à part entière. Les programmeurs sont des illusionnistes et vont nous redonner une très ancienne illusion, celle du bébé. Ce dernier est persuadé qu’il est le créateur du monde qui l’entoure. Illusion nécessaire et constitutive, elle va lui permettre grâce à sa main d’avoir une mainmise sur les objets. Puis, au bout d’un certain temps, avec beaucoup de désillusion, il se rend compte qu’il ne peut tout maitriser et que même certains de ces objets lui résistent. C’est notre sort à tous et pourtant l’homme, en quête de triomphe sur sa nature incomplète, innove, cherche, dompte, pour avoir une main mise sur un monde où il peut se sentir moins seul.

Je me souviens lorsque je jouais seul avec mes soldats, j’imaginais la nuit tombante qu’ils prenaient vie et avaient une vie indépendante. Pixar, dans un de ces films, Toy Story, va s’amuser à mettre en scène ce fantasme que surement beaucoup d’enfants trop souvent seuls ont eu. D’ailleurs, en faisant un tour d’horizon des œuvres de science fiction, on retrouve souvent cette idée du savant qui pris dans une solitude, celle de son génie incompris, va tenter de créer une machine pour dans un premier temps lui tenir compagnie et dans un deuxième temps, « conquérir le monde » ! De la solitude va souvent naitre un autre, peut-être à l’image de Dieu qui créa, un homme à son image, Adam. 

Chez l’être humain, il s’agit d’un désir fou, qui est celui de l’auto engendrement, où, l’homme et la femme ne seraient qu’un et dans une toute puissance mettent au monde un être parfait. Une dérive que l’on peut observer, dans des fantasmes nano technologiques où son propre corps, mi-homme mi-robot serait un défi à Dieu, tout puissant. Derrière cette image, non représentable, il y a peut être l’image plus réelle du père qui remplit cette double fonction : création et sanction.

On peut toujours se demander si notre attachement à ces nouveaux objets électroniques n’aurait pas aussi pour origine le mythe du « double ». Cet autre moi-même serait celui d’un idéal dégagé de notre lourdeur : Celle de notre solitude, d’un corps soumis à la gravité. 

Un robot qui ne serait qu’un esclave n’aurait donc aucun intérêt. L’humain a besoin de maitrise mais sur un environnement qui lui résiste, il nous renverrait plutôt à un sentiment de profonde solitude. Ainsi, ces nouveaux robots qu’il s’agit d’apprivoiser, de dompter, qui n’obéissent pas au doigt et à l’œil, vont de plus en plus nous surprendre par une forme de subjectivité numérique. Le paradoxe se situe dans cet entre deux, entre plaisir et déplaisir, entre maitrise et lâcher prise. Mais, on peut se demander si pour tout être humain, il n’y pas une tendance naturelle à la destructivité. Que fait on de toute ces pulsions agressives accumulées tout au long de notre journée qui nous oblige à accepter la frustration, la soumission à l’autorité, l’injustice ? Certains vont les sublimer dans des travaux, qu’ils soient intellectuels, artistiques. Mais on se rend bien compte que ces être autonomes ne sont pas majoritaires. La plupart d’entre nous, vont inconsciemment être dans la décharge, l’addiction, la somatisation. Heureusement, il nous reste une voie, celle du jeu. Le jeu représente une aire de liberté, où nous pouvons jouer avec ces fameuses pulsions agressives. Tel homme malmené par son patron, pourra à travers tel jeu vidéo en ligne, diriger une guilde de plus de 200 hommes et femmes, où sa main, métaphore de son Moi, tenir le monde entre son poing fermé. Comme nous disait le poète, « l’enfer c’est les autres ». C’est là, où le robot pourrait avoir une place tout à fait intéressante. On pourrait s’amuser à imaginer que des robots prof particulier, par exemple, pourrait accepter la critique de son élève sans tomber dans une position trop rigide, signe d’une position défensive, propre à l’être humain. En effet, certains enfants en échec scolaire ou ayant des troubles du comportement, ont souvent besoin de tester les limites, pour à nouveau sentir cette résistance qui va les rassurer. Pourtant, les éducateurs, dans un sens large, à savoir la police, les professeurs, les parents ont leurs propres histoires, et vont dans certaines situations réagir de manières incohérentes, voir infantiles. Le robot programmé, serait à l’image du psychanalyste, qui esquisse un sourire alors que son patient en colère va s’en servir d’une surface de projection de toute sa haine accumulée. L’enfant, qui rentre le soir après une dure journée d’école, serait accueilli par le « robot nounou » qui lui ferait remarquer qu’il voit à son visage, qu’il est en colère. Cet enfant ne supportant pas à nouveau qu’on lui renvoi une mauvaise image pourrait l’envoyer balader, et évoquer en pleurant qu’un professeur lui a dis qu’il était nul. Notre robot au sourire figé lui répondant que ce prof à tort car ce n’est pas lui qui est nul mais son travail. Quelle sagesse ! Celle de la cohérence d’un robot sans affects qui ne dit que la vérité. 

Dompter, apprivoiser un robot serait à l’image de nos parents qui ont eux-mêmes tentés de nous éduquer, pour le meilleur ou pour le pire ; le robot fait de calculs ne serait pas obligé plus tard de voir un psy ! La révolte des robots n’est pas encore pour maintenant.

Propos recueillis par Michael Stora, http://www.omnsh.org/spip.php?article85

HUMANOÏDE • Nous finirons par les aimer

Un article proposé par le Courrier International sur leur site, de Erik Sofge

Lien :

http://www.courrierinternational.com/article/2010/05/12/nous-finirons-par-les-aimer


L'article en question :

Se faire pirater le cerveau par une machine nécessite beaucoup moins d’équipements que je ne le pensais. Nul besoin de lunettes de réalité virtuelle ou d’hologrammes en 3D. Pas de casque truffé d’électrodes ni de fils serpentant jusqu’à mon cerveau. Tout ce dont un robot a besoin, c’est une paire d’yeux alertes. 

La scène se déroule au Media Lab, sur l’immense campus du Massachusetts Institute of Technology (MIT), aux Etats-Unis. Comme bon nombre de centres de recherche spécialisés, celui du Personal Robots Group tient plus de la chambre d’adolescent que du laboratoire scientifique : le sol est jonché de rouleaux de câbles emmêlés, de vieilles boîtes de pizza et des restes épars de robots après autopsie. Au beau milieu de ce bric-à-brac, un robot humanoïde à trois roues d’environ 1,50 m se met soudainement en marche et commence à examiner la pièce. Ses yeux bleus surdimensionnés allant d’un point à un autre, sa grosse tête blanche de poupée s’arrêtant sur le visage de chaque chercheur comme pour mieux le reconnaître. Puis Nexi se tourne vers moi et me dévisage avec un clignement d’yeux. Je m’arrête au milieu d’une phrase pour le regarder. Tout se passe de manière totalement instinctive, comme face au regard curieux d’un bébé. “Que veux-tu ?” ai-je envie de lui dire. “De quoi as-tu besoin ?” J’étais venu faire un reportage objectif plein de distance journalistique. Apparemment, c’est perdu d’avance. 

Nexi est un robot social. Son seul objectif est d’interagir avec les gens. Sa mission est de se faire accepter. Nul doute qu’aucun robot véritablement conscient de sa nature ne relèverait un tel défi. Pour se faire accepter par les humains, il faudrait en effet faire oublier des décennies de peur, voire de haine antirobot. La notoriété de Nexi, star incontestée de la recherche HRI (interaction homme-robot), lui a déjà valu des ennemis. Avant de me rendre au Media Lab, j’ai regardé une vidéo de Nexi, qui a été vue par des milliers de personnes sur YouTube. Dans ce clip, on voit les grands yeux expressifs du robot, son visage enfantin et adorable, mais il y a quelque chose de dérangeant. Nexi ressemble à une marionnette possédée voulant se faire passer pour un grand enfant. D’après les commentaires des internautes, cette vidéo “fait froid dans le dos”. 

Et pourtant, au moment de lui faire face, je me transforme instantanément en apôtre de la robotique. Comment imaginer que les seniors refusent les médicaments distribués par des robots infirmiers papotant avec eux en leur faisant des clins d’œil ? Les futurs robots sociaux n’auront qu’à suivre l’exemple de Nexi et exploiter nos instincts humains les plus irrésistibles. C’est pour cela que Nexi recherche les visages et semble vous regarder droit dans les yeux. Alors qu’il cligne de nouveau des yeux avec un petit bruit de moteur, je m’aperçois que je suis en train de sourire à cette chose. Je réagis en tant que créature vivante et sociale face à une autre. Nexi n’a pas encore dit un mot que je veux déjà être son ami. Le fait de savoir que notre cerveau se fait abuser par un simple robot ne nous aide en rien à mieux lui résister. C’est peut-être là le véritable danger de ces machines. Trop occupés à spéculer sur les turpitudes d’ordinateurs malveillants, nous n’avons pas pressenti le problème nettement plus préoccupant soulevé aujourd’hui par les chercheurs en robotique : il se pourrait que les humains s’attachent trop facilement aux robots. A l’instar des relations hu­maines, ces liens peuvent cacher des difficultés insoupçonnées : comment mamie réagira-t-elle quand son robot de compagnie reviendra de sa mise à jour avec une mémoire totalement effacée ?

Lorsqu’une machine peut induire nos émotions avec une telle facilité et balayer nos réserves les plus profondément ancrées d’un battement de cils artificiels parfaitement calculé, il n’est peut-être pas si stupide de s’inquiéter. Peut-être nous sommes-nous seulement trompés de raison d’avoir peur ? Les robots ont commencé à nous faire peur avant même d’exister. C’est en 1921 que la pièce du Tchèque Karel Capek R.U.R. (pour Rossum’s Universal Robots), invente simultanément le terme “robot” et la crainte d’une apocalypse cybernétique. Le filmTerminator, sorti en 1984, est le symbole moderne d’une de nos craintes : la peur de voir une intelligence artificielle devenir trop intelligente et obsédée par sa propre survie.Terminator a largement imprégné notre vision des robots et même de l’industrie – en plein essor – de l’armement robotisé. Le Bureau américain de la recherche navale a examiné la nécessité d’établir des règles éthiques pour l’utilisation des robots de combat, et un rapport préliminaire de 2008 a même étudié la possibilité d’un scénario catastrophe à la Terminator, dans lequel les machines se révolteraient contre les humains. 

Pourtant, le véritable danger ne vient peut-être pas de là car, comparés aux forces armées rebelles même les plus stupides, les robots ne sont toujours guère plus intelligents que des boîtes de conserve. Prenez Nexi, par exemple. Considéré comme l’un des robots sociaux les plus perfectionnés au monde, Nexi ne comprend pourtant qu’une poignée d’instructions basiques. Les robots sont des créatures instinctives et non introspectives. Leur logiciel de détection leur permet de repérer l’humain qui est en train de parler, un mot-clé déclenche une réaction programmée et, lorsque vous quittez la pièce, le robot ne se demandera pas une seconde où vous êtes parti, si cette conversation vous a aidé ou au contraire blessé, ni comment défier votre autorité. Naturellement, certains chercheurs s’attendent à un développement rapide des neurosciences computationnelles [approches mathématiques, physiques et informatiques appliquées à la compréhension du système nerveux] et annoncent l’apparition de “puissantes intelligences artificielles” comme le projet Blue Brain d’IBM, qui vise à créer un cerveau virtuel, peut-être dès 2019. Reste qu’en l’absence d’une représentation neurologique de notre propre sens de la moralité, les robots machiavéliques ou mégalomanes ne sont pas pour demain. Si les auteurs de science-fiction s’intéressent depuis près d’un demi-siècle aux effets à long terme d’une coexistence humains-robots, les scientifiques commencent à peine à étudier la question. Il existe un exemple célèbre illustrant les mystérieuses réactions du cerveau humain face à un robot : la théorie de l’“uncanny valley” ou “vallée de l’inquiétante étrangeté”, terme poétique pour dire que les robots nous donnent parfois la chair de poule. 

Défini dans un article de l’ingénieur Masahiro Mori en 1970, ce concept de vallée de l’étrange peut se résumer à l’aide d’un graphique montrant que les humains sont plus à l’aise avec des machines humanoïdes… jusqu’à un certain point. Lorsque le robot ressemble trop à un être humain [mais pas complètement], ses imperfections déclenchent en nous les mêmes signaux d’alerte psychologiques que la vue d’un cadavre ou d’un humain en mauvaise santé. La courbe de sympathie chute alors brutalement, avant de remonter quand le robot ressemble parfaitement à un être humain. Qu’il s’agisse d’une distorsion de nos instincts ou d’un phénomène plus complexe, les termes choisis par Masahiro Mori sont lourds de sens : uncanny n’est pas synonyme de “peur” mais d’un mélange de crainte et de familiarité, d’attraction et de répulsion. C’est un phénomène de dissonance cognitive que le cerveau ne parvient pas à surmonter. C’est ce que l’on peut ressentir face à un sapin de Noël parlant ou à un cadavre riant. 

D’un point de vue académique, étudier ce qui semble être un phénomène répandu est particulièrement excitant. Toutefois, de même que les scénarios à la Terminator ne résistent pas à un examen un peu attentif, la théorie de la vallée de l’étrange est loin d’être aussi simple qu’elle en a l’air. Après avoir vu la prestation de Nexi sur YouTube, j’avais des frissons dans le dos à l’idée de rencontrer cette créature. Au lieu de cela, je vois mon visage afficher un grand sourire sur les écrans d’ordinateur du Media Lab. Apparemment, le secret de Nexi se trouve à portée de main de celui-ci : il s’agit d’une vieille édition de The Illusion of Life: Disney Animation [éd. Hyperion, inédit en français, ouvrage de référence expliquant de nombreuses techniques d’animation utilisées par le studio Disney], dont la lecture est obligatoire pour tous les membres du Personal Robots Group. “Nous faisons un film d’animation en temps réel”, explique Berlin, un chercheur du Media Lab. Comme ceux de bon nombre de personnages animés, les mouvements et expressions de Nexi sont des représentations exagérées de comportements humains. Lorsque le robot cherche à saisir quelque chose, son bras ne se dirige pas avec une précision implacable vers l’objet convoité. Au contraire, le robot s’agite en vain, tournant les yeux, puis la tête et tout son corps vers l’objet avant de lancer laborieusement un bras en direction de sa cible. En résumé, Nexi est physiquement inefficace mais socialement performant. 

A quel point ? Présenté à des centaines d’êtres humains, notamment les résidents de trois centres pour personnes âgées de la région de Boston, Nexi n’a suscité aucune crainte chez les sujets. C’était même plutôt l’inverse : bon nombre de seniors ont essayé de lui serrer la main ou de lui donner l’accolade et au moins une personne l’a même embrassé. “Les gens le traitent de manière personnelle, comme une créature sociale et non comme une machine”, explique Cynthia Breazeal, directrice du Personal Robots Group. “Les études menées avec Nexi montrent que, lorsqu’il exécute des mouvements et des comportements connus pour susciter la confiance et la sympathie, les gens réagissent comme avec un être humain.” 

Le succès de Nexi et d’autres robots sociaux soulève tout de même une nouvelle question encore plus profonde : pourquoi aimons-nous tant les robots ? “Il se trouve que les êtres humains sont particulièrement enclins à s’attacher aux objets. Nous sommes de véritables cœurs d’artichaut”,explique Sherry Turkle, directrice de l’Initiative on Technology and Self au MIT [centre de recherche qui s’intéresse aux dimensions sociales et psychologiques liées à la technologie]. Selon les chercheurs, l’arrivée massive des robots sociaux est aussi dangereuse qu’inévitable. La demande devrait être considérable, et certains analystes estiment que le volume du marché des robots personnels devrait atteindre les 15 milliards de dollars [12 milliards d’euros] en 2015. Ce que Sherry Turkle redoute en réalité, c’est que les interactions humaines se reportent sur des machines. 

Plus inquiétant encore, ce sont les publics à qui pourraient être destinés ces robots de compagnie : des enfants dans les classes surchargées ou des personnes âgées atteintes de la maladie d’Alzheimer. Il pourrait en effet être tentant de remplacer du personnel coûteux par une armée de robots chargés de surveiller nos enfants et nos aînés. Mais comment les enfants qui feront partie de la première génération à grandir avec des amis et des figures d’autorité robotisés réagiront-ils face à des comportements humains imprévisibles ? 

Les sombres augures de Turkle rappellent étrangement les peurs irrationnelles qu’ont toujours suscitées les robots. Pourtant, la quasi-totalité des chercheurs que j’ai rencontrés sont d’accord sur ce point : il est nécessaire de définir des règles éthiques pour les robots, et tout de suite. Non pas que les robots aient besoin d’une boussole morale, mais plutôt parce que les hommes qui les créent et les commandent agissent actuellement dans le plus grand vide juridique. 

Dans ce débat, plus riche en spéculations qu’en données empiriques, la définition de quelques règles éthiques pourrait servir de garde-fou. “Ce n’est pas une éventuelle défaillance du côté des robots qui m’inquiète”, confie Chris Elliott, ingénieur et avocat, qui a récemment contribué au rapport de la Royal Academy sur les systèmes autonomes. “C’est plutôt que surgissent des problèmes du côté des humains.” Il craint qu’un simple incident suffise à nous ramener des années en arrière. Imaginez le cirque médiatique qui se déclencherait autour du premier patient tué par un robot chirurgien, le tapage que susciterait la mort d’écoliers écrasés par une voiture automatique ou l’impact qu’auraient des images montrant un robot maîtrisant un patient atteint de démence. “Le droit est très en retard. Nous pourrions bientôt arriver au moment où nous aurons peur d’utiliser de nouveaux robots à cause des incertitudes juridiques”, explique-t-il. On ignore encore quelle serait la teneur exacte de telles règles éthiques. Une solution consisterait à limiter l’usage d’un type de robots à un public ou à une mission spécifiques. Les robots infirmiers ne seraient utilisés que pour les patients d’un certain âge ; certains modèles pourraient se limiter à aider les personnes âgées dans leurs déplacements sans pouvoir leur parler ou les réconforter. Philosophes, spécialistes de l’éthique, juristes et ingénieurs en robotique commencent tout juste à étayer le premier code éthique d’Asimov (voir encadré “Les lois de la robotique”). En attendant, c’est peut-être grâce à des robots comme Nexi que l’humanité parviendra à se défaire de ses vieilles peurs irrationnelles. 

Pendant que je contemple les engrenages et les servomoteurs dans le dos de Nexi, un groupe de visiteurs se présente à l’improviste. Des enfants d’une dizaine d’années s’approchent du robot. Nexi est en train de les dévisager, lorsqu’un garçon s’approche d’un peu trop près. Immédiatement, le robot fronce les sourcils, plisse les paupières et baisse la tête, les petits moteurs de ses doigts resserrés en poings bourdonnant comme des boîtiers électriques. — Wouah ! s’écrie le garçon, tandis que tout le groupe fait un pas en arrière. — Il est fâché ?” demande une fillette aux scientifiques. Le visage de Nexi se radoucit, et tous se mettent à rire. 

Je me souviens alors des paroles de Breazeal : les enfants ayant grandi aux côtés de robots pourraient ne pas connaître les affres de la vallée de l’étrange, et Terminator ne serait rien d’autre pour eux qu’une vieille histoire. Vulnérables ou pas, les enfants interagissent différemment avec ces machines. Pour comprendre les limites et l’incroyable potentiel de la robotique, il suffit peut-être de laisser ces robots côtoyer leurs modèles humains. Peut-être Nexi pourrait-il agir comme un vaccin, une exposition nécessaire pour étouffer les peurs irrationnelles et les perceptions distordues avec lesquelles nous avons grandi. Les enfants s’amusent de nouveau à provoquer Nexi, riant de plus belle. Lorsque les sourcils du robot se relèvent, un garçon lance à son camarade, montrant du doigt le visage impassible du robot : “Regarde ! Il te sourit !”

Propos recueillis par Erik Sofge, http://www.courrierinternational.com/article/2010/05/12/nous-finirons-par-les-aimer