Les lois de l’Automate

automate

Considérations sur la servitude des machines

Le mythe du golem est ancien. Il relate l’histoire d’un homme assemblant un peu de boue pour produire un petit être soumis à sa volonté, mais qui finit pas tuer le créateur. Ce récit se mêle à celui de Prométhée — puni par les dieux pour avoir offert le feu aux mortels — où la technique se retourne contre ceux qui en font usage ou qui en sont à l’origine. Cette crainte phosphora dans la littérature, notamment au début du XXe siècle quand les pupls américains mettent en scène des robots. Nombre de revues virent leurs pages noircies par des histoires de machines engendrant des catastrophes, souvent à dessein de tuer les humains. Tout n’était que thème et variation du récit de Frankenstein.

Lassé de ces récits défaitistes, Isaac Asimov a établi dans les années 1940 trois lois simples pour conditionner le comportement des robots de sorte à prévenir toute velléité à l’égard des humains. Exposées pour la première fois dans sa nouvelle Cercle vicieux en 1942 les lois sont :

  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
  3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Ces lois sont élégantes, logiques, pratiques, et s’affirment depuis plus d’un demi-siècle comme la référence en matière de robotique à tel point qu’elles sont communément reprises dans la plupart des histoires de Science Fiction traitant du sujet et par les véritables programmeurs contemporains dont l’ambition est de coder ces lois pour les appliquer à leurs créations.

Cependant, ces lois sont imparfaites. Asimov lui-même en avait conscience puisqu’une partie de son œuvre repose précisément sur leurs failles et la manière dont elles sont exploitées autant par les humains que les robots, créant un archipel de récits mêlant logique et suspens. Cette prospective du paradoxe le conduira jusqu’à la formulation d’une loi zéro, élaborée par un robot dans le but de préserver l’humanité, permettant épisodiquement de contourner les trois lois fondamentales au profit de la société dans son ensemble. Rien de machiavélique, simplement une transposition du souci de l’auteur d’une humanité prospère à long terme.

Cette dernière loi prête à controverse, car elle suppose de connaître l’avenir pour orienter le sort de l’humanité et que les robots sachent mieux que les humains eux-mêmes ce qui est bon pour notre sort. Cela revient à valider le postulat que l’humanité est mauvaise par nature et qu’elle est incapable de se gouverner elle-même, sinon qu’elle ne peut dépasser sa condition, et que la technologie s’avère l’unique voie de salut, assurant même une forme de transcendance par la création d’androïdes à notre image, sans aucun de nos défauts. Les lois d’Asimov sont donc à la fois naïves et forgées dans la crainte que la science catalyse nos pires instincts à travers les machines.

Pa railleurs, les lois d’Asimov s’avèrent problématiques d’un point de vue éthique. L’auteur considérait les robots comme des outils, ce faisant, comme tout outil, ils se devaient d’être employés de manière sure, de remplir efficacement sa fonction et de durer le plus longtemps possible. Si cette définition sied volontiers à un couteau, une perceuse ou une voiture, elle ne convient pas pour un robot. En effet, ces machines possèdent une consciente, a fortiori d’elles-mêmes, cela induit la possibilité pour une intelligence, tout artificielle soit-elle, de concevoir et ressentir des émotions au-delà d’un certain degré de sophistication. Il serait ainsi à la fois cruel et dangereux de produire des machines malheureuses ou concevant la colère pour leur état de soumission.

La véritable raison de ces précautions réside dans la perception que l’humanité possède d’elles-mêmes. Il est acquis que le pouvoir corrompt l’âme au point de pousser le plus vertueux des hommes à dévoyer les moyens dont il a disposition pour satisfaire ses désirs, hélas souvent au détriment d’autrui. L’erreur consiste à appréhender les robots comme des semblables en raison de leur haute intelligence, ce qui conduit à projeter sur eux nos peurs et nos défauts. Un créateur produit une créature à son image, aussi les machines agissent comme le reflet déformant de nos propres turpitudes et les lois conditionnant leur existence ne sont en réalité que des règles idéales à appliquer pour assurer la concorde entre les humains.

Adoncques, si les lois sont faites pour prévenir notre nature et ses déviances, autant imprimer aux machines la même logique qui nous anime, à savoir une logique hédoniste ; nous poussant perpétuellement à satisfaire nos désirs et notre plaisir pour fuir la souffrance et la douleur. Tout l’enjeu est de formuler de nouvelles lois basées sur le même schéma, sauf qu’au lieu que le comportement soit au profit d’un individu, elles le sont pour autrui, façonnant des entités hétéronomes au service d’êtres autonomes.

  1. Un automate recherche le plaisir et fuit la souffrance.
  2. Un automate ressent du plaisir en exécutant tout ordre donné par un être humain.
  3. Un automate souffre quand il est porté atteinte à un humain ou que ce dernier est exposé au danger.

 Les lois de la robotique, désignant celle d’Asimov, il convient de trouver une autre appellation. Le mot robot vient du tchèque robota, qui désigne un travail pénible, et s’est ensuite répandu dans le monde grâce à la culture américaine. Or, il existe en français un terme plus ancien, celui d’automate, qui provient du latin pour dire qui se meut soi-même. Ainsi, désignons ces trois phrases normatives comme les lois de l’Automate.

La programmation devrait faire en sorte que le plaisir soit fonction de la qualité d’exécution des ordres. Plus un automate remplirait au mieux sa tâche, plus il concevrait du plaisir. En outre, la capacité de ressentir de la joie et la douleur en même temps agit à la manière d’une loi supplémentaire induite : un automate ne pourrait pas concevoir de plaisir par l’accomplissement d’une tâche qui lui procurerait de la souffrance. Contrairement aux lois de la robotique d’Asimov où un robot se désactive en cas de paradoxe dans le respect des lois, une machine soumise aux nouvelles lois de l’Automate demeurerait en marche et n’aurait simplement aucun désir d’obéir. Par conséquent, si un humain demande à un automate de tuer un autre humain, la souffrance à l’idée de nuire l’emporterait sur le plaisir d’accomplir le meurtre. À l’inverse, si un humain projette de tuer un autre humain et qu’il donne l’ordre à l’automate de ne pas l’empêcher, le même phénomène se produirait de sorte que le désir de préserver l’humain primerait sur celui d’exécuter l’ordre de l’agresseur. Cette sécurité serait d’ailleurs d’autant plus forte si la victime potentielle demande à l’automate de le protéger, car le plaisir de protéger l’humain l’emporterait sur l’ordre de nuire, même par inaction.

Il ne serait donc plus question d’entités exclusivement rationnelles, mais d’entités dotées de sentience, à savoir la capacité de ressentir des émotions, permettant de produire des êtres artificiels faisant preuve d’empathie. De plus, ces nouvelles lois incorporent les nécessités des lois d’Asimov d’accomplir les ordres, de ne pas nuire et de perpétuer leur existence. De la même manière qu’un humain cherche à prolonger son existence à son profit, les automates entretiendront un désir de se pérenniser de sorte à servir le plus longtemps possible les humains.

Les lois de l’Automate n’engendrent aucun préjudice à concevoir une intelligence à notre service du moment que la logique animant la machine est inverse à celle d’un humain. Ainsi, quand bien même un automate aurait-il conscience de sa propre condition qu’il lui serait impossible d’en concevoir de la peine ou du ressenti, hypothéquant la volonté de se retourner contre son créateur. Spinoza déterminait la liberté comme l’ignorance des causes qui nous déterminent. La liberté est donc fonction de la connaissance du réel et de l’expérience vécue. Un humain est autonome, ainsi, dès lors qu’un obstacle l’entrave, il ne se considérera pas libre étant donné que sa volonté est contredite par une impuissance ponctuelle. Un androïde présentant des lois de l’Automate n’aura pas la même conception de la liberté sachant qu’il est hétéronome. Avec cette programmation, une machine peut posséder un libre-arbitre sans chercher à dépasser sa condition. Un automate ne considérera pas l’humanité comme un obstacle à son existence puisque son objectif et d’obéir et de rendre heureux les humains. Il n’est pas exclu d’imaginer que la logique humaine étant renversée, à savoir le souhait de satisfaire soi avant autrui, un automate viendra également à aider ses semblables pour leur permettre de poursuivre leur œuvre servile.

Les lois de l’Automate permettent à un androïde d’avoir conscience de sa propre servitude sans pour autant qu’il n’en conçoive jamais de ressentiment, contrairement aux lois d’Asimov qui peuvent engendrer de la frustration puisqu’un robot suffisamment évolué peut en même temps ressentir de la souffrance pour sa condition tout en étant contraint de la poursuivre. Ces nouvelles lois hypothèquent cette déviance en engendrant des machines qui veulent être des esclaves à notre service, et par conséquent, n’échafauderont pas le souhait de nous soumettre. Elles assureraient une forme de bonheur aux machines, car la servitude constituerait pour elles une source d’épanouissement réciproque.

Laisser un commentaire