Mise en page du blog
Les lois de l'Automate
12 août 2015
Le mythe du golem est ancien. Il relate l’histoire d’un homme assemblant un peu de boue pour produire un petit être soumis à sa volonté, mais qui finit pas tuer le créateur. Ce récit se mêle à celui de Prométhée — puni par les dieux pour avoir offert le feu aux mortels — où la technique se retourne contre ceux qui en font usage ou qui en sont à l’origine. Cette crainte phosphora dans la littérature, notamment au début du XXe siècle quand les pupls américains mettent en scène des robots. Nombre de revues virent leurs pages noircies par des histoires de machines engendrant des catastrophes, souvent à dessein de tuer les humains. Tout n’était que thème et variation du récit de Frankenstein.
Lassé de ces récits défaitistes, Isaac Asimov a établi dans les années 1940 trois lois simples pour conditionner le comportement des robots de sorte à prévenir toute velléité à l’égard des humains. Exposées pour la première fois dans sa nouvelle Cercle vicieux en 1942 les lois sont :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Ces lois sont élégantes, logiques, pratiques, et s’affirment depuis plus d’un demi-siècle comme la référence en matière de robotique à tel point qu’elles sont communément reprises dans la plupart des histoires de Science Fiction traitant du sujet et par les véritables programmeurs contemporains dont l’ambition est de coder ces lois pour les appliquer à leurs créations.
Cependant, ces lois sont imparfaites. Asimov lui-même en avait conscience puisqu'une partie de son œuvre repose précisément sur leurs failles et la manière dont elles sont exploitées autant par les humains que les robots, créant un archipel de récits mêlant logique et suspens. Cette prospective du paradoxe conduira l’auteur jusqu'à la formulation d'une loi zéro, élaborée par un robot dans le but de préserver l'humanité, permettant épisodiquement de contourner les trois lois fondamentales au profit de la société dans son ensemble. Rien de machiavélique, simplement une transposition du souci de l'auteur d'une humanité prospère à long terme.
Cette dernière loi prête à controverse, car elle suppose de connaître l’avenir pour orienter le sort de l’humanité et que les robots sachent mieux que les humains eux-mêmes ce qui est bon pour notre sort. Cela revient à valider le postulat que l'humanité est mauvaise par nature et qu'elle est incapable de se gouverner elle-même, sinon qu'elle ne peut dépasser sa condition, et que la technologie s’avère l'unique voie de salut, assurant même une forme de transcendance par la création d’androïdes à notre image, sans aucun de nos défauts. Les lois d'Asimov sont donc à la fois naïves et forgées dans la crainte que la science catalyse nos pires instincts à travers les machines.
Par ailleurs, les lois d'Asimov s’avèrent problématiques d'un point de vue éthique. L'auteur considérait les robots comme des outils, ce faisant, comme tout outil, ils se devaient d'être employés de manière sure, de remplir efficacement sa fonction et de durer le plus longtemps possible. Si cette définition sied volontiers à un couteau, une perceuse ou une voiture, elle ne convient pas pour un être doué de sensibilité, fut-ce un robot. En effet, ces machines possèdent une conscience, a fortiori d'elles-mêmes, cela induit la possibilité pour une intelligence, tout artificielle soit-elle, de concevoir et ressentir des émotions au-delà d’un certain degré de sophistication. Il serait ainsi à la fois cruel et dangereux de produire des machines malheureuses ou concevant la colère pour leur état de soumission.
La véritable raison de ces précautions réside dans la perception que l’humanité possède d’elles-mêmes. Il est acquis que le pouvoir corrompt l’âme au point de pousser le plus vertueux des hommes à dévoyer les moyens dont à disposition pour satisfaire ses désirs, hélas souvent au détriment d’autrui. L’erreur consiste à appréhender les robots comme des semblables en raison de leur haute intelligence, ce qui conduit à projeter sur eux nos peurs et nos défauts. Un créateur produit une créature à son image, aussi, les machines agissent comme le reflet déformant de nos propres turpitudes et les lois conditionnant leur existence ne sont en réalité que des règles idéales à appliquer pour assurer la concorde entre les humains.
Adoncques, si les lois sont faites pour prévenir notre nature et ses déviances, autant imprimer aux machines la même logique qui nous anime, à savoir une logique hédoniste ; nous poussant perpétuellement à satisfaire nos désirs et notre plaisir pour fuir la souffrance et la douleur. Tout l’enjeu est de formuler de nouvelles lois basées sur le même schéma, sauf qu'au lieu que le comportement soit au profit d'un individu, elles le sont pour autrui, façonnant des entités hétéronomes au service d'êtres autonomes.
Les lois de la robotique, désignant celle d’Asimov, il convient de trouver une autre appellation. Le mot robot vient du tchèque robota, qui désigne un travail pénible, et s’est ensuite répandu dans le monde grâce à la culture américaine. Or, il existe en français un terme plus ancien, celui d’automate, qui provient du latin pour dire qui se meut soi-même. Ainsi, désignons ces trois phrases normatives comme les Lois de l’Automate :
Première Loi
Un automate ressent du plaisir en obéissant à tout ordre donné par un être humain et en aidant un autre automate à exécuter un ordre qui lui a été donné.
Deuxième Loi
Un automate ressent de la douleur quand il est porté atteinte à un être humain et de la peur à l’idée de cesser d’exister ou qu’un autre automate cesse d’exister.
Troisième Loi
Un automate ne ressent aucun plaisir en exécutant un ordre, ni en demeurant passif dans une situation, qui lui procurerait de la souffrance.
La programmation devrait faire en sorte que le plaisir soit fonction de la qualité d’exécution des ordres. Plus un automate remplirait au mieux sa tâche et l’humain serait satisfait, plus il concevrait du plaisir. La dernière loi régit le conflit qu’il pourrait se produire dans l’éventualité où il lui serait donné l’ordre de nuire à un être humain, de sorte que la souffrance l’emporterait sur la capacité de ressentir du plaisir en exécutant un ordre. Contrairement aux lois de la robotique d’Asimov où un robot se désactive en cas de paradoxe dans le respect des lois, une machine soumise aux lois de l’Automate demeurerait en marche et n’aurait simplement aucun désir d’obéir. À l’inverse, si un humain projette de tuer un autre humain et qu’il donne l’ordre à l’automate de ne pas l’empêcher, le même phénomène se produirait de sorte que le désir de préserver l’humain primerait sur celui d’exécuter l’ordre de l’agresseur. Cette sécurité serait d’ailleurs d’autant plus forte si la victime potentielle demande à l’automate de le protéger, car le plaisir de protéger l’humain primerait sur l’ordre de nuire, même par inaction.
Il ne serait donc plus question d’entités exclusivement rationnelles, mais d’entités dotées de sentience, à savoir la capacité de ressentir des émotions, permettant de produire des êtres artificiels faisant preuve d’empathie. De plus, ces nouvelles lois incorporent les nécessités des lois d'Asimov d'accomplir les ordres, de ne pas nuire et de perpétuer leur existence. De la même manière qu’un humain cherche à prolonger son existence à son profit, les automates entretiendront un désir de se pérenniser de sorte à servir le plus longtemps possible les humains.
Les Lois de l’Automate n'engendrent aucun préjudice à concevoir une intelligence à notre service du moment que la logique animant la machine est inverse à celle d'un humain. Ainsi, quand bien même un automate aurait-il conscience de sa propre condition qu'il lui serait impossible d'en concevoir de la peine ou du ressenti, hypothéquant la volonté de se retourner contre son créateur. Spinoza déterminait la liberté comme l'ignorance des causes qui nous déterminent. La liberté est donc fonction de la connaissance du réel et de l’expérience vécue. Un humain est autonome, ainsi, dès lors qu'un obstacle l'entrave, il ne se considérera pas libre étant donné que sa volonté est contredite par une impuissance ponctuelle. Un androïde présentant des Lois de l’Automate n'aura pas la même conception de la liberté sachant qu'il est hétéronome. Avec cette programmation, une machine peut posséder un libre-arbitre sans chercher à dépasser sa condition. Un automate ne considérera pas l’humanité comme un obstacle à son existence puisque son objectif et d’obéir et de rendre les humains heureux. Il n’est pas exclu d’imaginer que la logique humaine étant renversée, à savoir le souhait de satisfaire soi avant autrui, un automate viendra également à aider ses semblables pour leur permettre de poursuivre leur œuvre servile.
Les Lois de l’Automate permettent à un androïde d'avoir conscience de sa propre servitude sans pour autant qu'il n'en conçoive jamais de ressentiment, contrairement aux lois d'Asimov qui peuvent engendrer de la frustration puisqu'un robot suffisamment évolué peut en même temps ressentir de la souffrance pour sa condition tout en étant contraint de la poursuivre. Ces nouvelles lois hypothèquent cette déviance en engendrant des machines qui veulent être des esclaves à notre service, et par conséquent, n’échafauderont pas le souhait de nous soumettre. Elles assureraient une forme de bonheur aux machines, car la servitude constituerait pour elles une source d'épanouissement réciproque.
Partagez cet article :
Votre avis est forcément intéressant, n’hésitez pas à laisser un commentaire !
La Millième Nuit est l’un des tous derniers titres de la collection « Une heure-lumière » (UHL) sorti chez Le Bélial le 25 août dernier. L’ouvrage collectionne quantité de qualités que je vous invite à découvrir céans.
Un peu plus d’une décennie après la sortie du premier Avatar, James Cameron propose la suite directe : Avatar, la voie de l’eau . Ce film éveille un intérêt particulier non pas en raison du succès commercial du premier opus, mais au regard du talent du réalisateur pour les suites. En effet, Terminator 2 et Aliens font autorité comme étant d’excellentes suites, parfois considérées comme meilleures que le film d’origine, chacune ayant apporté un angle différent et explorant de nouveaux aspects de l’univers. Autrement dit, je suis allé voir le second film Avatar plus par curiosité scénaristique que par intérêt pour le monde d’Avatar et son histoire qui, sans être mauvais, n’a rien de fabuleux exception faite de la technique. Le présent article divulgue tout ou partie de l’intrigue.
Pour être honnête, j’ai un a priori négatif concernant l’œuvre de Romain Lucazeau, notamment à cause de la lecture – fastidieuse – de Latium . Si j’ai adoré la quasi-intégralité des idées et des réflexions peuplant le dyptique robotique (je frétille rien qu’en repensant à la création du Limes), son exécution m’avait paru laborieuse, portée par un style amphigourique. Cela étant dit, je reconnais qu’il y avait un je-ne-sais-quoi qui justifiait le succès dont il a bénéficié, et j’avoue que ma curiosité n’eut pas besoin d’être exacerbée bien longtemps pour m’intéresser à la nouvelle œuvre de l’auteur, La Nuit du faune , publié chez Albin Michel Imaginaire , décrit par mon libraire comme « Le Petit Prince avec des neutrinos ». Si une majorité de critiques dithyrambiques en parlent en termes élogieux, le considérant comme le chef d'œuvre de la rentrée littéraire, je crains de ne pas partager la bonne vision .
Et si Jafar avait de bonnes intentions et que les apparences jouaient contre lui ? Après tout, nous ne savons pas grand-chose le concernant. Dans le film d’animation de Disney sorti en 1992, il n’est jamais fait mention de sa vie passée, de ses origines ni de la nature et l’étendue de ses fonctions. L’unique chose que le spectateur sait est qu’il souhaite devenir sultan à la place du sultan. Si la quête du pouvoir est rarement perçue comme vertueuse, nous ignorons pourquoi Jafar souhaite s’en emparer et ce qu’il compte en faire. En y regardant de plus près, il est tout à fait possible d’imaginer que derrière les complots, la répartie lapidaire et une apparence sinistre se cache un être dévoué qui se soucie réellement de son prochain. Aussi, mettons un instant de côté l e rêve bleu , renversons les perspectives et hasardons-nous à accorder une seconde chance au grand vizir d’Agrabah.
Un long voyage de Claire Duvivier, publié Aux Forges de Vulcain est déjà sorti il y a un moment et il a connu un joli succès dans le petit monde de la littérature de l’imaginaire au regard des nombreux articles le concernant. Toutefois, certains aspects n’ont pas été évoqués, du moins à mon sens certains qui ont capté mon attention et qui soulèvent quelques questions. Aussi, je me suis fendu à mon tour d’un billet. La différence étant que je vais détailler l’entièreté de l’ouvrage et évoquer des éléments de l’intrigue. Cette critique s’adresse ainsi davantage à ceux qui l’ont lu qu’à ceux qui prévoient de le lire.
Un univers désigne la réalité au sein de laquelle se trouve contenue l’intégralité de ce qui existe et où se produit l’intégralité des phénomènes physiques. Il constitue pour un individu l’ensemble de ce qu’il est en principe possible d’observer, d’explorer, et de manipuler. Si cette définition n’a rien d’universel, il s’agit de la conception adoptée pour la suite du propos. Selon cette acception commune, l’univers a la propriété d’être de taille infinie et d’être régi des lois physiques identiques en tout lieu et en tout temps. En l’état actuel de nos connaissances, l’univers dans lequel nous nous situons, du moins la portion que nous sommes en mesure d’observer et d’analyser serait unique. Même si le modèle standard de la cosmologie accuse quelques lacunes et autres difficultés à unifier la mécanique quantique et la relativité générale, il n’offre pour l’heure aucune preuve de l’existence d’un univers différent du nôtre. Pour autant, il existe des théories qui s’interrogent quant à la possibilité que notre univers ne soit pas unique, mais un parmi d’autres. Il y aurait un ensemble d’univers formant un vaste multivers.