A l’article sur les sentiments des robots de Paul Ziff, il y a eu deux réponses remarquables publiées dans le même recueil d’articles, Pensée et Machine, sous la direction d’Alan Ross Anderson. L’une de ses réponses est le fait de John Jamieson Carswell Smart, l’autre de Ninian Smart. Toutes deux réfutent l’argument de Ziff non à partir du caractère indiscernable de la « réalité » et de l’illusion (comme j’ai essayé de l’esquisser), ni même en plaidant directement pour les sentiments des robots, mais en affirmant que du point de vue d’une science rigoureuse, ce qui peut être dit de la nature des machines peut tout aussi bien l’être des hommes. A moins de supposer l’existence d’une âme immatérielle agissant dans le domaine de la matière, rien ne distingue, en droit, un être vivant d’une machine.



Peut-être, pour saisir tout le sel de cet article de J. J. C. Smart, faut-il avoir fréquenté Descartes, Malebranche, Spinoza et Leibniz, mais je crois qu’on en sent tout de même le goût sans cela. Cependant, éclairons les deux extrémités de cette chaîne de philosophes. Les sentiments sont les passions de l’âme, c’est-à-dire la façon dont l’âme est informée par le monde. Pour Descartes, les passions parviennent à l’âme par la glande pinéale après avoir été reçues par les sens. Il y a donc une articulation corporelle entre l’âme et le corps, mais jusqu’à parvenir à l’âme par cette glande, il n’y a que des signaux matériels circulant dans le corps portés par les esprits animaux. Il ne deviennent sentiments qu’une fois reçus par l’âme. Donc, pas d’âme, pas de sentiments, ni pour les bêtes, ni pour les robots.

Leibniz, lui, refuse comme absurde l’idée d’une rencontre dans la matière de l’âme et du corps. Il suppose deux causalités distinctes, mais qui, partant de la même cause, la causa causarum, c’est-à-dire Dieu, sont strictement harmoniques. Ce qui agit sur le corps n’atteint pas l’âme, mais l’âme subit, néanmoins, un effet parfaitement identique du fait de sa causalité interne. Deux séries de causes différentes qui donnent, à chaque instant, les mêmes effets, mais dans deux ordres de réalités distincts :

…Dieu gouverne les Esprits, comme un Prince gouverne ses sujets, et même comme un père a soin de ses enfants ; au lieu qu’il dispose des autres substances, comme un Ingénieur manie ses machines.

(Système nouveau de la nature et de la communication des substances aussi bien que de l’union qu’il y a entre l’âme et le corps, 1695)
La causalité des âmes ou des esprits, est celle de la Grâce, mais celle des corps, celle de la matière. Comme il y a harmonie, et que rien n’est sans raison, alors, il est légitime de supposer que ce qui est visible dans l’enchaînement mécanique des causes touchant les corps correspond à quelque chose d’équivalent dans l’âme. Le corps de l’animal est fait de la même façon que celui de l’homme donc si l’homme a des sentiments, il n’y a pas de raison de refuser à l’animal des sentiments proportionnel au degrés de complexité de la machine de son corps (un chien a plus de sentiment qu’un poisson, etc. mais tous (tout) ont (a) du sentiment : il y a de l’âme partout), de même si une machine est élevée à un degré de complexité suffisant, alors, cette machine aura des sentiments.

Maintenant, si, du système leibnizien, on retient que l’âme n’est qu’un mot pour désigner la réalité du sentiment, il me semble que l’on arrive aux résultats de J. J. C. Smart :

Le professeur Ziff (« Les sentiments des robots ») soutient que les robots ne pourraient pas avoir de sentiments. Seuls les êtres vivants, dit-il, peuvent en avoir et les robots ne sauraient passer pour des être vivants. Ses prémisses et sa conclusion me semblent discutables, bien que, dans une note aussi brève, je ne puisse qu’effleurer certaines des raisons que j’ai de le penser.

(A) La notion d’ »être vivant » en ce qu’elle est opposée à celle de « robot » n’est pas claire.

(1) Faisons comme si la Genèse était littéralement vraie. Alors Adam et Eve étaient des robots. Ils étaient des objets fabriqués par Dieu. Si nous pouvons nous permettre un rapprochement entre la théologie ancienne et la biologie moderne, nous pourrions même avancer que Dieu a doté Adam et Eve de « programmes », à savoir l’ensemble de leurs gènes, probablement des molécules d’ADN qui ont pour fonction d’enregistrer l’information héréditaire.

(2) Considérons les mécanismes de Von Neumann qui se reproduisent eux-mêmes. (John Von Neumann, « The General and Logical Theory of Automata », Cerebral Mechanisms in Behaviour, The Hixon Symposium, 1951, pages 1 à 31.) En quel sens les descendants de tels mécanismes seraient-ils moins des créatures vivantes que les descendants d’Adam et Eve ? Nous pourrions même supposer des petites modifications au hasard dans cette partie d’eux-mêmes qui enregistre leur forme. De telles machines pourraient évoluer par sélection naturelle et développer des tendances et des capacités qui n’appartenaient pas à la machine originale.

(1) et (2) considérés ensemble montrent combien floue est la distinction entre un objet fabriqué (suffisamment complexe) et une créature vivante. Ce que je ne trouve pas le moins du monde surprenant, car j’ai tendance à accepter la thèse physicaliste selon laquelle les créatures vivantes sont juste des mécanisme physico-chimique très compliqués.

(B) Je ne vois pas pourquoi « cet être a des sentiments » implique « cet être est une créature vivante » si « cet être est une créature vivante » doit impliquer « ce n’est pas un objet fabriqué. » Aucun des objets fabriqués que nous rencontrons dans la pratique n’est suffisamment complexe pour attester l’affirmation qu’il a des sentiments. Ainsi, à l’heure actuelle, nous ne devrions avoir de difficulté à déduire « c’est une créature vivante » lorsqu’on nous dit « cela a des sentiments. » Il n’est néanmoins pas nécessaire que ce soit une implication logique. Nous trouverons peut-être à l’avenir des contre-exemples.

(C) Supposons que nous fabriquions un robot si complexe qu’il puisse parvenir à des nouvelles fins et à de nouvelles capacités à la manière d’un enfant lors de son apprentissage. (Comparez avec la machine enfant de Turing, dans « Les ordinateurs et l’intelligence ».) Il pourrait même devenir philosophe, assister à des conférences, et se développer exactement comme les philosophes humains. Pourquoi ne dirions-nous pas qu’il met du sens dans ce qu’il dit ? Il ne serait pas du tout analogue à une machine de Ziff comportant à l’intérieur un disque de phonographe.

Donc, en bref, je ne trouve pas les arguments de Ziff convaincants. Je suppose que je n’ai sans doute pas compris leur signification, mais je pense que Ziff aurait pu rendre ses intentions plus claires.

J. J. C. Smart, « Le professeur Ziff et les robots », in Pensée et machine, pp. 141-142.