Nos challengers de silicium
Il n’y a plus guère de raisons, aujourd’hui, de douter de l’avènement de quelque chose comme une intelligence artificielle. Il y a même fort à parier que cela ne se passera pas un futur lointain, mais peut-être dans quelques décennie tout au plus. Nous sera-t-elle hostile ? Nous sera-t-elle bienveillante ? Sans doute ne sera-t-elle ni l’un ni l’autre sinon dans notre façon de les voir, car il est indifférent ces IA soient vraiment intelligentes ou qu’elles n’en donnent que l’illusion pour, qu’à l’image des sentiments humains que nous prêtons aux bêtes, nous agissons avec elle comme avec des hommes.
Comme ces gens qui parlent à leur chien comme à un bébé et qui croient le rendre heureux en le traitant comme leur enfant, ceux qui verront dans les machines pensantes des amis ou des amantes, se leurrerons. On ne sera pas plus ami avec une machine qu’on l’est avec un animal, il y aura un noyau d’altérité qui restera irréductible aussi longtemps que l’homme restera l’homme (ce qui n’est pas une garantie de durée bien longue).
Cela ne veut pas dire que nous n’aurons pas, pour elle, pour ces machines pensantes, des sentiments très forts, mais ils devront être radicalement nouveaux, bien qu’analogue à celui que les hommes sages ont avec les bêtes et dont le rapport du chasseur au chien est l’image indépassable.
Mais, faisons place aux challengers de silicium et lisons ce qu’écrit Daniel Crevier en conclusion de sa passionnante histoire de l’Intelligence Artificielle :
L’implacable progression de l’IA nous oblige à nous poser l’inévitable question : sommes-nous en train de créer la nouvelle espèce de vie intelligente sur Terre ?
Notre société devra à tout le moins opérer une métamorphose complète pour survivre à ces intelligences artificielles. Ce changement surviendra peut-être pour le meilleur, mais la perspective du pire sera toujours latente dans les entrailles de nos nouveaux alliés de silicium. Leur avènement menacera l’existence même de la vie humaine au sens où nous la connaissons. Quelle que soit l’issue finale, nous devrons totalement réexaminer nos valeurs et affronter des interrogations telles que : n’y a-t-il que l’intelligence pour définir la nature humaine ? Et, dans un cas comme dans l’autre, quel camp allons-nous choisir — celui de la nature humaine ou celui de l’évolution ? Une forme de vie non biologique peut-elle atteindre un degré d’évolution spirituelle supérieur à celui du genre humain ?
Il n’est ni possible ni souhaitable de proscrire l’IA. Mais il ne faut pas nous attendre à ce que les grandes batailles du XXIe siècle se jouent sur des questions telles que l’environnement, la surpopulation ou la pauvreté. Non. Attendons-nous à ce qu’elles concernent notre réaction face aux entités que notre propre ingéniosité aura créées. Et l’ultime question de savoir qui — de nous ou de nos challengers de silicium — régentera le futur de la Terre.
Daniel Crevier, A la recherche de l’intelligence artificielle, Paris, 1997, p. 399.
Imprimer ce billet
11 juillet 2008 à 10:50Donner une conscience à une machine, une idée du soi pourquoi pas?
Donner une intelligence à une machine, une pensée logique et déductive bien plus structurée et performante que la notre, surement!
Donner des émotions et des sentiments à une machine, plus difficile (en les faisant vibrer au sens propre ou s’étourdir dans certaines circonstances, pourquoi pas).
Mais comment leur donner l’élan initial qui leur permettra de penser le bon ou le beau alors que nous ne sommes pas foutus de les penser, que leur ressenti est confus. Seront-ils capables, ces robots d’évoluer seuls, de se donner seul cet élan à partir de maigres données rationnelles et programmables que nous leur donneront? Seront-ils autre chose que des automates perfectionnés?
Et surtout, ces consciences éternelles (car sans vie, ou sans vie car éternelles) s’ils sont capables d’émotions, risquent de vite déprimer. Quels seront leurs buts? Mon but est au minimum celui de l’animal que je suis (mes gènes à une future génération) et je peux le vivre sans même y penser. Eux n’en auront pas. Ce qui leur manquera surtout, c’est l’instinct, pas la raison!!
11 juillet 2008 à 11:36“Il y a même fort à parier que cela ne se passera pas un futur lointain, mais peut-être dans quelques décennie tout au plus.”
Diable! Et d’ou sort cette conviction?
11 juillet 2008 à 11:42Tous les doutes viennent de la confusion qu’il y a entre la “réalité” de l’intelligence et les mythes qui l’entourent et l’illusion de l’intelligence. Peu importe que les machines pensent comme des humains, ce qui compte, c’est que nous le croyions ou que nous ne soyons plus en mesure de faire la différence entre elles et nous.
Cette conviction vient donc, tout simplement, de ce que je vois du monde actuel et de ce que je sais sur la manière d’agir et de penser de l’homme.
Cela dit, pour ce qui est de la “réalité” de l’intelligence des machines, à moins d’être dualiste et de croire en l’existence d’une âme radicalement distincte du corps (ce qui n’est pas du tout le cas du catholicisme, par exemple), aucune objection ne tient.
11 juillet 2008 à 11:58Il va falloir éduquer ces machines. Le plus dur ne va pas être que les humains s’habituent aux machines, mais plutôt que celles-ci s’habituent aux hommes.
Bientôt des écoles mixtes, enfants et robots, pour que tout le monde ait les mêmes bases de vie en société.
11 juillet 2008 à 12:09Enfin, jusqu’ici personne n’a encore franchi l’explanatory gap et chacun reste bien, de force, dualiste, (même le dernier de matérialiste-physicaliste dont l’entour loupe est de réduire au moyen de la pensée, la pensée à rien). Il faudra peut-être songer à le franchir avant de penser qu’on puisse donner à une machine puisse une conscience.
Pour ce qui est de faire une parfaite imitation de l’homme qui puisse nous tromper, je ne vois pas bien comment elle peut-être parfaite sans conscience, émotions, raison et instinct, ce qui nous conduit à reproduire un homme parfait pour en faire une imitation parfaite.
11 juillet 2008 à 12:22Je vais dire de nouveau ce que j’ai déjà dit ailleurs : 1. les acteurs et les menteurs nous font croire à des sentiments qui ne sont pas vrais, 2. nous n’avons strictement aucune preuve que les autres personnes vivent et ressentent les mêmes choses que nous et encore moins qu’elles aient une conscience (le fait que nous en ayons une est déjà , en soi, assez problématique).
11 juillet 2008 à 13:07Je n’ai aucune expérience de comédien mais je doute qu’on puisse nous faire croire à un sentiment sans le vivre et le ressentir au moins un peu. D’ailleurs certains ont montré que reproduire une mimique faciale d’une émotion précise pouvait engendrer le ressentir de cette émotion (emotions revealed, paul Ekamn)
L’argument du solipsisme n’est-il pas un peu trop irréfutable et définitif, une espèce d’un argument massue qui clôt toute discussion?
11 juillet 2008 à 13:10Les émotions et les sentiments sont le nouveau terrain d’étude de la neurologie et des sciences cognitives. Quand les mécanismes auront été percés, il sera alors possible de les reproduire dans des êtres de synthèse.
11 juillet 2008 à 13:26De toute facon il y aura toujours des gens pour prédire le futur et la plupart auront tord, alors ce que daniel crevier dit …
11 juillet 2008 à 13:34La tache aveugle c’est ce que l’Å“il ne voit pas parce qu’il en est trop près.
Ce sujet est une tache aveugle.
11 juillet 2008 à 13:38Vous voulez dire que nous ne sommes tous que des robots d’un type spécial? Pouvez-vous développer un tout petit peu?
11 juillet 2008 à 13:47Nous ne sommes pas des “robots”, mais nous sommes des machines, c’est évident. Des machines infiniment machinées, disait Leibniz.
L’idée est simple. S’il n’y a que la matière, dans le monde créé, qui agisse sur la matière et si cela fonctionne selon des lois fixes (celle de la causalité), alors la différence entre une horloge (pour être provocant) et un homme n’est que de degré. C’était l’opinion de Leibniz et c’est l’opinion de tout matérialiste conséquent.
Enfin, tout cela est bien compliqué et je suis sans doute maladroit dans mes formulations, j’en suis bien désolé…
11 juillet 2008 à 13:50Précisons de suite, d’ailleurs, que cela n’est absolument pas incompatible avec les doctrines religieuses dominantes.
11 juillet 2008 à 14:08Au contraire, c’est très clair et tient debout à condition qu’il n’y ait effectivement que la matière. C’est votre “coming out” matérialiste.
11 juillet 2008 à 14:20Qu’il n’y ait que de la matière qui agisse sur la matière et dans le monde créé, j’insiste sur ces deux points. Sur le reste, je ne me prononce pas. Après tout, Leibniz était persuadé de ces deux choses et n’était pas matérialiste pour autant.
11 juillet 2008 à 14:35Il me manque dans votre monde d’interaction matière-matière, un élan, une force, peut-être ce que Schopenhauer appelle la Volonté.
12 juillet 2008 à 19:11Je pige pas. Donc, je pourrais partir du principe que vous n’avez pas de conscience ? Et vous dites ensuite que cela ne va pas à l’encontre des idées religieuses dominantes ?
Alors comment définissez-vous la conscience ?
12 juillet 2008 à 19:35Ne pas avoir de preuves ne signifie pas que l’on n’y croit pas, ni qu’on n’agisse (ou même qu’on puisse agir) autrement que comme si.
Ce n’est pas l’argument d’un raisonnement, c’est un contre-argument, il faut le replacer dans ce contexte, en dehors, c’est une remarque sans véritable intérêt.
12 juillet 2008 à 19:46Pour être plus précis, quand on me dit qu’on ne pourra jamais confondre une machine avec un être humain par que le second à une conscience et pas la première, je réponds que l’on n’a pas de preuve de la conscience du premier. On lui attribue une conscience par analogie avec soi et le déduisant de ses actes, de ses paroles, etc., mais on ne sonde pas les reins et les cÅ“urs. Donc, si la machine imite ces paroles, ces gestes, etc. elle n’aura peut-être pas de conscience, mais on ne pourra pas plus en être sûr que quand nous pensons qu’un homme en a une.
12 juillet 2008 Ã 19:54Polydamas => Descartes is not your friend.
13 juillet 2008 à 19:40D’ailleurs la conscience de l’autre peut être altérée. Une victime d’AVC peut souffrir d’une non-reconnaissance d’autres êtres humains. Il les verra mais ne fera pas cette analogie avec lui-même, car la fonction dans le cerveau sera détruite. A ses yeux ce ne seront pas des humains, juste des objets. Il ne projettera pas sur eux d’empathie. La conscience, ou l’âme pourquoi pas, ne sont que des fonctions neurologiques, analysables, reproductibles. Ainsi, notre perception de ce qui est humain, ou pas, peut changer en quelques générations.
Souvenons-nous, il n’y a pas si longtemps que cela, l’homme civilisé ne voyait pas les noirs et les indiens comme des hommes, ils n’avaient pas d’âme, n’étaient que des instruments avec une voix. Et je pense qu’il n’y avait pas qu’un aveuglement idéologique. Il y avait aussi une vraie cécité neurologique.
13 juillet 2008 à 23:04Il est bien beau votre monde où la conscience devient une fonction neurologique analysable et reproductible, sans mystère et sans transcendance. Mais me dire que je ne vaux guère mieux que le PC par l’intermédiaire duquel j’écris et qui devrait avoir, lui aussi bientôt, une conscience comme la mienne, me donne un peu la nausée.
Déchoir l’Homme de toute transcendance en faisant de sa conscience un tas de neurones c’est faire de la conscience le pire poids que l’homme est à porter. Imaginez donc le jour où vous prendrez significativement et réellement conscience de votre néant (peut-être que lire Cioran peut vous donner une idée).
13 juillet 2008 à 23:32Je ne sais pas pour Dalhia, mais moi, j’ai lu Cioran quand j’étais petit
Mais tout cela ne change rien au reste et on peut, sans remord, faire sienne cette belle phrase de Pascal : “éternellement reconnaissant pour un jour d’exercice sur la Terre…”
14 juillet 2008 à 9:06Même le surhomme nietzschéen (qui lit Cioran en prenant son biberon) est transcendé par la volonté de puissance pour surmonter son néant.
14 juillet 2008 à 10:25Ne vous inquiétez pas pour moi, j’ai pris conscience de mon néant. Et je le vis plutôt bien. Merci.
14 juillet 2008 à 12:21J’ai croisé pas mal de gens qui se savaient mourants. Aucun n’était serein. On fait le fier jusqu’au moment où l’inéluctable approche. Après, on fait comme les autres, pipi dans son pantalon.
Détruire scientifiquement tout ce qui transcende l’homme est un erreur qui le fera souffrir. Il est probablement juste que la conscience ne soit rien, un épiphénomène (même si j’espère le contraire) mais c’est un erreur profonde d’en faire ce rien. Je ne connais aucun Homme qui ne croit en quelque chose: la science comme vous (je suis de formation scientifique et mon métier c’est l’immanence même) ou Dieu, ou autre chose qui le transcende (la nature, le vertige de l’infini, le vertige de son néant, etc…). Le problème de la science, c’est qu’elle devrait se limiter à expliquer ce pourquoi elle a été inventée et ce pourquoi elle est douée: la matière; et ne pas tenter de réduire au néant ce qu’elle est incapable de comprendre jusqu’ici sous prétexte qu’elle ne le comprend pas. On est encore très, très, très loin d’avoir localisé neurologiquement la conscience. Et c’est tant mieux! Je souhaite à tous les neurophilosophes, neurologues et consorts de ne jamais y parvenir.
14 juillet 2008 à 12:41@ Thierry : “chacun reste bien, de force, dualiste, (même le dernier de matérialiste-physicaliste dont l’entour loupe est de réduire au moyen de la pensée, la pensée à rien)”
Je ne pense pas… Je pense au contraire que rien n’est moins facile à se figurer que le dualisme pur. Dans ses Méditations Métaphysiques, Descartes démontre (si j’ose dire) la séparation du corps et de l’âme dans la sixième et dernière Méditation, et il a besoin pour cela de s’appuyer sur les conclusions des Méditations précédentes, et notamment celle affirmant l’existence de Dieu… Bref, pour prouver la séparation du corps et de l’âme, il faut déjà prouver l’existence de Dieu. Comme quoi, c’est pas gagné :).
Je ne vois pas d’opposition de principe à l’existence d’une intelligence artificielle (c’est-à -dire : non biologique et imitant l’homme à la perfection), par contre j’ai de la peine à croire que ce soit pour demain, ou même dans 50 ans… On fondait déjà des espoirs pas croyables sur l’an 2000 dans les années 50/60 (cf Kubrick et son robot “HAL” dans “2001…”), quand on voit où on en est aujourd’hui, on se dit que la route est sans doute bien plus longue que prévue…
14 juillet 2008 à 13:13Chacun reste dualiste au sens où si l’objectivité c’est la matière (res extensa) et la subjectivité, La pensée (res cogitans), encore personne n’a réussi à franchir le trou (explanatory gap) qu’il y a entre les deux, c’est à dire d’abord à prouver l’objectivité du monde (l’idéalisme de Berkeley est parfaitement tenable même si peu probable) et ensuite à objectiver la pensée (à faire de la conscience un objet de la science) . Aussi et dans ce sens, jusqu’à ce que nos matérialistes aient définitivement détruit la pensée en la réduisant à la matière, il existe bien deux royaumes et chacun est, de force ou de gré, dualiste.
14 juillet 2008 Ã 19:05Aurons nous un jour droit a un article autobiographique plutot que d’avoir des petits bouts un peu partout dans les commentaires ?
14 juillet 2008 à 23:45Je vais continuer encore avec un petit bout de commentaire (quoiqu’une “Autobiographie de la Conscience”, ça aurait de l’allure
) en réponse à Thierry, si je n’abuse pas de sa patience ni de l’hospitalité du maître des lieux :
Raisonner selon les catégories cartésiennes de pensée et d’étendue, de moi et de non-moi, c’est déjà adopter le principe du dualisme et donc supposer le problème résolu ( il n’y a pas d’intelligence artificielle). Inversement, selon moi, “réduire la pensée à la matière”, ce n’est pas réduire grand’chose, tant la matière nous demeure mystérieuse et ses effets mal connus. La notion newtonienne de “force” n’a rien de “matériel” au sens courant du terme : on serait bien en peine de la toucher, de la voir, ou de la sentir. C’est pourquoi les cartésiens ont longtemps qualifié (pour la nier) cette force d’ “occulte” ! Et pourtant, manifestement, elle existe, puisque c’est ce qui me cloue sur Terre. On est bien forcé de la considérer comme un effet de la matière (ou comme une caractéristique de celle-ci prise dans un sens plus étendu que “ce que je perçois par mes cinq sens”). Il n’est pas aberrant que la pensée, elle aussi, soit un effet ou une caractéristique de la matière… Mais ce n’est pas évident du tout non plus, je vous l’accorde…
15 juillet 2008 à 16:17“Raisonner selon les catégories cartésiennes de pensée et d’étendue, de moi et de non-moi, c’est déjà adopter le principe du dualisme”
Si cela est vrai, alors il est interdit aux partisans du monisme matérialiste de se poser la question du mind-body problem qui pose d’emblée les deux catégories cartésiennes (ceux sont pourtant eux qui se la posent le plus souvent) sous peine qu’ils fassent d’eux-mêmes des dualistes. Ils devraient seulement s’intéresser au body problem, à la matière seule, ce que je disais un peu plus haut.
15 juillet 2008 à 16:29Ce à quoi le matérialisme ne répond pas, ou mal, selon moi, c’est surtout la question de l’unité. La matière est infiniment divisible en droit ; nous faisons, par de la pensée, l’expérience de l’unité (la pensée est comme une pointe - ou comme la tête de lecture d’une machine de Turing, si vous voulez).
La solution de Leibniz est dans la monade, c’est-à -dire un atome de raison (au sens thomiste), un atome non matériel dont la matière est faite. La solution de Lamarck est de dire que l’unité est la conséquence de l’organisation. Etc. Mais la question reste ouverte.
16 juillet 2008 à 20:10[...] écho à ce qui a été écrit et débattu ici, voici la traduction du paragraphe final d’un article très intéressant où l’auteur [...]