Mitchell Howe sur Accelerating Future, le blog de Michael Anissimov, rapporte le pari fait entre Ray Kurzweil et Mitchell Kapor sur la possibilité de la réalisation, d’ici 2029, d’une machine capable de passer avec succès le Test de Turing

Le Test de Turing consiste, comme chacun sait, à déterminer si une machine peut, sous certaines conditions, se faire passer pour un humain. Ce qui explique, d’ailleurs, que Turing lui donne le nom de Jeu de l’imitation dans l’article où il en expose les caractéristiques —”Computing machinery and intelligence” (Mind, 59, 433-460 — texte complet en ligne) dont il existe une traduction française dans le recueil d’articles édité par Alan R. Anderson (Pensée et machine, Seyssel, 1983 [1964]) et en format poche dans l’édition de La machine de Turing par Jean-Yves Girard (Paris, 1991). Voici comment Turing le présente :

It is played with three people, a man (A), a woman (B), and an interrogator (C) who may be of either sex. The interrogator stays in a room apart front the other two. The object of the game for the interrogator is to determine which of the other two is the man and which is the woman. He knows them by labels X and Y, and at the end of the game he says either “X is A and Y is B” or “X is B and Y is A.”

Si A est une machine, C obtiendra-t-il un résultat aussi rapide ? Si oui, alors, le test est passé.

Il faut préciser ici que les programmes de jeu d’échec, même les plus performants, ceux qui battent les meilleurs joueurs, agissent d’une façon très différente de celle des humains. Aux échecs, l’ordinateur a dépassé l’être humain, mais pas en étant comme lui. Ainsi, en emportant la victoire Garry Kasparov en 1997, Deeper Blue n’a pas passé le Test de Turing…

Pour en revenir au sujet, comme l’auteur le fait remarquer, un tel pari met surtout l’accent sur la possibilité d’un tel événement plutôt que sur ses conséquences.

But with recent discussion of AI taking place in the context of a wager, debates have tended to focus on the difficulty of the problem rather than the implications - as though the arrival of true Artificial Intelligence would only mean the difference between a robot making your coffee and brewing it yourself.

L’auteur se propose donc de construire deux hypothèses à partir de l’alternative offerte :

1. Aucune machine ne passe le Test de Turing, victoire de Mitchell Kapor (qui empoche 10 000 $).

Between now and 2029, the steady march of progress will continue; worker productivity will climb as technological innovation improves efficiency in most industries. Genetic engineering will make new headway in combating disease and improving food supplies. Nanotechnology - the engineering of materials and devices at the molecular level - will steadily mature, accelerating economic development.

Les conditions de vie continuent donc de s’améliorer, la durée de vie d’augmenter, etc., mais ce sont les biotechnologies qui dominent, avec les risques que cela implique.

2. Une machine passe le Test de Turing, une véritable intelligence artificielle apparaît et c’est Kurzweil qui emporte les 10 000 $…

Between now and 2029, scientists will work out a functional design for true AI that possesses a core desire to understand and assist humanity (a characteristic called Friendliness by some researchers). While unimpressive at first, the new AI will learn quickly and receive extra computing capacity to increase its capabilities. Once mature, it will assist its programmers in the design of a next-generation AI. This process will be repeated a number of times with considerable improvements in both intelligence and Friendliness, and before too long will produce one or more minds that can only be called superintelligent. Applying phenomenal brilliance to the betterment of the human condition, Friendly superintelligence will ensure that nanotechnology and genetic engineering are quickly mastered to an extent that human scientists alone could never have reached. Technological progress will be so rapid as to fundamentally change our perception of civilization itself.

Cette IA permet des progrès considérables, mais toujours dans la sécurité, car l’hypothèse est que l’IA sera “friendly“, amicale, bienveillante, du fait même de son origine. Elle sera ainsi parce que nous l’aurons faite et voulue ainsi.

Je crois qu’il y a là deux étranges confusions sur lesquelles je veux attirer l’attention.

La première concerne l’imitation et l’intelligence : Deeper Blue est plus intelligent en ce qui concerne les échecs que n’importe quel homme, il n’en reste pas moins qu’il ne joue pas comme le ferait un homme ; à l’inverse ne sommes-nous pas amusés quand nous voyons des AIBO jouer ? Ne serions-nous pas choqués si nous voyons une Repliee Q1 être frappée ? Ne sommes-nous pas émus quand nous voyons ASIMO régler son pas sur celui d’une femme qui le tient par la main comme un enfant le ferait avec sa mère (à la fin de la vidéo) ? Pourtant, ces machines-là ne sont aucunement intelligentes. L’imitation n’est pas l’intelligence (et inversement) et nous sommes, finalement, et quoi qu’on en dise, beaucoup plus sensible à l’imitation qu’à l’intelligence.

La seconde confusion porte sur l’amalgame qui est fait entre le bienveillance humaine et celle des machines. En effet, même si les machines sont faites pour ne pas nous nuire, voire nous aider (déjà, on pense à inscrire dans certains programmes les Lois d’Asimov), il n’en reste pas moins que les critères de la pensée de ces machines ne seront pas les nôtres et cette pensée elle-même ne sera une pensée au sens humain que par analogie. La bienveillance des machines pour les êtres humains pourrait bien être, en somme, du même type que celle que nous avons pour certains animaux : préservation et régulation…

Source : Accelerating Future.