Computing Machinery and Intelligence
Cet article est une ébauche concernant l’informatique et la philosophie.
Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.
Consultez la liste des tâches à accomplir en page de discussion.| Titre original |
(en) Computing Machinery and Intelligence |
|---|---|
| Formats | |
| Langue | |
| Auteur | |
| Sujets | |
| Date de parution | |
| Publié dans |
Computing Machinery and Intelligence, écrit par Alan Turing et publié en 1950, est un article fondamental sur le thème de l'intelligence artificielle, dans lequel fut introduit le concept de ce qui est maintenant appelé le test de Turing.
Le but de cette publication est de pouvoir répondre à la question les machines peuvent-elles penser ?, question qui selon Turing « a peu de sens pour mériter une discussion » si elle est posée telle quelle, car ni « machine », ni « penser » ne sont des termes clairement définis.
Pour y répondre, Turing remplace la notion de « penser » par un test d'intelligence dans un « jeu de l'imitation » entre humains. Il limite ensuite la notion de « machine » à un « ordinateur digital » abstrait dont il explique le fonctionnement correspondant à une machine de Turing. La question devient ainsi « peut-on imaginer des ordinateurs digitaux qui fassent bonne figure dans le jeu de l'imitation ? » ou de manière plus générale, « y a-t-il des machines à états discrets qui puissent y faire bonne figure ? ».
Après avoir donné son opinion comme quoi ce sera le cas d'ici la fin du XXe siècle, il répond à neuf objections. L'article se conclut par un examen de la programmation de machines qui apprennent, ce qui serait pour Turing plus efficace que d'essayer de programmer directement une intelligence.
Contenu
[modifier | modifier le code]
1. Le jeu de l’imitation
[modifier | modifier le code]La première difficulté qui se pose à Alan Turing quand il s'attaque à la question « les machines peuvent-elles penser ? » est celle de la signification des mots "machine" et "penser". Il se demande quelle signification donner à "machine" et "penser". Une première approche consisterait à définir ces mots en fonction de l'usage courant qui en est fait[1].
Seulement, Turing estime que cela conduirait à conclure que la question ainsi que la réponse à la question doivent s'envisager comme une « étude statistique telle un sondage d'opinion[1] ». Ce qui, pour Turing, est « absurde[1] ».
Il se propose dans un premier temps de remplacer la question par un jeu, qu'il nomme « jeu de l’imitation[1] ».
Le principe est le suivant :
- Un homme (A) et une femme (B) sont interrogés par une troisième personne (C), "l'interrogateur", dont le sexe n'a pas d'importance.
- A et B sont dans une pièce séparée de C.
- C les connaît sous l'appellation X et Y et doit parvenir à indiquer que « X est A et Y est B » ou « X est B et Y est A ».
Pour ce faire, C a la possibilité de poser des questions du type : « X peut-il ou peut-elle me dire la longueur de ses cheveux[2] ? » Dans le jeu tel que défini par Turing, l'homme (A) doit induire en erreur l'interrogateur et la femme B doit aider l'interrogateur en se faisant connaître. A cette question, les deux réponses risquent donc d'être identiques et des questions subtiles doivent être posées pour discriminer les deux personnes. Les réponses doivent être écrites ou dactylographiées afin que le ton de la voix n'aide pas l'interrogateur.
Turing pose la question suivante[2] : « Qu'arrive-t-il si une machine prend la place de A dans le jeu ? L'interrogateur se trompera-t-il aussi souvent que lorsque le jeu se déroule entre un homme et une femme ? »
2. Critique du nouveau problème
[modifier | modifier le code]Turing, de nouveau, plutôt que de répondre à la nouvelle formulation de la question, se demande si elle « vaut la peine d'être examinée[2]. » Avant d'évoquer deux objections, Turing propose quelques arguments en faveur du jeu qu'il propose et de la question soulevée.
Premièrement, le jeu de l'imitation vise bien à établir les capacités intellectuelles de la machine testée (l'interrogateur étant dans une pièce séparée et n'ayant accès qu'aux réponses écrites). Les inaptitudes physiques de la machine ne peuvent pas nuire à ses performances lors d'une partie : « Nous ne souhaitons pas pénaliser la machine pour son incapacité à briller dans des concours de beauté[2] ». Ensuite, la nature des questions de l'interrogateur n'est pas imposée par les règles du jeu. Tous les domaines des capacités humaines sont possibles : Turing l'illustre par un exemple où l'interrogateur demande au sujet d'effectuer un calcul, d'écrire un poème et de jouer un coup aux échecs.
Enfin, Turing soulève deux objections. D'abord, il se demande si la mauvaise prestation d'une machine au jeu de l'imitation témoigne d'une réelle incapacité de celle-ci à penser : « Les machines ne peuvent-elles pas exécuter quelque chose qui relève d'une forme de "pensée", mais qui est très différente de ce qu'un homme fait ? ». La seconde objection porte sur la meilleure stratégie de la machine. En effet, le but du joueur A incarné par la machine est d'induire l'interrogateur en erreur, et il n'est pas clair que le meilleur moyen d'y parvenir soit par imitation d'un humain. Turing ne développe pas davantage cette objection et affirme que ce cas de figure ne devrait probablement pas avoir de grande influence.
3. Les machines concernées par le jeu
[modifier | modifier le code]4. Les ordinateurs numériques
[modifier | modifier le code]5. Universalité des ordinateurs digitaux
[modifier | modifier le code]6. Avis contraires sur la question principale
[modifier | modifier le code]Dans cette section, Turing répond à neuf objection vis-à-vis de sa position.
L'objection théologique
[modifier | modifier le code]Selon une objection théologique, la pensée serait une fonction d'une âme immortelle réservée à l'humain, possédée ni par l'animal ni par la machine. Turing s'efforce d'y répondre par un argument lui aussi théologique sur la toute-puissante divine qui autoriserait aussi à créer des âmes pour les machines par le biais des humains mais il considère ce type d'arguments comme de peu d'intérêt et d'appréciation fonction des connaissances d'une époque.
L'objection de l'autruche
[modifier | modifier le code]L'objection de l'autruche ou de la « tête dans le sable » est le refus d'admettre une pensée pour les machines par crainte des conséquences, essentiellement la perte du statut unique de l'humain, ce qui la relierait à l'objection théologique. Turing juge l'argument trop faible pour qu'il soit nécessaire d'y répondre mais considère que « la consolation serait plus appropriée : peut-être devrait-on la chercher dans la métempsychose ».
L'objection mathématique
[modifier | modifier le code]L'objection mathématique renvoie à des résultats de limites formelles tels que le théorème de Gödel ou le problème de l'arrêt. Il y répond en remarquant que si de telles limites ont été établies pour des machines, on ne sait pas ce que sont celles de l'humain et que « il se peut qu'il y ait des hommes plus intelligents que n'importe quelle machine donnée, mais il se peut aussi qu'il y ait d'autres machines encore plus intelligentes, et ainsi de suite ».
L'argument issu de la conscience
[modifier | modifier le code]Turing reprend pour cette objection un extrait de « The Mind Of Mechanical Man »[3] du neurologue Geoffrey Jefferson (en) considérant qu'une machine n'égalera le cerveau que si ce qu'elle produit s'accompagne d'un ressenti. L'argument impliquerait que le test de Turing ne permettrait pas d'évaluer la réalité d'une intelligence faute d'accès à une intériorité de l'esprit mais, dans ce cas, ce serait la même chose pour un humain et correspondrait selon Turing à une position solipsiste difficile à tenir. Il reconnaît qu'il puisse y avoir « un mystère relatif à la conscience » mais cela n'impliquerait pas qu'il faille le résoudre pour répondre à la question posée.
Les arguments provenant de diverses incapacités
[modifier | modifier le code]Ces objections sont de la forme « vous ne serez jamais capable de fabriquer une machine qui fasse X » avec X aussi divers que le fait d’être amicale, faire des erreurs, aimer les fraises à la crème ou être l’objet de ses propres pensées, pour citer les cas que Turing traite ici. Ce type d’argument provient pour lui de l’expérience habituelle des machines en un temps où les ordinateurs étaient inconnus et peut être affaibli lorsqu’on explique leurs propriétés. Au niveau affectif, on imagine mal que se développe une amitié homme-machine mais on pourrait en programmer une aimant les fraises à la crème en dépit de la futilité de l’idée. Le signe d’« inhumanité » que serait le fait de ne pas faire d’erreur, par exemple sur des demandes de calcul arithmétique, pourrait disparaître dans une stratégie du jeu de l’imitation destinée à paraître humain. Pour ce qui est d’être soi-même l’objet de ses pensées, on peut considérer que la machine le ferait en tant qu’elle modifierait ses programmes à partir de l’observation de son propre comportement. In fine, Turing rapproche ces arguments de celui de la conscience, considérant que les objecteurs ne seraient sans doute pas satisfaits si on leur donnait une simple explication mécanique, attendant quelque chose de plus, « non pas simplement produire artificiellement un signal » comme disait Jefferson.
L'objection de lady Lovelace
[modifier | modifier le code]Face à l’observation d’Ada Lovelace selon laquelle la machine analytique de Babbage se contente d’effectuer ce qu’on sait lui ordonner de faire sans innover, Turing suit la position de Douglas Hartree[4] selon laquelle cela n’implique pas qu’il soit impossible de construire un équipement électronique capable de « penser par lui-même » ou d’apprendre par réflexe conditionné. Turing ajoute que la machine de Babbage, en tant que calculateur universel, pouvait d’ailleurs avoir ces capacités ignorées de Lovelace. D’autre part, l’innovation dont on se targue pourrait n’être que la conséquence de l’éducation ou de principes bien connus, et partant de son expérience, il juge que les machines peuvent être surprenantes. Il rejette l’objection, rejoignant celle de la conscience, comme quoi ce serait son esprit qui créerait ce sentiment alors que la machine ne produirait, elle, rien d’objectivement surprenant. Ce refus d’admettre dans les machines une capacité à surprendre relève pour lui d’une idée fausse commune chez les philosophes et mathématiciens selon laquelle il n’y a guère de mérite à simplement exposer les conséquences de ce qui serait déjà dans les données et principes généraux.
L'argument de la continuité dans le système nerveux
[modifier | modifier le code]Le caractère continu du système nerveux avec des phénomènes neuronaux faisant qu’une petite erreur en entrée devient grande en sortie, rendrait impossible d’imiter son comportement par un système à états discrets. Pour Turing, cette différence de fonctionnement n’implique rien, les résultats d’un calculateur numérique pouvant être équivalents à ceux d’un analyseur différentiel, continu, dans le cadre du jeu de l’imitation.
L'argument du comportement non-formalisable
[modifier | modifier le code]Cette objection porte sur le caractère non-formalisable de nos comportements par opposition aux règles qui régiraient strictement celui des machines. Des règles peuvent pas exemple établir qu’on doit s’arrêter à un feu rouge et passer à un feu vert, mais on ne peut pas fixer toutes les circonstances possibles comme le cas où les deux couleurs apparaîtraient en même temps. Pour y répondre, Turing distingue entre les « règles de conduite », préceptes explicites appliqués consciemment et les « lois du comportement » qui relèvent des lois naturelles, comme le fait de crier quand on nous pince. L’établissement de ces lois du comportement dépend de l’observation scientifique et n’est pas forcément plus facile avec les machines qui peuvent paraître aussi non-formelles avec ces méthodes. Turing met ainsi au défi de prédire à partir des chiffres qu’il affiche, le comportement d’un petit programme qu’il a créé sur l’ordinateur de Manchester.
L'argument de la perception extrasensorielle
[modifier | modifier le code]En une période où des discussions sur le paranormal étaient en vogue[5], Turing considère qu’il y aurait une objection forte à sa position si la pensée relevait effectivement de capacités extrasensorielles telles que télépathie, clairvoyance, précognition ou psychokinésie mais que tout est possible avec ce genre d’hypothèses : humain faisant mieux que le hasard, trichant par psychokinésie pour altérer un générateur de nombre aléatoire ou devinant simplement par clairvoyance. Il s’agirait alors d’adapter le dispositif avec par exemple une « pièce à l’épreuve de la télépathie ».
7. Les machines qui apprennent
[modifier | modifier le code]Réception
[modifier | modifier le code]Extraits
[modifier | modifier le code]« We can only see a short distance ahead, but we can see plenty there that needs to be done[6],[N 1]. »
— Alan turing
Notes et références
[modifier | modifier le code]Notes
[modifier | modifier le code]Références
[modifier | modifier le code]- 1 2 3 4 Les ordinateurs et l’intelligence, p. 39.
- 1 2 3 4 Les ordinateurs et l’intelligence, p. 40.
- ↑ (en) Geoffrey Jefferson, « The Mind Of Mechanical Man », The British Medical Journal, vol. 1, no 4616, , p. 1105-1110 (JSTOR 25372573, lire en ligne)
- ↑ (en) Douglas Hartree, Calculating Instruments and Machines, The University of Illinois Press, (lire en ligne
), p. 70 - ↑ (en) David Leavitt, « Turing and the paranormal », dans Jack Copeland, Jonathan Bowen, Mark Sprevak, Robin Wilson, The Turing Guide, (ISBN 978-0198747833, DOI 10.1093/oso/9780198747826.003.0042, lire en ligne)
- ↑ Turing, 1950, p. 460.
- ↑ Les ordinateurs et l’intelligence, p. 67.
Annexes
[modifier | modifier le code]Bibliographie
[modifier | modifier le code]Primaire
[modifier | modifier le code]Originale :
- (en) Alan Turing, « Computing machinery and intelligence », Mind, Oxford University Press, vol. 59, no 236, (DOI 10.1093/mind/LIX.236.433 )
Traduction :
- Alan Turing, Jean-Yves Girard, La machine de Turing, Éditions du Seuil, [détail des éditions], introduction Jean-Yves Girard, traduction Patrice Blanchard
- Alan Ross Anderson (dir.) (trad. de l'anglais par Patrice Blanchard), Pensée et machine, Seyssel, Champ Vallon, , 150 p. (ISBN 2-903528-28-4, présentation en ligne), « Les ordinateurs et l’intelligence »
Secondaire
[modifier | modifier le code]- Jean-Michel Bertrand, « Test de Turing : jeu d'imitation ou test d'intelligence ? », Quaderni, vol. 1, no 1, , p. 35-45 (DOI 10.3406/quad.1987.2095, lire en ligne)
- Paul Jorion, « Turing, ou la tentation de comprendre », L’Homme [En ligne], no 153, , Le test de Turing (lire en ligne)
- Alain Prochiantz, Machine-esprit, Odile Jacob, coll. « Sciences », , 212 p. (ISBN 978-2-7381-0916-3, présentation en ligne)
- Benoit Le Blanc, « Alan Turing : les machines à calculer et l'intelligence », Hermès, La Revue, no 68, , p. 123-126 (DOI 10.3917/herm.068.0123, lire en ligne )
