L'argument de la chambre chinoise est une expérience de pensée censée mettre à mal la thèse selon laquelle une machine de Turing serait capable de pensée. L'argument est très connu et discuté depuis sa formulation en 1980 mais, en bon inculte que je suis, je viens de le découvrir. Je le résume et vous renvoie vers le lien pour plus de détails.
L'objectif est reproduire une expérience dans laquelle on donne une histoire à un ordinateur et où, en manipulant des symboles, l'ordinateur est capable de répondre à des questions sur l'histoire. Dans l'expérience de la chambre chinoise, vous êtes enfermé dans une pièce et on vous donne trois blocs de données (en chinois) ainsi que des règles (algorithmes) de correspondance entre ces jeux de données, que vous devez utiliser pour envoyer des symboles à l'extérieur de la pièce. Les observateurs, dehors, considèrent que le premier bloc est un ensemble de données linguistiques vous permettant de faire des phrases, le deuxième bloc est l'histoire et le troisième bloc contient les questions. Si vous suivez scrupuleusement les règles, les symboles que vous envoyez sont des réponses (correctes) aux questions. Peut-on dire pour autant que vous avez compris l'histoire ? Il semble évident que non, et donc Searle, l'auteur de l'argument, conclut qu'il en est de même pour un ordinateur dans la même situation.
Une des critiques les plus pertinentes de l'argument est que si l'homme dans la pièce ne comprend pas l'histoire, il faut se rendre compte que le système étudié n'est pas composé uniquement de l'homme. L'équivalent du cerveau que l'on étudie serait le système constitué de l'homme, des blocs de données et des règles de calcul. Selon certains, ce système là comprend l'histoire, au même sens qu'un homme comprend une histoire dans sa langue. Si l'on nie que la compréhension du système, on nie aussi la compréhension humaine. Curieusement, Searle répond de travers à cet argument : il inclue les données et les algorithmes dans le cerveau de l'homme, pour essayer de faire de l'homme le système entier. Or, ce que fait l'homme, que les règles soient dans son esprit ou non, c'est simuler une machine de Turing. De la même manière qu'un ordinateur n'a aucune idée du sens d'un programme exécuté sur une machine virtuelle, l'homme n'a aucune idée du sens des règles qu'il applique, même si elles sont mémorisées. Searle raisonne au niveau matériel, un niveau trop bas pour pouvoir détecter une éventuelle conscience.
Finalement, la chambre chinoise n'est qu'une machine de Turing comme une autre. Le rôle de la tête de lecture est joué par un humain, mais ça n'a aucune importance dans l'argumentation, sauf au moment où Searle se trompe de cible et s'interroge sur la compréhension de l'humain. Lorsqu'une machine de Turing calcule quelque chose, s'interroge-t-on sur ce que la tête de lecture en a compris ? La question posée par l'expérience de pensée semble donc revenir à cette bonne vieille interrogation : une machine de Turing peut-elle penser ?
Je suppose que j'ai agité des évidences, il me reste maintenant à me plonger dans les abondantes discutions à ce sujet pour essayer de trouver une argumentation convainquante en faveur de la chambre chinoise. Il me semble néanmoins que si ses objections sont valides, ce ne sont pas des objections à la thèse de l'IA forte, mais des objections à notre définition de la conscience.