L’expérience de la chambre chinoise est imaginée par John Searle en 1980. Dans sa publication, il aborde la définition de la compréhension et de la pensée, affirmant que les ordinateurs ne seront jamais dotés de ces capacités. Dans cet extrait publié sur le site de Stanford, il résume bien son argument :
« Le calcul est défini de manière purement formelle ou syntaxique, alors que les esprits ont des contenus mentaux ou sémantiques réels, et nous ne pouvons pas passer de la syntaxe à la sémantique simplement en ayant les opérations syntaxiques et rien d’autre… Un système, moi, par exemple, n’acquerrait pas une compréhension du chinois simplement en passant par les étapes d’un programme informatique qui simulerait le comportement d’un locuteur chinois (p. 17). »
Le Chinese Room Argument propose le scénario suivant :
Imaginez qu'une personne, qui ne parle pas chinois, travaille dans une pièce fermée. Dans la pièce, il y a un livre avec des règles, des phrases et des instructions en chinois. Une autre personne, qui parle couramment le chinois, passe des notes rédigées en chinois dans la pièce. À l’aide du vocabulaire linguistique, la personne à l’intérieur de la pièce peut sélectionner la réponse appropriée et la transmettre au locuteur chinois.
Si la personne dans la pièce a pu fournir la réponse correcte à l’aide d’un catalogue de règles, elle ne parle toujours pas chinois ni ne le comprend. La compréhension a pu être simulée par mise en correspondance des questions ou des déclarations avec les réponses appropriées. M. Searle affirme qu’une IA forte nécessiterait un véritable esprit pour être dotée d’une conscience ou de capacités de compréhension. L’expérience de la chambre chinoise illustre les failles du test de Turing, révélant des divergences dans les définitions de l’intelligence artificielle.