EL JUEGO DE LA CIENCIA // CARLO FRABETTI

* Escritor y matemático

Como réplica al test de Turing (ver mi columna anterior, 5-6-2011), el filósofo John Searle propuso el experimento mental de la “caja china” (también conocida como “habitación china” o “sala china”), popularizado por Roger Penrose en su libro La nueva mente del emperador.Según Searle, el mero hecho de que una máquina supere el test de Turing –es decir, que conteste a las preguntas de un interrogador humano como lo haría una persona– no significa que piense, y para demostrarlo planteó la siguiente situación hipotética: supongamos que el propio Searle se encierra en un cubículo aislado del exterior en el que, por una ranura, un observador que no sabe lo que hay dentro introduce preguntas en chino.

Searle no sabe una palabra de ese idioma, pero, provisto de una serie de fichas con símbolos chinos y observando un determinado conjunto de reglas, podría escribir en un papel respuestas coherentes, en caracteres chinos, y hacerle creer al observador que el cubículo sabe chino, o que dentro hay alguien que conoce ese idioma. Análogamente, argumenta Searle, una máquina puede dar respuestas coherentes a preguntas humanas sin tener la menor conciencia de lo que está haciendo: basta con que posea el equivalente de un sistema de fichas lo suficientemente complejo y unas reglas combinatorias adecuadas.Pero la argumentación de Searle tiene un punto débil.

Si las preguntas en chino superan un cierto nivel de complejidad (como de hecho requiere el test de Turing), aunque el manipulador de fichas encerrado en el cubículo no sepa chino, tendrá que ser lo suficientemente inteligente como para aplicar las reglas combinatorias con la pericia necesaria para engañar al observador. Y, además, a medida que avance en el proceso dejará de ser cierto que no sabe ni una palabra de chino, pues algo irá aprendiendo; de hecho, si pasara mucho tiempo encerrado en la caja china respondiendo preguntas, acabaría sabiendo chino.Por otra parte, la argumentación de Searle no es aplicable solo a las máquinas, sino también a las personas. ¿Cómo podemos estar seguros de que nuestros interlocutores humanos –o aparentemente humanos– son seres pensantes? Podrían ser “cajas chinas” capaces de manejar un complejo fichero de preguntas y respuestas sin entender lo que oyen ni lo que dicen, meras máquinas sintácticas sin auténtica capacidad semántica, voces sin conciencia. Propongo que al televisor, en vez de –o además de– la caja boba, lo llamemos la caja china.