¿Pueden las máquinas pensar?

Esta pregunta es central en el artículo "Maquinaria computacional e inteligencia" que Alan Turing escribió en 1950. Es una pregunta que trasciende el conocimiento de su tiempo, y del nuestro. Aún no podemos responder si las máquinas piensan, o llegarán a hacerlo. Es una pregunta para la cual Turing, en su artículo, tuvo que responder a numerosas objeciones.¹

Con el surgimiento de la computación electrónica la pregunta cobró relevancia.² El artículo es fundacional para el campo de la inteligencia artificial, planteando una manera práctica de verificar si una máquina puede, o no pensar, conocida como la prueba de Turing. ¿En qué consiste? Se basa en el "juego de la imitación". En la prueba de Turing, una máquina (o programa informático) interactúa con varias personas. En la medida en que pueda engañar a una cantidad suficiente de ellas, se considera que supera la prueba. Toda la comunicación se hace a través de una terminal³. No tiene sentido, al menos desde el punto de vista de la inteligencia, el tener que emular la apariencia, los gestos, la voz, y otras características que, por sí mismas no son relevantes a la hora de juzgar la capacidad de pensar.

La prueba evita discusiones sobre la forma concreta en que la inteligencia se basa. Si la computadora es electrónica, o si se basa en fotónica; no importa. El pensamiento se define en términos de lo que vemos "desde afuera". En otras palabras, los /estados mentales/ dependen de lo que manifiestan, y no de la forma concreta en que se realizan. Si el "amor" nos hace buscar a otros seres humanos, a la vez que nos lleva a cuidar de ellos y a procurar su bienestar; entonces, si una máquina posee un estado mental análogo que signifique que se traduzca en un comportamiento similar, se considera, desde este punto de vista, como enamorada. Lo mismo podemos decir del miedo, y de cualquier otro comportamiento humano.⁴

¿Es la imitación verdadera inteligencia; verdadero pensar; verdadero sentir? ¿Es la imitación, por perfecta que sea, un signo real de conciencia⁵? No podemos hacer trampa.⁶ Preguntémonos primero: ¿Necesita la capacidad de pensar de la conciencia? ¿Necesita la capacidad de pensar de "sentimientos" y de emociones? Por supuesto que no. Aunque, claro está, depende de cómo queramos entender el pensamiento. De acuerdo a la prueba de Turing, pensar se define como aquello que un ser humano hace y que la máquina trata de imitar/replicar. Si es indistinguible desde afuera, es lo mismo. Es difícil argumentar contra esa lógica.

A esta postura, llamada funcionalista, le llueven críticas. El cuarto chino es una de las más mencionadas. Veamos una descripción del cuarto chino tomada de la Wikipedia:⁷

Supongamos que han pasado muchos años, y que el ser humano ha construido una máquina aparentemente capaz de entender el idioma chino, la cual recibe ciertos datos de entrada que le da un hablante natural de ese idioma, estas entradas serían los signos que se le introducen a la computadora, la cual más tarde proporciona una respuesta en su salida. Supóngase a su vez que este ordenador supera fácilmente la prueba de Turing, ya que convence al hablante del idioma chino de que sí entiende completamente el idioma, y por ello el chino dirá que la computadora entiende su idioma.

Ahora Searle nos pide que supongamos que él está dentro de ese computador completamente aislado del exterior, salvo por algún tipo de dispositivo (una ranura para hojas de papel, por ejemplo) por el que pueden entrar y salir textos escritos en chino.

Supongamos también que fuera de la sala o computador está el mismo chino que creyó que el ordenador entendía su idioma y dentro de esta sala está Searle que no sabe ni una sola palabra en dicho idioma, pero está equipado con una serie de manuales y diccionarios que le indican las reglas que relacionan los caracteres chinos (algo parecido a «Si entran tal y tal caracteres, escribe tal y tal otros»).

De este modo Searle, que manipula esos textos, es capaz de responder a cualquier texto en chino que se le introduzca, ya que tiene el manual con las reglas del idioma, y así hacer creer a un observador externo que él sí entiende chino, aunque nunca haya hablado o leído ese idioma.

Dada esta situación cabe preguntarse:

• ¿Cómo puede Searle responder si no entiende el idioma chino?
• ¿Acaso los manuales saben chino?
• ¿Se puede considerar todo el sistema de la sala (diccionarios, Searle y sus respuestas)como un sistema que entiende chino?

El cuarto chino nos da a entender que aparentar no es comprender. Aunque, desde un punto de vista funcional, el conjunto parece hablar chino, ¿qué es lo que realmente lo comprende?

Desde el idealismo, el intento de replicarnos por medios digitales es un rotundo no. Las tradiciones religiosas nos dotan de una supuesta alma inmortal que, de ningún modo, podría ser replicada por una computadora. Por más que haya igualdad en el comportamiento, no habrá manera de replicar una sustancia inmaterial. Turing dedica varios párrafos a varias objeciones, incluyendo algunas de este tipo. Por mi parte, el "alma" no es más que un concepto abstracto para encubrir nuestra ignorancia del cerebro, de su complejidad y para ocultar nuestra ignorancia de "cómo" somos lo que somos. Este tipo de críticas no merecen atención en este artículo.

En medio del "boom" reciente de la inteligencia artificial, los futurólogos de siempre aparecen para hacer una predicción de cuándo llegará la esperada inteligencia artificial general⁸. Que vendrá en 2.025, en 2.026, en 2.027. Sam Altman, director ejecutivo de OpenAI, empresa que inició la reciente fiebre, afirma que la prometida verdadera inteligencia llegará en unos pocos años. No le presten demasiada atención; necesita financiación para su proyecto y no lo conseguirá con predicciones realistas. Pocas personas invertirán en un proyecto que puede tardar décadas y cuyo resultado puede ser un total fracaso, al darse cuenta de la dificultad del problema.

Prefiero, en este artículo, hablar de las limitaciones de la computación. Porque si, ante tan sorprendentes logros de las computadoras, que hasta "todos" cuentan con una de bolsillo, nos olvidamos que, como todo logro científico, por más que parezca indistinguible de la magia, no es magia. La computación es un producto de la ciencia y de la tecnología y, como tal se enfrenta a las limitaciones propias de la naturaleza y del esfuezo humano por conocer. Como mencioné en los primeros párrafos, ni siquiera entendemos como se da la inteligencia en nuestra especie, ¿podemos replicar lo que no entendemos? Tal vez si, tal vez no. Cuando menos, la pregunta continúa abierta. Lo responsable es afirmar que nuestro cerebro, aunque inspire avances computacionales como las redes neuronales, funciona, en realidad, de una forma muy diferente a la maquinaría computacional.

Y es que computación y computadora, vienen de "computar". Los equipos de cómputo que usamos todos los días no pueden más que resolver "problemas computables". De manera sencilla, podemos entender un problema computable como aquél que puede ser expresado en forma de algoritmo; es decir, en forma de una secuencia de pasos simple que una máquina computadora puede ejecutar. La definición parece circular, y en parte lo es. Todas, absolutamente todas las computadoras modernas, son una "realización" de algo que se conoce como "máquina de Turing". En 1936, Alan Turing escribió otro artículo revolucionario titulado "Sobre números computables, con una aplicación al problema de la decisión"⁹ Para resolver ese problema, el de la decisión,¹⁰ modeló una máquina mecánica capaz de ejecutar cualquier computación. En términos concretos: cualquier computadora moderna es una de estas máquinas, conocidas como máquinas de Turing.¹¹

Los límites de una computadora, son los mismos límites de una máquina de Turing. No importa si incrementamos la RAM o si multiplicamos la capacidad de los procesadores. Tampoco importa si "distribuimos" el trabajo entre decenas, cientos o miles de computadoras. Tampoco importará la implementación de "computadoras cuánticas".¹² Surge entonces la pregunta: ¿es la mente¹³ computable? Si lo es, cuando menos, en principio, puede ser implementada en una computadora. No comprendemos lo suficiente lo que es la mente como para responder a esta pregunta. El enfoque funcionalista asume que si es posible; que es una cuestión de "complejidad"¹⁴. El cerebro, en un proceso de evolución de cientos de millones de años, se ha hecho tan complejo como para producir la mente. Se está intentando un proceso análogo en las ciencias de la computación: aumenten la cantidad de "parámetros" del modelo, incrementen la cantidad de procesadoras gráficas, etc. No obstante, no hay garantía de que el problema se pueda resolver de esa manera, y que sea, tan solo, un problema de complejidad del modelo.

El matemático Roger Penrose, piensa que, en su interior, el cerebro realiza "operaciones cuánticas" de alguna manera, y es por eso que puede albergar una mente. Es decir; la mente es computable, pero es un problema que solo puede resolverse con una computadora cuántica. Si algo sabemos de la computación cuántica, es que se necesita, para su funcionamiento, de lugares "fríos", lo que quiere decir, de poca actividad. Los sistemas cuánticos son muy sensibles a las interacciones con el entorno. En el cuerpo humano, tal vez no hay nada más "caliente" que nuestro cerebro. Por eso, es difícil imaginar que la mente pueda depender, de alguna manera, de la mecánica cuántica. No obstante, el mismo Penrose junto a Stuart Hameroff, proponen un mecanismo para que sea posible. No puedo profundizar al respecto en este artículo, más debo anotar que algunos recientes estudios han reforzado esa posiblidad.¹⁵

Espero quede en evidencia que la pregunta: /¿pueden las máquinas pensar?/ es una pregunta abierta. Frente al optimismo por los grandes modelos de lenguaje, se asoman las advertencias de una burbuja que se infla por necesidades económicas; y de cuestiones fundamentales que los enfoques de hoy no pueden resolver como el problema de la computabilidad y que evitan discutir. Nos enfrentamos, además, a la dificultad de definir con claridad qué es "pensar" o, de otro modo, será inútil siquiera intentar responder si una máquina, o cualesquier otro /ser/ pueda hacerlo. La prueba de Turing se queda muy corta ante la dificultad de la tarea.

¿Vale la pena continuar investigando en inteligencia artificial? Claro que si. Que logremos, o no, replicar una mente humana, no evitará que estas tecnologías sean de extrema utilidad, como lo han venido siendo en las últimas décadas. La investigación científica de la actualidad, con sus grandes volúmenes de datos, depende de técnicas computacionales basadas en redes neuronales para su viabilidad. Además, los avances que se hagan se convierten en insumos que, en principio, se han mantenido en el campo filosófico. La IA, además, puede tener profundas implicaciones para nuestra vida y para nuestra especie. En otro escrito, profundizaré en esas cuestiones.

Notas al pie

1. Pueden ver el artículo en inglés en: https://courses.cs.umbc.edu/471/papers/turing.pdf Entre las diversas objeciones se encuentra la idea de un alma inmortal, o de un dios. La idea de la necesidad de la conciencia y hasta la posible percepción extrasensorial, que aún era totalmente descartada en su momento. ↩︎
2. La computación moderna fue impulsada por el artículo de Alan Turing: Sobre números computables, con una aplicación al problema de la decisión. ↩︎
3. Una terminal es un dispositivo que permite interactuar con una computadora. ↩︎
4. Mi descripción es simple, para probar un punto. Una mente pensante, así como la gran cantidad de emociones y sentimientos que en ella se dan, son de gran complejidad. Tan solo imitarlos, de una manera creíble, no ha sido posible. ↩︎
5. Por conciencia, me refiero a la capacidad de la máquina, en este caso, de percibirse a sí misma y a su entorno en un nivel comparable al nuestro. ↩︎
6. Qué difícil es definir de una manera clara todos estos términos. Justamente es eso lo que Alan Turing quiso evitar con su postura funcionalista. Sin embargo, como espero que vaya quedando claro, el funcionalismo es también una "definición" limitada e insuficiente. ↩︎
7. https://es.wikipedia.org/wiki/Habitaci%C3%B3n_china ↩︎
8. AGI, en inglés. Una inteligencia que nos iguale y nos supere. ↩︎
9. En lugar de "problema de la decisión", el título dice entscheidungsproblem, que es un término alemán. El problema de la decisión se refiere a la posibilidad de construir un algoritmo que pueda responder si una afirmación simbólica es correcta o no. ↩︎
10. No está en el alcance de este artículo el profundizar en el problema de la decisión. El lector puede encontrar más información en: https://en.wikipedia.org/wiki/Entscheidungsproblem ↩︎
11. Más o menos al mismo tiempo, Alonzo Church, matemático, abordó el mismo problema con otro enfoque. A las conclusiones, se les conoce como tesis Church-Turing. ↩︎
12. Las computadoras cuánticas no pueden resolver problemas que no sean computables. Dentro de aquellos problemas que son computables, existen los de mucha complejidad, tanto así, que una computadora "clásica" no los puede resolver en un tiempo razonable para que sea útil. Las computadoras cuánticas pueden resolver algunos de estos problemas computables, pero difíciles, en un tiempo razonable (o, por lo menos, eso es lo que se cree). La criptografía moderna se basa en la resolución de problemas difíciles, por esa razón, la aparición de una computadora cuántica práctica podría romperla. ↩︎
13. La "mente" es un concepto de gran complejidad. Históricamente se ha asociado a un alma inmaterial de la cual no hemos encontrado nunca evidencia. Podemos entender aquí la "mente" como el conjunto de actividades y procesos psíquicos, incluídos lo de carácter cognitivo, que ocurren en nuestro cerebro. No es una definición enteramente satisfactoria, más con el enfoque funcionalista nos interesa el cómo se ven esos procesos "desde afuera", y no tanto la base física sobre la cual se implementa. Esto permite que lo biológico sea reemplazado por lo electrónico. ↩︎
14. Aquí, uso el término complejidad como es comúnmente aceptado. En el campo de las ciencias de la computación, se habla de "complejidad computacional", como la cantidad de operaciones que debe ejecutar una computadora para resolver un problema. Esto se traduce, más o menos, al tiempo que necesitará, pero es independiente de la velocidad de la máquina. ↩︎
15. Para más información: https://www.youtube.com/watch?v=R6G1D2UQ3gg ↩︎