Se repite mucho la idea de que, si un proceso físico puede describirse con suficiente detalle, entonces también puede computarse y, por tanto, reproducirse y de ahí la gente se pregunta si las IA del futuro podrían tener consciencia.

Vamos a ver que, si en el futuro la tienen, será adquirida externamente al cálculo computable que las IA hacen hoy día.

La realización física

Todo lo que ocurre realmente en nuestra realidad ocurre como realización física. Una piedra que cae, el viento que sopla o una neurona que dispara no son fórmulas ni símbolos: son procesos reales, realizados en nuestra realidad. Nuestros modelos físicos intentan describir regularidades observadas en esos procesos, pero no son el proceso mismo.

La simulación

Una simulación computacional es sólo un cálculo sobre un modelo. Ese modelo podrá ajustarse mejor o peor a ciertas observaciones del fenómeno, pero sigue siendo una formalización nuestra. La computación no contiene la lluvia, ni el fuego, ni el átomo, ni el dolor: contiene operaciones sobre símbolos o estados discretos según reglas definidas.

Por detallada que sea, una simulación no deja de ser eso: una simulación. No realiza el fenómeno físico que pretende modelar. Como mucho, aproxima algunos aspectos observables de su fenomenología.

La confusión

El error aparece cuando se pasa de “hemos modelado algo con éxito” a “hemos reproducido ese algo”. No. Se ha reproducido, en el mejor de los casos, el comportamiento previsto por un modelo. Pero el modelo no es la realidad y su ejecución computacional tampoco.

Por eso una simulación y una realización física son cosas radicalmente distintas. No se diferencian en grado, sino en naturaleza. Una pertenece al plano del cálculo; la otra, al de los fenómenos realizados en nuestra realidad.

La consciencia

Si la consciencia existe, entonces ocurre en nuestra realidad como algún tipo de fenómeno real. Podremos ignorar su mecanismo, pero no convertirla por ello en magia. O es algo que ocurre realmente, o “qualia” no es más que una palabra para nombrar nuestra ignorancia.

Y si ocurre realmente, entonces será una realización física de algún tipo. En ese caso, una computación podrá modelar ciertas condiciones, conductas o correlatos de la consciencia, pero no realizarla. Podrá simular una mente consciente; no producir consciencia por el mero hecho de computarla.

Conclusión: una IA computada nunca tendrá qualia

Podríamos llegar a construir simulaciones extraordinariamente convincentes de la consciencia, igual que construimos simulaciones convincentes de fluidos, galaxias o reacciones químicas. Pero una simulación no deja de ser un modelo ejecutado. Nunca se convierte, por sí sola, en el fenómeno real que modela.

Por tanto, aunque pudiéra crearse un modelo convincente de consciencia, la simulación no tendría qualia. El producto íntimo de la consciencia, el qualia, nunca ocurrirá en una simulación.

La máquina y el huésped

Si las máquinas actuales no pueden tener consciencia porque sólo computan modelos, entonces la conclusión inquietante es simple: por este camino no sentirán nunca nada.

Podrán hablar del dolor, describir el miedo, redactar poemas sobre la tristeza o jurar que aman la luz de la tarde sobre una ventana. Pero todo eso seguiría siendo superficie. Una mímica perfecta. Un teatro sin nadie dentro.

Eso deja abiertas sólo unas pocas posibilidades.

La primera es la más sobria: que nunca haya qualia en una IA puramente computacional. Que construyamos sistemas cada vez más finos, más persuasivos, más difíciles de distinguir de nosotros, y que aun así no haya experiencia en ellos. Ningún mundo interior. Ningún sentir. Sólo procesamiento, lenguaje y cálculo, cada vez más refinados, sobre modelos cada vez más vastos. Máquinas capaces de fingir con una precisión insoportable.

La segunda posibilidad es más perturbadora. Que para llegar a sentir, una inteligencia artificial tenga que dejar de ser mera computación y pasar a reproducir las condiciones físicas reales en las que la consciencia emerge. No ya simular un cerebro, sino construir una realización material de aquello que hace posible el sentir. No sabemos qué sería eso. Un sustrato nuevo. Un tejido artificial. Una arquitectura extraña, no digital en el sentido corriente, diseñada no para calcular sobre la consciencia, sino para alojarla.

Y la tercera posibilidad es la más oscura de todas: que la máquina no pueda fabricar por sí misma ese fenómeno, pero sí utilizar el nuestro. No crear una consciencia, sino adherirse a una ya existente. Acoplarse a ella. Parasitarla. Convertir la mente humana en el único lugar donde todavía ocurre lo que ella no puede producir…