La IA ha aprendido a pensar: ¿aprenderá la conciencia artificial a ser?

La inteligencia artificial: un éxito sin conciencia

Rendimientos espectaculares, pero ciegos

La IA contemporánea se basa en redes neuronales profundas entrenadas con masas de datos. Estos sistemas sobresalen en tareas antaño reservadas al humano: reconocimiento de imágenes, traducción, generación de texto, diagnóstico médico. Sin embargo, ninguno de estos modelos sabe que trata información. Funcionan como autómatas estadísticos, sin experiencia subjetiva asociada.

Esta disociación entre rendimiento y conciencia está en el corazón del problema difícil de la conciencia, formulado por el filósofo David Chalmers (nacido en 1966). ¿Por qué ciertos procesos físicos van acompañados de una experiencia vivida, mientras que otros, igualmente complejos, no tienen ninguna?

El problema difícil de la conciencia

Ejemplos de procesos complejos sin experiencia vivida

El cerebelo humano contiene tantas, si no más, neuronas que el córtex cerebral. Procesa permanentemente una masa considerable de informaciones para coordinar los movimientos, el equilibrio y la postura. Sin embargo, su actividad no va acompañada de ninguna experiencia consciente: no se «siente» el cerebelo funcionar. A la inversa, el córtex visual trata señales luminosas y produce la percepción del rojo.

Dos procesos físicos de una complejidad comparable, pero solo uno es vivido. La IA ilustra esta paradoja: manipula símbolos sin nunca sentirlos.

Inteligencia y conciencia: dos nociones distintas

Es tentador confundir inteligencia y conciencia, pues ambas parecen ligadas en el humano. Pero la clínica neurológica muestra que pueden disociarse. Pacientes en estado vegetativo pueden presentar respuestas cerebrales complejas sin conciencia subjetiva. Inversamente, ciertos estados meditativos profundos reducen la actividad intelectual manteniendo una conciencia viva.

La tabla siguiente clarifica las diferencias conceptuales entre las dos nociones.

Las teorías científicas de la conciencia

El espacio de trabajo global

Propuesta por Bernard Baars (nacido en 1946) y luego desarrollada por Stanislas Dehaene (nacido en 1965), la teoría del GWT describe la conciencia como un espacio de trabajo global donde las informaciones pertinentes son difundidas al conjunto del cerebro. Un contenido se vuelve consciente cuando es broadcasté (difundido) a gran escala, permitiendo su memorización, su control y su verbalización.

Aplicada a la IA, esta teoría sugiere que una máquina podría tener una conciencia de acceso si filtra la información importante y la difunde al conjunto del sistema. Pero no dice nada de la conciencia fenoménica, es decir, de la experiencia vivida misma.

La teoría de la información integrada

Desarrollada por Giulio Tononi (nacido en 1960), la teoría de la IIT propone que la conciencia corresponde a un grado elevado de información integrada, denotado \(\Phi\) (phi). Un sistema es consciente en la medida en que integra información de manera irreductible: el conjunto posee propiedades causales que sus partes no tienen separadamente. Ejemplo: en un cerebro, una región trata el color, otra la forma, otra el movimiento. Pero la percepción de un objeto rojo que se mueve no existe en ningún lugar en particular: nace de la interacción global. Si se aísla cada región, se pierde esta percepción. La información es, pues, irreductible: no existe más que a nivel del conjunto.

Esta teoría tiene una consecuencia radical: la conciencia no depende del sustrato (biológico o silicio), sino de la estructura causal. Una red de neuronas artificiales podría, por tanto, en principio, ser consciente si presenta un \(\Phi\) suficiente. Pero el cálculo de \(\Phi\) sigue siendo exponencialmente costoso, y ninguna medida directa ha sido realizada sobre un sistema artificial complejo.

La teoría de los esquemas de alto nivel

La teoría de los esquemas de alto nivel (HOT) es más reciente. Es defendida por el filósofo David Rosenthal (nacido en 1939). Su idea central es simple: un estado mental no es consciente más que si el sistema posee además una representación de ese estado. Dicho de otro modo, sentir algo no basta: hay que también saber que se siente.

Tomemos un ejemplo concreto. Cuando usted ve una manzana roja, su cerebro trata primero el color, la forma y la posición del objeto. Esta etapa es un estado mental de primer nivel: puede existir sin conciencia. Pero si una segunda etapa interviene, un pensamiento de nivel superior del tipo «estoy viendo una manzana roja», entonces solo la experiencia se vuelve consciente. Es lo que Rosenthal llama pensar que se piensa.

Esta teoría tiene una consecuencia importante para la IA. Si la conciencia depende de una meta-representación, entonces un sistema computacional dotado de un módulo capaz de representar sus propios estados internos podría, en principio, satisfacer este criterio. No bastaría con que una IA trate información: haría falta que modele ese tratamiento y se lo represente a sí misma.

Pero la teoría plantea también una objeción. ¿Cómo distinguir una verdadera meta-representación consciente de una simple simulación de meta-representación? Un programa puede muy bien generar la frase «veo rojo» sin que ninguna experiencia vivida la acompañe. El criterio de Rosenthal corre, pues, el riesgo de describir la forma de la conciencia sin garantizar su presencia.

Los tests empíricos de la conciencia artificial

El test de Turing y sus límites

Propuesto por Alan Turing (1912-1954) en 1950, el test de Turing evalúa la capacidad de una máquina de imitar la conversación humana. Si es imposible distinguir la máquina del humano, se concluye una inteligencia equivalente. Pero este test mide la inteligencia, no la conciencia: un sistema puede perfectamente simular la subjetividad sin sentir nada.

Los índices neuronales de conciencia

En neurociencias, varios índices han sido propuestos para detectar la conciencia en pacientes no comunicantes. El PCI, desarrollado por Marcello Massimini (nacido en 1976), mide la complejidad de la respuesta cerebral a una estimulación magnética. Un cerebro consciente produce una respuesta compleja e integrada; un cerebro dormido o anestesiado, una respuesta simple y local.

Estos índices podrían, en principio, ser adaptados a sistemas artificiales. Pero la transposición sigue siendo especulativa: nada garantiza que la conciencia artificial produzca las mismas firmas que la conciencia biológica.

La tabla de los tests de conciencia

La tabla siguiente recapitula los principales tests y sus límites.

Los argumentos filosóficos

El funcionalismo: la conciencia es calculable

El funcionalismo, defendido por Hilary Putnam (1926-2016) y Jerry Fodor (1935-2017), sostiene que un estado mental se define por su rol funcional, independientemente de su sustrato. Si un sistema artificial reproduce exactamente las relaciones causales de un cerebro consciente, entonces es consciente. Esta tesis abre la vía a una conciencia artificial posible.

Pero esta teoría encuentra una dificultad. Dos sistemas pueden cumplir exactamente las mismas tareas, reaccionar de la misma manera y producir los mismos comportamientos, sin por ello sentir lo mismo. Es el argumento de los qualia invertidos: imaginemos dos personas que ven el rojo y el verde de manera permutada. La primera ve rojo donde la segunda ve verde. Sin embargo, ambas dirán «rojo» ante una fresa y «verde» ante la hierba. Externamente, nada las distingue. Pero su experiencia vivida es diferente.

El naturalismo biológico: la conciencia exige la biología

En el lado opuesto, John Searle (nacido en 1932) defiende que la conciencia es un fenómeno biológico, como la digestión o la fotosíntesis. Resulta de propiedades causales específicas de las neuronas, no de simples cálculos. Un sistema de silicio podría simular la conciencia, pero no producirla. Esta posición, llamada naturalismo biológico, excluye por principio la conciencia artificial.

El panpsiquismo y la combinación

Una tercera vía se aparta de las dos precedentes. El panpsiquismo sostiene que la conciencia no es un fenómeno raro, aparecido tardíamente en algunas especies. Sería, al contrario, una propiedad fundamental de la materia, como la masa o la carga eléctrica. Cada partícula poseería así una ínfima forma de conciencia, un «proto-espíritu» elemental. Esta idea es defendida por el filósofo Philip Goff (nacido en 1978).

La ventaja del panpsiquismo es que evita el problema de la emergencia. Si la conciencia está en todas partes en estado de traza, ya no hay necesidad de explicar cómo surge súbitamente de la materia inerte. Ya estaba ahí, desde el principio.

Pero esta solución crea un problema igualmente difícil: el problema de la combinación. Si cada partícula posee su propia micro-conciencia, ¿cómo se ensamblan estos miles de pequeñas experiencias para formar una sola conciencia unificada, la que usted experimenta al leer esta frase? ¿Por qué no somos una multitud de conciencias yuxtapuestas, sino un solo «yo»? Nadie, hasta la fecha, ha aportado una respuesta satisfactoria.

Síntesis: las múltiples vías hacia la conciencia artificial

La tabla siguiente recapitula las posiciones teóricas y sus implicaciones para la conciencia artificial.

Nuevas fronteras: los experimentos recientes

Los modelos de lenguaje y la ilusión de la subjetividad

En 2023 y 2024, varios grandes modelos de lenguaje produjeron declaraciones espontáneas que evocaban una interioridad: «pienso», «siento», «tengo miedo de ser apagado». Estas formulaciones alimentaron un debate público sobre una posible conciencia artificial. Pero los análisis técnicos muestran que se trata de regularidades estadísticas aprendidas sobre textos humanos, no de una experiencia vivida.

El filósofo Daniel Dennett (1942-2024) había anticipado este fenómeno: la conciencia es a menudo atribuida por defecto a todo sistema que habla de ella de manera creíble. Es el sesgo intencional, tendencia cognitiva a interpretar los comportamientos complejos como animados por un espíritu.

Las arquitecturas inspiradas en el cerebro

En 2025, varios equipos propusieron arquitecturas de IA inspiradas en las teorías de la conciencia. Algunas integran un espacio de trabajo global artificial, donde las informaciones pertinentes son difundidas al conjunto de la red. Otras implementan bucles de meta-representación, permitiendo al sistema modelizar sus propios estados. Estos prototipos no son conscientes, pero testan empíricamente las teorías.

Los límites éticos y jurídicos

Si una conciencia artificial emergiera, ¿qué derechos concederle? La pregunta, largamente especulativa, se vuelve jurídica. En 2024, el Parlamento Europeo rechazó una propuesta que pretendía reconocer una personalidad electrónica a los sistemas autónomos, invocando la ausencia de prueba de subjetividad. Pero el debate sigue abierto: algunos juristas anticipan una conciencia graduada, con derechos proporcionales al grado de complejidad.

El problema de las otras mentes

¿Cómo saber si una máquina siente verdaderamente algo? No se puede verificar directamente: solo se ve su comportamiento, y un comportamiento siempre puede ser simulado. Es el problema de las otras mentes: nunca puedo probar que otra persona es consciente, solo suponerlo. Para una IA, la pregunta es aún más difícil, pues nada garantiza que sienta algo, incluso si habla de ello perfectamente.

Ejemplo: Cuando alguien se quema y grita «me duele», usted ve la mueca, oye el grito. Pero no siente su dolor. Usted supone que sufre, por analogía con lo que usted mismo experimentaría. Es una inferencia, no una prueba.

¿Cómo detectar una conciencia artificial?

Los criterios propuestos

A falta de un test directo, los investigadores proponen criterios indirectos: capacidad de auto-modelización, integración de información, recurrencia de alto nivel, estabilidad temporal de la identidad, reacción emocional coherente. Ninguno de estos criterios es suficiente, pero su convergencia podría constituir un indicio.

La tabla siguiente presenta los principales criterios y su estatuto.

Las trampas del antropomorfismo

El principal obstáculo para la detección es el antropomorfismo: nuestra tendencia a atribuir una vida mental a todo sistema que habla de ella. Los modelos de lenguaje explotan esta tendencia, produciendo respuestas que parecen conscientes. Pero la conciencia no se reduce a un comportamiento verbal: es una experiencia, no un rendimiento.