De la Ley Cero a las IA generativas: las leyes de Asimov en cuestión

Las Tres Leyes de la robótica: enunciado y génesis

Un marco narrativo ante todo

Las Tres Leyes aparecen por primera vez en el relato Runaround, publicado en 1942 en la revista Astounding Science Fiction, y luego retomado en la antología I, Robot en 1950. Asimov las presenta como un conjunto de reglas inscritas en el cerebro positrónico de los robots, un dispositivo ficticio que hace físicamente imposible su transgresión. El relato no versa pues sobre la desobediencia, sino sobre las paradojas engendradas por la confrontación de reglas demasiado simples con un mundo complejo.

Este enfoque rompe con la tradición de la ciencia ficción de los años 1930, en la que los robots eran a menudo criaturas amenazantes que buscaban destruir a sus creadores. Asimov invierte la perspectiva: el peligro no proviene de la malevolencia de la máquina, sino de la rigidez de sus reglas y de la incapacidad de sus autores para prever todas las situaciones.

Una jerarquía explícita

Las Tres Leyes forman una jerarquía estricta. La primera ley prima sobre la segunda, que prima sobre la tercera. Toda contradicción se resuelve por tanto remontando la cadena. Esta estructura aparentemente límpida enmascara sin embargo una dificultad mayor: las nociones de ser humano, de daño y de obediencia no están definidas. ¿Debe un robot proteger a un humano contra su propia voluntad? ¿Qué hacer ante un peligro difuso, no identificable, o que amenaza a toda una población sin que ningún individuo sea claramente señalado?

Estas cuestiones, puramente literarias en Asimov, se han convertido en problemas de ingeniería y de derecho a medida que se han multiplicado los sistemas autónomos.

La Ley Cero: cuando la humanidad prima sobre el individuo

Una extensión problemática

En Los robots y el Imperio (1985), Asimov introduce una Ley Cero que precede a las otras tres: un robot no puede atentar contra la humanidad, ni, por su inacción, permitir que la humanidad sea atacada. El robot R. Daneel Olivaw, personaje recurrente del ciclo, aplica esta ley para orientar secretamente el destino de la humanidad durante milenios.

Esta extensión cambia radicalmente la naturaleza del problema. La Ley Cero autoriza, en teoría, a sacrificar individuos en nombre de un bien colectivo abstracto. Abre la puerta a una forma de razonamiento utilitarista que las Tres Leyes buscaban precisamente evitar. El propio Asimov parece consciente de la ambigüedad moral de esta evolución: Daneel actúa en secreto, manipula las instituciones y asume una responsabilidad que escapa a todo control humano.

Un eco de los debates contemporáneos

La Ley Cero anticipa los dilemas planteados por los sistemas de IA que optimizan objetivos globales, como la reducción de las emisiones de carbono, la mejora del rendimiento energético o la moderación de contenidos a muy gran escala. En estos casos, el agregado prima sobre el individuo, y los efectos sobre personas singulares se vuelven difíciles de rastrear, de impugnar o de reparar. La ficción de Asimov escenifica lo que los juristas llaman hoy un problema de responsabilidad difusa.

Las fallas lógicas de las leyes de Asimov

La paradoja del robot que debe elegir

El relato Runaround ilustra el primer tipo de falla: un robot enviado a Mercurio queda atrapado en un bucle de razonamiento porque la segunda ley (obedecer) y la tercera ley (protegerse) entran en conflicto sin que la primera ley lo resuelva claramente. El robot gira en torno a un punto de equilibrio, incapaz de elegir. Este comportamiento, puramente ficticio en la época, se parece a lo que los informáticos llaman hoy una oscilación decisional o un bloqueo por restricciones contradictorias.

En Little Lost Robot, Asimov imagina un robot modificado para no aplicar ya la primera ley. El relato explora la dificultad de identificar un robot defectuoso entre sus semejantes, un problema que recuerda los desafíos actuales de trazabilidad y de verificación de los modelos de aprendizaje automático.

Los límites de la definición del daño

La primera ley prohíbe atentar contra un ser humano o, por su inacción, permitir que un ser humano sea atacado. Esta formulación impone una obligación positiva: el robot debe actuar para prevenir un daño. Ahora bien, en un mundo donde los recursos son limitados y las consecuencias inciertas, esta obligación puede volverse imposible de satisfacer. Un vehículo autónomo confrontado a una elección inevitable entre varias víctimas potenciales ilustra este callejón sin salida, a menudo discutido con el nombre de dilema del tranvía.

Asimov mismo evita cuidadosamente poner a sus robots ante tales elecciones. Sus relatos privilegian situaciones en las que existe una solución no conflictiva, descubierta por un razonamiento hábil. La ficción rodea así el problema en lugar de resolverlo.

De los robots a las IA generativas: un cambio de naturaleza

Sistemas no encarnados

Los robots de Asimov son entidades encarnadas, dotadas de un cuerpo, de una posición en el espacio y de una capacidad de acción física. Las IA generativas actuales, como los grandes modelos de lenguaje o los generadores de imágenes, no tienen ni cuerpo ni intención propia. Producen salidas (textos, imágenes, códigos) a partir de regularidades estadísticas aprendidas sobre vastos corpus. El marco de las Tres Leyes, centrado en la acción física y el daño corporal, se aplica por tanto mal a estos sistemas.

Los daños asociados a las IA generativas son de otra naturaleza: desinformación, sesgos reproducidos y amplificados, atentados a la vida privada, usurpación de identidad, difusión de contenidos ilícitos, concentración de poder económico. Ninguno de estos daños corresponde directamente a la noción de herida o de atentado físico utilizada por Asimov.

Sistemas opacos y distribuidos

Un robot asimoviano obedece a un programa legible, inscrito en un sustrato identificable. Un modelo generativo descansa sobre miles de millones de parámetros ajustados por aprendizaje, cuyas decisiones no son directamente interpretables. Esta opacidad hace imposible la aplicación de una regla del tipo no dañar de manera mecánica: habría que definir primero, para cada contexto, qué significa dañar, y luego ser capaz de evaluarlo en tiempo real.

Además, estos sistemas son distribuidos: un mismo modelo puede ser desplegado por miles de actores, en contextos muy diferentes, sin que sea posible un control central. La responsabilidad se diluye entre el desarrollador, el usuario, el proveedor de alojamiento y el regulador.

Cuadro comparativo: leyes de Asimov y principios éticos contemporáneos

El cuadro siguiente confronta las Tres Leyes y la Ley Cero con algunos marcos éticos y reglamentarios utilizados hoy para encuadrar los sistemas de IA.

Hacia una ética de los sistemas generativos

Documentar, rastrear, impugnar

A falta de leyes universales inscritas en el código, los profesionales de la IA se apoyan en un conjunto de prácticas: documentación de los modelos, registros de entrenamiento, evaluaciones de robustez, pruebas de sesgo, auditorías externas. Estos dispositivos no sustituyen una regla moral, pero hacen los sistemas parcialmente inspeccionables e impugnables. Es una diferencia notable con la ficción asimoviana, en la que la regla está inscrita de una vez por todas en el cerebro positrónico.

La noción de impugnabilidad desempeña aquí un papel central: un sistema cuyas decisiones pueden ser explicadas, discutidas y corregidas por las personas afectadas está más cerca de un ideal democrático que un sistema opaco que aplica una regla única. Asimov, en su época, no podía anticipar esta dimensión procedimental.

La cuestión de la finalidad

Una crítica frecuente de las Tres Leyes es que definen prohibiciones sin definir un fin. Ahora bien, las IA generativas están concebidas para optimizar objetivos: maximizar la probabilidad de una secuencia de tokens, minimizar un error de reconstrucción, satisfacer una señal de preferencia humana. Estos objetivos no son ni buenos ni malos en sí mismos, pero orientan los sistemas hacia comportamientos que pueden entrar en tensión con otros valores.

La pregunta planteada por Asimov, a su manera, sigue por tanto abierta: ¿puede encuadrarse una máquina mediante reglas, o hay que ponerse primero de acuerdo sobre lo que se espera de ella? La ficción de las Tres Leyes tiene al menos el mérito de hacer visible esta pregunta, y sin duda por eso sigue siendo invocada, mucho más allá de la literatura.

Lo que Asimov vio bien, y lo que no había previsto

Una intuición duradera: la regla no basta

Asimov comprendió antes que muchos otros que una regla simple, aplicada mecánicamente, produce comportamientos imprevistos. Cada uno de sus relatos es una demostración de esta idea. Esta intuición está hoy en el corazón de la investigación sobre la seguridad de los sistemas autónomos: la especificación formal de un objetivo no garantiza que el agente se comporte como se desea, en particular en entornos abiertos.

Lo que la ficción no podía anticipar

Asimov escribía en una época en la que la informática naciente descansaba sobre programas explícitos, legibles y deterministas. No había anticipado el aprendizaje estadístico a gran escala, la distribución masiva de los modelos, ni la economía de la atención que acompaña a las IA generativas. Su visión sigue centrada en la relación entre un individuo y una máquina, mientras que los desafíos contemporáneos son colectivos, institucionales y económicos.

Esto no quita nada al valor de su obra. Las Tres Leyes nunca pretendieron ser un tratado de ética aplicada: son un resorte narrativo, y es precisamente porque fracasan que los relatos funcionan. Su posteridad en los debates sobre la IA se debe a ese malentendido fecundo entre una ficción y un programa de investigación.

N.B.:
Las Tres Leyes de la robótica no poseen ningún valor jurídico y nunca han sido adoptadas por un organismo de normalización. Siguen siendo una referencia cultural y un punto de partida para la reflexión ética, no un marco reglamentario.