Lo que la IA no puede hacer

Resumen científico

Los modelos de lenguaje de gran tamaño (LLM) como GPT, Mistral, DeepSeek o Gemini destacan en la generación de texto, pero siguen fundamentalmente limitados a una única tarea: la predicción estadística de tokens. No disponen ni de memoria persistente, ni de acceso al mundo real, ni de capacidad para ejecutar acciones. Para superar estos obstáculos, surge una nueva arquitectura: el asistente IA, que combina un pequeño LLM con un sistema experto y una capa de orquestación de herramientas. Esta hibridación permite planificar acciones, interactuar con archivos, bases de datos y API, mientras se asegura la verificación de los resultados. El asistente no reemplaza al LLM: lo aumenta. Aporta lo que el lenguaje solo no puede ofrecer: la acción, la memoria y la fiabilidad. Pero este aumento nunca es autónomo: se sitúa bajo el control continuo del humano, que pilota, orienta y valida cada paso, garantizando que el asistente siga siendo una herramienta al servicio de su juicio, y no un sustituto de su responsabilidad.

¿Por qué un LLM solo no es suficiente?

Un modelo de lenguaje (LLM) genera texto, pero no comprende, no actúa, no memoriza nada y no verifica sus respuestas. Abandonado a sí mismo, es incontrolable: sus salidas son impredecibles, no verificadas y carentes de toda trazabilidad. El asistente IA llena estas carencias: añade herramientas, memoria y lógica estructurada alrededor del modelo, siempre bajo supervisión humana, con salvaguardas que permiten orientar, validar o interrumpir su ejecución.

La diferencia es fundamental. Un LLM responde a partir de su contexto, sin ningún pilotaje externo. Un asistente puede además buscar información, leer un documento, analizar una base de datos, ejecutar un cálculo o llamar a una función. El asistente no es un nuevo modelo: es una arquitectura de software construida alrededor del modelo, de la que el humano sigue siendo el garante último, transformando un sistema ciego e incontrolable en una herramienta fiable y supervisada.

También para descubrir

Continúe su exploración del Universo con estos temas:

LLM, sistemas expertos, asistentes IA: ¿qué diferencias?

Tabla comparativa de las tres tecnologías: sistemas expertos, LLM y asistentes IA
Funcionalidad	Sistema experto	LLM (modelo)	Asistente IA (sistema)
Definición	Motor de reglas lógicas codificadas por expertos	Modelo estadístico de lenguaje (red neuronal)	Sistema experto + pequeño LLM + herramientas de orquestación
Composición	Reglas + motor de inferencia	Pesos de la red neuronal	Lógica (sistema experto) + comprensión (LLM) + acción (herramientas)
Peso / Tamaño	Ligero (unos pocos MB)	Muy pesado (varios GB / TB)	Ligero (de unos pocos MB a unos pocos GB)
¿Contiene un LLM?	❌ No	✅ Sí (él mismo)	✅ Sí (pequeño LLM integrado o llamada API)
¿Aloja los parámetros?	❌ No (sin parámetros)	✅ Sí (sus pesos)	⚠️ Opcional (puede alojar un pequeño LLM o llamar a una API)
Memoria persistente	❌ No (sin estado)	❌ No (contexto limitado)	✅ Sí (almacenamiento de sesiones)
Acceso a datos en tiempo real	❌ No (reglas fijas)	❌ No (congelado en el entrenamiento)	✅ Sí (API, bases de datos, web)
Ejecución de código y herramientas	❌ No	❌ No (solo genera texto)	✅ Sí (orquestación de herramientas)
Razonamiento estructurado	✅ Sí (determinista)	⚠️ Estadístico (imitación)	✅ Sí (híbrido: reglas + validación)
Planificación de acciones	❌ No	❌ No	✅ Sí (el sistema experto planifica)
Explicabilidad	✅ Perfecta (trazable)	❌ Caja negra	⚠️ Parcial (trazable por el sistema experto)
Adaptabilidad	❌ Rígida (re-codificación)	✅ Flexible (fine-tuning)	✅ Flexible (fine-tuning + nuevas herramientas)
Dominio de aplicación	⚠️ Muy específico	✅ Generalista	✅ Generalista (especializable mediante herramientas)
Interacción lenguaje natural	❌ No (formularios)	✅ Sí	✅ Sí (a través del pequeño LLM integrado)
Verificación de resultados	✅ Sí (por reglas)	❌ No (alucinaciones)	✅ Sí (por sistema experto + RAG)
¿Puede existir solo?	✅ Sí (autónomo)	✅ Sí (vía API)	✅ Sí (sistema completo autónomo)

Sistemas expertos vs LLM vs Asistentes IA

Sistema experto: "Sé todo lo que el hombre me ha codificado, pero solo sé hacer eso."
LLM solo: "Genero texto, y eso es todo."
Asistente IA: "Soy un pequeño LLM aumentado, equipado con herramientas especializadas y supervisado por humanos."

Ejemplo de lectura de PDF con un LLM solo

Contexto: El usuario tiene acceso a un LLM solo (ej: GPT, Mistral, DeepSeek, Gemini, ...). Este modelo solo puede generar texto. No tiene acceso a archivos, carpetas ni herramientas de ejecución.

Paso 1: El usuario pide al LLM: "Encuéntrame los artículos sobre agujeros negros en esta carpeta y resúmelos en español."
Paso 2: El LLM analiza la solicitud. Comprende que se trata de una petición de lectura de archivos y resumen.
Paso 3: El LLM responde explicando sus limitaciones: "No puedo acceder a los archivos de su ordenador, porque soy un modelo de lenguaje. Así puede proceder: abra la carpeta, copie el contenido de los PDF y péguelo aquí. Entonces podré resumirlos."
Paso 4: El usuario abre manualmente la carpeta, copia el texto de los PDF relevantes y lo pega en la conversación.
Paso 5: El usuario pide: "Aquí está el texto del artículo. Resúmelo en 5 frases en español."
Paso 6: El LLM genera un resumen del texto proporcionado por el usuario.
Paso 7: El LLM presenta el resumen al usuario. No se realiza ninguna verificación; el LLM puede alucinar o producir imprecisiones.

Conclusión: Con un LLM solo, el usuario debe hacer todo el trabajo manualmente: abrir carpetas, copiar los textos, pegarlos, y revisar los resúmenes para verificar su exactitud. El LLM solo genera texto a partir de lo que el usuario le proporciona.

Ejemplo de lectura de PDF con un asistente IA (sistema completo)

Contexto: El usuario tiene acceso a un LLM (ej: ChatGPT, Mistral, DeepSeek, Gemini) a través de una interfaz de prompt. Este LLM está conectado a un asistente IA completo (sistema experto + herramientas) que puede actuar en el mundo real.

Paso 1: El usuario escribe su prompt en el LLM: "Encuéntrame los artículos sobre agujeros negros en esta carpeta y resúmelos en español."
Paso 2: El LLM analiza la solicitud. Comprende que no puede responder solo (no tiene acceso a los archivos). Identifica que necesita un asistente para ejecutar acciones.
Paso 3: El LLM llama al asistente IA (vía una API) enviándole una solicitud estructurada: "Interpreta esta solicitud: leer la carpeta, extraer los PDF, buscar 'agujero negro', resumir."
Paso 4: El asistente (sistema experto) recibe la solicitud del LLM. Planifica las acciones: listar archivos, filtrar PDF, extraer texto, buscar palabras clave, resumir con el LLM, verificar.
Paso 5: El asistente utiliza sus herramientas para ejecutar cada acción (lectura de la carpeta, extracción de texto, búsqueda de palabras clave).
Paso 6: El asistente recibe los resultados de las herramientas (textos extraídos, presencia de la palabra clave).
Paso 7: El asistente (sistema experto) llama al LLM con una solicitud de resumen: "Resume este texto en 5 frases en español."
Paso 8: El LLM genera el resumen y lo devuelve al asistente.
Paso 9: El asistente (sistema experto) verifica los resultados: coherencia, presencia del tema, ausencia de alucinación.
Paso 10: El asistente ensambla la respuesta estructurada y la devuelve al LLM.
Paso 11: El LLM reformula la respuesta en lenguaje natural y la presenta al usuario a través de la interfaz de prompt.

Conclusión: El usuario solo ve el LLM. Es el LLM quien, en segundo plano, llama al asistente para ejecutar las acciones. El usuario nunca interactúa directamente con el asistente. Todo es transparente para él.

Referencias

Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS), 33, 1877-1901.
https://neurips.cc/virtual/2020/oral/18545 (nueva ventana)
Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
https://collaborate.princeton.edu/en/publications/react-synergizing-reasoning-and-acting-in-language-models (nueva ventana)
Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2023/oral/73843 (nueva ventana)
Mialon, G., et al. (2023). Augmented Language Models: A Survey. arXiv:2302.07842.
https://huggingface.co/papers/2302.07842 (nueva ventana)
Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2020/public/poster_6b493230205f780e1bc26945df7481e5.html (nueva ventana)
OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
https://arxiv.org/abs/2303.08774 (nueva ventana)
Anthropic (2024). The Claude 3 Model Family. Technical Report.
https://www.anthropic.com/news/claude-3-family (nueva ventana)
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
LangChain (2024). Documentation: Building Applications with LLMs.
https://docs.langchain.com/oss/javascript/learn (nueva ventana)
Hugging Face (2024). Transformers Documentation: Agents & Tools.
https://huggingface.co/docs/transformers (nueva ventana)

Preguntas frecuentes: Sus preguntas sobre los asistentes IA y los límites de los LLM

¿Es un asistente IA más inteligente que un LLM solo?

No. A menudo se construye alrededor de un pequeño LLM – a veces menos potente que GPT-4 o DeepSeek. Su fuerza reside en su arquitectura: combina el LLM con herramientas, memoria persistente y un sistema experto que planifica y verifica las acciones. Es esta hibridación la que le permite realizar tareas que un LLM solo no puede realizar.

¿Por qué un LLM solo es incontrolable?

Un LLM solo es un modelo estadístico que genera texto sin comprensión ni verificación. Sus respuestas pueden ser alucinadas, sesgadas o incoherentes, sin trazabilidad. El asistente IA, supervisado por el humano, permite orientar, interrumpir o validar cada paso, transformando un sistema ciego en una herramienta controlada.

¿Puede el asistente IA ejecutar acciones peligrosas?

Sí, es un riesgo potencial. Por eso el control humano es esencial: el asistente no hace nada sin validación o supervisión. Se integran salvaguardas: permisos limitados, registros de auditoría y bucles de verificación. El asistente está diseñado para ser una extensión fiable del juicio humano, no un agente autónomo.

¿Qué es RAG (Retrieval-Augmented Generation)?

El RAG (retrieval-Augmented Generation) es una técnica que enriquece las respuestas del LLM con información de una base de datos externa. Esto ayuda a reducir las alucinaciones y proporcionar respuestas actualizadas, verificables y con fuentes – un complemento esencial para la fiabilidad del asistente.

¿Cuál es la diferencia entre un agente autónomo y un asistente IA supervisado?

Un agente autónomo actúa sin intervención humana. Un asistente IA supervisado asiste al humano sin reemplazarlo: cada acción es validada u orientada por el humano. El asistente es una herramienta que aumenta las capacidades humanas, mientras que el agente autónomo busca automatizar una tarea – con los riesgos que esto conlleva en términos de control y responsabilidad.

¿Pueden los asistentes IA entender el humor, la ironía o los dobles sentidos?

Parcialmente. El LLM integrado en el asistente puede detectar ciertos rasgos del lenguaje como la ironía, el humor o los dobles sentidos, porque ha sido entrenado con un vasto corpus de textos humanos. Pero no los comprende en el sentido humano: no percibe la intención, la emoción o el contexto social. Es una imitación estadística, no una verdadera comprensión. El asistente IA puede a veces interpretar erróneamente un comentario irónico como una solicitud seria – de ahí la importancia de la supervisión humana para corregir estos errores de interpretación.