O que a IA não pode fazer

Resumo científico

Os modelos de linguagem de grande escala (LLM) como GPT, Mistral, DeepSeek ou Gemini destacam-se na geração de texto, mas permanecem fundamentalmente limitados a uma única tarefa: a predição estatística de tokens. Eles não dispõem de memória persistente, nem de acesso ao mundo real, nem de capacidade para executar ações. Para superar esses obstáculos, surge uma nova arquitetura: o assistente IA, que combina um pequeno LLM com um sistema especialista e uma camada de orquestração de ferramentas. Essa hibridação permite planificar ações, interagir com arquivos, bases de dados e APIs, enquanto assegura a verificação dos resultados. O assistente não substitui o LLM: ele o aumenta. Traz o que a linguagem sozinha não pode oferecer: a ação, a memória e a fiabilidade. Mas esse aumento nunca é autônomo: é colocado sob controle contínuo do humano, que pilota, orienta e valida cada etapa, garantindo que o assistente continue sendo uma ferramenta a serviço do seu julgamento, e não um substituto da sua responsabilidade.

Por que um LLM sozinho não é suficiente?

Um modelo de linguagem (LLM) gera texto, mas não compreende, não age, não memoriza nada e não verifica suas respostas. Abandonado a si mesmo, é incontrolável: suas saídas são imprevisíveis, não verificadas e desprovidas de qualquer rastreabilidade. O assistente IA preenche essas lacunas: acrescenta ferramentas, memória e lógica estruturada em torno do modelo, sempre sob supervisão humana, com salvaguardas que permitem orientar, validar ou interromper sua execução.

A diferença é fundamental. Um LLM responde a partir do seu contexto, sem qualquer pilotagem externa. Um assistente pode além disso pesquisar informações, ler um documento, analisar uma base de dados, executar um cálculo ou chamar uma função. O assistente não é um novo modelo: é uma arquitetura de software construída em torno do modelo, da qual o humano continua sendo o garante último, transformando um sistema cego e incontrolável numa ferramenta fiável e supervisionada.

Também para descobrir

Continue a sua exploração do Universo com estes temas:

LLM, sistemas especialistas, assistentes IA: que diferenças?

Tabela comparativa das três tecnologias: sistemas especialistas, LLM e assistentes IA
Funcionalidade	Sistema especialista	LLM (modelo)	Assistente IA (sistema)
Definição	Motor de regras lógicas codificadas por especialistas	Modelo estatístico de linguagem (rede neural)	Sistema especialista + pequeno LLM + ferramentas de orquestração
Composição	Regras + motor de inferência	Pesos da rede neural	Lógica (sistema especialista) + compreensão (LLM) + ação (ferramentas)
Peso / Tamanho	Leve (alguns MB)	Muito pesado (vários GB / TB)	Leve (de alguns MB a alguns GB)
Contém um LLM?	❌ Não	✅ Sim (ele mesmo)	✅ Sim (pequeno LLM integrado ou chamada API)
Aloja os parâmetros?	❌ Não (sem parâmetros)	✅ Sim (seus pesos)	⚠️ Opcional (pode alojar um pequeno LLM ou chamar uma API)
Memória persistente	❌ Não (sem estado)	❌ Não (contexto limitado)	✅ Sim (armazenamento de sessões)
Acesso a dados em tempo real	❌ Não (regras fixas)	❌ Não (congelado no treinamento)	✅ Sim (APIs, bases de dados, web)
Execução de código e ferramentas	❌ Não	❌ Não (só gera texto)	✅ Sim (orquestração de ferramentas)
Raciocínio estruturado	✅ Sim (determinista)	⚠️ Estatístico (imitação)	✅ Sim (híbrido: regras + validação)
Planeamento de ações	❌ Não	❌ Não	✅ Sim (o sistema especialista planifica)
Explicabilidade	✅ Perfeita (rastreável)	❌ Caixa preta	⚠️ Parcial (rastreável pelo sistema especialista)
Adaptabilidade	❌ Rígida (re-codificação)	✅ Flexível (fine-tuning)	✅ Flexível (fine-tuning + novas ferramentas)
Domínio de aplicação	⚠️ Muito específico	✅ Generalista	✅ Generalista (especializável mediante ferramentas)
Interação linguagem natural	❌ Não (formulários)	✅ Sim	✅ Sim (através do pequeno LLM integrado)
Verificação de resultados	✅ Sim (por regras)	❌ Não (alucinações)	✅ Sim (por sistema especialista + RAG)
Pode existir sozinho?	✅ Sim (autônomo)	✅ Sim (via API)	✅ Sim (sistema completo autônomo)

Sistemas especialistas vs LLM vs Assistentes IA

Sistema especialista: "Sei tudo o que o homem me codificou, mas só sei fazer isso."
LLM sozinho: "Gero texto, e é só isso."
Assistente IA: "Sou um pequeno LLM aumentado, equipado com ferramentas especializadas e supervisionado por humanos."

Exemplo de leitura de PDF com um LLM sozinho

Contexto: O utilizador tem acesso a um LLM sozinho (ex: GPT, Mistral, DeepSeek, Gemini, ...). Este modelo só pode gerar texto. Não tem acesso a ficheiros, pastas nem ferramentas de execução.

Passo 1: O utilizador pede ao LLM: "Encontra-me os artigos sobre buracos negros nesta pasta e resume-os em português."
Passo 2: O LLM analisa o pedido. Compreende que se trata de um pedido de leitura de ficheiros e resumo.
Passo 3: O LLM responde explicando as suas limitações: "Não posso aceder aos ficheiros do seu computador, porque sou um modelo de linguagem. Eis como pode proceder: abra a pasta, copie o conteúdo dos PDF e cole-o aqui. Então poderei resumi-los."
Passo 4: O utilizador abre manualmente a pasta, copia o texto dos PDF relevantes e cola-o na conversa.
Passo 5: O utilizador pede: "Aqui está o texto do artigo. Resume-o em 5 frases em português."
Passo 6: O LLM gera um resumo do texto fornecido pelo utilizador.
Passo 7: O LLM apresenta o resumo ao utilizador. Nenhuma verificação é realizada; o LLM pode alucinar ou produzir imprecisões.

Conclusão: Com um LLM sozinho, o utilizador tem de fazer todo o trabalho manualmente: abrir pastas, copiar os textos, colá-los, e rever os resumos para verificar a sua exatidão. O LLM só gera texto a partir do que o utilizador lhe fornece.

Exemplo de leitura de PDF com um assistente IA (sistema completo)

Contexto: O utilizador tem acesso a um LLM (ex: ChatGPT, Mistral, DeepSeek, Gemini) através de uma interface de prompt. Este LLM está ligado a um assistente IA completo (sistema especialista + ferramentas) que pode agir no mundo real.

Passo 1: O utilizador escreve o seu prompt no LLM: "Encontra-me os artigos sobre buracos negros nesta pasta e resume-os em português."
Passo 2: O LLM analisa o pedido. Compreende que não pode responder sozinho (não tem acesso aos ficheiros). Identifica que precisa de um assistente para executar ações.
Passo 3: O LLM chama o assistente IA (via uma API) enviando-lhe um pedido estruturado: "Interpreta este pedido: ler a pasta, extrair os PDF, procurar 'buraco negro', resumir."
Passo 4: O assistente (sistema especialista) recebe o pedido do LLM. Planifica as ações: listar ficheiros, filtrar PDF, extrair texto, procurar palavras-chave, resumir com o LLM, verificar.
Passo 5: O assistente utiliza as suas ferramentas para executar cada ação (leitura da pasta, extração de texto, procura de palavras-chave).
Passo 6: O assistente recebe os resultados das ferramentas (textos extraídos, presença da palavra-chave).
Passo 7: O assistente (sistema especialista) chama o LLM com um pedido de resumo: "Resume este texto em 5 frases em português."
Passo 8: O LLM gera o resumo e devolve-o ao assistente.
Passo 9: O assistente (sistema especialista) verifica os resultados: coerência, presença do tema, ausência de alucinação.
Passo 10: O assistente monta a resposta estruturada e devolve-a ao LLM.
Passo 11: O LLM reformula a resposta em linguagem natural e apresenta-a ao utilizador através da interface de prompt.

Conclusão: O utilizador só vê o LLM. É o LLM que, em segundo plano, chama o assistente para executar as ações. O utilizador nunca interage diretamente com o assistente. Tudo é transparente para ele.

Referências

Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS), 33, 1877-1901.
https://neurips.cc/virtual/2020/oral/18545 (nova janela)
Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
https://collaborate.princeton.edu/en/publications/react-synergizing-reasoning-and-acting-in-language-models (nova janela)
Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2023/oral/73843 (nova janela)
Mialon, G., et al. (2023). Augmented Language Models: A Survey. arXiv:2302.07842.
https://huggingface.co/papers/2302.07842 (nova janela)
Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2020/public/poster_6b493230205f780e1bc26945df7481e5.html (nova janela)
OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
https://arxiv.org/abs/2303.08774 (nova janela)
Anthropic (2024). The Claude 3 Model Family. Technical Report.
https://www.anthropic.com/news/claude-3-family (nova janela)
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
LangChain (2024). Documentation: Building Applications with LLMs.
https://docs.langchain.com/oss/javascript/learn (nova janela)
Hugging Face (2024). Transformers Documentation: Agents & Tools.
https://huggingface.co/docs/transformers (nova janela)

FAQ: As suas perguntas sobre os assistentes IA e os limites dos LLM

Um assistente IA é mais inteligente que um LLM sozinho?

Não. Muitas vezes é construído em torno de um pequeno LLM – por vezes menos potente que o GPT-4 ou DeepSeek. A sua força reside na sua arquitetura: combina o LLM com ferramentas, memória persistente e um sistema especialista que planifica e verifica as ações. É esta hibridação que lhe permite realizar tarefas que um LLM sozinho não pode realizar.

Por que um LLM sozinho é incontrolável?

Um LLM sozinho é um modelo estatístico que gera texto sem compreensão nem verificação. As suas respostas podem ser alucinadas, enviesadas ou incoerentes, sem rastreabilidade. O assistente IA, supervisionado pelo humano, permite orientar, interromper ou validar cada passo, transformando um sistema cego numa ferramenta controlada.

O assistente IA pode executar ações perigosas?

Sim, é um risco potencial. Por isso o controle humano é essencial: o assistente não faz nada sem validação ou supervisão. São integradas salvaguardas: permissões limitadas, registos de auditoria e ciclos de verificação. O assistente é concebido para ser uma extensão fiável do julgamento humano, não um agente autônomo.

O que é RAG (Retrieval-Augmented Generation)?

O RAG (retrieval-Augmented Generation) é uma técnica que enriquece as respostas do LLM com informações de uma base de dados externa. Isso ajuda a reduzir as alucinações e fornecer respostas atualizadas, verificáveis e com fontes – um complemento essencial para a fiabilidade do assistente.

Qual é a diferença entre um agente autônomo e um assistente IA supervisionado?

Um agente autônomo age sem intervenção humana. Um assistente IA supervisionado assiste o humano sem o substituir: cada ação é validada ou orientada pelo humano. O assistente é uma ferramenta que aumenta as capacidades humanas, enquanto o agente autônomo visa automatizar uma tarefa – com os riscos que isso implica em termos de controle e responsabilidade.

Os assistentes IA podem compreender humor, ironia ou duplos sentidos?

Parcialmente. O LLM integrado no assistente pode detetar certos traços de linguagem como ironia, humor ou duplos sentidos, porque foi treinado com um vasto corpus de textos humanos. Mas não os compreende no sentido humano: não percebe a intenção, a emoção ou o contexto social. É uma imitação estatística, não uma verdadeira compreensão. O assistente IA pode por vezes interpretar erroneamente um comentário irónico como um pedido sério – daí a importância da supervisão humana para corrigir esses erros de interpretação.