Ce que les IA ne savent pas faire

Résumé scientifique

Les modèles de langage de grande taille (LLM) comme GPT, Mistral, DeepSeek ou Gemini excellent dans la génération de texte, mais restent fondamentalement limités à une tâche unique : la prédiction statistique de tokens. Ils ne disposent ni de mémoire persistante, ni d'accès au monde réel, ni de capacité à exécuter des actions. Pour surmonter ces verrous, une nouvelle architecture émerge : l'assistant IA, qui combine un petit LLM à un système expert et à une couche d'orchestration d'outils. Cette hybridation permet de planifier des actions, d'interagir avec des fichiers, des bases de données et des API, tout en assurant une vérification des résultats. L'assistant ne remplace pas le LLM : il l'augmente. Il apporte ce que le langage seul ne peut offrir : l'action, la mémoire et la fiabilité. Mais cette augmentation n'est jamais autonome : elle est placée sous le contrôle continu de l'humain, qui pilote, oriente et valide chaque étape, garantissant que l'assistant reste un outil au service de son jugement, et non un substitut à sa responsabilité.

Pourquoi un LLM seul ne suffit pas ?

Un modèle de langage (LLM) génère du texte, mais ne comprend pas, n'agit pas, ne mémorise rien et ne vérifie pas ses réponses. Livré à lui-même, il est incontrôlable : ses sorties sont imprévisibles, non vérifiées et dépourvues de toute traçabilité. L'assistant IA comble ces lacunes : il ajoute des outils, une mémoire et une logique structurée autour du modèle, toujours sous supervision humaine, avec des garde-fous qui permettent d'orienter, de valider ou d'interrompre son exécution.

La différence est fondamentale. Un LLM répond à partir de son contexte, sans aucun pilotage externe. Un assistant peut en plus rechercher une information, lire un document, analyser une base de données, exécuter un calcul ou appeler une fonction. L'assistant n'est pas un nouveau modèle : c'est une architecture logicielle construite autour du modèle, dont l'humain reste le garant ultime, transformant un système aveugle et incontrôlable en un outil fiable et supervisé.

À découvrir aussi

Poursuivez votre exploration de l'Univers avec ces sujets :

LLM, systèmes experts, assistants IA : quelles différences ?

Tableau comparatif des trois technologies, systèmes experts, LLM et assistants IA
Fonctionnalité	Système expert	LLM (modèle)	Assistant IA (système)
Définition	Moteur de règles logiques codées par des experts	Modèle statistique de langage (réseau de neurones)	Système expert + petit LLM + outils d'orchestration
Composition	Règles + moteur d'inférence	Poids du réseau de neurones	Logique (système expert) + compréhension (LLM) + action (outils)
Poids / Taille	Léger (quelques Mo)	Très lourd (plusieurs Go / To)	Léger (quelques Mo à quelques Go)
Contient un LLM ?	❌ Non	✅ Oui (lui-même)	✅ Oui (petit LLM intégré ou appel API)
Héberge les paramètres ?	❌ Non (pas de paramètres)	✅ Oui (ses poids)	⚠️ Optionnel (peut héberger un petit LLM ou appeler une API)
Mémoire persistante	❌ Non (stateless)	❌ Non (contexte limité)	✅ Oui (stockage des sessions)
Accès aux données en temps réel	❌ Non (règles fixes)	❌ Non (figé à l'entraînement)	✅ Oui (API, bases de données, web)
Exécution de code et d'outils	❌ Non	❌ Non (ne fait que générer du texte)	✅ Oui (orchestration d'outils)
Raisonnement structuré	✅ Oui (déterministe)	⚠️ Statistique (imitation)	✅ Oui (hybride : règles + validation)
Planification d'actions	❌ Non	❌ Non	✅ Oui (le système expert planifie)
Explicabilité	✅ Parfaite (traçable)	❌ Boîte noire	⚠️ Partielle (traçable par le système expert)
Adaptabilité	❌ Rigide (re-codage)	✅ Flexible (fine-tuning)	✅ Flexible (fine-tuning + nouveaux outils)
Domaine d'application	⚠️ Très spécifique	✅ Généraliste	✅ Généraliste (spécialisable par les outils)
Interaction langage naturel	❌ Non (formulaires)	✅ Oui	✅ Oui (via le petit LLM intégré)
Vérification des résultats	✅ Oui (par les règles)	❌ Non (hallucinations)	✅ Oui (par le système expert + RAG)
Peut exister seul ?	✅ Oui (autonome)	✅ Oui (via API)	✅ Oui (système complet autonome)

Systèmes experts vs LLM vs Assistants IA

Système expert : "Je sais tout ce que l'homme m'a codé, mais je ne sais faire que ça."
LLM seul : "Je génère du texte, et c'est tout."
Assistant IA : "Je suis un petit LLM augmenté, équipé d'outils spécialisés et supervisés par l'humain."

Exemple de lecture de PDF avec un LLM seul

Contexte : L'utilisateur a accès à un LLM seul (ex: GPT, Mistral, DeepSeek, Gemini, ...). Ce modèle ne peut que générer du texte. Il n'a pas accès aux fichiers, aux dossiers, ni à des outils d'exécution.

Étape 1 : L'utilisateur demande au LLM : "Trouve-moi les articles sur les trous noirs dans ce dossier et résume-les en français."
Étape 2 : Le LLM analyse la demande. Il comprend qu'il s'agit d'une demande de lecture de fichiers et de résumé.
Étape 3 : Le LLM répond en expliquant ses limitations : "Je ne peux pas accéder aux fichiers de votre ordinateur, car je suis un modèle de langage. Voici comment vous pouvez procéder : ouvrez le dossier, copiez le contenu des PDF et collez-le ici. Je pourrai alors les résumer."
Étape 4 : L'utilisateur ouvre manuellement le dossier, copie le texte des PDF pertinents et le colle dans la conversation.
Étape 5 : L'utilisateur demande : "Voici le texte de l'article. Résume-le en 5 phrases en français."
Étape 6 : Le LLM génère un résumé du texte fourni par l'utilisateur.
Étape 7 : Le LLM présente le résumé à l'utilisateur. Aucune vérification n'est effectuée ; le LLM peut halluciner ou produire des inexactitudes.

Conclusion : Avec un LLM seul, l'utilisateur doit faire tout le travail manuellement : ouvrir les dossiers, copier les textes, les coller, et relire les résumés pour vérifier leur exactitude. Le LLM ne fait que générer du texte à partir de ce que l'utilisateur lui fournit.

Exemple de lecture de PDF avec un assistant IA (système complet)

Contexte : L'utilisateur a accès à un LLM (ex: ChatGPT, Mistral, DeepSeek, Gemini) via une interface de prompt. Ce LLM est connecté à un assistant IA complet (système expert + outils) qui peut agir dans le monde réel.

Étape 1 : L'utilisateur tape son prompt dans le LLM : "Trouve-moi les articles sur les trous noirs dans ce dossier et résume-les en français."
Étape 2 : Le LLM analyse la demande. Il comprend qu'il ne peut pas répondre seul (il n'a pas accès aux fichiers). Il identifie qu'il a besoin d'un assistant pour exécuter des actions.
Étape 3 : Le LLM appelle l'assistant IA (via une API) en lui transmettant une requête structurée : "Interprète cette demande : lire le dossier, extraire les PDF, chercher 'trou noir', résumer."
Étape 4 : L'assistant (système expert) reçoit la requête du LLM. Il planifie les actions : lister les fichiers, filtrer les PDF, extraire le texte, rechercher les mots-clés, résumer avec le LLM, vérifier.
Étape 5 : L'assistant utilise ses outils pour exécuter chaque action (Lecture du dossier, extraction de texte, recherche de mots-clés.
Étape 6 : L'assistant reçoit les résultats des outils (textes extraits, présence du mot-clé).
Étape 7 : L'assistant (système expert) appelle le LLM avec une demande de résumé : "Résume ce texte en 5 phrases en français."
Étape 8 : Le LLM génère le résumé et le renvoie à l'assistant.
Étape 9 : L'assistant (système expert) vérifie les résultats : cohérence, présence du sujet, absence d'hallucination.
Étape 10 : L'assistant assemble la réponse structurée et la renvoie au LLM.
Étape 11 : Le LLM reformule la réponse en langage naturel et la présente à l'utilisateur via l'interface de prompt.

Conclusion : L'utilisateur ne voit que le LLM. C'est le LLM qui, en arrière-plan, appelle l'assistant pour exécuter les actions. L'utilisateur n'interagit jamais directement avec l'assistant. Tout est transparent pour lui.

Références

Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS), 33, 1877-1901.
https://neurips.cc/virtual/2020/oral/18545 (nouvelle fenêtre)
Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
https://collaborate.princeton.edu/en/publications/react-synergizing-reasoning-and-acting-in-language-models (nouvelle fenêtre)
Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2023/oral/73843 (nouvelle fenêtre)
Mialon, G., et al. (2023). Augmented Language Models: A Survey. arXiv:2302.07842.
https://huggingface.co/papers/2302.07842 (nouvelle fenêtre)
Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2020/public/poster_6b493230205f780e1bc26945df7481e5.html (nouvelle fenêtre)
OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
https://arxiv.org/abs/2303.08774 (nouvelle fenêtre)
Anthropic (2024). The Claude 3 Model Family. Technical Report.
https://www.anthropic.com/news/claude-3-family (nouvelle fenêtre)
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
LangChain (2024). Documentation: Building Applications with LLMs.
https://docs.langchain.com/oss/javascript/learn (nouvelle fenêtre)
Hugging Face (2024). Transformers Documentation: Agents & Tools.
https://huggingface.co/docs/transformers (nouvelle fenêtre)

FAQ : Vos questions sur les assistants IA et les limites des LLM

Un assistant IA est-il plus intelligent qu'un LLM seul ?

Non. Il est souvent construit autour d'un petit LLM – parfois moins puissant que GPT-4 ou DeepSeek. Sa force réside dans son architecture : il combine le LLM avec des outils, une mémoire persistante et un système expert qui planifie et vérifie les actions. C'est cette hybridation qui lui permet d'accomplir des tâches qu'un LLM seul ne peut pas réaliser.

Pourquoi un LLM seul est-il incontrôlable ?

Un LLM seul est un modèle statistique qui génère du texte sans compréhension ni vérification. Ses réponses peuvent être hallucinées, biaisées ou incohérentes, sans traçabilité. L'assistant IA, supervisé par l'humain, permet d'orienter, d'interrompre ou de valider chaque étape, transformant un système aveugle en un outil maîtrisé.

L'assistant IA peut-il exécuter des actions dangereuses ?

Oui, c'est un risque potentiel. C'est pourquoi le contrôle humain est essentiel : l'assistant ne fait rien sans validation ou supervision. Des garde-fous sont intégrés : permissions limitées, logs d'audit, et boucles de vérification. L'assistant est conçu pour être un prolongement fiable du jugement humain, pas un agent autonome.

Qu'est-ce que le RAG (Retrieval-Augmented Generation) ?

Le RAG (retrieval-Augmented Generation) est une technique qui enrichit les réponses du LLM avec des informations provenant d'une base de données externe. Cela permet de réduire les hallucinations et de fournir des réponses à jour, vérifiables et sourcées – un complément indispensable à la fiabilité de l'assistant.

Quelle est la différence entre un agent autonome et un assistant IA supervisé ?

Un agent autonome agit sans intervention humaine. Un assistant IA supervisé assiste l'humain sans le remplacer : chaque action est validée ou orientée par l'humain. L'assistant est un outil augmentant les capacités humaines, tandis que l'agent autonome vise à automatiser une tâche – avec les risques que cela comporte en termes de contrôle et de responsabilité.

Les assistants IA peuvent-ils comprendre l'humour, l'ironie ou les sous-entendus ?

Partiellement. Le LLM intégré à l'assistant est capable de détecter certains traits de langage comme l'ironie, l'humour ou les sous-entendus, car il a été entraîné sur un vaste corpus de textes humains. Mais il ne les comprend pas au sens humain du terme : il ne perçoit pas l'intention, l'émotion ou le contexte social. C'est une imitation statistique, pas une véritable compréhension. L'assistant IA peut parfois interpréter à tort une remarque ironique comme une demande sérieuse – d'où l'importance de la supervision humaine pour corriger ces erreurs d'interprétation.