AI做不到的事情

科学摘要

GPT、Mistral、DeepSeek或Gemini等大型语言模型（LLM）在文本生成方面表现出色，但根本上局限于单一任务： 统计令牌预测。它们既没有持久记忆，也没有对现实世界的访问权限，更没有执行行动的能力。为了克服这些障碍，一种新的架构正在出现：AI助手，它将 小型LLM与专家系统和工具编排层相结合。这种混合使得规划行动、与文件、数据库和API交互成为可能，同时确保结果验证。助手不取代LLM：它增强了LLM。它带来了语言本身无法提供的东西：行动、记忆和可靠性。但这种增强绝不是自主的：它被置于人类的持续控制之下，人类驾驶、引导和验证每一步，确保助手仍然是服务于人类判断的工具，而不是人类责任的替代品。

为什么单独的LLM不够用？

语言模型（LLM）生成文本，但不理解、不行动、不记忆也不验证其答案。任其自流，它是不可控的：其输出不可预测、未经验证且 完全没有可追溯性。AI助手填补了这些空白：它在模型周围添加了工具、记忆和结构化逻辑，始终在人类监督下，并配备安全措施，可以引导、验证或中断其执行。

区别是根本性的。LLM根据其上下文做出响应，没有任何外部操控。助手还可以搜索信息、阅读文档、分析数据库、执行计算或调用函数。助手不是新模型：它是围绕模型构建的软件架构，人类仍然是最终担保人，将一个盲目且不可控的系统转变为可靠且受监督的工具。

值得一看

继续探索宇宙的这些主题：

LLM、专家系统、AI助手：有什么区别？

三种技术的比较表：专家系统、LLM和AI助手
功能	专家系统	LLM（模型）	AI助手（系统）
定义	由专家编码的逻辑规则引擎	统计语言模型（神经网络）	专家系统 + 小型LLM + 编排工具
组成	规则 + 推理引擎	神经网络权重	逻辑（专家系统）+ 理解（LLM）+ 行动（工具）
重量 / 大小	轻量（几MB）	非常重（几GB / TB）	轻量（几MB到几GB）
是否包含LLM？	❌ 否	✅ 是（本身）	✅ 是（集成的小型LLM或API调用）
是否托管参数？	❌ 否（无参数）	✅ 是（其权重）	⚠️ 可选（可托管小型LLM或调用API）
持久记忆	❌ 否（无状态）	❌ 否（上下文有限）	✅ 是（会话存储）
实时数据访问	❌ 否（固定规则）	❌ 否（训练时冻结）	✅ 是（API、数据库、网络）
代码和工具执行	❌ 否	❌ 否（只生成文本）	✅ 是（工具编排）
结构化推理	✅ 是（确定性）	⚠️ 统计（模仿）	✅ 是（混合：规则 + 验证）
行动规划	❌ 否	❌ 否	✅ 是（专家系统规划）
可解释性	✅ 完美（可追溯）	❌ 黑箱	⚠️ 部分（通过专家系统可追溯）
适应性	❌ 僵化（重新编码）	✅ 灵活（微调）	✅ 灵活（微调 + 新工具）
应用领域	⚠️ 非常特定	✅ 通用	✅ 通用（可通过工具专业化）
自然语言交互	❌ 否（表单）	✅ 是	✅ 是（通过集成的小型LLM）
结果验证	✅ 是（通过规则）	❌ 否（幻觉）	✅ 是（通过专家系统 + RAG）
能否单独存在？	✅ 是（自主）	✅ 是（通过API）	✅ 是（完整的自主系统）

专家系统 vs LLM vs AI助手

专家系统："我知道人类为我编码的一切，但我只会做那些。"
单独的LLM："我生成文本，仅此而已。"
AI助手："我是一个小型的增强LLM，配备专业工具并受到人类监督。"

单独LLM读取PDF的示例

情境： 用户可以访问单独的LLM（例如：GPT、Mistral、DeepSeek、Gemini等）。这个模型只能生成文本。它无法访问文件、文件夹或执行工具。

步骤1： 用户向LLM请求："帮我找到这个文件夹中关于黑洞的文章，并用中文总结。"
步骤2： LLM分析请求。它理解这是一个文件读取和总结的请求。
步骤3： LLM回应并解释其局限性："我无法访问您计算机上的文件，因为我是语言模型。您可以这样做：打开文件夹，复制PDF的内容并粘贴到这里。然后我就可以总结了。"
步骤4： 用户手动打开文件夹，复制相关PDF的文本并粘贴到对话中。
步骤5： 用户请求："这是文章的文本。用中文用5句话总结。"
步骤6： LLM生成用户提供文本的摘要。
步骤7： LLM向用户呈现摘要。没有进行任何验证；LLM可能产生幻觉或不准确的内容。

结论： 使用单独的LLM时，用户必须手动完成所有工作：打开文件夹、复制文本、粘贴，并审查摘要以验证其准确性。LLM只根据用户提供的内容生成文本。

使用AI助手（完整系统）读取PDF的示例

情境： 用户通过提示界面可以访问LLM（例如：ChatGPT、Mistral、DeepSeek、Gemini）。这个LLM连接到一个完整的AI助手（专家系统 + 工具），可以在现实世界中行动。

步骤1： 用户在LLM中输入提示："帮我找到这个文件夹中关于黑洞的文章，并用中文总结。"
步骤2： LLM分析请求。它理解自己无法单独回答（无法访问文件）。它确定需要助手来执行行动。
步骤3： LLM（通过API）调用AI助手，向其发送结构化请求："解释这个请求：读取文件夹，提取PDF，搜索'黑洞'，总结。"
步骤4： 助手（专家系统）收到LLM的请求。它规划行动：列出文件、筛选PDF、提取文本、搜索关键词、用LLM总结、验证。
步骤5： 助手使用其工具执行每个行动（读取文件夹、提取文本、搜索关键词）。
步骤6： 助手接收工具的结果（提取的文本、关键词的存在）。
步骤7： 助手（专家系统）以总结请求调用LLM："用中文用5句话总结这段文本。"
步骤8： LLM生成摘要并将其返回给助手。
步骤9： 助手（专家系统）验证结果：一致性、主题的存在、没有幻觉。
步骤10： 助手组装结构化的响应并将其返回给LLM。
步骤11： LLM将响应改写为自然语言，并通过提示界面呈现给用户。

结论： 用户只看到LLM。是LLM在后台调用助手来执行行动。用户从不直接与助手交互。一切对用户都是透明的。

参考文献

Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS), 33, 1877-1901.
https://neurips.cc/virtual/2020/oral/18545 （新窗口）
Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
https://collaborate.princeton.edu/en/publications/react-synergizing-reasoning-and-acting-in-language-models （新窗口）
Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2023/oral/73843 （新窗口）
Mialon, G., et al. (2023). Augmented Language Models: A Survey. arXiv:2302.07842.
https://huggingface.co/papers/2302.07842 （新窗口）
Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2020/public/poster_6b493230205f780e1bc26945df7481e5.html （新窗口）
OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
https://arxiv.org/abs/2303.08774 （新窗口）
Anthropic (2024). The Claude 3 Model Family. Technical Report.
https://www.anthropic.com/news/claude-3-family （新窗口）
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
LangChain (2024). Documentation: Building Applications with LLMs.
https://docs.langchain.com/oss/javascript/learn （新窗口）
Hugging Face (2024). Transformers Documentation: Agents & Tools.
https://huggingface.co/docs/transformers （新窗口）

FAQ：关于AI助手和LLM局限性的常见问题

AI助手比单独的LLM更智能吗？

不。它通常围绕小型LLM构建——有时比GPT-4或DeepSeek性能弱。其优势在于架构：它将LLM与工具、持久记忆和规划验证行动的专家系统相结合。正是这种混合使其能够完成单独的LLM无法完成的任务。

为什么单独的LLM不可控？

单独的LLM是统计模型，在没有理解或验证的情况下生成文本。其回应可能是幻觉、有偏见或不一致的，没有可追溯性。有人类监督的AI助手可以引导、中断或验证每一步，将盲目系统转变为可控工具。

AI助手可以执行危险行动吗？

可以，这是潜在风险。这就是为什么人工控制至关重要：助手未经验证或监督不会做任何事情。安全措施已内置：受限权限、审计日志和验证循环。助手被设计为人类判断的可靠延伸，而不是自主代理。

什么是RAG（检索增强生成）？

RAG (retrieval-Augmented Generation)是一种用外部数据库的信息丰富LLM回应的技术。这有助于减少幻觉并提供最新、可验证和有来源的答案——这是助手可靠性的重要补充。

自主代理和受监督的AI助手有什么区别？

自主代理在没有人为干预的情况下行动。受监督的AI助手在不取代人类的情况下协助人类：每个行动都由人类验证或引导。助手是增强人类能力的工具，而自主代理旨在自动化任务——在控制和责任方面带来相关风险。

AI助手能理解幽默、讽刺或暗示吗？

部分可以。集成到助手中的LLM可以检测某些语言特征，如讽刺、幽默或暗示，因为它是在大量人类文本语料库上训练的。但它并不像人类那样理解它们：它不感知意图、情感或社会背景。这是统计模仿，而不是真正的理解。AI助手有时可能错误地将讽刺言论解释为严肃请求——这就是为什么人类监督对于纠正这些解释错误很重要。