最后更新：2025年8月2日

生成式AI vs AGI：模仿的边界在哪里，意识又从何处开始？

生成式AI与通用人工智能（AGI）的比较 — *图示生成式AI与通用人工智能（AGI）在认知结构上的差异。图片来源：astronoo.com*

两种智能，两种世界观

生成式人工智能

生成式人工智能是指一类能够根据自然语言或结构化语言（提示词）生成内容（文本、图像、音频、视频或代码）的人工智能系统。其典型代表包括GPT等大型语言模型（LLM），以及DALL·E等神经图像生成器。其原理基于利用海量数据语料库中的统计结构。通过Transformer网络等架构，这些模型学习在给定上下文的条件下预测下一个单元（词、像素、音频向量），并通过在高维潜在空间中最小化损失函数（通常是交叉熵）来实现。尽管其生成结果看似连贯、新颖或富有创意，但这些系统并不具备对现实世界的本体论认知。它们没有自身的 episodic 记忆，缺乏深思熟虑的推理能力，也不具备自主规划能力。其运作本质上是基于标记间关联的纯相关性，无法触及潜在的因果关系或人类意图。这导致其缺乏真正的语义理解能力，容易产生逻辑错误、时间矛盾或事实性幻觉。

通用人工智能

另一方面，通用人工智能（AGI）指一种理论上的系统，能够将其认知过程适应于人类可完成的任何智力任务。AGI将具备泛化能力，使其能够在异质领域间迁移学习、进行抽象推理、在情境中获取新知识，并在动态环境中制定有意图的目标。这种智能将涉及一种集成认知架构，可能由专门模块组成：感官感知、陈述性与程序性记忆、逻辑推理、注意力管理、情绪调节及决策制定。AGI将超越简单的监督学习，整合元认知、因果推理与自我评估机制。因此，它能根据自身经验、环境或错误调整策略。至今仍属假设的AGI将代表一种范式转变：它不再模仿人类反应，而是展现对世界的操作性理解，能够以主动、适应且可能具备意识的方式互动。

概念与技术上的鸿沟

生成式人工智能基于一种监督或自监督的变压器类型优化架构，其目标是通过梯度下降等方法最小化统计损失函数。这些系统在极高维空间中操作向量表征，但缺乏意识、意图或常识。

另一方面，通用人工智能（AGI）仍处于假设阶段。它需要一种混合认知架构，整合工作记忆模块、因果推理、强化学习、综合感官知觉，以及对其自身行为的动态反馈循环——这有时被称为具身元认知。

生成式AI与通用人工智能（AGI）的比较

生成式AI与通用人工智能（AGI）能力对比
特征	生成式人工智能	AGI
语义理解	看似存在，但缺乏概念基础	深度，基于世界的内部模型
适应未知任务	限于其初始训练	情境中的自主学习
跨域传输	非常弱（提示工程）	可泛化（零样本，元学习）
目标与意图	由损失函数决定的响应	具备设定自主目标的能力
建筑学	Transformer（自注意力机制）	未知，可能是模块化且递归的
当前存在	是（自2019年左右起）	不，概念性的

来源：Bengio, Y. (2023) - 系统2深度学习与通用人工智能，《自然机器智能》(2023)，OpenAI GPT架构

走向趋同还是破裂？

科学界的一些声音设想了一条中间路径：一种被称为“涌现型通用人工智能”的AI，它源于大规模语言模型与感知及行动系统在具身化方法中的结合。其他研究者则认为，人类认知的某些基本维度，如情感、意识或因果推理，无法从简单的统计模型中涌现。这场辩论尚无定论，但现阶段，区别依然明确：生成式AI作为高级模拟器运行，而通用人工智能将是一个自主的认知实体。

模仿的终点在哪里，意识的起点又在哪里？

生成式人工智能可以模拟意识的语言，识别自身并非具有意识，甚至能撰写关于认知觉醒的文章。但这并不构成现象意识。从神经生理学角度看，意识涉及信息在全局空间中的时间整合（德阿纳的神经元全局工作空间理论）、主观视角、自我感知以及对世界的情感评估。

一个纯粹的计算系统，无论多么庞大，都不会显示出可测量的“存在感”。它可以模拟清醒者的对话，却始终无法进行自我评估、产生怀疑或拥有感知。模拟认知与真实认知之间的界限，或许是通用人工智能（AGI）最大的谜题。对某些研究者而言，只有当智能被嵌入一个能够感知并拥有主观体验的感觉运动基质中时，这条界限才可能被跨越。

与通用人工智能相关的风险

通用人工智能（AGI）的出现，因其具备自主认知能力，引发了科学界、伦理学界及地缘政治领域的重大关切。下表总结了专家们识别出的主要风险。

专家识别的AGI相关主要风险
类别	描述	潜在后果	例子或假设
AI对齐	对齐问题由斯图尔特·罗素提出，其核心在于设计一种人工智能，使其目标与人类价值观保持一致，即便其智能水平超越设计者。关键在于确保通用人工智能（AGI）追求的是人类真正期望的目标，而非我们明确编码的内容。	避免通用人工智能追求有害或非预期的目标。	斯图尔特·罗素，OpenAI，DeepMind，Anthropic
智能爆炸	能够快速自我改进的通用人工智能（AGI）可能远超人类智能。	人类完全丧失监督或控制系统的能力。	技术“奇点”情景（I. J. 古德，尼克·博斯特罗姆）
恶意使用	国家、组织或个人可能滥用通用人工智能（AGI）进行破坏性活动。	自主作战、大规模虚假信息、高级网络攻击。	致命自主武器，大规模社会操纵。
替代人类劳动	通用人工智能可以自动化复杂任务，取代整个职业领域。	经济不稳定、大规模结构性失业、不平等加剧。	对科学、医学、法律等领域的预期影响。
主权丧失	AGI可能将巨大的权力集中在少数实体手中。	技术政治集中化，民主制度侵蚀。	人工智能垄断，全球行为体的算法主导。
认识论危机	通用人工智能（AGI）可能以难以控制的速度和规模生成或操控知识。	人类验证或理解信息的能力崩溃。	大规模制造可信的虚假科学或法律证据。

通用人工智能：关乎文明存亡

通用人工智能（AGI）代表着重大技术突破。若其得以实现，将在所有认知领域超越人类能力。这种具备自主性、抽象思维与自我进化能力的实体，引发了关于人类存续的根本性问题。其潜在影响涵盖从根本性福祉（解决全球性问题）到人类灭绝的极端可能。因此，当代AGI研究主要聚焦两大优先方向：对齐机制与伦理治理。

降低通用人工智能（AGI）风险的措施

面对通用人工智能（AGI）带来的系统性风险，许多研究人员、机构和政府提出了防止滥用的方法。这些策略旨在规范发展、确保目标一致性，并保障人类监督。

缓解通用人工智能相关风险的策略
方法	描述	目标	涉及机构
AI对齐	开发显式或隐式整合人类价值观的算法。	避免通用人工智能追求有害目标。	OpenAI、DeepMind、Anthropic
持续的人类监督	在高速度下，也要保持人类在决策循环中的控制权。	在关键系统中限制完全自主权。	《人工智能法案》（欧盟）、ISO/IEC 42001 标准
宪法人工智能	用一套不可违反的规则或原则来框定AGI的行为。	防止非法、不道德或危险的行为。	Anthropic（宪法式人工智能），开源项目
安全黑箱	对通用人工智能（AGI）进行物理或虚拟限制，以在封闭环境中测试其行为。	降低泄漏或意外动作的风险。	ARC（对齐研究中心），MIRI
国际治理	建立跨国机构，用于监管和协调通用人工智能（AGI）的发展。	避免算法军备竞赛。	联合国、经合组织、全球人工智能伙伴关系
算法透明度	要求对模型、其训练过程及其行为进行审计并出具报告。	确保可验证性和问责制。	英国人工智能安全研究所、美国国家标准与技术研究院