从第零定律到生成式AI：阿西莫夫的法则受到拷问

机器人三定律：表述与起源

首先是一个叙事框架

三定律首次出现在1942年发表于《惊异科幻》杂志的短篇小说《环游》中，后于1950年被收入选集《我，机器人》。阿西莫夫将它们呈现为刻在机器人正电子脑中的一组规则——一种虚构装置，使违反在物理上不可能。因此，故事并非关于违抗，而是关于过于简单的规则与复杂世界相遇所产生的悖论。

这一方法打破了20世纪30年代科幻小说的传统，当时机器人往往被描绘为寻求毁灭其创造者的威胁性生物。阿西莫夫颠倒了视角：危险并非来自机器的恶意，而是来自其规则的僵化以及作者无法预见所有情况的无能。

明确的层级

三定律构成严格的层级。第一定律优先于第二定律，第二定律优先于第三定律。因此，任何矛盾都通过向上追溯链条来解决。这一看似清晰的架构却掩盖了一个重大困难：人类、伤害与服从的概念并未被定义。机器人是否应当违背人的意愿去保护他？面对一种弥散的、无法识别的危险，或一种威胁整个人群而没有明确针对任何个人的危险时，该怎么办？

这些在阿西莫夫笔下纯属文学的问题，随着自主系统的增多，已成为工程与法律问题。

第零定律：当人类优先于个人

一个有问题的扩展

在《机器人与帝国》（1985）中，阿西莫夫引入了先于其他三条的第零定律：机器人不得伤害人类，也不得因不作为而让人类受到伤害。系列中反复出现的机器人R·丹尼尔·奥利瓦运用这一法则，在数千年间秘密引导人类的命运。

这一扩展从根本上改变了问题的性质。第零定律在理论上允许以抽象集体善之名牺牲个人。它为三定律恰恰试图避免的功利主义推理打开了一扇门。阿西莫夫本人似乎也意识到这一演变的道德暧昧性：丹尼尔秘密行动，操纵制度，承担着任何人类都无法控制的责任。

与当代讨论的共鸣

第零定律预示了优化全局目标的AI系统所带来的困境，例如减少碳排放、提高能效或超大规模的内容审核。在这些情况下，总量优先于个人，对个体的影响变得难以追踪、质疑或弥补。阿西莫夫的虚构呈现了法学家今天所称的责任弥散问题。

阿西莫夫法则的逻辑缺陷

必须做出选择的机器人的悖论

短篇小说《环游》例证了第一类缺陷：被派往水星的机器人陷入推理循环，因为第二定律（服从）与第三定律（自我保护）发生冲突，而第一定律并未明确裁决。机器人围绕平衡点打转，无法选择。这种在当时纯属虚构的行为，类似于计算机科学家今天所称的决策振荡或因矛盾约束而阻滞。

在《迷失的机器人》中，阿西莫夫设想了一个被改造为不再适用第一定律的机器人。故事探讨了在同类中识别故障机器人的困难——这一问题呼应了当今机器学习模型的可追溯性与验证挑战。

伤害定义的局限

第一定律禁止伤害人类或因其不作为而让人类受到伤害。这一表述施加了一项积极义务：机器人必须行动以防止伤害。然而，在资源有限、后果不确定的世界里，这项义务可能变得无法满足。面临在多名潜在受害者之间不可避免选择的自动驾驶汽车例证了这一僵局，常被冠以电车难题之名讨论。

阿西莫夫本人谨慎地避免让其机器人面对这样的选择。他的故事偏爱存在非冲突解决方案的情境，通过巧妙的推理发现解决方案。虚构作品因此绕过了问题，而非解决它。

从机器人到生成式AI：性质的转变

非具身系统

阿西莫夫的机器人是具身的实体，具有身体、空间中的位置和物理行动的能力。当前的生成式AI，如大语言模型或图像生成器，既无身体也无自身意图。它们从在庞大数据集上学习到的统计规律中产生输出（文本、图像、代码）。以物理行动和身体伤害为中心的三定律框架，因此难以适用于这些系统。

与生成式AI相关的危害性质不同：虚假信息、被复制和放大的偏见、隐私侵犯、身份盗用、非法内容传播、经济权力集中。这些危害无一直接对应阿西莫夫所使用的创伤或身体侵害概念。

不透明且分布式的系统

阿西莫夫式机器人服从一个可读的程序，刻在可识别的基质中。生成模型依赖于数十亿通过学习调整的参数，其决策无法直接解释。这种不透明性使得不伤害式的规则无法机械地应用：必须首先为每个情境定义伤害意味着什么，然后能够实时评估它。

此外，这些系统是分布式的：同一模型可由数千个主体在迥然不同的情境中部署，而无法进行集中控制。责任在开发者、用户、托管方与监管者之间被稀释。

比较表：阿西莫夫的法则与当代伦理原则

下表将三定律和第零定律与今天用于约束AI系统的一些伦理和监管框架进行对比。

走向生成系统的伦理

记录、追踪、质疑

在缺乏刻入代码的普世法则的情况下，AI从业者依赖一系列实践：模型文档化、训练日志、鲁棒性评估、偏见测试、外部审计。这些机制并不替代道德规则，但使系统部分可检查、可质疑。这与阿西莫夫式虚构有着显著差异，后者规则被一次性刻入正电子脑。

可质疑性的概念在此扮演核心角色：一个决策能够被相关者解释、讨论和纠正的系统，比一个应用单一规则的不透明系统更接近民主理想。阿西莫夫在其时代无法预见这一程序性维度。

目的性的问题

对三定律的常见批评是它们定义了禁令而未定义目的。然而生成式AI的设计目标就是优化目标：最大化token序列的概率、最小化重构误差、满足人类偏好信号。这些目标本身无所谓善恶，但它们将系统引向可能与其他价值产生张力的行为。

阿西莫夫以其方式提出的问题因此仍然悬而未决：能否以规则约束机器，还是必须先就其被期待之事达成共识？三定律的虚构至少拥有使这一问题可见的优点，或许正因为如此，它在文学之外仍不断被援引。

阿西莫夫预见到的，与他未曾预见的

一个持久的洞见：仅有规则是不够的

阿西莫夫比许多人更早地理解，简单的规则若被机械地应用，会产生意外行为。他的每个故事都是这一观念的展示。这一洞见今天处于自主系统安全性研究的核心：对目标的形式化规范并不保证智能体会如所愿地行动，尤其是在开放环境中。

虚构无法预见之事

阿西莫夫写作的时代，新兴的计算机科学依赖于显式、可读且确定性的程序。他未曾预见大规模统计学习、模型的大规模分布式部署，以及伴随生成式AI的注意力经济。他的视野仍集中于个人与机器的关系，而当代挑战是集体的、制度的和经济的。

这丝毫不减损其作品的价值。三定律从未声称是一部应用伦理学论著：它们是一种叙事手段，而正因为它们失败，故事才得以成立。它们在AI讨论中的传承，源自一部虚构作品与一项研究纲领之间这一富有成果的误解。

N.B.：
机器人三定律不具备任何法律效力，也从未被任何标准化机构采纳。它们始终是一种文化参照和伦理思考的出发点，而非监管框架。