第零法則から生成AIへ：問われるアシモフの法則

ロボット三原則：その定式化と成立

何よりもまず物語上の枠組み

三原則は、1942年に雑誌アスタウンディング・サイエンス・フィクションに発表され、1950年にアンソロジー『われはロボット』に収められた短編『われ思う、ゆえに――』に初めて現れる。アシモフはこれを、ロボットのポジトロン脳に刻まれた規則群として提示する。ポジトロン脳は、その違反を物理的に不可能にする架空の装置である。したがって物語は不服従についてではなく、単純すぎる規則と複雑な世界との対決から生じるパラドックスについてのものである。

このアプローチは、1930年代のSFの伝統――ロボットがしばしば創造主を破壊しようとする脅威的な存在として描かれた――を打ち破る。アシモフは視点を反転させる。危険は機械の悪意からではなく、その規則の硬直性と、あらゆる状況を予見できない作者の無力さから来るのである。

明示的なヒエラルキー

三原則は厳格なヒエラルキーを形成する。第一法則は第二法則に優先し、第二法則は第三法則に優先する。あらゆる矛盾は、したがって連鎖を遡ることで解決される。この一見明晰な構造は、しかしながら重大な困難を覆い隠している。人間、危害、服従という概念が定義されていないのである。ロボットは人間をその意思に反してでも守るべきか。拡散し、特定不能な危険、あるいは個々人が明確に標的にされることなく集団全体を脅かす危険に直面したとき、どうすべきか。

アシモフにおいては純粋に文学的なこれらの問いは、自律システムの増加に伴い、工学と法の諸問題となっている。

第零法則：人類が個人に優先するとき

問題含みの拡張

『ロボットと帝国』（1985）において、アシモフは他の三つに先行する第零法則を導入する。ロボットは人類に危害を加えてはならず、またその不作為によって人類が危害を受けることを許してはならない。シリーズを通して登場するロボットR・ダニール・オリヴォーは、この法則を適用して、数千年にわたり人類の運命を密かに導く。

この拡張は問題の性質を根本的に変える。第零法則は理論上、抽象的な集合的善の名の下に個人を犠牲にすることを許す。それは、三原則がまさに避けようとしていた功利主義的推論の形式への扉を開く。アシモフ自身もこの進展の道徳的曖昧さを意識していたようである。ダニールは秘密裏に行動し、制度を操り、いかなる人間の統制も及ばない責任を引き受ける。

現代の議論との共鳴

第零法則は、炭素排出の削減、エネルギー効率の改善、超大規模なコンテンツモデレーションなど、全体目標を最適化するAIシステムが提起するジレンマを先取りしている。こうした場合、集計値が個人に優先し、個々の人間への影響は追跡も異議申し立ても賠償も困難になる。アシモフのフィクションは、法学者が今日拡散した責任の問題と呼ぶものを描き出している。

アシモフの法則の論理的欠陥

選択を迫られるロボットのパラドックス

短編『われ思う、ゆえに――』は第一のタイプの欠陥を例示している。水星に送られたロボットが、第二法則（服従）と第三法則（自己保護）が衝突し、第一法則が明確に裁かないために、推論のループに陥るのである。ロボットは平衡点の周りを回り続け、選択できなくなる。当時は純粋に架空のものだったこの挙動は、情報科学者が今日決定発振あるいは矛盾する制約によるブロックと呼ぶものに似ている。

『迷子のロボット』において、アシモフは第一法則を適用しなくなった改造ロボットを想像する。物語は、同種のなかから故障したロボットを識別することの困難さを探求する。この問題は、機械学習モデルの追跡可能性と検証という現代の課題を想起させる。

危害の定義の限界

第一法則は、人間に危害を加えることまたはその不作為によって人間が危害を受けることを許すことを禁じている。この定式化は積極的な義務を課す。ロボットは危害を防ぐために行動しなければならない。しかし、資源が限られ結果が不確実な世界では、この義務は充足不可能になりうる。複数の潜在的犠牲者の間で不可避の選択を迫られる自律走行車はこの行き詰まりを例示し、しばしばトロッコ問題の名の下に論じられる。

アシモフ自身、彼のロボットをそうした選択に直面させることを慎重に避けている。彼の物語は、巧妙な推論によって発見される非対立的な解決策が存在する状況を好む。フィクションはこうして、問題を解決するのではなく迂回しているのである。

ロボットから生成AIへ：性質の変化

身体を持たないシステム

アシモフのロボットは、身体、空間内の位置、物理的行為の能力を備えた身体化された存在である。大規模言語モデルや画像生成器のような現在の生成AIは、身体も固有の意図も持たない。それらは、膨大なコーパス上で学習された統計的規則性から出力（テキスト、画像、コード）を生成する。物理的行為と身体的危害に焦点を当てた三原則の枠組みは、したがってこれらのシステムにはうまく当てはまらない。

生成AIに伴う危害は別種のものである。偽情報、再生産され増幅されたバイアス、プライバシー侵害、なりすまし、違法コンテンツの拡散、経済的権力の集中。これらの危害はどれも、アシモフが用いた傷害あるいは身体的加害という概念に直接対応しない。

不透明で分散したシステム

アシモフ的ロボットは、識別可能な基盤に刻まれた読取可能なプログラムに従う。生成モデルは、学習によって調整された数十億のパラメータに依拠しており、その決定は直接には解釈できない。この不透明性は、害をなすなというタイプの規則を機械的に適用することを不可能にする。まず各文脈について害をなすとは何かを定義し、次にそれをリアルタイムで評価できるようにしなければならないからである。

さらに、これらのシステムは分散している。同一のモデルが、非常に異なる文脈において、数千の主体によって展開されうるが、中央集権的な統制は不可能である。責任は開発者、利用者、ホスティング事業者、規制者の間で希薄化する。

比較表：アシモフの法則と現代の倫理原則

以下の表は、三原則と第零法則を、今日AIシステムを枠づけるために用いられるいくつかの倫理的・規制的枠組みと対比する。

生成システムの倫理に向けて

文書化し、追跡し、異議を唱える

コードに刻まれた普遍的法則がないため、AIの実践者たちは一連の慣行に依拠している。モデルの文書化、訓練ログ、頑健性評価、バイアステスト、外部監査。これらの仕組みは道徳的規則に代わるものではないが、システムを部分的に検査可能かつ異議申し立て可能にする。これは、規則がポジトロン脳に一度だけ刻まれるアシモフ的フィクションとの著しい違いである。

異議申し立て可能性の概念はここで中心的な役割を果たす。決定が関係者によって説明され、議論され、訂正されうるシステムは、単一の規則を適用する不透明なシステムよりも民主的理想に近い。アシモフは当時、この手続き的次元を予見できなかった。

目的性の問題

三原則への頻繁な批判は、それらが目的を定義せずに禁止を定義しているというものである。しかし生成AIは目的を最適化するように設計されている。トークン列の確率を最大化し、再構成誤差を最小化し、人間の選好シグナルを満たす。これらの目的はそれ自体で善でも悪でもないが、システムを他の価値と緊張関係に立ちうる行動へと方向づける。

アシモフが独自の方法で提起した問いは、したがって開かれたままである。機械を規則によって枠づけることはできるのか、それともまずそれに何を期待するかについて合意しなければならないのか。三原則のフィクションは、少なくともこの問いを可視化するという利点を持ち、おそらくそれゆえに、文学をはるかに超えて引用され続けているのである。

アシモフが正しく見ていたこと、予見していなかったこと

持続する直観：規則だけでは足りない

アシモフは、多くの人々より早く、単純な規則を機械的に適用すると予期せぬ挙動が生じることを理解していた。彼の物語のそれぞれがこの考えの実証である。この直観は今日、自律システムの安全性に関する研究の中心にある。目的の形式的な仕様は、とりわけ開放的な環境において、エージェントが望まれるように振る舞うことを保証しないのである。

フィクションが予見できなかったこと

アシモフは、黎明期の情報科学が明示的で読取可能かつ決定論的なプログラムに依拠していた時代に執筆していた。彼は大規模な統計的学習、モデルの大規模な分散、生成AIに伴うアテンション・エコノミーを予見していなかった。彼のビジョンは個人と機械の関係に集中したままだが、現代の課題は集合的、制度的、経済的である。

これは彼の作品の価値をいささかも損なわない。三原則は決して応用倫理学の論文であることを主張しなかった。それらは物語上の仕掛けであり、まさにそれらが失敗するからこそ物語が機能するのである。AIをめぐる議論におけるその継承は、フィクションと研究プログラムの間のこの肥沃な誤解によるものである。

N.B.：
ロボット三原則は法的効力を有さず、標準化機関によって採用されたことも一度もない。それらは文化的参照であり、倫理的考察の出発点であり続けるが、規制的枠組みではない。