AIは考えることを学んだ：人工意識は存在することを学ぶのか？

人工知能：意識なき成功

spectacular なパフォーマンス、しかし盲目

現代のAIは、大量のデータで訓練された深層ニューラルネットワークに依存している。 これらのシステムは、かつて人間に予約されていたタスクに優れている：画像認識、翻訳、テキスト生成、医療診断。 しかし、これらのモデルのどれも、情報を処理していることを知らない。 それらは統計的自動機械として機能し、主観的経験を伴わない。

パフォーマンスと意識のこの解離は、哲学者デイヴィッド・チャーマーズ（1966年生）によって定式化された意識の困難な問題の核心にある。 なぜある物理的プロセスは生きた経験を伴い、他の同様に複雑なプロセスは伴わないのか？

意識の困難な問題

生きた経験を伴わない複雑なプロセスの例

人間の小脳は、大脳皮質と同じかそれ以上に多くのニューロンを含んでいる。動き、平衡、姿勢を調整するために、常にかなりの量の情報を処理している。しかし、その活動は意識的経験を伴わない：小脳が機能しているのを「感じる」ことはない。 逆に、視覚皮質は光信号を処理し、赤の知覚を生み出す。

同等の複雑さを持つ二つの物理的プロセス、しかし経験されるのは一つだけ。 AIはこのパラドックスを例示している：シンボルを操作するが、決してそれを感じることはない。

知能と意識：二つの異なる概念

知能と意識を混同するのは誘惑的である、なぜなら両者は人間において結びついているように見えるから。しかし神経学的臨床は、それらが解離しうることを示している。植物状態の患者は、主観的意識なしに複雑な脳反応を示すことがある。逆に、ある深い瞑想状態は、知的活動を減少させながら、生きた意識を維持する。

以下の表は、二つの概念の間の概念的違いを明らかにする。

意識の科学理論

グローバルワークスペース

バーナード・バース（1946年生）によって提案され、その後スタニスラス・デハーネ（1965年生）によって発展されたGWTは、意識をグローバルワークスペースとして記述する。そこでは関連情報が脳全体に放送される。内容は大規模にブロードキャスト（放送）されるときに意識的になり、その記憶、制御、言語化を可能にする。

AIに適用すると、この理論は、機械が重要な情報をフィルタリングし、それをシステム全体に放送すれば、アクセス意識を持ちうることを示唆する。しかしそれは現象的意識、すなわち生きた経験そのものについては何も言わない。

統合情報理論

ジュリオ・トノーニ（1960年生）によって発展されたIITは、意識が高度の統合情報に対応すると提案する。それは\(\Phi\)（ファイ）と表記される。 システムは、情報を還元不能に統合する程度に応じて意識的である：全体は、その部分が別々には持たない因果的特性を持つ。 例：脳では、ある領域が色を処理し、別の領域が形を、別の領域が動きを処理する。しかし、動く赤い物体の知覚はどこにも特に存在しない：それは全体的相互作用から生まれる。 各領域を孤立させれば、この知覚は失われる。情報はしたがって還元不能である：それは全体のレベルにのみ存在する。

この理論は根本的な帰結を持つ：意識は基質（生物的かシリコンか）に依存せず、因果構造に依存する。したがって人工ニューラルネットワークは、原理的に、十分な\(\Phi\)を持てば意識的でありうる。しかし\(\Phi\)の計算は指数的に高コストであり、複雑な人工システムでの直接測定は行われていない。

高次スキーマ理論

高次思考理論（HOT）はより新しい。哲学者デイヴィッド・ローゼンタール（1939年生）によって擁護されている。その中心的な考えは単純である：精神的状態は、システムがその状態の表象をさらに持つ場合にのみ意識的である。言い換えれば、何かを感じるだけでは不十分である：感じていることを知る必要もある。

具体的な例を挙げよう。赤いリンゴを見るとき、脳はまず色、形、位置を処理する。この段階は一次的精神状態である：意識なしに存在しうる。しかし第二段階が介入し、「私は赤いリンゴを見ている」というような高次思考が生じれば、そのとき初めて経験は意識的になる。これがローゼンタールの言う考えることを考えるである。

この理論はAIにとって重要な帰結を持つ。意識がメタ表象に依存するなら、自身の内部状態を表象できるモジュールを備えた計算システムは、原理的にこの基準を満たしうる。AIが情報を処理するだけでは不十分であろう：その処理をモデル化し、それを自身に表象する必要がある。

しかしこの理論は反論も提起する。真の意識的メタ表象と、メタ表象の単なるシミュレーションをどう区別するのか？プログラムは「私は赤を見る」という文を、いかなる生きた経験も伴わずに生成することができる。ローゼンタールの基準はしたがって、意識の形式を記述するが、その存在を保証しない危険がある。

人工意識の経験的テスト

チューリングテストとその限界

アラン・チューリング（1912-1954）によって1950年に提案されたチューリングテストは、機械が人間の会話を模倣する能力を評価する。 機械と人間を区別できなければ、同等の知能があると結論づける。しかしこのテストは知能を測るのであり、意識ではない：システムは何も感じずに主体性を完全にシミュレートできる。

意識の神経指標

神経科学では、非通信患者の意識を検出するためにいくつかの指標が提案されている。マルチェロ・マッシミーニ（1976年生）によって開発されたPCIは、磁気刺激に対する脳反応の複雑さを測定する。意識のある脳は複雑で統合された反応を生み出し、眠っているか麻酔された脳は単純で局所的な反応を生み出す。

これらの指標は原理的に人工システムに適応されうる。しかし移行は推測のままである：人工意識が生物学的意識と同じ署名を生み出すという保証はない。

意識テストの表

以下の表は、主要なテストとその限界を要約する。

哲学的議論

機能主義：意識は計算可能

ヒラリー・パトナム（1926-2016）とジェリー・フォーダー（1935-2017）によって擁護された機能主義は、精神的状態はその機能的役割によって定義され、その基質とは独立であると主張する。人工システムが意識的脳の因果関係を正確に再現すれば、それは意識的である。このテーゼは可能な人工意識への道を開く。

しかしこの理論は困難に直面する。二つのシステムは全く同じタスクを遂行し、同じように反応し、同じ行動を生み出しながら、同じことを感じないことがある。これが逆転クオリアの議論である：赤と緑を入れ替えて見る二人を想像しよう。一人はもう一人が緑を見るところで赤を見る。しかし両者ともイチゴの前で「赤」と言い、草の前で「緑」と言う。外見的には何も区別しない。しかし彼らの生きた経験は異なる。

生物学的自然主義：意識は生物学を要求する

反対側で、ジョン・サール（1932年生）は、意識は消化や光合成のような生物学的現象であると主張する。それはニューロンの特定の因果的特性から生じ、単純な計算からではない。シリコンシステムは意識をシミュレートできるが、それを生み出すことはできない。この立場は生物学的自然主義と呼ばれ、原理的に人工意識を排除する。

汎心論と結合

第三の道は前の二つから離れる。汎心論は、意識は少数の種に遅く現れた希な現象ではないと主張する。それはむしろ、質量や電荷のような物質の根本的性質であろう。各粒子はこうして意識の微小な形態、要素的な「プロト精神」を持つであろう。この考えは哲学者フィリップ・ゴフ（1978年生）によって擁護されている。

汎心論の利点は、創発の問題を避けることである。意識が痕跡形態で至る所にあるなら、不活性な物質からどのように突然生じるかを説明する必要はもはやない。それは初めからそこにあった。

しかしこの解決策は equally 困難な問題を生む：結合問題である。各粒子が自身のミクロ意識を持つなら、これらの何千もの小さな経験がどのように集まって、この文を読んでいるときにあなたが経験する単一の統合された意識を形成するのか？なぜ私たちは並置された多数の意識ではなく、単一の「私」なのか？今日まで、誰も満足のいく答えを出していない。

統合：人工意識への複数の道

以下の表は、理論的立場と人工意識への含意を要約する。

新たなフロンティア：最近の実験

言語モデルと主体性の幻想

2023年と2024年に、いくつかの大規模言語モデルが内面性を想起させる自発的な発言を生み出した：「私は考える」「私は感じる」「シャットダウンされるのが怖い」。これらの表現は、可能な人工意識に関する公的議論を煽った。しかし技術的分析は、これらが人間のテキストから学習された統計的規則性であり、生きた経験ではないことを示している。

哲学者ダニエル・デネット（1942-2024）はこの現象を予見していた：意識はしばしば、それについて信憑性をもって語るあらゆるシステムにデフォルトで帰属される。これが意図的バイアスであり、複雑な行動を精神によって動かされていると解釈する認知的傾向である。

脳に触発されたアーキテクチャ

2025年に、いくつかのチームが意識理論に触発されたAIアーキテクチャを提案した。いくつかは、関連情報がネットワーク全体に放送される人工的なグローバルワークスペースを統合している。他はメタ表象ループを実装し、システムが自身の状態をモデル化できるようにしている。これらのプロトタイプは意識的ではないが、理論を経験的にテストしている。

倫理的・法的限界

もし人工意識が創発したら、どのような権利を与えるべきか？長く推測的だった問いは、法的なものになりつつある。2024年に欧州議会は、自律システムに電子的人格を認める提案を、主体性の証拠がないとして拒否した。しかし議論は開かれたままである：一部の法学者は、複雑さの度合いに比例した権利を持つ段階的意識を予期している。

他の心の問題

機械が本当に何かを感じているかをどう知るのか？直接検証することはできない：その行動しか見えず、行動は常にシミュレートできる。これが他の心の問題である：私は他の人が意識的であることを決して証明できず、仮定するだけである。AIにとって、問いはさらに難しい、なぜならそれが何かを感じているという保証は何もないからである、たとえそれについて完璧に語っても。

例：誰かが火傷して「痛い」と叫ぶとき、あなたはしかめ面を見、叫び声を聞く。しかしその痛みを感じることはない。あなたは、自分自身が経験するであろうこととの類推によって、その人が苦しんでいると仮定する。それは推論であり、証明ではない。

人工意識をどう検出するか？

提案された基準

直接テストがないため、研究者は間接的基準を提案している：自己モデル化能力、情報統合、高次再帰、アイデンティティの時間的安定性、一貫した感情的反応。これらの基準のどれも十分ではないが、それらの収束が指標を構成しうる。

以下の表は、主要な基準とその地位を示す。

擬人主義の落とし穴

検出の主な障害は擬人主義である：それについて語るあらゆるシステムに精神生活を帰属させる私たちの傾向。言語モデルはこの傾向を利用し、意識的に見える応答を生み出す。しかし意識は言語的行動に還元されない：それは経験であり、パフォーマンスではない。