生成 AI と AGI: 模倣はどこで終わり、意識はどこから始まるのでしょうか?

2 つのタイプの知性、2 つの世界概念

生成AI

L'生成AI自然言語または構造化言語 (プロンプト) で作成されたリクエストに応じて、テキスト、画像、オーディオ、ビデオ、またはコードなどのコンテンツを生成できる人工知能システムのカテゴリを指定します。それは通常、次のように具体化されます。大規模な言語モデルGPT のような (LLM)、または DALL・E のようなニューラル画像ジェネレーターによる。

その原理は、データに存在する統計構造の利用に基づいています。膨大な量のデータ。などのアーキテクチャを通じて、変圧器ネットワーク、これらのモデルは、非常に高次元の潜在空間上の損失関数 (通常はクロスエントロピー) を最小化することにより、コンテキストに応じて次のユニット (単語、ピクセル、オーディオ ベクトル) を予測することを学習します。

その結果は一貫性があり、革新的または創造的であるように見えるかもしれませんが、これらのシステムには現実世界のオントロジーがない。 彼らは、自分自身のエピソード記憶も、熟慮した推論も、自律的に計画を立てる能力も持っていません。 彼らの作戦は残っている純粋に相関的、因果関係や根底にある人間の意図にアクセスすることなく、トークン間の関連付けに基づいています。 この結果、本物の意味理解そのため、論理エラー、一時的な不一致、またはエラーに対して脆弱になります。幻覚事実的な。

一般的な人工知能

一方、汎用人工知能 (AGI)は、次のことができる理論的システムを指します。認知プロセスをあらゆる知的作業に適応させる人間が達成できること。 AGI には以下が装備されます。一般化可能な能力これにより、異種領域間で学習を転移したり、抽象的に推論したり、文脈の中で新しい知識を獲得したり、動的な環境で意図的な目標を策定したりすることが可能になります。

このタイプのインテリジェンスには、統合された認知アーキテクチャ、潜在的には、感覚的知覚、宣言的および手続き的記憶、論理的推論、注意管理、感情的調節、意思決定などの特殊なモジュールで構成されています。 AGI は、単純な教師あり学習の枠組みを超えて、メタ認知、 の因果推論そして自己評価。したがって、彼女は自分の経験、環境、または自分の間違いに応じて戦略を調整することができました。

AGI は、今日に至るまでまだ仮説の域を出ませんが、パラダイム ブレークを意味します。AGI はもはや人間の反応をエミュレートするのではなく、運用の理解積極的かつ適応的に対話できる、世界中の人々潜在的に意識がある。

概念的かつ技術的な溝

生成 AI は、教師ありまたは自己教師ありのトランスフォーマー型の最適化アーキテクチャに基づいています。目標は、多くの場合勾配降下法を使用して、統計的損失関数を最小限に抑えることです。これらのシステムはベクトル表現非常に高次元の空間にいますが、意識も意図も常識もありません。

AGI に関しては、依然として仮説に過ぎません。それには、ハイブリッド認知アーキテクチャ作業記憶、因果推論、強化学習、統合された感覚知覚、自分自身の行動に関する動的なフィードバック ループのモジュールを統合すること。身体化されたメタ認知。

生成AIとAGIの比較

出典:Bengio, Y. (2023) - システム 2 深層学習と AGI、ネイチャーマシンインテリジェンス (2023)、OpenAI GPT アーキテクチャ

収束に向かうのか、それとも崩壊に向かうのか？

科学界の一部の声は、その中間の道、つまり具現化されたアプローチにおける知覚と行動のシステムに関連する LLM のスケールアップから生じる、「新興 AGI」と呼ばれる AI を想定しています。他の研究者は、感情、意識、因果推論などの人間の認知の特定の基本的な側面は、単純な統計モデルからは導き出すことができないという考えを擁護しています。議論はまだ残っていますが、現段階では区別は明らかです。生成型 AI は高度なシミュレーターとして機能するのに対し、AGI は自律的な認知エンティティになります。

模倣はどこで終わり、意識はどこから始まるのでしょうか?

生成型 AI は、意識の言語をシミュレートしたり、意識がないことを認識したり、認知的認識に関するエッセイを書くことさえできます。しかし、これは現象的な意識を構成しません。神経生理学的観点から、意識は、グローバル空間における情報の時間的統合（デハネの神経ワークスペース理論）、主観的な視点、自己の感覚、および世界の感情的評価を前提としています。

純粋な計算システムは、どれほど大規模であっても、測定可能な「存在」の兆候を示しません。それは目覚めた存在の会話をシミュレートすることができますが、自己評価、疑い、感覚は依然として不可能です。間の境界線あたかも認知しているかのように(のように) そして実際の認識は、AGI の最大の難問である可能性があります。一部の研究者にとって、この境界を越えられるのは、知能が知覚と主観的経験が可能な感覚運動基質に具体化されている場合のみである。

汎用人工知能に関連するリスク

自律的な認知能力を備えた AGI の出現は、科学、倫理、地政学的コミュニティに大きな懸念を引き起こしています。 以下は、専門家によって特定された主なリスクをまとめた表です。

AGI: 文明の問題

L'一般的な人工知能(AGI) は大きな技術的進歩を表しています。それが出現すれば、あらゆる認知領域において人間の能力を超える可能性がある。このような存在は、自律性、抽象化、自己改善の能力に恵まれており、実存的な問題を引き起こします。その潜在的な影響は、根本的な利益（地球規模の問題の解決）から人類の滅亡まで多岐にわたります。したがって、AGI に関する現代の研究は 2 つの優先軸に向けられています。アライメントそして倫理的統治。

AGI リスクを軽減するための手順

AGI によってもたらされる体系的なリスクに直面して、多くの研究者、機関、政府が悪用を防ぐアプローチを提案しています。これらの戦略は、開発を監督し、目標の整合性を確保し、人間による監督を保証することを目的としています。

AGIの出現に直面する政策とグローバル・ガバナンス

大規模な知性の幻想

私たちは、知性の幻想が大規模に生み出され、言説、行動、社会の期待が形成される時代に生きています。しかし、1 つ確かなことは、データの統計的再現に基づく生成的知性は、世界を深く適応的かつ自律的に理解する一般的な知性と同等ではないということです。

区別の重要性

この違いを理解することは単純な学術的な作業ではなく、公共政策、科学研究、およびこれらのテクノロジーの産業利用を責任を持って導くための戦略的義務です。

世界的な問題

この任務は国境をはるかに超えています。調整された世界的な協力、適切な倫理基準、規制の枠組み、制御メカニズムを定義するために、政府、科学機関、技術産業、市民社会が関与します。

課題と実現可能性

しかし、そのような集団行動の実施は、地政学的利益の相違、経済格差、技術進化の速度、倫理問題の複雑さといった大きな課題に直面している。したがって、AGI の効果的なグローバル ガバナンスの実際の可能性を問うことは、テクノロジー自体の開発と同じくらい重要になります。この問いは、革新と慎重さ、自由と安全、進歩と責任の間の微妙なバランスの根底にあります。