AIができないこと

科学的要約

GPT、Mistral、DeepSeek、Geminiなどの大規模言語モデル（LLM）はテキスト生成に優れていますが、基本的に単一のタスクに制限されています： 統計的トークン予測。これらは永続的なメモリも、現実世界へのアクセスも、アクションを実行する能力も持ちません。これらの障壁を克服するために、新しいアーキテクチャが登場しています：AIアシスタントは、 小さなLLMをエキスパートシステムとツールオーケストレーション層と組み合わせたものです。このハイブリッド化により、アクションの計画、ファイル、データベース、APIとのインタラクションが可能になり、結果の検証も保証されます。アシスタントはLLMを置き換えるのではなく、拡張します。言語だけでは提供できないもの、すなわちアクション、メモリ、信頼性をもたらします。しかし、この拡張は決して自律的ではありません：それは人間の継続的な管理下に置かれ、人間が各ステップを操縦し、導き、検証することで、アシスタントが人間の判断に奉仕するツールであり続け、人間の責任の代わりにならないことを保証します。

スタンドアロンのLLMでは不十分な理由

言語モデル（LLM）はテキストを生成しますが、理解せず、行動せず、記憶せず、回答を検証しません。それ自体に任せると、制御不能になります：その出力は予測不可能で、検証されておらず、 トレーサビリティを完全に欠いています。AIアシスタントはこれらのギャップを埋めます：モデルの周りにツール、メモリ、構造化されたロジックを追加し、常に人間の監督下に置き、その実行を導き、検証し、中断することを可能にする安全装置を備えています。

その違いは根本的です。LLMはコンテキストに基づいて応答し、外部からの操縦は一切ありません。アシスタントはさらに、情報を検索し、ドキュメントを読み、データベースを分析し、計算を実行したり、関数を呼び出したりできます。アシスタントは新しいモデルではありません：それはモデルの周りに構築されたソフトウェアアーキテクチャであり、人間が最終的な保証人であり続けるもので、盲目的で制御不能なシステムを信頼性が高く監督されたツールに変えます。

こちらもおすすめ

宇宙の探検をさらに深めるためのテーマをご紹介します：

LLM、エキスパートシステム、AIアシスタント：違いは何か？

3つのテクノロジーの比較表：エキスパートシステム、LLM、AIアシスタント
機能	エキスパートシステム	LLM（モデル）	AIアシスタント（システム）
定義	専門家によってコード化された論理ルールエンジン	統計的言語モデル（ニューラルネットワーク）	エキスパートシステム + 小さなLLM + オーケストレーションツール
構成	ルール + 推論エンジン	ニューラルネットワークの重み	ロジック（エキスパートシステム）+ 理解（LLM）+ アクション（ツール）
重量 / サイズ	軽量（数MB）	非常に重い（数GB / TB）	軽量（数MBから数GB）
LLMを含むか？	❌ いいえ	✅ はい（それ自体）	✅ はい（小さな統合LLMまたはAPIコール）
パラメータをホストするか？	❌ いいえ（パラメータなし）	✅ はい（その重み）	⚠️ オプション（小さなLLMをホストまたはAPIを呼び出し可能）
永続的メモリ	❌ いいえ（ステートレス）	❌ いいえ（コンテキスト制限あり）	✅ はい（セッションストレージ）
リアルタイムデータアクセス	❌ いいえ（固定ルール）	❌ いいえ（トレーニング時に固定）	✅ はい（API、データベース、Web）
コードとツールの実行	❌ いいえ	❌ いいえ（テキスト生成のみ）	✅ はい（ツールオーケストレーション）
構造化された推論	✅ はい（決定論的）	⚠️ 統計的（模倣）	✅ はい（ハイブリッド：ルール + 検証）
アクション計画	❌ いいえ	❌ いいえ	✅ はい（エキスパートシステムが計画）
説明可能性	✅ 完璧（トレーサブル）	❌ ブラックボックス	⚠️ 部分的（エキスパートシステムによりトレーサブル）
適応性	❌ 硬直的（再コーディング）	✅ 柔軟（ファインチューニング）	✅ 柔軟（ファインチューニング + 新しいツール）
適用ドメイン	⚠️ 非常に特化	✅ 汎用	✅ 汎用（ツールにより特化可能）
自然言語インタラクション	❌ いいえ（フォーム）	✅ はい	✅ はい（統合された小さなLLMを介して）
結果の検証	✅ はい（ルールによる）	❌ いいえ（幻覚）	✅ はい（エキスパートシステム + RAGによる）
単独で存在できるか？	✅ はい（自律的）	✅ はい（API経由）	✅ はい（完全な自律システム）

エキスパートシステム vs LLM vs AIアシスタント

エキスパートシステム：「人間が私にコード化したすべてを知っているが、それしかできない。」
LLM単独：「テキストを生成する、それだけだ。」
AIアシスタント：「私は小さな拡張LLMであり、専門的なツールを備え、人間によって監督されている。」

スタンドアロンLLMでのPDF読み取りの例

コンテキスト： ユーザーはスタンドアロンLLM（例：GPT、Mistral、DeepSeek、Gemini、...）にアクセスできます。このモデルはテキストを生成することしかできません。ファイル、フォルダ、実行ツールへのアクセスはありません。

ステップ1： ユーザーがLLMに依頼：「このフォルダ内のブラックホールに関する記事を見つけて、日本語で要約して。」
ステップ2： LLMがリクエストを分析します。ファイルの読み取りと要約のリクエストであることを理解します。
ステップ3： LLMが制限を説明して応答：「私は言語モデルなので、お使いのコンピュータのファイルにアクセスできません。次のようにしてください：フォルダを開き、PDFの内容をコピーしてここに貼り付けてください。そうすれば要約できます。」
ステップ4： ユーザーが手動でフォルダを開き、関連するPDFのテキストをコピーして会話に貼り付けます。
ステップ5： ユーザーが依頼：「これが記事のテキストです。日本語で5文に要約してください。」
ステップ6： LLMがユーザーから提供されたテキストの要約を生成します。
ステップ7： LLMが要約をユーザーに提示します。検証は行われず、LLMは幻覚を見たり、不正確な情報を生成する可能性があります。

結論： スタンドアロンLLMでは、ユーザーがすべての作業を手動で行う必要があります：フォルダを開き、テキストをコピーし、貼り付け、要約を確認して正確性を検証します。LLMはユーザーが提供したものからテキストを生成するだけです。

AIアシスタント（完全なシステム）でのPDF読み取りの例

コンテキスト： ユーザーはプロンプトインターフェースを介してLLM（例：ChatGPT、Mistral、DeepSeek、Gemini）にアクセスできます。このLLMは、現実世界で行動できる完全なAIアシスタント（エキスパートシステム + ツール）に接続されています。

ステップ1： ユーザーがLLMにプロンプトを入力：「このフォルダ内のブラックホールに関する記事を見つけて、日本語で要約して。」
ステップ2： LLMがリクエストを分析します。単独では応答できない（ファイルにアクセスできない）ことを理解します。アクションを実行するためにアシスタントが必要であることを認識します。
ステップ3： LLMがAIアシスタントを（API経由で）呼び出し、構造化されたリクエストを送信：「このリクエストを解釈せよ：フォルダを読み、PDFを抽出し、'ブラックホール'を検索し、要約せよ。」
ステップ4： アシスタント（エキスパートシステム）がLLMからリクエストを受信します。アクションを計画：ファイルをリストし、PDFをフィルタリングし、テキストを抽出し、キーワードを検索し、LLMで要約し、検証する。
ステップ5： アシスタントがツールを使用して各アクションを実行（フォルダの読み取り、テキスト抽出、キーワード検索）。
ステップ6： アシスタントがツールから結果を受信（抽出されたテキスト、キーワードの存在）。
ステップ7： アシスタント（エキスパートシステム）がLLMを要約リクエストで呼び出し：「このテキストを日本語で5文に要約せよ。」
ステップ8： LLMが要約を生成し、アシスタントに返送します。
ステップ9： アシスタント（エキスパートシステム）が結果を検証：一貫性、トピックの存在、幻覚の欠如。
ステップ10： アシスタントが構造化された応答を組み立て、LLMに返送します。
ステップ11： LLMが応答を自然言語に言い換え、プロンプトインターフェースを介してユーザーに提示します。

結論： ユーザーはLLMだけを見ます。バックグラウンドでLLMがアシスタントを呼び出してアクションを実行します。ユーザーはアシスタントと直接やり取りすることはありません。すべてがユーザーにとって透過的です。

参考文献

Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS), 33, 1877-1901.
https://neurips.cc/virtual/2020/oral/18545 （新しいウィンドウ）
Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
https://collaborate.princeton.edu/en/publications/react-synergizing-reasoning-and-acting-in-language-models （新しいウィンドウ）
Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2023/oral/73843 （新しいウィンドウ）
Mialon, G., et al. (2023). Augmented Language Models: A Survey. arXiv:2302.07842.
https://huggingface.co/papers/2302.07842 （新しいウィンドウ）
Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2020/public/poster_6b493230205f780e1bc26945df7481e5.html （新しいウィンドウ）
OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
https://arxiv.org/abs/2303.08774 （新しいウィンドウ）
Anthropic (2024). The Claude 3 Model Family. Technical Report.
https://www.anthropic.com/news/claude-3-family （新しいウィンドウ）
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
LangChain (2024). Documentation: Building Applications with LLMs.
https://docs.langchain.com/oss/javascript/learn （新しいウィンドウ）
Hugging Face (2024). Transformers Documentation: Agents & Tools.
https://huggingface.co/docs/transformers （新しいウィンドウ）

FAQ：AIアシスタントとLLMの限界に関するご質問

AIアシスタントはスタンドアロンLLMよりも賢いですか？

いいえ。多くの場合、小さなLLMを中心に構築されており、GPT-4やDeepSeekよりも性能が劣ることがあります。その強みはアーキテクチャにあります：LLMをツール、永続的メモリ、アクションを計画・検証するエキスパートシステムと組み合わせています。このハイブリッド化によって、スタンドアロンLLMでは実行できないタスクを達成できるのです。

スタンドアロンLLMが制御不能なのはなぜですか？

スタンドアロンLLMは統計モデルであり、理解や検証なしにテキストを生成します。その応答は幻覚、偏り、矛盾を含む可能性があり、トレーサビリティがありません。人間が監督するAIアシスタントは、各ステップを導き、中断し、検証することを可能にし、盲目的なシステムを制御されたツールに変えます。

AIアシスタントは危険なアクションを実行できますか？

はい、それは潜在的なリスクです。だからこそ人間の管理が不可欠です：アシスタントは検証や監督なしには何もしません。安全装置が組み込まれています：制限された権限、監査ログ、検証ループ。アシスタントは人間の判断の信頼できる拡張として設計されており、自律エージェントではありません。

RAG（Retrieval-Augmented Generation）とは何ですか？

RAG (retrieval-Augmented Generation)は、LLMの応答を外部データベースからの情報で強化する手法です。これにより幻覚を減らし、最新で検証可能、出典付きの回答を提供できます – アシスタントの信頼性に不可欠な補完要素です。

自律エージェントと監督付きAIアシスタントの違いは何ですか？

自律エージェントは人間の介入なしに行動します。監督付きAIアシスタントは人間を置き換えずに支援します：各アクションは人間によって検証または導かれます。アシスタントは人間の能力を拡張するツールであり、自律エージェントはタスクの自動化を目指します – 管理と責任の面でリスクを伴います。

AIアシスタントはユーモア、皮肉、ほのめかしを理解できますか？

部分的に。アシスタントに統合されたLLMは、皮肉、ユーモア、ほのめかしなどの特定の言語的特徴を検出できます。これは人間のテキストの膨大なコーパスでトレーニングされているためです。しかし、人間的な意味でそれらを理解しているわけではありません：意図、感情、社会的文脈を知覚しません。それは統計的模倣であり、真の理解ではありません。AIアシスタントは皮肉な発言を誤って真剣なリクエストとして解釈することがあります – だからこそ、これらの解釈誤りを修正するための人間の監督が重要です。