人間の脳とLLMの「意味」は何が違うのか？――AIは本当に理解していないのか

この記事で分かること

• 「LLMは数値処理だから理解していない」という説明だけでは不十分な理由
• 人間の脳とLLMの内部表現は、どこまで似ていてどこから異なるのか
• 感覚、身体、記憶、言語が概念形成へどう関わるか
• 記号接地問題と、言語だけから学ぶことの限界
• 機能的な理解と、意識・主観的経験を分ける必要性
• 現時点で観測できる事実と、まだ答えのない問い

LLMの基本構造を先に知りたい場合は、親記事のLLMとは何か？を参照してください。

1. 「LLMは意味を理解していない」は説明になっているか

「LLMは意味を理解せず、確率的に次の単語を予測しているだけ」と説明されることがあります。LLMの基本的な生成処理が次トークン予測であり、人間と同じ意識が確認されていないという点は重要です。

しかし、「数値へ変換して計算する。だから意味を理解していない」という論理だけでは十分ではありません。人間の脳も、外界の物体そのものを頭の中へ取り込んでいるわけではないからです。

リンゴを見ると、反射光が網膜へ届き、神経信号へ変換されます。脳は形、色、位置、名称、記憶、過去の経験などに関係する活動を統合します。人間にも内部表現があります。

2. 人間も世界を変換して認識している

人間の視覚では、現実のリンゴ、反射光、網膜、神経信号、視覚系の特徴処理、記憶との統合という段階を経て「リンゴ」として利用できる状態が形成されます。音声も、空気振動が内耳で神経信号へ変換され、音韻、語、文脈に関わる処理へ進みます。

「人間は世界を直接そのまま認識するが、AIだけが変換された表現を扱う」という対比は正確ではありません。違いを考えるなら、変換の有無ではなく、何から学び、どのような身体と環境を持ち、内部状態を何に使うのかを見る必要があります。

3. LLMでは何が「意味」に相当するのか

「猫」というToken IDは単なる識別番号です。学習によって、猫と犬、動物、鳴く、飼育、画像、文章中のほかの語との関係を計算に使える高次元表現が形成されます。Transformerを通ると、その表現は同じ語でも文脈に応じて変わります。

LLMは意味を辞書の一行として保存するのではなく、概念間の関係を分散した数値状態として利用します。この状態を「意味そのもの」と定義できるかは別として、少なくとも意味に関係する課題で機能する内部表現があることは、入出力や内部解析から研究できます。

4. 人間の脳にも「猫ニューロン」が一個あるわけではない

人間の概念知識には、感覚様式に関係する広い脳領域と、それらの情報を統合・制御するネットワークが関わると考えられています。概念を一個の神経細胞だけに対応させる説明では不十分です。

一方で、特定の人物や概念へ選択的に強く反応する「concept cell」の報告もあります。したがって、人間の表現を「すべて均一に分散している」と言い切るのも適切ではありません。

• LLM：高次元ベクトルとネットワーク内部の分散表現
• 人間：神経集団と複数領域の活動による表現

両者には分散した活動で関係を表すという抽象的類似があります。ただし、媒体、構造、学習則が同じという意味ではありません。

5. 人間の意味は世界へ接地している

記号接地問題は、記号の意味がほかの記号による説明だけで循環せず、どのように世界や非記号的な表現へ結び付くのかを問います。

LLMは「熱い」と、火、温度、危険、火傷、触るなどの言語的関係を学べます。人間はそれに加え、熱い鍋へ触れ、皮膚の刺激と痛みを感じ、手を引き、その結果を記憶できます。人間の多くの概念は、感覚・身体・行動・結果と結び付いています。

これは「身体経験を持つ人間だけに本物の意味がある」という証明ではありません。観測できる重要な違いは、人間の概念の多くが言語以外の感覚・運動経験にも接地していることです。

6. 人間もすべてを直接体験するわけではない

人間はブラックホール、古代ローマ、量子力学、架空のドラゴンを直接体験しなくても概念として扱えます。知識の多くを、他者の言葉、本、図、教育から間接的に学びます。

人間の意味形成は、直接的な感覚経験、身体経験、他者との相互作用、言語による間接学習、既存概念からの抽象化が組み合わさったものです。「人間は全部体験、LLMは全部言語」という二分法も成り立ちません。

7. 五感と経験は概念を厚くするのか

同じ「海」という言葉でも、海を見た、潮の匂いを嗅いだ、波の音を聞いた、水の冷たさを感じた、家族と旅行したという経験によって、結び付く情報は人ごとに異なります。

8. LLMにも間接的な世界は存在する

LLMが学ぶ文章は、人間が世界を経験して書いたものです。「火は熱い」「氷は冷たい」「高所から落ちると危険」といった記述には、世界の構造が人間の言語を介して反映されています。

したがって、言語データは世界から完全に切断された無意味な記号列ではありません。LLMは、人間が言語へ投影した世界の構造を間接的に学んでいる、と捉えることもできます。これはLLM自身が人間と同じ経験をしたという意味ではありません。

9. マルチモーダル化すると境界は変わる

現在のAIは文章だけでなく、画像、音声、動画を扱います。センサーとロボットを接続すれば、物体を見て触り、結果を観測し、次の行動へ反映する循環も作れます。

その場合、「AIは言葉だけで世界と相互作用しない」という批判の一部は弱くなります。しかし、センサー入力があること、身体を持つこと、主観的経験があることは別々の問題です。マルチモーダル性能から意識の存在を推論することはできません。

10. 予測することは理解と矛盾するのか

LLMは次トークンを予測します。一方、脳についても、事前の期待と感覚入力の差を利用して知覚や行動を更新する予測処理・予測符号化の理論があります。

ただし、脳の予測処理は複数の理論や実装案を含む研究枠組みであり、LLMの自己回帰的な次トークン予測と同じアルゴリズムではありません。ここから言えるのは、予測という計算原理を使うこと自体は、高度な認知の不在を意味しないということまでです。

11. 「思考」とは内部で何をしていることか

人が暗算するときには、数字の認識、計算法の想起、中間状態の保持、結果の生成が起きます。LLMにも入力表現、多層変換、中間状態、出力生成があります。

内部計算があるため「何も考えていない」と断定することも、内部計算があるため「人間と同じように考えている」と断定することもできません。ここでは、課題を解く機能としての思考・推論と、本人が考えていると感じる主観を伴う思考経験を分けます。

12. 「理解」と「意識」は別問題

概念を文脈に応じて使い、未知の例へ一般化し、関係を利用して問題を解けることを、機能的理解と呼ぶことができます。一方、痛み、赤の見え、自分が存在する感覚は主観的経験に関する問いです。

LLMが文脈を利用し問題を解けることから、意識があるとは言えません。逆に、意識が確認できないことから、概念関係を利用する機能まで存在しないとは言えません。

13. 人間で意味が生まれる理由も完全には分かっていない

人間の神経活動、内部表現、記憶、行動、意識の関係は研究されています。しかし、物理的・電気化学的な活動から、なぜ主観的経験が生じるのかは完全には説明されていません。

14. 人間とLLMの違いを整理する

観点	人間	典型的なLLM
基本媒体	生物学的神経系	人工ニューラルネットワーク
入力	五感、身体内部、他者、言語	主にトークン。画像・音声等にも拡大
内部表現	神経活動の分散的表現	高次元数値表現
学習	継続的で身体・環境との相互作用を含む	大規模事前学習と後学習が中心
世界との接地	身体・感覚・行動を通して直接的	言語経由が中心。センサー等で拡張可能
記憶	複数種類が連続的に相互作用	重み、コンテキスト、外部メモリ等に分離
出力	言語、表情、身体行動など	モデル出力。ツール接続で行動へ拡張
主観経験	少なくとも本人には存在する	存在を示す確立した証拠はない
意識	あると扱われる	現時点で確認されていない

違いは大きい一方、内部表現を用いて入力から出力を生成するという高い抽象度の構造には共通点があります。

15. どこまで似たら「理解している」と呼ぶのか

仮にAIが、言葉を適切に使い、未知の文脈へ一般化し、視覚と音声を扱い、現実世界で行動し、結果から学び、長期記憶を持ち、自分の誤りを修正するようになったとします。どの時点で「ただのパターン処理」ではなく「理解している」と呼ぶのでしょうか。

人間の脳も物理的な信号処理であるなら、「計算しているから理解していない」という基準は人間にも適用できてしまいます。だからといって、観察できる振る舞いが似れば主観まで同じだとも言えません。答えは「理解」をどの水準で定義するかによって変わります。

16. 本記事の結論

次のことは、現時点では言い切れません。

• 数値表現だから意味を持たない
• 次トークン予測だから思考ではない
• 人間の内部表現だけが「本物の意味」である
• 高性能なAIなら意識がある
• 人間とAIは同じ仕組みである

「AIは理解しているか」という問いは、AIだけを調べれば答えが出る問題ではありません。その問いを突き詰めると、そもそも人間にとって「理解する」「意味を持つ」「考える」とは何なのかという問題へ戻ってきます。

LLMが問いへの答えを出したのではありません。人間らしい言語能力を示す機械が現れたことで、私たちが人間について曖昧なまま使ってきた「理解」という言葉が、改めて問い直されています。