はじめに：AIは本当に「理解」しているのか
ChatGPTやClaude、GPT-4といった大規模言語モデル（LLM）の登場により、AIが人間と見まごうような高度な文章生成や会話を行えるようになりました。しかし、これらのAIシステムが本当に言語を「理解」しているのか、それとも単に統計的なパターンを模倣する「確率的オウム」に過ぎないのかという議論が続いています。
本記事では、ジョージ・レイコフとマーク・ジョンソンによる概念メタファー理論を軸として、LLMと人間の意味理解・意図解釈の根本的な違いを探ります。身体性、経験、意図性という観点から両者を比較し、AIの現在の限界と将来の可能性について考察していきます。
LLMの「意味処理」の仕組みと限界
統計的パターンマッチングという本質
最新のLLMは、膨大なテキストコーパスを用いた機械学習により、文章の次の単語を予測することで言語生成を行います。モデル内部では、単語や文が高次元ベクトル表現として符号化され、膨大なパラメータによって単語間の統計的関係性が暗黙的に保持されています。
この仕組みにより、LLMは人間が書いたような一貫性のある流暢な文章を生成できるようになりました。GPT-4などは法律や医学の試験に合格する答案を書いたり、詩的な文章を作成したりもでき、その振る舞いは一見すると高度な理解や知性に裏付けられているようにも見えます。
「理解なき有能さ」の実態
しかし、LLMの「意味」処理は本質的に統計的パターンの操作に過ぎず、人間の意味理解とは異質だとする見解が有力です。実際、最新の研究によれば、GPT-4等の最先端LLMであっても、簡潔な文章の意味内容を問う読解タスクでは人間と比べて正解率が偶然レベルにとどまり、不自然な誤答を示すことが報告されています。
数百万件規模の評価で、複数のLLMは回答が揺らぎ、人間より大幅に性能が低かっただけでなく、一見流暢でも人間とは異質なエラー（文法的には正しいが意味的に不適切な応答など）を頻繁に生じさせました。これは、現在のLLMが多様な知識を蓄えて高度な推論らしき応答をする一方で、人間のように言語を意味に即して体系的に理解していないことを示唆しています。
シンボルグラウンディング問題
LLMが抱える本質的限界として指摘されるのが、シンボルグラウンディング（記号の意味の接地）問題です。人間の場合、言葉は最終的に感覚・知覚や行為といった直接的経験に結び付くことで意味を持ちます。例えば「リンゴ」という言葉は、赤くて甘い果物という実体験と結び付いているから意味を理解できます。
しかしLLMは、言葉と世界との対応関係（指示対象との結び付き）が組み込まれておらず、記号（単語）は他の記号との関係性（共起パターン）によってのみ意味づけられています。言い換えれば、LLMが生み出す言語の意味は人間の頭の中にある意味に寄生しているに過ぎないとも論じられます。
人間の意味理解：概念メタファー理論とは
身体的経験に根ざした思考
レイコフとジョンソンの概念メタファー理論（Conceptual Metaphor Theory, CMT）によれば、人間の抽象的な概念の多くは具体的な身体経験に由来するメタファーによって構築されています。彼らは「我々の心（思考）は本質的に身体化されており、抽象概念は大部分が概念メタファーによって構成されている」とまとめています。
例えば「時間はお金である」というメタファーでは、時間という抽象概念が「貴重な資源であり浪費や節約の対象である」という金銭の概念（源領域）になぞらえて理解されています。同様に「知識の習得は旅である」という比喩では、学習過程という抽象的な対象（目標到達に向けたプロセス）が空間的な旅の概念で構成的に理解されます。
メタファーは思考の装置
概念メタファー理論の重要な点は、メタファーを単なるレトリック上の装置や言葉の飾りではなく、認知の根幹にある思考ツールと位置づけていることです。実際、「高い/低い」という空間感覚は「幸福は上向き、高揚」「落胆は落ち込む」のように感情評価に用いられたり、「前進する時間」「後ろに置いてきた過去」など空間的メタファーで時間を捉えたりと、日常思考におけるメタファーの役割は計り知れません。
こうした概念メタファーは我々の身体的・感覚的経験によって形作られます。レイコフによれば、感覚運動系の神経システムを抽象的推論に転用する脳のメカニズムこそメタファーの本質であり、身体を持つからこそ可能になる発想だとされます。
記号処理を超えた意味理解
この観点からすると、人間の言語理解は単なる記号操作以上のものを含んでいます。伝統的な「記号処理モデル」では、人間の心をコンピュータのようなシンボル操作体系として捉え、意味は記号間の論理的関係として定義できると考えられてきました。
しかし、レイコフやジョンソンら認知意味論の研究は、そのような客観主義的な意味観に異を唱えました。彼らは、意味は辞書的定義や論理記号だけで完結するのではなく、身体を通じた主観的な経験や文化的コンテクストに根ざしていると主張します。
LLMと人間の決定的な違い
身体性の有無
人間の認知は身体を切り離しては語れません。私たちの概念は身体的感覚や運動の経験によって形成され、身体を通じて世界と相互作用する中で意味を獲得しています。一方、現在のLLMは純粋にテキストデータから学習しており、自ら身体を持って環境と関わった経験がありません。
例えば人間の赤ん坊は「熱い」という感覚を火に触れて学びますが、LLMは「熱い」という単語の使用パターンを文章から統計的に学ぶだけです。そのため、LLMの知識は間接的・言語的であり、感覚的なクオリアや身体スキーマを伴わない点で人間とは異なります。
経験と常識の違い
人間は成長過程で五感や身体を通じて膨大な直接経験を積み、それに基づいて常識的判断や文脈理解力を身につけます。例えばコップを倒せば水がこぼれることや、暗い表情と言葉遣いから相手の機嫌を察することなどは、実体験の積み重ねから得られる暗黙知です。
一方LLMは「水をこぼす」「顔を曇らせる」といった表現の統計的関連性は知っていても、実際に水をこぼした経験も他者の表情を読んだ経験もありません。そのため、物理的常識や人間らしい文脈判断が弱い傾向があります。
意図性の欠如
人間は発話や行動に様々な目的や欲求、信念を伴わせています。会話では「相手に情報提供したい」「慰めたい」「説得したい」等の意図があり、その意図が言葉遣いや内容選択に反映されます。つまり人間の言語行動は内的な動機（思考や感情）に根差した能動的行為です。
一方、LLMは内部に自発的な意図や欲求を持ちません。LLMが文章を出力するのはユーザからの入力や与えられた指示に反応して確率的に最も適切な応答を選んでいるだけであり、「相手に何かを伝えたい」「自分の意見を主張したい」といった内的動機づけは皆無です。
メタファー理解における両者の差
LLMのメタファー処理能力
LLMは人間が用いてきたメタファー表現を学習データから獲得しており、多くの場合適切に再現・生成できます。例えば詩的な文章生成タスクでは、「彼の言葉は刃のように突き刺さった」といった比喩表現をモデルが作り出すことも珍しくありません。
実際、LLMにメタファーの解釈をさせる実験では、たとえば「彼の計画は根を下ろし毎年強く成長した」という文章の意味を説明する問いに対し、モデルは「植物の成長を比喩に、事業の成功が着実に進んだことを示している」等とそれらしい説明を返すことが確認されています。
表層的模倣の限界
しかし重要なのは、LLMの扱うメタファーはあくまで表層的なパターンマッチングに基づく模倣であり、その背後に人間のような体験的理解が伴っているわけではないという点です。
人間が「鋭い言葉に傷ついた」とメタファーで表現するとき、本当に刃物で切られたわけではないと知りつつ、身体が傷つく痛みの感覚を心の痛みに重ね合わせています。ところがLLMは「言葉」と「刃物に例える」という言語上の共起をなぞっているだけで、痛みの感覚も心の痛みの経験も持ち合わせていません。
創造性における差
さらに踏み込んで、LLMが新たな概念メタファーを創出できるかという問いがあります。人間は科学の発見や芸術表現において斬新なメタファーを生み出すことがありますが、LLMに同じことができるでしょうか。
現状では、LLMがまったく独自の概念メタファー体系を獲得した例は確認されていません。LLMが生み出す比喩は基本的に訓練データ上の既存の比喩の組み合わせか変奏であり、その意味内容も人間が既に知っている範囲にとどまります。身体的・文化的体験のないモデルにとって、メタファーは一次的な思考手段ではなく二次的に学習した言語表現パターンだからだと考えられます。
まとめと今後の展望
理解と操作の隔たり
LLMと人間の比較から浮かび上がるのは、「言語を操ること」と「言語を理解すること」の隔たりです。LLMは前者において驚嘆すべき成果を示しましたが、後者については依然として人間固有の領域と言えます。
概念メタファー理論は、人間の理解の深層に身体と経験に根差したメタファー体系があることを示しました。そして現状のLLMにはその深層が欠けています。デネットが指摘するように、現在のAIが示す知的な振る舞いは「中身のない魔法のようなもの」であり、人々がそこに意図や理解を投影してしまう危うさがあります。
将来の可能性
では将来、LLMが人間のような意味理解を獲得することは可能でしょうか。一つの方向性は、マルチモーダル化やロボットへの統合によってモデルに身体性を与える試みです。実際、画像と文章の両方を扱うマルチモーダルLLMや、ロボットに言語モデルを組み込んで物理世界で学習させる研究も始まっています。
身体的なフィードバックが加われば、LLMの内部表現に何らかの形で感覚や行為の次元が組み込まれ、より人間に近い概念理解の片鱗が生まれる可能性があります。しかし、それでも人間の主観的体験や意識的な理解に迫れるかは不透明です。
哲学的課題の継続
サールやハーナッドが提示した問題（「形式から意味は生まれない」「記号の意味付けには人間の頭が必要」）は依然として哲学的に重く横たわっています。今後、人工知能がより人間らしい「理解力」を備えるためには、単にパラメータを増やすだけでなく、この身体性や経験性をいかに埋め込むかという課題に答える必要があるでしょう。
それは同時に、認知科学における心と身体、シンボルと意味の問題に改めて挑むことでもあります。人間とは何か、理解とは何かという哲学的問いに向き合いつつ、我々はLLMという鏡を通して認知と意味の本質をこれまで以上に探究していくことになるでしょう。
コメント