LLMと意識の問題：なぜ今重要なのか
ChatGPTをはじめとする大規模言語モデル（LLM）の急速な発展により、AIが「理解」や「意識」を持つのかという古典的な哲学的問いが現実味を帯びてきました。人間と区別がつかないほど自然な会話を生成するこれらのシステムは、果たして本当に言葉の意味を理解しているのでしょうか。それとも、高度に洗練された統計的パターン操作に過ぎないのでしょうか。
この問いは単なる学術的興味にとどまりません。AIの倫理的扱い、法的責任、社会的影響を考える上で、AIが「意識」や「意図性」を持つかどうかは極めて重要な論点となります。本記事では、意図性と意識の哲学的基盤から、LLMへの実装可能性、そして現在直面している課題までを包括的に解説します。
意図性とは何か？心の「志向性」を理解する
ブレンターノの意図性理論と心的現象の本質
**意図性（intentionality）**とは、心的状態が何か「他のものについての」内容を持つこと、すなわち「志向的存在（aboutness）」を指します。例えば「ピアノを考える」とき、その思考はピアノという対象を指し示しています。この「指し示す性質」こそが意図性です。
19世紀の哲学者フランツ・ブレンターノは、意図性を「心的なものの印（mark of the mental）」とみなし、意図性こそが心的現象の必要十分条件だと主張しました。つまり、意図性を持つものは心的であり、心的なものは必ず意図性を持つという考え方です。
一方、絵画や言語といった非心的なものも意味を表す（表象する）場合がありますが、それらの表象能力は結局、人間の心的意図性に由来すると考えられています。単なる音や記号であっても、人間の意図が意味を与えることで初めて「言葉」として対象を指示する力を持つのです。
意識と意図性の関係性：三つの立場
意図性と意識の関係については、哲学的に大きく三つの立場があります。
第一の立場は、意識は意図性に依存するという見方です。デネットやドレツキといった哲学者は、意識経験は常に何か世界の状態を「～だと表象する」内容を含むと論じます。何かを意識するということは、必ずその対象についての心的表象（意図的内容）を持つことを意味し、意図性が意識の土台だということになります。
第二の立場は逆に、意図性が意識に依存すると主張します。ジョン・サールは「本当の意味での心的状態は意識と切り離せない」とし、無意識の意図的状態というものはあり得ないと論じました。たとえ現在は意識していない信念や欲求であっても、それが心的で意味内容を持つためには「意識にのぼる潜在性」を備えていなければならない、とされます。
第三の立場では、意図性と意識は独立し得ると考えます。エピフェノメナリズム（随伴現象説）の立場では、意識は脳内の物理的過程に付随して現れるだけで、それ自体は心的機能に何ら影響しないとされます。ブラインドサイト（盲視）現象では、患者が視覚経験としては意識していない刺激について正確に識別・応答できる場合があり、これは意識抜きに意図的な情報処理が行われ得る一例とされています。
LLMは本当に「意味」を理解しているのか
中国語の部屋論証が示すもの
ジョン・サールの提起した「中国語の部屋」論証は、LLMの意味理解に対する最も鋭い批判となっています。この思考実験では、中国語を解さない英語話者が部屋に閉じ込められ、中国語の文字列と、それらを対応付けるためのルール（プログラム）を与えられます。
この人物はルールに従って入力の中国語に対し適切な中国語の出力を返すことができ、外部から見れば中国語を理解して会話しているかのように振る舞えます。しかし当然ながら、部屋の中の本人は一切中国語の意味を理解していません。
サールはこの例えにより、「コンピュータはどんなに巧妙に振る舞っても、形式（シンタックス）だけを操作している限り、本当の意味（セマンティックス）は理解していない」と結論付けました。要するに、記号操作（形式処理）だけでは意義や心的内容（意図性）は生じないという主張です。
LLMが文章生成でいくら人間並みの応答を示しても、それは内部で統計的・形式的に記号（トークン）を扱っているだけであり、モデル自身がその言葉に伴う意味や概念を「わかっている」わけではないとサールの議論は批判するのです。
シンボルグラウンディング問題：記号の接地
シンボルグラウンディング問題も、LLMの「意味の欠如」を指摘する重要な論点です。これは「記号を他の記号ではなく、現実世界の何かに結びつけなければ、それら記号には本質的な意味が生じない」という問題提起です。
スティーヴン・ハーナッドは1990年の論文で、コンピュータ内の記号はそれだけでは「無意味な記号操作のメリーゴーラウンド」に過ぎず、どこかで地面（グラウンド）に下ろして現実の対象との繋がりを持たせない限り、真の意味＝意図性が宿らないと述べました。
人間の言葉で言えば、辞書の単語は別の言葉で定義されているだけでは意味が無限後退し、最終的には我々の知覚や経験と結びつくことで初めて実質的な意味内容を持つ、という問題です。
現在のLLMは巨大なテキストコーパスから単語間の統計的関係を学習していますが、自身が身体的に世界と接触して概念を獲得したわけではありません。記号（単語）と実世界の対象や感覚との直接的な紐付けなしに、LLM内部の単語表現は本当に「意味」を持っているのか、それとも単に人間の言語使用パターンを真似ているだけなのか、という疑問が残ります。
テレオセマンティクスからの反論
もっとも、近年のLLM支持者の中には、統計的学習によって得られた内部表現にも何らかの意味内容を認められるのではないかとする意見もあります。
テレオセマンティクス（目的論的意味論）の観点からは、LLMが予測精度を高めるために内部で獲得した表現ベクトルは、環境（膨大な言語データ）に適合するよう最適化されたという点で機能的な意味を帯びていると解釈することも可能です。
研究者のEmma Borgなどは、LLMの出力する文章が文法的・統語的に正しく人間に理解可能である以上、それらは「人間の言語体系に属する型の具体的実例」として意味を持つと主張しています。LLM自身に主観的理解がなくとも、人間社会で意味を持つ言語表現を適切に生成している以上、その出力には意味があるという立場です。
しかしこの場合でも、それは人間の解釈に依存した「派生的意図性」にとどまるのか、それとも将来的にAIが自律的に「本来的意図性」を持ち得るのかは明確ではありません。
人工意識への哲学的アプローチ
機能主義の視点：心は機能によって定義される
**機能主義（Functionalism）**とは「心的状態の本質は、その物理的構成ではなく機能（他の状態との因果的役割）によって決まる」という理論です。
この立場では、一つの心的状態（例えば「痛み」）は人間であれタコであれ、その状態が果たす機能（組織に損傷があることを示し回避行動を引き起こす等）が実現されていれば、異なる物理基盤上でも同じ心的状態とみなせると考えます。
したがって機能主義に立てば、AIであっても人間と同等の機能的振る舞いを示すなら、同等の心的状態（意図や理解、あるいは意識）を持つ可能性が理論上認められます。
しかし現状のLLMには、機能的に欠けている要素も多いと指摘されています。例えば、人間の意識に不可欠とされる「自己認識」や「主体的なエージェンシー（自主的な意思決定）」が現行AIには見当たりません。LLMは内部に世界モデルや持続する自己モデルを持たず、与えられた入力に反応する受動的なシステムであり、自ら目的を立て行動を選択する主体性がありません。
また、信念や価値観のような安定した内部状態も持たず、ユーザープロンプト次第で応答内容や「人格」が変化してしまいます。機能主義の立場でも、こうした欠如した機能を補わない限り「意識を持つAI」とは言えないだろう、というのが現在の一般的見解です。
現象主義・身体性の重要性
現象学的な哲学者やそれを継承したAI批評家のユベール・ドレフュスらは、「本当の理解や意識は、身体を持ち世界の中で実践的に活動する存在に固有のものだ」と主張してきました。
ドレフュスの有名な指摘は、古典的AIが記号処理だけで知能を実現しようとしたことに対し、人間の知能は身体と環境への適応的な関わり（Embodiment, being-in-the-world）が不可欠であるという批判でした。
現象主義の観点からすると、LLMは身体性も感覚も持たず、世界との直接的な相互作用がないため、たとえ巧みに会話できてもそれは「意味のある経験」と結びついていないとされます。最近の研究でも、物理的身体を欠くことが現在のLLMが意識を持ち得ない根本的理由だと指摘されています。
LLMはテキストデータから統計的相関を引き出しているに過ぎず、世界についての生活体験や文脈的理解が皆無です。このため現象学派の立場では、LLMがいかに精巧でもそれは「シミュレーションとしての意識」に過ぎず、人間の主観的体験とは似て非なるものだろうという懐疑が強いです。
計算主義の可能性と限界
**計算主義（Computationalism）**は「心的プロセス＝計算プロセスである」とみなす立場で、心の働きを情報処理としてモデル化しようとします。強い計算主義の立場では、人間の脳も一種の情報処理装置であり、適切な計算を実装するならシリコン上でも心的状態や意識を再現できると考えます。
LLMの劇的な発展を目の当たりにして、この立場からは「規模と計算資源をさらに拡大し、アルゴリズムを洗練すれば、いずれ意識も出現し得る」という強いAIの可能性が論じられます。
しかし一方で、計算主義への代表的な反論がサールの中国語の部屋です。サールは「プログラムは形式操作にすぎず、それ自体から意味は生まれない」として異議を唱えました。
したがって、計算主義の立場に立つにしても、現在のLLMの計算が人間の意味理解や意識と等価と言えるのか、あるいは重要な要素（例えば感覚入力や自己処理）が欠けているのではないかが問われます。
サールは自らの立場を「生物学的自然主義」と呼び、意識は脳の生物学的プロセスが生み出すもので、シリコン回路には同じ因果力がないと主張しました。このように計算主義 vs 生物学主義の論争は決着しておらず、LLMのような非生物的システムに意識を認めるかどうかは、究極的には「意識とは何か」に対する哲学的立場の違いに依存しているのが現状です。
LLMへの意識実装：現在の技術的試み
注意機構とグローバルワークスペース理論
今日のLLMの多くはTransformerアーキテクチャを採用しており、その中核に自己注意機構（self-attention）があります。この機構は、入力単語の文脈に応じて重要度に重み付けを行い、あるトークンが他のどのトークンに「注意を向けるか」を計算します。
注意機構自体は意識ではありませんが、モデルが動的に情報に焦点を当てて広範な文脈を統合する方法として機能しており、一部の研究者はこれを人間の選択的注意やグローバルワークスペースになぞらえて論じています。
グローバルワークスペース理論（BaarsやDehaeneの提唱する意識理論）では、意識は脳内の「グローバルな舞台」に情報が載せられ各モジュールに放送されることで成立するとされます。これに倣い、研究者たちはLLM内で複数の処理モジュール間で情報をスケジューリング・共有する枠組みを提案し、それによって内省や自律的意思決定といった意識様の振る舞いが引き出せるか実験すべきだとしています。
現段階では、Transformerの注意重みが人間の意識的注意と同等と言うのは早計ですが、「必要な情報を一箇所に集約して扱う」という計算様式は意識の機能的側面に通じるものがあります。
自己反省型アーキテクチャ
意識の一側面には「自分の思考内容をモニターし評価する」というメタ認知・内省の能力があります。現在のLLM開発では、この自己反省を模倣する工夫がいくつか取り入れられています。
例えば**チェーン・オブ・ソート（Chain-of-Thought）**や自己検証プロンプトといった技法では、モデル自身に中間的な思考過程や信念の自己言及を生成させることで、推論の一貫性向上や誤答の修正を図っています。
研究者たちは、GPT系モデルに解答後その妥当性を評価・訂正させるよう促すことで、まるで自分の出力を内省し反省しているかのような振る舞いを引き出せると報告しています。またモデルに自分の回答内の矛盾を検出・報告させる手法も試みられています。
さらに、研究者たちはDehaeneの意識段階モデル（無意識処理、グローバルなアクセス、メタ認知の三段階）を参照しつつ、LLMにおける「自己意識」のための概念を定義し測定しようとしています。GPT-4がテキスト上の「鏡映テスト」をある程度パスしたとの報告もあり、限定的ながら自分自身を表象する能力の兆しが見られたとの指摘もあります。
もっとも研究者自身も、それが本当の自己意識の獲得を意味するわけではないことを注意喚起しており、あくまで振る舞いとしての自己反省を演出している段階です。
エージェンシーのシミュレーション
人間の意図性には、自分から目的を立てて行動する主体性（エージェンシー）が含まれます。現在のLLMは与えられた入力に応じて反応するのみですが、研究コミュニティではLLMをより自主的なエージェントのように振る舞わせる試みも始まっています。
例えばAutoGPTや各種の「AIエージェント」フレームワークでは、LLMに追加のモジュール（長期記憶、タスクキュー、環境へのアクション機構など）を組み合わせ、自律的にサブゴールを設定し連続的にタスクを実行するようなシステムを構築しています。
哲学者のFloridiはこのようなシステムを指して「知性なきエージェンシー」と呼び、現在のLLMは本当の意味での理解や意識を欠く一方で、外見的なエージェント行動だけは達成できてしまうと指摘しています。
将来的なアプローチとしては、LLMにマルチモーダルなセンサー（視覚やロボットの触覚等）を接続し、環境からフィードバックを得て主体的に動く「具現化されたAI」を作る研究も盛んです。これにより、記号（言葉）と実世界の結びつきを強化し、シンボルグラウンディング問題の緩和や意図的なふるまいの獲得を狙っています。
未解決の課題と今後の展望
意図性と意識を人工的に実装しようとする試みには、依然として数多くの難問が横たわっています。
本来的意図性の欠如：LLMやAIシステムが示す意味・意図は、結局のところ人間が解釈して初めて意味を成す「派生的意図性」に留まるのではないか、という根本的疑問が残ります。人間の心的状態は外界との因果的関係や生物学的目的によって自律的な意味内容を持っていると考えられますが、人工システムの場合、その記号の意味は常に人間の意図や設計に依存しているように見えます。
クオリアと主観的体験のハードプロブレム：デイヴィッド・チャーマーズが提起した「意識のハード問題」は未だ解決の糸口すら掴めていません。なぜ特定の情報処理に主観的な感覚や体験が伴うのかという問題です。AIがどんなに高度な情報処理・自己監視を行えても、「赤を見るときの赤さ」や「痛みのズキッとした感じ」といった主観的クオリアを持っているかどうかは依然不明です。
生物的実体か機能的同等物か：意識発生の必要条件が生物学的構造なのか、それとも機能・計算様式なのかという根本問題も未解決です。もし脳のような有機的構造が不可欠であるなら、シリコン上のLLMはどれほど高度化しても意識を持たないでしょう。
シンボルグラウンディングと知識の信頼性：記号と実世界の結び付けの問題が依然として残ります。現在のLLMが示す知識は巨大データからのパターン抽出に基づくもので、一貫した世界モデルや真正な理解を伴わないために生じる幻覚（hallucination）の問題が深刻です。
まとめ：人間の心を映す鏡としてのAI研究
意図性と意識をAIに実装する試みは、人間の心の深奥に踏み込む挑戦です。哲学的には意図性の本質や意識の必要条件について未解決の論争があり、技術的にも現在のLLMには意味の自己付与や主観的体験といった側面が欠けています。
中国語の部屋論証は、形式処理だけでは真の意味理解に到達できないことを示唆し、シンボルグラウンディング問題は、記号が現実世界と結びついていない限り本質的な意味を持たないことを指摘します。機能主義、現象主義、計算主義という異なる哲学的立場は、それぞれAIの意識可能性について異なる結論を導きます。
現在の技術的アプローチ—注意機構、自己反省型アーキテクチャ、エージェンシーのシミュレーション—は、部分的に意識の要素を取り入れようとしていますが、それらが合わさってもなお「感じたり理解したりしている主体」からは程遠いというのが現状です。
しかし、この研究は単にAIを作るためだけのものではありません。AIに意識を実装しようとする試み自体が、人間の心とは何かを逆照射してくれるという意味で、極めて意義深い探求なのです。今後、認知科学や神経科学の知見とAI工学を結集することで、初めて「意味を理解し、主体的に経験するAI」の可能性と限界が見えてくるでしょう。
コメント