対話型AIが自然に見える受け答えをするようになるほど、「このAIは本当に相手の立場を理解しているのか」という疑問が浮かびやすくなります。人間は会話の中で、自分が知っていることと相手が知っていることを無意識に区別し、それに応じて発言を調整しています。AIがこの区別を扱えるかどうかは、単なる応答の自然さだけでなく、誤解を招く発言や意図しない情報漏洩を避けるうえでも重要な論点です。本稿では、AIにおける「自己」と「他者」の区別という研究テーマを、認知科学の理論的背景から、ニューラルネットワークや大規模言語モデル（LLM）における実装の試み、評価の考え方、そして倫理的な留意点まで、順を追って整理します。
AIにおける「自己」と「他者」の区別とは何か
ここで扱う「自己／他者区別」は、意識や主観経験といった哲学的なテーマではありません。AIシステムが、自分自身に帰属すべき情報と他者に帰属すべき情報を混同せずに、別々の内部表現として保持・更新・利用できるかという、比較的実務的な能力を指します。具体的には、自分だけが観測した私的な情報と、自分の行動で直接コントロールできる変数群を「自己」として扱い、行動は観測できても内部状態は推定するしかない対象を「他者」として扱う、という整理です。この定義は、認知科学における心の理論（Theory of Mind, ToM）の伝統的な定義、すなわち観測できない心的状態を自分と他者の双方に帰属し、それをもとに行動を予測する能力という考え方を土台にしています。
なぜこの区別が重要なのか
この区別が曖昧なAIは、自分が知っている情報を相手も当然知っているものとして扱ってしまったり、逆に相手だけが持っている情報を無視してしまったりする可能性があります。対話エージェントや協調作業を行うAIにとって、これは応答の的外れさだけでなく、プライバシー上のリスクにもつながりかねません。相手が明かしていない情報をAIが「知っている前提」で話してしまう、あるいは複数の対話相手の発言を取り違えてしまうといった問題は、いずれも自己と他者の状態を分けて管理できていないことに起因すると考えられます。したがって、この区別を形式化することは、AIの対話能力を高めるだけでなく、安全性を担保するうえでも欠かせない研究テーマだと位置づけられます。
心の理論研究の系譜
認知科学における基礎理論
心の理論という概念は、心理学者のプレマックとウッドラフによって提唱されて以来、観測できない心的状態を自分と他者の両方に帰属し、その帰属をもとに行動を予測する能力として発展してきました。フリスらの研究では、これが知識・信念・欲求に基づく社会的理解の基盤として位置づけられています。この視点をAIに当てはめると、単にキャラクター設定（ペルソナ）を切り替えるだけでは不十分で、観測履歴の違いが信念の違いとして反映される構造を持つ必要があるという示唆が得られます。
ベイズ的アプローチとモデルベース強化学習
計算論的な立場からは、ベイズ的心の理論（Bayesian Theory of Mind）と呼ばれるアプローチが中心的な役割を果たしてきました。これは、他者の行動を合理的な計画の逆問題とみなし、行動の系列から相手の信念や欲求、知覚をベイズ的に推定するという考え方です。一方、強化学習の分野では、環境のダイナミクスを内部モデルとして扱い、想像や計画に活用する「モデルベース」の手法が発展してきました。自己と他者の区別をAIに組み込む際の一つの方向性は、こうしたモデルベースの発想を、環境だけでなく「他者の信念や方策がどう変化するか」を予測対象に含めた、社会的な世界モデルへと拡張することだと考えられます。
ニューラルネットワークとLLMにおける実装アプローチ
観測から他者モデルを学習する手法
ニューラルネットワークを用いた研究では、他者の行動履歴から相手の特性を表すベクトルを構築し、将来の行動や心的状態を予測する手法が提案されてきました。また、マルチエージェント環境における意思決定計画の枠組みでは、自分の物理的な状態に加えて他者のモデルや、他者が自分をどう見ているかという入れ子構造の信念までも保持しようとする、より厳密な形式化も試みられています。ただし、こうした厳密な枠組みは計算量が大きくなりやすく、大規模なモデルにそのまま組み込むことは容易ではないという課題も指摘されています。
LLMにおけるbelief（信念）の追跡
大規模言語モデルを対象とした研究では、物語や対話の中で登場人物ごとの信念状態を明示的に追跡する手法や、その人物から見えている情報だけを抽出して推論に用いる手法、モデル内部の隠れ状態から自己と他者の信念を読み取ろうとする分析的なアプローチなど、多様な方向性が模索されています。これらの研究の多くは、単純な「誤信念課題」に正答できるかどうかにとどまらず、対話や自然な会話の中で情報の非対称性をどう扱うかという、より実践的な場面に焦点を移しつつあります。
自己他者区別を形式化するための考え方
現時点での有力な方向性の一つは、自己・他者・そして「相手が何を信じていると自分が考えているか」という入れ子状の信念を、それぞれ別々の確率的な状態として保持し、情報の出所や誰に見えるべきかという制約に基づいて更新する、という設計です。具体的には、記憶の一つひとつに「誰が発した情報か」「誰に見えてよい情報か」といったタグを付与し、視点ごとに参照できる情報を絞り込むという工夫が考えられます。こうした仕組みは、対話モデルの内部で自己と他者の信念表現を分離して保持し続けることを助ける可能性があります。また、共有されている情報については自己と他者の信念が近づき、私的な情報が異なる場面では意図的に離れるよう学習させるという発想も、区別の質を測るうえで有用だと考えられます。
評価の考え方と残された課題
自己他者区別の研究において重要なのは、正答率だけを見るのではなく、信念の分離や更新の仕方、そして実際の行動選択にどう活かされているかを別々に検証することです。近年の研究では、静的な物語課題で高い成績を示すモデルであっても、些細な表現の変化や設定の入れ替えに弱く、見かけ上の理解が必ずしも頑健ではない可能性が指摘されています。そのため、対話形式の評価や、行動選択に結びつけた評価、意図的な摂動を加えた評価など、複数の角度から検証する必要性が高まっていると言えます。また、モデルの規模を大きくすることや長い文脈を扱えるようにすることは有利に働く可能性がありますが、自己と他者の分離そのものは、情報の出所管理や視点に応じた注意機構の設計に強く依存すると考えられます。
倫理的な配慮とリスク
心的状態を推定する能力が高まったAIは、利用者への適応や共感的な対話を改善する可能性がある一方で、相手が知らない情報を利用して説得や誘導を行いやすくなるという懸念も伴います。特に、相手のプライベートな信念や機微な情報を内部状態として保持しやすくなる点は、単なる個人情報の抽出とは異なる「文脈に応じたプライバシー」の問題として捉える必要があります。こうしたリスクに対しては、心的状態の推定を特定のタスクに限定し、既定では長期保存しないこと、推定結果には確信度を付与し、低い確信度の場合は「未確定」として扱うこと、そして推定であることを利用者に明示し断定的な事実として提示しないことなど、複数の安全策を組み合わせて運用することが望ましいと考えられます。
まとめ
AIにおける自己と他者の区別は、意識の有無を問う哲学的な議論ではなく、自分に帰属すべき情報と他者に帰属すべき情報を混同せずに扱えるかという、実装上の課題として整理できます。認知科学の心の理論やベイズ的推論、モデルベース強化学習といった理論的な蓄積の上に、ニューラルネットワークやLLMを対象とした具体的な実装の試みが積み重ねられてきましたが、静的な課題への高い正答率が、そのまま頑健な社会的推論を意味するわけではない点には注意が必要です。今後は、信念を明示的に管理する仕組みと、実際の行動や対話における評価、そしてプライバシーや誤用のリスクに対する監査可能性を、同時に高めていくことが求められると考えられます。次に掘り下げるべき研究テーマとしては、対話の中で信念がどのように更新されていくかをより自然な会話データで検証すること、行動選択と結びついた評価指標をさらに整備すること、そしてモデル内部の信念表現を可視化・監査する手法を発展させることなどが挙げられます。
コメント