意図性とは何か？哲学的背景から理解する
生成AIの挙動を理解するには、まず「意図性」の概念を押さえておく必要があります。哲学における意図性（英: intentionality、日本語では「志向性」とも訳される）とは、心的状態が何かを「指し示し」「意味し」「表現し」得る力を指す概念です。19世紀の哲学者ブレンターノは「心的現象の特徴は対象への志向性である」と述べ、心の持つ「他者についての」性質を指摘しました。
この文脈では、心的現象だけが本来的な意図性を持ち、物理的対象は意図性を持たないとされます。言語や記号といった人工物は、人間がそれらを用いて心的内容を伝達するときに限って「意味内容（意図性）を帯びる」のです。つまり心的な意図性（オリジナルな意図性）と、心によって付与される派生的な意図性が区別されます。
この区別は人工知能に関する哲学議論で重要な役割を果たしています。哲学者ジョン・サールは有名な「中国語の部屋」論証で、コンピュータはシンボル操作をしているに過ぎず、「本当の理解（意図性）」がないと主張しました。人間の心は自身の内部に意味を持つ（オリジナルな志向性）が、AIが出力する文章の意味は人間が解釈して初めて成り立つ（派生的志向性）という指摘です。
また意図性と意識の関係も議論されます。フッサール現象学では、あらゆる意識は何かの意識である（=志向的である）とされ、意図性と意識は不可分とされました。一方、現代認知科学では無意識的な表象も意図性を担うと考えられ、意識と切り離して志向的内容を扱うこともあります。
生成AIと「意図性ギャップ」の問題
近年の生成AI（大規模言語モデルや画像生成モデルなど）の登場は、意図性の問題に新たな局面をもたらしています。生成AIは、人間のように自然言語文や絵画を自律的に生成できます。そのアウトプットはしばしば人間の創作物に匹敵するほど意味豊かで、一見すると何らかの「意図」や「創作意図」を持って作られたように感じられます。しかし実際には、モデル自身に主体的な意図や理解がないことは明らかです。
この点で指摘されるのが「意図性ギャップ（intentionality gap）」と呼ばれる問題です。つまり、AIシステムの振る舞いを人間の意図に遡って説明することが難しくなっているという現象です。従来のツール型AIであれば、その出力や動作は開発者がプログラムした目的やユーザの指示に沿ったものでした。しかし、GPT-4のような巨大モデルになると、開発者ですら予測できない応答や、ユーザの予想を超えた創造的回答が生まれます。
例えば、画像生成AIが生み出したアート作品は、プロンプトを入力したユーザですら想定しなかった構図を持つことがあります。また、AlphaGoの対局で人間には思いつかない一手（有名な「Move 37」など）が打たれたように、AIの判断が開発者や訓練者の意図を超越してしまう場面もあります。このように「誰の意図にも直接は由来しないが意味のある産物」が生じることで、意図の所在や責任の所在が曖昧になるのです。
実際、倫理的にも「責任のギャップ」が指摘されています。AIの出力に予想外の有害性や著作権問題があった場合、それはプロンプトを与えたユーザの責任か、データを用意した開発者の責任か、それともAI自身の擬似的な責任なのかという問題が生じます。
超意図性（Preter-intentionality）とは何か
こうした状況から、一部の研究者は従来の「意図性」概念を拡張・再定義して、このギャップを捉えようと試みています。その一つが「超意図性（preter-intentionality）」という新たな概念です。
超意図性とは文字通りには「意図を超えたもの」を意味します。ラテン語の「praeter intentionem」（行為者の意図を越えて起こる）に由来する言葉で、もともとは法学で「結果的に意図を超えてしまった行為」を指す用語として使われてきました。例えば刑法で、加害の意図はなかったが結果として重大な損害を与えてしまったような場合に「意図を越えた結果」が問題となることがあります。哲学者Roberto Redaelliらは、この「意図を越える」という考え方こそ、生成AIに見られる独特の現象を捉えるのに適していると提案しています。
超意図性の概念は、人間とAIの相互作用から生まれる「技術的な意図性」を表現しつつ、機械に本来の意味での意図を認めるわけではない微妙な状態を示しています。具体的には次のような特徴があります：
- 人間の意図に由来しつつ、それを超える: 生成AIは開発者が「予測不能な創発」を意図して設計したものです。つまり初めから「開発者の手を離れて予期せぬ結果を生むこと」が期待されたシステムだと言えます。一方、その出力内容はユーザの入力やデータに依存しており、完全に独立したものではありません。超意図性は、AIの挙動が人間の意図（設計意図・操作意図）に支えられながらも、それを上回ることを強調する概念です。
- 機械自身の意図（意識）はない: 従来「意図性」というと意識的な意図を連想させますが、超意図性という語を使うことで、AIには意識的・心的な意図は存在しないことが明示されます。AIシステムは目的を持って行為しているわけではなく、あくまで人間の意図的行為と非意図的プロセスが組み合わさった結果としてアウトプットが生まれるのです。
- 意図と非意図のあいだの相互作用: 哲学者ラトゥールの言う「アクターネットワーク」的な見方では、人間と機械を合わせて一つの複合的な行為主体とみなすこともできます。このとき、その主体の行為の中には人間側の意図的要素と機械側の非意図的要素が混在します。超意図性はまさにこの「意図する極」と「意図しない極」の両端に跨るような現象を指し示します。そこでは、機械の振る舞いは人間の意図の延長でありながら、人間だけのときには得られない余剰（サープラス）を生み出します。
超意図性の具体例：AIとの創造的協働
具体例で考えてみましょう。GoogleのSketch-RNNという実験的な描画AIでは、ユーザが絵の描き始めを与えると、AIが続きの線を様々なパターンで描いてくれます。ユーザがネコの絵を描きかけると、AIが様々な「ネコらしい」形を勝手に想像して描き足してくれるのです。
ここではプログラムした人間の意図（ユーザの線から続きを生成するよう設計した）と、ユーザの意図（ネコを描こうとした）が起点にありますが、出来上がった絵の細部やユニークさはどちらの意図にも完全には還元できません。生成AIとの共同作業によって生まれた創造的結果と言えるでしょう。
その結果（完成したネコの絵）は、人間側には予測不能ですが、しかし「予測不能でオリジナルな結果を出すこと」がまさにデザイン上意図されていた点に注目してください。このように、結果それ自体は人間の想定を越えているが、それが起こる仕組み自体は人間が意図して仕掛けた――これが超意図性の典型例です。
Redaelliらの研究では、超意図性という概念によって次のような利点が得られると述べられています：
- 意図性ギャップの解消: 人間の意図だけでは説明できないAIの挙動を、「人間-機械相互作用から生じたもの」と位置づけ直すことで、誰の意図も欠けていないとみなせる。
- AIに「擬人化された意図」を誤って与えない: preter-intentionalityという言葉自体に「意図」という語は入っていますが「超えている」という修飾が付くため、「AIがまるで意図を持つ」かのような誤解を避けられます。
- 創造性・生成性の説明: AIが生み出す創造的・新規な成果を、単なる「偶発的産物」ではなく、超意図的なメカニズムの結果と説明できます。
AI・認知科学における意図性の理論動向
AIや認知科学の分野では、意図性や超意図性に関連する理論・研究が進んでいます。特に注目すべき視点として、オートポイエーシス理論、予測処理理論と能動的推論、そして「意図なき生成」と創造性の関係があります。
オートポイエーシス理論と意図性の起源
オートポイエーシス（autopoiesis）とは、チリの生物学者マトゥラーナとバレーラが提唱した概念で、生物が自己を自己で生産・維持する自己完結的なシステムであることを指します。この観点から、認知科学の一部には「意図性の起源は生命の自己維持活動にある」とする立場があります。
フランシスコ・バレーラやエヴァン・トンプソンらのエナクティブ（作用的）認知論では、意図性＝環境に対する意味付け（sense-making）は、生物がオートポイエーシス的に自己を維持しようとすることから生じると考えられます。例えば単細胞生物であっても、栄養を取り入れ、危険を避ける振る舞いには「自己存続を図る」という基本的な志向性が認められるという主張です。
この見解からすれば、現在のAIが本来的な意図性を欠くのは、AIがオートポイエーシス的な存在ではないからだということになります。すなわち、AIは自分自身で自己を維持しているわけではなく、人間がエネルギーを供給し、プログラムを更新し、目的（タスク）も与えています。この点を強調する研究者は、真に意図性を持つAIを作るには、生物のような自己維持回路を組み込む必要があると示唆します。
予測処理理論と能動的推論による意図のモデル化
近年、脳科学・認知科学で大きな注目を集めている理論に予測処理理論（Predictive Processing）があります。これは脳を「予測マシン」とみなし、脳の主な働きは感覚入力を予測し、予測誤差を最小化することだとする理論です。
ここから派生した能動的推論（Active Inference）の理論では、エージェント（生物やロボット）は内部に持つ生成モデルによって未来の望ましい状態を予測し、その予測を実現するように行動すると考えます。Fristonらの最新の研究（2023年）では、「潜在空間で定義される好ましいゴール状態に向かって行動するエージェント」を形式的に「意図的行動をする」と定義しています。
この理論の示唆するところは、意図（目的）の表現やそれに基づく行動計画は、すべて確率的な予測過程として実装可能だという点です。脳がそうであるように、AIエージェントでも内部モデルと誤差最小化の仕組みを用いれば、まるで意図を持っているかのような挙動が実現できるわけです。
ただし、目標（ゴール）そのものは依然として設計者が与えている点に注意が必要です。能動的推論型のAIが「意図的に」振る舞うと言っても、その意図の内容は人間が与えた価値関数や事前分布として組み込まれています。そこで生まれるのは超意図性と同様の構図であり、「設計者の意図したゴールに沿いつつ、具体的な行動シナリオはAI自身が予測・選択する」という関係性です。
「意図なき生成」と創造性の関係
生成AIの創り出す文章や画像には、一見すると創作者のような意図や意味が込められているように思われます。しかし、それは「意図なき生成」によって得られた産物だという点が人間の創作と決定的に異なります。
人間の芸術や創造行為では、通常作者の意図や動機（モチベーション）が重視されます。絵画や文学でも、作者が何を表現しようとしたか（意図）が作品理解の手がかりになります。しかしAIが描いた絵や執筆した文章には、「表現しようとした誰かの意図」が存在しません。
クリエイティビティ研究の分野では、AIの創作について「人工的創造性(artificial creativity)」という概念が検討されています。例えばMark A. Runcoは2023年の論文で、AIは本当の意味での創造性を持つのではなく「人工的創造性」に留まると論じています。彼の指摘によれば、「意図性は選択と内発的動機を含意する」ため、それが欠けているAIの生成物は人間の創造行為と同列には置けないということです。
しかし一方で、AIが「意図なきところにパターンを見出す力」も評価されています。私たちはChatGPTの文章やMidjourneyの絵から、しばしば「これは○○を表現しているようだ」と人間的な物語や意図を読み取ります。そしてその解釈こそが実際には価値を生んでいるのです。AIの側に意図が無いからこそ、人間が自分の文脈に合わせて意味付けを投影できるという現象があります。
認知アーキテクチャにおける超意図性の設計と解釈
具体的な認知アーキテクチャの中で「意図性」や「超意図性」がどのように実現されるかを見てみましょう。
グローバル・ワークスペース理論（GWT）とAIの意図性
グローバル・ワークスペース理論は、バーナード・バーズらによって提案された人間の意識の認知アーキテクチャ理論です。脳には多数のモジュール（視覚、聴覚、記憶など専門化した処理系）が並列に動いていますが、意識に上る情報は一度に少しであり、それがグローバルな作業空間（ワークスペース）にて共有・放送されると考えます。
GWTに基づくAIアーキテクチャでは、システム内部に一種の「意識状態」が生まれるとも言われます。例えばLIDAというシステムでは、様々なエージェント（モジュール）が提案する情報の中から一つがグローバル空間に掲げられ、それが他のモジュールに影響を与える仕組みがあります。
このようなアーキテクチャを持つAIは、自身の目標や計画をグローバルワークスペース上で検討し、優先度に応じて実行に移すことができます。そのため、外部から見ると「AIが自分の意図で行動している」ような連続性が感じられるでしょう。
しかし重要なのは、そのゴールや評価基準は依然として人間が設定している点です。GWT型AIは「意識風」の制御を行いますが、意識の内容（何をしたいか）は与えられた動機づけに沿って決まるのです。この意味で、GWT型AIの振る舞いも超意図性的だと言えます。
能動的推論エージェントと超意図性
能動的推論（Active Inference）は、実際のAIエージェントの設計にも取り入れられつつあります。能動的推論では、エージェントは「将来の望ましい状態」を事前に持ち（ある種の目標表現）、それに近づくよう行動を選択するとされます。これはロボット制御でいうゴール指向行動と同じですが、ポイントはそれをベイズ的推論（確率的予測）の枠組みで行うことです。
このようなエージェントを設計すると、開発者は個々の状況で何をすべきか細かく教えなくても、エージェント自身が状況判断して行動を決めるようになります。例えば能動的推論ロボットに「倒れないで立ち続けること」が好ましいという目標を与えて訓練すると、ロボットは多少押されても体勢を立て直すような自己安定化行動を示します。
能動的推論フレームワークは汎用的に「任意の目的関数をエージェント内部の優先状態」として実装できるため、さまざまな疑似意図を作り出せます。エージェントに「データ内のパターンを探せ」というドライブを与えれば勝手にクラスタリングを始めるでしょうし、「人と対話し協力せよ」というドライブを与えれば相手の発話を予測して適切な応答行動を取るでしょう。
能動的推論エージェントの行動は、「設計者の期待した目的」を背景に、「エージェントが自律的に計画・選択した具体的行為」が展開するという二層構造を持ちます。この二層構造はまさに超意図性の構図です。設計者（人間）の意図は一般的・間接的な形でエージェントに埋め込まれ、実際の場面場面での振る舞いはエージェント自身の判断に委ねられる。その結果、エージェントは設計者の意図を超える創発的な戦略を生み出すこともありますが、それは完全に独立したエージェントの意図とは言えないのです。
超意図性の意義と展望
「超意図性（preter-intentionality）」という概念は、AIの振る舞いを人間の意図と機械の創発の交差点として捉え直すことで、私たちに次のような示唆を与えてくれます：
- AI観の転換: AIを単なる受動的ツールでもなく、かといって自律的主体でもない、「人間と共に意味を生み出す存在」として位置づける視点を提供します。これにより、責任や創造性の帰属についてより適切な議論が可能になります。
- 言語の慎重な運用: 「意図」「知能」「創造性」といった人間中心の言葉を再検討し、新たな技術文脈に合わせて定義し直す必要性を示します。超意図性という言葉自体、そうした言語的配慮の産物と言えるでしょう。
- 技術開発への示唆: 認知アーキテクチャ設計者に対し、どの部分を人間が制御し、どの部分をシステムに委ねるかの境界を意識させます。グローバルワークスペースや能動的推論のような手法は、超意図性を実現しうる設計ですが、その結果生まれる振る舞いに対して責任をどう取るかも合わせて考える必要があります。
もし将来、AIが高度に発達して自ら意図を形成するような段階（強いAIの出現など）に至れば、超意図性という概念も再度見直しを迫られるでしょう。あるいはその時には、人間とAIの区別自体が今より曖昧になり、意図性という概念も拡張を余儀なくされるかもしれません。しかし少なくとも現在においては、超意図性は「AIの振る舞いを人間の文脈に関連づけて解釈する」ための有用な橋渡し概念です。生成AIとの付き合い方を模索する私たちにとって、哲学的な厳密さと技術的現実感を兼ね備えたこの概念は、倫理・社会的な議論を深める上でも役立つでしょう。
まとめ：哲学と技術の交差点として
本記事では、「超意図性（preter-intentionality）」という概念を軸に、意図性をめぐる哲学的議論と生成AI時代の新たな課題について考察しました。超意図性は、従来の意図性概念を拡張し、生成AI時代における「人間＋AI」の協働的な創発をうまく表現しようとする試みと言えます。
生成AIの発展に伴い、「誰が意図したのか」という問題はますます複雑になっていきます。しかし超意図性という概念を用いることで、AIシステムの振る舞いを人間の意図に過度に還元することなく、かといってAIに意識や主体性を誤って帰属することもなく、「人間とAIの共同的営み」として理解する道が開けるのです。
コメント