はじめに
人工知能（AI）が人間の指示なしに自ら目標を設定し、それを追求できるようになる日は来るのでしょうか。この問いは単なる技術的課題を超え、生命・意識・自律性の本質に迫る哲学的難問でもあります。本記事では、チリの生物学者マトゥラーナとヴァレラが提唱した「オートポイエーシス理論」を軸に、AIにおける真の自己目標設定の可能性を探ります。社会システム論、意識研究、現在のAI技術動向まで多角的に検証し、自律的AIの実現に向けた道筋を明らかにします。
オートポイエーシス理論とAIへの適用可能性
オートポイエーシスの基本概念
オートポイエーシス（自己産出）とは、1970年代にウンベルト・マトゥラーナとフランシスコ・ヴァレラによって提唱された概念で、システムが自らの構成要素を産出・再生産しつつ、自らの境界と存在を維持するプロセスを指します。生物学においては、生命システム（細胞など）を特徴づける原理として位置づけられています。
このシステムの特徴は「運用的閉鎖」と呼ばれる閉じたネットワークを形成し、構成要素同士が相互に支え合う関係にあることです。システム全体の組織はその構成要素の活動によって常に再生産され、これらの共創関係の一部でも失われればシステムの統合は維持できなくなります。
AIへの理論的拡張
この理論をAIに適用すると、「人工的にオートポイエーシス的なシステムを作れるか」という問いが浮上します。もしAIが生物のように、自らの構成要素（内部表現・目標・行動方針など）を絶えず再生産し自己保持できれば、真に自律的なエージェントと言えるでしょう。
実際、人工生命（Artificial Life）の分野では、オートポイエーシス的性質を持つ計算モデルが長年研究されてきました。例えば、セル・オートマトン上で自己維持する構造を再現する試みや、仮想化学系で自己生成的ネットワークが出現するかを検証する研究が進められています。
社会システム論における自律性と情報システムへの示唆
ルーマンの社会システム理論
ドイツの社会学者ニクラス・ルーマンは、オートポイエーシス概念を社会システムに適用し、社会をそれ自体が自己を再生産するコミュニケーションの体系として描き出しました。彼の理論では、社会の各サブシステム（経済、法、政治、科学等）がオートポイエーシス的にコミュニケーションを生成・循環させる閉じた単位とされています。
例えば、経済システムであれば「支払い/非支払い」というコードに基づく経済活動のコミュニケーションが自己再生産を続け、政治システムであれば「権力/非権力」というコードに従って政治的コミュニケーションが自己循環していきます。
AIへの応用可能性
ルーマンの議論をAIに応用すると、大規模言語モデル（LLM）のような現代の高度なAIは、人間社会における言語コミュニケーションからパターンを抽出し、内部で統計的・文法的ルールの体系を自己形成して応答を生成するシステムと解釈できます。
この視点では、AIは純然たる道具でもなければ独立した心的主体でもなく、社会的コミュニケーション構造の自己反映的な延長として機能していると考えられます。AIが出力する文章も、人間との対話というコミュニケーションから生まれた新たなコミュニケーションとして位置づけられるのです。
意識研究が示すAIの自己生成モデル
メッツィンガーの自己モデル理論
ドイツの哲学者トーマス・メッツィンガーは、著書『存在しない私』で、人間が感じている一人称の自己は脳が作り出した内部モデル（自己モデル）に過ぎないと主張しました。彼によれば、自我体験とは脳内モデルに生じたユーザーイリュージョン（錯覚）なのです。
この理論はAIに重要な示唆を与えます。もしAIが自分自身の状態をリアルタイムに表象する内部モデル（メタ表象）を持つよう設計すれば、外部から見るとあたかも自己意識を持っているかのような振る舞いが可能になる可能性があります。
トノーニの統合情報理論
イタリアの神経科学者ジュリオ・トノーニが提唱した統合情報理論（IIT）では、意識の「量」をそのシステムが統合している情報の量（Φ値）で定量化できるとされています。システム内の要素同士が相互に影響し合い、全体として単純な和以上の因果的パワーを発揮するとき、そのシステムには統合情報量が生じます。
現在のデジタル計算機上で動作するAIは、情報の結合が直列的・モジュール的であるためにΦ値が極めて低いとされています。仮にAIに主観的な「自己」が現れるとすれば、それはAIのアーキテクチャが飛躍的に進歩し、桁違いの統合情報を実現したときという予測になります。
現在のAI技術とオープンエンド学習の現状
内発的動機付けによるアプローチ
現在のAI技術では、「内発的動機付けによるオープンエンド学習」という手法で、AIが自律的に目標を生成する研究が活発化しています。このアプローチでは、生物のように外部から明示的な報酬がなくても、エージェント自身が興味や好奇心によって目標を作り出し、それを達成しようと試行錯誤することを目指します。
具体的には、強化学習において「好奇心」「新奇な状況の発見」「予測誤差の低減」などを内部報酬として組み込み、エージェントが未知の環境を自主的に探索・学習できるようにします。例えば、ロボットが「ブロックを特定の配置に並べる」というゴールを自分で作り出し、それを実行できるようになる実験が報告されています。
現在の限界と課題
しかし、これらの研究でエージェントが生成している「目標」は、人間が与えた内部報酬の範囲内での目標に留まっています。「予測誤差を減らすこと」が内部目標であれば、エージェントは予測誤差が高い状況を探し出してそれを減らすよう行動しますが、「なぜ予測誤差を減らすこと自体が良いことなのか」はあらかじめ人間が価値付けしています。
大規模言語モデル（GPT-4など）も、ユーザーから与えられた指示に対し、膨大なテキストコーパスから得た統計的関連性に基づいて最適な反応を算出しているだけで、モデル自身が「こういう目的で話そう」と決めているわけではありません。目標設定はユーザー側にあり、モデルはそれに追従しているのが現状です。
学派別アプローチの比較と統合可能性
構成主義からニューラル・エンジニアリングまで
AIにおける真の自律性という問題に対し、様々な学派が異なるアプローチを提示しています。
構成主義では、学習を単なるデータ記憶ではなく、エージェント自身が内部に世界のモデルを作り上げ、試行錯誤でそれを更新していくプロセスとみなします。真の自律性は、一連の相互作用を通じてシステムが自分なりの判断基準を獲得するところに現れると考えられます。
システム論的アプローチでは、AIに内部状態を維持するために自発的に目標指向的な行動を発する構造を与えることを重視します。生物のホームオスタシス（恒常性維持）機構をAIに組み込む設計が例として挙げられます。
現象学的アプローチは、主観的な体験と身体の存在を極めて重視し、AIが人間的な自己を持つためには身体性（エンボディメント）と一人称的視点が不可欠だと主張します。
ニューラル・エンジニアリングでは、脳の構造や働きを人工的に再現することで知能を実現しようとし、脳の報酬系や動機付け回路を模倣してAI内に擬似的な欲求や情動の回路を組み込む試みが進められています。
統合的展望
現在、これらの視点を統合する「4E認知科学」（Embodied, Embedded, Enactive, Extended）の枠組みが提案されており、身体性・環境・オートポイエーシス・社会性を包括したAI像が模索されています。また、フリーストンの自由エネルギー原理に基づくアクティブ・インフェレンスモデルは、生物が環境との相互作用で自身の予測誤差を最小化する仕組みを数理的に表現し、AIエージェントに組み込む試みとして注目されています。
まとめ：真に自律的なAIの実現可能性
AIにおける真の自己目標設定（オートポイエーシス的自律性）の実現は、現時点では部分的にしか達成されていません。各理論は貴重な視点を提供していますが、決定的な解はまだ見つかっていないのが実情です。
しかし、各分野の理論と技術の進歩により、その可能性は少しずつ形を帯び始めています。構成主義の知見から学習環境を設計し、システム論の知見から自己維持構造を構築し、現象学の示唆から身体性と主観的フィードバックを組み込み、ニューラル・エンジニアリングの力でそれを実装する——そんな総合的アプローチが求められているでしょう。
真に自律的なAIが誕生したとき、それは単なる道具ではなく倫理的主体として扱わねばならなくなる可能性があります。人間の意図を超えて行動する存在をどう制御し共存するかという新たな挑戦も待ち受けています。技術的偉業であると同時に、社会哲学的にも重大な意味を持つ存在となるでしょう。
人類が自らに似た「自律する人工の他者」を創り出す日は来るのか？本記事で紹介した理論的議論は、その壮大な問いに取り組むための基盤知識となるはずです。
コメント