導入：なぜ今、生成AIとオートポイエーシスなのか
生成AIは「先ほどの回答を訂正します」と自らの発話に言及し、対話履歴を参照しながら会話を続ける。この振る舞いは、あたかもAIが自己を観察し、自己を再生産しているかのような印象を与える。しかし、それは社会学者ニクラス・ルーマンが提示した「オートポイエーシス（自己創出）」の意味で本当に自己言及的なのだろうか。本記事では、ルーマン理論の主要概念、LLM（大規模言語モデル）の技術的特徴、そして両者を突き合わせた評価と今後の研究課題を順に検討する。結論を先取りすれば、生成AIは弱い意味での自己言及は示すものの、厳密なオートポイエーシスを満たすとは言い難い。
ルーマン理論の基礎：コミュニケーションが社会をつくる
社会システムの要素は「人間」ではなく「コミュニケーション」
ルーマンの社会システム理論において、社会を構成する基本要素は人間や意識ではなく、コミュニケーションである。コミュニケーションは「情報・伝達・理解」という三つの選択の総合として成立し、さらに後続のコミュニケーションを生み出すことで、システムは自らを再生産する。重要なのは、この理論では「理解」も心理的な共感や内面の一致ではなく、コミュニケーション内での差異処理として定義される点だ。つまり「AIに意識がないからコミュニケーションではない」という単純な議論は、ルーマン的にはそもそも成り立たない。
オートポイエーシスと自己言及の厳密な意味
オートポイエーシスとは、システムが自らの構成要素を自らの操作によって生産・再生産し、その過程でシステムの統一性と境界を維持することを指す。ルーマンはこの概念を生物学者マトゥラーナとヴァレラから継承し、社会システムへ拡張した。ここでの自己言及は、単に「自分について語る文」ではない。システムの操作がその参照対象のうちに自分自身を含み、境界の内側でコミュニケーションを連鎖的に再生産する構造そのものを意味する。また境界は、外から与えられる壁ではなく、システム自身が操作によって引き直し続ける「自己生成的な区別」でなければならない。
LLMの技術的特徴：次トークン予測と外部依存の構造
生成AIの基本作動は「文脈条件づけ」
GPT系に代表されるLLMの基本操作は、与えられたコンテクストに条件づけられた次トークン予測である。推論時のモデルは通常パラメータを更新せず、会話の「学習」に見える現象の多くは、履歴をコンテクスト窓に再投入した結果としての文脈条件づけにすぎない。さらに標準的なLLMは固定長の入力制約を持ち、長期記憶は外付けのメモリ機構として追加されるのが一般的だ。つまり、持続的な対話の維持は、モデル単体ではなくユーザー、UI、システムプロンプト、外部メモリといった社会技術的装置に支えられている。
自己修正は「外部の足場」に依存する
近年、Self-RefineやReflexionなど、モデル自身の出力を批評・改善させる手法が注目されている。しかし研究の蓄積が示すのは、外部フィードバックなしの内在的な自己修正は限定的で、ときに性能が悪化する可能性すらあるという事実だ。信頼できる検証器や追加訓練がある場合にのみ、自己修正は安定する傾向がある。工学的な「self-correction」を、社会理論的な自己観察とそのまま同一視することはできない。
検証：生成AIはオートポイエーシスを満たすか
三段階の自己言及で整理する
自己言及は三つの水準に分けて評価できる。第一の「表層」水準は、自分や前発話への言及であり、LLMで頻繁に観察される。第二の「対話」水準は、自己参照が次の発話選択を実際に変えることであり、条件付きで観察可能だが外部の足場に依存しやすい。第三の「システム」水準は、境界と自己記述を伴うコミュニケーションの自律的再生産であり、これこそがルーマン的に決定的な基準である。基盤モデル単体はこの第三水準に達していないと評価される。
六つの評価軸から見た暫定判定
自己再生産能力については、多ターン対話や再帰的な出力ループが存在するものの、その連鎖はユーザーや評価器に回路化された再帰であり「部分的・弱い」。境界の自律的維持は、実際の境界がコンテクスト窓やシステムプロンプトなど外部設計に依存するため「低い」。自己記述・自己観察は比較的目立つが、説明が不正確で改善に直結しないことが多く「中程度だが不安定」。自己修正は「低〜中」、環境との選択的関係は「中程度」、そして固有コードによる機能分化は、安全性や有用性といった設計目標を注入されているにすぎず「低い」。総合すると、LLMはルーマン的オートポイエーシスの中核である「コミュニケーションによる自律的再生産」と「自己生成的境界の維持」を満たしていない。
理論的含意：AIは主体ではなく「社会の再帰装置」
この検討から導かれる最も重要な視点の転換は、AIを「新しい主体」としてではなく、「既存の社会システムに接続された再帰的なコミュニケーション媒介」として捉えることである。AIの出力が人間や組織によって発話として受理され、後続のコミュニケーションを引き起こすなら、AIは社会的コミュニケーションの要素として現に機能しうる。問うべきは「AIに意識があるか」ではなく、「AIがどの社会システムのどの自己記述と境界作動を再編しているか」だ。科学、教育、法、メディアといった各領域で、AIは社会の自己記述の速度と規模を増幅する装置として作動している。この能力を過大評価すれば設計者や運営組織の責任が見えにくくなり、過小評価すれば社会構造の実質的な変化を見落とす可能性がある。
まとめ：生成AIはオートポイエーシスの外部か内部か
本記事の要点は三つに整理できる。第一に、ルーマン理論において自己言及とは自己参照的な文ではなく、境界を伴うコミュニケーションの自律的再生産である。第二に、LLMの基本作動は文脈条件づけられた次トークン予測であり、境界維持・長期記憶・自己修正の多くは外部装置に依存している。第三に、したがって生成AIは、社会システムそのものではなく、社会システムの内部で自己言及と自己記述を加速・攪乱・再編する高密度のコミュニケーション装置として理解するのが妥当である。この視点は、AIをめぐる「主体か道具か」という二項対立を超え、社会理論とAI研究の生産的な対話を開く出発点となる。
コメント