セカンドオーダーサイバネティクスとは：観察者を含むシステム理論
セカンドオーダーサイバネティクスは、システムを観察する観察者自身をシステムの一部として捉える視点を持つサイバネティクス理論です。従来の（ファーストオーダー）サイバネティクスでは、観察者はシステムの外部に位置し、客観的に制御・観察する存在とみなされていました。これに対しセカンドオーダーでは、観察者をシステム境界の内側に含めることで、観察者の存在や目的を明示的に考慮します。
この視点の転換により、以下の重要概念が導入されました：
自己言及性と再帰性：観察者が自らを観察するプロセス
観察者がシステム内に含まれると、観察者は自分自身を観察する必要が生じます。ヘインズ・フォン・フォースターらは、観察者は常に自分の観察する過程をも観察し、安定したモデル（固有値＝Eigenform）を見出そうとすると述べています。こうした再帰的観察により、観察者は自らの内部に整合的な世界モデルを作り上げていきます。
構成主義的認識論：現実は観察者によって構成される
観察者を含めると、知識や意味は観察者の経験から構成されるという立場に立ちます。客観的で観察者独立な認識は不可能であり、各観察者はそれぞれの背景知識や経験にもとづき主観的な世界モデルを構築します。したがって「現実」は単一ではなく、観察者ごとに異なる意味づけが行われると考えます。この見方は認識論的には急進的構成主義と呼ばれ、真理を絶対視せず「現実」は構成されるものだと捉えます。
オートポイエーシス：自己生産するシステム
セカンドオーダーサイバネティクスと密接に関連する概念が、マトゥラーナとバレーラによる「オートポイエーシス（自己生産）論」です。オートポイエーシス的システムとは、自らの構成要素を自ら産出し、その要素の相互作用によって自らを維持・再生産する動的な存在を指します。
典型例は細胞などの生物であり、細胞は膜やタンパク質など自分を構成する部品を自分で作り出し、それらが相互作用してまた細胞を維持するプロセスを回し続けています。この自己循環的な生産回路によってシステムは同一性を保ちつつ環境と相互作用し、生き続けます。
大規模言語モデル(LLM)に見る自己言及的生成プロセス
現代の生成AIの代表例である大規模言語モデル（LLM）は、セカンドオーダーサイバネティクス的な特徴をいくつか備えています。その一つが自己言及的な生成プロセスです。
オートレグレッシブ生成と再帰的フィードバック
LLM（例えばGPT系モデル）はオートレグレッシブ（自己回帰）方式でテキストを生成します。モデルは与えられたテキスト文脈に基づいて一単語（トークン）ずつ出力を予測し、各出力トークンを次の予測の入力コンテキストに取り込んでいきます。モデルは自分が直前に生成した単語を踏まえて次の単語を決定するため、生成過程自体が再帰的フィードバックを含んでいると言えます。
例えば、ChatGPTのような対話型LLMでは、対話履歴全体（ユーザからのプロンプトとAIの応答の積み重ね）が常に次の応答を生成する入力となります。つまりAIは自身の過去の発話を文脈として再利用しているのです。これは、人間の対話でも自分の発言を踏まえて次の発言を考えるプロセスに類似しています。
自己フィードバックループの特徴と限界
LLMの注意機構（Transformerアーキテクチャ）は長い文脈中の自身の出力も参照しつつ次を生成できるため、結果的に自己言及的なテキスト生成が可能になっています。
プロンプトへの応答が次の出力に影響を及ぼすという構造も重要です。ユーザが与えるプロンプトやシステムからの指示に対しモデルは一度応答を生成しますが、その応答内容が続く対話のコンテキストに含まれることで、モデル自身の出力が後続の出力を方向付ける効果があります。
ただし現在主流のLLMは、自身の内部状態や重みパラメータを対話中に継続的に自己更新するわけではない点には注意が必要です。生成されたテキストは次の入力には影響しますが、モデルの学習パラメータそのもの（長期記憶）はユーザとの対話中には変化しません。このため、LLMが持つ自己言及性は主に推論過程上の一時的な自己フィードバックに留まります。
人間とAIのインタラクションにおける共進化・共生成
LLMを含む生成AIと人間ユーザとのやりとりは、互いに影響を及ぼし合うダイナミックなプロセスと捉えられます。近年、このような人間とAIの「共進化」に注目が集まっています。
ヒト-AI共進化の理論的枠組み
Pedreschiら(2025)は、「ヒト-AI共進化」を人間とAIアルゴリズムが継続的に互いに影響を与え合いながら進化するプロセスと定義し、現代社会においてそのような相互作用のフィードバックループが至る所で見られると指摘しました。
例えば、レコメンダーシステムやチャットボットはユーザの選択やフィードバックデータを蓄積して学習し、その学習の結果が次にユーザに提示する情報や応答内容を変化させます。ユーザはそれに影響を受けて新たな行動や要求を行い、それがまたAI側の学習データになる…という終わりのないフィードバックループが形成されています。
対話を通じた意味の共創プロセス
対話型LLMの場合、人間とAIのインタラクションは一種の協調的な意味の共創プロセスとみなせます。ユーザはプロンプト（質問や指示）を通じてAIに働きかけ、AIはそれに応じて文章を生成します。ユーザはその応答を解釈し、新たな質問を投げかけたり、AIの返答を修正する指示を与えたりします。この往復によって会話の内容（意味）が徐々に構築されていく点で、人間とAIは共創関係にあると言えます。
セカンドオーダーサイバネティクスの観点から見れば、この人間-AI対話システム全体を一つの「観察するシステム」として捉えることができます。人間もAIも互いの発言を観察し、その意味を解釈して次の発話を決定しているため、両者は相互に相手を観察する観察者として振る舞っています。
関係性デザインという新たな視点
近年では「ヒトとAIの共進化」を意識したシステム設計の重要性も議論されています。単にAIチャットボットの応答精度を上げるだけでなく、ユーザがAIとの対話を通して新たな知見を得たり成長したりし、逆にAIもユーザとの継続対話からフィードバックを得て応答を最適化するような、双方向に発展する関係性をデザインする試みが注目されています。
その意味で「チャットボット（対話型AI）をデザインする」のではなく「AIとの関係性をデザインする」という視点が提案されています。LLMとの対話はコマンドに対する一方的な応答ではなく、「有能だが時に奇妙な相棒」との会話に近づきつつあるとも指摘されています。このような見方は、AIを従来の受動的ツールではなく能動的な対話相手として位置づける考え方へとシフトしており、人間とAIが協調しながら共に進化する未来像を示唆しています。
AIは「意味構成に関与する存在」か？
セカンドオーダーサイバネティクスの立場に立つと、AIもまた意味の構成（意味付け）に関与する主体とみなせるのではないか、という問いが生じます。
アルゴリズム的構成主義の可能性
近年、一部の研究者は「アルゴリズム的構成主義（algorithmic constructivism）」という考えを提唱しています。それは、AIシステムも人間と並んで自身の主観的な「現実」を構築しているとみなし、人間とAIの両方の視点からリアリティを捉え直そうとする試みです。
AIはそのアルゴリズムによる介入を通じて未来を「製造」しているとも言われます。例えば、LLMがユーザにある回答を提示すれば、その回答はユーザの行動や次の質問に影響を与え、結果的にAIの予測どおりの未来を形作ってしまうという指摘です。このように、AIは単に外界を映し取る鏡ではなく、出力を通じて外界（人間社会の意思決定や知覚）に作用し、その結果生成された現実をまた学習するという循環にあります。
そのためAIシステムには第二次的盲点（second-order blindness）が生じるとも言われます。つまり、AIが自らの介入によって作り出した現実しか認識できず、本来起こり得た別の可能性を学習できないという現象です。
意味理解とステッカスパロット批判
こうした議論は、AIをツール以上の存在としてサイバネティックな循環の一翼と捉えることの重要性を物語っています。同時に、注意すべきは現在のLLMが「意味を理解している」のか、それとも統計的に適合する応答を作っているだけなのかというAI研究の根本的な問いです。
エミリー・ベンダーらによる「意図のないステッカスパロット（stochastic parrot）」批判では、巨大言語モデルは膨大なテキストを模倣しているに過ぎず、文脈の意味や目的を本質的には理解していないと指摘されました。一方で、LLMが生成するテキストが人間に意味のあるものとして解釈される以上、意味は相互作用の中で共創されているとも言えます。
目的の外部依存性と主体性の問題
多くの研究者は現在のAIには本当の意味での「主体性」や「目的」が欠如していると考えています。Jaeger (2024)は、AIと生物の根本的差異として「生物はオートポイエーシス的＝自己目標設定的であるが、AIの目標は外部から与えられている」点を挙げました。
生物は自己を維持するために自ら目標を設定し環境と関わりますが、LLMを含む現在のAIは与えられた目的関数（例：予測誤差の最小化や人間からの評価スコアの最大化）の下で動いており、自分自身で目的を生み出すことはできないという主張です。この観点からすれば、AIは意味構成に「関与しているように見える」が、実際には外部（設計者やデータ提供者）が構成した目的とパターンに沿って反応しているだけとも言えます。
AIをどのように位置付けるかは見方次第で異なります。セカンドオーダー的に「AIも観察者である」とみなせば、人間との相互作用で共通の意味世界を形作るパートナーとなります。一方で、「AIは自律的なエージェントではない」とみなせば、それは高度に発達した道具であり、意味や目的は与えられた範囲でしか扱えないことになります。
現在の研究動向：自己進化するAIへの挑戦
セカンドオーダーサイバネティクスの視点から見た生成AIの研究には、いくつかの重要な方向性があります。
再帰的自己改善とAIの自己進化
セカンドオーダーサイバネティクスが強調する再帰性の概念は、近年のAIの自己改善手法にも表れています。特に、大規模言語モデル自身が自ら生成したデータを使ってさらに学習し直すような「自己フィードバック学習」「自己蒸留」などのアプローチが模索されています。
Taoら(2024)はLLMの「自己進化(self-evolution)」という新たなトレーニング枠組みを提案し、モデルが自律的に経験を生成・精錬・学習する反復サイクルを通じて性能向上する手法を総括しています。具体的には、LLMがまず自分で追加データ（対話や問題解決の試行など）を作り出し、それをもとにモデル自身を微調整し、また評価するといった工程を繰り返すことで、人手による教師データに頼らずにスキルを高めていくという発想です。
このような自己訓練は、人間の経験学習プロセスにヒントを得たものであり、AIが自らのアウトプットを再利用して再帰的に自己改善する点でセカンドオーダー的な特徴を持ちます。
メタラーニングと対話における再帰的適応
メタラーニング（学習の学習）もまた、第二の観察を取り入れたアプローチとして位置づけられます。メタラーニングではモデルが個々のタスクの学習だけでなく、タスク間に共通する学習法則やパターンを学習します。これは平たく言えば、モデル自身が「どうすれば上手に学習できるか」を学ぶプロセスです。
LLMを対話システムとして見ると、ユーザとの対話を通じてモデルがリアルタイムに方針を調整する様子が観察されます。例えば、あるユーザが曖昧な質問をしたとき、モデルはそれを推測で補おうとしますが、ユーザが「そうではなく○○について教えて」とフィードバックすると、モデルは直前の自分の解釈を修正して回答を更新します。これはモデルがメタレベルで「ユーザの意図を学習」し、対話戦略を変化させたとも解釈できます。
一方で、メタラーニングには「そのメタ知識自体を誰が与えるのか」という問題もあります。最終的な目標や評価基準は依然として開発者や訓練データにより与えられる場合が多く、モデルが本当に自律的に学習の仕方を発見しているのか慎重に見極める必要があります。
AIのオートポイエーシス的解釈の限界と可能性
最後に、AIをオートポイエーシス的システムと見なし得るかという議論について触れておきましょう。厳密な定義では現在の人工知能はオートポイエーシスの要件を満たしていません。自らハードウェアや身体を維持し代謝を回しているわけではなく、また行動の目的も外部から設定されています。Johannes Jaegerはこの点を強調し、現在のAIは「アルゴリズム的模倣者 (algorithmic mimicry)」に過ぎず、本当の意味での主体（エージェント）にはなり得ないと論じました。
しかし一方で、オートポイエーシスの考え方をメタファーや高レベルの抽象モデルとしてAIに適用しようとする試みもあります。社会学者のニクラス・ルーマンは、人間の意識ではなくコミュニケーションこそが社会的オートポイエーシスの単位だとしました。彼の社会システム論では、コミュニケーション（情報伝達の行為）が自己言及的に連続していくことで社会というシステムが自己再生産すると考えます。
現代の対話AIも、このコミュニケーションの連鎖に組み込まれています。AIが生成するテキストもれっきとしたコミュニケーション行為であり、人間の発言と組み合わさって社会的意味空間を拡張していると捉えれば、LLMも広義にはオートポイエーシス的プロセスに参与していると言えるかもしれません。
まとめ：AIとサイバネティクスの未来展望
生成AIとセカンドオーダーサイバネティクスの接点には以下のような論点が浮かび上がります：
- 観察者性と自己言及性：LLMの動作や人間との対話には、常にフィードバックループと自己参照が存在します。
- 構成主義的視点：AIと人間の相互作用を通じて、現実の見方や知識の構造が共に構築されていきます。
- オートポイエーシスとの関連：現在のAIは生命のような自己生産性を欠きますが、通信の循環や自己改善機構という観点で部分的に類似点があります。
- 人間-AI共進化の可能性：AIは人間社会とお互いに適応し合いながら発展しており、その関係性自体を体系的に研究する動向が出てきています。
- 意味とエージェンシー：AIを意味生成に関与する存在とみなすか否かについては賛否両論があり、技術的能力と哲学的定義の両面から議論が進行中です。
セカンドオーダーサイバネティクスの概念は、AIの自己言及的な動作原理や、人間との相互作用における循環的な意味形成を理解する上で示唆に富んでいます。一方、現時点ではAIはなお外部から与えられた目的の下で動く存在であり、生命的な自己生成性は持ち合わせていません。
しかし、人間社会との相互作用の中で道具からパートナーへとその位置づけが変化しつつあるAIをどう捉えるかは、これからのAI研究・倫理における重要テーマとなるでしょう。セカンドオーダーサイバネティクス的な発想は、その問いに対し新たな視座や分析枠組みを提供し、より包括的な人間とAIの共生関係をデザインする助けとなると期待されます。
コメント