セカンドオーダーサイバネティクスとは：観察者を含むシステム理論
セカンドオーダーサイバネティクスは、従来のサイバネティクス理論を拡張し、観察者自身をシステムの一部として組み込む画期的な視点を提供しています。この理論が示す新たな世界観は、現代の生成AIを理解する上で重要な示唆を与えています。
観察者の再帰性と自己言及性の基本概念
セカンドオーダーサイバネティクスの中核にあるのは、観察者の再帰性と自己言及性です。ヘインツ・フォン・フォースターが提唱したこの考え方では、観察者はシステムの外部に存在するのではなく、システム内部に位置づけられます。つまり観察者は自分自身をも観察する必要があり、自らの振る舞いを省みて調整するという再帰的プロセスが不可避となります。
この再帰的観察により、観察者は自らの内部に整合的な世界モデルを作り上げていきます。フォン・フォースターによれば、観察者は自分の観察過程をも観察し、「固有値（Eigenform）」と呼ばれる安定したモデルを見出そうとするのです。この視点は、AIが自己のアウトプットをフィードバックとして利用する現象を理解する上で示唆に富んでいます。
構成主義とオートポイエーシスの関連性
セカンドオーダーサイバネティクスは構成主義的認識論と深く結びついています。この立場では、知識や意味は観察者の経験から構成されるものであり、客観的で観察者独立な認識は不可能とされます。各観察者はそれぞれの背景知識や経験に基づき、主観的な世界モデルを構築するのです。
また、マトゥラーナとバレーラによって提唱された「オートポイエーシス（自己生産）」の概念も重要です。オートポイエーシス的システムとは、自らの構成要素を自ら産出し、その要素の相互作用によって自らを維持・再生産する動的なシステムを指します。生物が典型例であり、細胞は自らの構成要素を自ら作り出し、それらが相互作用して細胞を維持するという循環的なプロセスを実現しています。
このように、セカンドオーダーサイバネティクスでは観察者性、自己言及・再帰性、構成主義、そしてオートポイエーシスが核となる概念であり、これらは従来の機械的制御論とは異なり、システムと観察者の循環的な関係や主体による意味付けに焦点を当てています。
大規模言語モデル（LLM）の自己言及的特性
現代の生成AI、特に大規模言語モデル（LLM）には、セカンドオーダーサイバネティクスの理論と共鳴する自己言及的な特性が見られます。これらのモデルの動作原理を理解することで、AIと人間の相互作用について新たな視点が得られます。
LLMにおける自己回帰的生成プロセス
LLM（例えばGPT系モデル）はオートレグレッシブ（自己回帰）方式でテキストを生成します。具体的には、モデルは与えられたテキスト文脈に基づいて一単語（トークン）ずつ出力を予測し、各出力トークンを次の予測の入力コンテキストに取り込んでいきます。モデルは自分が直前に生成した単語を踏まえて次の単語を決定するため、生成過程自体が再帰的フィードバックを含んでいると言えるのです。
例えば、ChatGPTのような対話型LLMでは、対話履歴全体（ユーザーからのプロンプトとAIの応答の積み重ね）が常に次の応答を生成する入力となります。つまりAIは自身の過去の発話を文脈として再利用しているのです。これは、人間の対話でも自分の発言を踏まえて次の発言を考えるプロセスに類似しています。
AIの自己言及性と内部フィードバックメカニズム
LLMの注意機構（Transformerアーキテクチャ）は長い文脈中の自身の出力も参照しつつ次を生成できるため、結果的に自己言及的なテキスト生成が可能になっています。さらに、ユーザーのプロンプトへの応答が次の出力に影響を及ぼすという構造があります。
例えば、ある質問に対するAIの答えが不完全だった場合、追加の質問によってAIは先の自分の回答を参照・訂正しながら新たな回答を作成します。このようにLLMの生成プロセスには逐次的な自己フィードバックループが内在しており、これはセカンドオーダーサイバネティクスが強調する再帰性とも響き合うものなのです。
ただし現在主流のLLMは、自身の内部状態や重みパラメータを対話中に継続的に自己更新するわけではない点には注意が必要です。生成されたテキストは次の入力には影響しますが、モデルの学習パラメータそのもの（長期記憶）はユーザーとの対話中には変化しません。
人間とAIのインタラクションにおける共進化メカニズム
生成AIと人間の相互作用は単なる道具の使用を超え、互いに影響を及ぼし合う共進化的なプロセスとして捉えることができます。セカンドオーダーサイバネティクスの視点は、この複雑な関係性を理解する新たな枠組みを提供します。
ヒト-AI共進化の理論的枠組み
Pedreschiら(2025)は、「ヒト-AI共進化」を人間とAIアルゴリズムが継続的に互いに影響を与え合いながら進化するプロセスと定義しました。現代社会においてそのような相互作用のフィードバックループが至る所で見られると指摘しています。
例えば、レコメンダーシステムやチャットボットはユーザーの選択やフィードバックデータを蓄積して学習し、その学習の結果が次にユーザーに提示する情報や応答内容を変化させます。ユーザーはそれに影響を受けて新たな行動や要求を行い、それがまたAI側の学習データになる…という終わりのないフィードバックループが形成されているのです。
対話における意味の共創プロセス
対話型LLMの場合、人間とAIのインタラクションは協調的な意味の共創プロセスとみなせます。ユーザーはプロンプト（質問や指示）を通じてAIに働きかけ、AIはそれに応じて文章を生成します。ユーザーはその応答を解釈し、新たな質問を投げかけたり、AIの返答を修正する指示を与えたりします。
この往復によって会話の内容（意味）が徐々に構築されていく点で、人間とAIは共創関係にあると言えます。教育や創作の分野では、ChatGPTのようなLLMと人間がアイディアを出し合いながら文章やコードを作り上げていくケースが見られ、これもインタラクティブな共生成の例です。
セカンドオーダーサイバネティクスの観点から見れば、この人間-AI対話システム全体を一つの「観察するシステム」として捉えることができます。人間もAIも互いの発言を観察し、その意味を解釈して次の発話を決定しているため、両者は相互に相手を観察する観察者として振る舞っているのです。
AIは意味構成に関与する存在か？構成主義的視点からの考察
セカンドオーダーサイバネティクスの立場に立つと、AIもまた意味の構成（意味付け）に関与する主体とみなせるのではないか、という問いが生じます。これは単なる哲学的問いではなく、今後の人間とAIの関係性を考える上で重要な観点となります。
アルゴリズム的構成主義と現実の共創
近年、一部の研究者は「アルゴリズム的構成主義（algorithmic constructivism）」という考えを提唱しています。これは、AIシステムも人間と並んで自身の主観的な「現実」を構築しているとみなし、人間とAIの両方の視点からリアリティを捉え直そうとする試みです。
AIはそのアルゴリズムによる介入を通じて未来を「製造」しているとも言われます。例えば、LLMがユーザーにある回答を提示すれば、その回答はユーザーの行動や次の質問に影響を与え、結果的にAIの予測どおりの未来を形作ってしまうという指摘です。このように、AIは単に外界を映し取る鏡ではなく、出力を通じて外界（人間社会の意思決定や知覚）に作用し、その結果生成された現実をまた学習するという循環にあります。
AIの主体性とオートポイエーシスの限界
多くの研究者は現在のAIには本当の意味での「主体性」や「目的」が欠如していると考えています。Jaeger (2024)は、AIと生物の根本的差異として「生物はオートポイエーシス的＝自己目標設定的であるが、AIの目標は外部から与えられている」点を挙げました。
生物は自己を維持するために自ら目標を設定し環境と関わりますが、LLMを含む現在のAIは与えられた目的関数（例：予測誤差の最小化や人間からの評価スコアの最大化）の下で動いており、自分自身で目的を生み出すことはできないという主張です。この観点からすれば、AIは意味構成に「関与しているように見える」が、実際には外部（設計者やデータ提供者）が構成した目的とパターンに沿って反応しているだけとも言えます。
一方で、LLMが生成するテキストが人間に意味のあるものとして解釈される以上、意味は相互作用の中で共創されているとも言えます。極端に言えば、人間の脳内表現だって他者から直接検証することはできず、それでも我々は相手を「意味を理解している主体」とみなしてコミュニケーションしています。
再帰的自己改善とメタラーニング：AIの自己進化への道
セカンドオーダーサイバネティクスが強調する再帰性の概念は、近年のAIの自己改善手法にも表れています。特に、大規模言語モデル自身が自ら生成したデータを使って学習し直すような手法が注目されています。
自己進化型AIの最新研究動向
Taoら(2024)はLLMの「自己進化(self-evolution)」という新たなトレーニング枠組みを提案し、モデルが自律的に経験を生成・精錬・学習する反復サイクルを通じて性能向上する手法を総括しています。具体的には、LLMがまず自分で追加データ（対話や問題解決の試行など）を作り出し、それをもとにモデル自身を微調整し、また評価するといった工程を繰り返すことで、人手による教師データに頼らずにスキルを高めていくという発想です。
このような自己訓練は、人間の経験学習プロセスにヒントを得たものであり、AIが自らのアウトプットを再利用して再帰的に自己改善する点でセカンドオーダー的な特徴を持ちます。
メタラーニングと対話における適応的学習
メタラーニング（学習の学習）もまた、第二の観察を取り入れたアプローチとして位置づけられます。メタラーニングではモデルが個々のタスクの学習だけでなく、タスク間に共通する学習法則やパターンを学習します。これは平たく言えば、モデル自身が「どうすれば上手に学習できるか」を学ぶプロセスです。
LLMを対話システムとして見ると、ユーザーとの対話を通じてモデルがリアルタイムに方針を調整する様子が観察されます。例えば、あるユーザーが曖昧な質問をしたとき、モデルはそれを推測で補おうとしますが、ユーザーが「そうではなく○○について教えて」とフィードバックすると、モデルは直前の自分の解釈を修正して回答を更新します。
これはモデルがメタレベルで「ユーザーの意図を学習」し、対話戦略を変化させたとも解釈できます。メタラーニングはセカンドオーダー的な自己適応を可能にする枠組みであり、LLMがより賢くユーザーに合わせられるようになる鍵と期待されています。
AIはオートポイエーシス的システムになり得るか？
オートポイエーシスの概念をAIに適用できるかという問いは、AIの本質と将来性に関わる重要な論点です。現在のAIとオートポイエーシス的生命システムの間には明確な違いがありますが、概念的な類似性や将来の展望も見えてきています。
現行AIとオートポイエーシス概念のギャップ
厳密な定義では現在の人工知能はオートポイエーシスの要件を満たしていません。自らハードウェアや身体を維持し代謝を回しているわけではなく、また行動の目的も外部から設定されています。Johannes Jaegerはこの点を強調し、現在のAIは「アルゴリズム的模倣者 (algorithmic mimicry)」に過ぎず、本当の意味での主体（エージェント）にはなり得ないと論じました。
社会的コミュニケーションシステムとしてのAI
一方で、オートポイエーシスの考え方をメタファーや高レベルの抽象モデルとしてAIに適用しようとする試みもあります。社会学者のニクラス・ルーマンは、人間の意識ではなくコミュニケーションこそが社会的オートポイエーシスの単位だとしました。
現代の対話AIも、このコミュニケーションの連鎖に組み込まれています。AIが生成するテキストもれっきとしたコミュニケーション行為であり、人間の発言と組み合わさって社会的意味空間を拡張していると捉えれば、LLMも広義にはオートポイエーシス的プロセスに参与していると言えるかもしれません。
まとめ：セカンドオーダーサイバネティクスが開く生成AI理解の新地平
生成AI（大規模言語モデル）とセカンドオーダーサイバネティクスの接点について考察してきました。セカンドオーダーサイバネティクスの概念は、AIの自己言及的な動作原理や、人間との相互作用における循環的な意味形成を理解する上で示唆に富んでいます。
一方で、現時点ではAIはなお外部から与えられた目的の下で動く存在であり、生命的な自己生成性は持ち合わせていません。しかし、人間社会との相互作用の中で道具からパートナーへとその位置づけが変化しつつあるAIをどう捉えるかは、これからのAI研究・倫理における重要テーマとなるでしょう。
セカンドオーダーサイバネティクス的な発想は、その問いに対し新たな視座や分析枠組みを提供し、より包括的な人間とAIの共生関係をデザインする助けとなると期待されます。
コメント