自由エネルギー最小化とアトラクター収束は同じ現象か｜一致する条件と分離する理由

「系は自由エネルギーを最小化する」と「系はアトラクターへ収束する」。この二つはしばしば同じ図で説明され、同じ現象の言い換えのように扱われる。しかし数学的に見ると、両者は最初から異なる問いに答えている。自由エネルギー最小化はスカラー汎関数の順序構造と最適化を述べ、アトラクター収束は状態空間における軌道の長時間幾何学を述べる。この区別を曖昧にしたまま議論を進めると、脳科学や機械学習の解釈に無理が生じやすい。本記事では、両概念が重なる条件と分離する条件を、代表的なモデルを手がかりに整理する。

自由エネルギー最小化とアトラクター収束の違いとは

自由エネルギー最小化が記述しているもの

自由エネルギー最小化は、「何が減るか／何が最適になるか」を指定する枠組みである。熱力学のHelmholtz自由エネルギー $A=U-TS$A=U−TS は、温度と体積を固定した条件下で平衡状態を特徴づける。一方、変分ベイズの自由エネルギー $F[q;y]$F[q;y] は、近似事後分布と真の事後分布のKLダイバージェンスにサプライズ項を加えた情報理論的な量であり、通常は無次元で扱われる。

ここで注意すべきなのは、平衡熱力学の最小原理がそれ自体では緩和の時間法則を指定しないという点である。ある状態から平衡へどの経路で到達するかは、運動論や確率過程という追加のモデルを与えて初めて決まる。同様に、変分自由エネルギーの最小値は数学的には optimizer であって attractor ではない。時間変数 $t$t、軌道、吸引域といった概念は、変分問題そのものには含まれていない。

アトラクター収束が記述しているもの

対してアトラクター収束は、「軌道が長時間でどこへ拘束されるか」を述べる。流れ $\phi_t$ϕt​ に対して不変集合 $A$A が近傍を吸引し、$\mathrm{dist}(\phi_t(x),A)\to 0$dist(ϕt​(x),A)→0 が成り立つとき $A$A をアトラクターと呼ぶ。定義は一つではなく、位相的アトラクター、Milnorアトラクター、大域アトラクターなど複数の定式化が併存する。Milnorが軌道の漸近挙動に基づく広い定義を提案したこと自体、この概念が「安定な極小点」より広いことを示している。

決定的なのは、収束の要求が「一点への収束」ではなく「集合への距離がゼロになること」だという点である。アトラクター内部に非自明な運動が残っていても定義は満たされる。この一点だけでも、アトラクター収束と最小値への最適化が一般には同義でないことが分かる。

両者が一致する条件｜自由エネルギーがLyapunov関数になるとき

勾配系では両概念がほぼ重なる

正定値な計量 $M(x)$M(x) をもつ勾配系 $\dot x=-M(x)\nabla F(x)$x˙=−M(x)∇F(x) では、$\dot F=-\nabla F^\top M\nabla F\le 0$F˙=−∇F⊤M∇F≤0 が常に成り立つ。二重井戸ポテンシャル $V(x)=x^4/4-x^2/2$V(x)=x4/4−x2/2 に対する $\dot x=x-x^3$x˙=x−x3 は典型例で、局所極小点がそのまま安定固定点となり、初期値に応じてどちらかの井戸へ収束する。ここでは「ポテンシャル最小化」「Lyapunov降下」「点アトラクターへの収束」が局所的に一致する。

ただし、この一致は勾配型の構造をあらかじめ仮定したから得られたものである。さらに $\dot F\le 0$F˙≤0 だけでは最小点への収束は従わない。LaSalleの不変集合原理が示すように、必要なのは $\dot F=0$F˙=0 となる集合内の最大不変集合が所望の最小集合と一致すること、軌道が有界にとどまることなど、複数の追加条件である。「自由エネルギーが減る」と「自由エネルギーの最小点へ収束する」は、それ自体別の命題だと考えておくのが安全である。

分布レベルでの一致：Fokker–Planck方程式

過減衰Langevin系に対応するFokker–Planck方程式は、確率密度上の自由エネルギー汎関数のWasserstein勾配流として理解できる。Jordan–Kinderlehrer–Ottoはこの構造を定式化し、自由エネルギーの最急降下と確率密度の時間発展を結びつけた。適切な閉じ込め・正則性・エルゴード性のもとでは、「分布の自由エネルギー散逸」と「平衡Gibbs分布への収束」が同じ数学構造の二つの表現になる。両概念が最も強く重なる場面である。

Hopfieldネットワークのエネルギー地形

対称結合と適切な更新則をもつHopfieldネットワークでは、エネルギー関数が単調非増加となり、記憶パターンを固定点アトラクターと局所エネルギー極小の双方として解釈できる。神経科学や機械学習で「エネルギー地形」と「アトラクター地形」がほぼ同じ図で描かれる背景にはこの種のモデルがある。ただしこれは、対称性・勾配性という特殊構造ゆえの一致であり、非対称な再帰結合や振動的・カオス的力学へ移れば自動的には保たれない。

両者が分離する具体例

Lorenzアトラクターと極限周期軌道

最も明快な反例はストレンジアトラクターである。Lorenzの三変数系は、決定論的な非線形常微分方程式だけで有界な非周期運動と初期値鋭敏性を生じる。軌道はアトラクターの近傍に拘束されながら、その内部で動き続ける。$\mathrm{dist}(x(t),A)\to0$dist(x(t),A)→0 は成り立ち得ても、一点への収束は起きない。

安定な極限周期軌道ではさらに直接的な議論ができる。周期 $T$T の閉軌道上で $\dot F<0$F˙<0 が常に成り立つと仮定すると、一周した後の $F$F の差が $0$ と負の値の両方になるという矛盾が生じる。したがって、再帰的なアトラクター内部の運動を厳密なスカラー自由エネルギーの下降と同一視することはできない。

確率過程では「分布の収束」と「軌道の収束」が別物

確率微分方程式では、同じ初期条件からもノイズ実現に応じて標本軌道が異なる。長時間の対象としては、定常密度、不変測度、そしてノイズ実現ごとのpullback的な不変集合として定式化されるrandom attractor が併存する。Crauel–Flandoliのrandom attractor理論はこの区別を明示的に扱う。

Itôの公式を考えれば、サプライザル $I(x)=-\ln p_*(x)$I(x)=−lnp∗​(x) の変化にはマルチンゲール項が残る。つまり I(Xt)I(X_t) I(Xt​) は標本路ごとには一般に単調でない。「分布が自由エネルギーを散逸する」ことと「各軌道がポテンシャル極小へ収束する」ことを同一視すると、熱ゆらぎが平衡到達後も続くという基本的事実を見落とすことになる。

非平衡定常状態では下降と循環が共存する

流れを散逸成分と反対称成分に分解し $\dot x=-(\Gamma+Q)\nabla I$x˙=−(Γ+Q)∇I と書ける場合、$Q^\top=-Q$Q⊤=−Q から $\nabla I^\top Q\nabla I=0$∇I⊤Q∇I=0 となり、$\dot I=-\nabla I^\top\Gamma\nabla I$I˙=−∇I⊤Γ∇I が得られる。反対称成分はサプライザルの瞬時変化に寄与しないが、等高線方向の循環運動を許す。非平衡定常状態は、定常確率密度と持続的な循環流を同時に成立させ得るという点で、「最小点で静止する平衡」とは質的に異なる。

自由エネルギー原理（FEP）を誤読しないために

静的な変分問題と動的な力学系は別の層にある

Fristonの自由エネルギー原理は、変分自由エネルギーがサプライズの上界であるという構造を中心に、知覚・学習・行動を推論として記述する。しかし変分自由エネルギーを「アトラクター」概念にするには、変分パラメータに対する具体的な更新方程式を別途導入しなければならない。自然勾配法、予測符号化、確率勾配法など、どの力学を与えるかで安定性は変わる。

Aguileraらは線形確率系を解析し、Markov blanket構造、solenoidal couplingの制約、条件付き平均流と実軌道の同一視が一般には成立しないことを示した。したがってFEPの「最小化」を、全標本軌道が点アトラクターへ向かって自由エネルギーを単調減少させるという主張に読み替えるのは強すぎる可能性が高い。

「自由エネルギー」という語の多義性

熱力学的自由エネルギーはジュールの次元をもつ物理量であり、変分自由エネルギーは対数確率とKLダイバージェンスから構成される情報理論的な量である。両者の物理的同一性は一般定理ではなく、特定の確率物理モデルとスケーリングのもとで初めて構成されるものだと考えるべきである。「脳が自由エネルギーを最小化する」を「脳が物理的エネルギーを直接最小化する」と読むのは、一般には誤りにあたる。

まとめ

自由エネルギー最小化とアトラクター収束は、部分的に重なるが一般には異なる現象として整理するのが妥当である。両者が一致するのは、ある自由エネルギー様汎関数が実際の力学のLyapunov関数として働き、その最小集合が真の不変・吸引集合と一致するといった追加条件が満たされる場合に限られる。

包含関係として圧縮すれば、勾配系はLyapunov型・散逸系の真部分集合であり、それはさらにアトラクターをもつ系の真部分集合にあたる。Hopfield型ネットワークや詳細釣り合いをもつLangevin系が最初の領域で一致を示し、Lorenz型ストレンジアトラクターや非平衡定常状態、random attractorが後の包含が真に広いことを示す。

実務上重要なのは、議論の前に**「どの空間の、どの汎関数が、どの意味で、どの力学に沿って減るのか」**を明示する習慣である。分布のレベルなのか、期待値なのか、条件付き平均流なのか、各標本路なのか。これを特定しない限り、「最小化」と「収束」を比較する命題そのものが不定になる。次の研究段階では、この階層の切り分けを定理の仮定として形式化し、経験的に反証可能な形へ落とし込むことが課題となる。