はじめに：なぜ「見えているはずのリスク」が見えないのか
組織や制度が重大なリスクを見落とす事例は、後から振り返ると「なぜ気づかなかったのか」と感じさせることが多い。しかし問題の本質は、情報が存在しなかったことではなく、その情報がシステムの内部コードで処理可能な差異として認識されなかったことにある。
本記事では、オートポイエーシス理論・ルーマン社会システム論・サイバネティクス・レジリエンス論を横断しながら、閉鎖的システムが持つ「環境への盲目性」という構造的条件を整理する。さらに、この視点がリスク管理・科学コミュニケーション・政策設計においてどのような再設計を促すかを論じる。
「閉鎖的システム」とは何か――遮断ではなく、選択的処理の条件
オートポイエーシスと作動的閉鎖の定義
「閉鎖的システム」という言葉は、しばしば外界と完全に遮断された状態をイメージさせる。しかし理論的には、閉鎖とは外界を自らのフォーマットに変換しない限り処理できないという条件を意味する。
マトゥラーナは生体を「分子の流れには開かれつつ、自己生産のネットワークとして閉じた系」として定義した。ルーマンの社会システム論でも、作動的閉鎖とは「環境の実在性の否定」ではなく、「システムが自らの作動によってのみ再生産される」という性質を指す。
つまり、閉鎖したシステムは外界の変化を「ないもの」として無視するのではない。外界を内部のカテゴリー、指標、モデルによって変換した結果としてしか処理できないという構造的な偏りを持っているのである。
社会・政策システムにおける四つの閉鎖類型
この定義を社会・政策領域に拡張すると、閉鎖は少なくとも四つの類型に整理できる。
組織的閉鎖は、部門境界や権限配分、KPIが外部信号を遮る状態を指す。たとえば、ある組織が特定の指標だけで成果を測定している場合、その指標に現れない異常は「例外」や「ノイズ」として処理されやすい。
認知的閉鎖は、専門分野の分類やモデル、前提が異常信号を排除してしまう状態である。専門家集団は高度な知識体系を持つが、その体系自体が「見える範囲」を限定する。
規制的閉鎖は、既存ルールが累積効果や新規相互作用を扱えない状況を指す。個別の変更は規制上問題がなくても、それが積み重なったときの全体的影響を評価する仕組みが存在しないケースがこれに当たる。
コミュニケーション上の閉鎖は、メッセージが発信者の論理で完結し、受け手の文脈・行動条件・価値対立を取り込めない状態を指す。科学的に正確な情報であっても、受け手の文化的背景や意思決定環境と乖離していれば、行動変容につながらない。
環境への盲目性――知覚可能性の構造的偏り
盲目性は無知ではなく、選択的知覚の帰結
「環境への盲目性」とは、単なる知識不足を意味しない。閉鎖的システムが、内部のコード・センサー・指標・慣行で差異化可能なものだけを意味ある信号として扱う傾向である。
ルーマンは「システムは環境の中で作動できず、自身の作動でしかコミュニケーションできない」と述べた。したがって盲目性は、特定の個人や組織の怠慢だけから生じるのではなく、自己再生産の構造的副産物として発生する。これは倫理的に重要な含意を持つ。問題の所在が個人の責任に帰着しにくく、制度設計の問題として問い直されるべきであることを意味するからだ。
アシュビーの必要多様性の法則と盲点の実務的含意
サイバネティクスのアシュビーが提唱した「必要多様性の法則」は、この盲目性を実務言語で表現する。環境外乱の多様性が制御装置の多様性を上回れば、結果の多様性（＝残余リスク）は削減できない。
言い換えれば、単一の指標、単一のモデル、単一の専門、単一の広報チャネルでは、複雑な環境を十分に制御できない。これは、リスク管理において「多様なセンサー」「異種の知識源」「複数の説明モード」が必要である理論的根拠となる。
自己組織化は中立的メカニズム――適応も硬直も生みうる
自己組織化を「自動的な秩序形成」と見誤る危険
自己組織化は、外部の一元的指令なしに、局所相互作用の反復を通じて全体秩序やパターンが形成・維持・変容される過程を指す。この概念は「自発的に望ましい秩序を作る力」として楽観的に捉えられることがあるが、理論的には規範的に中立なメカニズムである。
ホリングは「平衡安定性」と「レジリエンス」を区別し、後者を「変化や攪乱を吸収しつつ関係を維持する能力」として位置づけた。ウォーカーらはさらに、レジリエンス・適応能力・転換能力の三つを区別し、持続可能性の課題は最適点の探索ではなく、望ましい状態の維持・深耕・必要時の転換にあるとした。
自己組織化は、環境変化への適応を生むこともあれば、過去に成功した分類や評価様式を強化し、盲点を自己強化するループを形成することもある。どちらに向かうかは、フィードバック構造と制度設計に依存する。
盲点の自己強化ループ――Boeing 737 MAX の教訓
Boeing 737 MAXの事例は、この自己強化ループが高リスク技術においていかに致命的になりうるかを示す。
JATR（合同当局技術レビュー）は、認証過程が離散的変更には対応したとしても、累積効果・システム統合・ヒューマンファクター・新規設計特徴の十分な検討を欠いたと結論した。NTSBはさらに、MCASに対する安全評価が「操縦者は即座かつ適切に反応する」という前提のもとで危険分類を軽く見積もっていた点を指摘した。
この前提が制度化されると、設計・訓練・認証・広報のすべてがその前提を強化する方向に組み上げられていく。これは部品故障の問題ではなく、閉鎖した評価様式が想定シナリオの幅を切り詰めた問題であり、Leveson のシステム安全論が指摘する「制約の設計・監視・更新の失敗」として理解できる。
リスク管理への含意――観測の脆弱性を評価対象に加える
従来の脆弱性評価の盲点
従来のリスク管理は「ハザード・曝露・脆弱性」の三次元で評価を行うことが多い。しかしこの枠組み自体が、観測体系そのものの脆弱性を見落とすという盲点を持ちうる。
環境盲目性の観点からは、少なくとも四つの補助軸を追加する必要がある。①どの信号が観測されていないかという「観測脆弱性」、②どの前提が暗黙に固定されているかという「モデル脆弱性」、③どの組織境界で責任が切れているかという「ガバナンス脆弱性」、④警報がどの受け手に届かないかという「通信脆弱性」である。
「見えないこと」自体を脆弱性項目として監査する仕組みは、現状では多くの組織において制度化されていない。
多災害早期警戒システムと制度センサーの必要性
WMO/UNDRRの定義では、早期警戒システムは単なる警報メッセージの発出ではなく、監視・予測・リスク評価・伝達・備えを含む統合的な end-to-end の仕組みである。UNDRRとWMOの報告は、より包括的な多災害早期警戒能力を持つ国では、災害関連死亡率が大幅に低い水準にとどまる可能性を示している。
ここで重要なのは、技術センサーの増設だけでは不十分だという点である。近接現場の声・苦情・内部告発・社会的リスニング・越境的レビューといった制度的センサーが組み込まれなければ、弱い信号は処理可能な差異として認識されないまま通り過ぎる。
ハリケーン・カトリーナの事例がこれを鮮明に示す。White Houseの公式報告は、計画が広域または同時の壊滅的事象を十分に想定していなかったこと、脆弱な人々が危険地域に取り残されたこと、通信インフラの崩壊と矛盾したメッセージが公的信頼を損ねたことを指摘した。見落とされたのは風速や潮位だけでなく、移動できない人々・情報へのアクセスを持たない人々の存在だった。
科学コミュニケーションの再設計――不確実性を削除しない
「断言の技術」から「判断条件の明示」へ
科学コミュニケーションは長らく「正確な情報を分かりやすく伝える」という一方向モデルを基本としてきた。しかし環境盲目性の観点からは、このモデル自体が「コミュニケーション上の閉鎖」を持つ可能性がある。
WHOの緊急リスクコミュニケーション指針は、社会的・文化的文脈・信頼・行動決定を含めた設計を求める。CDCのCERCは「危機下では意思決定が本質的に不完全であることを前提とした情報提供が必要」とする。日本の文部科学省の資料も、市民が科学の限界や不確実性を認識したうえで判断できるコミュニケーションを推進すべきとしている。
すなわち、科学コミュニケーションは「断言の技術」ではなく、何が分かっていて、何が分かっておらず、どの条件で判断を改訂するかを明示する技術へと転換が求められる。
COVID-19 の空気感染をめぐる事例から
COVID-19の初期局面では、学際間での用語・分類の食い違いが、伝播リスクの評価に影響した可能性がある。WHOは2024年の技術報告で、”airborne” や “aerosol” といった用語が分野間で異なる意味で使われたことが誤解と混乱に寄与した可能性を認めた。
この事例の教訓は、科学的不一致そのものよりも、不一致の扱い方にある。複数仮説の競合を「確定まで伏せる」運用は、後の修正を「後出し」や「隠蔽」と解釈させやすい。逆に、複数仮説の並存・更新条件・予防原則的介入の理由を先に示す運用は、不確実性を信頼破壊ではなく学習過程として位置づけることを可能にする。
政策立案への含意――適応的統治と盲点込みのリスク評価
IRGC 枠組みにおける「懸念評価」の位置づけ
IRGCのリスク・ガバナンス枠組みは、pre-assessment・risk assessment・concern assessment・evaluation・management・communicationから構成される。ここで注目すべきは、concern assessmentが「付随的な広報」としてではなく、リスク評価の一部として組み込まれている点である。
これは、リスクが単なる事実問題ではなく、価値・感情・経験・制度信頼・公平性に依存することを明示的に認めた枠組みである。環境盲目性の倫理問題は「誤った情報」にとどまらず、誰の懸念が評価の入口に入らないかという入口設計の問題でもある。盲点は、情報欠損である前に、しばしば参加欠損として現れる。
規制設計を「変更管理型」から「全体系再評価型」へ
OECDは、動的環境において静的政策が失敗しやすいことを示し、適応的政策として「不可逆介入の回避・継続的モニタリング・複数主体の関与・仮説検証型の改訂」を推奨する。
Boeing 737 MAXのJATRが求めたのも、変更管理型の規制の限界を認め、top-downの統合システム分析を必須化するという方向性だった。したがって制度設計の原理としては、更新可能な規制・再認証条件・上流前提の登録・独立レビューを組み込むことが、閉鎖系の盲点に対して構造的に強いアーキテクチャとなる。
福島第一原発事故でも同様の構図が見られた。国会事故調は事故を「自然災害とはみなせない」と結論づけ、準備不足と組織上の問題を特定した。さらに、危険情報が元請と下請け労働者の間で非対称に共有されていたことが明らかとなり、組織境界がそのまま情報境界になっていたという問題が浮き彫りになった。
まとめ：「見えないこと」を制度化された機能として問い直す
閉鎖的システムの環境盲目性は、特定の組織の失敗や個人の怠慢に帰着する問題ではない。それは、自己再生産と意味付与の構造的副産物として、あらゆる組織・規制・コミュニケーション体系に内在する条件である。
重要な論点を整理すると以下のようになる。
- 閉鎖とは断絶ではなく、外界を内部コードで変換する条件である
- 自己組織化は適応も盲点の強化も生みうる双方向的メカニズムである
- リスク管理には「観測・モデル・ガバナンス・通信」の脆弱性評価が必要である
- 科学コミュニケーションは断言ではなく、判断条件の明示へ転換すべきである
- 政策設計は静的ルール遵守型から、可逆性・再評価義務を埋め込んだ適応的統治へ移行すべきである
そして、閉鎖系に対する倫理的・政策的応答は、より多くの情報を一方向に流すことではなく、観測の多様性・解釈の多元性・意思決定の可逆性を確保することに向かうべきである。
コメント