LLMが科学情報を扱う時代に、なぜ「合意形成」の仕組みを理解する必要があるのか

生成AIが医療相談や文献調査、気候変動の解説にまで使われるようになった今、LLM（大規模言語モデル）が示す「科学的に妥当な答え」がどのように形作られているのかを知ることは、利用者にとっても開発者にとっても重要な課題になりつつある。本記事では、LLMが科学的合意を「蒸留」し「増幅」する過程を、構成主義の理論的枠組みである間主観的viabilityという概念を軸に整理する。データ収集からアラインメント、出力集約、配備後フィードバックに至るまでの段階ごとの特徴を押さえたうえで、医療QA・文献レビュー生成・気候ファクトチェックという三つの領域における具体的な現れ方を見ていく。

科学的合意とは何か：多数決でも純粋な論理でもない収束のプロセス

科学的合意は、単純な多数決や論理的帰結の積み重ねだけで成立するものではない。トーマス・クーンが示したように、科学者共同体は共有された理論評価の規準のもとで通常科学を進め、異常事例の蓄積が理論転換のきっかけとなる。ここで重要なのは、合意が「データを見れば自動的に導かれる結論」ではなく、何を良い理論・良い証拠とみなすかについての共同体的な基準に強く依存しているという点である。

一方で、科学知識の社会学（SSK）やラボラトリー・スタディーズといった立場は、合意形成を外在的な利害関係や制度的ネットワーク、研究室内部の相互作用から説明してきた。科学的事実は真空の中で確定するのではなく、局所的な実践や制度的な文脈のなかで安定化していくというこの視点は、LLMが学習データとして取り込むテキストにも当てはまる可能性がある。学習データの背後には、どの言語・どの地域・どのジャーナルが多く出版されてきたかという出版構造上の偏りが存在しているためだ。

さらに、Helen Longinoの批判的文脈経験論は、社会性を単なるバイアスの温床としてではなく、公開された批判の経路や共有された評価基準が整っていれば、むしろ客観性を支える条件になりうると位置づける。この視点は、LLMを科学的合意の媒介として評価する際に、「多数派の意見を再生しているかどうか」だけでなく、「異論を可視化し、批判に応答できるよう設計されているかどうか」を問う重要性を示唆している。

「間主観的viability」という視点で捉え直すLLMの合意形成

こうした科学的合意のメカニズムを分析するための鍵となる概念が、間主観的viabilityである。この語の出発点は、エルンスト・フォン・グレーザーズフェルドによるラディカル構成主義のviability概念にある。グレーザーズフェルドは、知識が外部世界を正確に写し取っているかどうかではなく、ある概念やモデルが経験世界の制約のなかで機能的に成り立ち続けるかどうかを重視した。つまり、科学者が行っているのは「真の世界像」を獲得することではなく、経験を秩序立てて運用可能にするモデルを構築し、検証し続けることだという立場である。

このviability概念は、パトリック・トンプソンの整理を通じて社会的な次元へと拡張され、いわゆるセカンドオーダーのviabilityという考え方につながっていく。他者の行動が自分の予期に沿って観察されるとき、知識は自分自身の経験の範囲だけでなく他者の行動の範囲においてもviableだとみなされ、そこから「確認された事実」や「共通知識」といった間主観的なレベルの語りが正当化されるようになる。近年の文献では、このセカンドオーダーのviabilityを明示的に「間主観的viability」と呼ぶ記述も見られるようになってきた。

本記事では、この概念を複数の主体が、経験的制約や批判的対話、制度的手続きのもとで、ある知識主張を相互に運用し続けられる度合いとして操作的に定義する。この定義に立つと、LLMが行っている科学情報の処理は、単なる情報圧縮でも単なる誤情報拡散でもなく、社会的に安定化してきた認識のあり方を再配置していく過程として捉え直すことができる。

LLMが科学的合意を蒸留し増幅する七つの段階

LLMが科学的合意に影響を与えるプロセスは、少なくとも七つの段階に分けて考えることができる。

第一の段階はデータ収集である。学習用コーパスは、公開されているオンラインデータから大量のトークンを収集して構築されるが、この時点で既に、どの言語・どの地域・どのレビュー論文が多く存在するかという出版構造上の偏りが、後続モデルの前提となる分布に組み込まれている可能性がある。つまり、科学的合意の「蒸留」は、現実の科学全体そのものではなく、収集可能で頻度の高いテキスト生態系の圧縮として始まっているといえる。

第二の段階は事前学習である。ここでは文献の因果構造や査読の手続きそのものが直接学習されるわけではなく、テキストの統計的な規則性が潜在表現へと圧縮されていく。ある学説が高頻度で言及されているとすれば、それは「正しいから」ではなく「よく書かれているから」強く内在化されている可能性がある。もっとも、科学的コンセンサスはレビューや教科書、ガイドラインなど高頻度で表現される形式を伴うことが多いため、この統計的圧縮が実務上ある程度のコンセンサス整合性をもたらす場合もある。

第三の段階はアラインメントである。人間のフィードバックを用いた強化学習（RLHF）などの手法により、モデルは単に「よくある文」を出力するだけでなく、何が良い応答とみなされるかという社会的な規範を学習していく。医療や科学のような高リスク領域では、この段階が特に重要になり、科学的妥当性だけでなく、害の見込みやバイアス、有用性が優先される設計が組み込まれることがある。ただし、ここで学習されるのはしばしば「共同体全体の合意」ではなく「評価者集団の規範」である点には注意が必要だ。

第四の段階はプロンプト設計である。中間的な推論の過程を明示させる手法は、複雑な推論性能を改善しうることが知られている。ここで生じるのは、コンセンサスの「再説明可能化」ともいえる現象で、モデルは訓練時に内在化した高頻度の知識を、利用者にとって納得しやすい論証の流れへと再構成する。しかしその論証の流れが、実際の科学共同体の審議過程に忠実であるとは限らないため、説得力の高い擬似的な合意を生成してしまう懸念も存在する。

第五の段階は出力集約である。複数の推論経路をサンプリングし、もっとも一貫した答えを選ぶ手法や、複数のモデルインスタンスが議論を重ねて共通の結論に達する手法は、精度や事実性の向上に寄与しうる。しかし、標準的な多数決型の集約は少数派の応答を見落としやすい傾向があるとされる。この少数派が単なるノイズであれば影響は小さいが、未解決の論争や新興の仮説、条件付きの異論を反映している場合、モデルは不確実性に関する重要な情報を多数決によって消してしまう可能性がある。

第六の段階はモデル蒸留と再配備である。上位モデルの出力を用いて小型モデルを微調整するこの手法は、精度を維持しつつコストや遅延を抑える点で実務上有効とされる。しかし理論的には、ここで再利用されているのは科学共同体そのものではなく、教師モデルがすでに平滑化して出力した「合意の表象」である。したがって蒸留は、正当な合意も誤った過剰確信も、どちらも低コストで再生産してしまう可能性を持つ。

第七の段階は配備後フィードバックである。生成された回答が記事や論文、教材、業務文書に取り込まれ、それ自体が再び検索対象や将来の学習候補になっていくと、モデルは自らの出力が作り出した環境を反復的に学習していくことになる。文献引用の領域では、実在しない参考文献が生成される事例が確認されており、こうした誤りが出版済みの文献に混入した痕跡が検出されたとする研究も存在する。ここでは、誤情報が「誤り」から「参照可能なテキスト」へと地位を上げてしまい、viabilityが社会的に擬装されるという逆転現象が起こりうる。

三つの事例に見る、蒸留と増幅の分かれ道

同じ「科学情報の処理」であっても、どの段階で人間による批判的な介入が入るかによって、結果は大きく異なってくる。

医療QAの分野では、臨床家による例示や評価が組み込まれることで、回答の見落としが減り、潜在的な害が低減する方向に働く可能性が示されている。ただし、より詳細な回答を生成しようとするほど、不正確な内容が混入するリスクも一部で高まりうる。ここでの重要な点は、モデルが単に医療知識を学習しているだけでなく、共同体が何を良い医療応答とみなすかという規範そのものを学習しているという点にある。

対照的に、文献レビューの自動生成では、人間による検証がほとんど入らないまま、モデル内部で「もっともらしい」書誌パターンがそのまま前面に出てくることがある。実在しない参考文献や不正確な書誌情報が高い頻度で生成されるという報告があり、そうした誤りがすでに出版済みの文献にまで混入した痕跡が指摘されている。この場合、書式が整いDOIらしきものが並ぶことで、文書は社会的には「引用可能」であるかのように見えてしまうが、実際の検証には耐えられない。これは間主観的viabilityの生成ではなく、viabilityの擬装と呼ぶべき現象だと考えられる。

一方、気候情報のファクトチェックやデバンキングの領域では、権威ある最新のソースを議論の枠組みに組み込み、複数の科学的視点を含めた形で検証を行う設計が試みられている。こうした構造化されたプロンプト設計は、科学的コンセンサスへの整合性を高め、科学に対する懐疑や誤情報の受容をある程度和らげる方向に働く可能性があるとされる。ここでのポイントは、優れた情報検索の設計があれば、モデルは頻度の高い一般的なウェブテキストではなく、専門的な合意文書へと接続され、間主観的viabilityを再強化できるという点である。

まとめと次に掘り下げるべき研究テーマ

LLMによる科学的コンセンサスの蒸留と増幅は、科学的な正当性のあり方そのものを複雑にしている。適切に訓練・整列されたモデルは、専門家共同体の集積的な判断を非専門家に橋渡しし、理解のギャップを縮める可能性がある一方で、あまりに流暢な出力ゆえに、利用者がそれを「科学共同体の現在地点」ではなく「確定的な真理」として読み違えてしまう危うさも抱えている。特に医療や気候政策のような影響の大きい領域では、過剰な平滑化によって未解決の論争や条件付きの警告が見えにくくなること自体が、倫理的な課題となりうる。

この差を分けるのは、モデルの規模そのものではなく、どのような間主観的な条件のもとでviabilityを設計し、監査し、更新していくかという点にある。権威あるソースへの接続、合意と異論の二層的な提示、引用の自動検証、蒸留プロセスにおける異論保持の監査など、具体的な設計上の工夫を積み重ねていくことが、今後ますます重要になっていくと考えられる。