はじめに：なぜ「意図なきAI」の責任が問われるのか
大規模言語モデル（LLM）は、対話や文書生成、意思決定支援など幅広い場面で使われるようになった。その一方で、LLMには人間のような信念や欲求、意図がないという指摘が繰り返されている。しかし「意図がないなら誰も責任を負わなくてよい」という考え方は成り立たない。むしろ現在の主要な制度は、責任をモデルそのものではなく、設計・学習・提供・導入・利用・監督という一連の連鎖に配置する方向で整備が進んでいる。本記事では、LLMの社会的影響、責任主体の整理、各国の法制度比較、そして実務での責任設計の考え方を順に解説する。
LLMに「意図」を帰属できないという前提
LLMは入力から出力を推論する高度な生成能力を持つが、法的・道徳的主体としての内在的な意図を前提とすることはできない。国際機関の定義でも、AIシステムは目的に対して出力を生成する機械的な仕組みとして捉えられており、責任の所在は人間側に帰属するとされている。研究者の間でも、LLMを「知る」「考える」といった擬人的な言葉で語ることが、かえって仕組みの理解を曇らせるという警告がある。
ここで重要なのは、LLMに欠けているのが「出力の目的らしさ」ではなく「法的な責任能力」だという整理である。対話や要約、起案、審査補助などの場面でLLMは人間の判断に先行して言語環境を形づくることがあり、社会的には代理性を帯びて見える。しかし、見かけ上の代理性と責任主体性は別物であり、責任は意図の有無ではなく、設計・統制・便益享受・危険予見・救済能力の配分によって設計されるべきだと考えられる。
LLMがもたらす社会的リスクの構造
誤情報とハルシネーションの拡散
LLM特有のリスクとして、事実と異なる内容を自信ありげに提示する現象（いわゆるハルシネーション）が挙げられる。問題の本質は「モデルが誤る」ことよりも、その誤りが社会制度の中で信頼され、再利用され、拡散されていくことにある。既存の情報環境では虚偽情報が真実より速く広がりやすい構造があるとされ、そこにLLMによる大量のテキスト生成能力が重なることで、公共圏はもっともらしい言説が工業的に供給されるリスクに晒される可能性がある。
言説形成への影響
LLMは公共の議論そのものにも影響を与えうる。偏った提案を多く受け入れた利用者ほど、その立場へ態度が移動したとする実験結果や、党派的に偏ったLLMとの対話が政治判断に影響を与えうるとする研究がある一方、対話型AIが陰謀論的な信念を持続的に弱めうるという逆方向の結果も報告されている。つまりLLMは一方的に有害でも有益でもなく、高度に可塑的な「影響力インフラ」として捉える必要がある。
偏見・差別の再生産
学習データに由来する偏りが、人種や性別、障害などの属性に基づく不利益を生む可能性も指摘されている。特に採用や職業に関する判断にLLMを組み込む場面では、既存のステレオタイプが増幅されるおそれがある。こうした害はモデル単体よりも、採用・審査・教育評価・カスタマーサポートなど業務に組み込まれた接続面で顕在化しやすく、責任は出力そのものだけでなく、その出力を業務決定に取り入れた運用者側にも及ぶと考えられる。
労働市場への影響
LLMの経済的影響は単純な雇用喪失論では捉えきれない。事務系職種への影響が比較的大きく、女性の雇用に偏った影響が及ぶ可能性が指摘される一方、経験の浅い労働者ほど生産性向上の恩恵を受けやすいという報告もある。日本国内の調査でも、生成AIを利用している人の方が業務パフォーマンスや労働条件の改善を実感しやすい傾向が示されている。こうした状況から、責任枠組みは失職への補償だけでなく、職務再設計やスキル移行支援、利益配分のあり方まで含めて設計する必要がある。
制度的信頼への影響
実際の事例として、生成AIが実在しない判例を提示し、それを法廷資料に用いたために制裁を受けたケースや、企業のチャットボットの誤った案内について企業側の責任が認められたケースがある。個人データの取り扱いを理由にAIサービスが一時的に利用停止となった例も存在する。これらは、LLMがもたらす害が出力内容の誤りにとどまらず、取引や司法、プライバシー、行政への信頼にまで波及しうることを示している。
責任は誰が、どのように負うべきか
責任主体は一つに絞れるものではない。基盤モデルの開発者・提供者、アプリケーションの提供者、導入する組織、データや外部APIの供給者、コンテンツを流通させるプラットフォーム、そして利用者自身と規制当局まで、価値連鎖に沿って責任は分散的に配置されるべきだと考えられている。
基盤モデルの開発者には、学習データや能力の限界、既知のリスクについて文書化し、下流の利用者が安全に使えるよう情報を整えることが求められる。一方で、実際に発生する具体的な危害は、多くの場合、モデルを業務に組み込んだ導入組織側の設計に左右される。採用や医療、行政相談のような高リスクの用途では、導入組織を中心的な責任主体とみなす考え方が妥当とされる。
外部のデータやAPIを提供する第三者、コンテンツを拡散させるプラットフォーム、そして専門職として出力を利用する事業者にも、それぞれの立場に応じた責任が及ぶ。特に専門職については、AIの補助を用いたとしても、本来の専門的な注意義務から免れるわけではないという教訓が、先述の判例からも読み取れる。
各国の法制度はどう違うのか
主要な法域を比較すると、責任の設計思想には大きく三つの型がある。
EUは、AIシステム全般から高リスクAI、汎用AIモデルまでを段階的に規制する「法定義務型」を採っている。対話型AIには利用者への通知義務を課し、AIが生成したコンテンツには検出可能な形での表示を求めるなど、透明性に関する義務が体系的に整備されている点が特徴である。
中国は、公衆向けの生成AIサービスに対して登録や表示義務、内容管理を課す「事前統制型」の色合いが強い。生成されたコンテンツには明示的なラベルと、目に見えない形でのラベル付けの両方を求める仕組みが導入されている。
日本、米国、英国はいずれも既存法とソフトローを組み合わせる「分散協調型」に近い。日本では、AIに関する法律や基本計画、AI事業者ガイドラインなどが整備されつつあるが、中心は依然として拘束力を持たないソフトローであり、リスクベースでの柔軟な対応が重視されている。高リスク用途における法定の監査・救済義務については、他の法域と比べてまだ整備の余地があると考えられる。
いずれの法域にも共通するのは、責任の帰属先をAIそのものに置いていないという点である。制度設計の違いは、その責任をどの主体に、どの程度の強制力で負わせるかという配分の違いにすぎない。
実務で機能しやすい「層別共同責任モデル」
こうした整理を踏まえると、単一の責任モデルではなく、用途に応じて複数の手段を組み合わせる「層別共同責任モデル」が現実的な選択肢になると考えられる。具体的には、一般的な用途では事後的な責任追及と技術的な安全対策を基本としつつ、採用や医療、教育、行政窓口のような高リスクな用途には、事前の影響評価や第三者監査といった予防的な規制を追加する形である。基盤モデルの提供者と導入組織との間は、契約とログによって責任の境界を明確にした共同責任でつなぐことが望ましい。
また、監督のあり方についても、新たな一元的な規制機関を作るよりも、既存の複数の機関が役割を分担しつつ、重大な事故については一元的に情報を集約し、部門を横断して対応できる仕組みを整える方が現実的だと考えられる。
企業・組織が今から取り組むべきこと
実務上は、次のような取り組みが有効と考えられる。
- 用途を低・中・高リスクに分類し、高リスクな用途は個別の承認プロセスに付す
- モデル提供者に任せきりにせず、導入する組織自身が影響評価を行う
- AIを利用している旨の通知や、異議申立ての窓口をユーザーインターフェースに実装する
- 日本語を含む多言語での偏りや有害表現、誤情報の傾向を定期的に検証する
- 外部のデータ・APIの提供者との契約に、事故発生時の通知やログ共有、責任分担に関する条項を盛り込む
- 重大な事故が起きた際の定義や停止基準、報告の手順をあらかじめ規定しておく
これらは特別な技術投資を必要とするものではなく、多くが運用ルールと契約、文書化によって実現できる点が特徴である。
まとめと今後の研究課題
LLMに人間のような意図を認められないことは、責任の空白を正当化する理由にはならない。むしろ求められているのは、意図の有無を問う議論ではなく、制御可能性・予見可能性・救済可能性に基づいて責任を設計する視点である。各国の制度は方向性こそ異なるものの、いずれも責任をモデル内部ではなく、設計から利用に至る連鎖の中に位置づけている。組織にとって重要なのは、AIを人間のように扱うことではなく、AIが社会に接続される一つひとつの接点に、具体的な責任の仕組みを組み込んでいくことだといえる。
コメント