AIに「意図」はあるのか？責任の空隙と法的責任分配の最新論点

AIに「意図」はあるのか？責任の空隙と法的責任分配の最新論点

AIが「判断した」「欺こうとした」と語られる場面が増えています。しかし、AIの振る舞いを意図的に見えると記述することと、AIに法的・道徳的な責任を負わせることは、まったく別の問題です。

結論を先に示すと、現時点で日本・EU・米国・英国・中国のいずれも、一般的なAIを独立した責任主体として扱っていません。責任は、AIを設計・提供・導入・利用し、その危険を制御できる人間や法人に配分される方向にあります。

本記事では、まず「意図帰属」という概念を整理し、次に各国の制度と主要判例を比較します。そのうえで、責任配分の判断基準と、企業が取り組むべき実務を解説します。

AIへの「意図帰属」とは何か｜責任論の前提を整理する

「意図」は4つの層に分けて考える

AIに「意図がある」という言い方は、少なくとも次の4つの層に分けて考える必要があります。

層	意味	責任論への含意
機能的意図	目標達成に向けて振る舞うと記述する	予測・安全評価に有用だが、法的人格は意味しない
心理的意図	欲求や理解を実際に持つという主張	現在のAIについては争いが大きく、責任の前提にすべきでない
法的意図	故意・過失などの主観要件	原則として自然人・法人に帰属する
組織的意図	企業内の知識・決定を法人に帰属させる	AIのログや警告が「知っていた／知るべきだった」の証拠になり得る

哲学者デネットの「志向的構え（intentional stance）」は、対象を目的を持つものとして扱うことで挙動を予測する説明戦略です。人間と同じ内面がAIに存在することを証明する理論ではありません。AI安全研究で使われる「モデルが欺こうとした」という略語と、法廷で問われる「会社が故意に欺いた」は、同じ命題ではないのです。

「責任の空隙」と「moral crumple zone」

この分野の出発点となったのが、マティアスが提起した**「責任の空隙（responsibility gap）」**です。学習するシステムは人間が十分に予測・制御できない挙動を示すため、従来の責任条件が当てはまりにくくなる、という問題提起でした。

一方で、逆方向の危険もあります。エリッシュが提唱した**「moral crumple zone（道徳的クラッシャブル・ゾーン）」**は、形式的に「人間が最終確認した」という構造だけを置き、実際には介入する時間も情報も権限もない現場担当者に責任が集中する現象を指します。

つまり、「AIが決めた」が責任逃れに使われる危険と、末端の人間がスケープゴートになる危険の両方を避ける制度が求められています。

AIの法的責任を各国はどう扱っているか｜日本・EU・米国・英国・中国

日本：AI法と既存法の組み合わせ

日本では2025年に「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）が公布され、基本計画やAI戦略本部の設置などが定められました。ただし、AI事故に特化した賠償制度やAIの法的人格を設けるものではありません。

民事責任については、引き続き民法、製造物責任法、個別業法などが中心となります。開発者・提供者・利用者の役割に応じたガバナンスを示す「AI事業者ガイドライン」と合わせ、促進法＋ソフトロー＋既存法という組み合わせが日本の特徴といえます。

EU：AI Actと新製造物責任指令

EUのAI Actは、AIそのものではなく、提供者（provider）や導入者（deployer）などの役割ごとに、リスク管理・技術文書・ログ保存などの義務を配分する制度です。AIの自律性が高いことは義務を免除する理由にならず、むしろ高度な監督設計を求める方向に働きます。

被害救済の面では、新しい製造物責任指令がソフトウェアを製品の枠内に位置づけ、技術的に複雑な事案での被害者の立証困難にも対応しようとしています。なお、AI固有の責任指令案は撤回されており、既存の枠組みを組み合わせる路線が鮮明になっています。

米国・英国・中国：役割別の義務配分

米国では包括的な連邦AI責任法よりも、消費者保護法や州法が重要です。コロラド州の新法は、開発者に技術文書を、導入者に通知・説明・人間による再審査を求めるなど、両者に義務を分割しています。

英国は単一のAI法ではなく、既存の規制機関が分野ごとに原則を適用するアプローチを採用し、医療AIや自律型AIエージェントの事故対応など分野別の検討を進めています。

中国は、アルゴリズム推薦や生成AIに関する規則で事業者に安全上の主体責任を課しています。さらに最高人民法院の司法意見では、AIサービスには原則として過失責任、物理的なAI製品には製造物責任を適用し得ること、ログを保有する当事者に提出を求め得ることが示されています。

判例から読む「AIが決めた」が免責にならない理由

DABUS事件：AIは発明者になれない

AI「DABUS」が自律的に発明したとして特許出願された事件では、日本の知財高裁も英国最高裁も、現行法上の発明者は自然人であるとしてAIを発明者と認めませんでした。中国の裁判例でも、AI生成画像の著作物性を認めつつ、作者はプロンプトやパラメータを工夫した人間であり、AIモデル自体ではないと整理されています。

これらは、AIに創作的な意図があるかを審理するより先に、法が誰を権利・責任の主体として構成しているかを重視する姿勢の表れです。

SCHUFA判決とMata v. Avianca事件

EU司法裁判所のSCHUFA判決は、信用スコアが第三者の判断に決定的な役割を果たす場合、自動化された意思決定に当たり得ると判断しました。問われたのはアルゴリズムの「意思」ではなく、それを意思決定に組み込んだ側の義務です。

米国のMata v. Avianca事件では、ChatGPTが生成した架空の判例を確認せずに提出した弁護士が制裁を受けました。「AIが誤った情報を出した」という因果関係の説明は、専門職自身の検証責任を消さないことが明確になりました。

AI責任は誰が負うべきか｜責任配分の判断基準

実効的コントロールを中心に据える

判例と制度の流れから見えてくるのは、責任を「AIの意図」ではなく、次の要素で配分する考え方です。

• 実効的コントロール：AIの設定や利用を実際に支配していたか
• 予見可能性：危険を予見できたか
• 情報優位：モデルや利用文脈の情報を誰が持っていたか
• 利益：AIの利用から誰が利益を得ているか
• リスク回避能力：最も低いコストで危険を防げたのは誰か

この考え方は、最終クリックをした人だけを責める「moral crumple zone」と、上流企業に無限定の責任を負わせて市場参入を妨げる事態の両極端を避けることにつながります。

有力視されるハイブリッド責任制度

単一の責任原理でAI事故のすべてを扱うのは難しいと考えられています。そこで、通常の過失責任、欠陥製品への製造物責任、危険性の高い用途に限った厳格責任、証拠開示や因果関係の推定、保険を組み合わせるハイブリッド制度が有望視されています。

一方、AIに法的人格を与える案には慎重な見方が強くあります。十分な資産や保険を伴わない「AI人格」は、責任主体を増やすどころか、企業から責任を切り離す空箱になる可能性があるためです。

企業が今すぐ取り組むべきAIガバナンス実務

ログと証拠保全で「責任の連鎖」を追跡可能にする

事故が起きた際、被害者がブラックボックスの中身を知らず、企業だけが記録を持っている状況では、立証の壁が実質的な責任の空隙を生みかねません。高リスクのAIについては、次の情報を再構成できる体制が望ましいといえます。

• モデルとシステムのバージョン、重要な設定変更
• 入力・出力・外部ツールの実行履歴
• 人間による承認や上書き（override）の記録
• 安全評価の結果とインシデント後の変更

ここで重要なのは、AIが生成した「自己説明」を心の告白のように扱うことではなく、外部から検証できる入力・設定・行為・結果の記録を残すことです。同時に、個人情報や営業秘密に配慮し、用途とリスクに応じて保存範囲を絞る工夫も求められます。

人間による監督を形だけにしない

「human in the loop」を置くだけでは不十分です。監督者が判断に必要な情報・時間・権限を持ち、実際に介入できるかを確認する必要があります。あわせて、AIエージェントに与える権限を必要最小限にとどめ、緊急停止やロールバックの手順を整えておくことが、注意義務を果たしたことの裏づけにもなります。

上流の開発者と下流の導入企業の間では、情報提供・事故通知・モデル変更時の義務などを契約で明確にしておくことも有効です。ただし、契約で責任を移しても、被害者に対する法的責任まで当然に消えるわけではない点には注意が必要です。

まとめ

• AIへの「意図帰属」は挙動の説明には役立つが、法的・道徳的責任の根拠にはならない
• 主要国はいずれもAIを独立した責任主体とせず、開発者・提供者・導入者などに役割別の義務を配分している
• 判例は一貫して、AIの内面ではなく、誰が支配・検証・利用したかを問うている
• 責任配分の中心は、実効的コントロール・予見可能性・情報優位・利益・リスク回避能力にある
• 企業はログと証拠保全、実効的な人間の監督、契約による責任分界を整えることが重要

今後の大きな論点は、AIの自律性やエージェント性が高まったときにも「責任は人間・法人に帰属させる」という原則を維持できるかどうかです。複数の企業がモデルを改変・統合するサプライチェーンでの責任分担や、技術の進歩に合わせて注意義務の水準をどう更新するかも、引き続き掘り下げるべきテーマといえます。