AIの判断根拠を人間に示す「説明可能AI（XAI）」は、透明性や信頼性を高める技術として期待されてきました。しかし創造的な仕事の現場では、説明が多いほど良いとは限りません。デザインや執筆、作曲といった営みは、言語化しきれない暗黙知——経験に裏打ちされた直感や美的判断——に支えられているからです。ここで手がかりになるのが、認知を知覚・行為・環境の相互作用として捉えるエナクティヴィズムです。この立場に立つと、説明とは「AIから人間へ手渡される情報」ではなく、「やりとりの中で立ち上がる理解」として設計し直すべき対象になります。本記事では、この視点からXAIと暗黙知の接点を整理し、創造性支援における設計条件までを扱います。
エナクティヴィズムとは何か：認知を「行為」から捉え直す
知覚・行為・環境が循環するモデル
エナクティヴィズムは、心を頭蓋の内側で完結する情報処理装置とは見なしません。認知は、主体が環境へ働きかけ、そのフィードバックを知覚し、次の行為を調整する——という循環の中で「生成される」現象だと考えます。心・身体・環境は分離した要素ではなく、一体の動的システムとして扱われます。
この見方の要点は、理解が受動的な受信ではなく能動的な関与の産物であるという点にあります。自転車の乗り方を説明書で理解する人はいません。ペダルを踏み、傾き、立て直すという行為の反復の中で、身体が理解を獲得します。
XAI設計への含意：説明は「渡す」ものから「共に作る」ものへ
この認知観をXAIに持ち込むと、設計思想が変わります。従来のXAIの多くは、モデルの挙動を静的なレポートや重要度スコアとして提示する「理論駆動型」でした。これは他者の心を理論によって推測するアプローチに近いものです。
一方、認知科学には、他者を理解する際に人は理論的推論よりも**シミュレーション（疑似体験）**に依存しているという有力な見方があります。この知見をXAIに応用すべきだという指摘は、実際に研究の場で提示されています。身体的なプロセスや行動を通じた説明をフレームワークに組み込むことで、より直感的な理解と信頼の向上につながる可能性がある、というものです。
具体的な設計としては、次のような方向が考えられます。
- ユーザーが入力を変えながらモデルの反応を試せる試行錯誤型の説明
- 「なぜこの出力になったのか」を対話で掘り下げられる問いかけ可能な説明
- ロボットやアバターの動作など、身体的な手がかりによって内部状態を示す表現
いずれも共通するのは、説明を一度きりの提示ではなく、知覚と行為のサイクルに埋め込むという発想です。
暗黙知とXAI：語りえない知をどこまで形式知化できるか
ポランニーのパラドックスと、AIによるその反転
暗黙知とは、経験的に体得されてはいるものの、明確に言語化・体系化できない知識を指します。マイケル・ポランニーはこれを「人は語りうる以上のことを知りうる」と表現しました。顔を見分ける、道具を扱う、文章の良し悪しを感じ取る——こうした熟練の技は、論理的ルールとして書き下すことが困難です。
このポランニーのパラドックスは、長らくAI研究の障壁と見なされてきました。明示的な知識としてアルゴリズム化できない領域では、AIは人間に及ばないと考えられていたのです。
ところが深層学習の発展により、状況は反転しました。人間が言語化できないパターンを、AIが大量のデータから自律的に学習し、高度な認識や予測を行えるようになったからです。言い換えれば、AIは人間の暗黙知に相当するものを内部に潜在的に保持している状態になりました。その副作用が、内部原理のブラックボックス化です。「モデル内部の知識が暗黙知化している」とも言えるこの状況において、XAIはその暗黙知を人間に理解可能な形式知へと翻訳する試みとして位置づけられます。
説明手法の二系統：外部解析型と内部構造型
XAIの手法は、大きく二つに分けて捉えると見通しが良くなります。
外部解析型は、モデルを箱のまま扱い、入力と出力の関係から重要度を統計的に推定します。適用範囲が広く実装しやすい反面、示されるのは相関的な関連であり、「なぜ」の核心には届きにくいという性質があります。
内部構造型は、モデル内部の表現やニューロンの役割を解析し、人間が意味づけできるルールや概念を取り出そうとします。この系統について、哲学的な観点からは興味深い議論があります。モデル内部に人間が意味づけ可能な規則を局所化できるのであれば、そのAIシステムはその規則を暗黙のうちに知っていると見なせる、という論です。特定のニューロン群がある概念を担っていると同定できれば、それはAIの暗黙知の同定にあたる、というわけです。この立場からは、内部構造に基づく説明のほうが本質的な理解に近づく利点があるとされます。
「説明しすぎない」ことの合理性
ただし、暗黙知が完全には形式知化できないのと同様に、AIの判断理由を余すところなく言語やルールで表現することにも限界があります。完全な透明性を目指すと、説明は膨大かつ難解になり、かえってユーザーの理解を妨げかねません。エンドユーザーにとって、システムのあらゆる内部を完全に開示することが必ずしも有用とは限らないという指摘は、既存研究のレビューでも示されています。
したがってXAIでは、要点に絞った要約的な説明と、必要に応じて詳細を開示する段階的な設計が現実的です。ポランニーの指摘に立ち返れば、明示的に語れる知識は我々が知っていることの一部にすぎません。説明を通じて得られる理解もまた常に部分的である——この謙虚さこそが、設計上の前提になります。
創造的タスクでXAIは味方か、足かせか
創造的活動におけるXAIの影響は一様ではありません。実証的な知見は、それが両刃の剣となり得ることを示唆しています。
暗黙知の顕在化を助けるケース
まず、肯定的な側面です。新製品開発の文脈では、ユーザーが内に秘めたニーズや嗜好を引き出すために生成AIを用いる試みがあります。生成画像AIをユーザーとデザイナーの共創ワークショップに導入した研究では、AIが提示するイメージを介することで、曖昧だったアイデアや嗜好が具体化され、対話が活性化する効果が報告されています。発言やリアクションが増え、可能性が広がり、振り返りと反復が促されるという形で、暗黙知の共有が円滑になったとされます。
AIが媒介となり、頭の中のイメージが外化されて他者と共有可能になる——これは創造プロセスにおける典型的な貢献の形です。
また、発想支援システムにおいて提案に「なぜそれを提案したか」の説明を付与した研究では、説明がデザイナーの省察を促し、多くの参加者が説明機能付きのツールを好んだと報告されています。適切な説明は、ユーザーの直感とAIからの新奇な刺激とを結びつける接続点になり得るのです。
創造的自己効力感の低下という副作用
一方で、無視できないリスクもあります。創造的自己効力感に関する近年の調査では、AIを用いて創作する際に、自分の創造性に対する自信が低下しやすい傾向が示されています。成果物の質や生成速度が向上しても、「それを自分が生み出した」という感覚が希薄化し、自らをクリエイターとして捉える意識が弱まる、というものです。
AIが創造プロセスの中でブラックボックス的に働くと、ユーザーの貢献実感が失われ、モチベーションの低下につながる可能性があります。裏を返せば、これはXAIが介入すべき余地でもあります。「どこまでがあなたの選択によるものか」を可視化する説明は、主体性の回復に寄与しうるからです。
セレンディピティと透明性のトレードオフ
さらに厄介なのは、創造分野ではあえて不透明さや曖昧さを残すことが価値を生む場合がある点です。予期せぬ偶発性や多義的な解釈から、新しいアイデアが芽生えることは少なくありません。AIが逐一「なぜそうしたか」を説明しすぎれば、驚きが失われ、創造的体験の魅力が減じる可能性があります。詳細な説明の提供がセレンディピティや曖昧さといった創造体験の要素にとって有益か有害かという問いは、実際に研究コミュニティでも提起されています。
XAIが創造的タスクに与える影響は状況依存的です。暗黙知を引き出す補助線にもなれば、創造意欲をそぐ足かせにもなり得る——この両義性を前提に設計する必要があります。
創造的インタラクションで透明性と理解可能性を高める四つの条件
以上を踏まえ、創造性支援の文脈でXAIが機能するための設計条件を整理します。
条件1：ユーザー視点に立った段階的開示
説明は、受け手の知識レベルと目的に合わせて設計されるべきです。専門用語で埋め尽くされた詳細ではなく、意思決定や創造に活かせる要点にフォーカスします。「なぜこの提案をしたのか」を直感的な可視化や平易な言葉で示し、必要に応じて深掘りできるオンデマンド形式が有効とされています。パーソナライズと段階的開示によって、ユーザーは自分のペースで理解を進め、情報過多を避けられます。
条件2：対話的で反復可能な説明プロセス
エナクティヴィズムの示唆どおり、人は行動とフィードバックを通じて理解を深めます。したがって、ユーザーが問いかけ、試し、その中で説明が得られる双方向のインターフェースが効果的です。たとえば「この生成はどの要素に着目したのか」と問えば、AIが該当部分をハイライトして応答する。こうした対話は、ユーザーが自らの暗黙知と照らし合わせながら理解を組み立てるプロセスを支えます。
条件3：限界の開示による信頼形成
人間同士でも、暗黙知の伝達には密な交流と信頼が必要です。AIに対しても同様に、「このAIは自分のパートナーである」という信頼が前提となります。信頼を高めるには、説明が納得できるものであることに加え、限界や不確実性を率直に開示することが有効です。「この提案には不確実性が伴い、その理由はこうです」と示されれば、ユーザーは過信せず適切に参照できます。AIを神秘的な創造主体ではなく、自分の能力を拡張する道具として位置づける姿勢も、主体性と安心感を保つうえで重要です。
条件4：創造的フローを妨げないタイミングと表現
創作に没頭している最中に長い技術的説明が割り込めば、発想の流れは中断されます。必要なときにすぐ参照でき、不要なときは邪魔をしないUI設計——たとえばワンクリックで説明パネルを開閉できる構成——が望まれます。
表現面でも、決定的な評価を下すより、解釈の余地を残す柔軟な言い回しが適する場合があります。「この案は従来のあなたの傾向と比べて大胆です」といった形で気づきだけを促し、評価はユーザーに委ねる。暗黙知に宿る微妙なニュアンスを完全には言語化しないことで、創造の余地を守るアプローチです。
組織的な知識創造へ：SECIモデルとの接続
視点を個人から組織へ広げると、XAIは知識創造の循環にも関わってきます。野中郁次郎のSECIモデルが describes する「暗黙知の共有」「暗黙知の形式知化」といった段階に、XAIが寄与する可能性があるからです。たとえば、メンバーの経験知をAIが分析して可視化し、チーム内の共通言語を生成することで、新たな知識創造を促すといった応用が考えられます。
ただしこれが機能するには、これまで述べてきた人間中心設計の理念が不可欠です。技術を当てはめるだけでは、暗黙知の本質——文脈依存性と身体性——を取りこぼすことになります。
まとめ
本記事の要点を整理します。
- エナクティヴィズムは認知を行為と環境の相互構成として捉えるため、XAIにも対話的・参与的な説明設計を導入する意義を示します。
- 深層学習の進展により、AIは人間の暗黙知に相当するものを内部に保持するようになりました。XAIはそれを形式知へ翻訳する試みですが、翻訳は原理的に部分的なものにとどまります。
- 創造的タスクにおいて、XAIは暗黙知の顕在化を助ける補助線にも、創造的自己効力感やセレンディピティを損なう足かせにもなり得ます。
- 有効に働かせる条件は、段階的開示、対話的な理解支援、限界の率直な開示による信頼形成、そしてフローを妨げないタイミング設計の四点に集約されます。
XAIと暗黙知をめぐる研究は始まったばかりです。エナクティヴな認知理論の深化と、創造性との協調を意図したデザイン実践知が蓄積されれば、AIは単なるブラックボックスではなく、人間の知と創造性を映す鏡として機能しうるでしょう。次に問うべきは、「どこまで説明するか」ではなく「どのように共に理解を作るか」という設計上の問いです。
コメント