臨床で使う医療AIの信頼性は、予測精度、説明の忠実性、別施設での再現性、患者転帰への影響を分けて評価する必要がある。広く処方される薬でも、観察された効果と作用経路の解明は同時に終わらない。メトホルミンの新たな脳内経路を示した動物研究は、医療AIの評価でも結果と仕組みを分ける必要性を示す材料になる。

Linらが2025年にScience Advancesで発表した論文は、低分子量Gタンパク質Rap1（Ras-related protein 1）を前脳で欠損させたマウスでは、特定の投与条件下のメトホルミンへの血糖低下反応が弱かったと報告した。研究チームは中枢投与、Rap1の活性化、脳切片の電気生理、視床下部腹内側核（ventromedial hypothalamic nucleus、VMH）のSF1ニューロンの操作を組み合わせ、VMHのRap1が反応に関わる可能性を示した。

Rap1研究の範囲──人の作用機序は未確認

研究の中心はマウスで、脳の遺伝子操作、中枢への投与、高脂肪食という実験条件を含む。人の治療で同じ経路がどの程度の役割を担うかは、研究対象に入っていない。論文が裏づけたのは特定の動物モデルでの経路であり、人での臨床的重要性ではない。

ここでは、観察された血糖変化、変化を生む生物学的経路、どの人に当てはまるかという三つの問いが別々に残る。臨床で使われる薬でも、新たな機序の候補は動物実験からヒトでの研究へ段階を追って確かめられる。新しい経路の発見を、そのまま治療効果の上積みや適用範囲の拡大と読むことはできない。

薬の機序とAIの説明は同じではない

両者を並べる意味は、証拠を層ごとに整理する点に限られる。薬の機序研究は生体内の因果経路を問う。AIの説明は、モデルがどの入力を根拠に出力したか、その表示がモデルの内部動作に忠実か、人が表示をどう受け取るかを問う。検証対象は一致しない。

証拠の層 メトホルミン研究 医療AI
観察結果 血糖変化が再現するか 独立データで性能が再現するか
仕組み 臓器、神経、分子の経路 説明がモデルの判断に忠実か
適用範囲 投与法、対象集団、併存疾患 患者集団、施設、機器、記録方式
臨床価値 人体での便益とリスク 診療の正確さ、業務、患者転帰

AIが高い識別性能を示しても、病気の因果を学んだとは限らない。患者背景や撮影機種、収集施設に固有の偏りへ依存している可能性が残る。説明画面がもっともらしく見えることと、その表示がモデルの判断過程を正しく反映することも別の問題である。

説明は信頼を上げるとは限らない

説明可能AI（Explainable Artificial Intelligence、XAI）は、出力に至った根拠を人が検討するための表示や手法を指す。ただし、説明があるという事実だけでは、説明の質も使い方も定まらない。Jungらの2023年の系統的レビューは882報を抽出したが、臨床データを使うXAIで説明の有効性まで評価し、採択基準を満たした研究は6報に限られ、忠実性、解釈可能性、もっともらしさなどの評価方法もそろっていなかった。著者らは、包括的な合意済みの枠組みと標準化された評価方法が不足していると結論づけた。

Rosenbackeらが2024年に発表した別の系統的レビューは778報から10報を採用し、XAIによって臨床家の信頼が高まった研究が5報、有意な変化がなかった研究が3報、説明の複雑さや一貫性によって信頼が上がる場合と下がる場合があった研究が2報だったと報告した。全10報のバイアスリスクは中等度か、中等度から高い水準と評価された。

信頼の上昇自体は、臨床的な有用性を示さない。誤った出力に従う過信も、正しい出力を退ける不信も、判断の正確さを損ねる。説明の評価には、理解しやすさに加え、モデルへの忠実性、誤りを見抜く助けになるか、実際の判断や患者転帰がどう変わるかという別の指標が要る。

信頼性を支える全ライフサイクルの証拠

2025年のFUTURE-AI国際合意指針は50カ国の117人が参加し、公平性、普遍性、追跡可能性、使いやすさ、堅牢性、説明可能性の6原則と30項目の実務を、設計、開発、検証、規制、導入、監視までの全ライフサイクルに配置した。説明可能性は六つの原則の一つであり、それだけで信頼性が確立するわけではない。

開発時の成績は、まず学習に使っていないデータで確かめる。次に、施設や患者集団を替えた外部検証で、開発環境に固有の特徴へ依存していないかを見る。臨床導入では、人の判断、誤警報、業務負荷、患者転帰への影響を分けて測る。導入後には、患者構成や機器の変化によるデータのずれ、モデル更新、障害、セキュリティ事象を追跡する。この順序のどこか一段が良くても、残りの段階を省く根拠にはならない。

日本で問われる一般化可能性と導入後の管理

日本では、AIという技術名だけで薬機法上の扱いが決まるわけではない。厚生労働省は、医療機器としての目的があり、意図どおりに機能しない場合に患者や使用者の生命・健康へ影響するおそれがある単体プログラムを、医療機器プログラムとして規制すると説明している。製品が掲げる使用目的とリスクが制度上の入口になる。

単一施設や国外で高い成績を得たモデルも、そのまま日本の別の施設で同じ性能を持つとは限らない。PMDAが2026年5月に更新した手引きは、機械学習を使う診断用プログラムについて、日本の任意の施設で品質、有効性、安全性が保たれる一般化可能性の評価を求め、学習データと評価データの収集施設、患者背景、撮影機種・条件、正解ラベルの作成方法、年齢や性別などを検討項目に挙げている。開発施設の成績だけで国内全体への適用を裏づけることはできない。

導入後の安全管理にはサイバー攻撃への備えも含まれる。医薬品医療機器総合機構（PMDA）は、医療機器の基本要件基準にサイバーセキュリティ要求が新設され、サイバーリスクが懸念される医療機器には2024年4月1日から改正基準への適合が求められると案内している。モデルの精度や説明画面が良くても、脆弱性管理、更新、院内の権限と記録は残る。

日本国内で説明表示の有無を比較し、患者転帰の改善まで検証した医療AIの公的資料は、本稿の執筆時点で確認できていない。日本の制度資料から確認できるのは、医療機器への該当性、性能評価の一般化可能性、承認審査、安全管理の枠組みである。説明が現場の信頼を適正な水準へ調整するかは、製品と診療場面ごとの検証が残る。

研究結果と説明、臨床価値は別の証拠

メトホルミンのRap1研究が更新したのは、特定のマウス実験で観察された作用経路の理解である。人体での適用範囲や臨床上の価値を確定した研究ではない。医療AIでも、新しい説明手法や高い予測精度は証拠の一部であり、独立した外部検証や臨床導入後の評価を置き換えない。

信頼できる医療AIという表現には、少なくとも三つの意味が混在する。モデルの出力が再現する技術的な信頼性、説明がモデルの挙動に忠実である検証可能性、人と組み合わせたときに診療の正確さや患者転帰を損なわない臨床的な信頼性である。どの意味を測った研究かを明記しないと、評価対象と未検証の範囲を区別できない。

よくある質問

Rap1研究でメトホルミンの作用機序は確定したのか
確定していない。研究は前脳Rap1欠損マウス、中枢投与、VMHのSF1ニューロン操作を含み、人の治療で同じ経路が担う役割は検証していない。

ヒートマップがあれば医療AIは説明可能なのか
表示があるだけでは足りない。表示がモデルの判断に忠実か、条件が変わっても安定するか、臨床家の過信を招かないかを別々に評価する必要がある。

単一施設で高精度なら別の病院でも同じ性能になるのか
同じとは限らない。PMDAの手引きは、収集施設、患者背景、機種・条件、正解ラベル、年齢や性別などを評価データで検討し、一般化可能性を説明するよう求めている。