Column

医療AI の「幻覚」問題、どう管理すれば FDA 認証を通れるか

MRI・CT・病理画像など5つのモダリティで起きる AI 幻覚を体系的に整理し、FDA の Total Product Lifecycle フレームワークと整合した検出・緩和戦略を提案した論文が公開された。読影 AI ベンダーや医療機器メーカーが規制申請に使える「幻覚管理の共通言語」をどう活かすか。

2026 / 06 / 13 5 分で読める English version →

胸部 CT スキャン画像に実在しない病変が幻覚として現れる様子と、FDA 審査チェックリストが重なったフラットイラスト

こんにちは。Affectosphere Group の井下です。

医療 AI の開発現場で「幻覚（hallucination）」という言葉を聞く機会が増えていると思います。

テキスト生成 AI の幻覚はすでに広く知られていますが、画像診断 AI の幻覚は別の怖さがあります。存在しない病変が CT 画像に描出される、病理スライドに実在しない細胞構造が現れる——こうした出力が臨床判断に混入したとき、どういう事態になるか。

問題はその「怖さ」だけではなく、幻覚をどう定義し、どう検出し、どう抑制するか、そして規制当局にどう説明するかという、製品開発全体に関わる構造的な問いです。

2026 年 6 月に arXiv で公開された研究（Omar Alshahrani, Muzammil Behzad; arXiv:2606.13211）は、この問いに正面から向き合っています。5 つの医療画像モダリティにわたる幻覚問題を統合的に分析し、分類体系・検出手法・緩和戦略を一つのフレームワークにまとめた論文です。

今日の 3 点

幻覚の「分類体系」を持つことが、FDA 認証申請における説明責任の基盤になる。
汎用基盤モデルが医療専門化モデルより幻覚を避けやすいという逆説的な知見がある。
幻覚管理は「上市前の対策」ではなく、継続的な義務として製品ロードマップに組み込む必要がある。

① 幻覚の「分類体系」を持つことの意味

この論文の出発点は、医療 AI 幻覚の体系的な分類です。

X 線、CT、MRI、病理画像、超音波——5 つのモダリティそれぞれで、幻覚の現れ方と根本原因が異なります。CT ならアーチファクトに似た偽病変が生成されやすいし、病理画像なら存在しない細胞パターンが描出されやすいといった具合です。

論文はこうした違いを横断的に整理し、幻覚の種類・根本原因・どのモダリティで頻出するかをマトリクス状に提示しています。

これが規制申請に直結する話になります。

FDA の医療 AI 審査（Total Product Lifecycle、いわゆる TPLC フレームワーク）では、製品がどんな誤りを起こし得るか、その誤りをどう検出・制御するかを申請書に記載することが求められます。このとき「幻覚が起きることがあります」という漠然とした記述ではなく、「どんな種類の幻覚が、どんな条件で発生するか」を体系的に説明できるかどうかが、審査の通過しやすさに直接影響します。

この論文の分類体系は、その「体系的な説明」を標準化するための共通言語として機能します。読影 AI ベンダーや医療機器メーカーが申請書を書くとき、この分類をベースにすることで、抜け漏れのない幻覚リスク説明が可能になります。

国内でも同じです。薬機法に基づく AI 医療機器審査（SaMD: Software as a Medical Device）は、FDA の TPLC アプローチを参考にしています。幻覚のリスク分類と対策の文書化は、PMDAへの申請にも直接応用できる内容です。

② 「汎用基盤モデル vs 専門化モデル」の逆説

論文の中で個人的に興味深かった知見を一つ紹介します。

汎用基盤モデル（GPT-4V のような汎用マルチモーダルモデル）が、医療画像に特化した専門化モデルより幻覚を避ける傾向があるという分析結果です。

直感に反しますよね。「医療画像専用に訓練されたモデルの方が安心では」と思うのが自然です。

論文はこの逆説の背景として、汎用基盤モデルの方が diverse なデータで訓練されているため、特定データへの過適合が起きにくい可能性を示唆しています。専門化モデルは医療画像データだけで fine-tune されることで、学習データに存在しない分布にモデルが当てはまろうとして幻覚を生成してしまうリスクがあるという説明です。

製品開発への含意は、単純に「専門化すれば安全」という方針が危うい、ということです。

特に、学習データが限られている希少疾患や特殊撮影条件への応用を考えている場合、専門化モデルが汎用モデルより幻覚リスクが高くなる可能性を念頭に置く必要があります。どのモダリティ・どのユースケースで専門化するかの判断に、この知見を組み込むといいと思います。

③ 幻覚管理は「継続的義務」として設計する

論文のもう一つの核心が、幻覚管理を上市前の一時的な対策ではなく、継続的な義務として扱うという観点です。

FDA の TPLC フレームワークは、医療機器の安全性を製品ライフサイクル全体で継続的に確保することを要求しています。つまり「申請前に幻覚を検証して終わり」ではなく、「市場に出た後も幻覚の発生をモニタリングし、問題があれば対応する」という体制が必要です。

論文はこれに整合した解決策として、Physics-informed 制約（物理的・解剖学的に整合する制約を AI の出力に課す）、Chain-of-Thought プロンプティング（推論過程を可視化して幻覚の入り込む余地を減らす）、人間監視との組み合わせ、を挙げています。

これを製品ロードマップに落とすとどうなるか。

一つの実践的な設計として、「幻覚モニタリング KPI」を製品の品質保証体制に組み込むことが考えられます。具体的には、稼働中のシステムで幻覚が疑われる出力がどの頻度で発生しているか、人間の読影者がそれをどのくらい修正・棄却しているかを定期的に計測します。そのデータを蓄積しておくことで、FDA への後続報告や改善申請に使える根拠データになります。

さらに重要なのは、このモニタリングの仕組み自体を申請書に記載しておくことです。「うちの製品は幻覚をこう検出し、こう対応します」という体制の説明が、TPLC 対応の実質的な証拠として機能します。

規制に「追われる」から「設計する」へ

医療 AI の規制環境は厳しくなる一方です。FDA も PMDA も、AI 医療機器に対してより詳細な安全性説明を求めています。

幻覚は「避けられないリスク」として扱われがちですが、この論文が提示するのは、幻覚を分類・定義し、検出・緩和の仕組みを設計し、継続的にモニタリングすることで「管理可能なリスク」に変えるという考え方です。

分類体系を持つ、専門化の落とし穴を把握する、継続的モニタリングを設計する——この 3 点を自社の製品開発プロセスに組み込んでおくことが、規制申請のスピードと品質を大きく左右すると思います。

では！

参考論文

Omar Alshahrani, Muzammil Behzad (2026). Hallucination in Medical Imaging AI: A Cross-Modality Analytical Framework for Taxonomy, Detection, and Mitigation under Regulatory Constraints. arXiv preprint.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。