Column

「AIが書き換えた医療ガイドラインを信じていいか」——幻覚リスクをゼロにする「抽出型RAG」という設計思想

医療・法務・コンプライアンスなど安全性が命取りになる現場では、RAGの「書き換え型」生成が幻覚リスクを招く。NHSガイドラインを対象にした検証では、原文を直接抽出する「抽出型アプローチ」が精度・再現率・ソース忠実度の全面で上回った。医療IT担当とコンプライアンス部門が今すぐ設計方針を見直すための5分解説。

2026 / 06 / 13 5 分で読める English version →

A medical professional's hand holding a printed NHS guideline document, with a magnifying glass hovering over a highlighted line of text, and a green checkmark shield icon beside it

こんにちは。Affectosphere Group の井下です。

「AIが医療ガイドラインの内容を正確に伝えてくれるか」——この問いに、どれだけの病院が本気で向き合っているでしょうか。

医師が「この患者に使うべき薬の投与量は？」とAIに問い合わせたとき、AIが内部ドキュメントを参照しながら答えを返してくれる——そういうシステムを導入している、あるいは検討している医療機関は増えています。

でも、そのAIが「ガイドラインにこう書いてある」と答えたとき、原文の内容と一致している保証はあるでしょうか。

2026年6月にarXivで公開された研究（Julia Ive, Felix Jozsa, Evridiki Georgaki, Nabeel Sheikh, Emma Cattell, Nick Jackson, Paulina Bondaronek, Ciaran Scott Hill, Richard Dobson; arXiv:2606.12897）は、この問題に真正面から向き合っています。NHS（英国国民保健サービス）の急性期ケア、腫瘍学、NICEガイドラインを対象に、RAGシステムの「書き換え型」と「抽出型」を比較し、安全性が重要な場面では抽出型が上回ることを実証しました。

今日の3点

通常のRAGが採用する「書き換え型生成」は、安全クリティカルな文書では幻覚（ハルシネーション）リスクを高める。
「抽出型アプローチ」——とくに行番号ベースのライン選択——がソース忠実度を保ちながら精度・再現率で最良の結果を達成した。
医療・法務・コンプライアンス部門は「書き換え型RAG」から「抽出型RAG」へ設計方針を転換する具体的な理由が生まれた。

① 「書き換え型RAG」が安全性に与えるリスク

RAG（Retrieval-Augmented Generation）は、ドキュメントを検索して文脈として渡し、LLMがそれをもとに回答を生成する仕組みです。

一般的なビジネス文書への応用ではこれで十分機能します。少々表現が変わっても、意図が伝われば問題になることは少ない。

でも医療ガイドラインは違います。

「投与量は1日2回、1回200mgを経口投与」という記載が「1日2回、200mgを経口または静注で投与可能」に書き換えられたら、投与経路に関する重大な誤りが生まれます。LLMが「そういう言い方もあり得る」と判断して加筆した結果、原文にはないことが書かれてしまう。これが幻覚（ハルシネーション）です。

研究が対象としたNHSガイドラインは、まさにこういった細部が命取りになるドキュメントです。腫瘍学ガイドライン、急性期ケアプロトコル、NICEの治療勧告——これらを「書き換えて」回答するシステムは、専門家から見ると設計として問題があります。

② 「抽出型アプローチ」と行番号選択の仕組み

研究が提案する代替策は、シンプルです。LLMに文章を新たに生成させるのではなく、原文からそのまま抜き出す、というアプローチです。

複数の抽出戦略が比較されましたが、なかでも「行番号ベースのライン選択」が最も良い結果を示しました。具体的には、LLMにドキュメントの行番号を指定させ、該当する行をそのまま返す仕組みです。

なぜこれが有効かというと、LLMが行番号を選ぶ作業は「どの情報が関連しているか」の判断だけに集中できるからです。文章を組み立てる作業がなくなるため、表現の変形や意図しない加筆が発生しにくくなります。

研究結果では、この行番号選択法がソース忠実度（原文との一致度）を保ちながら、精度・再現率の両面で最良のスコアを達成したと報告されています。

③ なぜ「幻覚ゼロ」を目指す設計思想が重要か

「LLMが間違えることはある、でも人間も間違える」——これはある意味正しい。

でも医療・法務・コンプライアンスの場では、「どこから来た情報か」が問われます。間違いの責任の所在と、間違いを検出するための監査可能性の問題があるからです。

書き換え型の回答は、「AIが解釈した結果」です。原文と比較するためには、どの部分をどう変換したかを追跡する必要があり、監査コストが跳ね上がります。

抽出型の回答は、「原文のどの行か」が明示されます。間違いがあれば原文を参照して確認できるし、参照元の行番号があれば「この回答はガイドラインの第3章12行目に基づく」という形で記録に残せます。

これはコンプライアンス部門にとって、ソフトウェアの設計方針というより、監査可能性の担保という観点で重要な選択肢です。

ビジネス応用：医療IT部門の「RAG設計見直しチェックリスト」

この研究の知見は、医療機関の情報システム部門に対して、一つの具体的な問いを突きつけています。

「今のRAGシステムは、書き換え型か抽出型か？」

すでに院内ドキュメントへのRAGアクセスを導入している医療機関は、この問いを持って設計を点検するタイミングに来ているかもしれません。

具体的なユースケースとして考えると：

急性期ケア病棟の臨床意思決定支援システムで、看護師が処置プロトコルを参照するとき。腫瘍学部門で医師が化学療法レジメンを確認するとき。薬剤部でインタラクションチェックのためにガイドラインを参照するとき——これらすべてで、「書き換えられた要約」より「原文の該当行」を返すシステムのほうが、医療安全の観点から信頼性が高いと言えます。

コンプライアンス部門の規制対応システムにも同じことが言えます。金融規制、製薬の添付文書、労働法の解釈——書き換えではなく原文参照を基本設計とすることで、解釈の誤りによるリスクを大幅に下げられます。

KPIとしては「RAG回答の原文一致率」と「参照先ドキュメントの監査追跡可能性」が測定しやすい指標です。

注意点：抽出型でも限界はある

正直なところを書いておきます。

抽出型アプローチにも弱点があります。複数ドキュメントにまたがって情報を統合する必要がある質問には、単純なライン抽出では対応しきれない場面があります。また、ガイドラインが更新された場合に、古い行番号への参照が残ってしまうリスクも存在します。

研究が示しているのは「安全クリティカルな文書参照には抽出型が向いている」という設計の方向性であり、すべての質問タイプに完璧に対応する万能解ではありません。

「何を聞かれたときに何を返すべきか」——その問いに応じて書き換え型と抽出型を使い分ける設計が、実用的には重要になってくると思います。

締め

医療や法律の分野では、「一言一句が重要」という場面が確実に存在します。

AIがドキュメントを参照して答えてくれる便利さと、その答えの正確性を担保するための設計——この両立が、今のRAGシステム設計に問われている課題です。

「抽出型RAG」という選択肢は、技術的に突飛なアイデアではなく、「幻覚を減らすためにLLMに何をやらせないか」という設計思想の結果です。

安全クリティカルな現場でAIを使おうとしている方には、この発想を設計の出発点として持っておく価値があると思います。

では！

参考論文

Julia Ive, Felix Jozsa, Evridiki Georgaki, Nabeel Sheikh, Emma Cattell, Nick Jackson, Paulina Bondaronek, Ciaran Scott Hill, Richard Dobson (2026). SafeLLM: Extraction as a Hallucination-Resistant Alternative to Rewriting in Safety-Critical Settings. arXiv preprint arXiv:2606.12897.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。