Column

AIが処方する時代、医師の「拒否権」はどう設計すべきか

自律型AIが処方推奨を出す場面で、臨床医はどこまで介入できるべきか。不確実性の種類を区別して伝える設計が、医療AIへの信頼と責任明確化の両立を可能にするという考え方を解説します。

2026 / 06 / 26 5 分で読める English version →

医師とAIパネルが並ぶ診察室のフラットイラスト。高リスクな判断時に医師へ制御が戻る矢印が描かれている

こんにちは。Affectosphere Group の井下です。

医療AIの導入が本格化するにつれて、ひとつの問いが浮かび上がってきています。

「AIが処方を決めるなら、医師はどこまで介入できるのか」

単なる推奨ならまだいい。でも自律型AIが「この患者にはこの薬をこの量で」と決定を下す段階になると、医師の役割は何になるのか。そしてその判断に誤りがあったとき、責任は誰にあるのか。

2026年6月にarXivで公開されたLaRocco et al. の研究（arXiv:2606.25108）は、この問いに対して「不確実性の種類を区別して臨床医に伝えることが鍵」というフレームワークを提案しています。

今日の3点

AIの不確実性には「追加データで改善できるもの」と「本質的に改善できないもの」の2種類がある。
この区別を臨床医に適切に見せることで、医師が介入すべき場面を正確に特定できる。
高不確実性時に自動でエスカレーションする設計が、信頼・責任・臨床受容の三つを同時に高める。

① 不確実性に「2種類ある」ということ

医療AIが出す予測には、2種類の不確実性が混在しています。

一つ目が「認識論的不確実性（epistemic uncertainty）」です。これはモデルがデータ不足のせいで確信を持てない状況です。その患者のような症例がトレーニングデータに少ない、あるいは検査値の組み合わせが珍しい——そういった場合に起きます。重要なのは、データを増やしたり、モデルを再学習させたりすることで改善できる、という点です。

二つ目が「偶発的不確実性（aleatoric uncertainty）」です。これは患者ごとの生物学的なばらつきから来るものです。同じ薬を同じ量投与しても、体質によって反応が異なる——これはデータをどれだけ集めても根本的には改善しません。患者の個体差そのものが原因だからです。

この2種類を「どちらもAIがよくわからない状態」として一まとめにしてしまうと、臨床医は何をすべきかわからなくなります。

認識論的不確実性が高い場合、追加検査や専門医への照会で状況が改善できます。一方、偶発的不確実性が高い場合、情報をどれだけ追加しても推定の精度は上がらない。「経過観察しながら慎重に投与する」「患者本人の意思決定を優先する」という戦略が求められます。

② 伝え方の設計が信頼を決める

この研究が提案するのは、AIが推奨を出す際に「なぜ確信度が低いのか」を種類ごとに開示する設計です。

単に「信頼度60%」と表示するだけでは、臨床医は動きようがありません。でも「このケースの認識論的不確実性が高い理由は、類似症例のトレーニングデータが少ないからです」と示されれば、医師は「追加検査を指示しよう」と判断できます。

逆に「偶発的不確実性が高い」と示されたなら、「この患者の反応を正確に予測するのは本質的に難しい。少量から投与して様子を見よう」という臨床判断につながります。

不確実性の種類を伝えることは、臨床医をAIの代替ではなく「AIが判断を委ねるパートナー」として機能させる設計です。

③ 拒否権（Veto）の設計とエスカレーション

LaRocco et al. の研究が特に重視するのが「臨床医の拒否権（Veto）」をシステムに組み込むことです。

自律型AIの処方決定に対して、医師が「この判断には同意しない」と介入できる仕組みを最初から設計に入れる。これは単なる「安全装置」ではなく、責任の所在を明確化するための構造です。

医師が拒否権を行使した記録は、のちの訴訟や医療事故調査の際に「誰がどの時点でどの判断に介入したか」を示す証跡になります。AIが決定し、医師が黙認したのか。医師が介入して変更したのか。この区別がなければ、責任の所在は曖昧なままです。

そしてエスカレーション設計——不確実性が一定の閾値を超えた時点で自動的に「人間判断が必要」とフラグを立てる。これが現場での医療AI受容率を高める実際的な方法だと研究は指摘しています。

完全自律を目指すより、「自律＋明示的なエスカレーション条件」の設計が、臨床環境には合っている、という考え方です。

自施設で試す：HIS・医療AI導入担当者へ

この研究の知見を「自施設でどう試せるか」を整理してみます。

想定部署は電子カルテ（HIS）の運用管理部門、またはAI診断支援ツールの選定・導入を担当するIT・医療機器部門です。

まず第一歩として、現在使用している医療AI製品が「不確実性の種類」を出力しているかを確認してください。「信頼度スコア」だけを出すツールは多いのですが、それが認識論的なのか偶発的なのかを区別している製品はまだ少ない状況です。

次のステップとして、AIが高不確実性と判断した症例をログとして収集し、その後の医師判断との差異を月次でレビューする運用を設計することが考えられます。これが「エスカレーション設計の実態調査」になります。

KPIとして設定できるのは、たとえば「医師がAI推奨を覆した割合」と「高不確実性フラグ付き症例での医師介入率」の2軸です。高不確実性フラグが出たのに介入しなかった症例に有害事象が集中していないか——このモニタリングが、現場の安全検証になります。

将来的にAI処方ツールを導入・開発するフェーズでは、不確実性を種類別に臨床医へ提示する機能を要件に含めることを、この研究は強く示唆しています。

「AIを信頼する」より「AIとどう協働するか」を設計する

医療AIに求められているのは「完璧な予測」ではなく「臨床医との適切な役割分担」だと、この研究は整理します。

不確実性を種類別に伝え、高不確実性時には人間にバトンを渡す。そしてその記録が責任の証跡として機能する。この設計があれば、臨床医はAIを「理解できないブラックボックス」ではなく「どこまで任せられるかわかるパートナー」として受け入れられると思います。

AIを信頼するかどうかより先に、「AIがどこで不確かになるかを可視化する設計があるか」を問う方が現実的です。

病院のAI導入担当者にとって、今日から使える問いかけはこうです。「うちの医療AIは、自分がよくわからない時にそれを医師に教えられるか」。

では！

参考論文

Eileanor LaRocco, Sarah Tan, Adarsh Subbaswamy, et al. (2026). The Clinician’s Veto: Navigating Trust, Liability, and Uncertainty in Autonomous AI Prescribing. arXiv preprint.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。