Column

社内AIエージェントは「信頼」から設計する——導入後の定着率を左右するUX原則とは

AIエージェントを導入しても使われない、信頼されない。その原因は技術ではなくUXデザインにあります。企業環境でのHuman-AIエージェント・インタラクションを体系化した研究から、IT部門・人事・DX担当が今すぐ使えるデザイン原則を解説します。

2026 / 06 / 19 5 分で読める English version →

こんにちは。Affectosphere Group の井下です。

「AIツールを導入したのに、3ヶ月後には誰も使っていない」—— そんな相談を、DX担当者や人事の方からよく受けます。

技術的には動いている。チャットボットも、業務支援エージェントも、正常稼働している。それなのに従業員は使おうとしない。

この「定着しない」問題の根っこは、たいていの場合、AIの性能ではなくUXデザインにあります。

今日は、企業環境におけるHuman-AIエージェント・インタラクションを混合研究法で体系化した研究（arXivで公開）を紹介しながら、 IT部門・人事・DX推進担当が使えるデザイン原則を考えます。

今日の3点

AIエージェントへの「信頼」はデザインによってコントロールできる
ユーザーの期待と実際の振る舞いのギャップが定着率を下げる
UXデザイン原則はチェックリスト化して導入プロジェクトに組み込める

なぜ「信頼されないAI」が生まれるのか

Kathrin Paimann、Elizangela Valarini、Sebastian Juhl の研究チームは、企業環境での Human-AI エージェント・インタラクションを質的調査と大規模サーベイ実験を組み合わせて分析しました。

この研究がユニークな点は、「どうすればAIエージェントが業務で役立つか」ではなく、「なぜ人間はAIエージェントと信頼関係を築けないのか」という問いを先に立てたことです。

導き出した答えは、主に3つの構造から来ています。

第一に、ユーザーの期待のずれです。人は最初にAIエージェントと接するとき、「これは何をどこまでやってくれるのか」という期待を持ちます。この期待が実際の能力と大きく乖離していると、最初の数回の体験で信頼が崩れます。そして一度崩れた信頼は、なかなか回復しません。

第二に、インタラクションの不透明性です。 AIエージェントが「なぜそう答えたか」を示さないと、ユーザーは判断の根拠を持てません。特に業務上の重要な意思決定に関わる場面では、根拠が見えないだけで利用を避けるようになります。

第三に、失敗時のリカバリー設計の欠如です。 AIが間違えたとき、どう修正できるかが見えないと、ユーザーは「このAIは信用できない」と結論づけます。失敗そのものより、失敗後の体験が信頼を決定します。

ビジネス現場への応用——何に使えるか

この研究が提示するデザイン原則は、そのまま社内AIエージェント導入のチェックリストとして機能します。

特に有用な場面が3つあります。

1. IT部門・DX推進担当の導入設計

社内AIエージェントを展開するとき、多くのプロジェクトは「どのAIを選ぶか」に集中しすぎます。

でも本当に問われるのは、「そのAIをどう見せるか、どうコミュニケーションさせるか」です。

研究が示すUXデザイン原則を、要件定義フェーズに組み込むことで、導入後の定着率を設計段階から高めることができます。

たとえば「AIの応答に根拠（引用元・推論過程）を必ず添付する」「不確実な場合は不確実と明示する」といったルールを、プロンプト設計やUI設計の段階で仕様として落とし込む。これだけで信頼スコアは大きく変わります。

2. 人事部・チェンジマネジメント担当

AI導入の失敗の多くは、従業員がAIを「監視されるもの」「自分の仕事を奪うもの」と感じることで起きます。

この研究が示す「期待のキャリブレーション」の考え方は、チェンジマネジメント施策に直接応用できます。

導入前に「このAIは何をするか、何をしないか」を明確に説明するオンボーディング設計。従業員が最初の体験でポジティブな印象を持てるユースケースから始める展開順序の設計。

これらは、技術投資の効果を最大化するために人事が主導できる領域です。

3. SaaS ベンダーのUX・プロダクトチーム

B2B向けAIエージェント製品の場合、「導入後エンゲージメント」がKPIとして最重要になります。

解約の多くは、製品の機能不足ではなく、従業員がそもそも使わないことで起きます。

この研究のデザイン原則を、プロダクトのUX仕様書や、顧客向けの導入支援ガイドに組み込むことで、カスタマーサクセスの武器になります。

実装の前に確認すべき3つの問い

研究が提示するデザイン原則をもとに、導入前に確認すべき問いを整理しました。

まず、「このAIはユーザーに何ができて何ができないかを伝えているか」。過剰な期待を生む説明は、後で必ず裏切りになります。能力の限界を正直に示す設計が信頼の基盤です。

次に、「AIの判断に根拠が添付されているか」。業務判断を支援するAIが「なぜそう言うか」を示せないなら、従業員はそれをアドバイスではなくノイズとして扱います。

最後に、「AIが間違えたとき、ユーザーはどう修正できるか」。フィードバックループを設計に組み込むことが、長期的な信頼維持の鍵になります。

KPI設計への組み込み方

この研究を活用した場合の、測定可能なKPI候補を提案します。

AIエージェントの週次アクティブ利用率（導入3ヶ月後・6ヶ月後）、タスク完了率（AIの提案を採用したケース数 / 提示数）、ユーザー信頼スコア（定期アンケートで測定）、フィードバック提出率（AIへの修正・評価入力の件数）。

これらを導入前のベースラインと比較することで、 UXデザインの改善投資が定着率・効率改善にどの程度寄与したかを定量的に示せます。

まとめ

AIエージェントの導入成否を決めるのは、技術の性能よりもUXデザインの質です。

ユーザーが抱く期待のずれを設計段階で解消し、インタラクションの透明性を確保し、失敗後のリカバリーを仕組み化する。

この3点を、IT・人事・プロダクトが連携して設計に組み込むことで、「使われないAI」から「使い続けられるAI」への転換が起きます。

投資対効果を最大化したいなら、チェックリストを要件定義の冒頭に置いてください。それが、信頼から始まるAI導入の第一歩です。

参考論文

Kathrin Paimann, Elizangela Valarini, Sebastian Juhl (2026). Human-AI Agent Interaction in a Business Context. arXiv:2606.18716.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。