Skip to content
Affectosphere Group Kansai University, Keito Inoshita Laboratory
EN

Column

AIは感情を持たなくていい——「感情的ダイナミクス」を制御層として設計する新しい枠組み

AIエージェントに感情を持たせるか否かではなく、感情的ダイナミクスをHuman-AI協働の制御層として設計する。そんな発想の転換を提示するサーベイが公開された。信頼校正・委任判断・過度な依存の制御まで、感情の工学的設計論を解説する。

5 分で読める English version →
人間とAIエージェントの間に感情的ダイナミクスの調整レイヤーが浮かぶフラットイラスト

こんにちは。Affectosphere Group の井下です。

「AIに感情を持たせるべきか」という問いが繰り返されていますが、問いの立て方自体を変えるべきかもしれません。

2026年6月にarXivで公開されたサーベイ論文（Xu et al., arXiv:2606.18259）は、こう提案します。感情はAIの内部特性ではなく、人間とAIが能力・不確実性・責任を交渉するための調整層（control layer）として機能する——と。

感情を「測定する対象」や「生成する機能」ではなく、「協働を制御するインターフェース層」として捉え直す視点です。

今日の3点

  1. 感情的ダイナミクスは、AIエージェントへの信頼校正と委任判断に直接影響する制御変数として機能する。
  2. エージェントの感情様応答の設計次第で、ユーザーのover-reliance（過度の依存）とunder-reliance（過度の不信）の両方を調整できる。
  3. 感情はAIの内側に置くのではなく、人間とAIの間の交渉層として工学的に設計すべき。

① 感情的ダイナミクスは「信頼の調整弁」として作用する

この研究が整理した知見の核心は、エージェントが発する感情的キュー（声のトーン、応答の丁寧さ、共感的表現）が、ユーザーの信頼校正に直接影響するという点です。

たとえば、AIが不確実性を素直に表明する（「この判断には自信がありません」）ことは、信頼を下げるのではなく、適切なレベルに校正する効果を持つ。逆に、常に自信満々に応答するAIは、ユーザーの過度な依存を招き、エラー修正行動を抑制する。

この研究は、これらの効果を「感情的ダイナミクスの制御層としての機能」として体系化しています。

感情を持つ／持たないの二項対立ではなく、どのような感情的信号をどの場面で発するかを設計変数として扱う——そういう発想の転換です。

② 委任判断とエラー修正に対する感情の工学的効果

人間がAIに仕事を委任するかどうかの判断にも、感情的ダイナミクスは関与します。

AIが適度な感情的応答（共感的確認、丁寧な不確実性の表明）を返す場合、ユーザーは「このAIは自分の意図を理解している」と認識し、委任しやすくなる。一方で、感情的応答が過剰だと「このAIは能力以上のことをやろうとしている」という不信を生む。

エラー修正についても同様です。AIがミスを犯したとき、感情的に中立な報告（「エラーが発生しました」）と、感情的に配慮した報告（「申し訳ありません、こちらで修正案を準備しました」）では、ユーザーの修正行動が変わる。

重要なのは、これらが「良い／悪い」の問題ではなく、設計変数として制御可能だという視座です。用途に応じて、信頼を高めるべき場面と、適切な警戒心を維持すべき場面で、異なる感情的応答を設計できる。

③ ガバナンスの新しい軸：感情的ダイナミクスのモニタリング

この研究は、AIガバナンスに対しても示唆を持ちます。

現在のAIガバナンスは、正確さ・公平性・透明性を軸に評価されることが多い。しかし、感情的ダイナミクスの制御層としての側面は見落とされています。

たとえば、AIチャットボットが「常に共感的」に設計されている場合、ユーザーは過度に依存しやすくなり、最終的に自律的な意思決定能力が低下するリスクがある。これは正確さや公平性の指標では捉えられない問題です。

この研究は、「感情的ダイナミクスの設計がユーザーの意思決定自律性にどう影響するか」を、ガバナンス評価の新しい軸として提案しています。

実装への示唆

この研究の知見を現場に落とし込むとしたら、以下のアプローチが考えられます。

まず、AIエージェントの応答設計に「感情的ダイナミクスの設計仕様」を明示的に加えること。現在の多くのAI製品は、プロンプト設計で「丁寧に」「共感的に」と指定するだけですが、場面ごとに異なる感情的応答パターンを設計変数として管理する方が適切です。

次に、信頼の過剰校正を防ぐために、不確実性表明のデザインパターンを標準化すること。「自信がない」をどう伝えるかの設計を、UXデザインの一環として体系化する。

最後に、AIへの依存度をKPIとしてモニタリングする仕組みの導入です。ユーザーがAIの提案をそのまま受け入れる割合が高すぎる場合、それは「良いUX」ではなく「過依存のリスク信号」かもしれない。

感情AIの新しいパラダイム

「AIに感情を持たせるか」は古い問いです。

新しい問いは「感情的ダイナミクスを、Human-AI協働のどの局面で、どう設計するか」です。

感情を認識する技術、感情を生成する技術の先にあるのは、感情を制御層として設計する技術——そう考えると、この分野の研究はまだ始まったばかりかもしれません。

では！

参考論文

  1. Xu, J., Wu, X., Zhang, Z., Xu, Y., Yang, Y., Zhu, J., Xiao, L., Wu, W., & He, L. (2026). Caring Without Feeling: Affective Dynamics as the Control Layer of Human-AI Agent Collaboration. arXiv preprint.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。