感情 AI のプロジェクトは、たぶん「層と層のすき間」で死ぬ

こんにちは。Affectosphere Group の井下です。

ここ数年、感情 AI を入れたい大企業の方と話す機会が増えました。だいたい、こういう相談を受けます。

「うちでも感情 AI 入れたいんだけど、なんか炎上しそうで怖い」

これ、わりと正しい直感だと思います。

ただ、何が怖いのかと聞くと、答えが面白いほど割れる。技術部門は「精度が出ない」と言い、UX 部門は「不気味と言われる」と言い、法務は「規制が読めない」と言い、経営は「責任を誰が取るか分からない」と言う。

つまり、感情 AI プロジェクトは「技術が悪い」「ベンダーが悪い」「現場が悪い」のどれでもなく、層と層のすき間に落ちるところで死んでいるんです。

私たちが 2026 年に SSRN で公開したポジション論文 ¹ は、この構造を真正面から整理しました。

結論を先に書くと、

「感情 AI を 6 層のパイプラインとして捉え、層をまたぐ責任空白を埋める設計力こそが、これからの競争軸になる」。

今日はこの話を、AI 戦略・CTO・プロダクト責任者向けに書きます。

---

今日の結論を 3 行で

1. 価値: 感情 AI を「6 層構造」として見ると、自社のどこが強くてどこが空白かが、初めて見える。要件定義の精度がぐっと上がる。
2. 落とし穴: 多くのプロジェクトは特定の層の技術ではなく、層と層のすき間に責任が落ちて炎上する。技術投資だけでは解けない。
3. 隠れた論点: 「ユーザの感情の最終解釈権はユーザに残す」という感情主権の発想は、競合との差別化メッセージにもなる。

順に書きます。

---

① 感情 AI は「6 層のパイプライン」だ、という見方

論文の出発点は、感情 AI を単一の技術として見るのをやめて、6 つの層の積層として見直すことです。

• 理論層: どの感情理論を採用するか(Ekman の 6 基本感情? Plutchik の輪? PAD モデル?)
• データ層: どうラベル付けされたデータを使うか
• モデル層: どの機械学習設計か
• 対話層: ユーザにどう提示するか
• 社会応用層: どの業務文脈で運用するか
• 倫理 / 評価層: 誰が責任を負うか

経営の視点で大事なのは、「自社の感情 AI プロジェクトが、この 6 層のうちどこを自社で握り、どこをベンダーに委ね、どこは社内に専門家不在のまま空白になっているか」が把握できているか、という問いです。

多くの組織で、層をまたぐ責任の所在が曖昧なまま、運用だけ走り始めてしまっています。

そして問題が起きたとき、誰も最終的な責任者じゃないことに気づく ── これが感情 AI 炎上の典型パターンです。

---

② 層と層のすき間で何が起きるか

論文はさらに、層と層の間に繰り返し現れる 4 つの分断パターン ──「サイロ橋分断」── を特定しました。

第一に、理論層とデータ層の「操作化ずれ」。 採用した感情理論が「喜び」と呼ぶものと、データに付いたラベルの「喜び」が、定義として食い違う。一見些細ですが、これが現場で「AI 判定が実感とズレる」原因になります。

第二に、モデル層と対話層の「認知ミスマッチ」。 モデルの出力(たとえば「怒り 0.87」)と、ユーザの解釈フレームが噛み合わない。「0.87 って強いの?」が分からない UI は、ユーザを混乱させます。

第三に、技術層と倫理層の「責任散逸」。 何か起きたとき、誰が責任を負うべきかが層をまたぐと曖昧になる。ベンダー、UX 受託、社内事業部、外部監査 ── 全員が「それは弊社の責任範囲外です」と言い合う事態。

第四に、データ層と社会応用層の「代表性仮定」。 特定の集団(英語圏・若年層・SNS)から集めたデータを、暗黙のうちに普遍的真実として扱ってしまう。地方の高齢顧客に対して精度が出ないのに、ベンダーの公称精度を信じて運用される。

ビジネスの言葉に翻訳すると、これらは全部「契約書のすき間に落ちて、運用後に必ず炎上の火種になる論点」です。

---

③ 感情 AI の視点から押したい「感情主権」

ここが、Affectosphere Group として一番大事にしているポイントです。

論文は 5 つの設計基準 (DC1-5) を提示していますが、その中核にあるのは DC5 ──「ユーザの解釈権の保持」── という発想です。

少し噛み砕いて言うと、

自分の感情を解釈・記録・開示する最終権利は、本人にある。

これを「感情主権 (emotional sovereignty)」と呼んでいます。

なぜこれが大事かというと、感情 AI が「あなたは怒っています」と判定したとき、ユーザが「いや、私はそう感じていません」と言える余地を、設計段階で残しておく必要があるからです。

機械が「あなたの感情はこうだ」と一方的に言い切る関係は、人と AI の間に不均衡な力関係を生みます。医療における自己決定権や、データ保護における自己情報コントロール権の延長線上に、感情 AI の時代の新しい人権概念として置こう ── というのが、論文の主張です。

そしてこれは、ビジネスとしても効きます。

「当社の感情 AI は、お客様の感情の最終解釈権をお客様に残します」── このメッセージは、顧客の感情をブラックボックスで判定する競合に対して、信頼面で大きなアドバンテージになります。

特にメンタルヘルス、教育、人事領域 ── つまり、ユーザが脆弱な瞬間に介入する領域では、感情主権を明示することがブランド資産になります。

---

じゃあ、明日から何をするか

リスクだけ煽るのはフェアじゃないので、現場で動かせる話を 3 つだけ。

• 6 層マッピング: 自社の感情 AI 関連プロジェクトを、6 層構造にマッピングしてみる。「どの層が自社、どの層がベンダー、どの層が空白か」が一目で見えると、最初の議論が一気に進みます。
• ベンダーへの 2 つの開示要求: 採用している感情理論と、訓練データの構成(地域・年代・言語・媒体)を必須開示にする。これだけで、操作化ずれと代表性仮定の 2 つは大きく潰せます。
• DC1-5 をガバナンスチェックリスト化: 「採用した感情理論は明記されているか」「介入範囲は限定されているか」「縦断評価の計画はあるか」「配備別責任は明確か」「ユーザの解釈権は保持されているか」── この 5 問を、感情 AI 案件のレビュー標準項目にする。

そして、もし顧客向けメッセージを設計する立場にあるなら、「感情主権ステートメント」を一度ドラフトしてみることをおすすめします。書いてみると、自社が顧客の感情をどう扱うかについて、思っていた以上に方針が曖昧だったことに気づきます。

---

締め

感情 AI の競争は、もはやモデル精度の競争ではありません。

理論・データ・モデル・対話・社会応用・倫理 ── 6 層を貫く設計力、言い換えれば「層をまたぐ責任の空白を埋める能力」が、プロダクトの成否を決めます。

そして、その中核に置くべきは ──

ユーザの感情の最終解釈権は、ユーザに残す。

これは技術論であり、同時にビジネス判断であり、最終的には、感情 AI の時代における人と AI の関係をどう設計するかという話です。

私たちの研究室は、ここに技術側から答えを作っていきたいと思っています。

ということで、今日はここまで。

「うちの感情 AI、6 層のどこに穴がありますか?」── この問いを次回の AI 戦略会議に持ち込んでいただければ、本稿の役目は果たせたことになります。

---

参考論文

1. Keito Inoshita (2026). Bridging the Silos in Affective AI: A Critical Perspective from Data to Society. SSRN preprint.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。

Footnotes

1. Keito Inoshita, “Bridging the Silos in Affective AI: A Critical Perspective from Data to Society”, SSRN preprint, 2026. ↩