Research
感情AIの倫理と哲学
感情を計測する技術が、誰のために、どのように使われるべきかを問い続ける。技術と人間のあいだに横たわる規範を、哲学の言葉で見つめなおす。
取り組んでいること
感情AIは、心理学的理論・アノテーション・モデリング・対話設計・社会応用・倫理が積層した社会技術システムである。しかし既存研究は層ごとに独立に進む傾向が強く、層間を貫く構造的議論や、技術と人文の橋渡しを担う批評は依然として限られている。本領域では、感情AIを単一の技術ではなく層構造として捉え直し、責任ある設計と社会実装の指針を哲学的に問い直すことが求められている。
分かってきていること
層ごとの最適化を積み上げるだけでは、上流の前提が下流の失敗を構造的に誘発する。理論とデータの不整合、モデルと対話インタフェースの認知的ミスマッチ、技術と倫理の責任の分断など、特定の組み合わせで繰り返し現れる「分断のパターン」が観察されている。これらは個別バグではなく層を超えて連鎖するカスケードであり、対処には縦断的評価・配備別の説明責任・利用者の解釈権保持といった、横断的な設計原則が必要であることが議論されつつある。
Research notes
研究の物語
感情を扱うAIは、もはや単なる分類器ではなく、心理学的理論・感情ラベル付きデータ・機械学習モデル・対話インタフェース・社会応用・倫理的責任という異質な層が積み重なった「社会技術システム」である。喜びや悲しみといった内的経験をコンピュータに扱わせるためには、まず感情とは何かという心理学的理論を選ばねばならず、次にその理論に基づくラベル付けの方法、ラベルを学習するモデルの設計、ユーザに結果を提示するインタフェースの設計、そして実社会で運用するための倫理規範までが、一連の選択として連鎖する。本領域の研究は、この層構造を意識的に取り出し、その繋ぎ目に潜む規範的問題を扱う。
感情AIの研究コミュニティでは、各層が独自の方法論と評価基準を持って独立に発展してきた。心理学者は感情モデルを精緻化し、データ科学者はアノテーションスキームを洗練し、機械学習者はベンチマークでの精度を競い、HCI研究者は対話設計を磨き、応用研究者は産業展開を進め、倫理研究者は規範を論じる。それぞれの専門が深まる一方で、層と層のあいだに「責任の空白」が生じる。本来は接続して検討すべき問題が、各層の境界で分断されてしまうのである。本領域では、この分断構造そのものを研究対象として扱う。
Bridging the Silos in Affective AI(2026)は、感情AI研究を6層(理論・データ・モデル・対話・社会応用・倫理/評価)のパイプラインとして整理し、層間に繰り返し現れる4つの「サイロ橋(silo bridge)」分断パターンを診断したポジションペーパーである。具体的には、(i)理論-データ間の操作化ずれ(理論で語る感情と、データに付くラベルが食い違う問題)、(ii)モデル-対話間の認知的ミスマッチ(モデル出力とユーザの解釈枠組みが噛み合わない問題)、(iii)技術-倫理間の責任の散逸(誰が最終的に説明責任を負うかが曖昧になる問題)、(iv)データ-社会応用間の暗黙の代表性仮定(特定集団のデータが普遍的な真理として扱われる問題)、の4つを指摘している。
なぜポジションペーパー(主張提示型論文)という形式が必要だったのか。それは、これらの分断が個別の技術的バグではなく、研究コミュニティの構造そのものに根ざした問題だからである。例えば、特定のベンチマークで最高精度を出すモデルが、実装段階でユーザに誤解を与えるという事態は、モデル単体を改善しても解決しない。論文の評価軸そのものを問い直し、層を横断する共通言語を提案する必要がある。本論文は、こうした横断的視点を学術コミュニティに提示することを目的としている。
対処として、論文は相互に連動した5つの設計基準(Design Criteria, 以下DC)を提案している。DC1「理論の明示化」は、どの感情理論を採用しているかを論文・実装の双方で明記することを求める。DC2「介入の限定化」は、感情AIが介入してよい範囲をあらかじめ定義し、越境を防ぐ設計を要請する。DC3「縦断的評価」は、ある時点での精度評価ではなく、時間経過に伴う影響の追跡を不可欠とする。DC4「配備別の説明責任」は、研究プロトタイプ・実証実験・商業展開のそれぞれで、誰が何の責任を負うかを明示する。DC5「利用者による解釈権保持」は、AIの出力結果を最終的に解釈する権利が利用者本人にあることを設計に組み込む。これら5つは独立した規則ではなく、互いに支え合う規範システムとして提案されている。
DC5の「利用者による解釈権保持」は、本領域が掲げる「感情主権(emotional sovereignty)」概念の中核を成す。感情主権とは、自分の感情に関する解釈・記録・公開の最終決定権が、当該感情を経験している本人に帰属するという規範的立場である。AIが「あなたは怒っています」と告げることと、本人が「私はそう感じていない」と返答することのあいだの非対称な権力関係を、設計の段階で意識的に解消することを要請する。この概念は、医療における自己決定権や、個人情報保護における自己情報コントロール権の延長線上に位置づけられ、感情AI時代における新たな人権概念として提案されている。
感情AI領域で哲学的・規範的研究が今、必要とされている社会的・学術的背景は明確である。第一に、生成AIの急速な普及により、感情を読み取り応答するシステムが日常生活に大量に流入しつつあり、その振る舞いを事後的に問題視するのでは間に合わない段階に入っている。第二に、感情データはセンシティブな個人情報であるにもかかわらず、現行の法規制では十分にカバーされていない領域が広い。第三に、技術者・利用者・規制当局のあいだの共通言語が未成熟であり、議論が技術論と倫理論に分裂しがちである。本領域の研究は、これら三つの空白を埋める枠組みを提示することを目指している。
本ポジションペーパーは技術論文ではなく、感情AIを社会技術システムとして再定位するための見取り図であり、後続の実装研究や倫理議論の参照枠として位置づけられる。本ラボの他領域、すなわち感情データの拡張・感情AIの内部理解・人間とのインタラクション・ビジネス応用・心理支援開発のすべては、この見取り図のいずれかの層を担う具体的な研究として理解できる。倫理と哲学の領域は、他のすべての研究を貫く縦糸の役割を果たしている。