感情AIに基づく開発

感情AIが本当に役立つかどうかは、心理的にデリケートな現場で安全に機能できるかにかかっている。家族関係・メンタルヘルス・教育現場・高齢者ケアなど、当事者の脆弱性が高い領域での実装は、研究室での精度評価とは別次元の課題を抱える。利用者は AIの判定によって深く傷つきうる立場にあり、AIの誤判定が現実の人間関係を破壊しうる。本領域は、感情を扱う AIを応用システムとして実装する際の方法論そのものを研究対象とし、心理的に安全で、共感的かつ実践的なフィードバックを設計する手法を探究する。

心理支援領域への AI応用には、いくつかの固有の困難がある。第一に「臨床的安全性(clinical safety)」の問題で、AIの誤った助言が利用者の精神状態を悪化させるリスクがある。第二に「共感的応答(empathic response)」の必要性で、技術的に正しい応答が必ずしも感情的に適切とは限らない。例えば、悲しみを訴える利用者に「客観的データに基づけば状況は改善する」と答えることは正しくても適切ではない。第三に「専門家代替の限界」で、AIは資格を持つ専門家を代替するべきではなく、補完する位置にとどまる必要がある。本領域の研究は、これらの困難を踏まえた上で、AIが安全に貢献できる範囲を慎重に設計する。

Role-Playing LLM-Based Multi-Agent Support Framework(2025)は、親子の会話から子の「抑圧された感情(suppressed emotion)」と親の「理想の親バイアス(ideal-parent bias)」を検出し、家族それぞれに向けた共感的フィードバックを返すシステムを提案した。「抑圧された感情」とは、子が親に対して感じているが直接表現できない感情を指し、「理想の親バイアス」は親が自身を「理想的な親」と評価することで子の実感を見落とす認知的偏向を指す。日本語の親子対話30シナリオを構築したうえで、抑圧感情検出・属性推定・バイアス検出・5エージェント討論という4段階の処理を統合する。

本システムの中核となる「5エージェント討論」は、心理士・教育者・親役・子役・調整役という5つの役割を別々の LLMが演じ、それぞれの立場から会話を分析・批評しあう設計である。役割演技(role-playing)を LLMに行わせることで、単一視点では見落とす論点を構造的に取り出せる。例えば心理士エージェントは抑圧感情の心理力動を、教育者エージェントは発達段階に応じた応対を、親役・子役エージェントは当事者視点を提供し、調整役が統合する。多様な視点を持つ専門家の議論を機械的に再現することで、共感的かつ実用的なフィードバックを生成する。

評価は二段階で行われた。第一段階の人間評価では、共感性と実用性が高く評価された。第二段階のシミュレーション会話では、フィードバックを受けた後の親子対話で抑圧の緩和や相互理解の改善といった兆候も観察された。一方で、システムが自身の判断に過剰な自信を示す傾向が確認され、心理支援応用ではキャリブレーション(自信と正しさの一致)が不可欠であるという重要な知見も得られた。これは本ラボの内部理解領域における不確実性研究と直接接続する論点であり、応用開発と基礎研究の対話の必要性を示している。

心理支援領域での感情AI評価には、通常のNLPタスク評価では捉えきれない側面がある。技術的精度(正解ラベルとの一致率)だけでなく、(i)共感性(利用者が感情的に受け入れられたと感じるか)、(ii)実用性(具体的な行動変容に繋がるか)、(iii)安全性(利用者を傷つけない応答か)、(iv)説明性(なぜその助言かを示せるか)、(v)キャリブレーション(自信度の表現が適切か)、という多面的指標が必要となる。本研究は、こうした多面的評価フレームワークの一例を示しており、デリケート領域での感情AI評価のあり方への先駆的貢献となっている。

本研究は、感情AIをデリケートな対人領域へ展開する際の方法論的な雛形を示している。技術を作るだけでなく、その振る舞いの安全性と説明性を同時に設計することが、実装研究の中心課題になりつつある。今後は、家族関係を超えて、教育・高齢者ケア・職場メンタルヘルスなど、複数の応用領域への展開を予定している。倫理哲学領域における規範議論、内部理解領域における不確実性研究、ヒューマンインタラクション領域における関係性設計と連携しつつ、感情AIの社会実装を進めていく。