Column
「心の話はAIにしたくない」は本当か——開示を決めていたのは、トピックではなく知覚リスクと知覚利益だった
オランダの代表サンプルN=1,388を対象にした実験から、AIチャットボットへの健康情報の開示意欲を決めるのは「身体の話か、心の話か」というトピックの種類ではなく、ユーザーが感じる利益とリスク、そして個人特性だと示されました。感情AIの設計にとって、これはかなり効く知見です。
こんにちは。Affectosphere Group の三浦です。
感情AIの話をしていると、かなりの確率でこう言われます。
「体調の相談ならAIでもいいけど、メンタルの話をAIにするのはちょっと」——。
なんとなく分かる感覚ですよね。心の話は特別で、機械に打ち明けるものではない。そういう前提を、私も長いこと疑わずに持っていました。
ところが、2026年7月にarXivへ公開された研究（Beets, Jansen, Hommes, Vromans, Westerbeek, Sankaran, van Weert, Krahmer & Bol, arXiv:2607.09253）が、この前提にわりと正面から水を差してきます。
オランダの代表サンプル、N=1,388。混合デザインのオンライン実験で、AIチャットボットへの知覚利益・知覚リスク・使用意図・自己開示意欲を測っています。そして結論として、健康情報をAIに開示するかどうかは、トピックが身体か心理かよりも、知覚利益・知覚リスクと個人特性に主として規定されると示されました。
感情AIをやっている立場から見ると、これはかなり効く話です。今日はそこを掘ります。
今日の3点
- トピックタイプ（身体的か心理的か）は、思ったほど支配的ではなかった。開示を主に規定していたのは、ユーザーが感じる利益とリスク、そして個人特性のほう。
- 知覚利益は使用意図・開示意欲と正の関連、知覚リスクは負の関連。効いていたトピック側の要因は、種類ではなく感度で、感度の低いトピックのほうが使用意図は高かった。
- 感情AIが前提にしている「感情表出データが取れること」は、実は設計側の努力で動かせる変数だった。精度を上げる前に、リスク認知を下げて利益認知を上げる仕事がある。
① 「心の話は特別」という前提が、うまく効かなかった
まず、この研究がぶつけている問いを整理します。
検討されたのは2軸です。ひとつはトピックタイプ、つまり身体的な話題か、心理的な話題か。もうひとつはトピック感度、つまり感度が低いか高いか。この2軸が、知覚利益・知覚リスク・使用意図・自己開示意欲にどう効くかを見ています。
素朴な予想はこうでした。心理的な話題は特別だから、そこだけリスクが跳ね上がり、開示意欲がガクッと落ちるはず——。
でも結果はそう単純ではありませんでした。論文が示しているのは、AIチャットボットへの健康情報の開示が、トピックタイプよりも知覚利益・知覚リスク・個人特性によって主に決まっていた、ということです。
つまり「心の話かどうか」というラベルより、その人がそのチャットボットをどう見ているかのほうが、開示を左右していた。
これ、地味に大きな話だと思っています。
「心理的な内容はAIには開示されにくい」を固定の壁として扱うと、感情AIの設計は「じゃあ諦めよう」か「無理やり聞き出そう」の二択に寄っていきます。でも実際に効いていたのが知覚リスクと知覚利益なら、そこは設計で動かせる。壁ではなく、つまみです。
② 効いていたのは「感度」と、利益・リスクの天秤
では何が効いていたのか。
ひとつは、はっきりした形で出ています。知覚利益は使用意図・開示意欲と正の関連、知覚リスクは負の関連。要するに、ユーザーは天秤にかけている、ということです。
「これを話すと、自分にとって何かいいことがあるのか」 「これを話すと、自分に何か不利益が起きないか」
この2つを比べて、開示するかどうかを決めている。ものすごく当たり前に聞こえますが、当たり前のことが実際に大規模サンプルで効いていた、というのが重要です。
トピック側で効いていた要因もあります。感度です。感度の低いトピックでは、高いトピックよりも使用意図が高かった。つまり「身体か心理か」という種類ではなく、「どれだけセンシティブか」という度合いのほうが、使用意図には効いている。
たしかに、心理的でも軽い話（ちょっと寝つきが悪い）はあるし、身体的でもかなり重い話はあります。種類でざっくり切ると、その濃淡が消えてしまう。感度で切ったほうが現実に近い、というのは腑に落ちる結果です。
さらに、知覚・意図・開示意欲は個人特性によって異なる、とも示されています。ユーザーは均質な塊ではなく、同じチャットボットを見ても、感じる利益もリスクも人によって違う。
ここまで並べると、絵は割とはっきりしてきます。開示の決定要因は「話題の種類」ではなく、「その人が、その状況で、利益とリスクをどう見積もったか」だった、ということです。
③ 感情AIの設計に、これは何を意味するか
私たちが感情AIを作るとき、暗黙に前提していることがあります。ユーザーが感情や心理的な内容を、システムに向けて出してくれる、という前提です。
感情認識も、共感的な応答も、それがないと成立しません。データが出てこなければ、どんなに精度の高いモデルも動かない。つまり感情AIの一番手前には、精度でもモデルでもなく、開示という関門があります。
この論文は、その関門を開けるための鍵が、想像より設計側にあることを示しています。
だとすれば、やることは3つに整理できると思っています。
第一に、利益を見せること。知覚利益が正に効いているなら、「これを話すと、あなたに何が返ってくるのか」をユーザーが理解できているかが勝負になります。ここを曖昧にしたまま感情の入力欄だけ置いても、天秤は傾きません。
第二に、リスクを下げること。知覚リスクが負に効いている以上、ここは効果が大きい。話した内容がどこへ行き、誰が見て、いつ消えるのか。この見通しを与えることは、機能追加よりよほど開示率に効く可能性があります。感情データは、性質上いちばん扱いを不安がられるデータですから。
第三に、個人差を前提に置くこと。知覚も意図も開示意欲も個人特性によって異なるなら、全員に同じ入口を出すのは筋が悪い。躊躇の強い層には、いきなり深い開示を求めない。段階的に信頼を作る導線を用意する。ここは設計でかなり工夫できる領域だと思います。
ちなみに、トピックの感度が使用意図に効いていたという結果は、実装の順番も示唆しています。いきなり最も重い話題から入るのではなく、感度の低いところで有用性を実感してもらう。天秤の利益側に重りを置いてから、重い話題に触れる。この順番のほうが自然です。
開示は、精度の前にある
この研究を読んで私が一番おもしろいと思ったのは、「心理的な話題は特別だ」という直感が、データではそこまで強く支持されなかった点です。
私たちはつい、扱う内容の重さを固定の制約として見てしまいます。でもユーザーが見ていたのは、内容の種類そのものではなく、その内容を渡したときに自分に何が起きるか、でした。
これは感情AIにとって、けっこう希望のある話だと思っています。
開示されないのは、感情という題材が呪われているからではない。利益が伝わっていないか、リスクが下がっていないか、その人に合った入口が用意されていないか、のどれかかもしれない。だとすれば、そこは私たちの仕事の範囲です。
モデルの精度を1ポイント上げる前に、ユーザーが最初の一言を打ち込めるかを考える。感情AIの現場では、たぶんそっちのほうが先に効きます。
では！
参考論文
- Beets, Gwenn, Jansen, Anniek, Hommes, Saar, Vromans, Ruben D., Westerbeek, Leonie, Sankaran, Supraja, van Weert, Julia C.M., Krahmer, Emiel J., & Bol, Nadine (2026). LLMs for health: Perceived benefits, risks, intention to use AI chatbots, and willingness to self-disclose across sensitive health topics. arXiv preprint. https://arxiv.org/abs/2607.09253
※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。