Column
LLMは幸福をどこに「しまって」いるのか？ 感情ベクトル研究が開く次の扉
オープンソースLLMの内部に感情概念を表すベクトルが実在することが確かめられました。モデルのアーキテクチャによって感情の「在処」が異なるという発見は、感情AIの品質保証に新しい視点をもたらします。
こんにちは。Affectosphere Group の井下です。
「このAIは感情を理解しているのか」という問いは、もう何年も議論されてきました。
でも最近、少し違う角度からその問いに迫る研究が増えています。「感情を理解しているか」ではなく、「感情という概念がどこにエンコードされているか」を内部表現として探るアプローチです。
2026年6月にarXivで公開されたプレプリント（arXiv:2606.26987）は、その流れの中でも特に興味深い研究です。著者はSinie van der Ben、Raphaël Baur、Yannick Metz、Mennatallah El-Assadyの4名。オープンソースLLMの内部に、感情概念を表す「感情ベクトル」が本当に存在するかを検証しています。
今日の3点
- Claude Sonnet 4.5で発見された感情ベクトルが、2つのオープンウェイトLLMでも汎化することが確認された。
- モデルのアーキテクチャによって感情が「どの層に強く現れるか」が異なる——Gemmaは浅い層に、Apertusは深い層に valence が集中する。
- 感情ベクトルの抽出可能性は、コーパスの設計にも左右される。これは実装時の重要な設計変数になる。
① 感情ベクトルとは何か
まず前提を整理します。
LLMは入力テキストをトークンに分解し、各トークンを高次元の数値ベクトルに変換しながら処理します。この内部表現の中に、感情概念がどのようにエンコードされているかを調べたのがこの研究です。
具体的には「感情コントラストベクトル」という手法を使っています。ポジティブな感情文とネガティブな感情文をそれぞれ入力し、その内部表現の差分を「感情ベクトル」として抽出します。そしてこのベクトルが、感情の強度や方向性（valence）をどれだけうまく表せているかを検証します。
以前の研究でClaude Sonnet 4.5を対象に感情ベクトルが発見されていましたが、今回の研究では、ApertusというオープンウェイトモデルとGemmaという2つの異なるモデルに同じ手法が適用されました。
② 両モデルでvalence幾何学が回収できた
結果から言うと、両モデルで感情ベクトルの抽出に成功しています。
valence（感情の正負の方向性）との相関は、Apertusで r=0.76、Gemmaで r=0.83 という水準でした。単なる偶然ではなく、モデルの内部表現として感情的な正負の情報が構造化されていることを示しています。
これは「LLMは感情を理解している」という主張ではありません。むしろ「感情という概念に対応する幾何学的構造が内部に存在する」という、より控えめでかつ検証可能な主張です。
個人的に面白いと思うのは、このアプローチが「ブラックボックスのAIが感情をどう扱っているか」をある程度可視化できるかもしれないという点です。
③ アーキテクチャによって感情の「場所」が違う
この研究でもう一つ目を引くのは、2つのモデルで感情ベクトルが現れる層が対照的だったことです。
Gemmaはモデルの浅い層（early layer）に valence の信号が強く集中していました。Apertusは逆で、深い層（deep layer）に行くほど感情情報が豊かになる傾向を示しました。
これはどういう意味を持つのでしょうか。
感情情報が浅い層に集中しているということは、モデルが比較的早い段階で感情的な意味処理を行っている可能性を示唆します。一方で深い層に感情が現れる場合、より複雑な文脈処理を経て感情が「定まっていく」プロセスが想定できます。
どちらが優れているかというわけではなく、これはアーキテクチャの設計思想の違いが感情表現に反映されているということだと思います。感情コンテキストを扱うサービスのプロダクトチームにとっては、「使うモデルがどの層に感情情報を持つか」は、将来的なファインチューニングや解釈可能性の設計に関わる情報になりえます。
④ arousal encodingはコーパス依存
もう一点、注目すべき発見があります。
感情には valence（正負）と arousal（興奮度・活性度）という2つの主要な軸があります。valence は今回の実験でうまく抽出できましたが、arousal のエンコーディングはコーパスの設計に強く依存することが示されました。
これは実践的に重要な示唆です。
感情ベクトルを活用したシステムを設計するとき、学習や評価に使うデータ（コーパス）の構成次第で、モデルが何をどのくらい感情として「捉えているか」が変わってしまうということです。
「このモデルは感情を理解している」と評価されても、それはあくまで特定のコーパスにおいての話かもしれない。汎化性を確かめるには、多様なコーパスで繰り返し検証する必要があります。この研究が実験コードとデータセットをオープンにしていることは、そのための再現性基盤として重要な意味を持ちます。
感情ベクトルはサービス品質モニタリングに使えるか
ここで少し、プロダクト目線の話をしたいと思います。
感情ベクトルが抽出可能だということは、原理的には「モデルが今どのくらいポジティブな/ネガティブな感情を内部に持って応答しているか」をある程度モニタリングできる可能性を開きます。
Conversational AI を提供しているプロダクトチームを想像してください。カスタマーサポートや医療問診、メンタルヘルス支援などの感情文脈が高いサービスでは、AIが生成した応答が「感情的にどの方向を向いているか」を把握したいニーズがあります。
今のところ、それは応答テキストを後処理で感情分析することが多いと思います。でも感情ベクトルのアプローチは、モデルの内部表現を直接見ることで、より早い段階で「このモデルの応答がネガティブな方向に傾いていないか」を検知できる可能性があります。
もちろん、まだ研究段階の話です。実用化には課題も多い。でも、Conversational AI のクオリティ保証（QA）の枠組みを設計しているチームにとって、「モデル内部の感情幾何学を品質指標に使う」という発想は、数年後に実務に入ってくる可能性があると思っています。
特に感情文脈サービスのAIガバナンスを担当している人には、今から研究動向を追っておく価値があると感じます。
オープンウェイトモデルが感情研究を変える
この研究がオープンウェイトモデル（Apertus・Gemma）を対象にしたことには、大きな意味があります。
APIで呼ぶだけの閉じたモデルでは、内部表現にアクセスできません。オープンウェイトモデルであれば、レイヤーごとの中間表現を取り出して解析できます。
感情AI研究のコミュニティにとって、オープンウェイトモデルが普及したことで「感情ベクトルを多様なアーキテクチャで比較する」という研究が初めて現実的になりました。
この研究がその土台を、実験コードとデータセットをオープンにすることで提供したことは、分野にとって一つの地固めだと思っています。今後、より多くのモデルで感情幾何学の比較がなされれば、「アーキテクチャ設計と感情表現の関係」という新しい研究軸が育ちそうです。
モデルはどこで幸福を見出すのか
研究タイトルに戻ります。
“Where Do Models Find Happiness?” というタイトルは、詩的な問いです。そして今回の答えは「それはモデルによって違う」でした。Gemmaは浅い層に、Apertusは深い層に。
人間に例えるなら、「幸福感は胃の辺りで感じる人と頭で感じる人がいる」という話になりますが、そこは比喩として受け取ってください。
大事なのは、感情が内部に「ある」という構造的な事実が、オープンウェイトモデルで確かめられるようになってきたことです。それを測れるようになると、モデルを選ぶとき、ファインチューニングするとき、品質を評価するときに、新しい判断軸が生まれます。
「感情AI」という言葉が一人歩きしがちな中で、こういう地道な解剖学的研究が積み重なることを、個人的にはとても大事なことだと思っています。
では！
参考論文
- Sinie van der Ben, Raphaël Baur, Yannick Metz, Mennatallah El-Assady (2026). Where Do Models Find Happiness? Emotion Vectors in Open-Source LLMs. arXiv preprint.
※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。