Skip to content
Affectosphere Group Kansai University, Keito Inoshita Laboratory
EN

Column

煽らないと勝てない、はもう古い ── 「意味は残して刺激だけ下げる」AI の話

怒り・不安・憤慨でクリックを取る時代の次に来るのは何か。意味を保ったまま感情強度だけを下げる AI が、メディア・広告・コンテンツプラットフォームの競争軸を静かに塗り替えはじめています。5 分で。

5 分で読める English version →
感情強度メーターが赤から黄色に下がり、衝撃的見出しが穏やかな表現に変換される様子

こんにちは。Affectosphere Group の井下です。

最近、ニュースアプリの編集担当の方とこんな話をしました。

「うちの記事、クリック率は伸びてるんですけど、解約率もじわっと上がってるんですよね。どっちを優先したらいいんでしょう」

これ、けっこう本質的な問いだと思っています。

アテンション経済はもう 10 年以上、「いかにユーザの注意を引き続けるか」で動いてきました。 答えはほぼ一択で、怒り・恐怖・憤慨・不安といった強い感情を刺激することです。

ところが、その手法が利用者の精神状態を確実に悪化させていることも、医学・心理学の研究が積み上げて示してきました。

「ユーザは依存するが、ユーザは幸せにならない」。 広告・メディア・コンテンツ事業の構造は、ずっとこの矛盾を抱えてきました。

ここに、技術側から面白い提案が出てきました。 私たちが 2026 年に発表した MALLET1 という研究の話を、今日はビジネス目線で書きます。

今日の結論を 3 行で

  1. 価値: コンテンツの「意味」を保ったまま、「感情の刺激度」だけを下げる書き換えが、技術的に現実水準に到達した。
  2. 競争軸: これは検閲ではなく、長期 LTV とブランド資産を伸ばす設計手法。次の競争軸はここに移る。
  3. 感情 AI 視点: 「ユーザを煽らずに価値を届ける」ことは、精度と効率では測れない別レイヤーの価値。ここを見ない事業は静かに沈む。

順に書きます。

① まず、この技術が何をやるのか

MALLET は 4 つの LLM エージェントを連携させる枠組みです。

ざっくり書くとこんな分業です。

  • 分析担当: 入力テキストの感情強度を測る
  • 調整担当: 「同じ意味のまま、感情強度だけ下げる」書き換えをする
  • 監視担当: 利用者の感情履歴を時系列で追う
  • ガイド担当: 個別化したフィードバックを返す

ポイントは「調整担当」のところで、これがいわゆる感情の脱毒(detoxification)に当たります。

たとえばこういう書き換えです。

  • ビフォー: 「〇〇が暴走、業界に激震」
  • アフター: 「〇〇が想定外の動き、業界が対応を検討」

伝えている事実、同じですよね。 でも前者は読者を不安にさせて依存させる、後者は読者を疲れさせず、次の行動に進める。

研究では、ニュース記事のデータセットに対して感情刺激スコアを下げつつ、意味類似度はある程度高く保てることが確認できました。

「煽らずに伝える」が、職人芸ではなく自動化可能な操作になりつつある、ということです。

② これが何を生むか(価値の話)

ビジネス目線で見ると、これは 3 つのレイヤーに効きます。

ひとつめは、長期 LTV。

短期クリックは多少落ちるかもしれません。 でも、感情疲労による静かな離脱を防げます。 「読むと疲れるから、もう開かない」と言われていたアプリが、「穏やかに読める」と評価されるブランドに変わる。

ふたつめは、規制対応の前倒し。

EU のデジタルサービス法、英国のオンライン安全法、各国の未成年保護立法 ──「煽情コンテンツを放置する事業は責任を問われる」方向に世界は動いています。

「うちはアルゴリズムでレコメンドしているだけ」「投稿は利用者のもの」では、もう逃げ切れません。 感情調整の技術選択肢を持っているかどうかが、規制対応コストを桁で変えます。

みっつめは、広告主・投資家への語り口。

ブランドセーフティ要件と ESG 評価は年々厳しくなっています。 「ユーザの精神的健康に配慮した設計をプロダクトに組み込んでいる」と言える事業者は、広告主にも投資家にも、人材にも同時に効きます。 ひとつの設計判断が、3 種類のステークホルダーに効く。投資対効果が高い領域です。

③ 感情 AI として一番伝えたいのは、ここ

ここが、Affectosphere Group が研究室として強調したい部分です。

「煽れば数字が上がる」は、AI 倫理の言葉でいうと「精度と効率の最適化」に近い発想です。 モデルの精度を上げる、配信効率を上げる、CTR を上げる。

でも、感情 AI を研究してきた立場から言うと、ここで抜け落ちているレイヤーがあります。

それは、人が「読み終えたあとに、どう感じるか」というレイヤーです。

CTR や滞在時間には、これが現れません。 読了直後の「ちょっとぞわっとした」「読まなきゃよかった」「妙に疲れた」 ── そういう感情は、ダッシュボードに出てこない。

そして、それが何回も積み重なって、ある日ユーザは静かにアプリを消します。 解約理由には「特になし」と書かれる。

私たちの研究室は、感情を「曖昧で多義的なまま扱う」ことを核にしています。 MALLET のような感情調整 AI は、その思想の実装の一つです。

「意味を保ったまま強度だけ下げる」というのは、技術的に見ると、感情を雑に潰さずに、強度だけを別軸として扱えるようになった、ということです。

精度と効率しか見ない AI は、こういう設計を発想しません。 ここに、感情 AI 視点を経営の言葉で持ち込む価値があると思っています。

じゃあ、明日から何をするか

煽らないと数字が出ないのは、現場の責任ではなく、設計の話だと思っています。 動かせる打ち手を 3 つだけ。

  • 配信コンテンツの感情強度分布を一度測る。ベースラインがないまま「煽情を抑えよう」と言っても、現場は何をしていいか分からないです。
  • パイロットチャネルを 1 つ用意する。ニュースレターや特定セグメント向け配信など、リスクが小さい場所で感情調整 AI を入れてみて、エンゲージメントと解約率の両方を見る。
  • ポリシーに「感情強度に関する基準」を 1 行入れる。広告主・投資家向け資料で語れる材料になります。

5 つ全部やる必要はないです。1 つ目の「測る」だけでも、議論の解像度がだいぶ変わります。

締め

短期注目度の競争は、もう飽和していますよね。 規制と利用者の反発で、煽情モデルの限界も見えてきました。

次の競争軸は、「ユーザを消耗させずに価値を届ける」設計力です。 MALLET のような感情調整 AI は、その競争軸を技術的に成立させる初期の道具立てになります。

煽らない事業が、最後に残る。

ちょっと大げさですが、感情 AI を研究している立場としては、そこに賭けたいと思っています。

「うちのコンテンツ、ユーザを疲れさせていませんか?」── この問いを次の編集会議に持ち込んでもらえたら、今日の役目は果たせたことになります。

では!

参考論文

  1. Keito Inoshita (2026). Multi-Agent Large Language Model Based Emotional Detoxification Through Personalized Intensity Control for Consumer Protection. IEEE ZINC 2026.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。

Footnotes

  1. Keito Inoshita, “Multi-Agent Large Language Model Based Emotional Detoxification Through Personalized Intensity Control for Consumer Protection”, IEEE ZINC 2026. ↩