Column

「あなたはAIですか？」危機カウンセリングにおけるクライアントのAI疑念分析

実際にはAIが一切使われていない危機カウンセリングの現場で、クライアントのAI疑念が2024年6月の0.8%から2025年3月には2.6%へ上昇した。疑念は会話の前半に集中し、疑念を持つクライアントの21.5%は「人間と話したい」と明示する。AIを導入する前段階から「AI不信」は治療関係を侵食しうる。

2026 / 06 / 23 5 分で読める English version →

スマートフォン画面に「あなたは人間ですか？」というメッセージが表示され、カウンセラーが困惑している様子のイラスト

こんにちは。Affectosphere Group の井下です。

「あなたは本当に人間ですか？」

危機状態にある人がカウンセラーに投げかけるこの問いは、単なる確認ではありません。信頼の土台そのものを問い直す行為です。

arXivで公開された研究（Shah et al., arXiv:2606.18261）が取り組んだのは、興味深いパラドックスです。インドのWhatsApp危機相談窓口では、AIが一切使われていない。にもかかわらず、クライアントがAI関与を疑うケースが増え続けている——というものです。

AI技術の実装状況とは無関係に「AI不信」は発生する。この事実は、感情AIを設計・導入するすべての人が向き合うべき問題を提示しています。

今日の3点

AIが使われていなくても「AI疑念」は発生し、しかも増加傾向にある。
疑念は会話の前半（68.3%）に集中し、カウンセラーが否定しても17.6%のケースで解消されない。
疑念を持つクライアントの21.5%は「人間と話したい」と明示し、治療関係が根本から揺らぐ。

① 数字で見る「AI不信の増殖」

この研究は2024年6月から2025年3月にかけて収集した75,777件の危機相談会話を分析しました。

AI疑念が確認された会話の割合は、2024年6月の0.8%から2025年3月には2.6%へ上昇しています。

約1年で3倍以上になっている。

背景に何があるか。研究では推測の域を出ませんが、社会全体のAI認知度が上がったこと、テキストベースのコミュニケーションへのAI導入が広く報道されたこと、などが考えられます。人々がAIの存在をより意識するようになれば、「このテキストは本当に人間が書いたのか」という疑念が自然に高まる。

危機カウンセリングという場の特性も重要です。精神的に追い詰められたとき、人は「自分の痛みを本当にわかってくれる相手」を強く求めます。その相手がAIかもしれないという疑念は、通常の顧客サービス文脈とは比較にならないほど深刻な影響を及ぼします。

② 疑念は「出会い頭」に集まる

分析で明らかになった重要な知見が、疑念の発生タイミングです。

68.3%のケースで疑念は会話の前半に発生しています。

つまり、クライアントは最初から「この相手は信頼できるか」を評価している。会話が深まる前に、すでに疑念を抱える状態で話し続けているケースが多い。

カウンセリングの文脈では、最初の数分でラポール（信頼関係）を構築することが非常に重要とされます。その最初のフェーズに疑念が集中するということは、カウンセラーが会話の出発点からハンディキャップを負っていることを意味します。

「Googleの検索結果みたいな返事をする」「反応が速すぎる」「共感表現がテンプレっぽい」——そういった認識が疑念を生むと推察されます。

これは、カウンセラーの応答スタイル、応答速度、使用する言葉の選び方が、AI疑念の誘発に関わっている可能性を示唆しています。

③ 「人間と話したい」という声

もうひとつの重要な知見は、疑念を示したクライアントの21.5%が明示的に「人間と話したい」という意向を表明したことです。

明示的に。つまり言葉にして。

危機状態にある人が、助けを求めながらも「あなたが人間かどうか確認したい」と問い、「人間と話せますか」と要求する。この構図は、支援の瞬間に摩擦が生じているということです。

さらに厳しい数字があります。カウンセラーがAI関与を否定しても、17.6%のケースで疑念が継続するか、会話そのものが終了しています。

否定が通じない。もしくは、否定を聞く前に去ってしまう。

これは、単純な情報提供（「私は人間です」）では解消できない不信が存在することを示しています。論理的な説明ではなく、インタラクション全体から滲み出る「人間らしさ」が問われているのです。

AI導入以前の問題として

この研究が照らし出すのは、感情AI設計において見落とされがちな問題領域です。

多くのAI導入議論は「AIをどう設計するか」「どう評価するか」を中心に展開します。しかし実際のユーザーは、AIが実装されているかどうかを問わず、「AI感」を感じたとき不信を覚える。

これは重要な非対称性です。

実装の有無ではなく、ユーザーの認知が問題になる。どれほど人間的なAIを作っても、ユーザーがAIだと感じた瞬間に信頼は失われる。逆に、人間のカウンセラーでもAIっぽく見えれば疑念を持たれる。

感情AIを設計・展開する立場から考えると、二つの問いが浮かびます。

ひとつは、インタラクションデザインの問題です。どのような応答パターンが「AI感」を生むのか。速度、文体、共感表現のパターン——これらの要素がどう疑念を誘発するかを理解することは、AI設計だけでなくヒューマン・エージェント両方のコミュニケーション設計に関わります。

もうひとつは、開示設計の問題です。「あなたはAIですか」と問われたとき、どう答えるべきか。単に「そうです」「いいえ」と答えるだけでなく、疑念が生じた文脈ごとに適切な応答を設計することが必要です。特に高感情負荷の場面では、否定だけでは信頼を回復できない。

「AI不信」のパラドックスを超えて

AIが存在しないのにAI疑念が生じる——このパラドックスが示すのは、「AI不信」がもはやAI技術の問題ではなく、社会的認知の問題になっているということです。

ChatGPTの普及以降、テキストコミュニケーション全般に「これはAIかもしれない」という視点が組み込まれました。人々は文章を読むとき、無意識に「AI度」を測っている。

これは不可逆的な変化です。

危機カウンセリングという最も人間的な場でさえも、この疑念から逃れられない。であれば、感情AIを扱う私たちは「疑念が生じることを前提にした設計」へと視点を移す必要があります。

「信頼を構築する」のではなく「疑念を早期に解消できるインタラクション」を設計する。そのための研究と実践が、今まさに求められています。

では！

参考論文

Shah, S., Swaminathan, A., Simhadri, M., Lopez, I., Phadke, S., Verma, D., John, A., Zhao, L., Cai, F., Zhang, S., Ye, G., Pham, I., Wang, W., Garcia, S., Wornow, S., Wang, A., & Shah, N. H. (2026). “Are you an AI?” Analyzing Client Suspicion of AI Use in Crisis Counseling. arXiv preprint arXiv:2606.18261.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。