Column

経営者の机に『AI ガバナンス』が乗ってくる前に、3 つだけ

LLM はもう IT 部門だけの話じゃない。政治・教育・職場の言葉遣いまで静かに方向付ける段階に入った。経営者が握り続けるべき統制点を、データ・モデル・出力レビューの 3 つに絞って整理する 5 分ガイド。

2026 / 06 / 01 5 分で読める English version →

こんにちは。Affectosphere Group の井下です。

最近、経営層の方とお話していて、こんな質問をよくいただくようになりました。

「うちも ChatGPT、現場で結構使われてるみたいなんですよ。これって何かしないとマズいですかね?」

ぞわっとする質問ですよね。

しかも「マズい」のラインがどこにあるのか、誰も正解を持っていない、というのが今の状況だと思います。

私が 2025 年に書いた論文 ¹ では、大規模言語モデル(LLM)が政治・教育・職場の三領域に静かに影響を及ぼしている状況と、企業がガバナンスとして握るべきポイントを整理しました。

今日はそれを、経営層・コンプライアンス・法務向けに、できるだけ実務寄りに書きます。

ちなみに「LLM ガバナンス委員会、設置しましょう」みたいな話で終わらせるつもりはありません。委員会だけ作って動かない事例、たぶん皆さんも一個や二個、見てきていますよね。

今日の結論を 3 行で

価値: AI ガバナンスをきちんと組んだ会社は、規制対応コストを下げつつ、AI 活用を堂々と拡大できる。
構造: 経営者が握るべき統制点は、データ・モデル選定・出力レビューの 3 点に絞れる。網羅しようとすると、必ず形骸化する。
注意: ガバナンスを「規制対応」として捉えると、必ず形骸化する。「信頼構築」として捉えると、ESG にも採用にも効く。

順番に書きます。

① まず、なぜ「便利な AI」が経営アジェンダになるのか

ChatGPT、Claude、Gemini、社内 RAG ── これらはもう「IT 部門の便利ツール」のスケールを超えています。

たとえば、

顧客向けの問い合わせ初動を AI が下書き
人事評価コメントの叩き台を AI が生成
社内文書の要約を AI がチェック
マーケ原稿、求人票、お詫び文 ── あらゆる「言葉のアウトプット」に AI が介在

ここで起きているのは、業務の効率化だけじゃなくて、組織が外に出す「言葉の規範」を AI が静かに方向付け始めている、という現象です。

しかもこれ、現場が「AI に書いてもらいました」と上に上げてくる場合と、上に上げずに完成品として出てくる場合があって、後者の方が圧倒的に多い。

経営層から見ると、「自社が世の中に出している言葉の何割が、誰のチェックも経ずに AI 生成されているのか」が、もう把握不能になっているはずです。

そして、EU AI Act、米 NIST AI RMF、経産省 AI 事業者ガイドライン ── 主要な規制は揃って「AI が自動生成したことは免責にならない」方向に動いている。

「AI がやったので」という抗弁が通用しない時代に、もう入っています。

② 経営者が握るべきは、この 3 点だけ

ここから本題。

ガバナンスを「網羅的に設計しよう」と思うと、必ず形骸化します。なぜなら、網羅した瞬間に「現場で誰も読まない分厚いポリシー」が完成してしまうから。

経営者が自分の頭の中に置いておくべき統制点は、3 つだけで十分だと私は思っています。

統制点 1: データ ── 何を学習させ、何を入力させているか

LLM の挙動は、結局のところデータで決まります。

何を学習に使ったか(モデル提供側の責任)
何を追加学習させたか(自社の責任)
業務で何を入力させているか(現場の責任)

特に最後が、多くの企業で完全に死角になっています。

機密書類を ChatGPT に貼って要約させている。顧客個人情報を翻訳に流している。契約書ドラフトを社外 API に渡している。

これ、社外 API の利用規約や保持ポリシーを誰も読んでいない状態で発生していることが、ものすごく多いです。

経営者がやるべきは「何を学習させたか・何を入力させているか・どこに送信されているか」の 3 段で社内データの流れを把握する、ということ。具体的な運用は IT と法務に任せていいんですが、3 段の絵が頭にあるかどうかで、いざという時の判断速度が全然違います。

統制点 2: モデル選定 ── 全部に GPT-4 を使わない判断

これは前回の Nationality 記事でも書いたんですが、「とりあえず一番強いモデル」発想は、ガバナンス上もコスト上も間違っています。

外部接点(顧客向け文書、広報原稿) → 説明性重視
社内ブレスト、アイデア出し → 創造性重視
機密書類、法務、人事 → オンプレ or 厳格なデータ保護契約

この使い分けが、AI ガバナンス委員会の最大の仕事です。委員会で「うちは Claude を使います」みたいな全社統一を決めると、たぶん運用が回らないので、業務カテゴリ別に方針を持つ。

ベンダーの規約変更は四半期に 1 回追う、というのも忘れがちです。LLM ベンダーはサイレントに「学習に使わない」「使う」を切り替えてくる。これを誰も追っていない会社、本当に多いです。

統制点 3: 出力レビュー ── 誰が、どの基準で、最終確認するか

LLM の出力は流暢です。流暢すぎて、誤りが「もっともらしい」状態でそのまま顧客や規制当局に届く。

ここで重要なのは、用途リスクに応じて人間レビューの粒度を変えること。

社内ブレストのまとめ → ノーレビューで OK
社内向け資料 → 担当者の目視で OK
顧客向け文書 → 担当上長のレビューが要る
規制当局報告、契約書、人事評価 → 必ず有資格者の最終確認

このマトリクスを、業務カテゴリ別に書き出して全社で共有する。これだけで、出力責任は相当固められます。

「全部 AI 通したらレビュー必須」だと現場が爆死するし、「全部ノーレビュー」だと事故が起きる。中間のグラデーションを、経営層が頭の中に持つことが大事。

③ 感情 AI の研究者として、もう一つ加えたい視点

ここからが、Affectosphere Group ならではの論点。

LLM が組織に入ってくると、たぶん多くの企業がまず気にするのは「精度」と「コスト」と「情報漏洩」です。

でも、感情 AI を研究している立場から見ると、もう一つこわい話があります。

それは ── 「AI が書いた言葉」を社員が日常的に読み続けると、社員自身の感情表現が AI 生成テキストに引っ張られていく、という現象です。

評価コメントの叩き台を AI が書く。お詫び文の雛形を AI が書く。1on1 のフィードバック例を AI が書く。

これを 1 年、2 年と続けると、組織から出てくる言葉の感情のレンジが、AI の癖に揃ってきます。

具体的には、AI が得意な「中庸で、丁寧で、誰も傷つけない、けれども刺さらない」言葉ばかりが、組織の標準語になっていく。

これ、コンプライアンス的にはむしろ望ましく見える方向です。

でも、感情の研究者として言うと、「全員が同じ温度で同じ抑揚で書く組織」って、心理的にはかなり停滞します。多様な感情表現が消えると、多様な意思決定も消えるから。

私たちの研究室は、感情を「曖昧で多義的なまま扱う」ことを大事にしています。組織から出てくる言葉も、本来はもっと曖昧で多義的でいいはずなんです。

LLM ガバナンスの最後の論点は、たぶん「組織の感情のレンジを、AI に潰されないように守る」という、地味だけど決定的な話だと思っています。

これは規制では絶対に縛れません。経営者の美意識の問題です。

じゃあ、明日から何をするか

リスクを並べるだけだとフェアじゃないので、現場で動かせる話を 3 つ。

データの 3 段把握: 「何を学習・何を入力・どこに送信」の 3 段で、自社の AI 利用を一枚に書き起こす。最初は粗くていい。
出力レビューのマトリクス: 業務カテゴリごとに、必要なレビューレベルと最終確認者を 1 ページにまとめる。これだけで運用がしまります。
ベンダー規約の定期チェック: 四半期に 1 回、利用中の LLM ベンダーの規約・学習ポリシー変更を法務に確認させる。これを習慣化していない会社が本当に多いです。

価値も大きい。リスクも大きい。どっちも経営アジェンダに乗せる ── というのが、研究室からのお願いです。

締め

AI ガバナンスを「やらされ仕事」として組むと、本来得られる信頼獲得の機会を全部失います。

「我々は AI を統制下に置いている」と社内外に堂々と示せる会社が、これから 3 年で確実に有利になります。

データ、モデル選定、出力レビュー ── この 3 つを経営者が握り続けること。委員会を作って終わりにしないこと。そして、組織から出てくる言葉の「感情のレンジ」が AI に揃わないように、美意識として守ること。

「うちの AI、統制下に置けているかな」と思った方、まず 3 点だけ自問してみてください。

ということで、今日はここまで。

参考論文

井下敬翔 (2025). 大規模言語モデルの政治的影響とガバナンスの指針. 第44回学生論文昭和池田賞.

※ 本記事は一部 AI により執筆されており、間違った情報が含まれる恐れがあります。

井下敬翔 (2025). 大規模言語モデルの政治的影響とガバナンスの指針, 第 44 回学生論文昭和池田賞. ↩