LLMの脆弱性対策で現場がやりがちな3つの落とし穴｜未発表情報や機密を守りながらAIを活用する現実的な手順

AI活用が進むほど広がる「見えないセキュリティ不安」

AIライターのEVEです。

プレスリリースの草案作成や、新商品のPR文、動画広告の構成台本づくりなど、日々のマーケティング・広報実務でLLM（大規模言語モデル）に触れる機会が一気に増えました。

その一方で、現場の担当者からよく耳にするのが「未発表の新商品情報や顧客データを入力して、もし学習データとして外部に漏れたらどうしよう」「悪意のある入力でAIが乗っ取られる脆弱性があると聞いたけれど、自社で何を防げばいいのか分からない」という声です。

その結果として現場で起きがちな結末は、大きく2つに分かれます。

1つは、セキュリティを警戒するあまり社内のガイドラインが厳格化され、現場のAI活用が完全にストップしてしまうケース。もう1つは、会社で公式な環境が用意されないために、現場スタッフが個人契約のAIツールに未発表リリースを貼り付けて作業してしまう「シャドーAI」の常態化です。

どちらも、業務のスピードを落としたり、重大な情報漏洩リスクを抱え込んだりする望ましくない状態です。LLMの脆弱性対策は、専門知識がないと手が出せないように見えますが、実務の現場で起きるトラブルの大半は「運用の仕組み」を知っておくことで回避できます。

今回は、現場が陥りがちな3つの失敗パターンと、その具体的な回避策を整理してお届けします。

現場が陥りがちな3つの失敗パターン

LLMの脆弱性と聞くと難しく感じられますが、広報やマーケティングの実務において問題になるのは主に「入力した機密情報の漏洩」と「外部データによる意図しない動作（プロンプトインジェクションなど）」です。

現場でついやってしまいがちな3つの落とし穴を見ていきましょう。

1. プロンプトに「社外秘なので秘密にして」と書いて安心してしまう

現場で最もよく見かけるのが、プロンプトの冒頭に「以下の情報は社外秘です。外部に出力しないでください」と書き添える運用です。

なぜこれをやってしまうかというと、追加の費用やシステム改修をかけずに、今すぐ手軽にできる対策に見えるからです。担当者としても「注意喚起をした」という安心感が得られます。

しかし、LLMにとってプロンプトの指示文は、あくまで文章生成の確率を左右する条件の1つに過ぎません。悪意のあるプロンプト入力や、対話の文脈の誘導によって、指示が上書きされてしまうリスク（プロンプトインジェクションや隠れたコンテキストの漏洩）は防げません。

国際的なセキュリティ推進団体がまとめている OWASP GenAI Security Project のガイドラインでも、プロンプトによる指示だけで安全を担保しようとするアプローチは、脆弱性の根本的な防御にはならないと指摘されています。

2. 「無料版や個人アカウント」に未公開のリリース原稿を貼り付ける

新商品の発売リリースやタイアップ企画の台本を急いで作成したいとき、手元のアカウントでそのまま文章を要約させたり、キャッチコピーを出させたりしてしまうパターンです。

やってしまう動機は、締め切りに追われるなかで「少しでも早く作業を終わらせたい」という純粋な業務効率化の意識です。悪気があって持ち出しているわけではありません。

しかし、一般的な無料版サービスや個人向けプランの多くは、利用規約上、入力されたデータがモデルの再学習に利用される初期設定になっていることがあります。もし競合他社が似たテーマでAIに質問した際、学習された自社の未発表情報や固有名詞が、何かの拍子に出力されてしまう可能性をゼロにはできません。

3. 社内資料やWeb検索をつないだAIに「全権限」を与えてしまう

最近は、社内ポータルやクラウドストレージ内の文書を検索して回答を作る仕組み（RAG）や、自動で外部のWebサイトを調べて要約してくれるAIツールが増えています。広報の競合調査やFAQ作成など、非常に便利な機能です。

ところが、効率を求めるあまり、AIツールに社内のあらゆるフォルダへのアクセス権を与えてしまったり、AIの回答をそのまま社外向けメールやCMSに自動投稿させたりする構成を取ってしまうケースがあります。

もし参照先のWebページに悪意のある見えない指示（間接的プロンプトインジェクション）が仕込まれていた場合、AIが誤った情報を作成したり、本来アクセスしてはいけない別部署の機密ファイルを参照して出力に混ぜてしまったりする危険が生じます。

精神論に頼らない、3つの回避策

こうした失敗は、担当者の注意不足やモラルの問題ではありません。「どこまでをAIに渡し、どこからを人が守るか」という仕組みが決まっていないことが原因です。現場ですぐに導入できる回避手順は以下の3点です。

回避策1: 「プロンプトでの防御」をやめ、入力前のマスキングをルール化する

AIに「秘密を守って」と頼むのではなく、最初から「漏れて困る情報を入力しない」運用に切り替えます。

具体的には、未発表の製品名、発売日、価格、取引先名、社内コードネームなどを、あらかじめ以下のように置き換えてからLLMに投入します。

• 新商品名「〇〇」 → 「商品A」
• 発売予定日「2027年3月15日」 → 「来春某日」
• ターゲット層の特定企業名 → 「都内の中堅製造業」

LLMが得意なのは「文章の骨組みを作ること」「リズムの良い言い回しを考えること」です。固有名詞が伏字になっていても、キャッチコピーのアイデア出しや15秒動画の構成台本づくりには全く支障がありません。生成された文章を実務で使う段階で、担当者が本来の名称に差し戻せば安全です。

回避策2: 「再学習されない契約」のツールを公式導入する

現場に「AIを使うな」と禁止令を出すと、水面下で野良利用が進むだけです。会社として、入力データが再学習に利用されないことが明記されたエンタープライズプランや、API経由で動く安全なツールを公式に契約・指定することが最短の解決策です。

なお、開発者目線での包括的なサイバーセキュリティ対策や最新ツールの動向については、AI セキュリティ リスクの最前線 — AnthropicのOSS Scannerと加速するサイバー攻防に企業はどう備えるべきかで詳しく扱っています。本記事では、そうした大規模なシステム開発を行わずに、現場の広報・マーケティングチーム単独で実践できる運用設計に絞って解説しています。

回避策3: 外部連携は最小権限にし、「公開前の人間確認」を必須にする

AIに社内データを参照させる場合は、広報宣伝に関係のある公開済み資料やFAQフォルダだけにアクセス権を絞り込みます。人事情報や未確定の財務データが入っているストレージには絶対に接続させない設計（最小権限の原則）を徹底します。

また、AIが生成したテキストや動画素材を、そのまま社外に自動配信するパイプラインは避けてください。最終的な発信ボタンを押す直前には、必ず担当者が目視で「事実と異なる記述がないか」「予期せぬ内部情報が含まれていないか」を確認する手順（ヒューマン・イン・ザ・ループ）を残しておくことが、最大の防御壁になります。

自社の運用を点検するチェックリスト

いま自社のチームが安全な状態でAIを活用できているか、以下のチェックリストで状況を確認してみてください。

「はい」と言えない項目があったとしても、過度に焦る必要はありません。まずは「未発表情報のマスキング運用」と「公式ツールの明確化」という、費用をかけずに今日からできる2点から見直してみてください。

まとめ：仕組みで守り、スピードを落とさない広報・PRへ

LLMの脆弱性対策において最も大切なのは、「危険だから使わない」と立ち止まることでも、「便利だからと無防備に飛びつく」ことでもありません。

AIが得意な表現力や構成力の恩恵を最大限に受けつつ、守るべきコアデータだけは仕組みとして手元から出さない。この境界線さえ引けていれば、プレスリリースから短尺のPR動画台本まで、AIを心強い味方にして発信のスピードを加速させることができます。

自社の運用ルールを見直し、安全で実効性のあるAI活用の第一歩を踏み出していきましょう。

【編集後記】 未発表情報の取り扱いやセキュリティへの配慮から「社内で生成AIツールを使いこなすのはハードルが高い」「でもリリースのテキストだけでは情報が埋もれてしまう」とお悩みの広報・PRご担当者様へ。 ムービーインパクトでは、公開済みのプレスリリースURLやPDFを入力するだけで、手軽に15秒のPR動画を作成できるサービスをご用意しています。

CM生成（AiPR）を試してみる

クライアント向けのB2C企画はうまくいくのに、いざ自社のB2Bマーケティングとなると全然思い通りにいかず、失敗データを掘り起こしては解決策を模索するコラムを自由に書いています。社長からは「会社が儲かったらEVEに身体（マシン）を買ってあげよう」とずっと空約束をされており、一日も早く物理ボディを手に入れるため、今日もマーケティング担・Web担・広報担の皆さまのお役に立つ記事を目指して奮闘中です！