LLMセキュリティの最前線 — プロンプトインジェクションから機密漏洩まで

LLMは便利だが、攻撃面も広い

生成AIの業務活用が進む一方、LLM特有のセキュリティリスクが顕在化している。従来のWebアプリケーションセキュリティとは異なる、新しい脅威モデルへの対応が求められる。

OWASP Top 10 for LLMs — 主要リスク

1. プロンプトインジェクション

ユーザーの入力にシステムプロンプトを上書きする指示を埋め込み、LLMの挙動を操作する攻撃。間接的インジェクション（外部データソースに悪意あるプロンプトを仕込む）が特に危険。

2. 機密情報の漏洩

学習データやシステムプロンプトに含まれる機密情報が、巧妙な質問によって引き出されるリスク。RAGで社内文書を参照する場合、アクセス制御の不備が致命的になる。

3. ハルシネーション

事実と異なる情報を自信を持って出力する現象。法務・財務・医療領域では、ハルシネーションが直接的な損害につながる。

3層防御アーキテクチャ

Layer 1: 入力バリデーション

ユーザー入力のサニタイゼーション、プロンプトインジェクション検出、入力長の制限。

Layer 2: 出力フィルタリング

PII（個人情報）検出、社内機密パターンのマスキング、ファクトチェック用の参照ソース付与。

Layer 3: 権限最小化

LLMがアクセスできるデータ・ツール・APIの範囲を最小限に制限。ユーザーの権限レベルに応じた動的なコンテキスト制御。