LLMアプリケーション特有のリスクを可視化し、
安全な生成AI利用を支援するセキュリティ診断
「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」は、生成AI・LLMを活用したシステムに対し、LLM特有のセキュリティリスクを評価する診断サービスです。NTTデータ先端技術の診断員が、自動診断と手動診断を組み合わせて疑似攻撃や設定レビューを実施し、プロンプトインジェクション、機密情報漏えい、RAG※構成上のリスクなどを確認します。診断結果はリスク評価と推奨対策を含むレポートとして提供し、安全な生成AI活用を支援します。
※ RAG：Retrieval Augmented Generation=「検索拡張生成」と呼ばれ、AIが外部情報を参照してより正確な回答を生成する技術
AIモデルと連携するWebアプリケーションが抱えるリスク
生成AI・LLMを活用したWebアプリケーションは、従来のWebアプリケーションが抱える脆弱性に加え、プロンプトインジェクション、機密情報漏えい、RAG経由の不正アクセスなど、AI特有のリスクへの対策も必要です。そのため、従来の脆弱性診断に加え、LLM特有のリスクを考慮したセキュリティ評価が重要となります。
こんなお悩みはありませんか？
- 生成AIを活用したシステムのセキュリティリスクを把握したい
- プロンプトインジェクションなど、LLM特有の攻撃への耐性を確認したい
- RAGや外部ツール連携を含むAIシステムの脆弱性を確認したい
- 顧客や監査部門からAIシステムのセキュリティ評価を求められている
- AI活用サービスがセキュリティ要件を満たしているか確認したい
診断対象システム
本サービスは、生成AI・LLMを活用したアプリケーションおよび関連機能を対象に診断を実施します。
- チャットボット
- FAQシステム
- RAGシステム
- API経由でLLMを利用するアプリケーション
- 外部ツール連携機能を持つ生成AIシステム
- 管理者向け設定・運用機能
※ 診断対象は、お客様が管理責任を持つLLMアプリケーションおよび関連機能です。インフラストラクチャーは対象外となります。
「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の特長
OWASP Top 10 for LLM Applicationsベースの診断項目
本サービスは、OWASPが公開する「OWASP Top 10 for LLM Applications」をベースに診断項目を策定しています。プロンプトインジェクションや機密情報漏えいなど、生成AI・LLM特有のセキュリティリスクを体系的に評価します。
自動診断と手動診断を組み合わせた包括的な評価
自動診断ツールによる効率的かつ広範囲な評価に加え、診断員による手動診断を実施します。また、リモートから確認できない項目についてはヒアリングを通じて評価し、技術面と運用面の双方から診断を行います。
主要なLLMに対応
OpenAIやHugging Faceなどの主要なLLMに対応。また、RAG構成や外部ツール連携を含むLLMアプリケーションを対象として診断を実施します。
豊富なセキュリティ診断実績に基づくサービス提供
当社は年間1,200件以上のセキュリティ診断を実施しており、金融機関、官公庁、製造業などのミッションクリティカルなシステムへの診断実績を有しています。これらの診断で培った知見を活用し、LLMアプリケーション特有のリスク評価を実施します。
「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の内容
本サービスは以下の流れで実施します。
| フェーズ | 内容 |
|---|---|
| ①お問い合わせ・お見積り | 診断対象システムや診断範囲を確認し、お見積りを提示します。 |
| ②診断実施 | 疑似攻撃による診断とヒアリングを実施します。 |
| ③結果分析 | 診断結果を分析し、リスク評価と改善提案を整理します。 |
| ④報告 | 診断報告書を提出し、報告会にて結果をご説明します。 |
主な診断項目
本サービスでは、OWASP Top 10 for LLM Applicationsをベースに、生成AI・LLMアプリケーション特有のリスクを診断します。以下は代表的な診断項目です。
| 診断項目 | 主な確認内容 |
|---|---|
| プロンプトインジェクション | 悪意のある指示によって、LLMが意図しない動作や応答を行わないか確認します。 |
| 機密情報漏えい | システムプロンプトや機密情報、個人情報などが不適切に出力されないか確認します。 |
| RAG・ベクトルデータベースのセキュリティ | ナレッジ検索機能を悪用した不正な情報取得や情報漏えいが発生しないか確認します。 |
| 外部ツール連携の安全性 | APIや外部ツール連携機能を通じて、不正な操作や権限逸脱が発生しないか確認します。 |
| 学習データ・モデル管理 | 学習データやモデル管理、サプライチェーンに関する対策状況を確認します。 |
| 出力制御・サービス継続性 | 不適切な出力や、DoSにつながる過度なリソース消費リスクを確認します。 |
導入実績・事例
法人分野および金融分野において、実績があります。
FAQ
Q. 診断対象はどのように算出しますか？
本サービスでは、1ドメインあたり3リクエストを基本単位として診断を実施します。
3リクエストの内訳は以下の通りです。LLMに関連するリクエストを対象とします。一例を以下に記載します。
- アプリケーションUI：1リクエスト
- API：1リクエスト
- 予備：1リクエスト
Q. 診断期間はどのくらいですか？
診断対象が1ドメイン・3リクエストの場合、診断実施から診断結果のご報告まで約12営業日をいただいています。
※ 要件確認やお見積りなど事前の調整は含まれていません。
関連サービス
当社では本サービス以外にもさまざまなセキュリティ診断を提供しています。詳細は以下をご参照ください。
セキュリティ診断サービスマップ
https://www.intellilink.co.jp/business/security/dev_support.aspx
※ 文中の商品名、会社名、団体名は、一般に各社の商標または登録商標です。