NTTデータ先端技術、ローカルLLM環境を利用した金融システム開発向け生成AI活用を検証

背景

近年、生成AI技術が業務効率化の手段として注目されています。しかしながら、金融機関においては特に、従量課金によるコスト増大や予算管理の難しさに加え、取り扱う情報の機密性の高さによるデータ保護や、法規制や業界ルールを踏まえたガバナンス確保のハードルの高さが課題となっています。そのため、安全かつ計画的に生成AIを活用できる基盤へのニーズが高まっています。
本検証では、生成AI基盤をオンプレミス環境上に構築し、各種データを外部に一切送信しないローカルLLM環境を構築し、金融システムの開発における生成AIの業務適用の実現可能性を確認しました。本検証により、情報漏洩リスクを最小限に抑えつつ、企業のセキュリティポリシーや内部統制に沿ったセキュリティ・ガバナンスを確保した生成AIを活用したシステム開発が可能であることを確認しています。

図1：ローカルLLM環境の構成イメージ

技術検証の概要

機密情報を含む各種データを外部に一切送信しないローカルLLMを金融システムの開発に活用可能かを検証するため、想定される「整合性チェックの自動化」「ドキュメント品質の向上」「修正作業の迅速化」の3つのユースケースを定義しました。

図2：主なユースケース

今回は特に、金融機関のシステム開発における設計書作成業務に対し、「ユースケース１：整合性チェックの自動化」の検証を行っています。オンプレミス環境下に構築したローカルLLMを活用し、セキュリティポリシーや内部統制の仕組み、業界標準といったルールから逸脱することなく、自動でチェック・修正し、設計書作成におけるレビュー工程を削減できることを確認しました。今後、2つのユースケースについても引き続き検証を進めていきます。

また、本検証では、業務内容や目的に応じてLLMモデルや構成を柔軟に選択可能な、高いカスタマイズ性を備えた生成AI基盤を構築し、実際に複数のLLMモデルを用いたユースケース実行の比較検証を行いました。その上で、金融システムに特化したナレッジを活用するために最適なLLMモデルやRAG（検索拡張生成）といった技術を選択できることの効果や有用性を確認しました。

さらに、導入初期の段階では規模を抑えスモールスタートでの生成AI基盤導入となることを想定し、段階的に利用範囲を拡大できる運用モデルについても評価を行いました。その結果、生成AI導入時の投資リスクを抑えつつ、業務への効果を確認しながら本格導入へ移行できる点を確認しています。

コスト面においては、ローカルLLMを採用することで、生成AI基盤の利用量に大きく影響されない安定したコスト構造（コストの固定化）を実現できることを検証しました。さらに、お客様環境を想定したオンプレミスサーバー上に生成AI基盤を構築するアーキテクチャを採用しました。これにより、クラウド利用料の削減やネットワーク帯域コストの抑制といった追加的なコストリダクション効果が見込めるほか、予算管理の容易化や中長期的なコスト見通しの明確化といった効果が期待できます。

今後について

NTTデータ先端技術は、本技術検証の結果を踏まえ、セキュリティやガバナンス、カスタマイズ性、サポート体制、コスト予見性を重視した生成AI活用の実現に向け、さらなる検討と取り組みを進めてまいります。また、金融機関ニーズに応える形で、機密情報保護やセキュリティを担保した生成AI活用を推進するとともに、同様の要件が求められる他業界における生成AI活用を支援していきます。

本件に関するお問い合わせ先

報道関係のお問い合わせ先

株式会社NTTデータ先端技術
経営企画部
広報・KMO推進担当
齋藤、和田、池田

製品・サービスに関するお問い合わせ先

株式会社NTTデータ先端技術
デジタルビジネス事業本部
テクノロジー&ソリューション事業部
データインテリジェンス担当
藤井、玉井