クラウド環境で生成AIを利用！
ビジネス課題
と
取り組み内容
PJの背景
近年の生成AIに関する技術の進歩は目覚ましく、それらが業務効率化を目的として、業務に使用されることも少なくない。
そんな中、お客様は、金融業界で生成AI(大規模言語モデル:LLM)による業務効率化を実現するプロジェクトを推進している。
本案件は、そのプロジェクトのPoC環境の構築という位置づけである。
金融業界は他業界と比較し、より堅牢なセキュリティが求められるため、SaaSとして提供されるLLMを使用することは難しい。
実際にLLMを導入する際は、オンプレミス環境で管理され運用されることが考えられる。
またLLMの学習や推論には膨大な計算が必要になり、オンプレミス環境で実現するとなると、その膨大な計算に耐えうる高品質な設備が必要になる。そのためには、多額の予算が必要となる。
そこで、前段にPoCとしてクラウド上で再現し検証を実施することにより、
少額の予算で、効率的にプロジェクトの実現可能性や効果を測り意思決定の材料とする。
課題
本案件は、
AWS上でVPCを構築し、VPC内でシステムの利用環境を構築する。
利用環境に対してLLM利用を可能とするものとし、
環境構築時の条件として、VPC内部のファイルを利用者が持ち出せないよう制限することが必要であった。
そのため、制限する環境について、AWSサービスを駆使して接続の制限を実現する必要があった。
取組み内容
◆1,2週目：[動作確認]
お客様から提示されたポンチ絵を参考に、簡易的に環境を作成し、実際に動作するか検証する。
※その中で環境構築のために足らない情報や検討事項を洗い出す。
◆3,4週目：[要件整理・構成検討]
環境に必要な要件を洗い出し、お客様と認識を合わせる。
その要件に合わせて構成図を完成させる。
※[動作検証]にて洗い出した検討事項も含め認識を合わせる。
◆5,6週目：[環境構築・テスト]
環境を構築する。
想定通りソフトウェアが動作することを検証する。
セキュリティ面で問題がないことを検証する。
◆7,8週目：[資料作成・引継ぎ]
環境構築の手順を作成する。
環境利用の手順を作成する。
手順の引継ぎをする。
仕様製品
と
ソリューション
使用した製品
・Dify
・ClaudeCode
・Amazon Web Services
└Amazon Bedrock
└Amazon EC2
└AWS System Manager...等
ソリューション
導入効果
と
成功事例
成功のポイント・成果
成功のポイント
・早期に、動作確認用の必要最低限の環境を仮構築し、動作確認をしたことにより、
問題点、検討事項等を洗い出すことができた。
その結果として、本環境の構築時の未検討項目や問題が発生することが少なくすることができた。
成果
・PoC環境ということで、短期間での構築を求められたが、
必要十分の要件を満たし、環境提供をすることができた。
・積極的な提案活動について、お客様からのご好評をいただいた。
Relation
関連記事
Contact
ご不明な点はお気軽にお問い合わせください
事例の詳細やサービスに関するお問い合わせはこちら
