Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Azure OpenAI を活用して金融機関にお届けする LLM + RAG サービス
Search
Fumina Chihama
June 06, 2024
1
270
Azure OpenAI を活用して金融機関にお届けする LLM + RAG サービス
Fumina Chihama
June 06, 2024
Tweet
Share
More Decks by Fumina Chihama
See All by Fumina Chihama
DBの選び方LT
fumina
2
200
RAGを活用した動画学習コンテンツの推薦 ~実装の工夫と課題~
fumina
0
330
RAGの基本と最新技術動向
fumina
0
530
二刀流で切り開くRAG活用術
fumina
0
260
営業組織から「がんばっているのに売れない」 をなくす、たった1つの”急所”とは
fumina
1
130
事業の進化とデータ構造で苦しんだ話
fumina
0
180
香りECスタートアップにおける データの更新によって生まれた データ負債事例と学び
fumina
0
420
OWASPの歩き方
fumina
1
580
位置情報データをコスト最適化しつつ 分析に活かすための データ管理と運用方法について
fumina
1
520
Featured
See All Featured
Fireside Chat
paigeccino
31
2.9k
Learning to Love Humans: Emotional Interface Design
aarron
270
40k
Principles of Awesome APIs and How to Build Them.
keavy
125
16k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
27
7.4k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
28
8.9k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
38
9.2k
Building an army of robots
kneath
302
42k
Facilitating Awesome Meetings
lara
49
6k
VelocityConf: Rendering Performance Case Studies
addyosmani
322
23k
For a Future-Friendly Web
brad_frost
174
9.3k
How to Ace a Technical Interview
jacobian
274
23k
Agile that works and the tools we love
rasmusluckow
327
20k
Transcript
シンプルフォーム株式会社 2024年6月6日
Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス
シンプルフォーム株式会社 全社会資料 2024年5月31日
シンプルフォーム株式会社 全社会資料 2024年5月31日
アジェンダ 4 • 会社紹介 • 作ったデモ/アーキテクチャ/課題 • Azure OpenAI を用いた解決
• 結び
アジェンダ 5 • 会社紹介 • 作ったデモ/アーキテクチャ/課題 • Azure OpenAI を用いた解決
• 結び
Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス
Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス
Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス
Azure OpenAI を活用し 金融機関にお届けする LLM + RAG サービス
アジェンダ 10 • 会社紹介 • 作ったデモ/アーキテクチャ/課題 • Azure OpenAI を用いた解決
• 結び
法人の特徴から審査観点を提案してくれる AI Chat 11 本法人は•••という特徴があり、審査 ガイドライン第•頁••••••に該当す るため追加調査•••••• が必要です
ガイドラインをベクターデータ化し RAG を実現 12 本法人は•••という特徴があり、審査 ガイドライン第•頁••••••に該当す るため追加調査•••••• が必要です
RAG の有無による性能の差 13 「国際テロリスト財産凍結法」に関する次の記述のうち、最も不適切なものはどれか。 1. テロリストに対する制限が不十分であるというFATF第3次対日相互審査の指摘やFATFの声明を 受けて制定された。 2. 公告国際テロリストを規制対象としており、公告国際テロリストを相手として取引を行う場合は 公安委員会の許可が必要となる。
3. 10万円超の金銭等、政令として定める規制対象財産の贈与を「一定の取引」として制限している。 4. 政令として定める規制対象財産の貸付や売却を「一定の取引」として制限している。 問題数: 91 使用した Model: gpt-4 RAG無し正解数: 49 RAG有り正解数: 88
Pinecone + OpenAI API を用いたアーキテクチャ 14 OpenAI API OpenAI API
We User Get 法人 情報 RDB 発現可能性のある リスクをN個特定 リスク1の評価 リスク2の評価 …リスクNの評価 リスク1に関する 知識を獲得 リスク1を評価+ 推奨アクションの提案 ベクターデータの用意
運用に際しての課題 15 OpenAI API の信頼性 1. 可用性 2. データガバナンス(顧客データがサードパーティでどう扱われるか) 3.
セキュリティ(どの程度の水準でセキュリティが担保されるか)
アジェンダ 16 • 会社紹介 • 作ったデモ/アーキテクチャ/課題 • Azure OpenAI を用いた解決
• 結び
Azure OpenAI とは 17 https://learn.microsoft.com/ja-jp/azure/ai-services/openai/overview#comparing-azure-openai-and-openai → 安定性やセキュリティ、コンプライアンス、ガバナンスの観点で顧客水準のクリアが期待 できる
Azure OpenAI を用いたアーキテクチャ 18 Azure OpenAI We User Get 法人
情報 RDB 発現可能性のある リスクをN個特定 リスク1の評価 リスク2の評価 …リスクNの評価 リスク1に関する 知識を獲得 リスク1を評価+ 推奨アクションの提案 アップロード Azure AI Search Azure Document Intelligence ベクター データ
Azure AI Studio を用いてノーコードで RAG を作れる 19
Azure AI Studio を用いてノーコードで RAG を作れる 20
アジェンダ 21 • 会社紹介 • 作ったデモ/アーキテクチャ/課題 • Azure OpenAI を用いた解決
• 結び
結び 22 • SimpleForm では審査情報基盤を開発/ LLM+RAG で審査を補助 • 顧客属性によってはデータガバナンス・セキュリティは重大課題 •
Azure OpenAI で Microsoft の水準を享受でき対外説明しやすくなる • ノーコード、ワンタッチで RAG が実現できる • 先端技術がコモディティ化 ⇔ 独自データの重要性、ますます高まる • SimpleForm は「サイバー時代の探偵」宜しく情報基盤に積極投資
We want YOU! Great Detective in the Cyber Age: Data
Analysis Engineer, Application Engineer, Infrastructure Engineer
シンプルフォーム株式会社 全社会資料 2024年5月31日
シンプルフォーム株式会社 全社会資料 2024年5月31日