Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Azure OpenAI を活用して金融機関にお届けする LLM + RAG サービス

Fumina Chihama
June 06, 2024
370

Azure OpenAI を活用して金融機関にお届けする LLM + RAG サービス

Fumina Chihama

June 06, 2024
Tweet

Transcript

  1. RAG の有無による性能の差 13 「国際テロリスト財産凍結法」に関する次の記述のうち、最も不適切なものはどれか。 1. テロリストに対する制限が不十分であるというFATF第3次対日相互審査の指摘やFATFの声明を 受けて制定された。 2. 公告国際テロリストを規制対象としており、公告国際テロリストを相手として取引を行う場合は 公安委員会の許可が必要となる。

    3. 10万円超の金銭等、政令として定める規制対象財産の贈与を「一定の取引」として制限している。 4. 政令として定める規制対象財産の貸付や売却を「一定の取引」として制限している。 問題数: 91 使用した Model: gpt-4 RAG無し正解数: 49 RAG有り正解数: 88
  2. Pinecone + OpenAI API を用いたアーキテクチャ 14 OpenAI API OpenAI API

    We User Get 法人 情報 RDB 発現可能性のある リスクをN個特定 リスク1の評価 リスク2の評価 …リスクNの評価 リスク1に関する 知識を獲得 リスク1を評価+ 推奨アクションの提案 ベクターデータの用意
  3. Azure OpenAI を用いたアーキテクチャ 18 Azure OpenAI We User Get 法人

    情報 RDB 発現可能性のある リスクをN個特定 リスク1の評価 リスク2の評価 …リスクNの評価 リスク1に関する 知識を獲得 リスク1を評価+ 推奨アクションの提案 アップロード Azure AI Search Azure Document Intelligence ベクター データ
  4. 結び 22 • SimpleForm では審査情報基盤を開発/ LLM+RAG で審査を補助 • 顧客属性によってはデータガバナンス・セキュリティは重大課題 •

    Azure OpenAI で Microsoft の水準を享受でき対外説明しやすくなる • ノーコード、ワンタッチで RAG が実現できる • 先端技術がコモディティ化 ⇔ 独自データの重要性、ますます高まる • SimpleForm は「サイバー時代の探偵」宜しく情報基盤に積極投資
  5. We want YOU! Great Detective in the Cyber Age: Data

    Analysis Engineer, Application Engineer, Infrastructure Engineer