Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業...

SatakeYusuke
January 18, 2024
240

Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを作ってみた

Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみました。

SatakeYusuke

January 18, 2024
Tweet

More Decks by SatakeYusuke

Transcript

  1. apc-y-satake satyus 佐竹祐亮 / Yusuke Satake .NETラボ所属 Experience • 学習塾を経営

    • プログラミングスクールを経営 • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 Expertise  学習塾起業  プログラミングスクール起業  ソフトウェア開発  DX  React / Next.js  Node.js  Microsoft Azure  数学ⅠA・ⅡB・ⅢC  物理  英語
  2. Agenda  本日の概要  従来の独自データの扱い方  Add your dataでの独自データの扱い方 

    DEMO  AOAI + Add your dataでクラウドネイティブアプリケーション開発  最後に
  3. 本日の概要  Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って (出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみ ました。 

    実装方法を以下の記事にまとめてりますので、是非ハンズオンを通じてAzure OpenAI Serviceで遊んでみてください!  概念の説明 https://techblog.ap-com.co.jp/entry/2024/01/14/172841 ・ ハンズオン https://zenn.dev/yusu29/articles/azure_openai_addyourdata
  4. 従来の独自データの扱い方  Azure OpenAI Service(AOAI)で独自データを扱うためには以下の図のような アーキテクチャが必要でした。  AOAIとAzure AI Search(旧Cognitive

    Search)を並列に配置し、RAGアーキ テクチャを用いて独自情報を取り出す方法が一般的でした。 参考:https://github.com/Azure-Samples/azure-search-openai-demo
  5. 従来の独自データの扱い方  アプリの実装の難易度が高くなる (RAGアーキテクチャの実装)  LangChain等を使うと、ライブラリの version upについていかないといけな い 

    AI Search内で使用するIndexを自 前で生成する必要がある …etc 参考:https://github.com/Azure-Samples/azure-search-openai-demo  従来の方法での独自データの扱いには数点の課題
  6. Add your dataでの独自データの扱い方  Add your dataのAPIを叩く方法は2パターン  Completions extensions

    APIを叩く  Add your dataからデプロイした WebAppsのAPIを叩く dataSourcesは都度指定 WebApps AOAIに直接アクセス WebAppsのAPIへアクセス dataSourcesは固定  会話の内容によってデータソースを切替 可能  とにかくアプリの実装が楽
  7. 本日のDEMOのアーキテクチャ  アプリケーションはNext.jsを使用  Add your dataからデプロイした WebAppsのAPIを叩く  独自データはBlob

    Storageにpdfを配 置(私の石垣島旅行の旅のしおり)  Add your dataを用いてAI Search へ Indexを自動作成  Add your dataの機能でWebAppsを 自動デプロイし、APIとして利用