Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業...
Search
SatakeYusuke
January 18, 2024
0
240
Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを作ってみた
Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみました。
SatakeYusuke
January 18, 2024
Tweet
Share
More Decks by SatakeYusuke
See All by SatakeYusuke
deep dive to voice rag
satakeyusuke19920527
0
1
Microsoft for Startups Founders Hub
satakeyusuke19920527
0
22
Cram school DX - Tried to Make English Conversation Application
satakeyusuke19920527
0
230
Can't RAGs be cheaper?
satakeyusuke19920527
1
360
Implemented payment processing with Azure Functions and Stripe.
satakeyusuke19920527
1
210
platform engineering meetup wrapup
satakeyusuke19920527
0
280
Try to make a call center ver3
satakeyusuke19920527
0
3.4k
Try to make a call center
satakeyusuke19920527
1
240
コールセンターを作ってみた(1)
satakeyusuke19920527
0
430
Featured
See All Featured
Dealing with People You Can't Stand - Big Design 2015
cassininazir
364
24k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5k
[RailsConf 2023] Rails as a piece of cake
palkan
52
4.9k
Large-scale JavaScript Application Architecture
addyosmani
510
110k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
229
52k
GraphQLの誤解/rethinking-graphql
sonatard
67
10k
BBQ
matthewcrist
85
9.3k
Being A Developer After 40
akosma
87
590k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
31
2.7k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.1k
It's Worth the Effort
3n
183
27k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
126
18k
Transcript
Azure OpenAI ServiceのAdd your Dataで(出 来る限り簡単に)企業の独自情報にも回答してく れるシステムを作ってみた .NETラボ 佐竹 祐亮
apc-y-satake satyus 佐竹祐亮 / Yusuke Satake .NETラボ所属 Experience • 学習塾を経営
• プログラミングスクールを経営 • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 Expertise 学習塾起業 プログラミングスクール起業 ソフトウェア開発 DX React / Next.js Node.js Microsoft Azure 数学ⅠA・ⅡB・ⅢC 物理 英語
Agenda 本日の概要 従来の独自データの扱い方 Add your dataでの独自データの扱い方
DEMO AOAI + Add your dataでクラウドネイティブアプリケーション開発 最後に
本日の概要 Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って (出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみ ました。
実装方法を以下の記事にまとめてりますので、是非ハンズオンを通じてAzure OpenAI Serviceで遊んでみてください! 概念の説明 https://techblog.ap-com.co.jp/entry/2024/01/14/172841 ・ ハンズオン https://zenn.dev/yusu29/articles/azure_openai_addyourdata
従来の独自データの扱い方 Azure OpenAI Service(AOAI)で独自データを扱うためには以下の図のような アーキテクチャが必要でした。 AOAIとAzure AI Search(旧Cognitive
Search)を並列に配置し、RAGアーキ テクチャを用いて独自情報を取り出す方法が一般的でした。 参考:https://github.com/Azure-Samples/azure-search-openai-demo
従来の独自データの扱い方 アプリの実装の難易度が高くなる (RAGアーキテクチャの実装) LangChain等を使うと、ライブラリの version upについていかないといけな い
AI Search内で使用するIndexを自 前で生成する必要がある …etc 参考:https://github.com/Azure-Samples/azure-search-openai-demo 従来の方法での独自データの扱いには数点の課題
Add your dataでの独自データの扱い方 現在プレビュー中のAOAIの機能、Add your dataでのデータの取り扱いは従 来の方法と比較して非常に簡単になりました。 APIをAOAIが用意してくれるので、ア
プリ側からAPIを叩くだけでOK AI Search内で使用するIndexを自 動で生成 …etc
Add your dataでの独自データの扱い方 Add your dataのAPIを叩く方法は2パターン Completions extensions
APIを叩く Add your dataからデプロイした WebAppsのAPIを叩く dataSourcesは都度指定 WebApps AOAIに直接アクセス WebAppsのAPIへアクセス dataSourcesは固定 会話の内容によってデータソースを切替 可能 とにかくアプリの実装が楽
DEMO AOAI + Add your dataでクラウドネイティブアプリケーション開発
本日のDEMOのアーキテクチャ アプリケーションはNext.jsを使用 Add your dataからデプロイした WebAppsのAPIを叩く 独自データはBlob
Storageにpdfを配 置(私の石垣島旅行の旅のしおり) Add your dataを用いてAI Search へ Indexを自動作成 Add your dataの機能でWebAppsを 自動デプロイし、APIとして利用
すごいちなみに…読み込ませたデータは以下です。
DEMO
最後に いかがだったでしょうか。 今回Add your dataを用いて独自データを扱うシステムを簡単に構築出来る 方法をご紹介いたしました。 是非ご視聴された皆様でAdd your
dataを使ったことがない方は一度ハンズオ ンして楽しんでいただけますと幸いです。
ご清聴頂きありがとうございました。
参考資料 Zenn https://zenn.dev/yusu29/articles/azure_react_llm APCブログ https://techblog.ap-com.co.jp/entry/2023/12/28/143632 X https://twitter.com/fe_js_engineer