Upgrade to Pro — share decks privately, control downloads, hide ads and more …

【Azure OpenAI入門】 Azure OpenAI Service × LangCha...

SatakeYusuke
December 16, 2023
320

【Azure OpenAI入門】 Azure OpenAI Service × LangChain でクラウドネイティブなアプリ開発

Azure OpenAI Service × LangChainを組み合わせ、2022年1月以降の情報でも、OpenAIが自身で検索しながら補完してくれるような機能を実装したデモアプリを実装します。

SatakeYusuke

December 16, 2023
Tweet

Transcript

  1. apc-y-satake satyus 佐⽵祐亮 / Yusuke Satake 株式会社エーピーコミュニケーションズ Experience • 学習塾の起業

    • ITコンサルティングファームにて仮想通貨取引システムの開発に従事 • SaaS 企業にてPM業務に従事 • プログラミングスクールの起業 • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 Expertise ž 学習塾起業 ž プログラミングスクール起業 ž ソフトウェア開発 ž React / Next.js ž Node.js ž Microsoft Azure ž 数学ⅠA・ⅡB・ⅢC ž 物理
  2. Agenda ž 本⽇の概要 ž 使⽤する概念の説明 ž ⼤規模⾔語モデル(LLM) ž LLMを強化する⽅法 ž

    ReActとは? ž LangChainとは? ž DEMO ž AOAI + LangChainでReActアプリケーション開発 ž 最後に
  3. 本⽇の概要 ž ⼤規模⾔語モデル(LLM)の概念及びReAct という概念についても学習し、これ からAzure OpenAI が⾃社内や個⼈開発の中で利活⽤出来そうだと感じれ ることがゴールです。 ž ⼤規模⾔語モデル(LLM)の説明から記載しているので、初学者の⽅もご安⼼し

    てついてきていただければと存じます。 ž 今回も実装⽅法を以下の記事にまとめてりますので、是⾮ハンズオンを通じて Azure OpenAI Serviceで遊んでみてください! ž Zenn https://zenn.dev/yusu29/articles/azure_react_llm
  4. ⼤規模⾔語モデルの概要と課題 ž ⼤規模⾔語モデル(LLM)の開発の歴史があり、各社様々なAIを開発 出典 https://arxiv.org/pdf/2104.04473.pdf enterprise LLM Google BERT OpenAI

    GPT NVIDIA Megatron-LM Microsoft Turning-NLG トランス フォーマーを 使った最初の モデル スケール測の発見 データを増やせば精度が上が る 学習に数億~数十億の投資
  5. ⼤規模⾔語モデルの概要と課題 ž 特に最近注⽬されているChatGPTを詳細に⾒てみましょう。 ž 2022年11⽉30⽇リリース ž GPTモデルを使って作られたチャットアプリサー ビス ž リリース後2ヶ⽉で1億ユーザ突破

    ž GPT 3 / 4 モデルの学習データは2022年1⽉ までのデータしかない ž 先⽇発表されたGPT 4 Turboは2023年4 ⽉までのデータがあるが、現在の情報が必要 な回答作成は難しい
  6. Prompt Engineering ž LLM に与えるプロンプト内に追加データを 含めたり、不⾜がある場合に外部ツールを 呼び出してデータを追加することで回答精 度を向上させる⽅法 Ex) ž

    以前の情報をヒントにして回答 ž Web で検索して回答 Fine Tuning ž LLM ⾃体を追加学習させ、パラメータを調 整することで回答精度を向上させる⽅法 ž 膨⼤なコストとデータが必要 Ex) ž GPT3.5 に独⾃データを加えたモデルを作成 LLMを強化する⽅法 今回⽤いるのがPrompt Engineering の⼿法であるReActという概念になります。
  7. ReActとは? 1. ⼈からの質問 2. Azure OpenAIへ質問を送る 3. OpenAIだけで回答を出すのが難しい 場合、Bing Searchを⽤いて検索を

    ⾏い情報を得る 4. Bing Searchから得た情報も含めて OpenAIへ送り、回答の要約を作成 5. ⼈へ回答を返す ž 実際に図にしてみると以下のイメージ。 思考(推論)と⾏動 を⾏っていることがわかります。
  8. 最後に いかがだったでしょうか。 ž 今回はAOAI + Bing Searchの構成にしましたが、Bing Searchの箇所を社内 独⾃のデータにすれば、独⾃情報を取り扱うことの出来るAIが作成出来ますし 、フロント部分をStatic

    Web AppsからAzure Communication Serviceに変 えれば電話対応をAI化することも可能です。 ž 本発表を通じて様々な拡張性があるAzure OpenAI Serviceを是⾮みなさま も⾊々と触ってみたい!と思っていただければ幸いです。