Upgrade to Pro — share decks privately, control downloads, hide ads and more …

生成系AI/LLM に関する 注目アップデート ~MS Build 2023 編~

oshima
June 01, 2023
2.5k

生成系AI/LLM に関する 注目アップデート ~MS Build 2023 編~

oshima

June 01, 2023
Tweet

Transcript

  1. Copilot いっぱいCopilotが発表 • Windows Copilot • Microsoft 365 Copilot •

    GitHub Copilot • Viva Copilot • Edge Copilot • Security Copilot • Dynamic365 Copilot
  2. なぜRLHFが必要なのか A: いい感じに動くから [2203.02155] Training language models to follow instructions

    with human feedback 生成よりも比較のほうが簡単であるという非対称 が潜在的な理由かも
  3. LLM使用のベストプラクティス • Chain of Thought (CoT) : “Let’s think step

    by step” • Self-consistency : 複数の答えから選ばせる • ASK for Reflection : “Was the task accomplished?” • Tree of Thought : 複数の結果を維持し、うまくいったものを残す • 「Expertとして振る舞ってください」
  4. Vector search / Hybrid searchは当たり前になりつつある • Elastic search • Azure

    cognitive search • Azure Cosmos DB • VartexAI matching engine • Pinecone • Qdrant • …
  5. まとめ • Copilot Stackという整理されたマップをもらった ◦ Frontend, Orchestration などどこに当てはまるのかを整理すると責任がわかりやすい • 現状のLLMに関しても整理された

    ◦ パラメータ数だけでなくどのフェーズのモデルなのかが重要 ◦ ユースケースに合ったモデル選択 • VectorSeach, PromptFlowなどのOrchestrationツール ◦ Azureに今後充実していく
  6. 社内ドキュメント検索 Confluence Google Docs Slac Cognitive Search Vector search Hybrid

    Search 自然言語での質問/検索 どの粒度でベクトル化を行うか • チャンクに切る • サマライズする • インストラクションつける
  7. 社内ドキュメント検索 Confluence Google Docs Slac Cognitive Search Vector search Hybrid

    Search 自然言語での質問/検索 質問とドキュメントのドメインの差 • FAQであれば問題にならない • Two tower modelなどの導入
  8. 生成AI/LLM @メルカリ 絶賛募集中! 生成AI LLM専任チーム Software Engineer(Full Stack) - Mercari (

    https://apply.workable.com/mercari/j/76EB5EB641/ ) 生成AI/LLM専任チーム Senior Product Manager - Mercari ( https://apply.workable.com/mercari/j/57A4BBD796/ )