Upgrade to Pro — share decks privately, control downloads, hide ads and more …

PromptyによるAI開発入門

 PromptyによるAI開発入門

Global AI BootCamp - AOAI Dev Day プレイベントの登壇資料です。
イベントURL
https://azureai.connpass.com/event/345154/

Xのハッシュタグ
#AzureAIDevJP

スライド内のリンク

Prompty
https://prompty.ai/

Promptyに入門したい
https://zenn.dev/ymd65536/articles/prompty_get_started_1

Prompty Specification
https://prompty.ai/docs/prompty-specification

Open AIの Referenceの記述
https://platform.openai.com/docs/api-reference/chat/create

Microsoft Learnの記述
https://learn.microsoft.com/en-us/azure/ai-services/openai/reference

OpenTelemetryとPrompty
https://github.com/microsoft/prompty/tree/main/runtime/prompty#opentelemetry-tracing

promptyjs
https://github.com/microsoft/prompty/tree/js/runtime/promptyjs

Kento.Yamada

March 11, 2025
Tweet

More Decks by Kento.Yamada

Other Decks in Programming

Transcript

  1. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP 今⽇話すこと

    • ⾃⼰紹介 • ところで • AIエージェント開発における課題 • Promptyってなに • Promptyが解決すること • Promptyの導⼊ • まとめ 3
  2. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP ⾃⼰紹介

    ⼭⽥顕⼈(Kento.Yamada) @ymd65536 仕事:MSP向け内製システムの開発、マルチクラウドエンジニア/デベロッパー 活動:.NETラボ勉強会の運営 Microsoft MVP for Developer Technologies(2024年〜) AWS Community Builders Dev Tools(2025年〜) Google Cloud Partner Top Engineer 2025 DataAnalytics(2024年〜) Google Cloud Partner Tech Blog Challenge 2023 Cloud AI/ML 部⾨ LINE API Expert(2024年〜) LAPRAS OUTPUT AWARD 2024 01 4
  3. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP ところで

    みなさん、AIエージェントを開発していますかー!! せっかくなので現地で聞いてみよう! オンラインの⼈はハッシュタグで教えてね!! 5
  4. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP AIエージェントを内製開発するときの課題

    • エージェントの設定管理(再現性の担保) • エージェントの可視化(エージェントの特徴や数) • チューニング時の開発(イテレーションの回しやすさ) 6
  5. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP エージェントの設定管理(再現性の担保)

    実装するうえで重要なパラメータ • システムプロンプト(system prompt) • ⼊⼒/出⼒トークン数(max token) • モデル名(model name)、ツールやtop_pなど エージェントを認知するうえで必要なパラメータ • 名前(e.g. 社内情報検索エージェント) • 説明(e.g. 社内の情報を検索するエージェント) 上記のパラメータが容易に説明可能である必要がある。 7
  6. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP エージェントの可視化(エージェントの特徴や数)

    エージェントの数や役割が把握可能であるか。管理できるか。 👉オブザーバビリティへの対応 8 社外検索エージェント 社内検索エージェント 名前はワカラナイけど要約エージェント 翻訳・要約エージェント C#コード生成エージェント Web検索エージェント 質問応答エージェント データ分析エージェント 記事作成エージェント とりあえず要約エージェント グラフ作成エージェント パワポ作成エージェント
  7. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP •

    エージェントの名前やどのようなものか説明できるうえで。。。 システムプロンプト、トークン数、モデル名を変更して動作を⾒たい。 こういった変更を加える場合、通常ではアプリケーションの修正が必要 9 チューニング時の開発(イテレーションの回しやすさ) 私はGPT3.5 私はGPT4 モデル名のみ変更
  8. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP Promptyってなに

    プロンプトや各種パラメータなど LLM呼び出しに必要な情報をまとめて記述できるファイルフォーマット 特徴 • .promptyというファイルでAzure AI Foundryから出⼒可能 • PromptyTracerやOpenTelemetryに対応 • VSCodeに拡張機能がある(後述) 参考:https://prompty.ai/ 10
  9. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP Azure

    AI FoundryからPromptyエクスポート 13 • メタデータ • モデル設定 • テンプレート • システムプロンプト 参考:Prompty Specification https://prompty.ai/docs/prompty-specificat ion
  10. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP 各種パラメータはAOAIのMicrosoft

    Learnでチェック 14 とはいっても実はOpen AIのモデルに関して⾔うと Microsoft Learnに書いてあることと Open AIの Referenceに書いてあることはほぼ同じ(同じ) ※AOAIであれば、Microsoft Learnを参照しよう! Microsoft Learnの記述 Open AIの Referenceの記述 参考:https://learn.microsoft.com/en-us/azure/ai-services/openai/reference 参考:https://platform.openai.com/docs/api-reference/chat/create
  11. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP Azure

    AI FoundryからPromptyエクスポート 15 重要なパラメータをセットで扱える エージェントの名前と説明
  12. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP OpenTelemetryとPrompty

    17 引⽤:https://github.com/microsoft/prompty/tree/main/runtime/prompty#opentelemetry-tracing OpenTelemetryの計装が可能 PromptyTracerというのもある。
  13. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP Promptyが解決すること

    • エージェントの設定管理(再現性の担保) • エージェントの可視化(エージェントの特徴や数) • チューニング時の開発(イテレーションの回しやすさ) 👉AIエージェントの再現性と可搬性、開発の⽣産性を⾼めること 18
  14. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP Promptyの導⼊

    対応⾔語: Python、C#(最近はJSの⽂字もリポジトリから⾒えたけど未検証) ※promptyjsというものが2週間前にコミットされている https://github.com/microsoft/prompty/tree/js/runtime/promptyjs Python and LangChain あるいはC# and Semantic Kernel 👉PromptyにはCLIで.promptyを実⾏する機能やVSCode拡張もある。 19
  15. Azure AI Developers Community(JP) Azure AI Developers Community(JP) #AzureAIDevJP まとめ

    • PromptyはAIエージェントの設定を管理できるフォーマット/OSS • 設定管理、可視化、反復開発を容易にする • Azure AI Foundryでエクスポートできる(プレビュー) • CLIやVSCodeでPromptyを試すこともできる 23