Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Go with the Prompt Flow

Henry Cui
November 25, 2023

Go with the Prompt Flow

Henry Cui

November 25, 2023

Transcript

7 slides
  1. 内容 ▪ Azure Machine Learning Prompt FlowというLLM開発全サ イクルをサポートするツールが先日MITライセンスで公開され た •

    https://github.com/microsoft/promptflow ▪ Prompt Flowがもたらす開発の効率向上 • フローで速いプロトタイピング • テストと評価 • デプロイ 2
  2. Prompt Flowの基本概念 ▪ Flow:Toolの有向グラフ ▪ Tool:LLM | Python | Prompt

    ▪ Variants:LLM Toolの違うバージョン ▪ Connections:外部認証データの保存 3
  3. Flowの構成 ▪ 公式レポジトリの examples/flows/standard/web-classification を例に ▪ 主なファイル • flow.dag.yaml:flowを定義するファイル ←

    主に見ていく • requirements.txt:ライブラリ依存 • pyファイル:Python関数の定義ファイル ▪ 書き方に従う必要がある • jinja2ファイル:プロンプトのテンプレートファイル 4
  4. PromptのTestとRun ▪ フォルダ内に以下のコマンドでテスト • pf flow test --flow . •

    pf flow test --flow . --inputs url='https://www.youtube.com/watch?v=kYqRtjDBci8' ▪ フォルダ内に以下のコマンでRun • run_name="classification_accuracy_"$(openssl rand -hex 12) • pf run create --file run.yml --stream --name $run_name • run visualize --name $run_name ▪ 可視化用のhtmlファイルを生成 6

More Decks by Henry Cui

Other Decks in Programming