Go with the Prompt Flow

Transcript

1. Go with the Prompt Flow 機械学習の社会実装勉強会第29回 Henry 2023/11/25
2. 内容 ▪ Azure Machine Learning Prompt FlowというLLM開発全サ イクルをサポートするツールが先日MITライセンスで公開され た • https://github.com/microsoft/promptflow ▪ Prompt Flowがもたらす開発の効率向上 • フローで速いプロトタイピング • テストと評価 • デプロイ 2
3. Prompt Flowの基本概念 ▪ Flow：Toolの有向グラフ ▪ Tool：LLM | Python | Prompt ▪ Variants：LLM Toolの違うバージョン ▪ Connections：外部認証データの保存 3
4. Flowの構成 ▪ 公式レポジトリの examples/flows/standard/web-classification を例に ▪ 主なファイル • flow.dag.yaml：flowを定義するファイル ← 主に見ていく • requirements.txt：ライブラリ依存 • pyファイル：Python関数の定義ファイル ▪ 書き方に従う必要がある • jinja2ファイル：プロンプトのテンプレートファイル 4
5. Flowをローカルに動かす ▪ Connectionを作る必要がある ▪ 今回はAzureじゃないOpenAIのほうを使う • connection.yamlを用意 • Ubuntu等の場合はpip install keyrings.alt 5
6. PromptのTestとRun ▪ フォルダ内に以下のコマンドでテスト • pf flow test --flow . • pf flow test --flow . --inputs url='https://www.youtube.com/watch?v=kYqRtjDBci8' ▪ フォルダ内に以下のコマンでRun • run_name="classification_accuracy_"$(openssl rand -hex 12) • pf run create --file run.yml --stream --name $run_name • run visualize --name $run_name ▪ 可視化用のhtmlファイルを生成 6
7. まとめ ▪ Prompt Flowの基本概念 ▪ Prompt Flowをローカルで動かした 7