Foundry Toolkit + Lemonade Serverでローカルワークフロー開発

はんなり生成AI・ローカルLLMやってみたLT会 #2 (2026/6/29, オンライン) で実施予定だったLT資料 (都合により登壇をキャンセル)

Foundry Toolkit for Visual Studio Codeでお手軽にアプリを開発する手順を紹介します。

Transcript

1. 瀬尾ソフト 瀬尾佳隆 (@seosoft) Microsoft MVP for Microsoft Foundry / MCT Alumni Foundry Toolkit + Lemonade Server で ローカルワークフロー 開発 2026/06/26 はんなり生成AI ローカルLLMやってみたLT会 #2
2. 自己紹介 瀬尾 佳隆 (せお よしたか) • フリーランスのソフトウェアエンジニア / トレーナー • MVP for Microsoft Foundry (Jul 2018 – Jun 2026) / MVP (Jan 2009 – Jun 2018) • Microsoft Certified Trainer Alumni (2021 - ) • LinkedIn: https://www.linkedin.com/in/yseosoft/ • x: https://x.com/seosoft • Facebook: https://www.facebook.com/seosoft • 乃木坂、櫻坂、日向坂が好きです 京都、お寺、仏像が好きです LinkedIn
3. 前回のLT会でこんなことを言いました なかったことにします
4. ローカルワークフロー開発 ◼お手軽にやるなら Lemonade Server • いずれは Foundry Local とか ONNX モデルに進みたいから • OpenAI v1 互換 API が扱いやすい • Ollama はいったんペンディング
5. ◼エージェント開発環境 • 基本的には Microsoft Foundry / Foundry Local がターゲット • カスタムモデルを接続できる • Ollama または OpenAI 互換 API • ONNX Foundry Toolkit
6. ◼MS 製品・サービスについて 答えるワークフロー • Microsoft Learn MCP サーバーに 接続 • Write (回答執筆) と Editor (校正) のハンドオフ型の ワークフロー 今回のワークフローの最終形
7. ワークフロー開発の手順 1. テンプレのコードを丸ごとコピー Foundry Hosted Agents https://learn.microsoft.com/en-us/agent-framework/hosting/foundry-hosted-agent?pivots=programming- language-python 2. (今回限定) クライアントを OpenAIChatCompletionClient に変更 3. MCPをツール追加 4. デバッグ環境のセットアップ 5. トレーシング対応 6. ワークフロー化 (ひとまずシングルエージェント) 7. マルチエージェント化 ※自分では1行もコードを書きませんでした
8. ◼Foundry Toolkit を インストールすると 作られる（ようです） • エージェント・ワークフロー 開発のエキスパートとのこと • デバッグ環境のセットアップ、 トレーシング対応も楽勝 AIAgentExpert
9. ◼コーディングには充分 (※個人の感想) • 長い処理はちょっと苦手、 小さいタスクに分割 • 低コストがうれしい ◼重めのデバッグはちょっと 厳しかったかも • 必要に応じて “Auto” モデルに 切り替える MAI-Code-1-Flash
10. 個人的な今後の予定 (今度こそ！) ◼ファインチューニング on ROCm • 最初は Foundry Toolkit でやってしまうかも ◼Lemonadeでモデル評価 ◼Foundry Local用のパッケージング (ONNX 化、量子化) ◼Foundry LocalでローカルLLM (without Lemonade) ◼Lemonade vs Foundry Local の比較 • ポータビリティを考えると Foundry Local に軍配が上がりそう
11. 今日の資料はこちらから https://bit.ly/FoundtyToolkit_Workflow_20260626 (デモ動画はそのうち作るかも？)