{{guidance}}のガイダンス / Guidance of guidance

Transcript

1. {{guidance}}のガイダンス 機械学習の社会実装勉強会第24回 Henry 2023/6/24
2. 背景 ▪ LLM (Large Language Model、大規模言語モデル)は世界を 席巻している ▪ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含 めて、より効率的に扱うためのライブラリ guidance がマイクロ ソフトが先日リリース ▪ langchainとsemantic-kernelがすでにある中で、guidanceに ついて見ていく 2
3. 内容 ▪ テンプレート言語 ▪ 基本文法 ▪ gen関数 3
4. テンプレート言語 ▪ guidanceはHandlebarsというテンプレート言語を採用してい ます • しかし文法は完全に一致しているわけでもない ▪ Handlebarsは元々HTMLなどを構成するためのフロントエンド で使われるテンプレート言語 • https://handlebarsjs.com/guide/#what-is-handlebars 4
5. 基本文法 ▪ どのLLMを使うかを先に指定 • 後で引数として渡せるが、事前に指定したほうがわかりやすい ▪ テンプレートの文字列を渡して、オブジェクトを定義 • ここの自由度が高い • 入出力とgen関数 ▪ 呼び出して実行する 5
6. gen関数 ▪ gen関数に色々な引数が渡せる • name • stop • n • temperature • max_tokens • … 6
7. まとめ ▪ LLMを扱うライブラリ guidance の紹介 ▪ 基本文法と肝心な関数の基本的な紹介 ▪ guidance の他の便利な機能やより高度な使い方も紹介した い 7