Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Semantic Kernelの最新状況及び入門
Search
tomokusaba
July 26, 2024
Programming
0
180
Semantic Kernelの最新状況及び入門
Semantic Kernelの最新状況及び入門
.NETラボ 勉強会 2024年7月
https://dotnetlab.connpass.com/event/323373/
tomokusaba
July 26, 2024
Tweet
Share
More Decks by tomokusaba
See All by tomokusaba
私の考える初学者がBlazorできるまでの学習方法
tomokusaba
1
240
Fluent UI Blazor 最新Update
tomokusaba
1
250
アクセシビリティの観点からみたFluent UI Blazorのすすめ
tomokusaba
1
310
Webアプリをできるだけコードを手書きしないで作ってみる
tomokusaba
2
300
Azure OpenAI Serviceのプロンプトエンジニアリング入門
tomokusaba
3
1.4k
プロンプトエンジニアリング入門
tomokusaba
2
1.7k
Sementic Kernelのネイティブ関数について
tomokusaba
0
1k
C#でのPlaywrightを使ったE2Eテストの実際
tomokusaba
0
790
「インフラ初心者」…からのPlaywright Testing
tomokusaba
1
380
Other Decks in Programming
See All in Programming
Mergeable Libraryで 高速なアプリ起動を実現しよう!
giginet
PRO
1
1.8k
Uncharted packages (Laravel Live Denmark)
freekmurze
0
140
Rustではじめる負荷試験
skanehira
5
1.1k
Swiftで高速フーリエ変換してオーディオビジュアライザーを作る / iOSDC Japan 2024 Day1 Track D
kyome22
2
460
フロントエンドカンファレンス北海道2024 『小規模サイトでも使えるVite 〜HTMLコーディングをよりスマートに〜』長谷川広武(ハム)
h2ham
1
2.5k
Swift Concurrencyとレースコンディション
objectiveaudio
1
380
ゲームボーイアドバンスでSwiftを動かそう
k_koheyi
0
510
TypeScriptとGraphQLを活用した変化に強いプロダクト作り
bicstone
4
550
プログラマのための音楽入門
cheebow
4
540
BasicBasic認証
sadnessojisan
5
2.5k
ドメイン駆動設計を実践するために必要なもの
bikisuke
3
290
(非公開スライド追加)座談会 「Strict ConcurrencyとSwift 6が開く新時代: 私たちはどう生きるか?」
shiz
1
140
Featured
See All Featured
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
354
29k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.4k
The Art of Programming - Codeland 2020
erikaheidi
48
13k
It's Worth the Effort
3n
182
27k
The World Runs on Bad Software
bkeepers
PRO
64
11k
A Tale of Four Properties
chriscoyier
155
22k
Become a Pro
speakerdeck
PRO
22
4.8k
Done Done
chrislema
180
16k
Stop Working from a Prison Cell
hatefulcrawdad
266
20k
How GitHub Uses GitHub to Build GitHub
holman
472
290k
Debugging Ruby Performance
tmm1
72
12k
Building Your Own Lightsaber
phodgson
101
5.9k
Transcript
Semantic Kernelの最新状況 及び入門 株式会社SAKURUG プロダクトDiv 草場 友光 .NETラボ勉強会2024年7月
自己紹介 • コミュニティ活動を通じて知識をアッ プデートしています。 • 2022/08-2025 Microsoft MVP (Developer Technologies)
• tomo_kusaba
宣伝 【VISION】ひとの可能性を開花させる企業であり続ける VISIONに共感できる仲間募集中。
注意 • 個人の見解・解釈が多分に入っています。 • 見解の相違・事実誤認などありましたらご指摘ください。 • #dotnetlabでtweetすると左側に表示されます
今日の目的 • .NETのSemantic Kernelが安定版になってしばらく経ちまし た。 • 最新のSemantic Kernelの状況及び改めて今、Semantic Kernelを入門する方法をリポジトリーを見ながら探っていきた いと思います。
• やらないこと:実際にコードを動かしてみたり詳細な実装について 話すこと
現在のリポジトリ構成をみる • https://github.com/microsoft/semantic- kernel/tree/main
Semantic Kernelとは • 既存のアプリケーションにAIエージェントを簡単に追加することの できるオープンソースのミドルウェア • C#、Java、Pythonに対応 • プラグインの自動呼び出しに対応
似た目的で使用できるフレームワーク・ツール • LangChain • AI Studio • Azure FunctionのOpenAI拡張
LangChain • Pythonのみの対応 • LLMを扱う上では素晴らしいツール • LLMの発展に対して迅速な対応する反面、今現在安定版がリリー スされていない、破壊的変更が多い、バグが多いなどのトラブル が多い •
AIそのもの検証にはとても相性がよい!
AI Studio • Microsoft Build 2024でGA • OpenAI以外のMetaなどのLLMやPhi-2などのSLMなどさま ざまな言語モデルに対応 •
Azure AI SearchやプロンプトフローなどAIツールチェーンと して設計されている • GUIベースでフローを確認できたり可観測性もバッチリ。 • TeamsへのカスタムエンジンCopilotもPubulic Previewな どできることが増えてきた!
Azure FunctionのOpenAI拡張 • Azure OpenAI Serviceの機能と動作をFunctionに簡単に 統合できる一連のトリガーとバインドが実装されている。 • 呼び出すLLMがAzure OpenAIに限定できる場合に有用な手
段 • スケールしやすい • AIの実行がFunctionでよい場合・・・もともとマイクロサービス 的に作っている場合は気にならないはず。モノシリックで作ってい る場合なぜAzure OpenAI ServiceだけがAzure Function の実行なのか??くらい
Semantic Kernelの始め方 • https://github.com/microsoft/semantic- kernel/tree/main/dotnet/notebooks • まずは、Jypyter Notebooksから • 前提:.NET
8 と VS Code と Polygot 拡張
Microsoft Learn ドキュメント • ただし、現在は英語のみ (7/3日本語追加!) • ドキュメントに掲載されているコードは https://github.com/microsoft/semantic- kernel/tree/main/dotnet/samples/LearnResources
に掲載 • Logic AppsやOpenAPIプラグインの追加方法などより実践的 な実装方法についての記述がされているなど一通り読むべき
コード例がコンセプトごとに整理された • Microsoft LearnからもGitHubへのリンクがある。 • ChatCmpletionとかDIやPluginなどコンセプトごとに整理さ れて見やすくなった。
より、実践的デモアプリ • https://github.com/microsoft/semantic- kernel/tree/main/dotnet/samples/Demos
どんな機能が使えるんだっけ(コア) サービス C# Python Java 備考 プロンプト ◦ ◦ ◦
ネイティブ関数とプラグイン ◦ ◦ ◦ OpenAPIプラグイン ◦ ◦ ◦ 関数の自動呼び出し ◦ ◦ ◦ テレメトリログを開く ◦ △ × フックとフィルター ◦ ◦ ◦
どんな機能が使えるんだっけ(AIサービス) サービス C# Python Java 備考 テキストの生成 ◦ ◦ ◦
チャット入力候補 ◦ ◦ ◦ GPT-4 テキスト埋め込み ◦ ◦ ◦ Text-Embeddings テキストから画像へ ◦ × × Dall-E 画像からテキストへ ◦ × × テキストから音声へ ◦ × × 音声からテキストへ ◦ × × Whisper
どんな機能が使えるんだっけ (AIサービスエンドポイント) サービス C# Python Java 備考 OpenAI ◦ ◦
◦ Azure OpenAI ◦ ◦ ◦ Ollama, LLM Studio.. ◦ ◦ ◦ Hugging Face Inference API △ × ×
どんな機能が使えるんだっけ (Memory Connectors) サービス C# Python Java 備考 Azure AI
Search ◦ ◦ ◦ Chroma ◦ ◦ × DuckDB ◦ × × Milvus △ ◦ × Pinecone ◦ ◦ × Postgres ◦ ◦ × Qdrant ◦ △ × Redis ◦ △ × Sqlite ◦ × △ Weaviate ◦ ◦ ×
Microsoft Learnを見てみる時間
参考文献 • Microsoft/semantic-kernel https://github.com/microsoft/semantic- kernel/tree/main • セマンティック カーネルの概要 https://learn.microsoft.com/ja-jp/semantic- kernel/overview/?WT.mc_id=DT-MVP-5004827
• Semantic Kernel Discord コミュニティ https://aka.ms/sk/discord
おしまい おしまい