Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Semantic Kernelの最新状況及び入門
Search
tomokusaba
July 26, 2024
Programming
0
190
Semantic Kernelの最新状況及び入門
Semantic Kernelの最新状況及び入門
.NETラボ 勉強会 2024年7月
https://dotnetlab.connpass.com/event/323373/
tomokusaba
July 26, 2024
Tweet
Share
More Decks by tomokusaba
See All by tomokusaba
私の考える初学者がBlazorできるまでの学習方法
tomokusaba
1
250
Fluent UI Blazor 最新Update
tomokusaba
1
250
アクセシビリティの観点からみたFluent UI Blazorのすすめ
tomokusaba
1
310
Webアプリをできるだけコードを手書きしないで作ってみる
tomokusaba
2
300
Azure OpenAI Serviceのプロンプトエンジニアリング入門
tomokusaba
3
1.4k
プロンプトエンジニアリング入門
tomokusaba
2
1.7k
Sementic Kernelのネイティブ関数について
tomokusaba
0
1.1k
C#でのPlaywrightを使ったE2Eテストの実際
tomokusaba
0
790
「インフラ初心者」…からのPlaywright Testing
tomokusaba
1
380
Other Decks in Programming
See All in Programming
Hono・Prisma・AWSでGeoなAPI開発
nokonoko1203
5
650
Rechartsで楽にゴリゴリにカスタマイズする!
10tera
1
140
BasicBasic認証
sadnessojisan
5
3.2k
開発を加速する共有Swift Package実践
elmetal
PRO
0
370
Mergeable Libraryで 高速なアプリ起動を実現しよう!
giginet
PRO
1
2.2k
Using Livebook to build and deploy internal tools @ ElixirConf 2024
hugobarauna
0
230
Scala におけるコンパイラエラーとの付き合い方
chencmd
2
370
令和トラベルにおけるLLM活用事例:社内ツール開発から得た学びと実践
ippo012
0
120
デザインシステムとコンポーネント指向によるフロントエンド開発プロセスの革新 / Innovation in Frontend Development Processes through Design Systems and Component-Oriented Architecture
nrslib
7
5.1k
Rubyとクリエイティブコーディングの輪の広がり / The Growing Circle of Ruby and Creative Coding
chobishiba
1
240
オートマトン学習しろ / Do automata learning
makenowjust
3
110
New Order in Cascade Sorting Order
mugi_uno
3
2.6k
Featured
See All Featured
Building a Scalable Design System with Sketch
lauravandoore
458
32k
The Cost Of JavaScript in 2023
addyosmani
40
5.2k
Robots, Beer and Maslow
schacon
PRO
157
8.1k
Bootstrapping a Software Product
garrettdimon
PRO
304
110k
The Cult of Friendly URLs
andyhume
76
5.9k
GitHub's CSS Performance
jonrohan
1029
450k
Art, The Web, and Tiny UX
lynnandtonic
294
20k
How to train your dragon (web standard)
notwaldorf
85
5.6k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
27
7.4k
Thoughts on Productivity
jonyablonski
66
4.2k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
42
2k
Being A Developer After 40
akosma
83
580k
Transcript
Semantic Kernelの最新状況 及び入門 株式会社SAKURUG プロダクトDiv 草場 友光 .NETラボ勉強会2024年7月
自己紹介 • コミュニティ活動を通じて知識をアッ プデートしています。 • 2022/08-2025 Microsoft MVP (Developer Technologies)
• tomo_kusaba
宣伝 【VISION】ひとの可能性を開花させる企業であり続ける VISIONに共感できる仲間募集中。
注意 • 個人の見解・解釈が多分に入っています。 • 見解の相違・事実誤認などありましたらご指摘ください。 • #dotnetlabでtweetすると左側に表示されます
今日の目的 • .NETのSemantic Kernelが安定版になってしばらく経ちまし た。 • 最新のSemantic Kernelの状況及び改めて今、Semantic Kernelを入門する方法をリポジトリーを見ながら探っていきた いと思います。
• やらないこと:実際にコードを動かしてみたり詳細な実装について 話すこと
現在のリポジトリ構成をみる • https://github.com/microsoft/semantic- kernel/tree/main
Semantic Kernelとは • 既存のアプリケーションにAIエージェントを簡単に追加することの できるオープンソースのミドルウェア • C#、Java、Pythonに対応 • プラグインの自動呼び出しに対応
似た目的で使用できるフレームワーク・ツール • LangChain • AI Studio • Azure FunctionのOpenAI拡張
LangChain • Pythonのみの対応 • LLMを扱う上では素晴らしいツール • LLMの発展に対して迅速な対応する反面、今現在安定版がリリー スされていない、破壊的変更が多い、バグが多いなどのトラブル が多い •
AIそのもの検証にはとても相性がよい!
AI Studio • Microsoft Build 2024でGA • OpenAI以外のMetaなどのLLMやPhi-2などのSLMなどさま ざまな言語モデルに対応 •
Azure AI SearchやプロンプトフローなどAIツールチェーンと して設計されている • GUIベースでフローを確認できたり可観測性もバッチリ。 • TeamsへのカスタムエンジンCopilotもPubulic Previewな どできることが増えてきた!
Azure FunctionのOpenAI拡張 • Azure OpenAI Serviceの機能と動作をFunctionに簡単に 統合できる一連のトリガーとバインドが実装されている。 • 呼び出すLLMがAzure OpenAIに限定できる場合に有用な手
段 • スケールしやすい • AIの実行がFunctionでよい場合・・・もともとマイクロサービス 的に作っている場合は気にならないはず。モノシリックで作ってい る場合なぜAzure OpenAI ServiceだけがAzure Function の実行なのか??くらい
Semantic Kernelの始め方 • https://github.com/microsoft/semantic- kernel/tree/main/dotnet/notebooks • まずは、Jypyter Notebooksから • 前提:.NET
8 と VS Code と Polygot 拡張
Microsoft Learn ドキュメント • ただし、現在は英語のみ (7/3日本語追加!) • ドキュメントに掲載されているコードは https://github.com/microsoft/semantic- kernel/tree/main/dotnet/samples/LearnResources
に掲載 • Logic AppsやOpenAPIプラグインの追加方法などより実践的 な実装方法についての記述がされているなど一通り読むべき
コード例がコンセプトごとに整理された • Microsoft LearnからもGitHubへのリンクがある。 • ChatCmpletionとかDIやPluginなどコンセプトごとに整理さ れて見やすくなった。
より、実践的デモアプリ • https://github.com/microsoft/semantic- kernel/tree/main/dotnet/samples/Demos
どんな機能が使えるんだっけ(コア) サービス C# Python Java 備考 プロンプト ◦ ◦ ◦
ネイティブ関数とプラグイン ◦ ◦ ◦ OpenAPIプラグイン ◦ ◦ ◦ 関数の自動呼び出し ◦ ◦ ◦ テレメトリログを開く ◦ △ × フックとフィルター ◦ ◦ ◦
どんな機能が使えるんだっけ(AIサービス) サービス C# Python Java 備考 テキストの生成 ◦ ◦ ◦
チャット入力候補 ◦ ◦ ◦ GPT-4 テキスト埋め込み ◦ ◦ ◦ Text-Embeddings テキストから画像へ ◦ × × Dall-E 画像からテキストへ ◦ × × テキストから音声へ ◦ × × 音声からテキストへ ◦ × × Whisper
どんな機能が使えるんだっけ (AIサービスエンドポイント) サービス C# Python Java 備考 OpenAI ◦ ◦
◦ Azure OpenAI ◦ ◦ ◦ Ollama, LLM Studio.. ◦ ◦ ◦ Hugging Face Inference API △ × ×
どんな機能が使えるんだっけ (Memory Connectors) サービス C# Python Java 備考 Azure AI
Search ◦ ◦ ◦ Chroma ◦ ◦ × DuckDB ◦ × × Milvus △ ◦ × Pinecone ◦ ◦ × Postgres ◦ ◦ × Qdrant ◦ △ × Redis ◦ △ × Sqlite ◦ × △ Weaviate ◦ ◦ ×
Microsoft Learnを見てみる時間
参考文献 • Microsoft/semantic-kernel https://github.com/microsoft/semantic- kernel/tree/main • セマンティック カーネルの概要 https://learn.microsoft.com/ja-jp/semantic- kernel/overview/?WT.mc_id=DT-MVP-5004827
• Semantic Kernel Discord コミュニティ https://aka.ms/sk/discord
おしまい おしまい