Azure FunctionsのAOAIバインド機能を試してみる/dotnet2days20240118-baba

Transcript

1. Azure FunctionsのAOAI バインド機能を試してみる 2024/1/18 .NET の 2 日間 2024 冬 馬場ひろの Hirono Baba
2. スピーカーについて ◼ 馬場ひろの ◼ (株)オルターブース所属 ◼ エンジニア4年生 ◼ AzureやGitHub, .NETがんばってます @nina-sensei
3. 発表内容について ◼ 今日話すこと ◼ Azure Functions ◼ バインド機能について ◼ AOAIバインド機能について ◼ 目的 ◼ AOAIバインド機能先取りで試してみること ◼ 対象者 ◼ Azure初～中級者向け ◼ Functions推しな人
4. Azure Functions ◼ イベントをトリガーとしてプログラムを実行するAzureのサービス ◼ HTTP, Timer, Queue, その他Azureのサービスをトリガーとすることができる ◼ サーバーレスコンピューティングプラットフォーム ◼ 様々な言語をサポート（C#, JavaScript, Java, PowerShell, Python） ◼ バインド機能あり
5. バインド機能まとめ ◼ 少ないコードで他のサービスに接続するための方法 Blob Storage Azure Cosmos DB Azure SQL Dapr Event Grid HTTP と Webhook IoT Hub Kafka Mobile Apps Notification Hubs Queue Storage Redis RabbitMQ SendGrid Service Bus SignalR Table Storage Timer Twillio
6. AOAIのバインド機能が開発中 ◼ まだ非公式 ◼ Open AIとAOAI(Azure Open AI) と接続できる https://github.com/cgillum/azure-functions-openai-extension?tab=readme-ov-file
7. 現在開発されている機能 ◼ Text completions ◼ テキスト補完、任意のテキストの続きを生成してくれる ◼ Chat bots ◼ チャットボットを実装できる ◼ Assistants ◼ チャットボットをベースに、アシスタントの役割を担ってくれる ◼ Embeddings generators ◼ テキスト文字列の関連性をベクトル化し測定してくれる ◼ Semantic search ◼ 出力バインディング：ベクトルデータベースにドキュメントをインポート ◼ 入力バインディング：データベース内のドキュメントにクエリを発行
8. 準備 ◼ NuGet Packagesをインス トールする ◼ AOAIのリソースを作成 ◼ AZURE_OPENAI_KEY と AZURE_OPENAI_ENDPOINT をlocal.settings.jsonに設定 ◼ 実行環境 ◼ Visual Studio 2022 ◼ .NET6.0（In-Processモデル） ◼ Azure Functions Core Tools v4.x
9. AOAIの設定 ◼ リソースからキーとエンドポイントを取得 ◼ Azure OpenAI Studioでモデルのデプロイを忘れずに
10. デモ Text completions, Chat bots
11. Assistants ◼ Chat botsが一つのプロンプトに対して一つの返答が返ってくるような形 ◼ Assistantsは履歴を取得してくれるので会話が成り立つのが特徴 ◼ ToDoリストなどアシスタントとやりとりできる ◼ 明日のToDoタスクを一定の時間になったら通知してくれる ◼ オフィスの入退出管理ができる などなど ◼ 他のサービスと簡単に接続できるので簡単にアプリができる…？！
12. まとめ ◼ Functionsで簡単にAOAIと接続できる ◼ Semantic検索も試してみる ◼ GA待ってます！ ◼ 今後のアップデートに期待