Try to make a call center

I created a call center using Azure Communication Service and Azure OpenAI Service. This time, I'd like to demonstrate a demo up to the point where it returns information about the cram school I manage using OnYourData, which was recently GA.

Transcript

1. コールセンターを作ってみた(2) .NETラボ4月 佐竹 祐亮
2. @fe_js_engineer satyus 佐竹祐亮 / Yusuke Satake 株式会社エーピーコミュニケーションズ Experience • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 • 学習塾経営 • プログラミングスクール経営 • PoC部運営 Expertise  学習塾経営  プログラミングスクール経営  ソフトウェア開発  Azureアーキテクト  DXコンサルタント  プリセールス new!!
3. Agenda  本日の概要  前回までのおさらい  今回チャレンジしたこと  使用するアーキテクチャ  前回のアーキテクチャ  今回のアーキテクチャ  DEMO  最後に
4. 本日の概要  Azure Communication ServiceとAzure OpenAI Serviceを使ってコールセンター を作ってみました。 今回は最近GAされた、OnYourDataを用いて私が経営している塾の情報を返 してくれるところまでDEMOでお見せしたいと思います。  OpenAIが自動応答するコールセンターを作ってみよう https://zenn.dev/yusu29/articles/azure_callautomation  Azure Communication Serviceで電話番号を取得しよう https://zenn.dev/yusu29/articles/azure_callautomation
5. 前回までのおさらい  小・中・高校生対象に５教科と、プログラミングの講義を展開しています。  現在生徒数は佐竹塾80名、プログラミングスクール15名所属  講師は3名(めっちゃ大変…)  講師側はslack、生徒・保護者との連絡はLINE  欠席管理はTrello
6. 前回までのおさらい~学習塾DX化~  佐竹塾では色々なことに取り組みながら少人数で最大のパフォーマンスを出せ るよう工夫しています。  Azure Static Web Apps × Trello × slack 欠席管理のWEB化  Azure OpenAI Service × Azure Static Web Apps × Azure Repos 生徒の成績分析  Azure OpenAI Service × LINE MessagingAPI 英作文添削サービス
7. 前回までのおさらい  今年の学習塾でやりたいこと  電話対応を撲滅したい  本当に必要な相談以外は電話対応を自動化したい →OpenAIを使って電話対応の自動化にチャレンジ！！
8. 学習塾って授業以外でどんなコミュニケーションが必要？ ITで代替可能と考える  無料体験授業の申し込み  欠席連絡及び振替授業の調整  問題の質問及び回答 ITで代替は厳しいと考える  生徒の相談  保護者との世間話 ITで代替可能な箇所の電話対応を自動化するこ とで、より生徒が必要とするコミュニケーションに 割く時間を増やすことが目標
9. WebアプリとLINEでなかなかの効果  欠席管理アプリ(生徒が作った)とLINEの導入、そしてTrelloとslackの講師間のコミュニケーションツールを導入 することで、70%の問い合わせ対応を減少させることに成功
10. 次は電話対応を何とかしたい  残り30%のうちの15%ぐらいの本当に人の手が必要なコミュニケーションのみに集中すべく、電話対応をAzure OpenAIを用いて駆逐していきます！
11. 使用するアーキテクチャ
12. 前回のアーキテクチャ
13. 今回のアーキテクチャ On Your Dataを使って佐竹塾の ルールを取り込み
14. On Your Dataでの独自データの扱い方  最近GAされたAOAIの機能、On Your Dataで独自データの取り扱いが簡単 になりました。  APIをAOAIが用意してくれるので、ア プリ側からAPIを叩くだけでOK  AI Search内で使用するIndexを自 動で生成 …etc
15. On Your Dataでの独自データの扱い方  On Your DataのAPIを叩く方法は２パターン  Completions extensions APIを叩く  On Your dataからデプロイしたWebApps のAPIを叩く dataSourcesは都度指定 WebApps AOAIに直接アクセス WebAppsのAPIへアクセス dataSourcesは固定  会話の内容によってデータソースを切替 可能  とにかくアプリの実装が楽
16. 今回のアーキテクチャ 欠席連絡の際はTrelloへカードを 追加し、slackで講師へ通知
17. Trelloへのカード追加  カンバンボードの形式で管理しており、 欠席一覧・振替実施・振替完了のところに欠席者のカードを配置  欠席一覧の箇所にWebAppからAPI を叩き、カードを追加する。  カードが追加されると、Trelloから webhookでslackへ通知が送られる
18. DEMO Azure Communication ServiceとAzure OpenAI Serviceを使ったコールセンター
19. 佐竹塾コールセンターDEMO 1.時間割を聞くDEMO 2.欠席対応のDEMO
20. DEMO～時間割の確認～
21. DEMO～欠席連絡の対応～
22. 所感 チャレンジしてみて良かった点  OnYourDataの活躍により、独自データを電話越しに聞けるようになり、電話応対の幅が広がった  独自データもmarkdown形式で佐竹塾の情報をつらつら記載しているだけなので、管理は非常に楽。また、 OnYourDataはインデクサーのスケジュールを選べるので、markdown更新後も自動でインデックスを更新してく れる 今後の改善点  speechToText→データソースへの検索とOpenAIでの回答生成→TextToSpeechを実施するので、応答までに 時間がかかる。より回答を素早く出来る方法を取り入れることと、「ん～」とか「え～」とかいれて対応すればい い感じにまってくれそう  コスト面はAzure Communication Service周りは月1,000円程度で、On Your Dataを導入する為、AI SearchはBasic以上を設定する必要があり、それは月14,000円程度。電話対応における人件費と比較して 導入メリットを検討したい
23. 最後に いかがだったでしょうか。  スモールビジネスとして学習塾を経営しておりますが、教育事業やスモールビジネ スにもまだまだAzureが入り込む余地があると考えています。 佐竹塾は極限まで効率化して、生徒にかけられる時間を増やしていきたいと思 います！
24. ご清聴頂きありがとうございました。
25. 参考資料  Zenn https://zenn.dev/yusu29/articles/azure_callautomation  APCブログ https://techblog.ap-com.co.jp/entry/2024/02/12/133135