Lock in $30 Savings on PRO—Offer Ends Soon! ⏳
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Ai Workforceを支える技術
Search
LayerX
PRO
August 07, 2024
Technology
3
1k
Ai Workforceを支える技術
2024年8月6日に開催されたLayerX AI-UX Night「次世代のユーザー体験と現在地」のイベントにて、AI・LLM事業部プロダクト開発チームEMの篠塚史弥が登壇した際の資料になります。
LayerX
PRO
August 07, 2024
Tweet
Share
More Decks by LayerX
See All by LayerX
LayerX DesignersDeck
layerx
PRO
0
250
vercel AI SDK のストリームと戯れる
layerx
PRO
1
20
LLM生成文章の精度評価自動化とプロンプトチューニングの効率化について
layerx
PRO
3
230
意外(?)と語られないGoのいいところ
layerx
PRO
5
450
事前準備が肝!AI活用のための業務改革
layerx
PRO
1
740
開発スピードを落とさないために必要なイネーブルメント組織の在り方
layerx
PRO
1
340
プロジェクト推進におけるLLMチューニング
layerx
PRO
2
930
バクラク事業部 5分でわかるQAチーム
layerx
PRO
1
470
Fintech事業部流・爆速開発
layerx
PRO
2
370
Other Decks in Technology
See All in Technology
Kubernetes だけじゃない!Amazon ECS で実現するクラウドネイティブな GitHub Actions セルフホストランナー / CNDW2024
ponkio_o
PRO
6
420
sre本読んだ感想
pisakun
0
170
AWS re:Invent 2024 予選落ちのBedrockアプデをまとめて解説!
minorun365
PRO
2
240
歴史あるRuby on Railsでデッドコードを見つけ、 消す方法@yabaibuki.dev #3
ayumu838
0
1.7k
50以上のマイクロサービスを支えるアプリケーションプラットフォームの設計・構築の後悔と進化 #CNDW2024 / regrets and evolution of application platform
toshi0607
5
640
RDRAとLLM
kanzaki
4
510
LINEヤフーにおける超大規模プラットフォーム実現への挑戦と学び / Challenges and Lessons in Building an Ultra-Large-Scale Platform at LY Corporation
hhiroshell
2
960
2024年のAmazon Bedrockアップデート一挙おさらい 〜まだ間に合う! re:Invent直前までの重大ニュースを速習しよう〜
minorun365
PRO
3
160
LLMを「速く」「安く」 動かすには / CloudNative Days Winter 2024
pfn
PRO
5
1.3k
12/3(火)のBedrockアプデ速報(re:Invent 2024 Daily re:Cap #2 with AWS Heroes)
minorun365
PRO
4
100
2024/11/29_失敗談から学ぶ! エンジニア向けre:Invent攻略アンチパターン集
hiashisan
0
280
Raspberry Pi 秋の新製品をチェックしてみよう / 20231202-rpi-jam-tokyo
akkiesoft
0
230
Featured
See All Featured
Rails Girls Zürich Keynote
gr2m
94
13k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
27
4.3k
Faster Mobile Websites
deanohume
305
30k
GitHub's CSS Performance
jonrohan
1030
460k
Large-scale JavaScript Application Architecture
addyosmani
510
110k
Being A Developer After 40
akosma
87
590k
A Modern Web Designer's Workflow
chriscoyier
693
190k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Designing for humans not robots
tammielis
250
25k
Side Projects
sachag
452
42k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.2k
5 minutes of I Can Smell Your CMS
philhawksworth
202
19k
Transcript
© LayerX Inc. Ai Workforceを支える技術 2024/08/06 篠塚 史弥 LayerX AI-UX
Night「次世代のユーザー体験と現在地」
2 Confidential © 2024 LayerX Inc. 篠塚 史弥 LayerX AI・LLM事業部プロダクト開発チームEM
プロダクト開発のリード、開発チームのマネジメントを行う傍ら、 LLM PoCプロジェクトのPMや顧客へのプロダクト導入の推進を担う 元FiNC Technologies, CTO X: @shinofumijp
© LayerX Inc. 3 今日話すこと Ai Workforceの実装について話します!
© LayerX Inc. 4 Ai Workforceの概要 AIワークフロー構築 AIワークフロー実行 AIワークフロー結果 レビュー・修正
AIワークフロー改善
AI-UXを支える技術
© LayerX Inc. 6 インフラ構成 (全体) • Azure上にアプリケーションを構築 • SPA+APIサーバー+非同期処理
Workerの標準的なWebアプリケーショ ン構成 • APIサーバーと非同期処理Workerの間 のコミュニケーションはAzure Queue Storageを利用 • AIソリューションにはAzure OpenAI Service, Azure AI Document Intelligence, Azure AI Searchを 利用 Azure Container Apps Azure Container Apps Azure Application Gateway Azure Cosmos DB Azure OpenAI Service Azure AI Document Intelligence Azure AI Search Azure Blob Storage Azure Queue Storage SPA APIサーバー 非同期処理Worker App Service
© LayerX Inc. 7 Azure Container Apps App Service Azure
Container Apps Azure Application Gateway Azure Cosmos DB Azure OpenAI Service Azure AI Document Intelligence Azure AI Search Azure Blob Storage Azure Queue Storage SPA APIサーバー アプリケーションワークロード と利用技術 • フロントエンドはApp Service、APIサー バー・非同期処理Workerのワークロードは Azure Container Apps • フロントエンドはTypeScript(React)、 APIサーバーはPython(FastAPI)、非同期 処理WorkerはPython ◦ ワークフローエンジンは自前実装 • Azure OpenAI Service, Azure AI Document Intelligenceなど時間がかか る処理はWorkerを介して非同期的に実行 非同期処理Worker
AI-UXを支える機能事例の紹介
© LayerX Inc. 9 AIワークフロー結果のレビュー・修正機能 レビュー機能はAI-UXの根幹 - LLM処理の精度は100%にはならない - 人間が業務を遂行する上で「間違いがない」出力を得たい
- 人間の手によって精度の不足を補完する必要がある 人間がAIの間違いをすぐに見つけられ 容易に修正できる体験が重要
© LayerX Inc. 10 抽出元のページ をクリック 参照元をハイライト ※出典) 3M. (2024).
3M 2023 Annual Report. U.S. Securities and Exchange Commission. https://www.sec.gov/Archives/edgar/data/66740/000130817924000309/mmm4298631-ars.pdf
© LayerX Inc. 11 参照元ハイライト機能の実装 ①Azure AI Document IntelligenceでOCR 処理をして、テキストの座標を取得
②LLM処理で参照元となるテキスト情報を取得 ③①と②の結果からLougeスコアでマッチするもの を判定 LLM処理結果に参照元の座標情報を付与する ④フロントで座標情報に基づきハイライト Azure AI Document Intelligence Azure OpenAI Service フロントApp ドキュメント ① ② ③ ④
© LayerX Inc. 12 AI-UXはデザインとソフトウェアの総合格闘技戦 AI-UXは「AI精度」「プロダクト体験」「ソフトウェアエンジニアリング」によって支えられる - AI精度とプロダクト機能は不可分 - AI精度もタスク設計に合わせた評価指標が重要
- AI精度を補うためのプロダクトデザインとそれを実現するためのエンジニアリング
© LayerX Inc. 13 AI-UX向上のための今後の展望 ①LLMネイティブな体験・UIの追求 ②AI精度の継続的な改善のための監視基盤の構築 ③AI精度とプロダクト体験をより統合したソフトウェア開発