Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッ...
Search
gree_tech
PRO
October 25, 2024
Video
Technology
1
710
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッジ管理の未来
GREE Tech Conference 2024で発表された資料です。
https://techcon.gree.jp/2024/session/Short-Session-2
gree_tech
PRO
October 25, 2024
Tweet
Share
Video
More Decks by gree_tech
See All by gree_tech
コミュニケーションに鍵を見いだす、エンジニア1年目の経験談
gree_tech
PRO
0
110
REALITY株式会社における開発生産性向上の取り組み: 失敗と成功から学んだこと
gree_tech
PRO
2
1.7k
『ヘブンバーンズレッド』におけるフィールドギミックの裏側
gree_tech
PRO
2
550
セキュリティインシデント対応の体制・運用の試行錯誤 / greetechcon2024-session-a1
gree_tech
PRO
1
550
『アナザーエデン 時空を超える猫』国内海外同時運営実現への道のり ~別々で開発されたアプリを安定して同時リリースするまでの取り組み~
gree_tech
PRO
1
520
『アサルトリリィ Last Bullet』におけるクラウドストリーミング技術を用いたブラウザゲーム化の紹介
gree_tech
PRO
1
600
UnityによるPCアプリの新しい選択肢。「PC版 Google Play Games」への対応について
gree_tech
PRO
1
960
実機ビルドのエラーによる検証ブロッカーを0に!『ヘブンバーンズレッド』のスモークテスト自動化の取り組み
gree_tech
PRO
1
620
"ゲームQA業界の技術向上を目指す! 会社を超えた研究会の取り組み"
gree_tech
PRO
1
740
Other Decks in Technology
See All in Technology
Observability в PHP без боли. Олег Мифле, тимлид Altenar
lamodatech
0
330
Node-REDのFunctionノードでMCPサーバーの実装を試してみた / Node-RED × MCP 勉強会 vol.1
you
PRO
0
110
Welcome to the LLM Club
koic
0
160
Uniadex__公開版_20250617-AIxIoTビジネス共創ラボ_ツナガルチカラ_.pdf
iotcomjpadmin
0
160
第9回情シス転職ミートアップ_テックタッチ株式会社
forester3003
0
220
Understanding_Thread_Tuning_for_Inference_Servers_of_Deep_Models.pdf
lycorptech_jp
PRO
0
110
A2Aのクライアントを自作する
rynsuke
1
170
Navigation3でViewModelにデータを渡す方法
mikanichinose
0
220
AIの最新技術&テーマをつまんで紹介&フリートークするシリーズ #1 量子機械学習の入門
tkhresk
0
130
プロダクトエンジニアリング組織への歩み、その現在地 / Our journey to becoming a product engineering organization
hiro_torii
0
130
TechLION vol.41~MySQLユーザ会のほうから来ました / techlion41_mysql
sakaik
0
180
登壇ネタの見つけ方 / How to find talk topics
pinkumohikan
3
350
Featured
See All Featured
Why Our Code Smells
bkeepers
PRO
337
57k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
45
7.4k
Building Applications with DynamoDB
mza
95
6.5k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.8k
Code Review Best Practice
trishagee
68
18k
Designing for Performance
lara
609
69k
The World Runs on Bad Software
bkeepers
PRO
69
11k
Testing 201, or: Great Expectations
jmmastey
42
7.5k
What’s in a name? Adding method to the madness
productmarketing
PRO
23
3.5k
Side Projects
sachag
455
42k
We Have a Design System, Now What?
morganepeng
53
7.7k
The Cult of Friendly URLs
andyhume
79
6.5k
Transcript
データの海原を駆け抜けろ! Vertex AI Searchが切り拓く、 社内情報検索とナレッジ管理の未来 グリー株式会社 情報システム部 エンジニア 菅原優
菅原優 2021年1月にグリー株式会社に新卒入社し、 現在は情報システム部でエンジニアとして従事。 早く技術的特異点に到達して欲しいと思いながら、 生成AIの業務活用に取り組んでいる。 私の好きな二郎系ラーメンの写真です→ グリー株式会社 情報システム部 エンジニア 2
目次・アジェンダ • イルカちゃんについて • 社内の皆様に伝えたいこと • 会場の皆様に伝えたいこと • イルカちゃんの裏側 ◦
RAGについて ◦ 動機 ◦ Vertex AI Searchについて ◦ 仕組み ◦ 学んだこと • まとめ 3 ここだけで良いので聞いて下さい 時間の都合上、概要のみをお話します。 詳細を知りたい方は、是非セッション後に 情シスブースまでお越しください。
イルカちゃんについて 4
5
社内の皆様に伝えたいこと • イルカちゃんを使ってください ◦ 来週火曜日リリース予定です!! ◦ リリース後は、社内ポータルトップページからアクセス可能になる予定です 6
会場の皆様に伝えたいこと • Vertex AI Searchは早い・安い・旨い ◦ 早い: 専門知識が無くとも、簡単に特定の情報源を対象とする検索エンジンを構築できる ◦ 安い:
$4.00 / 1,000 クエリ + データインデックス料金 ※ 我々のユースケースの場合 ◦ 旨い: 高精度な検索結果、欲しい情報がちゃんと出てくる喜び • RAGはすごく便利 ◦ 検索に要約機能が付くと一気に近未来感が出てくる • 会場内情シスブースへお越しください ◦ 情シスはブース出展にかなり力を入れています ◦ イルカちゃん(デモ版)を触れます(予定) 7
イルカちゃんの裏側 8
RAG(Retrieval-Augmented Generation) • LLMによるテキスト生成と情報検索を組み合わせると強い ◦ ハルシネーションが起きづらい ◦ 生成したテキストの根拠が明確になる ◦ 複数の情報源を使ってシンプルな回答を返してくれる
9
動機 • 社内の情報があらゆる所に散逸しており、探すのが大変 ◦ e.g. Slack, Google Drive, SharePoint, Confluence,
FAQスプシ, 社員情報 … • → 全部まとめて検索したい! • → Google Cloud Searchを使っていたが… ◦ メンテが大変、UIのカスタムができない、APIが用意されていない • → Google CloudからVertex AI Searchがリリースされた ◦ 置き換えたら性能もコストも改善するのでは? ◦ せっかくだしAIブームの潮流に乗らねば! 10
Vertex AI Searchについて • Google Cloudが提供する検索エンジン • セマンティック検索 ◦ 大規模言語モデル(LLM)を活用し、ユーザーの意図を理解して最適な検索結果を返す
• 様々なデータソースに対応 ◦ e.g. ウェブサイト、構造化データ、非構造化データ、... ◦ 特定のサービスとの紐づけを容易に行うためのコネクタも(そこそこ)充実 • シンプルかつ良心的な料金形態 ◦ 基本は データインデックス料金(5 $/GB/月) + クエリ料金(0.002 $/検索) ◦ 高度な機能を使う場合、クエリ料金が高くなる 11
仕組み 12
学んだこと 13
Gemini 1.5 Flash はとても賢い 14 • 嘘を嘘と見抜ける
プロンプトエンジニアリングは奥深い 15 口調指定無し: PCに水をこぼした場合、速やかにITSDにご連 絡ください。 放置すると、故障やショートの原因となる可 能性があります。 口調指定有り: わあ、大変だったね💦 PCに水をこぼしてしまった場合は、すぐに
ITSDに連絡するのが良いみたいだよ! ITSDに連絡したら、状況を説明して指示を仰 いでね。 PCをそのまま放置すると、故障や ショートの原因になることもあるみたいだか ら、すぐに相談するのが大切だよ!
使いやすいUI設計は難しい(けど大事) 16 Before After
まとめ 17 • Vertex AI Search + Gemini を使って社内情報横断検索システムを作った ◦
プロンプトエンジニアリングやUI設計、データパイプライン作成等頑張りました • 社内への宣伝: ◦ 来週リリース予定なのでぜひ触ってみてください • 会場の皆様への宣伝: ◦ 情シスブースでデモ版を用意しています ◦ 情シス外、社外での導入支援についてもお気軽にご相談ください ◦ この後、同じく情シスから沓澤さんがTrack Aで発表を行います。お楽しみに! ▪ システム横断型のグループ管理ツール「Groupee」について
ご清聴ありがとうございました 18
None