RAGだけじゃない! 古くて新しいベクトル検索の世界 | DevelopersIO 2024 福岡

推薦システムやセマンティック検索やRAGでつかわれる「埋め込み」技術について発表しました

クラスメソッド主催「DevelopersIO 2024 福岡イベント」の登壇資料
https://classmethod.connpass.com/event/317870/

解説ブログ
https://dev.classmethod.jp/articles/basic-vector-search-devio-fukuoka-2024/

Transcript

1. RAGだけじゃない! 古くて新しいベクトル検索の世界 2024/06/28 Classmethod, Inc. George Yoshida
2. Xへの投稿の際は、 ハッシュタグ #devio2024 #クラスメソッド福岡 でお願いいたします。 2 お願い
3. AWSの⽣成AI系What's Newから 3 Ref : https://aws.amazon.com/jp/about-aws/whats-new/2023/11/amazon-titan-multimodal-embeddings-model-bedrock/
4. AWSの⽣成AI系What's Newから 4 Ref : https://aws.amazon.com/jp/about-aws/whats-new/2023/11/amazon-titan-multimodal-embeddings-model-bedrock/ Embedding 埋め込み 基盤モデル マルチモーダル ベクトルデータベース
5. セッションのゴール = ベクトル検索関連の キーワード･概念を理解 5
6. ⾃⼰紹介 • 名前 : George Yoshida • Blog : https://dev.classmethod.jp/author/quiver/ • 仕事 : AWS事業本部エンジニア • 所属 : HND󰏦 → TXL/BER󰎲 → FUK󰏦 • 2024 Japan APN AWS ◦ Top Engineer(Database) ◦ All Certifications Engineer 6
7. アジェンダ 1. 実は⾝近なベクトル検索 2. 埋め込み 3. ベクトル検索 4. ベクトルデータベース 5. まとめ 7
8. ベクトル検索は以前から活躍 • RAG 8
9. ベクトル検索は以前から活躍 • RAG • あいまい検索(セマンティック検索) • 推薦システム 9
10. ベクトル検索は類似検索が得意 • RAG → 似ているドキュメント • あいまい検索(セマンティック検索) →似ている⽤語 • 推薦システム → 似ているコンテンツ 10
11. RAGにおけるベクトル検索 11
12. よくあるチャット系⽣成AIサービス 12 A:2024年のオリンピック開 催とはフランスのパリです。 Q:2024年のオリン ピック開催地は?
13. よくあるチャット系⽣成AIサービス 13 A:2024年のオリンピック開 催とはフランスのパリです。 Q:2024年のオリン ピック開催地は?
14. 知らないことは答えられない 14 Q:2023年末のクラメ ソは何連休だった? A:具体的な情報は⾒つける ことができませんでした。
15. 知らないことは答えられない 15 Q:2023年末のクラメ ソは何連休だった? A:具体的な情報は⾒つける ことができませんでした。
16. RAGが解決すること • RAG = Retrieval-Augmented Generation cf.)情報検索(Information Retrieval) • 基盤モデルの外にあるナレッジを活⽤ • 幻覚(ハルシネーション)の抑制や事前ト レーニングされていない社内ドキュメント や最新情報の検索などが可能 16
17. RAGを利⽤したナレッジの活⽤ 17 [1,2,3] [4,5,6]
18. RAGを活⽤して未知の質問に回答 18 Q:2023年末のクラメ ソは何連休だった? A:有給奨励⽇を休むと 17連休でした。
19. RAGは２種類のモデルを利⽤ 19 埋め込み テキスト [1,2,3] [4,5,6]
20. モデルとは • モデル = アルゴリズムのようなもの • 基盤モデル(Foundation Model;FM)は⼤規模なデー タセットで事前学習された汎⽤的なAIモデル • 例) ◦ OpenAIのGPTシリーズ ◦ AnthropicのClaudeシリーズ 20
21. テキストモデル 21 テキスト • 検索した⽂書を参考 に質問の回答を作成 • ⽣成AIの要約と同等
22. 埋め込みモデル 22 • モデルはデータを ベクトルに変換 • ベクトルでデータ 操作 [4,5,6] [1,2,3]
23. レコメンドも同じ埋め込み構成 23 [1,2,3] [4,5,6]
24. アジェンダ 1. 実は⾝近なベクトル検索 2. 埋め込み 3. ベクトル検索 4. ベクトルデータベース 5. まとめ 24
25. 埋め込み 25 [1,2,3] [4,5,6]
26. 埋め込み • 埋め込み = Embedding = ベクトル = 数字の配列 • 配列のサイズが次元 • 埋め込みモデルはデータをベクトルに変換 • 埋め込みモデル(“りんご”) = [0.1, -0.3, …, 0.2] 26
27. 埋め込みモデルの例 • テキストモデル ◦ テキストデータの埋め込みを⽣成 • マルチモーダルモデル ◦ テキストや画像など異なるモードのデー タの埋め込みを⽣成 27
28. 埋め込みは⾮構造から構造への橋渡し 28
29. アジェンダ 1. 実は⾝近なベクトル検索 2. 埋め込み 3. ベクトル検索 4. ベクトルデータベース 5. まとめ 29
30. ベクトル検索 30 [1,2,3] [4,5,6]
31. ベクトル検索は類似検索 • ベクトル検索 = ベクトルでベクトルの集合を検索 • ベクトル同⼠の⽐較が必要 • ベクトル検索は類似検索 ◦ ベクトル空間に距離を定義 ◦ ベクトル同⼠(2点間)の近さから類似度を定義 • ⽤途ごとに適切な類似度(コサイン類似度等)を選択 31
32. 似たもの同⼠は近くにいる 32 2次元ベクトル空間への埋め込み Q:うどんぽい ⾷べ物は? A:ラーメン
33. ANNで近似探索 • ⾼次元の⼤量のベクトルデータを定義通りに計 算すると計算量が爆発(最近傍探索問題) • 正確さを犠牲にして効率よく⾼速に近似 (approximate)するアルゴリズムが近似最近傍 探索(ANN; Approximate Nearest Neighbor) 33
34. ベクトルインデックス • RDBではB-Treeがデファクトスタンダード • ベクトル検索には近似探索⽤の別のイン デックスが必要 • ANNインデックスとしてグラフベースの HNSW(Hierarchical Navigable Small World)などがある 34
35. アジェンダ 1. 実は⾝近なベクトル検索 2. 埋め込み 3. ベクトル検索 4. ベクトルデータベース 5. まとめ 35
36. ベクトル検索 36 [1,2,3] [4,5,6]
37. ベクトルを操作できれば ベクトルデータベース 37
38. ベクトルデータベースの例 • Pinecone • Elasticsearch • PostgreSQL 38
39. インターフェースの違い • Pinecone → ベクトルが得意 • Elasticsearch → JSON が得意 • PostgreSQL → リレーショナルモデルが得意 39
40. データベースの⽬的を考えよう • Pinecone → ベクトルが得意 ◦ ベクトル検索に特化 • Elasticsearch → JSON が得意 ◦ 全⽂検索とベクトル検索のハイブリッド検索 • PostgreSQL → リレーショナルモデルが得意 ◦ データ資産を活⽤ 40
41. アジェンダ 1. 実は⾝近なベクトル検索 2. 埋め込み 3. ベクトル検索 4. ベクトルデータベース 5. まとめ 41
42. ベクトル検索の特徴 • ベクトルDBは埋め込みモデルを介して保 存‧検索するインターフェースを提供 • ⾮構造化データを扱える • モデルのおかげでタグのようなメタ情報の 運⽤は不要 42
43. ベクトル検索は近似探索 • ベクトル検索はベクトル間の距離を利⽤し た類似検索 • 計算量を抑制するために、正確さを犠牲に 近似最近傍探索(ANN)で近似する • 全⽂検索などと棲み分けが必要 43
44. データベースの選定 • メインで扱うデータ･処理によってデータ ベースを使い分けよう • ベクトル特化型データベースはRDBの上位 互換ではない 44