Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
論文紹介-AutoHyde
Search
tomatolian
June 24, 2024
Research
0
21
論文紹介-AutoHyde
tomatolian
June 24, 2024
Tweet
Share
More Decks by tomatolian
See All by tomatolian
24時間AIハッカソン- HEAT
tomatolian
0
10
うみがめのスープを利用した学習アプリ - RSS ハッカソン
tomatolian
0
28
論文紹介 - Emotion Bench
tomatolian
0
10
Other Decks in Research
See All in Research
Matching 2D Images in 3D: Metric Relative Pose from Metric Correspondences
sgk
0
260
SSII2024 [OS2] 大規模言語モデルと基盤モデルの射程
ssii
PRO
0
470
CVPR2024論文紹介:Segmentation
hinako0123
0
130
授業評価アンケートのテキストマイニング
langstat
1
340
CSER 2024 Keynote
tsantalis
0
150
[第62回NLPコロキウム]「なりきり」を促すHCI設計:対話型接客ロボットの遠隔操作者へのリアルタイム変換音声フィードバックの適用
nami_ogawa
0
280
クラウドソーシングによる学習データ作成と品質管理(セキュリティキャンプ2024全国大会D2講義資料)
takumi1001
0
190
自動運転・AIシステムの問題を賢く探す・賢く直す / Smart Search & Repair Techniques for Automated Driving Systems and AI Systems
ishikawafyu
0
200
医療分野におけるLLMの現状と応用可能性について
kento1109
11
3.2k
20240719_第2回熊本の交通を語る会
trafficbrain
0
430
marukotenant01/tenant-20240916
marketing2024
0
160
snlp2024_multiheadMoE
takase
0
360
Featured
See All Featured
Build The Right Thing And Hit Your Dates
maggiecrowley
30
2.3k
Side Projects
sachag
452
42k
Facilitating Awesome Meetings
lara
49
6k
Being A Developer After 40
akosma
84
590k
RailsConf 2023
tenderlove
28
830
Bash Introduction
62gerente
608
210k
What the flash - Photography Introduction
edds
67
11k
How STYLIGHT went responsive
nonsquared
93
5.1k
The Invisible Customer
myddelton
119
13k
Debugging Ruby Performance
tmm1
72
12k
Statistics for Hackers
jakevdp
794
220k
How GitHub Uses GitHub to Build GitHub
holman
472
290k
Transcript
HyDEの網羅性を上げる Auto-HyDE手法の提案 (2024/4/5投稿) 芸術工学府一年 鈴木醇
ユーザレビュー レビューDB ユーザのレビューに 似たもの タイトルが わからな かった タイトルの 意味は理解 できなかった
タイトルが 意味不明 結局タイトル はどう関連 する? 通常のRAGだと 01 意味的に似ているものではなく説明が欲しい
HyDE手法 02 ユーザレビュー LLM タイトルが わからな かった タイトルは、 ラストの... という意味
と思った。 タイトルの 意味は... という考え がしっくり。 タイトルは 文字通り... 仮説解説 タイトルの 意味は.... である。 仮説的文書埋め込み(HyDE): 疑似的に文書を生成することによって、目的の文書を取得する 解説文書
HyDEの課題 03 HyDE手法には限界がある 疑似文書を生成するプロンプト依存が大きい ユーザの入力クエリに対して一つのプロンプトは非現実的 DBの性質によって、スタイルやトーン、構造が一意でない場 合、疑似文書を生成するプロンプトによって検索が偏る
AutoHyDE 04 HyDEの網羅性を上げるために、どのような疑似的文章を生成すれ ばよいかを判別 検索結果 TOP100 keyword含む文書群 (重要かも) TOP20 TOP21~100
検索クエリ ヒロがミカに恋した理由 キーワード [”ヒロ”,”ミカ”,”恋”] キーワード抽出 ベクトル類似度検索 クラスタ1 クラスタ2 クラスタ3 疑似文書1 疑似文書2 疑似文書3 通常のRAG Auto-HyDE 類似度検索を信頼する数xn 20x5 =100 類似度検索で取得する文書
AutoHyDEへの所感 05 レビューは、HyDEの手法の課題で紹介されたスタイルやトーン、 構造が一意でないという最たる例 素のHyDEでは必要な、プロンプト調整の部分が自動化される 多視点を取ってくるということに対してクリティカル(な気がする) 懸念点 提案のみで精度評価がされていない 応答は遅くなる
参考文献 https://note.com/ippei_suzuki_us/n/n94cea16ac02e https://towardsdatascience.com/autohyde-making-hyde- better-for-advanced-llm-rag-619e58cdbd8e