SIGQ におけるベクトル DB と Reranker の利用

SIGQ におけるベクトル DB と Reranker の利用株式会社 SIGQ 代表取締役 /
エンジニア金築敬晃 1

会社紹介障害対応のハンズオン支援・AI エージェント開発「信頼性を設計する」をミッションに、同じ障害を 2 回繰り返さない仕組み作りや、インシデントレスポンスの対応強化支援インシデントマネジメント用の AI エージェントの開発　
← 今回話すこと AI エージェント SIGQ RelOps の開発デモ動画 2

NLP の専門家不在のチームで行う NLP 私自身のバックグラウンドは SRE / ストリーム処理 / データパイプラインチームも
NLP 専任のエンジニアや、それに特化した研究バックグラウンドのあるメンバーはいませんそれでも自然言語処理は活用できる時代になっています！ 3

インシデント対応って… 難しそうに見えるけど、実は「過去と似たパターン」が非常に多い原因や対応の道筋も、過去と酷似していることが多いだからやっていること過去のインシデントログや会話ログから類似事例を探すことに注力「過去に誰が、どう解決したか？」を即座に提示できれば解決時間が圧倒的に短くなる 4

技術構成はシンプルな二段階 1.Retriever：Vector Search Naive に近いものを拾う（BigQuery の Vector Search をメインで使用） 2.Reranker
Vertex AI Ranking API で精度向上 → 過去の類似ログと照合 5

インフラには BigQuery を活用大量の Slack/Notion ログなどを PII（個人情報）を Filter した上で BQ
に格納 BQ で近傍検索 + Vertex AI で Rerank 全体を組み合わせて Slack 上で返答するエージェントを開発中 6

最後に一昔前は NLP は専門家のハンズオンサポートを受けるのが不可欠で、実装難易度が高かった今はAPI やツールで専門家以外でも使えるため、我々のような非専門チームでもここまでできるあなたの組織でも、明日からできるかもしれません 7

SIGQ におけるベクトル DB と Reranker の利用

SIGQ におけるベクトル DB と Reranker の利用

Brown

More Decks by Brown

Featured

Transcript

SIGQ におけるベクトル DB と Reranker の利用株式会社 SIGQ 代表取締役 /

NLP の専門家不在のチームで行う NLP 私自身のバックグラウンドは SRE / ストリーム処理 / データパイプラインチームも

技術構成はシンプルな二段階 1.Retriever：Vector Search Naive に近いものを拾う（BigQuery の Vector Search をメインで使用） 2.Reranker

インフラには BigQuery を活用大量の Slack/Notion ログなどを PII（個人情報）を Filter した上で BQ