Bedrock Knowledge baseを使って今年の上半期のニュースを聞いてみた

Bedrock Knowledge baseを使って今年の上半期のニュースを聞いてみた KMiura(@k_miura_io)

はじめに一言今回の内容は前日に思いついたので十分に検証しきれてないですいつか完全版をお話するつもりではいます…

自己紹介 • 三浦耕生(こうき) • Acallのバックエンドエンジニア • JAWS UG名古屋＆神戸運営
• 好きなAWSのサービス：AWS IoT, Lambda, ECS @k_miura_io koki.miura05

このLTを覚えてますか？ https://bit.ly/4cWU2Jr

LTについて今北産業 • re:Invent 2023で発表されたAWS Step Functions の新機能「Call third-party API」を触ってみたという話
• デモとしてNews APIを使ってその日のヘッドラインニュースをSlackのAPIで投稿するステートマシンを Lambdaレス作った • 実際に使ってみてのポイントや詰まったところをシェア

今回はこのS3バケットを使う話

データセットとして良さそう • LTで実装してからはEventBridgeを使って毎日8時にステートマシンを実行している • 無課金なのでSlackの投稿は90日後に見れないが、S3に溜めてあとから閲覧できるようにした • 毎日安定稼働しているので、まぁまぁな
データ量になっている

Bedrockでいい感じにできないだろうか？

S3のデータをナレべべにできる仕組みがあるらしい • Amazon BedrockのKnowledgebaseを使うとS3をソースにフルマネージドなRAGを実現できそう • 調べてみると外部のベクトルデータベースを使う方法があるが、わざわざ用意しなくても OpenSearch Serverlessを使うことができる(むしろ今のところそれが推奨っぽい)

実際にデモチャットで確認 • 答えは帰って来るがなんか微妙… • ここで訪ねている今日は7/29に対して回答した内容は 6/27のニュース…

どうすれば精度上がりそう？ • 読み込ませたソースになっているファイルがAPIのレスポンスをそのまま保存しているだけなのでCSVとかで整形したほうがいいかも • Lambdaレスを売りにしてたけどLambdaに頼らざるを得ない • ソースごとにメタデータ情報を記載したjsonファイルをバケットに足すことで応答精度が上がるそう •
他にいい方法知っている人いたら教えてくださいｗ

まとめ • ナレべべを駆使して上半期のニュースを尋ねようとした • 何も考えずに今まで蓄積したデータでもなんとなく動かせはした • RAGがなんとなく分かった気がする

宣伝 https://jawspankration2024.jaws-ug.jp/ja/

宣伝2 https://jawsug-nagoya.connpass.com/event/326683/

Bedrock Knowledge baseを使って今年の上半期のニュースを聞いてみた

Bedrock Knowledge baseを使って今年の上半期のニュースを聞いてみた

KMiura

More Decks by KMiura

Other Decks in Technology

Featured

Transcript