Classmethod AI Talks(CATs) #10 司会進行＆発表スライド(2024.11.28) / classmethod-ai-talks-aka-cats_moderator-slides_vol10_2024-11-28

クラスメソッド発の生成AIコミュニティ、Classmethod AI Talks(CATs)で2024年11月28日(木)に開催した第10回イベントの司会進行スライドです。

- イベントページ(Doorkeeper)：https://cats.doorkeeper.jp/events/179085
- 動画アーカイブ(YouTube)：https://www.youtube.com/watch?v=pggo9Tal7pk

Transcript

2. アジェンダ 2 ・オープニング：
 　・AWS Generative AI Catch Up Talksとは？
 　・タイムテーブル
 ・本編：
 　・本日の発表メンバーと発表内容(トークテーマ)
 ・クロージング：
 　・次回予告

3. オープニング
4. ・Classmethod AI Talks(CATs)内のシリーズ企画です。
 ・AWSにおける直近の生成AIに関するトピック の中から
 　気になるものをメンバーが発表(ピックアップ) し、参加者同士で 
 　その内容について色々聞いてみたりディスカッション します。
 　・トピック：新機能/新サービス/各種ニュースなど
 ・スピード感と手軽さを重視し、資料作成は必須としません。
 　(既存ドキュメントやブログ等を参照する形でもOK)
 ・おおよそ隔週(2週間おき)くらいの開催間隔 を想定しています。
 ・ディスカッション内容は録画します。
 　・画面共有部分を切り出し、参加者の情報に配慮する形で
 　　アーカイブ動画として公開する予定です。
 AWS Generative AI Catch Up Talksとは？ 4
5. タイムテーブル ・17:15 オープニング (約3分)
 　・趣旨説明、各種進行に関する説明と設定
 ・17:18 本編 (約40分)
 　・以下サイクルを当日発表したいメンバー人数分実施
 　　・発表したいメンバーによるトピック紹介(5〜10分)
 　　・発表されたトピックによるディスカッション(5分)
 　※1回あたりのメンバーは2〜4人くらいを想定
 ・17:58 クロージング (2分)
 　・締めコメント、次回日程の紹介
 ・18:00 終了 
 5
6. 本編
7. 本⽇の発表メンバー 7 森田 力
 クラスメソッド株式会社 AWS事業本部 コンサルティング部
 https://dev.classmethod.jp/author/morita-chikara/
 たかくに
 クラスメソッド株式会社 AWS事業本部 コンサルティング部
 https://dev.classmethod.jp/author/takakuni/
 

8. お品書き
 8 • Amazon Bedrock プロンプト最適化がプレビュー利用可 能に
 • Amazon Bedrock Agents 新機能 インラインエージェント について
 • Amazon Bedrock Knowledge bases の Binary Embedding 対応 

9. Amazon Bedrock プロンプト最適化が 
 プレビュー利用可能に 

10. 3行まとめ
 
 • ユーザが LLM へ入力するプロンプトを最適化してくれる機 能
 • Playground, Prompt Management で利用可能
 • プレビューなので1日に10個のプロンプトのみ可能
 10 Amazon Bedrock プロンプト最適化がプレビュー利用可能に 

11. マネジメントコンソールで触ってみる 
 11 https://dev.classmethod.jp/articles/bedrock-prompt-optimization/
12. Amazon Bedrock Agents 新機能 
 インラインエージェントについて 

13. 3行まとめ
 
 • 事前準備なしで Agents 呼び出し
 • コードインタプリタなど様々な機能に対応
 • コンソールからは試せない、コードから呼び出し
 Amazon Bedrock Agents インラインエージェントについて 
 13
14. 14 https://dev.classmethod.jp/articles/agents-bedrock-inlineagents/
15. コードから呼び出す https://www.youtube.com/watch?v=IEJ2Pt57sII
16. Amazon Bedrock Knowledge bases の 
 Binary Embedding 対応 

17. Amazon Bedrock Knowledge bases Binary Embedding 対応 
 17 3行まとめ
 
 • ベクトルデータを2進数に変換する Binary Embedding をサ ポート
 • 2進数に変換することでデータ量の削減、レイテンシーの向 上
 • OpenSearch Serverless のみ対応

18. float, コサイン類似度 
 18 • 今までは float (32 bit) でベクトルデータを表現していた
 • 埋め込んだデータをコサイン類似度を用いて計算

19. binary, ハミング距離 
 19 • 新たに binary (1bit) の埋め込み形式をサポート
 ◦ ストレージコストの減少
 ◦ メモリ負荷の軽減（レイテンシーの向上）
 • 埋め込んだデータはハミング距離を用いて計算

20. https://dev.classmethod.jp/articles/amazon-bedrock-knowledge-bases-support-binary-vector-embeddings/ ブログを見てみる 
 20
21. クロージング
22. 次回 vol.003は現状未定。
 AWS re:Invent 2024の内容展開次第で
 もしかしたら開催するかも...？
 (開催の際には別途お知らせ致します！)
 
 次回予告 22