Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/6週~
Search
Sunny Cloud
May 17, 2024
Business
0
130
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/6週~
#jawsug #週刊awsキャッチアップ
Sunny Cloud
May 17, 2024
Tweet
Share
More Decks by Sunny Cloud
See All by Sunny Cloud
ここまでできるAWSコスト削減
kanakokodera
1
51
#41 JAWS-UG主催 週刊AWSキャッチアップ (2024/7/15週)
kanakokodera
0
58
#41 JAWS-UG主催 週刊AWSキャッチアップ (2024/7/15週):[週刊生成AI with AWS – 2024/7/15週
kanakokodera
0
64
2024年7月16日開催【オンラインイベント】セキュリティリスクの把握・評価・軽減からみるAWSセキュリティの具体策
kanakokodera
0
100
JAWS-UG福岡 #18: JAWS-UGクラウド女子会共催スペシャル【ハイブリッド開催】
kanakokodera
0
44
週刊AWSキャッチアップ(2024年6月24日週)
kanakokodera
0
80
女性でエンジニア以外も楽しめる支部活動を
kanakokodera
2
250
webinar20240529.pdf
kanakokodera
0
34
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/13週~
kanakokodera
0
140
Other Decks in Business
See All in Business
株式会社Cake.jp Company Deck
cakejpcorp
0
410
アジアクエスト会社紹介資料 / We invite you!
asiaquest
7
93k
味噌汁作り あるいは仕事の学び
usuyuki
0
950
CSオンボーディング改善におけるCRE的アプローチ / CRE approach to improving CS onboarding
woody_kawagoe
0
340
なんで私がAgile CoEに!?_スクラムフェス神奈川2025
katsuakihoribe8
0
320
Spice Factory Co., Ltd. Culture Deck
spicefactory
0
2.5k
[採用資料] Quollio Technologies
rytmq
PRO
2
7.8k
ご参考資料
ryoheig0405
1
200
ドコドア_採用ピッチ資料_20250318
docodoor_hr
3
10k
プロダクトは「好き」や「熱狂」にどう寄り添うか
tochiba
0
460
yamory事業紹介資料
assuredjp
0
160
株式会社リスマ_採用向け会社紹介
resma2021
0
130
Featured
See All Featured
Facilitating Awesome Meetings
lara
53
6.3k
How to Ace a Technical Interview
jacobian
276
23k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
32
2.2k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
45
9.5k
A designer walks into a library…
pauljervisheath
205
24k
Building a Modern Day E-commerce SEO Strategy
aleyda
39
7.2k
Building Applications with DynamoDB
mza
94
6.3k
Large-scale JavaScript Application Architecture
addyosmani
511
110k
Rebuilding a faster, lazier Slack
samanthasiow
80
8.9k
Adopting Sorbet at Scale
ufuk
75
9.3k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
177
52k
Transcript
2024年5月17日 JAWS-UG事務局 週刊生成AI with AWS キャッチアップ (2024/5/6週)
1/8 Amazon Qの一般利用開始に際して、Andy JassyがXにコメントをポスト
AWSが設立された当初の目的は、開発者がインフラストラクチャを 管理する時間と顧客体験に取り組む時間のバランスを改善 Amazon Qのローンチにより、開発者が70%の時間を 繰り返しのタスクに費やす時間を同様に改善することを目指す
GenAIによって支えられたQが以下のタスクを実行 コードの生成 テスト デバッグ 内部データリポジトリへのアクセス ソフトウェア開発と内部データタスクの支援を行います
2/8 Adam SelipskyもAmazon Qの一般利用開始についてXにポスト
【導入効果】 開発者と従業員の退屈な作業が大幅に軽減されます。 【実現できること】 コードのテスト、デバッグ、作成を支援 機能の実装からソフトウェア アップグレードの実行まで、 さまざまなタスクを自律的に実行 Q を使用すると、コーディングだけでなく、 点在する内部データ
ソースから洞察に簡単にアクセスでき、 質問に答え、傾向を分析 Amazon Q アプリの導入により、ユーザーはコーディングの経験が なくても、組織データに基づいて AI アプリを作成できるようになり ます。
Werner VogelsがブログでAIによる 会議の議事録取得アーキテクチャを紹介 3/8
オープンソースDistillでできること 会議の音声録音 (MP3、FLAC、WAV などの形式) を取得して分析し、 ToDo 項目のリストとともにサマリーが作成される オプションとして作られたTo DoやサマリーをSlackへ
アーキテクチャ図 https://github.com/aws-samples/amazon-bedrock-audio-summarizer
Distillの特徴 会議の要約を実行する AI モデルを選択可能! デフォルトでは、Anthropic の Claude 3 Sonnet #
bedrock-inference/lambda_function.py ... body = json.dumps( { "anthropic_version": "bedrock-2023-05-31", ... } ... response = bedrock_client.invoke_model( modelId="anthropic.claude-3-sonnet-20240229-v1:0", body=body ) ...
新モデルAmazon Titan Text Premierが Amazon Bedrockから利用可能に 4/8
https://aws.amazon.com/jp/blogs/aws/build-rag-and-agent-based-generative-ai-applications-with-new-amazon-titan-text- premier-model-available-in-amazon-bedrock/ Amazon Titan Text Premierの他モデル比較
Amazon Titan Text Premierを有効化
・RAG、エージェント、チャット、オープンエンドテキスト生成 ブレーンストーミング、要 約、コード生成、テーブル作成、 データの書式設定など ユースケース 32K トークン数 英語のみ 言語
Amazon Titan Text Premierの特徴
生成AIアプリケーション開発のためのWebインタフェース、 Amazon Bedrock Studioをプレビュー提供開始 5/8
Amazon Bedrock Studioとは 組織ユーザーに Bedrock のプレイグラウンドや、ナレッジベ ースやエージェントなどのコンポーネントを使って Bedrock アプリケーションのプロトタイプを作成、評価したり組織内の ユーザーへ共有することができる
Amazon Bedrock Studioの使いどころ 簡単にエージェント、ナレッジベース、ガードレールなど一部 の機能の自動デプロイにより簡単に試すことができる点
ワークスペース作成を始めるには IAM Identity Centerを利用して元々の組織のSSOが利用可能
ワークスペースが作成できた後 ログインして各種機能を利用できる
Agents for Amazon Bedrockが プロビジョンドスループット料金モデルに対応 6/8
Amazon Bedrock で、モデルをデプロイするため 「専用キャパシティを確保するために」 トークンベースではない時間ベースの「プロビジョンドスループット」あり 「プロビジョンドスループット」について Amazon Bedrock for エージェントでも同様に「特定の
基本モデルのモデル ユニット」が購入可能に 1 分あたりに処理される入力または出力トークンの最大数によって 測定される、一定の保証されたスループットが保証
アップデート前にエイリアスを作成 エージェントのエイリアスを作成したら、そのエイリアスに関する情報を 表示したり、編集したり、削除したりできます。
スループットの料金について 1 分あたりに処理される入力トークンまたは出力トークンの 最大数によって測定される特定のスループットが提供。 料金はモデル単位ごとに時間単位で請求 オンデマンド 【スループット契約期間】 1ヶ月利用 6ヵ月利用
Amazon SageMaker NotebooksがG6インスタンスをサポート 7/8
Amazon EC2 G6 インスタンスの特徴 24 GB のメモリ(GPUあたり) 最大 8 つの
NVIDIA L4 Tensor コア GPU 第 3 世代 AMD EPYC プロセッサを搭載 G4dnインスタンスと比較してディープラーニング用途で最大2倍の パフォーマンス ユースケース: G6 インスタンスを使用して、モデルのデプロイのテスト 生成 AI の微調整と推論ワークロード、自然言語処理、 言語翻訳、コンピューター ビジョン、 レコメンダー エンジンなどのユースケースの対話型モデル トレーニング
Amazon SageMakerとAmzon DataZoneが統合され、 データとML資産の統合管理が容易に 8/8
Amazon DataZone でのデータ統合 プロデューサーデータソース AWS Glue データカタログと Amazon Redshift の組み込みデ
ータソースからデータを公開 分析ツール Amazon Athena や Amazon Redshift クエリエディタなどのサ ービスと連携して、クエリエディタ からのデータを直接操作できる アクセスフルフィルメント AWS Glue データカタログと Amazon Redshift の組み込みデ ータソースからデータを公開 機械学習 (ML) ツール Amazon SageMaker を使用するこ とで、データアセットや ML アセッ トに簡単にアクセスします。
SageMakerがDataZoneと統合され、MLインフラストラクチャ、データ、アセッ トのアクセス制御 【アップデートのメリット】 データやアセットをSageMaker StudioやCanvasで利用および共有でき、チーム やパートナーとの共同作業が促進されます。
ご清聴ありがとうございます。