Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/6週~
Search
Sunny Cloud
May 17, 2024
Business
0
140
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/6週~
#jawsug #週刊awsキャッチアップ
Sunny Cloud
May 17, 2024
Tweet
Share
More Decks by Sunny Cloud
See All by Sunny Cloud
ここまでできるAWSコスト削減
kanakokodera
1
52
#41 JAWS-UG主催 週刊AWSキャッチアップ (2024/7/15週)
kanakokodera
0
62
#41 JAWS-UG主催 週刊AWSキャッチアップ (2024/7/15週):[週刊生成AI with AWS – 2024/7/15週
kanakokodera
0
65
2024年7月16日開催【オンラインイベント】セキュリティリスクの把握・評価・軽減からみるAWSセキュリティの具体策
kanakokodera
0
110
JAWS-UG福岡 #18: JAWS-UGクラウド女子会共催スペシャル【ハイブリッド開催】
kanakokodera
0
46
週刊AWSキャッチアップ(2024年6月24日週)
kanakokodera
0
83
女性でエンジニア以外も楽しめる支部活動を
kanakokodera
2
260
webinar20240529.pdf
kanakokodera
0
35
週刊AWSキャッチアップ~週刊生成AI with AWS – 2024/5/13週~
kanakokodera
0
150
Other Decks in Business
See All in Business
AnyMind Group Company Deck (JP)
anymind
3
110k
新しいAI体験を生み出すための v0プロトタイプ駆動型開発
inagakikay
0
1k
ソニックガーデン会社説明資料(2025年1月)
kuranuki
0
130
VISASQ: ABOUT US
eikohashiba
15
490k
『プロダクト戦略』を紐解く — 言語化・組織実装・実行までのリアル —
shunikeda
0
330
NotebookLM + Agentspace を使った(開発)体験
satohjohn
0
360
SOELU_CompanyDeck.pdf
soelu_inc
0
930
ITエンジニアのためのコーポレートファイナンス入門シリーズ! #3 財務分析の基本
tkhresk
2
260
250410_生成AI導入の選択肢:モデル開発と既存LLM活用の比較と選択基準
suzakiyoshito
0
250
<初めての方向け>オルタナではじめる安定資産投資とは?(20250314)
c0rp_mdm
0
270
テクノロジーとヒトのあいだに
yuiseki
0
110
データサイエンティスト紹介資料‗エムスリー株式会社
m3
0
310
Featured
See All Featured
Documentation Writing (for coders)
carmenintech
69
4.7k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.6k
YesSQL, Process and Tooling at Scale
rocio
172
14k
Why Our Code Smells
bkeepers
PRO
336
57k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.5k
How GitHub (no longer) Works
holman
314
140k
GraphQLとの向き合い方2022年版
quramy
46
14k
GitHub's CSS Performance
jonrohan
1030
460k
Rails Girls Zürich Keynote
gr2m
94
13k
The World Runs on Bad Software
bkeepers
PRO
67
11k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Transcript
2024年5月17日 JAWS-UG事務局 週刊生成AI with AWS キャッチアップ (2024/5/6週)
1/8 Amazon Qの一般利用開始に際して、Andy JassyがXにコメントをポスト
AWSが設立された当初の目的は、開発者がインフラストラクチャを 管理する時間と顧客体験に取り組む時間のバランスを改善 Amazon Qのローンチにより、開発者が70%の時間を 繰り返しのタスクに費やす時間を同様に改善することを目指す
GenAIによって支えられたQが以下のタスクを実行 コードの生成 テスト デバッグ 内部データリポジトリへのアクセス ソフトウェア開発と内部データタスクの支援を行います
2/8 Adam SelipskyもAmazon Qの一般利用開始についてXにポスト
【導入効果】 開発者と従業員の退屈な作業が大幅に軽減されます。 【実現できること】 コードのテスト、デバッグ、作成を支援 機能の実装からソフトウェア アップグレードの実行まで、 さまざまなタスクを自律的に実行 Q を使用すると、コーディングだけでなく、 点在する内部データ
ソースから洞察に簡単にアクセスでき、 質問に答え、傾向を分析 Amazon Q アプリの導入により、ユーザーはコーディングの経験が なくても、組織データに基づいて AI アプリを作成できるようになり ます。
Werner VogelsがブログでAIによる 会議の議事録取得アーキテクチャを紹介 3/8
オープンソースDistillでできること 会議の音声録音 (MP3、FLAC、WAV などの形式) を取得して分析し、 ToDo 項目のリストとともにサマリーが作成される オプションとして作られたTo DoやサマリーをSlackへ
アーキテクチャ図 https://github.com/aws-samples/amazon-bedrock-audio-summarizer
Distillの特徴 会議の要約を実行する AI モデルを選択可能! デフォルトでは、Anthropic の Claude 3 Sonnet #
bedrock-inference/lambda_function.py ... body = json.dumps( { "anthropic_version": "bedrock-2023-05-31", ... } ... response = bedrock_client.invoke_model( modelId="anthropic.claude-3-sonnet-20240229-v1:0", body=body ) ...
新モデルAmazon Titan Text Premierが Amazon Bedrockから利用可能に 4/8
https://aws.amazon.com/jp/blogs/aws/build-rag-and-agent-based-generative-ai-applications-with-new-amazon-titan-text- premier-model-available-in-amazon-bedrock/ Amazon Titan Text Premierの他モデル比較
Amazon Titan Text Premierを有効化
・RAG、エージェント、チャット、オープンエンドテキスト生成 ブレーンストーミング、要 約、コード生成、テーブル作成、 データの書式設定など ユースケース 32K トークン数 英語のみ 言語
Amazon Titan Text Premierの特徴
生成AIアプリケーション開発のためのWebインタフェース、 Amazon Bedrock Studioをプレビュー提供開始 5/8
Amazon Bedrock Studioとは 組織ユーザーに Bedrock のプレイグラウンドや、ナレッジベ ースやエージェントなどのコンポーネントを使って Bedrock アプリケーションのプロトタイプを作成、評価したり組織内の ユーザーへ共有することができる
Amazon Bedrock Studioの使いどころ 簡単にエージェント、ナレッジベース、ガードレールなど一部 の機能の自動デプロイにより簡単に試すことができる点
ワークスペース作成を始めるには IAM Identity Centerを利用して元々の組織のSSOが利用可能
ワークスペースが作成できた後 ログインして各種機能を利用できる
Agents for Amazon Bedrockが プロビジョンドスループット料金モデルに対応 6/8
Amazon Bedrock で、モデルをデプロイするため 「専用キャパシティを確保するために」 トークンベースではない時間ベースの「プロビジョンドスループット」あり 「プロビジョンドスループット」について Amazon Bedrock for エージェントでも同様に「特定の
基本モデルのモデル ユニット」が購入可能に 1 分あたりに処理される入力または出力トークンの最大数によって 測定される、一定の保証されたスループットが保証
アップデート前にエイリアスを作成 エージェントのエイリアスを作成したら、そのエイリアスに関する情報を 表示したり、編集したり、削除したりできます。
スループットの料金について 1 分あたりに処理される入力トークンまたは出力トークンの 最大数によって測定される特定のスループットが提供。 料金はモデル単位ごとに時間単位で請求 オンデマンド 【スループット契約期間】 1ヶ月利用 6ヵ月利用
Amazon SageMaker NotebooksがG6インスタンスをサポート 7/8
Amazon EC2 G6 インスタンスの特徴 24 GB のメモリ(GPUあたり) 最大 8 つの
NVIDIA L4 Tensor コア GPU 第 3 世代 AMD EPYC プロセッサを搭載 G4dnインスタンスと比較してディープラーニング用途で最大2倍の パフォーマンス ユースケース: G6 インスタンスを使用して、モデルのデプロイのテスト 生成 AI の微調整と推論ワークロード、自然言語処理、 言語翻訳、コンピューター ビジョン、 レコメンダー エンジンなどのユースケースの対話型モデル トレーニング
Amazon SageMakerとAmzon DataZoneが統合され、 データとML資産の統合管理が容易に 8/8
Amazon DataZone でのデータ統合 プロデューサーデータソース AWS Glue データカタログと Amazon Redshift の組み込みデ
ータソースからデータを公開 分析ツール Amazon Athena や Amazon Redshift クエリエディタなどのサ ービスと連携して、クエリエディタ からのデータを直接操作できる アクセスフルフィルメント AWS Glue データカタログと Amazon Redshift の組み込みデ ータソースからデータを公開 機械学習 (ML) ツール Amazon SageMaker を使用するこ とで、データアセットや ML アセッ トに簡単にアクセスします。
SageMakerがDataZoneと統合され、MLインフラストラクチャ、データ、アセッ トのアクセス制御 【アップデートのメリット】 データやアセットをSageMaker StudioやCanvasで利用および共有でき、チーム やパートナーとの共同作業が促進されます。
ご清聴ありがとうございます。