Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Amazon Data Firehoseの入門から実戦まで
Search
ONOYAMA Shodai
November 20, 2024
Technology
0
360
Amazon Data Firehoseの入門から実戦まで
2024/11/21(木) 九州AWS若手の会#2 登壇資料
ONOYAMA Shodai
November 20, 2024
Tweet
Share
More Decks by ONOYAMA Shodai
See All by ONOYAMA Shodai
DevOps視点でAWS re:invent2024の新サービス・アプデを振り返ってみた
oshanqq
0
390
AWSを始めた頃に陥りがちなポイントをまとめてみた
oshanqq
1
3.9k
AWS版GitHub?Amazon CodeCatalystの全体像をまとめてみた
oshanqq
2
5.3k
Amazon CloudFront の機能、カテゴリ分けすると理解しやすい説
oshanqq
0
710
ジュニアレベルのAWS学習戦略
oshanqq
1
1.3k
出張! #DevelopersIO IT技術ブログの中の人が語る勉強会 「【速報】AWSの生成AIサービスであるAmazon Bedrock がリリースされたので朝イチで触ってみた」について語る
oshanqq
0
720
EC2 Instance Connectを図解してみた
oshanqq
1
1.6k
初海外・初ベガス・初re:Inventで新卒が感じたこと
oshanqq
1
770
エンジニア志望学生が"ブログの会社"に入社してみて思ったこと〜新卒目線のブログ戦略〜
oshanqq
1
1k
Other Decks in Technology
See All in Technology
「全員プロダクトマネージャー」を実現する、Cursorによる仕様検討の自動運転
applism118
21
10k
AWSを利用する上で知っておきたい名前解決のはなし(10分版)
nagisa53
10
3.1k
S3アクセス制御の設計ポイント
tommy0124
3
200
バイブスに「型」を!Kent Beckに学ぶ、AI時代のテスト駆動開発
amixedcolor
2
540
Webアプリケーションにオブザーバビリティを実装するRust入門ガイド
nwiizo
7
800
今!ソフトウェアエンジニアがハードウェアに手を出すには
mackee
12
4.7k
フルカイテン株式会社 エンジニア向け採用資料
fullkaiten
0
8.7k
サンドボックス技術でAI利活用を促進する
koh_naga
0
200
これでもう迷わない!Jetpack Composeの書き方実践ガイド
zozotech
PRO
0
400
職種の壁を溶かして開発サイクルを高速に回す~情報透明性と職種越境から考えるAIフレンドリーな職種間連携~
daitasu
0
160
なぜSaaSがMCPサーバーをサービス提供するのか?
sansantech
PRO
8
2.8k
CDK CLIで使ってたあの機能、CDK Toolkit Libraryではどうやるの?
smt7174
4
160
Featured
See All Featured
Documentation Writing (for coders)
carmenintech
74
5k
Building Better People: How to give real-time feedback that sticks.
wjessup
368
19k
We Have a Design System, Now What?
morganepeng
53
7.8k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
31
2.5k
Producing Creativity
orderedlist
PRO
347
40k
Rails Girls Zürich Keynote
gr2m
95
14k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
358
30k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
8
520
Statistics for Hackers
jakevdp
799
220k
How STYLIGHT went responsive
nonsquared
100
5.8k
Java REST API Framework Comparison - PWX 2021
mraible
33
8.8k
Transcript
2024/11/20 九州AWS若⼿の会#2 おのやん Amazon Data Firehoseの ⼊⾨から実戦まで
⽬次 2 1.⾃⼰紹介 2.Amazon Data Firehoseとは? 3.実際のユースケース 4.IaCテンプレート例 5.注意点いろいろ 6.まとめ
⾃⼰紹介 3 • 2023年4⽉ クラスメソッド 新卒⼊社 • 2024年7⽉ 2024 AWS
Jr.Champion ◦ お客様のAWS環境構築を技術的に⽀援 • 部署 ◦ AWS事業本部 コンサルティング部 • 名前(ニックネーム) ◦ ⼩野⼭ 翔⼤ (おのやん) • 出⾝‧住まい ◦ 福岡 • 趣味 ◦ ランニング‧バドミントン ◦ 特撮
Amazon Data Firehoseとは 4 l AWS フルマネージドサービス l ストリーミングデータを収集‧変換 l
他のAWS サービスなど、 分析⽤データストアに配信可能 l 旧 Amazon Kinesis Data Firehose l ストリーミングデータを S3バケット(バケツ)に流す 消⽕ホース(Firehose)のイメージ
コンソールで新アイコンが適⽤されている 数少ないサービス(当⽅観測範囲内) Amazon Data Firehoseとは 5
Amazon Data Firehoseとは 6 https://dev.classmethod.jp/articles/introduction-2024-amazon-data-firehose/
Amazon Data Firehoseとは 7 l 1つのストリームを構成単位とする l 「Data Firehose ストリームを作成」
l バッファサイズとバッファ間隔を ストリームごとに設定 l バッファサイズ:特定のサイズに達したら データストアに保存 l バッファ間隔:特定の期間が経過したら データストアに保存
実際のユースケース 8 l ストリームデータをデータストアに 保存する際のつなぎ l CloudWatchログをS3に保存したい! l 外部SaaSのログをS3に保存したい! l
バッファリングのサイズや時間について 実装が不必要に l シンプルな分、保存ファイル名の変更が 効かないなどの制約はある https://dev.classmethod.jp/articles/introduction-2024- amazon-data-firehose/
IaC テンプレート例 9
注意点いろいろ 10 IaC経由で構築時:Data Firehose ログストリームの作成が必要 l CloudWatch ロググループだけだと構築に失敗する l CloudWatch
ログストリームも明⽰的に作成が必要
注意点いろいろ 11 Data Firehose => S3で保存したGZIP圧縮ファイル: ブラウザ経由でDLすると勝⼿に解凍されるが、ファイルの拡張⼦は変わらない l PCでファイルの内容を確認するときに引っかかりがち
Amazon Data Firehoseとは:おかわり 12 https://dev.classmethod.jp/articles/introduction-2024-amazon-data-firehose/
ファイル名や圧縮形式にそこまで制約がなく ストリーミングデータをデータストアへシンプルに配信したいなら Data Firehoseは⼤いに採⽤の価値あり!! まとめ 13
None