Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
DevOps実装初期フェーズの組織がTerraformとecspressoで求めるAma...
Search
Tocyuki
November 22, 2022
Technology
11
4.3k
DevOps実装初期フェーズの組織がTerraformとecspressoで求めるAmazon ECS CICDの最適解/AWS ECS CICD with Terraform and ecspresso
Cloud Native Days Tokyo 2022
Tocyuki
November 22, 2022
Tweet
Share
More Decks by Tocyuki
See All by Tocyuki
HashiCorp製品導入の背景と今後の展望/Background of HashiCorp product introduction and future prospects
tocyuki
0
41
AEON TECH HUBで目指すもの/What we aim for with AEON TECH HUB
tocyuki
0
26
マイクロサービス導入により生まれた組織課題に対するソリューションとしてのTiDB/Developers Summit 2024 TiDB Sponsor Session
tocyuki
0
23
イオンがKubernetesを採用してどうなった/What happened when AEON adopted Kubernetes
tocyuki
0
27
FutureStack_Tokyo_NRUG_2周年特別版
tocyuki
0
12
ecspresso愛を語る/I Love ecspresso
tocyuki
0
2.8k
さいつよのEC2オートスケーリング環境CICDパイプライン2022オータム/Strongest EC2 Autoscaling Environment CI/CD Pipeline 2022 Autumn
tocyuki
5
3.1k
Terraformで作る分析用Aurora Readerインスタンス/Aurora Reader instance for analysis made with Terraform
tocyuki
0
290
Devに力を授けたいSREのあゆみ / SRE that wants to empower developers
tocyuki
4
1.1k
Other Decks in Technology
See All in Technology
omakaseしないための.rubocop.yml のつくりかた / How to Build Your .rubocop.yml to Avoid Omakase #kaigionrails
linkers_tech
3
680
Product Engineer Night #6プロダクトエンジニアを育む仕組み・施策
hacomono
PRO
1
440
プロダクトチームへのSystem Risk Records導入・運用事例の紹介/Introduction and Case Studies on Implementing and Operating System Risk Records for Product Teams
taddy_919
1
160
APIテスト自動化の勘所
yokawasa
7
4k
[AWS JAPAN 生成AIハッカソン] Dialog の紹介
yoshimi0227
0
140
最速最小からはじめるデータプロダクト / Data Product MVP
amaotone
5
720
大規模データ基盤チームのオンプレTiDB運用への挑戦 / dpu-tidb
cyberagentdevelopers
PRO
1
110
アジャイルと契約 エッセンシャル版 / Agile Contracts Essential Edition
fkino
0
110
【若手エンジニア応援LT会】AWSで繋がり、共に成長! ~コミュニティ活動と新人教育への挑戦~
kazushi_ohata
0
160
pandasはPolarsに性能面で追いつき追い越せるのか
vaaaaanquish
4
3.8k
AWSコンテナ本出版から3年経った今、もし改めて執筆し直すなら / If I revise our container book
iselegant
15
3.9k
小規模に始めるデータメッシュとデータガバナンスの実践
kimujun
3
550
Featured
See All Featured
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
328
21k
What's in a price? How to price your products and services
michaelherold
243
12k
Designing for Performance
lara
604
68k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
167
49k
Scaling GitHub
holman
458
140k
Building Adaptive Systems
keathley
38
2.2k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
27
790
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
A designer walks into a library…
pauljervisheath
202
24k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
48k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.1k
Thoughts on Productivity
jonyablonski
67
4.3k
Transcript
DevOps実装初期フェーズの組織が Terraformとecspressoで求める Amazon ECS CI/CDの最適解
自己紹介 名前:Tocyuki(としゆき) 所属:株式会社トラストバンク CTO室 SRE 経歴:Network→Infra→SRE 趣味:ギター、柔術(紫帯) SNS:@Tocyuki 2
会社紹介
会社概要 4 資本金 122,243,816円 親会社 株式会社チェンジ(東京証券取引所第一部) 100%連結子会社 子会社 株式会社Orb 決算期 3月 主な事業・サービス ふるさと納税ポータルサイト「ふるさとチョイス」 パブリテック事業 「LoGoシリーズ」 エネルギー事業 ふるさとエネルギーチョイス「えねちょ」
地域通貨事業 「chiica(チーカ)」
Vision 5 目指すは「自立した持続可能な地域をつくる」こと。 トラストバンクが目指す地域共創で実現する経済循環図
6 ふるさと納税事業 パブリテック事業 エネルギー事業 地域通貨事業 主な事業・サービス
SECTION 7 00 DevOps実装初期フェーズの組織がTerraform とecspressoで求める Amazon ECS CI/CDの最適解
聴講対象者 • 開発者にもインフラ、IaCに触れてほしい • DevOpsの実装例に興味がある • Amazon ECSでシンプルなCI/CDを実現したい 8
今回お話しすること • DevOps実装設計の肝 • CI/CDで採用したツール、サービス • Amazon ECSのCI/CD 9
10 DevOps実装初期フェーズの組織?
とある開発組織 11 バグで障害起こされたらやだから しっかりテストしてくれや リリースしたい新機能が盛りだくさ んだぜ Operator Developer テスト書けてないけど多分動くと 思うからリリースしようぜ
いや、そんなんリリースすんなし
とある開発組織 12 バグで障害起こされたらやだから しっかりテストしてくれや リリースしたい新機能が盛りだくさ んだぜ Operator Developer テスト書けてないけど多分動くと 思うからリリースしようぜ
いや、そんなんリリースすんなし 協力しようぜ!!
とある開発組織 13 よし、まずは踏み台サーバーに SSHして、アプリサーバーに SSH してgit pullしてと テストしたからリリースしてよ Operator Developer
はやくしてくれ〜 ふー、 あと100台同じことやらなきゃ
とある開発組織 14 よし、まずは踏み台サーバーに SSHして、アプリサーバーに SSH してgit pullしてと テストしたからリリースしてよ Operator Developer
はやくしてくれ〜 ふー、 あと100台同じことやらなきゃ 自動化しようぜ!!
DevOpsとは 15 ざっくり説明すると、開発チームと運用チームのサイロ化や様々 な場面での自動化プロセスの欠如により迅速なソフトウェアデリ バリーが実現できていないような状況を改善するための手法、文 化、思想
DevOpsで目指したいこと 16 OperatorとDeveloperが共にプロダクトに オーナーシップを持ち、開発、リーリース、運 用のサイクルを協力しながら迅速にまわして いく状態を目指したい
弊社のDevOps実装前の状況 17 • 開発者がインフラの構築や変更に関心がない • インフラ構築、変更は外部のMSPへ委託していた • 開発者が運用監視について関心がない • インフラ運用監視は外部のMSPへ委託していた
• 開発者が運用を考慮した設計、実装に関心がない • 開発者が運用に参加していないため、運用を考慮した発想が出ない • 各種運用が自動化されておらず作業工数負荷が高い • 運用改善や自動化の文化もリソースもなく惰性で対応
18 class SRE implements DevOps SREはDevOpsというinterfaceの実装である
DevOps実装を始めて弊社に起こった変化 19 • 開発者がIaCへコントリビュートを始める • AWSへの移行に伴いInfrastructure as Codeを実践 • 開発者が監視アラートやダッシュボードを仕込み始める
• New Relicをオブザーバビリティ基盤として導入 • 開発者が運用を考慮した設計、実装をし始める • 運用に参加する開発者が増え、運用を考慮し始める • 様々な運用が自動化され開発に割ける工数が増えた • デプロイ、ビルド、テスト等様々な部分を自動化
20 どのようにDevOpsを実装するか?
21 Amazon ECSのCI/CDの事例を元に DevOps実装の一例をご紹介します
SECTION 22 01 DevOps実装設計の肝
DevOpsが扱う5つの領域 23 Reduce organizational silos 組織のサイロを削減する Accept failure as normal
エラーが発生するのを許容する Implement gradual change 段階的に変更する Leverage tooling and automation ツールと自動化を活用する Measure everything すべてを計測する
24 Operator Developer なぜサイロ化が起こるのか インフラ 運用 監 視 障害対応 テスト
開発 機能追加 リリー ス 関心のスコープは関 与できる領域にしか 広がりにくい 関心のスコープ 関心のスコープ
25 Operator Developer なぜサイロ化が起こるのか インフラ 運用 監 視 障害対応 テスト
開発 機能追加 リリー ス 関心のスコープが異 なる組織は目的も異 なりやすい 関心のスコープ 関心のスコープ 多少のリスクは負っても新機能、 価値をユーザーへ届けたい ユーザーへ届けるべき一番の価 値は安定稼働
26 Operator Developer インフラ 運用 監 視 障害対応 テスト 開発
機能追加 リリー ス 関心のスコープ 関心のスコープ 関心のスコープの 共通化が有効 サイロ化を起こさせないために
27 インフラ 運用 監 視 障害対応 テスト 開発 機能追加 リリー
ス 関心のスコープ 理想の姿 Operator & Developer
28 千里の道も一歩から
段階的に共通化を広げていくことが大事 • お互いの関心のスコープに関与できるような仕組み作り • プログラムを共通言語とするInfrastructure as Codeの実践 • Infrastructure as
Codeを実践しやすいパブリッククラウドの採用 • いきなりすべてに関与することは難しいので切り出す • アプリケーションリポジトリにインフラの定義を一部持たせる • 利用しやすい仕組みとしてCI等で自動化する 29 とは言うものの、どう やって実現しよう?
DevOpsが扱う5つの領域 30 Reduce organizational silos 組織のサイロを削減する Accept failure as normal
エラーが発生するのを許容する Implement gradual change 段階的に変更する Leverage tooling and automation ツールと自動化を活用する Measure everything すべてを計測する
DevOps実装設計の肝まとめ 31 • 関心のスコープの共通化が有効 • 共通化の範囲は一気に広げず、段階的に適用していく
SECTION 32 02 CI/CDで採用したツール、サービス
採用したツール、サービス 33 名称 役割 Terraform HashiCorp社謹製のパブリッククラウドやオンプレミスのリソースを安全かつ 効率的に構築、変更バージョン管理するためのInfrastructure as Codeツー ル
ecspresso カヤック藤原さん謹製のAmazon ECS用のとても薄いレイヤーで作られた AWS APIラッパーなデプロイツールで「エスプレッソ」と読みます GitHub Actions GitHub謹製のCIツール
• ECSのサービス、タスク定義の管理に特化している • アプリケーションのライフサイクルに近い部分のみを切り出せる • アプリケーションリポジトリに定義を配置することで開発者が変更できる • tfstateファイル内の値を参照できる • tfstateのバックエンドにS3を利用している場合、Terraformで構築したAWSのリ
ソースを呼び出せるため、サービスやタスクを環境毎に分ける必要がなくDRYに 書ける • 開発者がTerraformのどこで定義されているか読み取ることができる ecspresso採用理由 34
• ECSのサービス、タスク定義の管理に特化している • アプリケーションのライフサイクルに近い部分のみを切り出せる • アプリケーションリポジトリに定義を配置することで開発者が変更できる • tfstateファイル内の値を参照できる • tfstateのバックエンドにS3を利用している場合、Terraformで構築したAWSのリ
ソースを呼び出せるため、サービスやタスクを環境毎に分ける必要がなくDRYに 書ける • 開発者がTerraformのどこで定義されているか読み取ることができる ecspresso採用理由 35 段階的且つ効果的にインフラの一部を開発者の 関心のスコープへ入れることができる
アプリケーションのリポジトリ構成 36
• ECSのサービス、タスク定義の管理に特化している • アプリケーションのライフサイクルに近い部分のみを切り出せる • アプリケーションリポジトリに定義を配置することで開発者が変更できる • tfstateファイル内の値を参照できる • tfstateのバックエンドにS3を利用している場合、Terraformで構築したAWSのリ
ソースを呼び出せるため、サービスやタスクを環境毎に分ける必要がなくDRYに 書ける • 開発者がTerraformのどこで定義されているか読み取ることができる ecspresso採用理由 37 ecspressoをハブにしたTerraformへの導線確保 を行うことで、今後さらに開発者の関心のスコープを 広げるための下地作りができる
こんな感じで参照できる 38
すると・・・? 39 開発者 DBの設定確認したいなぁ。 お、Terraformのこの定義を見に 行けばええんやな。 じぃ〜〜〜〜〜 なるほど、Terraformはこう書けば ええんやな。いっちょ PR出してみ
よか。
• ECS execもラップしてくれている • やっぱりコンテナ入りたいをecspressoで叶えてくれる • ECSタスクのイベントログを一括表示する機能がある • デバッグで超絶便利 ecspresso採用理由
40
たとえばこんな時 41 ecspresso 開発者 ローカルでは動くのに ECSだとうまく動かない のよなぁ。あー、こんなときに ECSのコンテナ 入ってデバッグできればなぁ。 ecspresso
execコマンドを使うのです … なんだ!??ecspresso exec??お、コンテナ 入れた!!!これで!!!かてる!!!
• ECS execもラップしてくれている • やっぱりコンテナ入りたいをecspressoで叶えてくれる • ECSタスクのイベントログを一括表示する機能がある • デバッグで超絶便利 ecspresso採用理由
42
たとえばこんな時 43 ecspresso 開発者 あー、ECSのデプロイがうまくいかないー。原因 もよくわからんし、そもそもどうやってデバッグす ればええんやー。つらー。 --traceでイベントログを出力させるのです … なんだ!??--traceオプション??お、イベント
ログが表示された!?また IAM権限不足!! 貴様か!!これで!!!かてる!!!
AWS Resources ECSオブジェクトとツールの関連図 44 ECS Cluster ECS Service ECS Task
definition Container definition Dockerfile ecspresso ecspresso Terraform Terraform
AWS Resources ECSオブジェクトとツールの関連図 45 ECS Cluster ECS Service ECS Task
definition Container definition Dockerfile ecspresso ecspresso Terraform Terraform アプリケーションリ ポジトリに配置 Terraform リポジトリに配置
CI/CDで採用したツール、サービスまとめ 46 • ecspressoはECSのサービス、タスク定義などのアプリケー ションのライフサイクルに近い部分を切り離して管理できる神 ツール • ecspressoをハブにTerraformへ誘導し、IaCへのコントリ ビュートにも参加してもらおう
SECTION 47 03 Amazon ECSのCI/CD
• Dockerコンテナのビルド • コンテナレジストリへのプッシュ • タスク定義のデプロイ Amazon ECSのデプロイで必要なこと 48
• Dockerコンテナのビルド • コンテナレジストリへのプッシュ • タスク定義のデプロイ Amazon ECSのデプロイで必要なこと 49
コンテナのビルドとECRへのプッシュ 50 開発者 GitHub GitHub Actions ECR push build push
• Dockerコンテナのビルド • コンテナレジストリへのプッシュ • タスク定義のデプロイ Amazon ECSのデプロイで必要なこと 51
ECS Cluster タスク定義のデプロイ 52 Service Task definition 開発者 GitHub
GitHub Actions ecspresso push deploy jobs: deploy: runs-on: ubuntu-latest steps: - uses: actions/checkout@v2 - uses: kayac/ecspresso@v1 with: version: v1.7.14 - run: | ecspresso deploy --config ecspresso.yml
ECS Cluster CI/CD全体の流れ 53 Service Task definition 開発者 GitHub
GitHub Actions ECR ecspresso push build push deploy
• Blue/Greenデプロイが必要な要件がとくにない • ロールバックなどECSに任せることができる • なるべくシンプルなデプロイにしたい デプロイ方式はローリングアップデート 54
デプロイイメージ 55 ECS Cluster Service Task definition revision 1
ALB ユーザー
デプロイイメージ 56 ECS Cluster Service Task definition revision 1
Task definition revision 2 開発者 GitHub GitHub Actions ecspresso ALB ユーザー
デプロイイメージ 57 ECS Cluster Service Task definition revision 1
Task definition revision 2 ALB ユーザー
デプロイイメージ 58 ECS Cluster Service Task definition revision 1
Task definition revision 2 ALB ユーザー
デプロイイメージ 59 ECS Cluster Service Task definition revision 2
ALB ユーザー
ロールバックイメージ 60 ECS Cluster Service Task definition revision 1
Task definition revision 2 開発者 GitHub GitHub Actions ecspresso ALB ユーザー
ロールバックイメージ 61 ECS Cluster Service Task definition revision 1
Task definition revision 2 ALB ユーザー healthcheck failed
ロールバックイメージ 62 ECS Cluster Service Task definition revision 1
ALB ユーザー
Amazon ECSのCI/CDまとめ 63 • GitHub Actionsのシンプルで簡素な記述でDockerのビル ド、ECRへのプッシュ、ecspressoによるデプロイをシンプル に実装することができた • デプロイ方式もローリングアップデートにすることでロールバッ
クもECSのマネージドに任せることができシンプルでわかりや すいデプロイにすることができた
SECTION 64 04 まとめ
• DevOpsの意図をアーキテクチャに組み込むことで仕組みレ ベルでのDevOps推進を進めることができた • ecspressoとTerraformを使ったECS環境、CI/CDは DevOps実装の一歩目としてとても有効だと感じた • 組織のレベル、状況によって最適解は異なるので色々試して 自組織の最適解を模索してみてください まとめ
65
66 絶賛SRE募集中です!
None