Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AWSからGCP/GKEに移行してみた / From AWS to GKE on GCP
Search
yukinagae
September 09, 2019
Technology
6
8.7k
AWSからGCP/GKEに移行してみた / From AWS to GKE on GCP
Slides for Webエンジニアが使う身近な Kubernetes 2019/09
https://m3-engineer.connpass.com/event/143295/
yukinagae
September 09, 2019
Tweet
Share
More Decks by yukinagae
See All by yukinagae
BerglasとCloud Buildを使って秘密情報をセキュアに(できるかも) / Berglas with Cloud Build
yukinagae
1
1.1k
ある機械学習システムをAWSからGCP/GKEに移行した話 / Machine Learning System Migration from AWS to GKE
yukinagae
8
3.8k
Python用のマイクロサービスフレームワークを探す旅 / A journey to find a microservices framework for Python
yukinagae
0
1.1k
Spotifyのレコメンドを理解する / Recommender Systems using Collaborative Filtering - Spotify
yukinagae
1
560
kintone事例紹介 JAMS.TV ケーススタディ / kintone-casestudy-jamstv
yukinagae
0
200
BigQuery MLの新機能紹介 Cloud Next '19 / BigQuery ML New Features Announced at Google Cloud Next 2019
yukinagae
2
16k
学習行動データ分析基盤 Learning Record Store(LRS)開発事例 / LRS case study
yukinagae
5
1.8k
本当に簡単なkaggleの始め方 / Easy Way to Start Kaggle - short ver.
yukinagae
2
480
本当に簡単なkaggleの始め方 / Easy Way to Start Kaggle
yukinagae
2
2.9k
Other Decks in Technology
See All in Technology
適材適所の技術選定 〜GraphQL・REST API・tRPC〜 / Optimal Technology Selection
kakehashi
1
680
SRE×AIOpsを始めよう!GuardDutyによるお手軽脅威検出
amixedcolor
0
150
OTelCol_TailSampling_and_SpanMetrics
gumamon
1
190
【Pycon mini 東海 2024】Google Colaboratoryで試すVLM
kazuhitotakahashi
2
530
TypeScriptの次なる大進化なるか!? 条件型を返り値とする関数の型推論
uhyo
2
1.7k
オープンソースAIとは何か? --「オープンソースAIの定義 v1.0」詳細解説
shujisado
9
1.1k
OCI Vault 概要
oracle4engineer
PRO
0
9.7k
ノーコードデータ分析ツールで体験する時系列データ分析超入門
negi111111
0
420
プロダクト活用度で見えた真実 ホリゾンタルSaaSでの顧客解像度の高め方
tadaken3
0
150
Amplify Gen2 Deep Dive / バックエンドの型をいかにしてフロントエンドへ伝えるか #TSKaigi #TSKaigiKansai #AWSAmplifyJP
tacck
PRO
0
390
AWS Lambdaと歩んだ“サーバーレス”と今後 #lambda_10years
yoshidashingo
1
180
これまでの計測・開発・デプロイ方法全部見せます! / Findy ISUCON 2024-11-14
tohutohu
3
370
Featured
See All Featured
YesSQL, Process and Tooling at Scale
rocio
169
14k
Testing 201, or: Great Expectations
jmmastey
38
7.1k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
26
2.1k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
16
2.1k
What's new in Ruby 2.0
geeforr
343
31k
Measuring & Analyzing Core Web Vitals
bluesmoon
4
130
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
38
1.8k
Build your cross-platform service in a week with App Engine
jlugia
229
18k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
10
720
Bootstrapping a Software Product
garrettdimon
PRO
305
110k
Fontdeck: Realign not Redesign
paulrobertlloyd
82
5.2k
Become a Pro
speakerdeck
PRO
25
5k
Transcript
AWS からGCP/GKE に移行してみた Web エンジニアが使う身近な Kubernetes - 2019/09 @yukinagae
早速ですが
今日の勉強会のテーマ覚えてますか?
Web エンジニアが使う 身近なKubernetes
ふむ ( `・ω ・´)
と言いつつ難しいんでしょう? (/ ・ω ・)/ 汗
ご安心ください 今からゆるふわな話だけします
というか 先々月からk8s 触り始めたので ゆるふわな話しかできません ( ˘ω˘) スヤァ
_人人人人人人人人人人_ > 圧倒的な経験不足 <  ̄Y^Y^Y^Y^Y^Y^Y^Y^Y  ̄
優しい世界でお願いします
ここから本題
本番環境でGKE を使い始めました! (今日)
登壇に間に合ってよかった 登壇駆動開発(TDD )(/ ・ω ・)/
TL;DR 既存AWS システムをGCP/GKE 化した(まず一部) AI チームではGCP/GKE 化を進めてる GCP/GKE 化の理由 可用性の向上
リリースサイクルの高速化 インフラコストの削減 ( リソースの共有) 「GKE 使うぞ!」という熱い気持ち ← New! 14
自己紹介 永江悠紀 @yukinagae エムスリー株式会社 ソフトウェアエンジニア データエンジニア寄り 元々Java/Scala でサーバサイドの開発をやっていた 最近はGo +
Python を触ることが多い クラウド周りはGCP のみを担当 (※AWS はよくわ かっていない) terraform + yaml を触る日々 15
システム移行の背景 M3 では多くのシステムをオンプレ or AWS で構築 AI チームではすでに複数の機械学習のサービスを 開発・リリース(※基本的にAWS )
※詳しくはこれを見てね: エムスリーにおける 機械学 習活用事例と開発の効率化 - Speaker Deck 16
多数のマイクロサービス 短い1 年半という間に7 つのサービスがリリース 現在も増加中 すごいね!(´∀`) 17
ポイント 1. サービス数(API )が多い 18
今回の移行対象のシステム Cantor 記事などのコンテンツの関連度(類似度)を計 算するシステム(API ) ※おまけ: AI チームではシステムに数学者の名前をつ ける文化があり(中二病!)、実際に Georg
Cantor というドイツの数学者がいます( `・ω ・´) 19
既存システム構成 GCP BigQuery AWS ECS S3 DynamoDB Lambda API Gateway
20
既存システム構成(図) 21
ん? ( `・ω ・´) 22
既存システムの課題① 現状のシステム構成だと、GCP/BigQuery -> AWS と いうクラウドをまたいだ構成になってしまっている 23
ポイント 2. BigQuery とAWS の混在 24
既存システムの課題② Cantor というシステム構成特有の課題: Lambda でもろもろ問題があった 15 分に一度バックエンドのECS が停止されてし まう(確率的にタイムアウトが発生) 25
既存システムの課題③(※改善点) 簡単・頻繁にリリースしたい すぐリリースしたい(※カナリアリリース etc ) バグなどの際すぐ以前のバージョンに戻したい マイクロサービスが増えているので各環境を用意 するのは大変 運用や管理が面倒 インフラコストがかかる
26
ポイント 3. どんどんリリースしたい 27
いろいろ選択肢あるよね AWS なら EC2 ECS EKS GCP なら Cloud Run
GAE ( ex ) GCE GKE 28
技術選定のポイントいろいろ インフラコスト 運用の手間 クラウドベンダーのサービスの成熟度やマイルス トーン ワークロードの特性 必要なリソース要件 チーム体制(ex. 人数 /
スキル / 学習コスト) 29
ポイントを振り返る 1. サービス数(API )が多い 2. BigQuery とAWS の混在 3. どんどんリリースしたい
30
もろもろありましたが 結局、、、 31
解決案: AWS/ECS → GCP/GKE 32
GKE でいい感じに作れるのでは? ( `・ω ・´) 33
想定するメリット コスト削減 複数サービスをGKE で構築しリソース最適化 メンテナンスコストも削減(されるはず) リリースの高速化 オーダーメイドから量産体制へ terraform k8s 可用性も向上
全部GCP にできてBigQuery もにっこり(´∀`) 34
それでは早速やっていきましょう 35
移行方針: どうやって移行する? 1. まずはAPI 部分(システムの一部)からの移行 2. 段階的にすべてを移行していく まずはAPI 部分からの移行を実施 影響範囲を小さくしたい
API だけなら最悪どうにでもなる もともとのAWS ヘの切り戻しも容易 機械学習部分をいきなり移行してデグレったら 嫌だよね(/ ・ω ・)/ 汗 36
移行後の構成(API 部分のみ) ここまでリリースできた 37
移行後の理想(全部GCP/GKE 化) 38
今後の移行方針 既存サービスのGCP/GKE 化 まずは今回のプロジェクトで導入実績を作り、 運用経験を積む 他サービスも徐々に移行していく(※移行すれ ばするほど、インフラ・運用コストを削減でき る) 新規サービスは最初からGCP/GKE で構築
現在 @katio2 が開発中、年内にリリース予定 39
移行してみての感想 40
k8s 難しいよ k8s/GKE のノウハウが少ない(※特に運用面) そもそもk8s 自体の学習コストが高い ある日のtwitter のつぶやき 41
つまり
Web engineer should be k8s itself!
まとめ 良かったこと terraform + yaml でk8s 環境構築・リリースは楽 とりあえず本番リリースはできた 悪かったこと ノウハウや経験がないので手探り
k8s の公式ドキュメントそのままだと動かない GKE はだいたいβ 版 本番運用でいろいろ問題起きると思うので怖い (ガクブル) 44
ありがとうございました! (´∀`) 45
F.Y.I. おまけ 既存のAWS システムではdatadog をdashboard で使 ってたが、GCP で使うのは辛い PubSub 経由でdatadog
にpush する仕組みを毎回 作らないといけない GCP プロジェクト毎に認証をしないといけない の大変 datadog APM の導入はめちゃくちゃ楽 しかし、もちろんcontainer 周りの指標しか取得 できない 46
stackdriver monitoring 使う理由 datadog 用に追加のintegration 作業が不要 複数プロジェクトを一つのworkspace にまとめれ ば、GKE やCloud
SQL のプロジェクトが別でも1 つ のdashboard で監視できる alert policy やuptime check もそのまま作れる 47
現状の運用・監視方法 GCP の場合にはStackdriver 使うことにした Stackdriver monitoring での監視 alert policy の作成
+ slack 通知 dashboard の作成 Stackdriver trace でのパフォーマンスチェック opencensus 入れた Stackdriver for python はα 版。。。( `・ω ・´) 汗 48
参考資料 GCP Google Kubernetes Engine Stackdriver Monitoring OpenCensus OpenCensus GitHub
- census-instrumentation/opencensus- python 49
Special Thanks! ( ˘ω˘) スヤァ @kaito2 @saiya_moebius @SassaHero @yokomotod @chidakiyo
50