Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
スケーラビリティの課題解決に向けたココナラのデータベース移行戦略
Search
coconala_engineer
June 13, 2024
Technology
1
780
スケーラビリティの課題解決に向けたココナラのデータベース移行戦略
大規模データベース移行の技術的チャレンジと実践例の登壇資料。
https://findy.connpass.com/event/320871/
coconala_engineer
June 13, 2024
Tweet
Share
More Decks by coconala_engineer
See All by coconala_engineer
ココナラのセキュリティ組織の体制・役割・今後目指す世界
coconala_engineer
0
240
SIEMによるセキュリティログの可視化と分析を通じた信頼性向上プロセスと実践
coconala_engineer
1
3.5k
WafCharm導入で激変!プロダクトの未来を守るためのTips
coconala_engineer
0
28
多様なロール経験が導いたエンジニアキャリアのナビゲーション
coconala_engineer
1
270
未来を創るエンジニアを採用・育成するための制度とマインドセット
coconala_engineer
0
50
VPoE Meetup Vol.1 VPoEとして実践してきたことと反省点
coconala_engineer
4
350
エンジニアマネージャーになった理由を振り返ってみた
coconala_engineer
0
640
Developer Experienceを向上させる基盤づくりの取り組み事例集
coconala_engineer
0
230
Vue.jsで入力フォームにリアルタイムハイライト機能を自前実装した話
coconala_engineer
0
150
Other Decks in Technology
See All in Technology
スクラムのイテレーションを導入してチームの雰囲気がより良くなった話
eccyun
0
110
依存関係があるコンポーネントは Barrel ファイルでまとめよう
azukiazusa1
3
530
Larkご案内資料
customercloud
PRO
0
650
WAF に頼りすぎない AWS WAF 運用術 meguro sec #1
izzii
0
470
30分でわかる『アジャイルデータモデリング』
hanon52_
9
2.3k
Data-centric AI入門第6章:Data-centric AIの実践例
x_ttyszk
1
380
バックエンドエンジニアのためのフロントエンド入門 #devsumiC
panda_program
16
6.7k
リアルタイム分析データベースで実現する SQLベースのオブザーバビリティ
mikimatsumoto
0
1.1k
アジャイル開発とスクラム
araihara
0
160
第13回 Data-Centric AI勉強会, 画像認識におけるData-centric AI
ksaito_osx
0
360
サーバーレスアーキテクチャと生成AIの融合 / Serverless Meets Generative AI
_kensh
12
3k
現場で役立つAPIデザイン
nagix
30
11k
Featured
See All Featured
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Building a Modern Day E-commerce SEO Strategy
aleyda
38
7.1k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
How to Think Like a Performance Engineer
csswizardry
22
1.3k
Testing 201, or: Great Expectations
jmmastey
41
7.2k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
27
1.5k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
193
16k
Code Reviewing Like a Champion
maltzj
521
39k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
33
2.1k
Building Your Own Lightsaber
phodgson
104
6.2k
Unsuck your backbone
ammeep
669
57k
Building an army of robots
kneath
302
45k
Transcript
Copyright coconala Inc. All Rights Reserved. スケーラビリティの課題解決に向けた ココナラのデータベース移行戦略 株式会社ココナラ 川崎
雄太 2024/06/13 大規模データベース移行の 技術的チャレンジと実践例
Copyright coconala Inc. All Rights Reserved. 自己紹介(川崎 雄太) 2 川崎
雄太 Yuta Kawasaki @yuta_k0911 株式会社ココナラ システムプラットフォーム部 部長 / Head of Information SRE / 情シス / セキュリティ領域のEM SRE NEXT 2024のコアメンバー 最近の推し:K-POP、麺屋武蔵
Copyright coconala Inc. All Rights Reserved. 3 ココナラの事業内容
Copyright coconala Inc. All Rights Reserved. ココナラのエンジニア数の変遷 4 事業拡大に合わせて3年で約3倍の組織規模に成長 2020年
2023年 フェーズ 上場前 上場後 エンジニア数 20人強 70人強 リポジトリ数 45 170以上
Copyright coconala Inc. All Rights Reserved. 5 Agenda ココナラで抱えていたデータベースの課題 課題にどう向き合ったか?
今後の取り組み 2 1 3
Copyright coconala Inc. All Rights Reserved. ココナラで抱えていたデータベースの課題 Chapter 01 6
Copyright coconala Inc. All Rights Reserved. 「データベースの課題」といっても、 さまざまな切り口がありますよね🤔 ココナラでもたとえば、QCDの バランス確保やライフサイクルへの
追随で悩んできました😓 7
Copyright coconala Inc. All Rights Reserved. ひとことで言うと、スケーラビリティが確保できていなかった 8 設定したKPIより、AWS RDSのSLAの方が低い
KPIとして設定している目標はリクエ スト成功率が99.96%以上。 一方で、Amazon RDS(マルチAZ クラスタ)のSLAは99.95%となって おり、そもそも自社でコントロールでき ないところで、KPI達成が難しい状況 … イコール、意図せずKPIとして無理が ある設定になっていた。
Copyright coconala Inc. All Rights Reserved. IOPS(1秒あたりのI/Oアクセスの数)も限界が迫っていた 9 このままだと、近い未来にIOPSの上限に抵触する Amazon
RDSのインスタンスサイズは 適切なものを利用していたので、CPU やメモリなどは問題なかったが、 IOPSの上限に抵触しそうになっ た。 暫定的にデータベースのデータ量と無 関係にストレージを拡張すること で、IOPSの上限を上げていった が、一時しのぎであった。
Copyright coconala Inc. All Rights Reserved. 前述の課題に加えて、MySQL 5.7 EOL 対応も迫ってきた…😓
放っておいても数年後には限界を 迎えることも自明😭 本腰を上げたのが、2022年の春頃! 10
Copyright coconala Inc. All Rights Reserved. 課題にどう向き合ったか? Chapter 02 11
Copyright coconala Inc. All Rights Reserved. Amazon Auroraへの移行 12 定めたKPIの達成に向けてAmazon
Auroraを採用 Amazon Aurora(マルチAZクラ スタ)のSLAは99.99%なので、定 めているリクエスト成功率(99.96%) よりも高い。 また、IOPSの上限も撤廃されるた め、2つの課題を一気にクリアできる ことを期待して、Amazon Auroraへ 移行することを意思決定した。 Amazon Aurora Amazon RDS
Copyright coconala Inc. All Rights Reserved. DB移行は一大プロジェクトなので、マイルストーンを設定し、経営層と合意形成 13 MySQL5.7 EOL期限をデッドラインとして、計画を策定
経営層に「技術課題として、一番リスクと 難易度が大きいもの」とインプットするため に対応するタスクの整理と、マイルストーン 設定から着手。 MySQL5.7 EOL期限から逆算して、1年半が かりのプロジェクトを立ち上げ、ナレッジを 徐々に蓄積できるように5つのデータ ベースを影響が少ないところから順に対 応していく計画とした。
Copyright coconala Inc. All Rights Reserved. メンテナンス時間削減を目的としたブルーグリーンデプロイの採用 14
Copyright coconala Inc. All Rights Reserved. Insight Database Testingを活用したSQLのテスト自動化 15
8億本ものSQLに対するテストを自動化するツールを利用
Copyright coconala Inc. All Rights Reserved. IOPS上限問題 抱えていた課題はどうなった? 16 SLO未達問題
EOL期限問題
Copyright coconala Inc. All Rights Reserved. 今後の取り組み Chapter 03 17
Copyright coconala Inc. All Rights Reserved. データベース移行はやっぱり事前の準備が大事 18 集められる情報は集めて、自社としての最適解を見つける 「データベース移行」といっても、システム構
成やシステム特性によって、考慮するポイ ントはさまざま。 類似したアーキテクチャーを採用しているシ ステムの情報を参考に「自社のベストプラク ティス」を探すことが重要。 なんといっても、数年に一度は必ず訪れる イベント・・・
Copyright coconala Inc. All Rights Reserved. システムメンテナンスの無い世界を目指していきたい 19 無停止でメンテナンスイベントをこなす最適解を見つける クラウドサービスを使っている限り、「基盤の
メンテナンス」は切っても切れないイベント になる。(全てがライブマイグレーションにな れば、みんなHappyだけど…) ココナラは「全てがそろうスキルマーケット」を 目指しているので、極力システムメンテナ ンスがない世界を実現するための机上 / 実機検証を続ける。
Copyright coconala Inc. All Rights Reserved. データベースはどの企業でも利用してい るので、ナレッジを公開している企業は たくさんあります。 過去の知見や、AWS等のベンダーを
使い倒して、長きに渡るデータベース 移行を安全に乗り切りましょう!!😁 20
Fin