Upgrade to Pro — share decks privately, control downloads, hide ads and more …

【2024年度 サイバーエージェント 新卒研修】システム運用の基本と戦略

【2024年度 サイバーエージェント 新卒研修】システム運用の基本と戦略

株式会社サイバーエージェントAI事業本部の2024年度 エンジニア新卒研修でシステム運用の基本と戦略に関する講義を行いました。

More Decks by たかしゅん/moko-poi

Other Decks in Programming

Transcript

  1. 23卒 バックエンドエンジニア 所属:AIオペレーション室 業務:AWS, DevOps 趣味:ディズニー, 邦ロック ・CA BASE CAMP

    2023 登壇 ・SRE Kaigi 2025 コアスタッフ 高橋 駿(たかはし しゅん) @1341Shun PipeCDにおけるECSのCanary Releaseに対して、 ListenerRule対応のコントリビュートした話 ブラウザからDBに行き着くまでただまとめる 新卒1年目がECSにCanary Releaseを導入し 信頼性を高めた話〜PipeCD〜
  2. 補足:認証/認可基盤PERMAN 簡単にいうと認証/認可基盤 難しい言葉でいうと、Identity Governance & Administration(IGA)に分類されるシステム さまざまな機能を提供している ・SAML2(AWS, Google, Azure,

    Slack, GitHub, その他色々)連携 ・OpenID Connect ・WebAuthnによるパスワードレス認証 ・Google Authenticatorなどの認証アプリやSMSなどによるMFA … 内製化の理由 ・社員数に対してのIDaaSを使用するコストが高い ・独自の要求に対応できる柔軟性が高い https://developers.cyberagent.co.jp/blog/archives/33264/
  3. ログ運用 種類:操作ログ、認証ログ、アクセスログ、イベントログ、通信ログ、設定変更ログ、エラーログ ログ運用で検討すべきこと 1. ログ設定:取得/管理するログのリストアップ、ログ出力設定、ログローテーション 例:DEBUG, INFO, WARNING, ERROR, CRITICAL

    2. ログ転送:ログ転送先の検討、ログ転送設定 例:CloudWatch Logs, FireLens(Fluentd, fluentbit), 3. ログ保管:ログ保管先の検討、ログ保管期間の検討 例:CloudWatch Logs, S3 4. ログ利用:ログの閲覧、ログ分析、目的に沿った形でログを利用 例:Kibana, Grafana, Snowflake → 効果的なログ管理により、異常な行動やシステムエラーの早期発見が可能になる システムとユーザー活動の監視が主な目的
  4. バックアップとリストア バックアップ ・データの消失、破損に備えてあらかじめデータを別の保管場所に保存しておくこと リストア ・バックアップから復元すること →データを復旧してシステムを継続的に稼働し続けるために必要 【取得方法】 1. オフラインバックアップ ・システムを停止した状態でバックアップを行う方法

    ・システム停止が可能な時間帯(バックアップウィンドウ)とバックアップ取得に必要な時間を把握す ることが必要 2. オンラインバックアップ ・システムを稼働させている状態でバックアップを行う方法 ・業務時間外のデータ更新・利用者が少ない時間帯に取得するなど
  5. コスト最適化 クラウドにおけるコスト管理の観点 1. 料金体系の理解 2. AWS利用料の把握と不要リソースの削除 3. 適切なAWSサービスおよびスペックの選択 4. 負荷状況に応じたリソースのスケーリング

    5. 継続的コスト最適化の実行 →クラウドの利用料金は従量課金制が採用されている そのため不要なリソースの把握と削減が重要 運用コストを効率的に管理し、不必要な支出を削減すること コスト要因:ハードウェア、ソフトウェア、人件費、保守費用... 削減手法:パフォーマンスチューニング、自動化、サーバレス....
  6. 監視のデザインパターン • 組み合わせ可能な監視を使う → 監視システム全体のカスタマイズ性と拡張性を向上させ、 特定のニーズに応じた専門的な対応が可能になる 各コンポーネントを個別に扱う:データ収集、データストレージ、可視化、分析とレポート、アラート • ユーザ視点での監視から手掛ける →

    監視の目的は、ユーザーの体験を直接的に改善すること 例:HTTPのレスポンスコード、リクエスト時間、ユーザーに直接影響を与えるメトリクスを最優先にする • 作るのではなく買う → 高機能な監視ツールを使用することで、コストと時間を節約し、製品や機能の改善に集中できる
  7. • ブランチ戦略 • フィーチャーフラグ • CI (Continuous Integration) • CD(Continuous

    Delivery) • IaC • GitOps DevOpsではない例 DevOpsの例 • 手作業での一貫性のないソフトウェアのデプロイ • 不十分な手作業での品質保証 • 障害時のロールバック計画がない • リリースを行うのに管理者の手動での承認必須 https://note.com/cyberz_cto/n/n6ddc1d143c88
  8. Git Flow ブランチベース開発のアプローチで、developブランチとmasterブランチが中心 機能開発はfeatureブランチで行い、完成後developにマージ、安定後masterにリリース 例:feature → develop → master →

    リリースサイクルがゆっくりで問題ない場合、調整したい場合 保守運用フェーズの場合に利用されることが多い 課題点 - developとmasterの間に大きな差が出ることがあり、統合が複雑化する - masterへのマージ時には、再度の全体テストが必要になる - 大規模な変更が一度にリリースされることが多く、リスクが増大(ビックバンリリース)
  9. CI/CD CI(Continuous Integration: 継続的インテグレーション) ・開発者が自分のコード変更をした際に自動化されたビルドとテストを実行するソフトウェア開発の手法 ・主な目的は、バグを早期に発見して対処すること、ソフトウェアの品質を高めること、そしてソフトウェ アの更新を検証してリリースするためにかかる時間を短縮すること CD(Continuous Delivery: 継続的デリバリー)

    ・コード変更が発生すると、自動的に構築、テスト、および実稼働環境へのリリース準備が実行されるとい うもの ・すべてのコード変更が、ビルド段階の後にテスト環境または本番環境、あるいはその両方にデプロイされ ます https://aws.amazon.com/jp/devops/what-is-devops/
  10. IaC, GitOps IaC (Infrastructure as Code): ・インフラストラクチャーをコードとして管理する手法 ・環境の構築がコードによって定義されているため、一貫性があり、エラーが少なくなる ・またコードがそのまま文書として機能し、状態の追跡と管理が容易になる ツール:

    Terraform, AWS CloudFormation, Ansible GitOps ・Gitリポジトリを使用してインフラストラクチャーとアプリケーションの構成管理を行う手法 ・Gitが単一の信頼できる情報源となり、デプロイメントやインフラの変更もGitを通じて行われる ツール: Argo CD, Flux, PipeCD ※CA発のOSS「PipeCD」がある https://pipecd.dev/docs-v0.45.x/overview/
  11. SRE

  12. SRE(Site Reliability Engineering) オペレーションをソフトウェアの問題として扱う手法 →要するに運用の問題をソフトウェアで解決するということ 引用:https://sre.google/in-conversation/ So SRE is fundamentally

    doing work that has historically been done by an operations team, but using engineers with software expertise, and banking on the fact that these engineers are inherently both predisposed to, and have the ability to, substitute automation for human labor.
  13. SLI/SLO/SLA SLI (Service Level Indicator):サービスレベル指標 予め決めたユーザーの利用するサービスが、ユーザーが許容できる範囲で完了するまでの指標 例:DSPがSSPから入札要請を受けてから、広告の入札単価を提示するまでの時間 (SSPでは0.1秒以内でレスポンスが帰ってこないDSPをそのリクエストでは除外する仕様) SLO(Service Level

    Objectives):サービスレベル目標 SLIで設定した値以内で完了したサービス提供回数が全てのサービス提供回数のうち、どのぐらいの 割合で提供できればいいかという目標値 例:目標: DSPが受けた入札要請の少なくとも99%に対して、0.1秒以内に応答する SLO(レスポンス時間)= 99% SLA (Service Level Agreement): サービスレベル契約 SLOが達成できなかった場合に、ユーザーに対して何らかの補償などを約束する取り決め
  14. エラーバジェット(エラー予算) 許容できるサービスのダウンタイムやエラーの量を定量的に表したもの サービスのSLO(Service Level Objectives、サービスレベル目標)を基にして定義され、 SLOを超えるサービスの不具合が「許容範囲」内であるかどうかを測定します → SLO - SLI

    = エラーバジェット エラーバジェットが「余っている」場合 ・新機能のリリースや実験、課題解決を行う エラーバジェットが「なくなった」場合 ・新機能のリリースを控え、システムの安定性や信頼性、可用性を改善する必要がある
  15. ポストモーテム システム障害やインシデント発生後に行われる分析のプロセス 何が起こったのか、なぜ起こったのかを理解し、将来同様の問題を防ぐための改善策を特定する → ポストモーテムは、問題を解決しようとするのではなく、 問題から学び、組織のプロセスやシステムを改善する機会である ※ インシデントが完全に解決した後に取り組む課題 ステップ 1.

    インシデントの記録 → 2. 影響の評価 → 3. 根本原因の分析 → 4. 解決策と改善策の議論 → 5. 報告書の作成 → 6. フォローアップ 注意点 ・定期的なレビューを行うこと ・ミスをした人の追求をしない(原因を追求すること) https://speakerdeck.com/kazumax55/bei-earehahuan-inasi-xiao-lu-de-nainsitentodui-ying-womu-zhi-susrenoqu-rizu-mi
  16. トイル 手動で反復的かつ自動化可能な、価値を生み出さない作業のこと →トイルは、チームの効率性を低下させ、 技術的な成長や新しいプロジェクトへの障害になるため、できるだけ減らすべきもの 〜特徴〜 • 反復的: 同じ作業を何度も繰り返す必要がある • 手動:

    自動化されていないため、人の手による介入が必要 • スケーラブルでない: システムが成長するにつれて、トイルの量は比例して増加する • 戦術的: 短期的な問題解決にはなるが、長期的な価値はほとんどまたは全くない • 自動化可能: 作業の性質上、プロセスを自動化することでトイルを減らすことが可能
  17. Amazon: "You Build It, You Run It" ・自分たちで開発したマイクロサービスへのオーナーシップを強く持つ ・オーナーシップを持つことで、サービス品質がユーザー目線でもテクノロジー目線でも高くなる "Two

    pizza rule" - 1つのチームは二つのピザで満足できる人数 具体的には6から10人程度 Netflix: Full Cycle Developers ・ソフトウェアのライフサイクルの全ての面に関わる ・具体的なライフサイクルには、設計、開発、デプロイ、運用、サポートまで含れます →従来は、それぞれのサイクルを専門とするエンジニアがいたが、個々の効率は高かったものの、 それぞれでサイロを生み出し、各エンジニアのコミュニケーションコストが増大、ライフサイクル全 体としてはスピード低下を招いていた "Operate what you build" -機能を開発したチームが運用とサポートの責任も持つという原則 運用上の負荷も軽減することができるようになり、開発上の問題、キャパシティプランニング、 アラートの問題、サポートといったことにもオーナーシップを持てるようになる 最適なチーム構成 https://engineering.mercari.com/blog/entry/2018-12-01-200159/
  18. 認知負荷(Cognitive Load) https://theelearningcoach.com/learning/what-is-cognitive-load/ ユーザーが情報を処理したり理解する際にかかる負荷 人間の脳にワーキングメモリがあり、 その容量は限られていることから発生して作られた言葉 [負荷の種類] 学習対象そのものの複雑さによる負荷 → 仕組みで解決するべき

    例:マイクロサービスアーキテクチャで複雑な分散合意の実装 業務や学習に無関係な余分な負荷 → 仕組みで解決するべき 例:ドキュメント不足による情報収集、手動による作業など 理解や学習が進行する際に発生する適切な負荷 → 少数チームではここに集中する 例:サービスの正確な理解、ドメイン理解
  19. ウェブポータル ・プラットフォーム機能を提供するポータル ゴールデンパス ・迅速なプロジェクト開発に役立つ巧みに統合されたコードと機能のテンプレート構成 例:CI/CDパイプラインのテンプレート、Terraform(IaC)のテンプレート、Kubernetes YAMLファイル… →開発チームにオーナーシップを委ねるのが目的https://cloud.google.com/blog/ja/products/application-development/golden- paths-for-engineering-execution-consistency アーティファクト ・開発プロセスで生成される成果物やそれらを管理する

    例:コンテナイメージ、ライブラリ、ソースコード.. →効率的に生成、管理、配布することが目的 インフラストラクチャ ・開発チームがアプリケーションを効率的に開発、デプロイ、運用するための基盤技術の提供 例:コンピューティングリソース、ストレージ、モニタリング Platform Engineeringが提供するもの
  20. ・AWS運用入門 押さえておきたいAWSの基本と運用ノウハウ ・障害対応入門記事まとめ〜システム運用担当者になったらまず読むべき記事を厳選!〜 ・入門 監視 ・チームとプラットフォームをクラウドネイティブな開発に最適化する ・ちがいからみる Platform Engineering –

    クラウドネイティブ化に伴って生じた新たなチームトポロジー ・DevOps教科書 ・DevOps実践ガイド ・AWSで実現するモダンアプリケーション入門 〜サーバーレス、コンテナ、マイクロサービスで何ができるのか ・SREエンタープライズロードマップ ・SRE サイトリライアビリティエンジニアリング ・サイトリライアビリティワークブック References 92