Pulumi に入門してみた

おもにクラウドの話してます - 広島 #3 の発表資料です。
https://omoni-cloud.connpass.com/event/324822/

1. Pulumi に⼊⾨してみた chanyou
2. Yu Nakamura - chanyou ‧ DRE ← Data Engineer ← SWE ‧ X: @chanyou0311 ‧ Google Cloud BigQuery ‧ Azure Databricks ‧ おうち Kubernetes クラスタ
3. IaC やってる⽅ 🙋
4. Pulumi に⼊⾨してみたので 体験談を話します
5. 今回の内容 ‧話すこと ‧Pulumi の取っ掛かり ‧話さない / 話せない こと ‧IaC とは？ ‧Pulumi のベストプラクティス
6. モチベーション
7. Pulumi の良さがよくわかっていなかった ‧書き慣れた⾔語で IaC できる旨味がよくわからん ‧HCL じゃだめ？
8. インフラの⺠主化に関⼼が移る ‧データ基盤において、データの⺠主化からデータインフラの⺠ 主化が求められていく ‧データを⺠主化するための活動が中央チームに寄るとボトル ネックになりがち
9. Driving Data Quality with Data Contracts https://github.com/PacktPublishing/Driving-Data-Quality-with-Data-Contracts/tree/main
10. Driving Data Quality with Data Contracts ‧データコントラクトという抽象的な仕様を YAML で宣⾔するこ とで、それを満たすリソースを動的に⽣成するアプローチ ‧YAML から動的にリソース⽣成するのに Pulumi が良さそう
11. Pulumi とは
12. Pulumi とは オープンソースの IaC ツール Node.js, Python, Go, C#, Java, YAML がサポートされている インフラのステートを保持して、 コードとの差分を埋める操作を ⾏ってくれる https://www.pulumi.com/docs/concepts/how-pulumi-works/
13. 対応パッケージ ‧三⼤パブリッククラウドに対応 ‧Kubernetes, Auth0, GitHub, Cloudflare, Heroku, … ‧Pulumi Terraform Bridge ‧Dynamic resource provider
14. Pulumi Cloud ‧ステート管理は Pulumi Cloud に任せられる ‧CI/CD の実装も⼿軽になる ‧Pulumi Copilot などの開発⽀援機能もある
15. Pulumi AI ‧⾃然⾔語で構成や実現したいことを伝えると、それに沿った Pulumi リソースを⽣成してくれる ‧初期プロジェクト⽴ち上げ時にも Pulumi AI にテンプレートを⽣ 成してもらえる https://www.pulumi.com/docs/concepts/how-pulumi-works/
16. 基本コマンド ‧pulumi new ‧pulumi up
17. チュートリアルをやってみる
18. チュートリアルをやってみる https://www.pulumi.com/docs/clouds/gcp/get-started/create-project/ ‧事前に Google Cloud の Project を作っておく
19. データコントラクトの事例
20. データ仕様をデータコントラクトとして表現 https://datacontract.com/
21. スキーマはもちろん PII に該当するかも定義 https://datacontract.com/
22. 利⽤規約やデータの配置場所も表現 https://datacontract.com/
23. サービスレベルも表現する https://datacontract.com/
24. データコントラクト駆動な世界 データコントラクトから、様々な成果物を⾃動的に⽣成できる ‧ドキュメント ‧宛先のデータセット ‧データ転送処理 ‧データ品質の監視 ‧…
25. データコントラクト駆動な世界を体験する ‧https://github.com/chanyou0311/datacontract-demo ‧データコントラクトを YAML で定義して、宛先のデータセットを ⽣成する
26. デモ
27. 所感とまとめ
28. Good: 抽象表現からインフラに落とし込める ‧データコントラクトの例のように YAML から任意のロジックでイン フラ構築できる ‧ガードレールとして機能して、プラットフォーム化が加速しそう ‧知⾒のないユーザーでも、仕様さえ決められれば⾃律的にインフラ 構築できそう
29. Good: セルフサービス化が容易 ‧モジュール化する際に IaC ツールのベストプラクティスを 探らなくても、書き慣れた⾔語のプラクティスを踏襲できる ‧Pulumi プロジェクト内外のソースを読み取って任意のイ ンフラを構築できる ‧⾃前の REST API や Jupyter Notebook を経由してリソー ス管理もできる
30. Good: ⼿軽にプロバイダーを⾃作できる ‧Dynamic resource provider で⼿軽にプロバイダーが⾃作 できる ‧Pulumi で社内 Wiki に静的サイトの要領でページを書き出 すとかできそう
31. More: 対応プロバイダーの少なさを感じた ‧Terraform に⽐べると少ない印象 ‧Pulumi Terraform Bridge にハードルの⾼さを感じた
32. まとめ ‧仕事でも趣味でも使えそうなので、引き続き試していきた いと思います