Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Search Engineer diving into Kubernetes
Search
Sashimimochi
October 29, 2024
Technology
1
130
Search Engineer diving into Kubernetes
エンジニア達の「完全に理解した」Talk #58 で登壇したときのスライドです。
https://easy2.connpass.com/event/332077/
Sashimimochi
October 29, 2024
Tweet
Share
More Decks by Sashimimochi
See All by Sashimimochi
GraphRAG: What I Thought I Knew (But Didn’t)
sashimimochi
1
400
Using GPTs from Local by Dify
sashimimochi
1
650
Max out Local LLM in Challenging Environments
sashimimochi
3
490
Search Engine for Frontend Engineer
sashimimochi
0
200
Start Vector Search with Solr
sashimimochi
1
1.1k
Other Decks in Technology
See All in Technology
もう難しくない!誰でもカンタンDocker入門 〜30分であなたのPCにアプリを立ち上げる〜
devops_vtj
0
180
AIにおけるソフトウェアテスト_ver1.00
fumisuke
1
330
OPENLOGI Company Profile for engineer
hr01
1
25k
10分で学ぶ、RAGの仕組みと実践
supermarimobros
0
690
品質文化を支える小さいクロスファンクショナルなチーム / Cross-functional teams fostering quality culture
toma_sm
0
180
GraphQLを活用したリアーキテクチャに対応するSLI/Oの再設計
coconala_engineer
0
190
2025-04-14 Data & Analytics 井戸端会議 Multi tenant log platform with Iceberg
kamijin_fanta
0
170
エンジニアリングで組織のアウトカムを最速で最大化する!
ham0215
1
280
Dataverseの検索列について
miyakemito
1
160
30代からでも遅くない! 内製開発の世界に飛び込み、最前線で戦うLLMアプリ開発エンジニアになろう
minorun365
PRO
16
5k
OpenLane-V2ベンチマークと代表的な手法
kzykmyzw
0
150
今日からはじめるプラットフォームエンジニアリング
jacopen
8
1.9k
Featured
See All Featured
Agile that works and the tools we love
rasmusluckow
329
21k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
26k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
178
53k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
45
7.2k
How STYLIGHT went responsive
nonsquared
100
5.5k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
The Straight Up "How To Draw Better" Workshop
denniskardys
233
140k
Optimising Largest Contentful Paint
csswizardry
37
3.2k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
14
1.4k
GraphQLの誤解/rethinking-graphql
sonatard
71
10k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
30
2.3k
VelocityConf: Rendering Performance Case Studies
addyosmani
329
24k
Transcript
検索エンジニアK8S に入門する さしみもち 2024/10/29【オンライン】エンジニア達の「完全に理解した」 Talk#58
自己紹介 2 さしみもち @Sashimimochi343 普段は年間数十億件のトラフィック がある検索システムの開発・運用や データ分析基盤の運用をしてます。 最近は、大規模システムを楽に運用 する方法に興味があります
全文検索エンジンは便利で強力! 3 沖縄の観光名所を知りたい
でも、検索クラスターの構築/運用ってしんどいよね 4 冗長化のためには複数台必要 オーケストレーションを機能させるに はノードにロールを定義する必要あり +Solrの場合はZookeeperも必要 などなど、初期構築だけでも一苦労😭
Docker/Kubernetesの登場で敷居は下がったけど... 5 ⭕アプリケーションのインストールは コンテナイメージに集約できた ⭕Pod単位でのローリングアップ デートや自動復旧はできる シングルノードの構築はかなり楽になった
Docker/Kubernetesの登場で敷居は下がったけど... 6 ⭕アプリケーションのインストールは コンテナイメージに集約できた ⭕Pod単位でのローリングアップ デートや自動復旧はできる ❌Statefulなアプリケーションは扱いが難しい ❌検索エンジンクラスターとして機能させるにはまだ人手が必要
そこでSolr/Elastic Operatorよ! 7
簡単に構築するレシピが用意されてる! 8 https://solr.apache.org/operator/ https://www.elastic.co/jp/elastic-cloud-kubernetes Solr Operator Elastic Operator それぞれ専用のHelm Chartが公式から出ている!
たった4行で検索クラスターが!? 9 たったこれだけでSolrサーバー3台+Zookeeperサーバー3台のクラスターが組 めちゃう!
たった4行で検索クラスターが!? 10 Elasticsearchもほぼ同様のシンプルさで検索エンジンクラスターが完成!
もちろんKubernetesの恩恵も受けられる 11 • オートスケーリング • Podの自動復旧 • ローリングアップデート • IaC
• etc... 悩ましい運用上の課題が自動化できちゃうかも!?
その他にもメリットがいっぱい! 12 K8S親和性の高い他アプリケーションとの連携も容易に! 保守運用に欠かせないメトリクスやログの収集もK8S上で 動かせる!
今こそ、検索エンジニアも Kubernetesを学ぶべきと きが来た!! 13
でも、Kubernetesはなん となく敷居が高くて... 14
そんなあなたのために、本書きました! 15 https://techbookfest.org/product/1qmwHdDEFeDXzGsNn0TB5h • 第1章:Kubernetesはこわくない • 第2章:環境構築 • 第3章:Kubernetesを触ってみよう •
第4章:k8s上にアプリケーションを作ろう • 第5章:ks8上でSolrを動かそう(ローカル編) • 第6章:k8s上でSolrを動かそう(GCP編) 技術書典17で頒布します!
そんなあなたのために、本書きました! 16 https://techbookfest.org/product/wvVL92XBaqw9v2hBgi4Rh8 技術書典17で頒布します! • 第1章:Kubernetesはこわくない • 第2章:環境構築 • 第3章:Kubernetesを触ってみよう
• 第4章:k8s上にアプリケーションを作ろう • 第5章:ks8上でESを動かそう(ローカル編) • 第6章:k8s上でESを動かそう(Azure編) 鋭意 執筆中
まとめ 17 👍たった4行で、検索クラスターが組める!! 👍Kubernetesの恩恵も受けられる!! 👍他のアプリケーションとの連携も自然に!! Let’s Kubernetes入門! Kubernetes×Solr/Elasticsearchはいいぞー!
参考文献 18 • 検索システムだって高可用性にしたい!SolrCloudを用いた高可用性構成 の紹介 - ZOZO TECH BLOG https://techblog.zozo.com/entry/solr_cloud
• Elasticsearch運用ノウハウ | メルカリエンジニアリング https://engineering.mercari.com/blog/entry/20220311-97aec2a 2f8/