Amazon ES に移行をしたら幸せになれるのか？ / Moved to Amazon ES

Amazon ES に移行をしたら幸せになれるのか？ 2017.09.11 CA.io @kakakakakku

吉田慶章 @kakakakakku - プレゼン芸人 - 7/05 : AWS Solution
Days 2017 登壇 - 7/21 : JAWS-UG コンテナ支部登壇 - 8/27 : July Tech Festa 2017 登壇 - 9/08 : CROSS 2017 登壇 - 9/11 : CA.io 登壇 - 9/16 : XP 祭り 2017 登壇＼喋りすぎ／今日ココ →

僕はマッチングサービスに関係ないです → プレゼン芸人枠

さて

EC2 で運用されていたとある Elasticsearch を最近 Amazon ES に移行してみた

つらかった

移行をして幸せになれたのかな？

まず, 移行前の状況をザックリと

総ドキュメント数 3億調べてみたら, 2億ドキュメントは不要だった

総インデックス数 1200 3年間以上も永続化している

バージョン Elasticsearch 1.4 比較的古め

構成非クラスタ1台つらい

open_file_descriptors ぐんぐん成長そろそろ “too many open files” 出そう

Amazon ES ＼救世主？／

m3.xlarge 移行前

データノード c4.large x 5台専用マスターノード c3.medium x 3台 Amazon ES
移行後

データノード c4.large x 5台専用マスターノード c3.medium x 3台 Amazon ES
移行後＼圧倒的成長／

ハマりポイントなどを紹介

スプリットブレインの問題を考慮して専用マスターノードは3台にする (AWS は奇数台数を推奨している) https://docs.aws.amazon.com/ja_jp/elasticsearch-service/latest/ developerguide/es-createupdatedomains.html

単純に, コスト3倍

試しに専用マスターノードを t2.small にしてリロケーションをしてみたら

＼クラスタ死亡／本当に何もできなくなってサポートにクラスタを削除してもらった専用マスターノードだとしても, t2 は控えましょう

次に

シャード数インデックスサイズが 30GB 以下ならシャード数を 1 にする ( デフォルト設定は 5
) デフォルトのまま運用してませんか？

https://aws.amazon.com/jp/blogs/news/get-started-with-amazon- elasticsearch-service-how-many-shards-do-i-need/

アプリケーション側も苦労した

Elastica v3.1.1 以降なら AwsAuthV4 トランスポート対応 https://github.com/ruflin/Elastica ＼PHP Client／

AwsAuthV4 「IAM Role + 署名付きリクエスト」アプリケーション側に実装が必要だった Amazon ES App

Amazon ES のダメな点＼良い点もたくさんあるけど／

- VPC 内に配置できない - リロケーション (クラスタ再構成) が遅すぎる - リロケーションに失敗すると, サクッと死亡する
- 自動スナップショットからリストアできない - サポートに依頼する必要がある - 札束で殴るしかない - まだまだ他にも...

まとめ

Amazon ES に移行をして幸せにはならなかったけど安定稼働したから良しとする (EC2 のままスケールさせても良かったかも)

移行フローで苦労した話などはまた別途どこかで話せればと！ Elasticsearch on EC2 → Amazon ES

http://kakakakakku.hatenablog.com/entry/2016/12/20/000612 運用面のコツは去年まとめた資料参照で！

Amazon ES に移行をしたら幸せになれるのか？ / Moved to Amazon ES

Amazon ES に移行をしたら幸せになれるのか？ / Moved to Amazon ES

More Decks by Yoshiaki Yoshida

Other Decks in Technology

Featured

Transcript