網站壓力測試透過 JMeter on GKE

ab/siege 壓測工具只能對單一個 URL 進行壓測，若要模擬大量使用者進行特定操作，如登入會員、加入購物車等會無法模擬。
本議程將介紹如何透過瀏覽器外掛程式搭配 JMeter 進行錄製，再搭配 GKE 依照測試量級快速調整 JMeter 分散式架構。

Transcript

2. 網站壓力測試透過 JMeter on GKE Brent Chang
3. Brent Chang Cloud Architect @ CloudMile 具 LAMP/LEMP 網站搬遷、維運相關經驗 Google 認證雲端工程師 / 雲端架構師
4. Agenda • 壓測概念 • JMeter 簡介 • 壓測腳本錄製、驗證 • 執行 JMeter 壓力測試
5. 網站維運工程師 小明
6. 小明的故事 小明負責維護公司購物網站 維持網站正常運作 小明:(￣▽￣)ノ Image by https://me.me/i/this-website-is-awesome-100 32013
7. 小明的故事 某天 監控顯示伺服器的CPU與記憶體用量飆高 小明:Σ(°ロ°) Image by https://www.reddit.com/r/memes/comments/a s6ixl/thats_a_very_high_cat/
8. 小明的故事 沒多久後收到警報，網站連不上了 小明:(ಥ﹏ಥ) Image by https://www.thewindowsclub.com/err-connection-timed -out-chrome
9. 小明的故事 原來公司購物網站在做促銷 湧入平時三倍以上的人數 Image by https://www.thewindowsclub.com/err-connection-timed -out-chrome
10. 小明的自言自語 如果事先知道網站能撐住多少人的話 有多好... Image by https://knowyourmeme.com/memes/cry ing-cat
11. 網站壓力測試透過 JMeter on GKE Brent Chang 如果事先知道網站能撐住多少人的話 有多好...
12. 網站壓力測試目的 • 了解目前網站 最多能承受 多少線上人數 • 了解目前網站 能不能撐過 雙11/雙12/週年慶等大型活動 • 了解目前網站 效能瓶頸
13. 考量人數之外 還要了解使用者行為
14. 網站壓力測試目的 人數 / 行為 • 網站能否撐過 多少人同時 / 瀏覽首頁 多少人同時 / 將商品加入購物車 多少人同時 / 留下評論 多少人同時 / 登入後台 ...
15. 網站壓力測試 - 瀏覽網頁行為 • 模擬特定人數同時瀏覽特定頁面 ◦ ApacheBench (ab) https://httpd.apache.org/docs/2.4/programs/ab.html ◦ Siege https://github.com/JoeDog/siege
16. 加入購物車要怎麼測？
17. 以 opencart 為例 • HTTP POST • 送出產品 id 以及數量 • 帶 Cookie 加入購物車的 HTTP 要求
18. • 可用內建的 Proxy 錄製腳本 • GUI / CLI 介面 • Windows / Linux / Mac OS • 可做迴圈、邏輯判斷等流程 • 可驗證 Request / Response … 壓測工具 - Apache JMeter
19. • 可用內建的 Proxy 錄製腳本 • GUI / CLI 介面 • Windows / Linux / Mac OS • 可做迴圈、邏輯判斷等流程 • 可驗證 Request / Response … 壓測工具 - Apache JMeter
20. 手把手教學文件 • 新建 Template 錄製腳本 • 啟動 Proxy • 將 JMeter CA 安裝到瀏覽器 • 設定瀏覽器 Proxy https://jmeter.apache.org/usermanual /jmeter_proxy_step_by_step.html Apache JMeter - 錄製說明頁
21. 從瀏覽器錄製、安裝 CA 與設定 proxy.. 能不能用外掛達成？ Image by https://giphy.com/gifs/whoa-hd-tim -and-eric-xT0xeJpnrWC4XWblEk
22. BlazeMeter Plugin 註冊免費會員後： • 錄製瀏覽器行為 • 支援匯出成 JMX / Selenium • 具簡易編輯功能 https://chrome.google.com/webstore/d etail/blazemeter-the-continuous/mbop gmdnpcbohhpnfglgohlbhfongabi
23. BlazeMeter Plugin 註冊免費會員後： • 錄製瀏覽器行為 • 支援匯出成 JMX / Selenium • 具簡易編輯功能 https://chrome.google.com/webstore/d etail/blazemeter-the-continuous/mbop gmdnpcbohhpnfglgohlbhfongabi
24. Demo: 錄製 opencart 加入購物車 並將腳本放到 JMeter 中進行驗證
25. 錄製完成的腳本要先驗證 不要直接拿來用
26. 壓測腳本驗證 在 JMeter 中將錄製好的腳本 最上層加入“View Results Tree”元件 檢查 Response 是否正確
27. 壓測腳本驗證 - 錯誤 Response 錄製的腳本是加入購物車，結果購物車還是空的
28. 壓測腳本驗證 - 正確 Response 修復腳本後購物車出現商品 iPhone 以及售價
29. 壓測腳本設定 - 模擬使用者數 確認 OK 後，再調整 Thread Group 的 Thread 數量
30. 壓測腳本做法統整 製作方式 JMeter GUI 自己一步一步刻 JMeter Template JMeter Proxy 錄製腳本 BlazeMeter 錄製腳本 上手難易度 困難 中等 中等 簡易 腳本可用性 高 中 高 中 ~ 高 適合對象 大神 稍熟之人 所有等級 初心者
31. 腳本完成後 可開始壓測了
32. 壓測執行方式抉擇 • 用 JMeter GUI 圖形化介面進行壓測 • 用 JMeter CLI 指令行介面進行 • JMeter Distributed 分散式壓測
33. 壓測執行方式抉擇 • 用 JMeter GUI 圖形化介面進行壓測 > 最直覺，但也最沒效率 • 用 JMeter CLI 指令行介面進行 >比 GUI 有效率，也是官方建議方式 • JMeter Distributed 分散式壓測 >若以 CLI 指令方式壓測 還是無法壓到指定量級時使用
34. 以 Kubernauts 做好的 JMeter 分散式架構為例 • 自動化腳本部署 • 支援 Kubernetes / Openshift • 內含 InfluxDB / Grafana https://goo.gl/mkoX9E Kubernauts LTaaS 分散式壓測環境
35. JMeter 分散式架構 • 避免 JMeter 資源不足 • JMeter Master 統整壓測結果 • JMeter Slave 執行 JMX 腳本
36. JMeter 分散式架構 • JMeter Slave 執行 JMX 腳本 實際模擬出的使用者數 (VU) JMX thread x Worker Node 100 x 2 = 200 VU
37. 即時壓測圖表呈現 • Master 傳數據到 InfluxDB • Grafana 呈現圖表 • 比 JMeter 內建圖表好用！
38. 即時壓測圖表呈現
39. Kubernauts LTaaS + GKE • 快速建立 Kubernetes 叢集 • 可依壓測情況調整節點數量 • 調整完再重新執行腳本即可
40. 執行方式 JMeter GUI JMeter CLI JMeter 分散式 Kubernauts + GKE 上手難易度 簡易 簡易 困難 中等 壓測量級 低 低 ~ 中 高 低 ~ 高 適合場景 除錯 少量壓測 大量壓測 少 ~ 大量壓測 壓測執行方式統整
41. 網站壓力測試透過 JMeter on GKE Brent Chang