テストの考え方＆テスト最適化の話 How to think of testing

テストの基本的な考え方と、テストの全体最適化の話、テスティングトロフィー、テスト計画の話をしています。

Transcript

1. テストの考え方 ＆ テストの最適化の話
2. 自己紹介 松谷峰生 （まつやみねお） 株式会社LIFULL テクノロジー本部/技術開発部/品質改善推進ユニット/QAグループ 社外活動 • テスト • JaSST Kyushu(ソフトウェアテストシンポジウム九州)共同実行委員長 • 機械学習方面 • QA4AI コンソーシアム発起人の一人 • マンガ・イラスト • 新人さんからわかるソフトウェアテスト解説マンガ「テスターちゃん」 • IVIA（IT検証産業協会）キャラクターイラスト • 他ソフトウェアテスト系マンガ、イラスト • 他 • 大学の授業（非常勤講師 / 特別講師）
3. この発表の目的 テストって何だっけの再考 来週から「テストどうしようね」と 考え始める
4. テストって何？
5. テストって何？ ソフトウェアテストとは 想定したことが 想定した通り動くことを チェックする 活動である
6. テストって何？ だけではない
7. テストって何？ テストによってそのシステムに 何らかの価値を付加するならば
8. テストって何？ 品質・信頼性の向上
9. テストって何？ 信頼性は バグを見つけ取り除くことで より向上させることができる
10. テストって何？ ソフトウェアテストは バグを見つけるつもりで プログラムを実行する過程 G.J.マイヤーズ「ソフトウェア・テストの技法 第2版」より
11. テストって何？ 想定した通り 動くか確認 想定外の 問題を 発見 ＋ チェッキング テスティング
12. http://www.jasst.jp/symposium/jasst18kyushu/pdf/S6.pdf
13. テストって何？ チェッキング 機械的なチェックが 比較的容易 人によるテストが 必要 テスティング ＋
14. テストって何？ チェッキング 出来る限り 自動的なテストが 望ましい マニュアルテスト でなければ 難しい テスティング ＋
15. よくあるテストのありかた
16. よく言われる形 ユニットテスト APIレイヤー のテスト ←end to endテスト マニュアルテスト テストの ピラミッド コスト高 テスト実行時間長さ テスト範囲の広さ テストの実行数
17. 現実 ←ユニットテスト ←APIレイヤーのテスト マニュアルテスト アジャイル開発に 耐えられない プロセス テストが多すぎて 間に合わない
18. 現実と破綻 プロジェクトの 破綻
19. よくある原因 ユニットテストなんて書かなくても 最後に全部通してみるからいいや… テストはテスト側のお仕事だよね （テストを別組織/外部に渡している組織） ユニットテストもAPIレイヤーのテストも しているけど最後のテストで 前工程のテスト関係なしに全部見てる
20. よくある原因 「全体としてのテスト最適化」 に考えが及んでいない
21. よくある原因 プロダクトの全体的なテストを どうすればいいか みんなで相談していますか？
22. じゃあ、どうしよう？の例 何も考えずテストする ではなく 「どうテストしていこう」を ちょっと考える時間を作る 機能追加でも、新規開発でも、いったんプロダクト全体を見まわして 「何を、どの段階で、どうテストしよう」ということを考える。 この機能のこの部分はユニットテストで、ここはAPIのレスポンスで、 ここはE2Eの自動化を回して保守して、どうしても手でしかできないこれは マニュアルテスト……など
23. 松谷の理想論、テストポリシー テスティング、 どうしても手でしか見れない場所、 回帰テスト APIレイヤー でのチェッキング ユニットテスト でのチェッキング 各レイヤーで 行うべきテストが 考慮されている バランスタイプ
24. 松谷の理想論、テストポリシー ユニットテスト でのチェッキング • テスティング • どうしても手でしか見れない場所 • 回帰テスト 振る舞いを APIレイヤーで チェッキング
25. The Testing Trophy
26. そんなことできるの？ そんな仰々しいことしてる時間なんかない！ ウォーターフォールでしょそれアジャイルだと回らないよね
27. 実際の取り組み例
28. 60分で テスト計画作成 テスト計画＝仰々しくて重い、は思い込み
29. テスト計画コンシェルジュ ※弊社では、ユニットテストもマニュアルテストも開発者が実施 QAは「コンサルタント」の立ち位置 • 60分のミーティングでテスト計画（テストどうします？）を作成する スケジュールではなく、テスト範囲の明確化、テストアプローチの合意までを行う 状況変化があったときは都度柔軟に組み替え • 品質を効率よく高めるためにテストのトータルコーディネートを行う 「デザイン段階でユーザビリティのチェックを入れてはどうですか」 「このテストにはマニュアルテストよりもE2Eによる自動化が良さそうです」 「パフォーマンス劣化のリスクがありそうです」 「セキュリティテストが必要です」 • QAとプロジェクトチームが話し合って、互いに腹落ちするテストアプローチやリスクを定義する
30. テスト計画コンシェルジュ 簡単にいうと みんなと話す時間を設けて、 プロダクト全体のテストの段取りをする
33. 最後にもろもろ • テスト計画は変わるものであると周知。状況で柔軟に変更必須 • 最初に話し合っていると「あれも必要これも必要」となるが、大体開発は押す！ よって後半のスケジュールは基本ピンチになると思ってよい。 「この辺は探索的テストで押さえましょう」といった変更プランは用意しておく。 • 最近は「松竹梅」プランを作っていた。最初は松プランだったけれど、最後にはやはり梅プランになっ た。 • 闇雲にユニットテストを増やすといつもどこかでユニットテストがコケる事 態が発生する • 修正するコストも増える
34. この発表の目的 テストって何だっけの再考 来週から「テストどうしようね」と つい考えちゃう
35. Thank you