Upgrade to Pro — share decks privately, control downloads, hide ads and more …

QAプロセス AI支援ツールキットの導入とその効果について

QAプロセス AI支援ツールキットの導入とその効果について

More Decks by LegalOn Technologies, Inc

Transcript

  1. 8 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • テストプロセスに応じたコマンドを実行すること でAI支援型のテスト を行える • 弊社のQAが抱えていた課題も解決できる可能性があった ◦ 生成AIの活用方法がわからない ◦ 活用場面が限られている ▪ 仕様のまとめ、調査など ◦ 活用の知見が個人個人に閉じている きっかけ( 2025年7月)
  2. 12 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • AIへの複雑な指示を、’/’ + 単語 というショートカットに登録できる機能 • チャット上で/を打つと利用できる • /create-test-plan → テスト計画を作成する • /review-specification → 仕様書をQA観点でレビューする カスタムスラッシュコマンドについて
  3. 13 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. コマンドを実行すると対応するプロンプトが読み込まれる カスタムスラッシュコマンドについて 概要 前提条件 実行フロー Step 1: テストベースの読み込み Step 2: テスト計画書テンプレートの取得 Step 3: 不足情報の確認 Step 4: テスト計画の作成と保存 Step 5: 完了と後続プロセスへの案内 出力先 制約 create-test-plan.md
  4. 14 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • 概要 ◦ コマンドの概要を記載する • 前提条件 ◦ 実行時に必要となるものを記載 する ▪ 必要なMCPサーバーなど プロンプトの構成 概要 前提条件 実行フロー Step 1: テストベースの読み込み Step 2: テスト計画書テンプレートの取得 Step 3: 不足情報の確認 Step 4: テスト計画の作成と保存 Step 5: 完了と後続プロセスへの案内 出力先 制約 create-test-plan.md
  5. 15 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • 実行フロー ◦ Step by StepでAgentが実施す る内容を記載する プロンプトの構成 概要 前提条件 実行フロー Step 1: テストベースの読み込み Step 2: テスト計画書テンプレートの取得 Step 3: 不足情報の確認 Step 4: テスト計画の作成と保存 Step 5: 完了と後続プロセスへの案内 出力先 制約 create-test-plan.md
  6. 16 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • 出力先 ◦ Notionやローカルなど出力先を 記載する • 制約 ◦ 推測を行わないことなどAgentに 守ってほしいルールを記載する プロンプトの構成 概要 前提条件 実行フロー Step 1: テストベースの読み込み Step 2: テスト計画書テンプレートの取得 Step 3: 不足情報の確認 Step 4: テスト計画の作成と保存 Step 5: 完了と後続プロセスへの案内 出力先 制約 create-test-plan.md
  7. 31 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. プロセスの細分化 プロセス コマンド 概要 計画 /create-test-plan テンプレートに従い、テスト計画書を作成する 分析(ゆもつよメソッド) /yumotsuyo-feature-list 機能一覧の作成 /yumotsuyo-test-categories テストカテゴリの決定 /yumotsuyo-potential-defects 起こりうる不具合の作成 /yumotsuyo-test-specification-items 仕様項目と期待結果の作成 分析(VSTeP) /vstep-test-viewpoints テスト観点ツリー作成 /vstep-test-frames テストフレーム作成 分析 /create-factor-levels 因子水準の洗い出し 設計 /select-test-technique 最適なテスト技法の決定 /apply-test-technique テスト技法の適用 実装 /create-test-cases テストケース作成 実行 /execute-test テストの自動実行
  8. 32 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. プロセスの細分化 プロセス コマンド 概要 計画 /create-test-plan テンプレートに従い、テスト計画書を作成する 分析(ゆもつよメソッド) /yumotsuyo-feature-list 機能一覧の作成 /yumotsuyo-test-categories テストカテゴリの決定 /yumotsuyo-potential-defects 起こりうる不具合の作成 /yumotsuyo-test-specification-items 仕様項目と期待結果の作成 分析(VSTeP) /vstep-test-viewpoints テスト観点ツリー作成 /vstep-test-frames テストフレーム作成 分析 /create-factor-levels 因子水準の洗い出し 設計 /select-test-technique 最適なテスト技法の決定 /apply-test-technique テスト技法の適用 実装 /create-test-cases テストケース作成 実行 /execute-test テストの自動実行 1. いつ、どのコマンドを利用すべきかわからない 2. 複雑なコマンドの依存関係 3. 成果物の確認工数がかかる
  9. 35 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • 成果物はNotionに出力する 可能な限り現状のテスト作業に影響を与えない 4. 成果物の次プロセスへの引渡しが面倒 a. 都度Notionリンクを入力する必要があった 5. MCP経由での作成、編集に時間がかかる
  10. 36 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. いつ、どのコマンドを利用すべきかわからない 2. 複雑なコマンドの依存関係 3. 成果物の確認工数がかかる 4. 成果物の次プロセスへの引渡しが面倒 5. MCP経由での作成、編集に時間がかかる 利用されなかった理由
  11. 37 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. いつ、どのコマンドを利用すべきかわからない 2. 複雑なコマンドの依存関係 3. 成果物の確認工数がかかる 4. 成果物の次プロセスへの引渡しが面倒 5. MCP経由での作成、編集に時間がかかる 6. 使い方がわからない 利用されなかった理由
  12. 38 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. いつ、どのコマンドを利用すべきかわからない 2. 複雑なコマンドの依存関係 3. 成果物の確認工数がかかる 4. 成果物の次プロセスへの引渡しが面倒 5. MCP経由での作成、編集に時間がかかる 6. 使い方がわからない 利用されなかった理由 面倒 > 利用のメリット
  13. 40 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. いつ、どのコマンドを利用すべきかわからない 2. 複雑なコマンドの依存関係 3. 成果物の確認工数がかかる 4. 成果物の次プロセスへの引渡しが面倒 5. MCP経由での作成、編集に時間がかかる 6. 使い方がわからない 利用されなかった理由
  14. 42 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 12 → 5まで削減 シンプルな構成に 改善1:コマンドの削減 プロセス コマンド 概要 計画 /create-test-plan テンプレートに従い、テスト計画書を作成する 分析 /create-test-analysis テスト観点を用いて因子水準表を作成し、テスト目的のカバレッ ジを確認する 設計 /create-test-design テスト技法を決定・適用し、ディシジョンテーブルや組み合わせ 表などのテスト設計成果物を作成する 実装 /create-test-cases テストケースの作成を行う 実行 /execute-test テストケースの実行を行う 計画 分析 設計 実装 実行
  15. 43 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. いつ、どのコマンドを利用すべきかわからない ✅ → 標準プロセスとコマンドが 1対1で対応しているため迷わない 2. 複雑なコマンドの依存関係 ✅ → コマンド数が減ったことによりシンプルに 3. 成果物の確認工数がかかる ✅ → コマンド数が減ったことにより成果物の数も減った 改善1:コマンドの削減
  16. 44 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 当初想定していた細かく切ることによるメリットは失われるのではないか • 細かく成果物の精査を行うことで大きな手戻りを防ぐ • コマンド(プロンプト)の肥大化を防ぐ 改善1:コマンドの削減 🤔
  17. 45 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 当初想定していた細かく切ることによるメリットは失われたのではないか • 細かく成果物の精査を行うことで大きな手戻りを防ぐ → 改善4: レビューを厚めに行う • コマンド(プロンプト)の肥大化を防ぐ → 改善5: テスト観点と突き合わせるシンプルな構成に 改善1:コマンドの削減
  18. 46 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. 複雑な依存関係 ✅ 2. 成果物のレビュー工数がかかる ✅ 3. いつ、どのコマンドを利用するかわからない ✅ 4. 成果物の次プロセスへの引渡しが面倒 5. MCP経由での作成、編集に時間がかかる 6. 使い方がわからない 利用されなかった理由
  19. 48 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 4. 成果物の次プロセスへの引渡しが面倒 ✅  → 施策を指定するのみで手動入力は不要 5. MCP経由での作成、編集に時間がかかる ✅  → MCPを経由しないため、出力のオーバーヘッドを削減できる 副次的な効果 • CIと連携できる • プルリクエストによるレビュー機能を活用できる 改善2:Markdownの利用とGit管理
  20. 49 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. 複雑な依存関係 ✅ 2. 成果物のレビュー工数がかかる ✅ 3. いつ、どのコマンドを利用するかわからない ✅ 4. 成果物の次プロセスへの引渡しが面倒 ✅ 5. MCP経由での作成、編集に時間がかかる ✅ 6. 使い方がわからない 利用されなかった理由
  21. 51 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 1. 複雑な依存関係 ✅ 2. 成果物のレビュー工数がかかる ✅ 3. いつ、どのコマンドを利用するかわからない ✅ 4. 成果物の次プロセスへの引渡しが面倒 ✅ 5. MCP経由での作成、編集に時間がかかる ✅ 6. 使い方がわからない ✅ 利用されなかった理由
  22. 54 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. テスト成果物作成時に参照するテスト観点の導入を行った テストの種類に応じて使い分ける 改善5: テスト観点の導入 観点 概要 標準機能テスト観点 アプリケーションに依存しない標準的な観点 アプリケーション機能テスト観点 アプリケーションに依存する観点 セキュリティテスト観点 セキュリティに関連する観点 性能テスト観点 性能テストに関連する観点
  23. 55 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • 暗黙知として扱われたり、チームごとに管理されていた観点をツールキットに 集約できる • 品質担保の知識を単一コマンドに集中させず、分けて管理することにより、コ マンド(プロンプト)の肥大化を防げる 改善5: テスト観点の導入
  24. 57 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. • Codexなど、ツールによってコマンドが利用できないものもあるため、コマンド のAgent Skills化を行った • コマンドはスキルを参照する形に変更、スキル単体でも利用可能 改善7: コマンドの Agent Skills化 Command Skill User
  25. 60 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 現在のツールキット テスト計画 /create-test-plan テスト分析 /create-test-analysis テスト設計 /create-test-design レビューサイクル 実行フロー (CI)Agent レビュー QAレビュー (CI)観点抽出 レビュー観点 テスト観点 ナレッジの蓄積 アップデート PR作成
  26. 70 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 普段のQA業務における生成AIの利用程度 2025年7月のアンケート( n = 11) QA業務における生成AIによる効率化の程度 • 「作業を少し代替している」(45.5%) • 「作業に対するヒントを得ている」( 45.5%) • 「利用していない」(9.1%) • 「作業効率が少し上がっている」( 70%) • 「ほとんど寄与していない」(30%)
  27. 71 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. 普段のQA業務における生成AIの利用程度 2025年11月のアンケート( n = 10) QA業務における生成AIによる効率化の程度 • 「作業を少し代替している」(60%) • 「作業の大部分を代替している」( 20%) • 「作業に対するヒントを得ている」( 10%) • 「利用していない」(10%) • 「作業効率が少し上がっている」( 88.9%) • 「作業効率がかなり上がっている」( 11.1%)
  28. 72 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. QA業務における生成AIの使い方 2026年2月のアンケート( n = 16) 生成AI活用による業務時間短縮の度合い • 「QA業務に組み込まれている」(60%) • 「AI活用を展開、共有している」(6.3%) • 「利用していない」(0%) • 多くの回答で大幅な短縮(81.3%) • 一部は短縮が限定的/変化なし( 18.8%)
  29. 73 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. まとめ • 導入後、利用されないという課題に直面した ◦ 細分化しすぎたプロセスと成果物管理が主な原因だった • コマンド削減やGit管理への移行などの改善を実施 ◦ シンプルな構成になり、継続的なレビューサイクルを確立できた • 定着後、QA業務におけるAI活用が進み、業務時間が大幅に短縮した
  30. 76 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. テスト実施主体を QAからAgentに テスト計画 /create-test-plan テスト分析 /create-test-analysis テスト設計 /create-test-design Agent QA (CI)Agent レビュー QAレビュー (CI)観点抽出 レビュー観点 テスト観点 QA/Agent アップデート PR作成
  31. 78 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. テスト実施主体を QAからAgentに 🏻💻 Skill実行 レビュー Skill作成 Skill更新 観点更新 計画 分析 設計 実行 仕様書作成 仕様書更新 QAはAgentが高品質な出力を出すための 仕組みづくり、サポートに注力する
  32. 80 本資料は貴社の便宜のためのみに提供されるものであり、複写、引用または第三者の閲覧に共される際は株式会社 LegalOn Technologiesの了承を得てください。また、当該資料の利用により直接または間接に生じた損害や損失等について、株式会社 LegalOn Technologiesは一切の責任を負いません。 ©LegalOn Technologies, Inc. all

    rights reserved. ガードレールの整備 Skillの劣化を防ぐためのガードレールを整備したい スキル変更 基準仕様書 基準成果物 CI 入力 スキル実行 成果物生成 差分比較 判定基準 Pass / Fail QAが安心してSkillを開発、改修できる環境を 構築する