生成AIとAI ～エンジニアの期待と現実～

2024/8/29 mabl Webinarにて使用したスライドです。

Transcript

1. ～エンジニアの期待と現実～ 2024/8/29 AIを活用したQA & テスト自動化プラットフォーム mabl（めいぶる）のウェビナー
2. mabl について
3. What's mabl? • 「めいぶる」と読みます • Stackdriver（現Google Cloud Operations）の 創業者IzzyとDanが2017年ボストンで創業 • 2021年8月に日本法人設立 • グローバルの社員数は約110名 • Fortune Globalの35社含む300社+が採用 • GV、CRV、Amplify、Vista Equity Partner、 Presidioより 7,700万ドル (90億円) を調達
4. Web/Mobile/APIのための統合型プラットフォーム 4 AI、クラウド、ローコードの 最新テクノロジーを軸に 構築されたプラットフォーム Web、モバイル、APIテストを 単一のプラットフォームで実行 テストの再利用性を備えた 真のエンドツーエンドテスト
5. 現状のQAに関する問題点 スピード: 従来型のテスト手法では 現在のソフトウェアリリースサイクルにつ いていけない サイロ化: テスト実施がチームごとに サイロ化され、アジリティや可視性が 犠牲になっている メンテナンス: 開発チームがテストコード のメンテナンスに多くの時間を費やしてい る
6. 現状のQAに関する問題点 (アンケート結果) 6割以上が『手動でのテスト対応』と 回答 『テストメンテナンス』 『構築と実行に時間がかかりすぎる』 『自動化を行うためのコーディング知識がない』 が最多回答
7. 単一プラットフォームで広範囲なテストをカバー 機能/非機能テストをカバーするプラットフォーム • Web UIテスト • モバイルWeb UIテスト • APIテスト • アクセシビリティテスト • UI/API パフォーマンステスト • NEW! ネイティブモバイルアプリテスト • NEW! データベースコネクション
8. ノーコードでテストを作成、ローコードで拡張 テスト作成の流れ 1. ブラウザでテスト対象アプリを 操作 2. トレーナー（右側ウィンドウ） が各操作をステップとして記録 してテストを作成 3. 必要に応じてステップの追加・ 削除・変更が可能
9. ローコードで「意図」と「実装」を分ける
10. ノーコードでカバーしきれないテストステップをローコードでカバー、テストカバレッジを向上 ローコードでテストを拡張 テストの任意ステップで、GUIでは指定できないような操作を JavaScriptで実行可能
11. 詳細なテスト結果データを自動で記録 テストのステップごとに結果情報を収集 • スクリーンショットと画面差分 • ネットワークログ • DOMスナップショット • HARファイル
12. テスト実行結果からインサイトを通知 実行テストに関する情報を俯瞰的に把握 • テストカバレッジ ◦ 最新のテスト成功率 ◦ 累積テスト実行数 ◦ 失敗テストの分類 ◦ テストステータス、など • 自動修復 • 視覚的変化 • リンク切れ • JavaScriptエラー
13. 既存ツールとの統合 DevOpsツールセットとの統合 CI/CDインテグレーション Mabl アプリ (デスクトップ、Web) Mabl Cloud レ ート コラ レーションツール お使いのアプリケーション Mabl Link optional バグ追跡
14. https://github.com/apps/mabl-bot GitHub インテグレーション Deployment action Run mabl tests action Actions 2.0 Deployments API Tests Test Results API DEPLOYMENT EVENT POLL FOR TEST RESULTS TRIGGER デプロイメント アクション mabl テスト実行 アクション デプロイイベント 実行 テスト テスト結果を連携
15. より良い品質のソフトウェアをより早く提供 15 3倍 速くテストを作成 スピード向上 70% メンテナンスコスト削減 効率化 10倍 速くテストを実行 加速化 80% 自社開発ソリューション よりも低コスト コスト削減
16. エンタープライズ対応のセキュリティ SOC II Type 2 GDPR
17. 本日のテーマ
18. 生成AIとAI ～エンジニアの期待と現実～
19. 自動修復でメンテナンス作業を削減 テスト作成 自動修復 テスト実行 分析 アップデート 毎実行ごと アプリ改修や動的要素により 対象要素が見つからない場合、 過去実行時に収集した情報を元に 対象要素の候補を探し テスト実行継続を試みる テスト実行の都度、 各要素について 30以上の属性を収集
20. UI変更を検知しテストを自動修復して実行を継続 どうやってテストを自動修復する？ • テスト実行のたび要素ごとに 35以上の属性を記録 • 要素が見つからない時、 属性情報を使い要素を検索 • マッチした要素でテストを 修正して実行 • 自動修正をユーザーに通知し、 正しく修正されているか確認
21. Wait timeの自動生成
22. 生成AIの現状 日本における未来志向型インフラ・テクノロジのハイプ・サイクル：
 2024年　出典：ガートナー 生成AIのハイプ・サイクル：2023年　出典：ガートナー
23. AI Agent活用の取り組み例 (ヘルプデスクへの活用) 　Reference: ヘルプデスクの事例で学ぶ AIエージェント
24. Microsoft Gamoさんはこう言っている。 　Reference: GPT開発の悩みの種「速度」「精度」「評価」の壁をどう超えるか 『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』著者の 1人 ”GPTに出力を評価させる場合、その評価が妥当なものであ るかどうかを確認する必要がある。" ”特に判断に注意。品質保証部門やデータサイエンティスト など専門家と相談し、通常のソフトウェアテストと同じく、 Go/No Goの判定基準を事前に設けておく。"
25. mablの様々な 生成AI活用
26. (機能強化) 生成AIが言語理解をサポート 要素の検索モデル DOM エキスパートシステム Autonomous Agent
27. アプリケーション内の要素が大幅に変更され、テス ト対象要素が見つからない場合に、テストを自動修 復を試みる。 80%程の精度だった従来の自動修復機能に生成 AIを組み込み、95%まで修復精度が向上。 テストで出力されるLog上にテスト結果だけでなく 判断内容を記載。 GenAIによる作成済みテストの高度な自動修復
28. より複雑なテストシナリオのために JavaScriptスニ ペットの作成が必要な場合には、生成 AIによるスニ ペット生成支援の機能を活用して作成可能。 作成したいスニペットについて、プロンプトを用いて 指示を記載することで、サンプルコードを出力。 GenAIによるJavaScriptスニペット作成支援
29. アサートとは、『アプリケーションが期待した 動作通りに動くか』を確認すること。 例えば『パスワード未入力でログインボタンを押し たら、パスワード入力を促すメッセージが表示され ること』など。 『GenAIによるアサーション』はプロンプトを活用し て、より複雑なアサート処理をテスト ステップに組み込むことが可能。 右の例では『画像の背景に山が表示されているこ と』をプロンプトベースでテストし、結果や判定理由 も併せて表示。 GenAIによるアサーション
30. 作成したいクエリについて、プロンプトを用いて指 示を記載することで、サンプルを出力。 アプリケーションとデータベース双方の変更内容が 正確に反映されることを確認できるだけでなく、 データベースのテストデータを設定し、テスト内で 削除や変数としての使用も可能。 mabl Link もしくは mabl が指定するIPアドレスを 許可して、非公開データベースへもアクセス MySQL / Microsoft SQL Serverをサポート。 (予定) PostgreSQL / Oracle DB / MongoDB New!! GenAIによるSQLのクエリ作成支援 New!! DATABASE CONNECTION IN A UNIFIED PLATFORM
31. For your information #mablJapan
32. About the mabl University How-to Videos (English only) How-to Lessons (Japanese only) On-Demand Training (English & Japanese) mabl Skills Certifications (English & Japanese) • 33 ビデオ (各3 - 8 分程度) • 英語字幕あり、日本語字幕なし • 26 レッスン • Step by stepで学習可能 • 4 ラーニングパス • 設定、基礎、高度、統合でそれ ぞれ30 - 90 分の学習パス • 学習目標に応じたパスを提供 • 3 つの資格 • Foundations と Advanced • NonFunctional ←NEW • LinkedIn に掲載可能
33. About the mabl Skills Certification 出題数60問の選択式テストを通じて、mablのナビ ゲーション、設定、テスト作成、出力、自動テスト 戦略について解答し、examをパスしましょう！ Why get certified? • LinkedInで認定資格合格後を登録可能 • 認定資格試験の取得を通じてmablプラット フォームの一定への知見をアピールできます • mablers_jpのようなコミュニティを通じて、 得たスキルを活かしたOutputをしましょう！ • 2023年3月～日本語での提供を開始しました
34. mabl Skills Certification mabl Skills Certification: Foundations (基本レベル) mabl Skills Certification: Advanced (応用レベル) mabl Skills Certification: Non-functional Testing (非機能テスト)
35. You can try it now! • 2週間の無料トライアルとmabl University でmablをマスターしよう！ • デモのリクエストはこちらから！→→ https://www.mabl.com/ja
36. mabl の User Community『mablers_ jp』 Join user community! https://mablersjp.connpass.com/event/329342/
37. Join our Sponsored Conference! 10/17 CTC Forum 2024 11:50 - 12:20 『mablのテスト自動化への生成AIの 取り組みと導入効果について』 https://forum.ctcevent.jp/?r=101
38. Join our Annual Conference! 11/20 mabl experience 24 Japan 開催決定！ https://experience.mabl.com/ja/
39. Please respond to our survey! 本日はご参加いただき ありがとうございます！ mablご紹介ウェビナーのアンケート 回答にご協力お願いします。