Upgrade to Pro — share decks privately, control downloads, hide ads and more …

20240321_生成AI時代のDevOps

Avatar for Kazuki Maeda Kazuki Maeda
March 21, 2024
Technology
2
1.2k

 20240321_生成AI時代のDevOps

https://studyco.connpass.com/event/311547/
の資料
Avatar for Kazuki Maeda

Kazuki Maeda

March 21, 2024
Tweet

More Decks by Kazuki Maeda

See All by Kazuki Maeda
日本の教育の未来 を考える テクノロジーは教育をどのように変えるのか
Avatar for Kazuki Maeda kzkmaeda
1
85
モノリスの認知負荷に立ち向かう、コードの所有者という思想と現実
Avatar for Kazuki Maeda kzkmaeda
0
200
エンジニアリング価値を黒字化する バリューベース戦略を用いた 技術戦略策定の道のり
Avatar for Kazuki Maeda kzkmaeda
9
5.2k
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
Avatar for Kazuki Maeda kzkmaeda
2
4.7k
生成AIを用いた 新しい学びの体験を 提供するまでの道のり
Avatar for Kazuki Maeda kzkmaeda
0
270
生成AIによって変わる世界 -可能性とリスクについて考える-
Avatar for Kazuki Maeda kzkmaeda
2
280
新しいことを組織ではじめる、そしてつづける
Avatar for Kazuki Maeda kzkmaeda
5
920
20240824_JAWS_PANKRATION_2024
Avatar for Kazuki Maeda kzkmaeda
0
96
20240416_devopsdaystokyo
Avatar for Kazuki Maeda kzkmaeda
1
480

Other Decks in Technology

See All in Technology
Azure Maps Visual in PowerBIで分析しよう
Avatar for なかしょ nakasho
0
210
OPENLOGI Company Profile for engineer
Avatar for OPENLOGI hr01
1
26k
GraphQLを活用したリアーキテクチャに対応するSLI/Oの再設計
Avatar for coconala_engineer coconala_engineer
0
210
AndroidアプリエンジニアもMCPを触ろう
Avatar for Shinnosuke Kugimiya kgmyshin
2
650
Google Cloud Next 2025 Recap アプリケーション開発を加速する機能アップデート / Application development-related features of Google Cloud
Avatar for turbofish ryokotmng
0
100
続・やっぱり余白が大切だった話
Avatar for KAKEHASHI kakehashi
PRO
3
310
とあるEdTechベンチャーのシステム構成こだわりN選 / edtech-system
Avatar for k.goto gotok365
4
170
MySQL Indexes and Histograms – How they really speed up your queries
Avatar for lefred lefred
0
160
[新卒向け研修資料] テスト文字列に「うんこ」と入れるな（2025年版）
Avatar for Infiniteloop infiniteloop_inc
4
14k
グループ ポリシー再確認 (2)
Avatar for Murachi Akira murachiakira
0
230
Computer Use〜OpenAIとAnthropicの比較と将来の展望〜
Avatar for PharmaX（旧YOJO Technologies）開発チーム pharma_x_tech
6
1k
250510 StepFunctionのテスト自動化始めました vol.1
Avatar for Takumi Abe east_takumi
1
210

Featured

See All Featured
GraphQLとの向き合い方2022年版
Avatar for Yosuke Kurami quramy
46
14k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
Avatar for Chris Coyier chriscoyier
507
140k
Principles of Awesome APIs and How to Build Them.
Avatar for Keavy McMinn keavy
126
17k
Faster Mobile Websites
Avatar for Dean Hume deanohume
307
31k
Adopting Sorbet at Scale
Avatar for Ufuk Kayserilioglu ufuk
76
9.4k
Building a Scalable Design System with Sketch
Avatar for Laura Van Doore lauravandoore
462
33k
Java REST API Framework Comparison - PWX 2021
Avatar for Matt Raible mraible
31
8.6k
Documentation Writing (for coders)
Avatar for Carmen Chung carmenintech
71
4.8k
The Success of Rails: Ensuring Growth for the Next 100 Years
Avatar for Eileen M. Uchitelle eileencodes
45
7.2k
4 Signs Your Business is Dying
Avatar for Josh Pigford shpigford
183
22k
Sharpening the Axe: The Primacy of Toolmaking
Avatar for Bryan Cantrill bcantrill
41
2.3k
How STYLIGHT went responsive
Avatar for nonsquared nonsquared
100
5.5k

Transcript

  1. 生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda

  2. 自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community

    Builders AWS Startup Community Core Member

  3. 自己紹介

  4. 今日は活用のアイデアを 話します

  5. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  6. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  7. DevOpsについて • DevOpsは文化であり、プラクティスである • よくこんな図で説明されることがある

  8. DevOpsにおけるツール • DevOpsにおいて、プラクティスを加速するツールは多く提供されている ◦ バージョン管理ツール ◦ CI/CDツール ◦ Infrastructure as

    Codeツール... • DevOpsにおいて、ツールとは文化を加速させるもの • 生成AIも文化を加速させるために活用されていく未来を 期待したい

  9. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  10. Devを支援する生成AI • 生成AIの台頭により、開発者の体験は大きく変わった • 現状はDev領域での活用が中心 ◦ Github Copilot ◦ ChatGPT

  11. Code/Test - Github Copilot etc • あああ

  12. Code/Test - Github Copilot • 言わずと知れたAIコーディングアシスタント • エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能による コーディング支援などを享受できる •

    類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど

  13. Plan - ChatGPT etc • あああ

  14. Plan - ChatGPT etc • 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット • 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで 提供することで、一世を風靡 •

    計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多 い印象 • 類似のサービスに、Copilot(Bing)やGemini、Claudeなど

  15. DORA State of DevOps Report 2023 • 一方、生成AIの活用による生産性の効果実感はまだ得られていない

  16. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  17. 生成AIでOpsを支援したい • 生成AIの特性を考えると、Ops領域でも活用はできるはず • 現状、クリティカルソリューションで 広まっているものはそこまでない？

  18. Opsの辛さと 生成AI活用のアイデア

  19. 課題：割り込みによるコンテキストスイッチ • 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371

  20. 課題：エラー発生時の割り込み • エラーを検知したらそこそこやることがある ◦ 通知確認 ◦ エラー内容調査 ◦ 過去の調査履歴確認 ◦

    調査内容共有 ◦ ・・・

  21. 活用アイデア：モニタリング自動応答AI • RAGを応用した、自動モニタリング・Issue作成のシステム ◦ 以下をRAGで自動化 ▪ エラー検知 ▪ ログ調査 ▪

    過去調査履歴確認 ▪ 調査内容共有
  22. None

  23. 課題：心理的安全なコラボレーション • Postmortemなどで、HRTでないコミュニケーションが発生するケースも • そういったコミュニケーションを正しく是正していくのは 人間にはなかなか難しい

  24. 活用アイデア：Postmortem支援AI • LLMとの対話を活用した、意義のある postmortem • 以下の発言があれば是正 ◦ 個人攻撃 ◦ 曖昧な振り返り

  25. 活用アイデア：Postmortem支援AI • 時間があればデモ

  26. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  27. 今後の課題 • LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しまし た • 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそ この負荷がかかります ◦ プロンプトチューニングによる精度の向上 ...

    ◦ 技術アップデートへの追従... • 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう！

  28. ちょっと宣伝・・

  29. 生成AI事例イベントを来週やります！ https://aws-startup-community.connpass.com/event/309291/