Upgrade to Pro — share decks privately, control downloads, hide ads and more …

20240321_生成AI時代のDevOps

Avatar for Kazuki Maeda Kazuki Maeda
March 21, 2024
Technology
2
1.2k

 20240321_生成AI時代のDevOps

https://studyco.connpass.com/event/311547/
の資料
Avatar for Kazuki Maeda

Kazuki Maeda

March 21, 2024
Tweet

More Decks by Kazuki Maeda

See All by Kazuki Maeda
敢えて生成AIを使わないマネジメント業務
Avatar for Kazuki Maeda kzkmaeda
2
530
Amazon Bedrockで実現する 新たな学習体験
Avatar for Kazuki Maeda kzkmaeda
3
1k
日本の教育の未来 を考える テクノロジーは教育をどのように変えるのか
Avatar for Kazuki Maeda kzkmaeda
1
220
モノリスの認知負荷に立ち向かう、コードの所有者という思想と現実
Avatar for Kazuki Maeda kzkmaeda
0
220
エンジニアリング価値を黒字化する バリューベース戦略を用いた 技術戦略策定の道のり
Avatar for Kazuki Maeda kzkmaeda
9
5.7k
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
Avatar for Kazuki Maeda kzkmaeda
2
5.5k
生成AIを用いた 新しい学びの体験を 提供するまでの道のり
Avatar for Kazuki Maeda kzkmaeda
0
290
生成AIによって変わる世界 -可能性とリスクについて考える-
Avatar for Kazuki Maeda kzkmaeda
2
300
新しいことを組織ではじめる、そしてつづける
Avatar for Kazuki Maeda kzkmaeda
5
960

Other Decks in Technology

See All in Technology
第64回コンピュータビジョン勉強会「The PanAf-FGBG Dataset: Understanding the Impact of Backgrounds in Wildlife Behaviour Recognition」
Avatar for Tatsuya Suzuki x_ttyszk
0
240
Copilot coding agentにベットしたいCTOが開発組織で取り組んだこと / GitHub Copilot coding agent in Team
Avatar for tnir tnir
0
190
ロールが細分化された組織でSREは何をするか？
Avatar for norimichi.osanai tgidgd
1
420
VS CodeとGitHub Copilotで爆速開発！アップデートの波に乗るおさらい会 / Rapid Development with VS Code and GitHub Copilot: Catch the Latest Wave
Avatar for Yusuke Yamada yamachu
3
460
Introduction to Sansan, inc / Sansan Global Development Center, Inc.
Avatar for Sansan, Inc. sansan33
PRO
0
2.7k
伴走から自律へ： 形式知へと導くSREイネーブリングによる プロダクトチームの信頼性オーナーシップ向上 / SRE NEXT 2025
Avatar for Visional Engineering ＆ Design visional_engineering_and_design
3
460
QuickSight SPICE の効果的な運用戦略～S3 + Athena 構成での実践ノウハウ～/quicksight-spice-s3-athena-best-practices
Avatar for emi emiki
0
290
AI時代にも変わらぬ価値を発揮したい: インフラ・クラウドを切り口にユーザー価値と非機能要件に向き合ってエンジニアとしての地力を培う
Avatar for Toshiaki Baba netmarkjp
0
130
安定した基盤システムのためのライブラリ選定
Avatar for KAKEHASHI kakehashi
PRO
3
130
Rethinking Incident Response: Context-Aware AI in Practice
Avatar for rrreeeyyy rrreeeyyy
2
940
“日本一のM&A企業”を支える、少人数SREの効率化戦略 / SRE NEXT 2025
Avatar for GENDA genda
1
270
SREのためのeBPF活用ステップアップガイド
Avatar for Sohei Iwahori egmc
2
1.3k

Featured

See All Featured
Typedesign – Prime Four
Avatar for Hannes Fritz hannesfritz
42
2.7k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
Avatar for Addy Osmani addyosmani
7
750
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
Avatar for mongodb mongodb
47
9.6k
Gamification - CAS2011
Avatar for David Bonilla davidbonilla
81
5.4k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
Avatar for Eileen M. Uchitelle eileencodes
26
2.9k
Done Done
Avatar for chrislema chrislema
184
16k
Become a Pro
Avatar for Speaker Deck speakerdeck
PRO
29
5.4k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
Avatar for Morgane Peng morganepeng
130
19k
Optimising Largest Contentful Paint
Avatar for Harry Roberts csswizardry
37
3.3k
The Pragmatic Product Professional
Avatar for Laura Van Doore lauravandoore
35
6.7k
Building Better People: How to give real-time feedback that sticks.
Avatar for Will Jessup wjessup
367
19k
Designing for Performance
Avatar for Lara Hogan lara
610
69k

Transcript

  1. 生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda

  2. 自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community

    Builders AWS Startup Community Core Member

  3. 自己紹介

  4. 今日は活用のアイデアを 話します

  5. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  6. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  7. DevOpsについて • DevOpsは文化であり、プラクティスである • よくこんな図で説明されることがある

  8. DevOpsにおけるツール • DevOpsにおいて、プラクティスを加速するツールは多く提供されている ◦ バージョン管理ツール ◦ CI/CDツール ◦ Infrastructure as

    Codeツール... • DevOpsにおいて、ツールとは文化を加速させるもの • 生成AIも文化を加速させるために活用されていく未来を 期待したい

  9. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  10. Devを支援する生成AI • 生成AIの台頭により、開発者の体験は大きく変わった • 現状はDev領域での活用が中心 ◦ Github Copilot ◦ ChatGPT

  11. Code/Test - Github Copilot etc • あああ

  12. Code/Test - Github Copilot • 言わずと知れたAIコーディングアシスタント • エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能による コーディング支援などを享受できる •

    類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど

  13. Plan - ChatGPT etc • あああ

  14. Plan - ChatGPT etc • 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット • 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで 提供することで、一世を風靡 •

    計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多 い印象 • 類似のサービスに、Copilot(Bing)やGemini、Claudeなど

  15. DORA State of DevOps Report 2023 • 一方、生成AIの活用による生産性の効果実感はまだ得られていない

  16. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  17. 生成AIでOpsを支援したい • 生成AIの特性を考えると、Ops領域でも活用はできるはず • 現状、クリティカルソリューションで 広まっているものはそこまでない？

  18. Opsの辛さと 生成AI活用のアイデア

  19. 課題：割り込みによるコンテキストスイッチ • 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371

  20. 課題：エラー発生時の割り込み • エラーを検知したらそこそこやることがある ◦ 通知確認 ◦ エラー内容調査 ◦ 過去の調査履歴確認 ◦

    調査内容共有 ◦ ・・・

  21. 活用アイデア：モニタリング自動応答AI • RAGを応用した、自動モニタリング・Issue作成のシステム ◦ 以下をRAGで自動化 ▪ エラー検知 ▪ ログ調査 ▪

    過去調査履歴確認 ▪ 調査内容共有
  22. None

  23. 課題：心理的安全なコラボレーション • Postmortemなどで、HRTでないコミュニケーションが発生するケースも • そういったコミュニケーションを正しく是正していくのは 人間にはなかなか難しい

  24. 活用アイデア：Postmortem支援AI • LLMとの対話を活用した、意義のある postmortem • 以下の発言があれば是正 ◦ 個人攻撃 ◦ 曖昧な振り返り

  25. 活用アイデア：Postmortem支援AI • 時間があればデモ

  26. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  27. 今後の課題 • LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しまし た • 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそ この負荷がかかります ◦ プロンプトチューニングによる精度の向上 ...

    ◦ 技術アップデートへの追従... • 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう！

  28. ちょっと宣伝・・

  29. 生成AI事例イベントを来週やります！ https://aws-startup-community.connpass.com/event/309291/