Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
20240321_生成AI時代のDevOps
Search
Kazuki Maeda
March 21, 2024
Technology
2
1.1k
20240321_生成AI時代のDevOps
https://studyco.connpass.com/event/311547/
の資料
Kazuki Maeda
March 21, 2024
Tweet
Share
More Decks by Kazuki Maeda
See All by Kazuki Maeda
モノリスの認知負荷に立ち向かう、コードの所有者という思想と現実
kzkmaeda
0
110
エンジニアリング価値を黒字化する バリューベース戦略を用いた 技術戦略策定の道のり
kzkmaeda
9
4.6k
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
kzkmaeda
2
3.6k
生成AIを用いた 新しい学びの体験を 提供するまでの道のり
kzkmaeda
0
240
生成AIによって変わる世界 -可能性とリスクについて考える-
kzkmaeda
2
250
新しいことを組織ではじめる、そしてつづける
kzkmaeda
5
900
20240824_JAWS_PANKRATION_2024
kzkmaeda
0
81
20240416_devopsdaystokyo
kzkmaeda
1
470
20240222_LangChain_ver0.1.0_LCEL
kzkmaeda
4
420
Other Decks in Technology
See All in Technology
コード品質向上で得られる効果と実践的取り組み
ham0215
2
200
セマンティックレイヤー入門
ikkimiyazaki
8
2.7k
Explainable Software Engineering in the Public Sector
avandeursen
0
350
RAGの基礎から実践運用まで:AWS BedrockとLangfuseで実現する構築・監視・評価
sonoda_mj
0
420
【5分でわかる】セーフィー エンジニア向け会社紹介
safie_recruit
0
20k
OPENLOGI Company Profile for engineer
hr01
1
22k
チームビルディング「脅威モデリング」ワークショップ
koheiyoshikawa
0
130
Vision Language Modelを活用した メルカリの類似画像レコメンドの性能改善
yadayuki
9
1.2k
問題解決に役立つ数理工学
recruitengineers
PRO
7
1.7k
LINE API Deep Dive Q1 2025: Unlocking New Possibilities
linedevth
1
160
Symfony in 2025: Scaling to 0
fabpot
2
170
Cline、めっちゃ便利、お金が飛ぶ💸
iwamot
19
18k
Featured
See All Featured
We Have a Design System, Now What?
morganepeng
51
7.5k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
28
9.4k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
46
2.4k
Java REST API Framework Comparison - PWX 2021
mraible
29
8.5k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
Making Projects Easy
brettharned
116
6.1k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
28
1.6k
Art, The Web, and Tiny UX
lynnandtonic
298
20k
Adopting Sorbet at Scale
ufuk
75
9.3k
How to Ace a Technical Interview
jacobian
276
23k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
16
1.1k
A designer walks into a library…
pauljervisheath
205
24k
Transcript
生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda
自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community
Builders AWS Startup Community Core Member
自己紹介
今日は活用のアイデアを 話します
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
DevOpsについて • DevOpsは文化であり、プラクティスである • よくこんな図で説明されることがある
DevOpsにおけるツール • DevOpsにおいて、プラクティスを加速するツールは多く提供されている ◦ バージョン管理ツール ◦ CI/CDツール ◦ Infrastructure as
Codeツール... • DevOpsにおいて、ツールとは文化を加速させるもの • 生成AIも文化を加速させるために活用されていく未来を 期待したい
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
Devを支援する生成AI • 生成AIの台頭により、開発者の体験は大きく変わった • 現状はDev領域での活用が中心 ◦ Github Copilot ◦ ChatGPT
Code/Test - Github Copilot etc • あああ
Code/Test - Github Copilot • 言わずと知れたAIコーディングアシスタント • エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能による コーディング支援などを享受できる •
類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど
Plan - ChatGPT etc • あああ
Plan - ChatGPT etc • 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット • 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで 提供することで、一世を風靡 •
計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多 い印象 • 類似のサービスに、Copilot(Bing)やGemini、Claudeなど
DORA State of DevOps Report 2023 • 一方、生成AIの活用による生産性の効果実感はまだ得られていない
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
生成AIでOpsを支援したい • 生成AIの特性を考えると、Ops領域でも活用はできるはず • 現状、クリティカルソリューションで 広まっているものはそこまでない?
Opsの辛さと 生成AI活用のアイデア
課題:割り込みによるコンテキストスイッチ • 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371
課題:エラー発生時の割り込み • エラーを検知したらそこそこやることがある ◦ 通知確認 ◦ エラー内容調査 ◦ 過去の調査履歴確認 ◦
調査内容共有 ◦ ・・・
活用アイデア:モニタリング自動応答AI • RAGを応用した、自動モニタリング・Issue作成のシステム ◦ 以下をRAGで自動化 ▪ エラー検知 ▪ ログ調査 ▪
過去調査履歴確認 ▪ 調査内容共有
None
課題:心理的安全なコラボレーション • Postmortemなどで、HRTでないコミュニケーションが発生するケースも • そういったコミュニケーションを正しく是正していくのは 人間にはなかなか難しい
活用アイデア:Postmortem支援AI • LLMとの対話を活用した、意義のある postmortem • 以下の発言があれば是正 ◦ 個人攻撃 ◦ 曖昧な振り返り
活用アイデア:Postmortem支援AI • 時間があればデモ
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
今後の課題 • LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しまし た • 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそ この負荷がかかります ◦ プロンプトチューニングによる精度の向上 ...
◦ 技術アップデートへの追従... • 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう!
ちょっと宣伝・・
生成AI事例イベントを来週やります! https://aws-startup-community.connpass.com/event/309291/