Upgrade to Pro — share decks privately, control downloads, hide ads and more …

20240321_生成AI時代のDevOps

Avatar for Kazuki Maeda Kazuki Maeda
March 21, 2024
Technology
2
1.3k

 20240321_生成AI時代のDevOps

https://studyco.connpass.com/event/311547/
の資料

Avatar for Kazuki Maeda

Kazuki Maeda

March 21, 2024
Tweet

More Decks by Kazuki Maeda

See All by Kazuki Maeda
敢えて生成AIを使わないマネジメント業務
Avatar for Kazuki Maeda kzkmaeda
2
600
Amazon Bedrockで実現する 新たな学習体験
Avatar for Kazuki Maeda kzkmaeda
3
1.4k
日本の教育の未来 を考える テクノロジーは教育をどのように変えるのか
Avatar for Kazuki Maeda kzkmaeda
1
230
モノリスの認知負荷に立ち向かう、コードの所有者という思想と現実
Avatar for Kazuki Maeda kzkmaeda
0
230
エンジニアリング価値を黒字化する バリューベース戦略を用いた 技術戦略策定の道のり
Avatar for Kazuki Maeda kzkmaeda
9
5.9k
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
Avatar for Kazuki Maeda kzkmaeda
2
5.8k
生成AIを用いた 新しい学びの体験を 提供するまでの道のり
Avatar for Kazuki Maeda kzkmaeda
0
310
生成AIによって変わる世界 -可能性とリスクについて考える-
Avatar for Kazuki Maeda kzkmaeda
2
310
新しいことを組織ではじめる、そしてつづける
Avatar for Kazuki Maeda kzkmaeda
5
980

Other Decks in Technology

See All in Technology
リモートワークで心掛けていること 〜AI活用編〜
Avatar for naoki85 naoki85
0
190
Telemetry APIから学ぶGoogle Cloud ObservabilityとOpenTelemetryの現在 / getting-started-telemetry-api-with-google-cloud
Avatar for 逆井（さかさい） k6s4i53rx
0
160
歴代のWeb Speed Hackathonの出題から考えるデグレしないパフォーマンス改善
Avatar for did0es shuta13
6
520
ABEMAにおける 生成AI活用の現在地 / The Current Status of Generative AI at ABEMA
Avatar for Yuji Hato dekatotoro
0
240
Autonomous Database Serverless 技術詳細 / adb-s_technical_detail_jp
Avatar for oracle4engineer oracle4engineer
PRO
18
52k
datadog-distribution-of-opentelemetry-collector-intro
Avatar for tetsuya28 tetsuya28
0
120
形式手法特論：位相空間としての並行プログラミング #kernelvm / Kernel VM Study Tokyo 18th
Avatar for y_taka_23 ytaka23
3
1.5k
AIに頼りすぎない新人育成術
Avatar for CUEBiC Inc. cuebic9bic
3
330
九州の人に知ってもらいたいGISスポット / gis spot in kyushu 2025
Avatar for sakaik sakaik
0
200
JAWS-UG のイベントで使うハンズオンシナリオを Amazon Q Developer for CLI で作ってみた話
Avatar for kazzpapa3 kazzpapa3
0
120
Amazon GuardDuty での脅威検出：脅威検出の実例から学ぶ
Avatar for KintoTech_Dev kintotechdev
0
130
Kiro と Q Dev で 同じゲームを作らせてみた
Avatar for r3_yamauchi r3_yamauchi
PRO
1
120

Featured

See All Featured
Building an army of robots
Avatar for Kyle Neath kneath
306
45k
Put a Button on it: Removing Barriers to Going Fast.
Avatar for kastner kastner
60
4k
Into the Great Unknown - MozCon
Avatar for Noah Learner thekraken
40
2k
We Have a Design System, Now What?
Avatar for Morgane Peng morganepeng
53
7.7k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
Avatar for Eileen M. Uchitelle eileencodes
139
34k
The Pragmatic Product Professional
Avatar for Laura Van Doore lauravandoore
36
6.8k
The Psychology of Web Performance [Beyond Tellerrand 2023]
Avatar for Tammy Everts tammyeverts
49
3k
Fireside Chat
Avatar for paigeccino paigeccino
39
3.6k
Build The Right Thing And Hit Your Dates
Avatar for Maggie C. maggiecrowley
37
2.8k
How STYLIGHT went responsive
Avatar for nonsquared nonsquared
100
5.7k
YesSQL, Process and Tooling at Scale
Avatar for Rocio Delgado rocio
173
14k
The Cult of Friendly URLs
Avatar for Andy Hume andyhume
79
6.5k

Transcript

  1. 生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda

  2. 自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community

    Builders AWS Startup Community Core Member

  3. 自己紹介

  4. 今日は活用のアイデアを 話します

  5. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  6. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  7. DevOpsについて • DevOpsは文化であり、プラクティスである • よくこんな図で説明されることがある

  8. DevOpsにおけるツール • DevOpsにおいて、プラクティスを加速するツールは多く提供されている ◦ バージョン管理ツール ◦ CI/CDツール ◦ Infrastructure as

    Codeツール... • DevOpsにおいて、ツールとは文化を加速させるもの • 生成AIも文化を加速させるために活用されていく未来を 期待したい

  9. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  10. Devを支援する生成AI • 生成AIの台頭により、開発者の体験は大きく変わった • 現状はDev領域での活用が中心 ◦ Github Copilot ◦ ChatGPT

  11. Code/Test - Github Copilot etc • あああ

  12. Code/Test - Github Copilot • 言わずと知れたAIコーディングアシスタント • エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能による コーディング支援などを享受できる •

    類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど

  13. Plan - ChatGPT etc • あああ

  14. Plan - ChatGPT etc • 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット • 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで 提供することで、一世を風靡 •

    計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多 い印象 • 類似のサービスに、Copilot(Bing)やGemini、Claudeなど

  15. DORA State of DevOps Report 2023 • 一方、生成AIの活用による生産性の効果実感はまだ得られていない

  16. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  17. 生成AIでOpsを支援したい • 生成AIの特性を考えると、Ops領域でも活用はできるはず • 現状、クリティカルソリューションで 広まっているものはそこまでない？

  18. Opsの辛さと 生成AI活用のアイデア

  19. 課題：割り込みによるコンテキストスイッチ • 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371

  20. 課題：エラー発生時の割り込み • エラーを検知したらそこそこやることがある ◦ 通知確認 ◦ エラー内容調査 ◦ 過去の調査履歴確認 ◦

    調査内容共有 ◦ ・・・

  21. 活用アイデア：モニタリング自動応答AI • RAGを応用した、自動モニタリング・Issue作成のシステム ◦ 以下をRAGで自動化 ▪ エラー検知 ▪ ログ調査 ▪

    過去調査履歴確認 ▪ 調査内容共有
  22. None

  23. 課題：心理的安全なコラボレーション • Postmortemなどで、HRTでないコミュニケーションが発生するケースも • そういったコミュニケーションを正しく是正していくのは 人間にはなかなか難しい

  24. 活用アイデア：Postmortem支援AI • LLMとの対話を活用した、意義のある postmortem • 以下の発言があれば是正 ◦ 個人攻撃 ◦ 曖昧な振り返り

  25. 活用アイデア：Postmortem支援AI • 時間があればデモ

  26. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  27. 今後の課題 • LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しまし た • 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそ この負荷がかかります ◦ プロンプトチューニングによる精度の向上 ...

    ◦ 技術アップデートへの追従... • 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう！

  28. ちょっと宣伝・・

  29. 生成AI事例イベントを来週やります！ https://aws-startup-community.connpass.com/event/309291/