Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
PetiteSRE_GenAIEraにおけるインフラのあり方観察
Search
ICHICHI
November 21, 2024
Research
0
300
PetiteSRE_GenAIEraにおけるインフラのあり方観察
2024/11/21 JAWS-UG SREでの発表スライド
叶奕池_キンドリルジャパン株式会社, All Rights Reserved.
ICHICHI
November 21, 2024
Tweet
Share
More Decks by ICHICHI
See All by ICHICHI
Hybrid NW Infra Design Review: Classic Pattern including Outposts & Route 53 Profile
ichichi
2
610
re:Infrastructure_for the NextGen AI/ML and Beyond
ichichi
0
520
Other Decks in Research
See All in Research
Sosiaalisen median katsaus 03/2025 + tekoäly
hponka
0
870
ラムダ計算の拡張に基づく 音楽プログラミング言語mimium とそのVMの実装
tomoyanonymous
0
450
Batch Processing Algorithm for Elliptic Curve Operations and Its AVX-512 Implementation
herumi
0
150
Trust No Bot? Forging Confidence in AI for Software Engineering
tomzimmermann
1
190
SpectralMamba: Efficient Mamba for Hyperspectral Image Classification
satai
3
310
ドローンやICTを活用した持続可能なまちづくりに関する研究
nro2daisuke
0
210
ことばの意味を計算するしくみ
verypluming
11
2.4k
言語モデルによるAI創薬の進展 / Advancements in AI-Driven Drug Discovery Using Language Models
tsurubee
2
310
한국어 오픈소스 거대 언어 모델의 가능성: 새로운 시대의 언어 이해와 생성
inureyes
PRO
0
310
CARMUI-NET:自動運転車遠隔監視のためのバーチャル都市プラットフォームにおける通信品質変動機能の開発と評価 / UBI85
yumulab
0
190
AWS 音声基盤モデル トーク解析AI MiiTelの音声処理について
ken57
0
250
実行環境に中立なWebAssemblyライブマイグレーション機構/techtalk-2025spring
chikuwait
0
160
Featured
See All Featured
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.7k
Typedesign – Prime Four
hannesfritz
41
2.6k
Intergalactic Javascript Robots from Outer Space
tanoku
271
27k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
280
13k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
32
5.5k
The World Runs on Bad Software
bkeepers
PRO
68
11k
Designing Experiences People Love
moore
142
24k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
160
15k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.4k
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.7k
Transcript
: におけるインフラのあり方観察 キンドリルジャパン株式会社 叶 奕池( )
自己紹介 叶 奕池(ICHICHI) キンドリルジャパン株式会社 Infrastructure/Cloud Architect Japan AWS Junior.Champion 2023
略歴: 2024年6月ー現在 大手カード会社様 生成AI基盤開発案件 Lead Architect, Tech Lead • GPU-Basedコンテナ基盤、AI/MLデータベース、自動化設計・開発 • Full Stackスクラム開発支援 2024年6月ー現在 大手自動車産業のお客様 DX基盤開発案件 Associate Architect • Over 2000+サーバを有する大規模AWS基盤設計・構築 • スクラム開発推進 2022年4月ー2024年6月 大手保険会社様 アウトソーシング案件 AWS Team Lead, Architect • Over 1000+サーバーを有する大規模ハイブリッドクラウド基盤構築・運用管理自動化設計 • 先端ソリューション開発:Outposts、オンプレミスへのAWSエージェント統合、など • 日米協同クラウド活用推進 2021年4月ー2022年3月 IBM Cloud Advanced Customer Support セキュリティサポートエンジニア 2021年4月 新卒入社 よう えきち
• • • • •
❶注目すべき機械学習モデルの開発状況: 年 • 産業界が モデルを開発 • 学術界が モデルを開発 • 産学連携から
モデルが誕生 「機械学習モデルの開発は依然として、産業界が主導権を握る」 ❷基盤モデル開発の加速 • 年の開発数は 年の 倍以上 • が として公開 「開発の民主化が進んでいる」 ❸技術性能 • 画像分類や言語理解で人間を凌駕 • 競技数学や視覚的常識判断では未だ課題 ❹責任のある • 関連インシデント: 年に 件報告(前年比 増) • 社会的影響への懸念拡大 「技術革新と責任ある開発の両立が急務」 ❶ (エージェント型 )の台頭 • 次世代の強力な基盤モデルへの進化 • 自律的な意思決定が可能なデジタルエージェント • 高度な推論能力を持つチャットボット・コパイロット ❷インダストリーにおける の適用 • 消費者向けと企業向けのタスク処理は継続、主な適用分野 ❹ を統合したソフトウェア開発 • は開発を支援する役割から、ソフトウェア自体の一部に 変更 ❸アクセス可能な ツール • より安価、安全な ツールは日常生活の一部として浸透
のインフラ クラウド設計 デリバリ現場において、 が中心的な役割を果たす ❶ 具体的なニーズの基に を活用 • 実際の業務課題やニーズから 活用を検討
• 明確な目的意識を持った 導入 ❷ で解決すべき問題の明確化 • 課題の具体的な定義づけ • 解決したい問題の詳細を記述 ❸ の提供する可能性を評価 • 利用可能な ツールの機能を評価 • 技術的な実現可能性を検討 ❹ 適切な情報に基づく の活用 • 必要なデータの特定と収集 • データの品質と適合性の確認 ❺ 実践における 活用評価基準の形成 • 実際の業務環境での適用検討 • メリットとリスクを軸に評価 ❶アプリケーション開発と統合 • 開発パターンと関連する機能構造を理解 • 階層化・構造化されたリソース割り当て戦略を策定 ❷インフラストラクチャ設計 デリバリーモデル • プロダクト レイヤーベースではなく、機能 サービスベースの 策定 • 変化するサービスメッシュの要件を対応可能に ❸ ( )の適用 • 自動化されたデプロイメントと改善パイプラインを確立 • 早期段階からの を実装
❶Complete Cloud Native • クラウド環境に最適化された新し いアーキテクチャへの完全移行 ❷Semi-Cloud Native • クラウド上にあるシステムと密接
に連携するものが対象 • オンプレミスに残しつつ、AWS AgentやAWS Outpostsを導入 ❸On-premises Remains • 現時点移行不可なシステム Team/Technical Agility Enterprise Solution Design/Delivery Agile Product Design/Delivery ❶Individual Service-based Modules • サービスの単体デプロイまたは導入検証の ために利用 • 例:環境定義スクリプトが組み込んだEC2 起動テンプレート ❷Technical Solution-based Modules • 日常的なシステム運用から生まれたソ リューションモジュール • 例:障害対応訓練のためのAWS Fault Injection Simulatorテンプレート ❸Industry Business Case-based Modules • 特定のインダストリーの特徴を考慮したビ ジネスケースモジュール • 例:BSEA for FSI ❹Observability Modules • 上記のモジュールとセットにする監視モ ジュール ❶タスク管理の高度化 • 各タスクの目標、成果物、期限を明確に 定義し共有 • パイプライン式スケジューリング ❷多層的なチーム戦略 • L1チーム(基本デリバリ) • L2チーム(高度デリバリ) • L3チーム(先端デリバリ) ❸AI統合サービスの活用 Continuous Input/Output : Lean Portfolio Management
: Team/Technical Agility Agile Product Design/Delivery • Industry Business Case-based
Modules Agile Product Design/Delivery • Observability Modules Agile Product Design/Delivery • Individual Service-based Modules • Technical Solution-based Modules Lean Portfolio Management Continuous Input/Output • Automation • Agile • Observability
1.GenAI時代におけるアドバンスドインフラデザイン/デリバリの成功要因: • SREの原則と組み合わせたバランスの取れたアプローチ • ビジネス実践から生まれた明確で実用性のあるモデリングフレームワーク • 継続的な改善サイクル 2.実用的なAIインフラストラクチャは、まだ発展途上の段階にあり、 現行のクラウドインフラストラクチャとの主な相違点: •
創発的な知能能力 • 自己組織化システム • 最小限の人的介入 • 高度なメタ学習フレームワーク
1.AI駆動の自動化: • ルーチン作業の自動化から複雑な意思決定の自動化へ • より知的な自動化システムの開発 2.高度な可観測性の実装: • メトリクス、ログ、トレースの統合的な監視 • AIを活用した異常検知と分析
3.自己回復可能なインフラストラクチャー: • 予測的なメンテナンス • 自動的な障害回復メカニズム • システムの自己最適化機能
None
ありがとうございました Re:Inventで再会しましょう― 本日発表の日本語文面は、Claude 3.5 Sonnet、Chat GPT 4.0およびMicrosoft Copilotの協賛でお送りいたしました キンドリルジャパン株式会社 叶
奕池(ICHICHI) Infrastructure/Cloud Architect