Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
コンピューティング資源を統合した分散コンテナ基盤の進化
Search
ShowNet
PRO
June 12, 2024
Technology
0
2
コンピューティング資源を統合した分散コンテナ基盤の進化
2024年6月に幕張メッセで実施されたInterop Tokyo ShowNetブース内ステージでのNOCチームメンバーによる講演資料
ShowNet
PRO
June 12, 2024
Tweet
Share
More Decks by ShowNet
See All by ShowNet
今年の見どころ ~ Inter * Network ~
shownet
PRO
0
1
ShowNet バックボーンの取り組み 〜多様なネットワーク環境を柔軟に統合するルーティングテクノロジー〜
shownet
PRO
0
2
ShowNet Media over IPにおける各放送局の取り組み
shownet
PRO
0
3
ShowNet伝送改めShowNet APN 2024
shownet
PRO
0
3
ShowNet x 宇宙ネットワーク
shownet
PRO
0
3
AI技術とUX監視の応用でShowNetの基盤を支えるモニタリングシステム
shownet
PRO
0
3
見てわかるファシリティ
shownet
PRO
0
3
放送を支えるサービスプロバイダー「ShowNet」が誕生? ~MoIP特別企画のご紹介~
shownet
PRO
0
3
Wi-Fi座談会:「きれいな無線を求めて」あれから10年
shownet
PRO
0
3
Other Decks in Technology
See All in Technology
React Aria で実現する次世代のアクセシビリティ
ryo_manba
4
1.2k
App Router を実プロダクトで採用して見えてきた勘所をちょっとだけ紹介
marokanatani
1
930
o1のAPIで実験してみたが 制限きつすぎて辛かった話
pharma_x_tech
0
200
『GRANBLUE FANTASY: Relink』最高の「没入感」を実現するカットシーン制作手法とそれを支える技術
cygames
1
140
プログラム検証入門
riru
6
870
PdMはどのように全てのスピードを上げられるか ~ 非連続進化のための具体的な取り組み ~
sansantech
PRO
4
1.3k
OR学会2024秋_短期収益と将来のオフ方策評価性能を考慮したクーポン割当方策混合比の決定
recruitengineers
PRO
4
460
ついに出た!OpenAIの最新モデル「o1」って何がすごいの?
minorun365
PRO
3
1.1k
どこよりも遅めなWinActor Ver.7.5.0 新機能紹介
tamai_63
0
210
忙しい人のためのLangGraph概要まとめ
__ymgc__
1
190
不動産売買取引におけるAIの可能性とプロダクトでのAI活用
zabio3
0
270
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
5
46k
Featured
See All Featured
Rebuilding a faster, lazier Slack
samanthasiow
78
8.6k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
26
1.9k
Design by the Numbers
sachag
277
19k
No one is an island. Learnings from fostering a developers community.
thoeni
18
2.9k
YesSQL, Process and Tooling at Scale
rocio
167
14k
4 Signs Your Business is Dying
shpigford
179
21k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
41
6.5k
Building Applications with DynamoDB
mza
90
6k
Infographics Made Easy
chrislema
239
18k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
354
29k
Statistics for Hackers
jakevdp
794
220k
Designing the Hi-DPI Web
ddemaree
278
34k
Transcript
コンピューティング資源を統合した 分散コンテナ基盤の進化 ShowNet NOC DC/Cloudチーム 明石 邦夫 織学
ShowNet 2024 DC-Cloudチームのテーマ コンピューティング資源を統合した分散コンテナ基盤の 進化 クラウドネイティブな次世代サービス基盤 多拠点間に分散するコンテナマネージメント 複雑化するインフラ基盤のためのオブザーバビリティ 2
今年のDC/Serviceセグメント 3
今年のDC/Serviceセグメント 4 クラウドネイティブな次世代 サービス基盤 複雑化するインフラ基盤のため のオブザーバビリティ 多拠点間に分散する コンテナマネージメント
今年の仮想化基盤・コンテナ基盤 仮想化基盤 vSphere • CPUコア数: 168 • メモリ: 2.5TB •
ストレージ: 2PB • 仮想マシン: 35 Nutanix • CPUコア数: 144 • メモリ: 1.5TB • ストレージ: 15TB • 仮想マシン: 35 5 コンテナ基盤 クラスタ数: 8 • Ocp, ocp2, ntnx, vanilla, sdpf, jk8s, jocp, eks 総ノード数: 54 Pod: 990 Deployment+DaemonSet +StatefulSets: 346 Azure Stack HCI • CPUコア数: 72 • メモリ: 512GB • ストレージ: 7.5TB
Apstra によるネットワークの統合管理 ECMP でのコンテナアプリのスケールアウト Service 全体設計 6 Exos-corvault ucs-c240m7 qfx5120
qfx5120 nexus93180yc nexus93180yc nexus9332c nexus9332c NSX apstra nexus9300v panoptica zabbix openshift 仮想化基盤向けの EVPN VXLAN コンテナ基盤向けの eBGP によるL3 接続 ucs-c240m7
RoCEファブリックの相互接続、ECN/PFCのテスト HCIとAKSのAzure連携、コンテナ脆弱性の可視化 DC 全体設計 7 nexus-dashboard qfx5120 nexus93180yc nexus9332d nexus9408
dl380-gen11 Azure Kubernetes Service Prisma-cloud
ネットワークの統合管理 Apstra によるインテントネットワーク 8 テレメトリによる監視 IP アドレス、AS番号などの リソース管理 EVPN VXLAN
での L2 延伸 VXLAN Stiching による DC Interconnect コンテナ基盤向けの eBGP 接続 ECMP によるコンテナアプリの スケールアウト
Nutanix IaaS 基盤 Nutanix 仮想化基盤 Cisco UCS C240M7 3 台でのクラスタ構成
Kubernetes も多数動作 Cisco Intersight と連携も可能 イメージデプロイ ハードウェア管理など 9
vSphere IaaS 基盤 仮想アプライアンスが多数動作 OpenShift、Tanzu なども NSX による分散Firewall 仮想アプライアンスの防御 ストレージに
Exos CORVAULT 4U サイズで 2PB の高密度ストレージ 10
DoH/DoT 今年の ShowNet は DNS cache サーバで DoH/DoT を有効に 証明書は
kubernetes で管理 Discovery of Designated Resolvers 11 nexus93180yc nexus93180yc unbound unbound unbound ShowNet Backbone サーバへは ECMP で分散 unbound.conf 証明書 k8s の etcd から VolumeMount
DoH/DoT の割合 12 DoH は 3~4 割、DoT は 1 割程度
コンテナルータ クラウドネイティブルータを kubernetes へ Service アドレスは BGP でアドバタイズ コンテナネットワークを VRF
で作成 Worker Node 間は SR-MPLS で構成 13
TestCenter A1 から 100Gbps のトラフィックを送信 RoCEv2 エミュレーション 各スイッチが DCQCN によって
トラフィックを抑制できるかの検証 輻輳制御によって送信レートが 22Gbps まで調整されることを確認 ロスレスネットワーク検証 14
コンテナセキュリティ コンテナ基盤上で動くアプリのトラフィックやイメージの 脆弱性検査 15
Kubernetesマルチクラスタ 構成/用途に応じてSubmariner(L3)とSkupper(L7)を使い分けてクラスター間接続 Advanced Cluster Management for Kubernetesでマルチクラスタを一元管理 16 submariner-gw skupper-router
submariner-gw submariner-gw skupper-router skupper-router open-cluster- mgmt-hub DL380 Gen11 prisma-cloud Azure Kubernetes Service
ShowNet/Cloud 連携 (1) ShowNet と SDPF クラウドを L2 接続 Kubernetes
のマルチクラスタを構築 17 control-plane control-plane control-plane worker worker worker c8000v c8000v c8500 c8500 control-plane worker control-plane worker ShowNet
ShowNet/Cloud 連携 (2) Azure Arcでハイパーバイザ、仮想マシン、コンテナを統合 管理 18 ShowNet Azure Stack
HCI opsramp-agent twistlock submariner-gw Azure Virtual Desktop HPE Deployment Automation Windows Admin Center Azure Kubernetes Service HPE DL380 Gen11
Special Thanks 19