Upgrade to Pro — share decks privately, control downloads, hide ads and more …

【ShowNet Stage 2025】AIと既存サービスを融合したマルチテナント対応コンテナ基盤

Avatar for ShowNet ShowNet PRO
August 01, 2025
19

【ShowNet Stage 2025】AIと既存サービスを融合したマルチテナント対応コンテナ基盤

2025年6月に幕張メッセで実施されたInterop Tokyo ShowNetブース内ステージでのNOCチームメンバーによる講演資料

SS2-10 【AIと既存サービスを融合したマルチテナント対応コンテナ基盤】
DC・クラウド分科会

NOCチームメンバー
明石 邦夫

NOCチームメンバー
織 学

Avatar for ShowNet

ShowNet PRO

August 01, 2025
Tweet

More Decks by ShowNet

Transcript

  1. AI/ML DC ネットワーク 相互接続検証 400/800G RoCEv2 DCQCN/DLB • 輻輳制御と負荷分散 Ultra

    Ethernet ローカルLLMとRAG Chatbotアプリによる運用支援 AiSAQ • Disk-based なベクターDB インデックス 省電力光トランシーバ 800G DR8-LPO 400G VR4 4 f x2 ci s co8011 qf x5240- 3 nexus 9332d- 2 qf x5240- 1 nexus 9332d- 1 qf x5240- 2 nexus - das hboar d ucs - c240- m7 r 4900g7 cm9 nexus 93600cd- gz dc808 Tes t ce nt er - b3 t es t ce nt er - a1 cyber f l ood- 400 ar es one- 800g kai - dc - bui l der
  2. 出展社収容向けDHCP/DNSサービス Kubernetes で SRv6 uSID マルチテナントサービス いろんな技術で相互接続 ISIS: crpd BGP:

    cilium データプレーン: cilium Kubernetes: OpenShift DHCP/DNS サービスを展開 VRF ごとにサービス 5 qf x5130 mx304 ne8000- f 2c nexus 93400l d- h1 pa7500 s r x4700 s 6805- 54hf ax3600s ucs - c240- m5- 1. . 3 pt x10002 Ci s co8201- 32f h xr d
  3. Isovalent Cilium SRv6 Kubernetes Network Service コンテナ基盤まで SRv6 uSID VRF

    でマルチテナントサービスの実現 7 ucs - c240- m5- 1. . 3 xr d cr pd mx304 ne8000- f 2c BGP で SID と VPN 経路を広告 ISIS で SID を広告 BGP で VPN 経路を広告 xrd の経路 ci s co8201- 32f h pt x10002
  4. Isovalent Cilium SRv6 Kubernetes Network Service コンテナ基盤まで SRv6 uSID VRF

    でマルチテナントサービスの実現 8 ucs - c240- m5- 1. . 3 xr d cr pd mx304 ne8000- f 2c BGP で locator と VPN 経路を広告 ISIS で locator を広告 BGP で VPN 経路を広告 cilium の egress policy ci s co8201- 32f h pt x10002
  5. Cilium SRv6 egress policy SRv6 の経路は Cilium が kubernetes の

    manifest に追加 BGP update で vrf ごとに追加 9 BGP message Custom Record
  6. 400/800G DC ネットワーク RoCEv2、Ultra Ethernet、AI サーバ収容ネットワーク 800G-DR8 (2DR4) 800G-DR8-LPO 400G-SR8

    400G-SR4/VR4 DC808 でテスターと接続 RoCEv2 400Gx8 のコレクティブ通信 800G負荷 10
  7. Ultra Ethernet Transport Packet Forwarding AI Workload KPI Testing UEC

    & RoCEv2 coexistence UET Packet Trimming (TBC) Ultra Ethernet 相互接続試験 11
  8. UET Packet Trimming TestCenter B3 から送信したパケットを QFX5240 で triming 13

    UEC header 最初の 2byte が 00 → 01 1280 byte → 144 byte に trimming
  9. Apstra によるネットワーク統合管理 EVPN/VXLAN による L2 延伸 BGP によるコンテナサービス HCI 仮想化基盤

    セキュアなコンテナ基盤 Prisma Cloud • コンテナセキュリティ N9324C-SE1U • DPU 搭載スイッチによるFW SDWAN によるクラウド連携 サービスネットワーク/コンテナ、VM 基盤 14 cm7 f x2 ci s co8011 nexus 9336cf x2- 2 nexus 9336cf x2- 1 qf x5120- 3 qf x5120- 2 qf x5120- 1 n9324c - s e1u r 4900g6 dl 385gen11- 1. . 3 t s - 2560 ucs - c240- m7- 1. . 3 s 6805- 54ht nexus 93400l d- h1 c8000v- 1, 2 s dpf cat al ys t 8500- 1 cat al ys t 8500- 2
  10. 仮想化基盤 NutanixのHCI仮想化基盤 Cisco UCS C280M7 3台のクラス タ • CPU: 288コア

    • メモリ: 18TB • ストレージ ⁃ HCI 1.9TB ストレージサーバ 23TB 総VM数: 33台 15 qf x5120- 3 qf x5120- 2 qf x5120- 1 r 4900g6 ucs - c240- m7- 1. . 3 cm7 iSCSI
  11. コンテナ基盤 16 コンテナ基盤 x 4 ノード構成 • ベアメタル3ノード x 2

    • ベアメタル1ノード x 1 • VM3ノード x 1 総アプリケーション数(*): 308 DHCP DNS cache rag-chatbot speedtest ... (*) アプリケーション数: Deployment + DaemonSet + StatefulSet ucs - c240- m7 dl 385gen11 - 1. . 3 ucs - c240- m5 - 1. . 3 ucs - c240- m7 - 1. . 3 .noc .svc .dc
  12. セキュアなコンテナ基盤 外からの防御: N9324C-SE1U DPUを搭載し、FWとしても 使えるL3スイッチ 設定したルールにより パケットをフィルタリング 中からの防御: Prisma Cloud

    コンプライアンス管理 ワークロード脆弱性スキャン 18 n9324c - s e1u dl 385gen11- 1. . 3 nexus 93400l d- h1 ns 1 t wi s t l ock ns 2 unbound s peedt es t
  13. クラウド連携 ShowNetとクラウド(SDPF)をSDWAN接続 外形監視 ログ転送 19 c8500 c8500 c8000v c8000v ShowNet

    Smart Data Platform cl oud- l ogger s eg3- 0. . 2 cx- opt i on- manage r dns - col l ect or f r ont a i l unbound- gl obal kea- gl obal unbound- pr i vat e kea- pr i vat e
  14. NVMe over TCP ローカルLLMを使った実験 qf x5240- 3 nexus 9332d- 2

    qf x5240- 1 qf x5240- 2 ucs - c240- m7 r 4900g7 cm9 nexus 93600cd- gz nexus 9332d- 1 rag-chatbot milvus-aisaq openshift-ai minio RAG Chatbotアプリで運用効率化 Cisco AI Pod (GPU搭載サーバ) Kioxia CM9 (NVMe SSD) Kioxia AiSAQ (ベクトル検索効率化 ライブラリ) OpenAI互換のLLM Serving APIを 提供 AI対応製品と連携 • F5 BIG-IP Next