22nd ACRi Webinar - ChipTip Technology Eric-san's slide

HFCを実現するFPGAオーケストレーション：Kubernetesによる柔軟なリソース管理と仮想化

Transcript

1. HFCを実現する FPGAオーケストレーション Kubernetesによる柔軟なリソース管理と仮想化 Chiptip Technology 2026-2-6 第22回ACRiウェビナー
2. Chiptip Technology 自己紹介 福田エリック, Founder & CEO of Chiptip Technology • 前職：ポスドク＠ • データセンターFPGAを使った大規模分散処理の研究 • 研究をベースに2017年にChiptip Technologyを創業 Chiptip Technology, Inc. 設立：2017年 所在地：米国カリフォルニア Chiptip Technology株式会社 設立：2019年 所在地：東京都港区 理念：Bridging the Gap Between Software Agility and Silicon Performance
3. Chiptip Technology • ソフトウェアは単一ノードで実行できるアプリケーションの大きさはメモリサイズで決まる ◦ 巨大なメモリサイズがあれば巨大なアプリケーションを単一ノードで実行できる ◦ 実際にメモリサイズはアプリケーションの大きさの制約要因にならないくらい十分にある • FPGAやASICは単一ノードで実行できるアプリケーションの大きさはチップ面積で決まる ◦ 巨大なアプリケーションを単一ノードで実行するのは困難 ◦ 複数のチップを連携させる必要がある • クラウドでは様々なリソースをネットワークで連携することで汎用的な環境にする HFCの必要性
4. Chiptip Technology Galapagos • トロント大学で2014年頃から研究 • ネットワークに直接接続された FPGAを組み合わせて 仮想的に「大きなFPGA」を作る→HFC • OpenStackでVMを管理 • VMとFPGAをPCIeで接続（OpenCL） • FPGA間の接続はXMLで定義
5. Chiptip Technology Apache Flink + FPGA func_a(var_a).func_b(var_b).func_c(var_c). … A B C CPU FPGA CPU ノード管理 ノード単体処理 ストリーム処理 ノード間ネットワーク 分離が弱い 課題 CPU前提の設計でパケットを直接 FPGAに送れない • プログラミングパラダイムは不要 • ノード単体処理とノード間ネットワークが分離さ れたフレームワークが必要
6. Chiptip Technology Chiptip分散処理FW User application A Python B HLS C HDL D Python Operator files Python Job dataflow file A B C D FPGA FPGA FPGA FPGA FPGA JobManager Data center Run Execute A B C D 6 User ノード管理 ノード単体処理 ノード間ネットワーク TaskManager
7. Chiptip Technology Kubernetesの台頭 デバイス OS/仮想化 オーケストレーション ノード単体処理 分散処理 • 分散処理FWは売れなかった • Kubernetes対応を多く聞かれた • VNF + Kubernetes -> CNF ◦ CNFをハードウェア化すればHFCになる CPU Linux/Container Kubernetes Pod Flink
8. Chiptip Technology 仮想化 pFPGA vFPGA vFPGA vFPGA vFPGA Hypervisor Shell Hypervisor Shell: kubeletの役割 • Kubernetesサーバとの通信 • vFPGAの管理 • 物理インターフェースの仮想化 • ユーザアプリケーションのインストール vFPGA vFPGA vFPGA vFPGA ユーザには直接ネットワークに繋がった 複数のFPGAデバイスに見える
9. Chiptip Technology • vFPGAにはホストCPUがない • GalapagosではVMからPCIe経由でFPGAを管理していた • Kubernetesでこれをやる場合、PodとFPGAをPCI-passthroughで繋ぐ必要が ある ◦ まだエコシステムが出来上がっていない ▪ Linux, Docker, Kubernetes, PCIe, SR-IOV, FPGAの各レイヤで対応してい る必要がある • リスクが高い ◦ 他の組織の方針や進捗に大きく左右されてしまう ▪ エコシステムが出来上がるまでに何年もかかるし、方針を変えられたら会社 が潰れる ◦ その割にできたときのメリットが小さい • FPGAをCPUから独立したリソースとして管理するのが良い • PCIe周りのエコシステムが成熟してきたら取り込む PCIeを使わない選択 Pod Docker Linux デバイスド ライバ pFPGA vFPGA vFPGA PCIe SR-IOV
10. Chiptip Technology オーケストレーション Primitive advanced 物理サーバ Pod ReplicaSet Deployment 物理FPGA vFPGAPod vFPGAReplicaSet vFPGADeployment Kubernetesが管理する最も基本 的なリソース単位 同じPodを複数生成して冗長性を 提供する ReplicaSetに対してローリング アップデート機能を提供する vFPGAカスタムリソースで最も基 本的なリソース単位 同じvFPGAPodを複数生成して冗 長性を提供する vFPGAReplicaSetに対してローリ ングアップデート機能を提供する Kubernetesリソース vFPGAカスタムリソース 10
11. Chiptip Technology 現状 デバイス OS/仮想化 オーケストレーション ノード単体処理 分散処理 CPU Linux/Container Kubernetes Pod Flink FPGA Hypervisor Shell/vFPGA Kubernetes vFPGAPod 分散処理FW
12. Chiptip Technology 分散処理FW-k8s統合 A B C A B C B B A C データフローグラフ （ロジカルプラン） 実行プラン （フィジカルプラン） FPGA FPGA CPU vFPGADeployment vFPGADeployment Deployment • 冗長性確保 • 実行中プラン変更可 • 実行中アップデート可 パーサ←今後開発
13. Chiptip Technology マルチテナント機能の活用 A B C FPGA FPGA CPU Container A B Container A B オペレータBの実装改善 • 余分なリソースに課金しなくて良い • 余分なリソースを他に使える • 冗長化すると違いが顕著になる C C
14. Chiptip Technology 動的再配置による最適化 Container A B Container A B Container AB C C C • リソース量・コストの最適化 • 性能の最適化 Kubernetesで再配置 Vivadoで統合、Kubernetesで再配置
15. Chiptip Technology CI/CDによる開発 Container A B Container A B Container AB C C C GitHub Actions HDL SW Manifest • 自動テスト・自動デプロイ • 開発サイクルの高速化
16. Chiptip Technology ASICへの移行 Container A B C Container A B C FPGA ASIC • 効果の高いノードに絞って ASIC化 • 性能向上 • ただしフレキシビリティは低下 FPGA FPGA
17. Chiptip Technology ユースケース FPGA FPGA FPGA FPGA FPGA FPGA CPU FPGA FPGA CPU FPGA FPGA FPGA FPGA 専用エミュレータ (非常に高速, 高価) AWS F1/F2 (低速, 安価) Chiptip (高速, 安価) ハードウェアエミュレーション ネットワークセキュリティ Next Generation Firewall ネットワークトンネル
18. Chiptip Technology FHE/FPGAクラウド データセキュリティ： EmotionX • 準同型暗号（FHE） • 計算量が膨大→FPGAで高速化 • Kubernetesでオーケストレーション • FHEクラウドを立ち上げ予定 • 余剰FPGAリソースをFPGAクラウドとして提供 • FPGAで実証後ASICに移行 ネットワーク直結FPGAクラウドで一緒に新たなチャレ ンジをしましょう！ • FPGA/ASIC IPコアのアジャイル開発 • クラウド向けチップ開発 • ハードウェアエミュレータ開発 • サイバーセキュリティ など
19. Chiptip Technology Web: https://chiptip.tech/contact Email: info@chiptip.tech 連絡先