第56回 情報科学若手の会 Wasmを実行するunikernelとWasmコンパイラ

第56回 情報科学若手の会で発表したスライドです。

Transcript

1. Wasmを実行するunikenrelと
 Wasmコンパイラ
 2023/10/8 情報科学若手の会
 @saza_ku・@ainno
 1
2. 自己紹介
 @ saza_ku
 • 低レイヤ, Web, インフラ
 
 @ ainno
 • システムソフトウエア, パケット処理, CUDA…
 
 
 2023年度 IPA未踏事業として取り組んでいるプロジェクトの発表です！
 2
3. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

4. クラウドの登場
 • 仮想化技術の発達 → クラウドの登場
 • 人々が簡単に計算リソースを取得・管理できるように
 仮想化 利用
5. コンテナの登場
 • アプリケーションと環境をパッケージング → コンテナイメージ
 • イメージを複数の環境で展開して実行できる
 イメージをビルド push pull
6. クラウドとコンテナで便利な世界

7. 既存のクラウド・コンテナ
 環境の問題点

8. コンテナイメージのプラットフォーム依存性
 • コンテナイメージは OS・CPU アーキテクチャをまたぐことができ ない
 • プラットフォームごとに対応したコンテナイメージを作らなければ ならない
 Windows / x86_64 Linux / ARM64 Windows / x86_64 Linux / ARM64 それぞれのイメージを作成
9. 大きな仮想化レイヤ
 VM ハイパーバイザ ホストカーネル ゲストカーネル コンテナランタイム アプリケーション ライブラリ・ランタイム • VMとコンテナの二重の仮想化
 • 大きくなる仮想化オーバーヘッド
 • もっと仮想化レイヤを軽量化し
 最適化された実行環境を作りたい

10. もっとクラウド環境を最適化したい

11. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

12. WebAssembly (Wasm)
 • ブラウザ上で実行可能な仮想命令セット
 • 近年サーバー上でも実行できる Wasm ランタイムが登場
 • C, C#, Zig, Rust, Goなど複数の言語からコンパイル可能
 12
13. WebAssembly System Interface (WASI) 
 • Wasmにシステムのリソースへのアクセスを提供するAPIの仕様
 ◦ Wasm版のシステムコール（ただし関数で提供される）
 ◦ OSやブラウザの差異を吸収
 
 13
14. Wasmの何が嬉しいか？
 14 HW/Platform-independent runtimeがあれば同一バイナリがどの OS/CPUでも実行可能 Language-independent 複数の言語からコンパイルされる Safe sandbox環境で実行される Fast ネイティブに近い速度で実行可能 [1] https://webassembly.github.io/threads/core/intro/introduction.html#design-goals 仕様[1]より引用すると...
15. Wasm によるアプローチ
 • コンテナイメージの代わりに Wasm バイナリを持ち運ぶ
 • プラットフォームをまたいで実行できる
 Windows / x86_64 Linux / ARM64 単一の Wasm バイナリが どこにでも持ち運べる
16. Wasmとコンテナランタイム
 • Wasmをコンテナランタイム上で実行できる
 ◦ containerdがWasmEdgeと
 Wasmtimeをサポート
 • Wasm を既存のコンテナ
 オーケストレーションツールの
 エコシステムに載せる
 

17. コンテナランタイムの仕組み
 17 コンテナ 高レベルランタイム 低レベルランタイム containerd-shim-runc
18. WasmEdge ✖ コンテナランタイム
 18 Wasmプログラム 高レベルランタイム Wasmランタイム containerd-shim-wasmedge • イメージからWasmファイルを 読み取る • WasmEdgeインスタンスを起 動
19. 既存のWasmランタイムの課題
 ネイティブよりは実行速度が遅いことが報告されている [2]
 [2] B. Spies and M. Mock, "An Evaluation of WebAssembly in Non-Web Environments", 2021 XLVII Latin American Computing Conference (CLEI), pp. 1-10, 2021. 
 19 Native Wasmランタイム 数値計算ベンチマークの実行時間 (lower is better)
20. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

21. unikernel とは
 1つのアプリケーションとカーネルが同時にビルドされた実行可能ファイル
 
 アプリケーションのコード カーネルのコード リンク 実行可能ファイル 21 unikernel 1つのアプリケーション →単一アドレス空間 ベアメタル/VMとして動 作するカーネル
22. 普通のOSでアプリケーションを動かすとき
 22 仮想アドレス空間 1 仮想アドレス空間 2 仮想アドレス空間 3 プロセス 1 プロセス 2 プロセス 3 カーネル カーネル カーネル ディスク 実行可能 ファイル 普通のOSでアプリケーションを動かすとき

23. unikernelでアプリケーションを動かすとき
 23 メモリ カーネル + アプリケーション カーネルのビルド時に アプリケーションとリンクされている unikernelでアプリケーションを動かすとき

24. unikernel によるアプローチ
 • クラウドの普及 → VM 上でワークロードを動かすのが一般的に
 • カーネルをより小さくし、そのワークロードに特化させたい
 → unikernel の登場
 ハイパーバイザ VM VM Linux Linux App App ハイパーバイザ VM VM unikernel unikernel App App 軽量化・特化
25. 仮想化レイヤの軽量化
 VM ハイパーバイザ ホストカーネル ゲストカーネル コンテナランタイム アプリケーション ライブラリ・ランタイム VM ハイパーバイザ ホストカーネル unikernel アプリケーション
26. 仮想化レイヤの軽量化
 VM ハイパーバイザ ホストカーネル ゲストカーネル コンテナランタイム アプリケーション ライブラリ・ランタイム VM ハイパーバイザ ホストカーネル unikernel アプリケーション 起動の高速化 実行時間の削減 セキュリティホールの縮小
27. unikernel の利点
 27 実行速度が速い security面でも嬉しい 起動時間が短い メモリのフットプリントが小さい • context switchingが不要
 • システムコールのオーバヘッド削減 • Attack surfaceの少なさ
 • HyperVisorによる隔離 • コードサイズの小ささ
 • モジュール化された構成
28. unikernel の性能
 28 Simon Kuenzer, Vlad-Andrei Bădoiu, Hugo Lefeuvre, Sharan Santhanam, Alexander Jung, Gaulthier Gain, Cyril Soldani, Costin Lupu, Stefan Teodorescu, Costi Răducanu, Cristian Banu, Laurent Mathy, Răzvan Deaconescu, Costin Raiciu, and Felipe Huici. 2021. Unikraft: Fast, Specialized Unikernels the Easy Way. In 16th European Conference on Computer Systems (EuroSys). 376–394. https://doi.org/10.1145/3447786.3456248
29. unikernelの課題
 29 運用のつらさ
 互換性
 アプリケーションの移植が必要
 独自のビルドシステム
 手元でカーネルごとビルド
 煩雑なデプロイ
 ディスクイメージを作ってカーネルをブートして...

30. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

31. アプローチ
 Wasmをunikernel上で実行できるようにし 
 コンテナランタイムを介して動かす
 31 Wasm 󰢐 ポータビリティ 󰢄 実行環境の遅さ unikernel 󰢐 軽量なカーネル 󰢄 運用のつらさ
32. アプローチ
 32 あたかもコンテナとして振る 舞う VM unikernel
33. アプローチ
 33 unikernel 󰢄 互換性 󰢄 独自のビルドシステム 󰢄 複雑なデプロイ 👈 WASIによる互換性
 👈 コンテナとして
 透過的に扱う
 Wasm 󰢄 実行環境の遅さ 👈 unikernelとして動かす

34. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

35. mew: Wasmを実行するunikernel
 • Wasm にビルドされたアプリケーションを実行する
 • mewはAPIとしてWASIを提供する
 35 Hypervisor mew mew アプリケーションを Wasm にビルド
36. mew: Wasm を実行する仕組み
 1. Wasmをホストネイティブなオブジェクトファイルに変換
 2. mewをコンパイル
 3. 2, 3をリンクしカーネルイメージ作成
 4. 物理マシン or 仮想マシンで実行
 ① ② ③ ④ 36
37. mew: Wasm を実行する仕組み
 1. Wasmをホストネイティブなオブジェクトファイルに変換
 2. mewをコンパイル
 3. 2, 3をリンクしカーネルイメージ作成
 4. 物理マシン or 仮想マシンで実行
 ① ② ③ ④ 37
38. wasker: Wasm コンパイラ
 Wasm binaryをnative binaryに変換するコンパイラ
 • WASI 関数を未解決シンボルにして
 オブジェクトファイルへ変換
 • 生成するオブジェクトファイルは
 独自に実装したWASI関数の実装と
 リンクできる
 → 独自の WASI 実装を差し込める
 38
39. wasker: 開発するに至った経緯
 • Wasm をネイティブバイナリに変換するものはすでにある
 • ↑ OS 依存なバイナリが出力される
 ◦ Linux、Windows のシステムコールを
 叩いている
 ◦ WASI API の実装がすでに同梱されている
 ◦ → mew 上では動かない
 • wasker は WASI API の実装自体はバイナリに含まず、未解決シンボ ルにする
 ◦ → OS 非依存
 ◦ mew のみならず、他の OS 上で Wasm を実行することが可能に

40. mew ✖ コンテナランタイム
 40 Wasmプログラム 高レベルランタイム VM containerd-shim-mew • Wasmを読み取る • waskerでコンパイル • mewとwaskerの生成物をリンク • VM上でmewを起動 mew
41. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

42. 進捗
 • mew
 ✓ タイマ
 ✓ 動的メモリ管理
 ❏ ネットワーク
 ✓ ネットワークデバイスドライバ
 ❏ ファイルシステム
 • wasker
 ✓ 命令のサポート
 ❏ Vector/SIMD命令除く
 ❏ テスト・デバッグ
 ❏ バイナリを小さくするための最適化
 • containerd-shim

43. デモ

44. デモ

45. デモの内容
 mew Wasm カーネルの初期化
46. デモの内容
 mew Wasm 実行
47. デモの内容
 mew Wasm フィボナッチ数 の計算
48. デモの内容
 mew Wasm print_int()
49. デモの内容
 mew Wasm 結果を表示
50. unikernel: mew
 • Zig で開発中
 • メモリ管理
 ◦ Newlib の malloc
 ▪ 組み込み向けのベアメタル環境で動く libc
 • ネットワーク
 ◦ virtio-net
 ◦ lwIP (light weight IP)
 ▪ 組み込み向けの TCP/IP プロトコルスタックの実装
 • ファイルシステム
 ◦ FAT32
 ◦ とりあえず Read Only?

51. メモリ管理
 • カーネルが使う領域と Wasm が使う領域を別々に管理する
 ◦ アドレス空間が一つしかないので
 ちょっと工夫する必要がある
 ◦ それぞれ異なるアドレスにマップ
 • Wasm のメモリは 64KiB ごとに管理
 ◦ カーネル内でも 64KiB ごとに管理
 • 割り当てた領域は Wasm、Newlib に
 管理してもらう
 0xffff800000000000 0xffffc00000000000 ・・ ・ 64KiB ・・ ・ Wasmが使う Newlib が使う
52. Wasm コンパイラ: wasker
 • RustとLLVMで開発中
 • WasmのLLVMフロントエンドを書いている(Wasm to LLVM IR)
 • LLVM IRの表現力 > Wasmの表現力なので, 割と書きやすい
 ◦ 2k行くらいで動いている

53. CI
 • GitHub Actions 上で QEMU を動作して E2E テストを実行
 • mew から期待する出力が得られたら pass
 • reusable workflow にすることで mew、wasker 両方から実行

54. CI
 • QEMU の標準出力を
 ファイルに出力
 • そのファイルに対して
 期待する出力文字列で
 grep する

55. 目次
 • クラウドとコンテナの現状
 • Wasmによるアプローチと問題点
 • unikernelによるアプローチと問題点
 • アプローチ
 • 3つの開発物
 • デモ・実装
 • 貢献

56. 貢献1:
 unikernelをコンテナとして
 扱いやすくする
 56
57. Wasmコンテナとしてのmew
 57 Wasmコンテナイ メージ Wasmtime mew 🔥 unikernel を Wasm コンテナとして透過 的に扱う
58. 貢献2:
 unikernelの互換性問題を解決
 58
59. unikernel の歴史: 2013~2016
 • この頃の unikernel は独自の API を持っていた
 → 既存のアプリケーションは移植が必要
 新規のアプリケーションもその API で開発
 
 • 例えば
 ◦ MirageOS → OCaml しか動かない
 ◦ IncludeOS → C++ しか動かない
 59
60. unikernel の歴史: 2016~現在
 • 「じゃあ Linux 向けのバイナリを動かそう！」
 → Linux バイナリ互換 unikernel の登場
 
 • 様々な実装
 ◦ OSv
 ◦ HermiTux
 ◦ Unikraft
 60
61. unikernel の歴史: 2016~現在
 • Linux バイナリ互換ということは、
 システムコールを実装しなければならない
 → つらい（再リンク・バイナリ書き換え..)
 
 • Linux との互換性を追求し続けなければならない
 → つらい（unikernel の機能の小ささが犠牲に）
 
 unikernel の軽量さが損なわれてしまった...
 61
62. unikernelの互換性問題の解決
 62 従来
 互換性/軽量さにトレードオフ
 ⨯ 互換性
 ✓ 軽量
 ✓ 互換性
 ⨯ 軽量
 mew
 WASIによる
 カーネルインターフェース
 ✓ 互換性
 ✓ 実行速度
 🔥 WASI によって unikernel の互換性の問題を解決
63. 貢献3:
 高速なWasm実行環境
 63
64. 既存のWasmランタイムとの比較
 Wasmランタイム カーネル mew WASI WASI システムコール Hypervisor
65. 貢献4:
 新たなカーネルインターフェース
 としてのWASIの普及
 65
66. 今までの世界
 66
67. 今までの世界
 67
68. wasker が実現する世界
 68
69. wasker が実現する世界
 69
70. wasker が実現する世界
 70
71. wasker が実現する世界
 71 🔥 Wasm コンパイラによって WASI をカーネルに
 対する標準的なインターフェースとして普及
72. まとめ
 • クラウドの仮想化環境を最適化したい
 • Wasmを実行するunikernelを開発する
 • unikernelをコンテナとして動かす
 • → Wasm がより高速に動作する
 • → unikernel を扱いやすくする
 • カーネルの API としての WASI を普及させる
 
 72