さぁV100、メモリをお食べ・・・

さぁV100、メモリをお食べ・・・ KERNEL/VM探検隊@関西 12回目 NILPE(@NILPE_LV01)

自己紹介 nilpeと申します！バイクとカーネルと黒魔術が好きな筑波大学情報理工学位プログラム M1 初発表です ↑インターネットコミュ障のアカウントアイコンは実家の犬です

メモリが足りない！最近、メモリが売られなくなりつつありますよねその他のパーツも高騰 of 高騰

「古い」GPUを有効活用したい研究室に転がってるV100（PCIe）で遊びたいでもVRAMが32GB ””””ぽっち””””しかない VRAM外のメモリに退避したい！ ↑画像はnvidia公式より

私の言う「メモリ」とは Intel Optane Persistent Memoryのこと（生産終了済み）

つかいかた・Openして・mmap（）して・cudaHostRegister()するだけ

おもむろにこういうコードを書く↓ best = 0 for size in 二分探索(2 MiB
... 探索上限): if cudaHostRegister(base, size) が成功: best = size cudaHostUnregister(base) 次はもっと大きい size を試す else: 次はもっと小さい size を試す Pmemの実装量とbest を表示する

実行するとあれぇ・・・？ ↑DRAM実装量-４GBしか登録できてない

どうやら CUDAランタイムでホストDRAMの実装量を見ているらしい →LD_PRELOADでごまかす

やりなおすあれぇ・・・？ ② ↑システムメモリ実装量分しか登録できてない（4GB増えた）

nVIDIAドライバを書き換える

512GBごとにRegisterする

結果

帯域幅

できた！！！ご清聴ありがとうございました Github→https://github.com/nilpe/pmem-gpu- devdax

さぁV100、メモリをお食べ・・・

さぁV100、メモリをお食べ・・・

nilpe

Other Decks in Programming

Featured

Transcript