GPUを計算資源として使おう！

@エンジニア作業飲み集会LT 2025/07/11

Transcript

1. @エンジニア集会
   2025/07/11 GPUを計算資源 として使おう！ 発表者：そすうぽよ
2. 主にデジタル画像処理や、コンピューターグラフィックスの処理を ⾏う専⽤の装置 Grahpic
   Proccessing
   Unitの略 GPUとは
3. CPUと同じチップ 上に組み込まれたGPU ※ ノートPCやスマートフォン、スタンドアロンのHMDなどに よく搭載されている 統合GPU(Integrated GPU, iGPU) 個別GPU(Discrete GPU, dGPU) GPUの種類 独立したチップを持つGPU デスクトップPC、ノートPCのうちでもゲーミングPCと呼ばれるものなどに よく搭載されている iGPUとdGPUが両方搭載されていることもある
4. 突然ですが、アンケートです！ 当てはまる人は挙手 ✋・ジャンプ
5. GPUを使ったことは ありますか？
6. GPUを使ったことはある？ VRChatで100人に聞いた（大嘘）！ ある 99% ない（脳にLANケーブルを接続） 1% 圧倒的利用率！ VRChatのシステム要件の一つ
7. GPUをグラフィック処理以外の計算にも使う悪だくみ技術 GPGPU: General Purpose GPU GPUはCPUに比べて高い演算性能と、広いメモリ帯域を持っているため、 うまくいけば何倍も性能が向上する GPUを計算に使うモチベーション GPUを計算に使おう
8. 完全に同じ内容を実⾏したら意味がないので、 各スレッドは⾃分のIDをもとに動作を変える SPMD:
   Single
   Program
   Multiple
   Data たくさんのスレッドが同じプログラムを実⾏する SPMDモデルの利点 GPGPUのプログラミング 各スレッドに対してそれぞれプログラムを書く必要がないため、 ⼤きな並列度のプログラムを実装するのが楽 GPUで効率的に実⾏しやすい
9. ハードウェアの構造等がCPUと⼤きく異なるため、 性能を出すためにある程度の知識が必要 そもそもGPGPUが向いていないタスクも多い ⼤変なところ GPUを計算に使おう
10. ハードウェアの構造等がCPUと⼤きく異なるため、 性能を出すためにある程度の知識が必要 そもそもGPGPUが向いていないタスクも多い ⼤変なところ GPUを計算に使おう あるある GPUを使ったら10倍になった！！！
11. ハードウェアの構造等がCPUと⼤きく異なるため、 性能を出すためにある程度の知識が必要 そもそもGPGPUが向いていないタスクも多い ⼤変なところ GPUを計算に使おう あるある GPUを使ったら10倍になった！！！実⾏時間が…
12. ハードウェアの構造等がCPUと⼤きく異なるため、 性能を出すためにある程度の知識が必要 そもそもGPGPUが向いていないタスクも多い ⼤変なところ GPUを計算に使おう あるある GPUを使ったら10倍になった！！！実⾏時間が… まずはGPUの特性・構造を知ろう！
13. たくさんのタスクを同時に処理するのに向いている 全タスクを終えるまでの時間が短ければ、 それぞれのタスクにかかる時間はあまり気にしない GPU:
    並列度⼤・スループット重視 並列度は⼩さめだが⼀つのタスクを⾼速に処理することに向いている CPU:
    並列度⼩・低レイテンシ重視 GPUとCPUの⽐較
14. GPUの大まかな構造 GPU CU PE CU CU GPU メモリ (VRAM) ホスト CPU
15. 実際に計算を⾏うユニット PE(Processing Element, NVIDIA用語: CUDAコア) PEを複数まとめて、演算内容を指⽰したりする
    CPUのコアに相当 CU(Compute Unit, NVIDIA用語: SM, Streaming Multiprocessor) CUが複数集まってできている。メモリやホストCPUと接続されている。 GPU GPUの⼤まかな構造
16. SIMT:
    Single
    Instruction
    Multiple
    Threadの略 各スレッドは特定のPEに紐づけられる 複数（8〜64程度）のPEで同⼀の命令を実⾏する 両⽅のパスを実⾏するが、 それぞれのスレッドで関係ない命令の結果を無視 →スレッドごとに全然違うことをしようとすると、効率が落ちる 条件分岐を避けるか、隣接するPEでは同じ⽅向に分岐するようなプログラムを書く 各スレッドで異なるパスを実⾏したいとき SIMTアーキテクチャ if me.has_money? { go_shopping(); } else { stay_home(); }
17. CUDA,
    Vulkan,
    DirectCompute,
    OpenCL,
    SYCL,
    WebGPU,
    OpenMP
    Offload... いっぱいある GPGPUの開発環境
18. CUDA,
    Vulkan,
    DirectCompute,
    OpenCL,
    SYCL,
    WebGPU,
    OpenMP
    Offload... いっぱいある GPGPUの開発環境 今⽇ご紹介するのは…
19. CUDA,
    Vulkan,
    DirectCompute,
    OpenCL,
    SYCL,
    WebGPU,
    OpenMP
    Offload... いっぱいある GPGPUの開発環境 今⽇ご紹介するのは… VRChat
20. シェーダーの中で計算することでGPGPUが可能！ ⼊⼒としてテクスチャやマテリアルパラメータを取ることができる 出⼒はレンダリング結果 VRChatではカスタムシェーダーが書けます 状態の保持はどうやるの？ VRChatでGPGPU CustomRenderTextureを⽤いることで、 前フレームの出⼒をテクスチャとして受け取ることができる （他にもCameraとRenderTextureを使う⽅法もある）
21. Conwayʼs
    Game
    of
    Lifeのシミュレーションを⾏う シミュレーション⽤の CustomRenderTexture・シェーダーと、 描画⽤のシェーダーの2つを使⽤ 実例：ライフゲーム VRChatでGPGPU
22. おわり