Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Progressive Growing of GANs for Improved Qualit...
Search
kiyo
August 08, 2019
Technology
1
160
Progressive Growing of GANs for Improved Quality, Stability, and Variation
PGGANについての説明資料です。8月8日に内輪の勉強会に使用しました。
kiyo
August 08, 2019
Tweet
Share
More Decks by kiyo
See All by kiyo
Active Retrieval Augmented Generation
kiyohiro8
3
840
Reinforcement Learning: An Introduction 輪読会 第5回
kiyohiro8
0
390
Reinforcement Learning: An Introduction 輪読会 第3回
kiyohiro8
0
550
TransGAN: Two Transformers Can Make One Strong GAN
kiyohiro8
0
350
CycleGAN and InstaGAN
kiyohiro8
0
1.5k
Bridging_by_Word__Image-Grounded_Vocabulary_Construction_for_Visual_Captioning.pdf
kiyohiro8
0
980
Attention on Attention for Image Captioning
kiyohiro8
1
510
Graph-Based Global Reasoning Networks
kiyohiro8
0
1.3k
Other Decks in Technology
See All in Technology
私とAWSとの関わりの歩み~意志あるところに道は開けるかも?~
nagisa53
1
140
Power Automate のパフォーマンス改善レシピ / Power Automate Performance Improvement Recipes
karamem0
0
270
怖くない!GritQLでBiomeプラグインを作ろうよ
pal4de
1
140
AIエージェントを支える設計
tkikuchi1002
11
2.4k
DatabricksのOLTPデータベース『Lakebase』に詳しくなろう!
inoutk
0
160
東京海上日動におけるセキュアな開発プロセスの取り組み
miyabit
0
200
LLMでAI-OCR、実際どうなの? / llm_ai_ocr_layerx_bet_ai_day_lt
sbrf248
0
230
機械学習を「社会実装」するということ 2025年夏版 / Social Implementation of Machine Learning July 2025 Version
moepy_stats
1
1.4k
【CEDEC2025】LLMを活用したゲーム開発支援と、生成AIの利活用を進める組織的な取り組み
cygames
PRO
1
1.7k
解消したはずが…技術と人間のエラーが交錯する恐怖体験
lamaglama39
0
140
【CEDEC2025】現場を理解して実現!ゲーム開発を効率化するWebサービスの開発と、利用促進のための継続的な改善
cygames
PRO
0
400
MCPに潜むセキュリティリスクを考えてみる
milix_m
1
880
Featured
See All Featured
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.3k
[RailsConf 2023] Rails as a piece of cake
palkan
55
5.7k
Why Our Code Smells
bkeepers
PRO
337
57k
A designer walks into a library…
pauljervisheath
207
24k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
47
9.6k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
34
5.9k
Automating Front-end Workflow
addyosmani
1370
200k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
21
1.4k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.6k
Music & Morning Musume
bryan
46
6.7k
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.8k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
60k
Transcript
Progressive Growing of GANs for Improved Quality, Stability, and Variation
自己紹介 Twitter : @hrs1985 https://qiita.com/hrs1985 機械学習エンジニアをしています。最近転職して 7月から東京で働いてます。 前々職では実験生物学やってました。 • 深層生成モデル
• 強化学習 • 画像処理 に興味があります。最近はグラフも面白そうだなと思っています。 2
論文の概要 ▪ GAN の学習安定化のための Progressive Growing を提案 ▪ その他の工夫 (Equalized
Learning Rate, Pixelwise Normalization) を提案 3 3
Progressive Growing 学習が不安定になる一因は生成するデータが高次元すぎること →低次元のデータから徐々に学習を進める 4
Progressive Growing 新しいレイヤーを加える時、新しいレイヤーの出力/入力と その直前のレイヤーの出力/入力を α : 1 - α で足して用いる。
5
Progressive Growing を実装したいとき (Pytorch) 6 4x4 8x8 16x16 32x32 Upsampling
block 4x4 8x8 16x16 32x32 noise 4x4 image To RGB block
Progressive Growing を実装したいとき (Pytorch) 7 4x4 8x8 16x16 32x32 Upsampling
block 4x4 8x8 16x16 32x32 To RGB block noise 8x8 image
Progressive Growing を実装したいとき (Pytorch) 8 4x4 8x8 16x16 32x32 Upsampling
block 4x4 8x8 16x16 32x32 To RGB block noise 16x16 image
Progressive Growing を実装したいとき (Pytorch) 9 4x4 8x8 16x16 32x32 Upsampling
block 4x4 8x8 16x16 32x32 To RGB block noise 32x32 image
その他の工夫 Pixelwise Normalization 各ピクセルをチャンネル方向の 2-ノルムで割る Generator 側でのみ用いている Equalized Learning Rate
各レイヤーの weight をチャンネル数で正規化して使う 出力 (と誤差の逆伝搬) のダイナミックレンジがチャンネル数に対して変動しにくくなる 10 Minibatch Discrimination ミニバッチ内の標準偏差を Discriminator に与える
Ablation study 11
顔画像の生成 12
やってみた 13 ちゃんとした比較はできてないけど、卵以外の具材の破綻が少なそう?