Upgrade to Pro — share decks privately, control downloads, hide ads and more …
Sign up for free

Diffusion Model with Perceptual Loss

Sponsored · Your Podcast. Everywhere. Effortlessly. Share. Educate. Inspire. Entertain. You do you. We'll handle the rest. →
Avatar for Henry Cui Henry Cui
January 26, 2024
Research
540
0

Diffusion Model with Perceptual Loss

Avatar for Henry Cui

Henry Cui

January 26, 2024

More Decks by Henry Cui

See All by Henry Cui
プロダクション言語モデルの情報を盗む攻撃 / Stealing Part of a Production Language Model
Avatar for Henry Cui zchenry
1
260
Direct Preference Optimization
Avatar for Henry Cui zchenry
0
480
レンズの下のLLM / LLM under the Lens
Avatar for Henry Cui zchenry
0
250
Go with the Prompt Flow
Avatar for Henry Cui zchenry
0
260
Mojo Dojo
Avatar for Henry Cui zchenry
0
280
ことのはの力で画像の異常検知 / Anomaly Detection by Language
Avatar for Henry Cui zchenry
0
760
驚愕の事実！LangChainが抱える問題 / Problems of LangChain
Avatar for Henry Cui zchenry
0
340
MLOps初心者がMLflowを触る / MLflow Brief Introduction
Avatar for Henry Cui zchenry
0
230
{{guidance}}のガイダンス / Guidance of guidance
Avatar for Henry Cui zchenry
0
210

Other Decks in Research

See All in Research
適応的スパムフィルタのための軽量な類似メッセージカウンタ / jsai2026-adaptive-spam-filter
Avatar for monochromegane monochromegane
0
5.6k
Développer des solutions de réduction des émissions de méthane entérique : 1ers résultats Méthane 2030
Avatar for Idele institudelelevage
PRO
0
120
JPA2026_NetworkTutorial_JunKashihara
Avatar for JunKashihara junkashihara
0
180
【Zozo Research 技術共有会】三次元領域の現在と展望
Avatar for 小島瑞貴 mickey_0226
3
620
横浜市長（山中氏）の言動にかかる第三者による調査報告書
Avatar for Sayaka Ishizuka y150saya
0
380
[最先端NLP勉強会2026] Checklists Are Better Than Reward Models For Aligning Language Models
Avatar for Kento Nozawa nzw0301
1
310
Evaluating LLM Reliability Across Facts, Evidence, and Cultures
Avatar for Yuki Arase yukiar
0
180
GLIM とMegaParticles：正規分布近似の限界とタイトカップリング＆パーティクルフィルタの進展 / GLIM and MegaParticles : Progress of the distribution representation in SLAM
Avatar for koide3 koide3
0
870
超効率化への挑戦：1bit LLMの現状と展望
Avatar for Yuma Ichikawa yumaichikawa
0
730
JICA QUEST 共創×革新プログラム Impact Report（海ノ向こうコーヒー）
Avatar for 坂ノ途中 ontheslope
0
650
研究室単位での自律的 IPv6接続性確立に向けたAS共同運用モデルの提案と実証
Avatar for Hiroki (REO) Kashiwazaki reokashiwa
PRO
0
220
2025年度秋葉原ウォーカブルプロジェクト調査報告 「アキバらしいウォーカブル」とは何か
Avatar for 日本大学 都市計画研究室（泉山ゼミ） izumiyama_lab
1
220

Featured

See All Featured
Building AI with AI
Avatar for Ines Montani inesmontani
PRO
1
1.2k
Heart Work Chapter 1 - Part 1
Avatar for Lake Fama lfama
PRO
10
36k
ラッコキーワード サービス紹介資料
Avatar for ラッコ株式会社 rakko
1
5M
Claude Code のすすめ
Avatar for schroneko schroneko
67
230k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
Avatar for panda_program panda_program
123
22k
Everyday Curiosity
Avatar for Cassini Nazir cassininazir
0
320
The State of eCommerce SEO: How to Win in Today's Products SERPs - #SEOweek
Avatar for Aleyda Solis aleyda
2
12k
WENDY [Excerpt]
Avatar for Tessa Abrams tessaabrams
14
39k
Being A Developer After 40
Avatar for Adrian Kosmaczewski akosma
91
590k
brightonSEO & MeasureFest 2025 - Christian Goodrich - Winning strategies for Black Friday CRO & PPC
Avatar for Christian Goodrich cargoodrich
3
850
Groundhog Day: Seeking Process in Gaming for Health
Avatar for Sebastian Deterding codingconduct
0
360
Making Projects Easy
Avatar for Brett Harned brettharned
120
6.8k

Transcript

  1. Diffusion Model with Perceptual Loss 機械学習の社会実装勉強会第31回 Henry 2024/1/27

  2. 論文の紹介 ▪ Diffusion Model with Perceptual Loss, Lin and Yang

    ▪ ByteDanceの研究者が去年12月30日にarxivに投稿 ▪ Diffusionモデルの損失関数を改良 2

  3. 提案モチベーション ▪ 下図のように既存の損失関数では分布の多峰性を学習でき ない 3

  4. 従来の損失関数 ▪ 予測したい目標（拡散過程で発生するノイズ）のMSE ▪ 拡散する式 ▪ 予測したい目標 ▪ MSE損失 4

  5. 提案の損失関数 ▪ 学習済み重みで抽出する中間層でのMSE ▪ 予測された値で、拡散ステップの最初に戻してから拡散させる ▪ 学習済み重みで中間特徴量を取り出してMSEを取る ▪ 考察 •

    差分は拡散過程を戻すのと中間層を使うの2箇所ある • 著者がこの損失関数をperceptualと解釈する 5

  6. 定量評価 ▪ Vanilla MSEよりよいが、Classifier-free guidanced MSEに 負けてしまう 6

  7. Ablation Study 抜粋 ▪ 下記項目を変えて実験したが、CFG MSEには勝てなかった • 中間層、拡散ステップ、距離関数（Mean Absolute Distance）、差分を

    取る特徴量、学習済みモデル ▪ CFG + 提案方でも負けてしまう 7

  8. まとめ ▪ Diffusion Modelの損失関数を改良する提案手法 ▪ 中間層を使うヒントになる 8