Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
点過程の基礎とその周辺
Search
Sponsored
·
Your Podcast. Everywhere. Effortlessly.
Share. Educate. Inspire. Entertain. You do you. We'll handle the rest.
→
sarrrrry
July 02, 2021
Research
320
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
点過程の基礎とその周辺
sarrrrry
July 02, 2021
More Decks by sarrrrry
See All by sarrrrry
みずほ銀行の2021年大規模システム障害に関する考察
sarrrrry
1
190
CompML : Elementary knowledge for 'Parameter-Free Online Optimization'
sarrrrry
1
140
CompML:PaperReading-PHM-No.1
sarrrrry
0
200
PaperReading-ExplainingKnowledgeDistillationByQuantifyingTheKnowledge
sarrrrry
0
58
Other Decks in Research
See All in Research
AIエージェント時代のLLM-jpモデルのあるべき姿
k141303
0
480
非試合日の野球場を楽しむためのARホームランボールキャッチ体験システムの開発 / EC79-miyazaki
yumulab
0
230
LLMアプリケーションの透明性について
fufufukakaka
0
240
第12回人と環境にやさしい交通をめざす全国大会/熊本都市圏「車1割削減、渋滞半減、公共交通2倍」をめざして
trafficbrain
0
120
Anthropic が提案する LLM の内部状態を自然言語で説明可能にした Natural Language Autoencoders / Natural Language Autoencoders Produce Unsupervised Explanations of LLM Activations
shunk031
0
130
「車1割削減、渋滞半減、公共交通2倍」を 熊本から岡山へ@RACDA設立30周年記念都市交通フォーラム2026
trafficbrain
1
1.2k
敵対生成プロンプト同時探索による内省型プロンプト最適化
kinoue_smarthr
0
240
Fukui Shibiten 39 - AI Art
butchi
0
130
PGDM: Physically Guided Diffusion Model for L Downscaling
satai
2
290
R&Dチームを起ち上げる
shibuiwilliam
1
270
量子コンピュータの紹介
oqtopus
0
340
CVPR2026論文紹介_VLMにとって良いvision encoderとは何か?Rethinking Model Selection in VLM Through the Lens of Gromov-Wasserstein Distance
kobayashi31
1
140
Featured
See All Featured
HTML-Aware ERB: The Path to Reactive Rendering @ RubyCon 2026, Rimini, Italy
marcoroth
1
230
職位にかかわらず全員がリーダーシップを発揮するチーム作り / Building a team where everyone can demonstrate leadership regardless of position
madoxten
62
55k
Crafting Experiences
bethany
1
190
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
659
62k
New Earth Scene 8
popppiees
3
2.4k
The Director’s Chair: Orchestrating AI for Truly Effective Learning
tmiket
1
200
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
123
22k
Paper Plane
katiecoart
PRO
1
52k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
17k
How to Talk to Developers About Accessibility
jct
2
250
The Straight Up "How To Draw Better" Workshop
denniskardys
239
140k
Avoiding the “Bad Training, Faster” Trap in the Age of AI
tmiket
0
180
Transcript
CompML 点過程の基礎とその周辺 SATO, Ryosuke
CompML 目次 • そもそも点過程とは何か? • Poisson 過程 ◦ 定常 ◦
非定常 • 点過程の一般論 • 自己励起型の例) Hawkes 過程 • まとめ 特に黄色文字の箇所が本題 (↑を示すのが最近の佐藤の趣味だけど, 今日は流れでダラダラと点過程のエッセンスを しゃべる) (勉強会でたまに喋る確率微分方程式周辺の理解 の補助になったら嬉しい) 2
CompML 目次 • そもそも点過程とは何か? • Poisson 過程 ◦ 定常 ◦
非定常 • 点過程の一般論 • 自己励起型の例) Hawkes 過程 • まとめ 3 本章では どんなグラフで表現されるのか? どういう前提条件があるのか? などの大枠の話を簡単に進める (2ページくらい)
CompML そもそも点過程とは? 点過程とは • 空間上にランダムに分布する「点」の集合に関する確率過程 • 点 = イベント は一瞬に発生する現象ならなんでも良い
• イベントの例 ◦ お店への来客 ◦ 事故や故障の発生 ◦ youtubeの視聴回数 ◦ 地震の発生 e.t.c. 点過程の例 • 各イベントが独立に発生するモデル ◦ 時間依存しない 例) 定常 Poisson 過程 ◦ 時間依存する 例) 非定常 Poisson 過程 • イベントの発生履歴に依存するモデル ◦ 自己励起性を持つ 例) Hawkes 過程 4
CompML そもそも点過程とは? データの扱い • 特に言及がない場合,イベント発生の t では順序付けを考える ◦ 観察期間 [0,
T] ◦ 0 < t1 < t2 < … < tn < T 点過程の確率密度関数 • イベントの発生時刻 {t1, … tn} は確率変数 • イベント数 “も” 確率変数 → 点過程の確率密度関数はイベントの「数」と「発生時刻」の同時分布を表している 5
CompML 目次 • そもそも点過程とは何か? • Poisson 過程 ◦ 定常 ◦
非定常 • 点過程の一般論 • 自己励起型の例) Hawkes 過程 • まとめ 前章で少しだけ触れたPoisson 過程について,そ の特徴や性質などを,数式も踏まえながら 説明していく. 口頭で出来るだけ「数式のお気持ち」を補足して いく. 6
CompML ポアソン過程 (Poisson Process) - 定常 定常ポアソン過程とは • 最も単純な点過程のモデル •
強度関数が時間に依存しない i.e.) λ(t) = λ • 確率密度関数は以下の式で与えられる • 任意の点過程は時間変換定理によって, 定常ポアソン過程に帰着する事が出来る 定常ポアソン過程の性質 • イベント数 n はポアソン分布に従う • イベント発生間隔 (待ち時間) の分布は指数分布に従う • イベント数が既知の時, 発生時刻はそれぞれ独立に,区間 [0, T] の一様分布に従う 7
CompML ポアソン過程 (Poisson Process) - 定常 定常ポアソン過程の性質 • イベント数 n
はポアソン分布に従う • イベント発生間隔 (待ち時間) の分布は指数分布に従う • イベント数が既知の時, 発生時刻はそれぞれ独立に,区間 [0, T] の一様分布に従う 8 • 定常ポアソン過程の確率密度関数
CompML ポアソン過程 (Poisson Process) - 定常 定常ポアソン過程の性質 • イベント数 n
はポアソン分布に従う • イベント発生間隔 (待ち時間) の分布は指数分布に従う • イベント数が既知の時, 発生時刻はそれぞれ独立に,区間 [0, T] の一様分布に従う 9 • 定常ポアソン過程の確率密度関数 まさに Poi(X=n; ν=λT) のポアソン分布
CompML ポアソン過程 (Poisson Process) - 定常 定常ポアソン過程の性質 • イベント数 n
はポアソン分布に従う • イベント発生間隔 (待ち時間) の分布は指数分布に従う • イベント数が既知の時, 発生時刻はそれぞれ独立に,区間 [0, T] の一様分布に従う 10 • 定常ポアソン過程の確率密度関数 まさに Exp(τ; λ) の指数分布
CompML ポアソン過程 (Poisson Process) - 定常 定常ポアソン過程の性質 • イベント数 n
はポアソン分布に従う • イベント発生間隔 (待ち時間) の分布は指数分布に従う • イベント数が既知の時, 発生時刻はそれぞれ独立に,区間 [0, T] の一様分布に従う 11 • 定常ポアソン過程の確率密度関数
CompML ポアソン過程 (Poisson Process) - 非定常 非定常ポアソン過程とは • 強度が時間に応じて変化する ◦
イベントが起こり (やすい | にくい) 期間がある 非定常ポアソン過程の性質 • 時間変換によって強度 1 の定常ポアソン過程に従う 12
CompML ポアソン過程 (Poisson Process) - 非定常 非定常ポアソン過程とは • 強度が時間に応じて変化する ◦
イベントが起こり (やすい | にくい) 期間がある 非定常ポアソン過程の性質 • 時間変換によって強度 1 の定常ポアソン過程に従う 13 画像引用: 点過程の時系列解析 P.33 時間 t で非定常 時間 t’ で定常 時間変換
CompML 目次 • そもそも点過程とは何か? • Poisson 過程 ◦ 定常 ◦
非定常 • 点過程の一般論 • 自己励起型の例) Hawkes 過程 • まとめ 本章では, 過去のイベント発生履歴を踏まえた確率過程を考 える時,どのように扱うのか触れていく 次の章の自己励起型の例としての Hawkes過程までそのまま流れで進める 14
CompML 点過程の一般論 ポアソン過程からの拡張 • 過去のイベントに依存する一般的な点過程を考える ◦ λ(t) → λ(t |
Ht) ◦ Ht = { ti | ti < t} : イベントの発生履歴 ◦ イベントが起こり (やすい | にくい) 期間がある 確率密度関数 • おさらいも兼ねてポアソンと並べて示す 15
CompML 点過程の一般論 一般の点過程に対する時間変換定理 16 まさに [0, ΛH(T)]で 強度1の定常ポアソン過程
CompML 自己励起型モデルの例 - Hawkes 過程 Hawkes 過程とは • 数式的な特徴は (次ページ)
• 自己励起過程 (self-exciting process) ◦ イベントが発生すると強度が高くなるモデル ◦ 例えば地震やSNS上の動態などのような 一度発生すると連続して発生しやすい確率過程 Hawkes の性質 • 様々な拡張を考える事が出来る ◦ マーク付き点過程 ◦ 時空間モデル ◦ 多次元モデルe.t.c. 17 Hawkes過程の強度関数の例
CompML 自己励起型モデルの例 - Hawkes 過程 18
CompML 目次 • そもそも点過程とは何か? • Poisson 過程 ◦ 定常 ◦
非定常 • 点過程の一般論 • 自己励起型の例) Hawkes 過程 • まとめ 19
CompML まとめ 点過程の例 • 各イベントが独立に発生するモデル ◦ 時間依存しない 例) 定常 Poisson
過程 ◦ 時間依存する 例) 非定常 Poisson 過程 • イベントの発生履歴に依存するモデル ◦ 自己励起性を持つ 例) Hawkes 過程 定常ポアソン過程の性質 • イベント数 n はポアソン分布に従う • イベント発生間隔 (待ち時間) の分布は指数分布に従う • イベント数が既知の時, 発生時刻はそれぞれ独立に,区間 [0, T] の一様分布に従う • 任意の点過程は時間変換定理によって, 定常ポアソン過程に帰着する事が出来る 「非定常」や「イベント履歴の依存」への拡張をダラダラと流れで喋った 勉強会でたまにしゃべる確率微分方程式周辺の理解の補助になったら嬉しい 20