Share
Embed
Transcript
49 slides
-
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ୈ 3 ճ ֬ɾ౷ܭͷجૅษڧձ ౷ܭతਪఆ ాத
ণ (@setten QB) ಸྑઌՊֶٕज़େֶӃେֶ ใՊֶݚڀՊɹɹೳίϛϡχέʔγϣϯݚڀࣨ Ϗοάσʔλάϧʔϓ March 25, 2017 1 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ 1 ౷ܭతਪఆ 2 ਪఆ 3 ۠ؒਪఆ
4 ࠷ޙʹ 2 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ֬ͱ౷ܭֶ • ֬ (Ω, B, P)
͔ΒٞΛਐΊͨ • ౷ܭֶͰσʔλ͔Βग़ൃ͢Δ • ௐ͍ͨσʔλͷͱͱͳΔूஂͷ͜ͱΛूஂͱ͍͏ • ͍ͭσʔλͷશͯΛௐΒΕΔΘ͚Ͱͳ͍ • ͦͷΑ͏ͳͱ͖ʹ༻͍ΒΕΔͷ͕ “ඪຊͷແ࡞ҝநग़” • ͜ͷΑ͏ͳ౷ܭΛਪଌ౷ܭͱ͍͏ • σʔλ֬มͷ࣮ݱ ͱ͍͏ߟ͑ํ͕ॏཁ 3 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ूஂͱඪຊ • “ूஂ” ͱ “ඪຊ” ͷ۠ผେࣄ
• ूஂ͔Β n ݸͷ؍ଌσʔλ x1, . . . , xn Λແ࡞ҝநग़͢Δ • ͜ΕΒɼX1, . . . , Xn: i.i.d. ͷ࣮ݱ x1 = X1(ω), . . . , xn = Xn(ω) ͱΈͳ͞ΕΔɿ • ࣮ࡍͷ؍ଌσʔλɼෆ࣮֬ੑΛͬͯಘΒΕͨσʔλͩͱ͍͏͜ͱ • i.i.d. ͳूஂ͔Βͷແ࡞ҝඪຊͱݴ͍͑ΒΕΔ • X1, . . . , Xn ͷڞ௨ͷ֬ͷ͜ͱΛूஂͱ͍͍ɼநग़͞Εͨ σʔλͷࣄΛඪຊ (sample) ͱ͍͏ • ౷ܭֶͷश׳ͱͯ͠ɼඪຊ “i.i.d. ͳ֬ม” Λࢦ͢͜ͱɼͦͷ ࣮ݱΛࢦ͢͜ͱ͋ΔͷͰҙ 4 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ඪຊͱूஂ ूஂ fX(x; θ) ࣮ݱɿx1 ,
. . . , xn ⇒ θ(x1 , . . . , xn ) ਪఆ ֬ม X1 , . . . , Xn ⇒ θ(X1 , . . . , Xn ) ਪఆྔ ແ࡞ҝநग़ ਪఆ 5 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ύϥϝτϦοΫͳख๏ • ౷ܭతਪଌͰɼσʔλ͔ΒूஂΛਪଌ͍ͯ͘͠ • ࠓճɼूஂ͕࣮ύϥϝʔλ θ
= [ θ1 · · · θn ] ∈ Rk ʹґଘ ͠ɼͦΕʹΑΓूஂ͕Ұҙʹఆ·ΔͱԾఆͯ͠Λ͢͢ΊΔ • ͜ͷΑ͏ʹɼ͍͔ͭ͘ͷύϥϝʔλ͕ܾ·Ε͕֬ఆ·Δͱ͍ ͏ΈͰͷ౷ܭతख๏ΛɼύϥϝτϦοΫͳख๏ͱ͍͏ • ύϥϝτϦοΫͳख๏Ͱɼඪຊ x1, . . . , xn ͔Β θ ͷΛܾఆͯ͠ద ͳ֬Λਪఆ͢Δࣄ͕ඪʹͳΔ 6 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ύϥϝʔλͷਪఆ • ύϥϝʔλ θ ʹґଘ͢ΔूஂΛͷ p.d.f.
Λ f(x; θ) Ͱද͢ • θ ͷΛσʔλʹج͍ͮͯਪଌ͢Δ͜ͱΛ౷ܭతਪఆ (Estimation) ͱ ͍͏ • X1, . . . , Xn iid ∼ f(x; θ) ΛΈ߹Θͤͯ࡞ΕΒΕΔ֬มɼͭ·Γ X = [ X1 · · · Xn ] ͷؔͰ͋Δ֬มΛ౷ܭྔ (Statistics) ͱ ͍͏ • ಛʹɼύϥϝʔλ θ ͷਪఆͷͨΊʹ༻͍ΒΕΔ౷ܭྔΛ θ = θ(X1, . . . , Xn) ͱॻ͖ɼਪఆྔ (Estimaor) ͱ͍͏ • ਪఆྔͷ࣮ݱ θ = θ(x1, . . . , xn) = θ(x) Λਪఆ (Estimate) ͱ ͍͏ 7 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ύϥϝτϦοΫͳਪఆͷྫ ਖ਼نूஂͰͷύϥϝʔλਪఆ X ͕ਖ਼نʹै͍ͬͯΔͱ͍͏ԾఆͷԼͰͷύϥϝʔλਪఆΛߟ ͑Δɽ •
ແ࡞ҝඪຊ X1, . . . , Xn ͔Βɼະύϥϝʔλ θ = [ µ σ2 ] Λਪఆ͢Δͱ͍͏ʹͳΔ • ʮͲ͏ͬͯਪఆ͢Δͷ͔ʁʯͱ͍͏·ͨޙͰ 8 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਪఆͱ۠ؒਪఆ • ύϥϝʔλʹؔ͢Δ౷ܭతਪఆʹ 2 छྨ͋Δɿ ਪఆ
ະύϥϝʔλΛਪఆྔΛ༻͍ͯ 1 Ͱਪఆ͢Δ ۠ؒਪఆ ະύϥϝʔλΛߴ͍֬ͰؚΉΑ͏ͳ۠ؒ (৴པ۠ؒ) ΛਪఆྔΛ༻͍ͯߏங͢Δ 9 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ 1 ౷ܭతਪఆ 2 ਪఆ 3 ۠ؒਪఆ
4 ࠷ޙʹ 10 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਪఆྔͷ͖࣋ͭੑ࣭ • ύϥϝʔλͷਪఆʹɼجຊతʹͲͷΑ͏ͳਪఆྔΛ༻͍͔ͯ· Θͳ͍ • ͕͔ͩ͠͠ɼવͳ͕Βదͳج४ʹরΒ͠߹Θͤͯ·͍͠ਪఆྔ
Λ༻͍Δ͖ • ҎԼͷઃఆͷԼͰɼͲͷΑ͏ͳਪఆྔ͕ “ྑ͍” ͷ͔ʁΛ͍ٞͯ͘͠ ౷ܭతਪଌͷجຊతઃఆ ඪຊ X1, . . . , Xn iid ∼ f(x; θ) ʹج͖ͮɼਪఆྔ θ = θ(X1, . . . , Xn) Ͱ θ Λਪఆ͢Δɽ 11 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ෆภੑͱόΠΞε ෆภੑͱόΠΞε ਪఆྔ θ ͷظ͕ਪఆ͍ͨ͠ θ
ͱ͍͠ͱ͖ɼ͢ͳΘͪ E [ θ ] = θ ͕Γཱͭͱ͖ɼθ Λ θ ͷෆมਪఆྔ (unbiased estimator) ͱ͍͍ɼ θ ෆภੑΛຬͨ͢ͱ͍͏ɽಛʹɼE [ θ ] ̸= 0 ͷͱ͖ɼE [ θ ] − θ Λό ΠΞε (bias) ͱ͍͍ɼBias [ θ ] Ͱද͢ɽ 12 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ Ұகੑ ҰகਪఆྔͱҰகੑ ਪఆྔ θ ͕ θ
ʹ֬ऩଋ͢Δͱ͖ɼ͢ͳΘͪɼ ∀ε > 0, lim n→∞ P ( θ − θ > ε ) = 0 ཱ͕͢Δͱ͖ɼθ θ ͷҰகਪఆྔ (consistent estimator) ͱ͍͍ɼ θ Ұகੑ (consistency) Λຬͨ͢ͱ͍͏ɽ 13 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ϕϧψʔΠͷਪఆྔ ϕϧψʔΠ ϕϧψʔΠ͔Βͷແ࡞ҝඪຊ X1, . .
. , Xn iid ∼ B(1, p) ʹج͖ͮɼ p Λਪఆ͢Δɽ p = X ͱ͢Δͱɼ E [p] = E [ X ] = E [ 1 n n ∑ i=1 Xi ] = 1 n n ∑ i=1 E [Xi] = E [X1] = p ͱͳΓɼp ͕ p ͷෆภਪఆྔͰ͋Δ͜ͱ͕͔Δɽ·ͨɼେͷ๏ଇΑΓ X P −→ E [X1] ͳͷͰɼp P −→ p ͱͳΔɽ͕ͨͬͯ͠ɼp p ͷҰகਪఆྔ Ͱ͋Δɽ 14 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਖ਼نͷਪఆྔ ਖ਼ن ਖ਼ن͔Βͷແ࡞ҝඪຊ X1, . .
. , Xn iid ∼ N ( µ, σ2 ) ʹج͖ͮ µ, σ2 Λਪఆ͢Δɽ µ = X ͱ͢Δͱɼ E [µ] = E [ X ] = µ ͱͳΔͷͰɼµ µ ͷෆภਪఆྔͰ͋Δɽ͞Βʹɼେͷऑ๏ଇ͔ΒҰக ਪఆྔͰ͋Δ͜ͱ͔Δɽ Ұํɼඪຊࢄ S2 σ2 ͷҰகਪఆྔͰ͋Δ͕ɼෆภਪఆྔͰͳ͍ɽ 15 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࢄͷෆภਪఆྔ ࢄͷෆภਪఆྔ ඪຊෆภࢄ S2 u =
1 n − 1 n ∑ i=1 ( Xi − X )2 V [X1] = σ2 ͷෆภਪఆྔͰ͋Δ͕ɼඪຊࢄෆภਪఆྔͰ ͳ͍ɽ 16 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࢄͷෆภਪఆྔ ࣮ࡍʹظΛܭࢉ͢Δͱɼ E [ S2 u
] = 1 n − 1 E [ n ∑ i=1 ( Xi − X )2 ] = 1 n − 1 n ∑ i=1 E [{ (Xi − µ) + ( µ − X )}2 ] (µ := E [X1 ]) = 1 n − 1 n ∑ i=1 { E [ (Xi − µ)2 ] − 2E [ (Xi − µ) ( X − µ )] + E [( X − µ )2 ]} = 1 n − 1 { n ∑ i=1 V [Xi ] − 2nE [( X − µ )2 ] + nV [ X ] } = 1 n − 1 ( nσ2 − 2σ2 + σ2 ) =σ2 ͱͳΓɼS2 u ͕ σ2 ͷෆภਪఆྔͰ͋Δ͜ͱ͕͔Δɽ 17 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਪఆྔͷྑ͞ • ਪఆྔͷྑ͞ΛਤΔࢦඪͱͯ͠ɼฏۉ 2 ޡࠩ (mean
squared error) ͕͋Δ Mean Squared Error; MSE ਪఆྔ θ ͷฏۉ 2 ޡࠩΛҎԼͰఆٛ͢Δɿ MSE [ θ ] = E [ θ − θ ] . • MSE ͕খ͍͜͞ͱɼਪఆ͍ͨ͠ θ ͱਪఆྔ θ ͷҧ͍͕খ͍͜͞ͱΛ ҙຯ͍ͯ͠ΔͷͰɼMSE ͕খ͍͞΄Ͳྑ͍ਪఆྔͷͣ 18 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ Bias-Variance ղ MSE ͷղ MSE ҎԼͷΑ͏ʹղ͞ΕΔɿ
MSE [ θ ] = V [ θ ] + Bias [ θ ] 2 . ಛʹɼθ ͕ θ ͷෆภਪఆྔͳΒɼMSE [ θ ] = V [ θ ] Ͱ͋Δɽ 19 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ Bias-Variance ղ MSE [ θ ]
=E [( θ − θ )2 ] =E [( θ − E [ θ ] + E [ θ ] − θ )2 ] =E [( θ − E [ θ ])2 ] + E [( E [ θ ] − θ )2 ] + 2E [( θ − E [ θ ]) ( E [ θ ] − θ )] =E [( θ − E [ θ ])2 ] + ( E [ θ ] − θ )2 + 0 =V [ θ ] + Bias [ θ ]2 . θ ͕ෆภਪఆྔͰ͋Δͱ͖ Bias [ θ ] = 0 ͳͷͰɼMSE [ θ ] = V [ θ ] ͕ Γཱͭɽ 20 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࠷খࢄෆภਪఆྔ • MSE ͷ Bais-Variance ղ͔Βɼਪఆྔͱͯ͠ෆภਪఆྔͷΈΛߟ͑
Δ͜ͱʹ͢Εɼࢄ͕খ͍͞ਪఆྔ΄Ͳྑ͍ਪఆྔͱݴ͑Δ ࠷খࢄෆภਪఆྔ θ ͷෆภਪఆྔͷதͰࢄ͕࠷খͷͷ͕ଘࡏ͢ΕɼͦΕΛ࠷খ ࢄෆภਪఆྔͱ͍͏ɽ • ࠷খࢄෆภਪఆྔৗʹଘࡏ͢ΔͱݶΒͳ͍ 21 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ Fisher ใྔ • ਪఆྔΛෆภਪఆྔʹݶఆ͠ɼਪఆྔͷਫ਼Λ MSE ͰଌΔ͜ͱʹ͢Δ
ͱɼ࠷খࢄෆภਪఆྔ͕ݟ͔ͭΕଞͷਪఆྔΛ͏ཧ༝ͳ͍ • ͦͷෆภਪఆྔͷԼݶΛ༩͑Δͷ͕ɼΫϥϝϧɾϥΦͷఆཧ Fisher ใྔ X1, . . . , Xn ∼ fX(x; θ) ͷಉ࣌ີΛ fX(x; θ) ͱ͢Δɽ͜ͷͱ͖ɼ In(θ) = E [{ ∂ ∂θ log f (X; θ) } 2 ] Λ f(x; θ) ʹؔ͢Δ Fisher ใྔͱ͍͏ɽ 22 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ΫϥϝϧɾϥΦͷఆཧ ΫϥϝϧɾϥΦͷఆཧ ҎԼͷෆ͕ࣜΓཱͭɿ V [ θ
] ≥ In(θ)−1. ·ͨɼ߸ཱҎԼͷ࣌ʹݶΔɿ ∂ ∂θ log f (X; θ) = In(θ) ( θ − θ ) . ΫϥϝϧɾϥΦͷෆࣜͷ߸ཱ͕͢Δͱ͖ͷਪఆྔΛ༗ޮਪఆ ྔͱ͍͏ɽ • ෆภਪఆྔͷࢄͷԼݶΛϑΟογϟʔใྔͷٯ͕༩͑Δ • ͭ·ΓɼϑΟογϟʔใྔਪఆྔͷਫ਼ͷݶքΛਪఆ͢Δྔͱݴ ͑Δ 23 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࠷๏ • ͜͜·Ͱ౷ܭతਪఆͷҰൠతͳٞΛ͖ͯͨ͠ • ͔͠͠ɼਪఆྔΛ࣮ࡍʹͲ͏ͬͯߏ͢Δͷ͔ʹ͍ͭͯ৮Ε͍ͯ ͳ͍
• ͔͜͜Βɼͦͷ۩ମతํ๏ͷ 1 ͭͰ͋Δ࠷๏Λհ͢Δ 24 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ X1, . . .
, Xn iid ∼ fX(x; θ) ͱ͢Δɽ͜ͷͱ͖ɼj.p.d.f. fx(x; θ) = ∏ n i=1 f(xi; θ) ͱͳΔ͕ɼ͜ΕΛ θ ͷؔͱͯ͠ݟͨͱ͖ʹ (ؔ ) ͱ͍͍ L(θ) = n ∏ i=1 f(xi; θ) ͱॻ͘ɽ 25 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ͷҙຯ ͷҙຯ –ೋ߲Λྫʹ– ςϥγϚ܅͕ΩϟόΫϥ 5 ճߦͬͯΈͨͱ͜Ζɼ“ͨΓɼͨ
ΓɼϋζϨɼͨΓɼϋζϨ” ͱ͍͏݁Ռʹͳͬͨɽ͜ͷΩϟόΫϥ ͰͨΓΛҾ֬͘Λ p ∈ [0, 1] ͱ͢Δͱ͖ɼp ͷͱͯ͠ͳ Կ͔ʁ ͨΓΛ 1ɼϋζϨΛ 0 ͱߟ͑ΔͱɼΩϟόΫϥͷ݁Ռ X1, . . . , X5 iid ∼ B(1, p) ͷ࣮ݱͱߟ͑Δ͜ͱ͕ग़དྷΔɽ 26 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ͷҙຯ i.i.d. ͷੑ࣭͔Β P(X1 = 1,
X2 = 1, X3 = 0, X4 = 1, X5 = 0) =P(X1 = 1)P(X2 = 1)P(X3 = 0)P(X4 = 1)P(X5 = 0) =p3(1 − p)2 Ͱ͋Δɽ͜ͷ֬Λ L(p) ͱ͓͍ͯɼ0 ≤ p ≤ 1 ʹ͓͍ͯ L(p) ͕࠷େͱͳ Δ p ΛٻΊΕɼ༩͑ΒΕͨσʔλ͕ಘΒΕΔ֬Λ࠷େʹ͢ΔΑ͏ͳ (ͭ ·Γ࠷ͳ)p ΛٻΊͨ͜ͱʹͳΔɽ ࣮ࡍʹ L(p) ૿ݮΛௐΔͱɼarg max p∈[0,1] L(p) = 3/5 ͱͳΔɽ 27 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࠷๏ • ະύϥϝʔλ θ ࣮ࡍʹ͔Βͳ͍ •
θ ∈ Θ ⊂ R ͱԾఆͯ͠ɼඪຊ͔Βਪఆ͢Δ • X1, . . . , Xn ͷ࣮ݱ x1, . . . , xn ʹର͠ɼ࠷ͳ (ͭ·Γɼ L(θ) Λ࠷େԽ͢Δ) θ Λ θ = θ(x1, . . . , xn) ͱॻ͖ɼθ ͷ࠷ਪఆ (maximum likelihood estimate) ͱݺͿɿ θ = arg max θ∈Θ L(θ) • ֬มͰஔ͖͑ͨ θ = θ(X1, . . . , Xn) Λ࠷ਪఆྔͱ͍͏ • ؔ L(θ) ͷ࠷େԽʹΑͬͯਪఆྔΛٻΊΔ͜ͷํ๏Λ࠷๏ͱ ͍͏ɽ 28 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ର • ͕ؔ p.d.f. ͷੵͷܗʹͳ͍ͬͯΔ͜ͱʹҙ͢Δͱ θ
= arg max θ∈Θ L(θ) = arg max θ∈Θ log L(θ) • ͜ͷ͜ͱΛར༻ͯ͠ɼ࣮ࡍʹ࠷ਪఆྔΛٻΊΔࡍʹ ∂ ∂θ log L(θ) = 0 Λղ͍ͯ θ ΛٻΊΔ͜ͱ͕ଟ͍ 29 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࠷๏ͷྫ ࠷๏–ਖ਼نΛྫʹ– X1, . . .
, Xn iid ∼ N ( µ, σ2 ) ͷͱ͖ɼθ = [µ, σ2] ͷ MLE ΛٻΊΑɽ L(θ) = n ∏ i=1 f(xi; θ) = n ∏ i=1 1 √ 2πσ2 exp [ − (x − µ)2 2σ2 ] =(2πσ2)−n/2 exp [ − n ∑ i=1 (xi − µ)2 2σ2 ] 30 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࠷๏ͷྫ Ͱ͋Δ͔Βɼ ∂ ∂µ log L(θ)
= 0 ⇐⇒ − 1 σ2 n ∑ i=1 (xi − µ) = 0 ⇐⇒ n ∑ i=1 xi − µn = 0. ͕ͨͬͯ͠ɼ ˆ µ = 1 n n ∑ i=1 Xi = X Ͱ͋Δɽ͜ͷ݅ͷͱͰ ˆ σ2 ΛٻΊΔɽ 31 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࠷๏ͷྫ log L(θ) = n 2
log σ2 − n 2 log(2π) − n ∑ i=1 (x − x)2 2σ2 Ͱ͋Δ͔Βɼ ∂ ∂σ2 log L(θ) = 0 ⇐⇒ − n 2σ2 + n ∑ i=1 (xi − x)2 2σ4 = 0 ⇐⇒ − nσ2 + n ∑ i=1 (xi − x)2 = 0. ͕ͨͬͯ͠ɼ ˆ σ2 = 1 n n ∑ i=1 (Xi − X). 32 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ MLE ͷੑ࣭ • θ ͷ MLEθ
ͲͷΑ͏ͳৼΔ͍Λ͢Δͷ͔ʁ MLE ͷੑ࣭ ༗ޮੑ ༗ޮਪఆྔ͕ଘࡏ͢ΔͱԾఆ͢ΔɽํఔࣜΛղ͍ͯ MLE ΛٻΊ Δ͜ͱ͕ग़དྷΔͱ͖ɼ༗ޮਪఆྔ࠷ਪఆྔͰ͋Δɽ Ұகੑ θ P −→ θ, as n → ∞ ۙ༗ޮੑ √ n ( θ − θ ) D −→ N ( 0, I1(θ)−1 ) , as n → ∞ 33 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ 1 ౷ܭతਪఆ 2 ਪఆ 3 ۠ؒਪఆ
4 ࠷ޙʹ 34 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ۠ؒਪఆͷߟ͑ํ • ͜͜·Ͱͷਪఆͷٞɼθ ͷΛ 1 Ͱਪఆ͢Δ
(ਪఆ) ͷͰ ͋ͬͨ • ͔͜͜Βɼθ ͷΛ͋Δൣғ (۠ؒ) Ͱਪఆ͢Δ (۠ؒਪఆ) ʹҠΔ • ۠ؒਪఆͰɼਫ਼ͱ۠ؒͷେ͖͞ͷ͕ؔͱͳΔ 35 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ۠ؒਪఆͷఆࣜԽ • ਖ਼نूஂ N ( µ,
σ2 ) ʹݶఆͯ͠ɼະύϥϝʔλ µ ͷΈͰ͋Δͱ ͢Δ • µ ͕۠ؒ Iµ = [µ∗, µ∗] Ͱਪఆ͞ΕΔͱ͢Δ (µ∗, µ∗ ౷ܭྔ) • P (µ∗ ≤ µ ≤ µ) = 1 − α ͕Γཱͭͱ͖ɼIµ Λฏۉ µ ʹؔ͢Δ৴ པ 1 − α ͷ৴པ۠ؒɼ·ͨ 100(1 − α)% ৴པ۠ؒͱ͍͏ 36 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਖ਼نूஂͷฏۉͷ۠ؒਪఆ (ࢄط) ਖ਼نूஂͷฏۉͷ۠ؒਪఆ (ࢄط) X1, .
. . , Xn iid ∼ N ( µ, σ2 ) ͱͯ͠ɼ σ2 = σ2 0 طͱ͢Δɽ͜ͷͱ͖ɼ ฏۉ µ ͷ৴པ 1 − α ͷ৴པ۠ؒ (1) Ͱ༩͑ΒΕΔɽ Iµ = [ X − zα/2 σ0 √ n , X + zα/2 σ0 √ n ] . (1) • (1) ʹ͓͍ͯɼzα/2 ඪ४ਖ਼نͷ্ଆ 100(α/2)% ɼͭ·Γ Φ(zα/2 ) = ∫ zα/2 −∞ 1 √ 2π exp ( − x2 2 ) = 1 − α 2 Λຬͨ͢Ͱ͋Δ 37 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਖ਼نूஂͷฏۉͷ۠ؒਪఆ (ࢄط) √ n (µ −
µ) /σ0 ∼ N (0, 1) Ͱ͋Δ͜ͱΛ༻͍Δͱɼ P(µ ∈ Iµ) =P ( µ ∈ [ X − zα/2 σ0 √ n , X + zα/2 σ0 √ n ]) =P ( X − zα/2 σ0 √ n ≤ µ ≤ X + zα/2 σ0 √ n ) =P ( −zα/2 ≤ √ n ( X − µ ) σ0 ≤ zα/2 ) =Φ(zα/2 ) − { 1 − Φ(zα/2 ) } =2Φ(zα/2 ) − 1 =2 ( 1 − α 2 ) − 1 =1 − α 38 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ৴པ۠ؒʹؔ͢Δҙ • ৴པͷҙຯɼԿ܁Γฦ͠ n ݸͷσʔλΛऔΓɼͦͷ৴ པ
100(1 − α)%ͷ µ ͷ৴པ۠ؒ Iµ Λߏͨ͠߹ɼฏۉͯ͠ 100(1 − α) ݸͷ৴པ͕۠ؒ µ ΛؚΜͰ͍Δͱ͍͏͜ͱ • (1) Ͱߏͨ͠ Iµ ͷ͞ X + zα/2 σ0 √ n − ( X − zα/2 σ0 √ n ) = 2zα/2 σ0 √ n Ͱ͋Γɼn (σʔλ) ͕૿͑Εখ͘͞ͳΔࣄ͕Θ͔Δ 39 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ۠ؒਪఆͷͨΊʹඞཁͳσʔλ • (1) ͷ͞Λ ℓ ҎԼͱ੍ͨ͠߹ɼͦͷ۠ؒਪఆͷͨΊʹඞཁͳσʔ
λ 2zα/2 σ0 √ n ≤ ℓ =⇒ n ≥ 4z2 α/2 σ2 ∗ ℓ2 Ͱ͋Δ 40 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਖ਼نूஂͰͷฏۉͷ۠ؒਪఆ (ࢄະ) • ࣮ࡍʹɼࢄ͕͔͍ͬͯΔ͜ͱຆͲແ͍ • ࢄ͕طͱ͍͏ԾఆΛऔΓ͏
ਖ਼نूஂͰͷฏۉͷ۠ؒਪఆ (ࢄະ) X1, . . . , Xn iid ∼ N ( µ, σ2 ) ͱ͠ɼσ2 ະͱ͢Δɽ͜ͷͱ͖ɼฏۉ µ ͷ৴པ 1 − α ͷ৴པ۠ؒ Iµ = [ X − t ( n − 1; α 2 ) √ S2 u n , X + t ( n − 1; α 2 ) √ S2 u n ] (2) Ͱߏ͞ΕΔɽ • (2) ʹ͓͍ͯɼt(n − 1; α/2) ࣗ༝ n − 1 ͷ t ͷ্ଆ 100(α/2)% Ͱ͋Δ 41 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ਖ਼نूஂͰͷฏۉͷ۠ؒਪఆ (ࢄະ) • جຊతͳܗ (1) ͱಉ͡
• ҧ͏ͷҎԼͷ 2 : 1 σ2 ͕ະͳͷͰɼਪఆྔͱͯ͠ඪຊෆภࢄ S2 u Λ͏ 2 ౷ܭྔ T = X − µ √ S2 u /n ࣗ༝ n − 1 ͷ t ʹै͏ 42 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ҙͷͰͷฏۉͷਪఆ • ฏۉ µɼࢄ σ2 Λͭूஂ
P(µ, σ2) ͔Βͷແ࡞ҝඪຊ X1, . . . , Xn ͔ΒฏۉΛ۠ؒਪఆ͢Δ ฏۉͷਪఆ ҎԼͰ༩͑ΒΕΔ۠ؒɼۙతʹฏۉ µ ͷ৴པ 1 − α ͷ৴ པ۠ؒʹͳΔɿ σ2 = σ2 0 ͕طͷ߹ [ X − zα/2 σ0 √ n , X − zα/2 σ0 √ n ] σ2 ͕ະͷ߹ [ X − zα/2 √ S2 0 n , X − zα/2 √ S2 0 n ] 43 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ҙͷͰͷฏۉͷਪఆ • த৺ۃݶఆཧ͔Βɼ X − µ
√ σ2 0 /n ∼ N (0, 1) , X − µ √ S2 u /n ∼ N (0, 1) ͕Γཱͭ͜ͱΛͬͯಋ͘ • த৺ۃݶఆཧΛ͏ͷͰɼͪΖΜେඪຊ (n → ∞) ͷ߹Λఆ 44 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ࢄͷ۠ؒਪఆ ਖ਼نूஂͰͷࢄͷ۠ؒਪఆ X1, . . .
, Xn iid ∼ N ( µ, σ2 ) ͱ͢Δɽ͜ͷͱ͖ɼࢄ σ2 ͷ৴པ 1 − α ͷ৴པ۠ؒ Iσ2 = [ (n − 1)S2 u χ2(n − 1; α/2) , (n − 1)S2 u χ2(n − 1; 1 − α/2) ] Ͱߏ͞ΕΔɽ • χ2(n − 1; α/2) ࣗ༝ n − 1 ͷ χ2 ͷ্ଆ 100(α/2) • χ2(n − 1; 1 − α/2) ࣗ༝ n − 1 ͷ χ2 ͷ্ଆ 100(1 − α/2) 45 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ ൺͷ۠ؒਪఆ ൺͷ۠ؒਪఆ X1, . . .
, Xn iid ∼ B(1, p) ͱ͢Δɽ͜ͷͱ͖ɼύϥϝʔλ p ͷ৴པ 1 − α ͷۙతͳ৴པ۠ؒ Ip = [ p − zα/2 √ p (1 − p) n , p + zα/2 √ p (1 − p) n ] , p := X Ͱ͋Δɽ • த৺ۃݶఆཧΛ͑ಋ͚Δ 46 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ লུͨ͠༗໊ͳ۠ؒਪఆ • ฏۉͷࠩͷ۠ؒਪఆ • ඪ४ภࠩͷ۠ؒਪఆ •
ࢄൺͷ۠ؒਪఆ • ൺͷࠩͷ۠ؒਪఆ 47 / 49 -
౷ܭతਪఆ ਪఆ ۠ؒਪఆ ࠷ޙʹ 1 ౷ܭతਪఆ 2 ਪఆ 3 ۠ؒਪఆ
4 ࠷ޙʹ 48 / 49