Share
Embed
DeepGBM 論文の紹介
2019.09.09 [沖縄] KDD 2019 論文読み会 @ちゅらデータ
発表しようとしたものの体調が死んでお蔵入りになったやつを供養
肝心の部分が TODO のままになっている...
Yuki Ishikawa
September 09, 2019
Transcript
36 slides
-
հ͢Δจ w %FFQ(#."%FFQ-FBSOJOH'SBNFXPSL%JTUJMMFECZ(#%5GPS0OMJOF1SFEJDUJPO5BTLT w 1%'IUUQTXXXLEEPSHLEEBDDFQUFEQBQFSTWJFXEFFQHCNBEFFQMFBSOJOH GSBNFXPSLEJTUJMMFECZHCEUGPSPOMJOFQSFEJDUJPOU w ಈըIUUQTXXXZPVUVCFDPNXBUDI W6[9/[8T1X w
࣮IUUQTHJUIVCDPNNPUFqZ%FFQ(#. w .JDSPTPGU3FTFBSDIͷจ w TU"VUIPSͷ(VPMJO,Fࢯ-JHIU(#.ͷ࡞ऀ (VPMJO,F ;IFOIVJ9V +JB;IBOH +JBOH#JBO BOE5JF:BO-JV%FFQ(#."%FFQ-FBSOJOH'SBNFXPSL%JTUJMMFECZ(#%5GPS0OMJOF1SFEJDUJPO5BTLT *O5IFUI"$.4*(,%%$POGFSFODFPO,OPXMFEHF%JTDPWFSZBOE%BUB.JOJOH ,%%` "VHVTUr "ODIPSBHF ", 64""$. /FX:PSL /: 64" QBHFT IUUQTEPJPSH -
֓ཁ w ΦϯϥΠϯ༧ଌλεΫͰɺҎԼͷ̎ͭͷ՝Λಉ࣌ʹղܾ͢Δ͜ͱ͕͍͠ w ΧςΰϦσʔλͱ࿈ଓσʔλΛಉ࣌ʹ͏·͘ѻ͑ͳ͍ w ࣌ؒͱͱʹ͕มԽ͢Δσʔλʹରͯ͠͏·͘ϞσϧΛߋ৽Ͱ͖ͳ͍ w (#%5ͱ//ۙΑ͘ΘΕΔϞσϧ͕ͩɺͦΕͧΕʹऑ͕͋Δ w
͜ͷจͰɺ(#%5ͱ//ΛৠཹʹΑͬͯΈ߹ΘͤΔ͜ͱͰɺ ΦϯϥΠϯ༧ଌλεΫΛޮՌతʹղ͘ϑϨʔϜϫʔΫ%FFQ(#.ΛఏҊ͢Δ w ༷ʑͳσʔληοτͰ࣮ݧΛߦͳ͕ͬͨɺͯ͢ͷσʔληοτͰଞͷ ͋ΒΏΔख๏ΑΓੑೳ͕͍͍ -
(#%5ͱΦϯϥΠϯ༧ଌ w ར w ߴີͳσʔλΛޮՌతʹѻ͑Δ w JOGPSNBUJPOHBJO͕࠷େͱͳΔಛΛ܁Γฦ͠બͰ͖ΔͨΊ w ܽ w
ΦϯϥΠϯͰϞσϧΛߋ৽͢Δ͜ͱ͕ࠔ w ֶश͞ΕͨπϦʔ͕ඍՄೳͰͳ͍ͨΊ w ·ͨɺʮϞσϧߋ৽͕Ͱ͖ͳ͍ʯͱ͍͏͜ͱʮຖճֶश͠͞ͳ͚Ε͍͚ͳ͍ʯ ͱ͍͏͜ͱͰ͋Γɺ͜ΕେنσʔλΛ༻ֶ͍ͨश͕ࠔͰ͋Δ͜ͱΛҙຯ͢Δ େنσʔλΛҰʹϝϞϦʹࡌͤΔ͜ͱݱ࣮తͰͳ͍ w ΧςΰϦσʔλͷֶश͕ۤख w ಛʹɺεύʔεͳΧςΰϦσʔλͷPOFIPUදݱΛೖྗͨ͠߹JOGPSNBUJPOHBJO͕ ඇৗʹখ͘͞ͳΔͨΊɺͦͷಛྔΛ༻ֶ͍ͯशͯ͠΄ͱΜͲͷ߹ޮՌ͕ͳ͍ɺ ͦͷͨΊεύʔεͳΧςΰϦσʔλͰπϦʔΛޮՌతʹͤ͞Δ͜ͱ͕Ͱ͖ͳ͍ -
//ͱΦϯϥΠϯ༧ଌ w ར w େنσʔλͰޮతͳΦϯϥΠϯֶश͕Մೳ w όον୯ҐͷCBDLQSPQBHBUJPOʹΑΔ w εύʔεͳΧςΰϦσʔλͷಛΛֶश͢Δ͜ͱ͕Մೳ w
ܽ w ߴີͳσʔλͷֶश͕ࠔ w શ݁߹ωοτϫʔΫ '$// ͰہॴղʹؕΓ͘͢ɺेͳੑೳ͕ग़ͳ͍ -
(#%5ͱ//ΛΈ߹ΘͤΔख๏ w //ʹπϦʔͷΑ͏ͳܾఆೳྗΛಋೖ͢Δݚڀ͕͍͔ͭ͋͘Δ w ྫ͑(PPH-F/FUʹπϦʔͷΑ͏ͳܾఆೳྗ͕͋Δ͜ͱ͕ΒΕ͍ͯΔ w $7͔ΓͰΦϯϥΠϯ༧ଌʹద༻ͨ͠ࣄྫͳ͍ w ֶशࡁΈπϦʔϞσϧΛ//ʹม͢Δઌߦݚڀ͋Δ w
ඇޮ͔ͭϞσϧ͕ංେԽ͢ΔͷͰݱ࣮తͰͳ͍ w (#%5ͱ//ͷΞϯαϯϒϧΛࢼΈͨݚڀ͍͔ͭ͋͘Δ w 'BDFCPPL ϩδεςΟοΫճؼΛ༻͍ͯϦʔϑΠϯσοΫεΛ༧ଌ͢Δ w .JDSPTPGU (#%5Ͱ//ͷޡࠩΛิਖ਼͢Δ w ͍ͣΕΦϯϥΠϯߋ৽͕Ͱ͖ͳ͍͕ղܾ͞Ε͍ͯͳ͍ -
$BU// w ΧςΰϦσʔλΛ&NCFEEJOHදݱΛ༻͍ͯີͳϕΫτϧʹม͢Δ w ΦϯϥΠϯ༧ଌͰΧςΰϦσʔλʹ//Λద༻͢Δઌߦݚڀଟ͋͘Γ 8JEFˍ%FFQ 1// %FFQ'. Y%FFQ'. ͳͲ
ɺ%FFQ(#.Ͱ طଘͷ͏·͍͍ͬͯ͘ΔߏΛͦͷ··׆༻ͯ͠$BU//ͱͯ͠ར༻͍ͯ͠Δ w ͜ͷจͷ$BU//ͰઌߦݚڀΛ׆༻֤ͯ͠ಛྔؒͷ૬ޓ࡞༻ ֶश͢Δ͕ɺͦΕඞͣ͠ඞཁͰͳ͍ w $BU//ଞͷಉ༷ͷػೳΛ࣋ͭ//ίϯϙʔωϯτͰ༻͢Δ͜ͱ͕Ͱ͖Δ -
୯ҰͷπϦʔͷৠཹ w ઌߦݚڀͷৠཹͷ΄ͱΜͲɺϞσϧͷग़ྗͷΈΛసૹ͢Δ w ৠཹલͱޙͷϞσϧ͕ಉ༷ͷग़ྗΛੜ͢Δ͜ͱΛอূ͢ΔͨΊ w ͔͠͠πϦʔͱ//ຊ࣭తʹҟͳΔͨΊɺৠཹͰ͖ΔࣝΑΓ ଟ͘ͷ͕ࣝπϦʔʹ͞Ε͍ͯΔ w
۩ମతʹʮπϦʔ͕બͨ͠ಛྔʯͱʮπϦʔͷߏʯ ॏཁͳࣝͱͳΓ͏Δ -
୯ҰͷπϦʔͷৠཹ w πϦʔ͕બͨ͠ಛྔ 5SFF4FMFDUFE'FBUVSFT w πϦʔͯ͢ͷಛྔΛ͏Θ͚Ͱͳ͍ w ͦͷࣝΛసૹͯ͠//ͷֶशޮΛ্Ͱ͖Δ
w ۩ମతʹʮπϦʔ͕બͨ͠ಛྔΛ//ͷೖྗʹ͢Δʯ͚ͩ w πϦʔͷߏ %BUB1BSUJUJPO w πϦʔͷߏ͕͍࣋ͬͯΔࣝɺσʔλΛҰͭͷ༿ʹׂ͢Δํ๏Λࣔ͢ w ͜ͷߏΛ//ʹసૹ͢Δͷ؆୯ͳ͜ͱͰͳ͍ɺຊ࣭తʹߏ͕ҟͳΔ w //ҙͷؔΛۙࣅ͢Δ͜ͱೳྗ͕ڧྗͰ͋Δ͜ͱ͕ΒΕ͍ͯΔͷͰɺ ʮ//ͰπϦʔͷߏΛۙࣅ͢Δʯ͜ͱͰߏͷࣝΛநग़͢Δ -
࣮ݧʹ͏σʔληοτ w ͍͔ͭ͘ͷެ։σʔληοτΛ͏ w ඈߦػͷԆ༗ແΛ༧ଌ͢ΔͨΊͷߤۭձࣾͷσʔληοτ w ͍͔ͭ͘ͷ,BHHMFίϯϖͷσʔληοτ w /FVS*14ͷ"VUP.-ͷͨΊͷσʔληοτ w
͜ΕΒͷσʔληοτͯ͢ҎԼͷΑ͏ͳಛ͕͋Δ w ΧςΰϦͱͷ྆ํͷσʔλؚ͕·Ε͍ͯΔ w λΠϜελϯϓؚ͕·Ε͍ͯΔ ΦϯϥΠϯ༧ଌΛγϛϡϨʔτͰ͖Δ -
ൺֱରͷϞσϧ w (#%5 -JHIU(#. w -3 ϩδεςΟοΫճؼ
w '. 'BDUPSJ[BUJPO.BDIJOFT w 8JEF%FFQ ઢܗϞσϧ %// w %FFQ'. w 1// 1SPEVDUCBTFE/FVSBM/FUXPSLT -
࣮ݧͷઃఆ w σʔλΛ͏·͘ѻ͑ͳ͍Ϟσϧ -3 '. 8JEFˍ%FFQ %FFQ'. 1//ͳͲ Ͱɺ ࢄԽͨ͠ΧςΰϦσʔλΛೖྗ͢Δ͜ͱͱ͢Δ
w ΧςΰϦσʔλΛ͏·͘ѻ͑ͳ͍Ϟσϧ (#%5ͳͲ Ͱɺ ϥϕϧΤϯίʔυόΠφϦΤϯίʔυΛߦͬͨσʔλΛೖྗ͢Δ͜ͱͱ͢Δ w ͯ͢ͷ࣮ݧҟͳΔཚγʔυͰ̑ճ࣮ߦ͞ΕΔ ˞ϋΠύʔύϥϝʔλઃఆΛؚΉ࣮ݧͷৄࡉจͷ͓Αͼίʔυ (JU)VC ʹهࡌ͞Ε͍ͯΔ -
࣮ݧ݁ՌɿΦϑϥΠϯ༧ଌͷੑೳ w (#%5ଞͷ//ͷϕʔεϥΠϯΑΓ༏Ε͍ͯΔˠ(#%5ͷࣝΛҾ͖ग़͢Ξϓϩʔν༗ӹͰ͋Δ w % (#%5// (#%5ΛվળͰ͖͍ͯΔˠֶशࡁΈ(#%5ϞσϧΛޮՌతʹৠཹͰ͖͍ͯΔ w (#%5ͱ//ͷΈ߹Θͤੑೳ্ʹߩݙ͢ΔˠΧςΰϦͱͷ྆ํΛॲཧ͢Δ͜ͱ͕Ͱ͖͍ͯΔ w
%FFQ(#.ͯ͢ͷσʔληοτͷͯ͢ͷϕʔεϥΠϯΑΓ༏Ε͍ͯΔ ʲදʳΫϥεྨͰ"6$ ճؼͰ.4&Λهࡌ͍ͯ͠Δ -
·ͱΊ ֓ཁΛ࠶ܝ w ΦϯϥΠϯ༧ଌλεΫͰɺҎԼͷ̎ͭͷ՝Λಉ࣌ʹղܾ͢Δ͜ͱ͕͍͠ w ΧςΰϦσʔλͱ࿈ଓσʔλΛಉ࣌ʹ͏·͘ѻ͑ͳ͍ w ࣌ؒͱͱʹ͕มԽ͢Δσʔλʹରͯ͠͏·͘ϞσϧΛߋ৽Ͱ͖ͳ͍ w (#%5ͱ//ۙΑ͘ΘΕΔϞσϧ͕ͩɺͦΕͧΕʹऑ͕͋Δ
w ͜ͷจͰɺ(#%5ͱ//ΛৠཹʹΑͬͯΈ߹ΘͤΔ͜ͱͰɺ ΦϯϥΠϯ༧ଌλεΫΛޮՌతʹղ͘ϑϨʔϜϫʔΫ%FFQ(#.ΛఏҊ͢Δ w ༷ʑͳσʔληοτͰ࣮ݧΛߦͳ͕ͬͨɺͯ͢ͷσʔληοτͰଞͷ ͋ΒΏΔख๏ΑΓੑೳ͕͍͍