Upgrade to PRO for Only $50/Year—Limited-Time Offer! 🔥

DeepGBM 論文の紹介

Yuki Ishikawa
September 09, 2019

DeepGBM 論文の紹介

2019.09.09 [沖縄] KDD 2019 論文読み会 @ちゅらデータ

発表しようとしたものの体調が死んでお蔵入りになったやつを供養
肝心の部分が TODO のままになっている...

Yuki Ishikawa

September 09, 2019
Tweet

More Decks by Yuki Ishikawa

Other Decks in Technology

Transcript

  1. ঺հ͢Δ࿦จ w %FFQ(#."%FFQ-FBSOJOH'SBNFXPSL%JTUJMMFECZ(#%5GPS0OMJOF1SFEJDUJPO5BTLT w 1%'IUUQTXXXLEEPSHLEEBDDFQUFEQBQFSTWJFXEFFQHCNBEFFQMFBSOJOH GSBNFXPSLEJTUJMMFECZHCEUGPSPOMJOFQSFEJDUJPOU w ಈըIUUQTXXXZPVUVCFDPNXBUDI W6[9/[8T1X w

    ࣮૷IUUQTHJUIVCDPNNPUFqZ%FFQ(#. w .JDSPTPGU3FTFBSDIͷ࿦จ w TU"VUIPSͷ(VPMJO,Fࢯ͸-JHIU(#.ͷ࡞ऀ (VPMJO,F ;IFOIVJ9V +JB;IBOH +JBOH#JBO BOE5JF:BO-JV%FFQ(#."%FFQ-FBSOJOH'SBNFXPSL%JTUJMMFECZ(#%5GPS0OMJOF1SFEJDUJPO5BTLT
 *O5IFUI"$.4*(,%%$POGFSFODFPO,OPXMFEHF%JTDPWFSZBOE%BUB.JOJOH ,%%` "VHVTUr  "ODIPSBHF ", 64""$. /FX:PSL /: 64" QBHFT
 IUUQTEPJPSH
  2. ֓ཁ w ΦϯϥΠϯ༧ଌλεΫͰ͸ɺҎԼͷ̎ͭͷ՝୊Λಉ࣌ʹղܾ͢Δ͜ͱ͕೉͍͠ w ΧςΰϦσʔλͱ࿈ଓσʔλΛಉ࣌ʹ͏·͘ѻ͑ͳ͍ w ࣌ؒͱͱ΋ʹ෼෍͕มԽ͢Δσʔλʹରͯ͠͏·͘ϞσϧΛߋ৽Ͱ͖ͳ͍ w (#%5ͱ//͸ۙ೥Α͘࢖ΘΕΔϞσϧ͕ͩɺͦΕͧΕʹऑ఺͕͋Δ w

    ͜ͷ࿦จͰ͸ɺ(#%5ͱ//ΛৠཹʹΑͬͯ૊Έ߹ΘͤΔ͜ͱͰɺ
 ΦϯϥΠϯ༧ଌλεΫΛޮՌతʹղ͘ϑϨʔϜϫʔΫ%FFQ(#.ΛఏҊ͢Δ w ༷ʑͳσʔληοτͰ࣮ݧΛߦͳ͕ͬͨɺ͢΂ͯͷσʔληοτͰଞͷ
 ͋ΒΏΔख๏ΑΓ΋ੑೳ͕͍͍
  3. (#%5ͱΦϯϥΠϯ༧ଌ w ར఺ w ߴີ౓ͳ਺஋σʔλΛޮՌతʹѻ͑Δ w JOGPSNBUJPOHBJO͕࠷େͱͳΔಛ௃Λ܁Γฦ͠બ୒Ͱ͖ΔͨΊ w ܽ఺ w

    ΦϯϥΠϯͰϞσϧΛߋ৽͢Δ͜ͱ͕ࠔ೉ w ֶश͞ΕͨπϦʔ͕ඍ෼ՄೳͰ͸ͳ͍ͨΊ w ·ͨɺʮϞσϧߋ৽͕Ͱ͖ͳ͍ʯͱ͍͏͜ͱ͸ʮຖճֶश͠௚͞ͳ͚Ε͹͍͚ͳ͍ʯ
 ͱ͍͏͜ͱͰ͋Γɺ͜Ε͸େن໛σʔλΛ༻ֶ͍ͨश͕ࠔ೉Ͱ͋Δ͜ͱΛҙຯ͢Δ
 େن໛σʔλΛҰ౓ʹϝϞϦʹࡌͤΔ͜ͱ͸ݱ࣮తͰͳ͍  w ΧςΰϦσʔλͷֶश͕ۤख w ಛʹɺεύʔεͳΧςΰϦσʔλͷPOFIPUදݱΛೖྗͨ͠৔߹͸JOGPSNBUJPOHBJO͕
 ඇৗʹখ͘͞ͳΔͨΊɺͦͷಛ௃ྔΛ༻ֶ͍ͯशͯ͠΋΄ͱΜͲͷ৔߹ޮՌ͕ͳ͍ɺ
 ͦͷͨΊεύʔεͳΧςΰϦσʔλͰ͸πϦʔΛޮՌతʹ੒௕ͤ͞Δ͜ͱ͕Ͱ͖ͳ͍
  4. //ͱΦϯϥΠϯ༧ଌ w ར఺ w େن໛σʔλͰ΋ޮ཰తͳΦϯϥΠϯֶश͕Մೳ w όον୯ҐͷCBDLQSPQBHBUJPOʹΑΔ w εύʔεͳΧςΰϦσʔλͷಛ௃Λֶश͢Δ͜ͱ͕Մೳ w

    ܽ఺ w ߴີ౓ͳ਺஋σʔλͷֶश͕ࠔ೉ w શ݁߹ωοτϫʔΫ '$// Ͱ͸ہॴղʹؕΓ΍͘͢ɺे෼ͳੑೳ͕ग़ͳ͍
  5. (#%5ͱ//Λ૊Έ߹ΘͤΔख๏ w //ʹπϦʔͷΑ͏ͳܾఆೳྗΛಋೖ͢Δݚڀ͕͍͔ͭ͋͘Δ w ྫ͑͹(PPH-F/FUʹ͸πϦʔͷΑ͏ͳܾఆೳྗ͕͋Δ͜ͱ͕஌ΒΕ͍ͯΔ w $7෼໺͹͔ΓͰΦϯϥΠϯ༧ଌʹద༻ͨ͠ࣄྫ͸ͳ͍ w ֶशࡁΈπϦʔϞσϧΛ//ʹม׵͢Δઌߦݚڀ΋͋Δ w

    ඇޮ཰͔ͭϞσϧ͕ංେԽ͢ΔͷͰݱ࣮తͰ͸ͳ͍ w (#%5ͱ//ͷΞϯαϯϒϧΛࢼΈͨݚڀ΋͍͔ͭ͋͘Δ w 'BDFCPPL ϩδεςΟοΫճؼΛ༻͍ͯϦʔϑΠϯσοΫεΛ༧ଌ͢Δ w .JDSPTPGU (#%5Ͱ//ͷޡࠩΛิਖ਼͢Δ w ͍ͣΕ΋ΦϯϥΠϯߋ৽͕Ͱ͖ͳ͍໰୊͕ղܾ͞Ε͍ͯͳ͍
  6. $BU// w ΧςΰϦσʔλΛ&NCFEEJOHදݱΛ༻͍ͯີͳϕΫτϧʹม׵͢Δ w ΦϯϥΠϯ༧ଌͰΧςΰϦσʔλʹ//Λద༻͢Δઌߦݚڀ͸ଟ͋͘Γ
 8JEFˍ%FFQ 1// %FFQ'. Y%FFQ'. ͳͲ

    ɺ%FFQ(#.Ͱ͸
 طଘͷ͏·͍͍ͬͯ͘Δߏ଄Λͦͷ··׆༻ͯ͠$BU//ͱͯ͠ར༻͍ͯ͠Δ w ͜ͷ࿦จͷ$BU//Ͱ͸ઌߦݚڀΛ׆༻֤ͯ͠ಛ௃ྔؒͷ૬ޓ࡞༻΋
 ֶश͢Δ͕ɺͦΕ͸ඞͣ͠΋ඞཁͰ͸ͳ͍ w $BU//͸ଞͷಉ༷ͷػೳΛ࣋ͭ//ίϯϙʔωϯτͰ΋୅༻͢Δ͜ͱ͕Ͱ͖Δ
  7. ୯ҰͷπϦʔͷৠཹ  w πϦʔ͕બ୒ͨ͠ಛ௃ྔ 5SFF4FMFDUFE'FBUVSFT  w πϦʔ͸͢΂ͯͷಛ௃ྔΛ࢖͏Θ͚Ͱ͸ͳ͍ w ͦͷ஌ࣝΛసૹͯ͠//ͷֶशޮ཰Λ޲্Ͱ͖Δ

    w ۩ମతʹ͸ʮπϦʔ͕બ୒ͨ͠ಛ௃ྔΛ//ͷೖྗʹ͢Δʯ͚ͩ w πϦʔͷߏ଄ %BUB1BSUJUJPO  w πϦʔͷߏ଄͕͍࣋ͬͯΔ஌ࣝ͸ɺσʔλΛҰͭͷ༿ʹ෼ׂ͢Δํ๏Λࣔ͢ w ͜ͷߏ଄Λ//ʹసૹ͢Δͷ͸؆୯ͳ͜ͱͰ͸ͳ͍ɺຊ࣭తʹߏ଄͕ҟͳΔ w //͸೚ҙͷؔ਺Λۙࣅ͢Δ͜ͱೳྗ͕ڧྗͰ͋Δ͜ͱ͕஌ΒΕ͍ͯΔͷͰɺ
 ʮ//ͰπϦʔͷߏ଄Λۙࣅ͢Δʯ͜ͱͰߏ଄ͷ஌ࣝΛநग़͢Δ
  8. ࣮ݧʹ࢖͏σʔληοτ w ͍͔ͭ͘ͷެ։σʔληοτΛ࢖͏ w ඈߦػͷ஗Ԇ༗ແΛ༧ଌ͢ΔͨΊͷߤۭձࣾͷσʔληοτ w ͍͔ͭ͘ͷ,BHHMFίϯϖͷσʔληοτ w /FVS*14ͷ"VUP.-ͷͨΊͷσʔληοτ w

    ͜ΕΒͷσʔληοτ͸͢΂ͯҎԼͷΑ͏ͳಛ௃͕͋Δ w ΧςΰϦͱ਺஋ͷ྆ํͷσʔλؚ͕·Ε͍ͯΔ w λΠϜελϯϓؚ͕·Ε͍ͯΔ ΦϯϥΠϯ༧ଌΛγϛϡϨʔτͰ͖Δ
  9. ൺֱର৅ͷϞσϧ  w (#%5 -JHIU(#.  w -3 ϩδεςΟοΫճؼ 

    w '. 'BDUPSJ[BUJPO.BDIJOFT  w 8JEF%FFQ ઢܗϞσϧ %//  w %FFQ'. w 1// 1SPEVDUCBTFE/FVSBM/FUXPSLT
  10. ࣮ݧͷઃఆ w ਺஋σʔλΛ͏·͘ѻ͑ͳ͍Ϟσϧ -3 '. 8JEFˍ%FFQ %FFQ'. 1//ͳͲ Ͱ͸ɺ
 ཭ࢄԽͨ͠ΧςΰϦσʔλΛೖྗ͢Δ͜ͱͱ͢Δ

    w ΧςΰϦσʔλΛ͏·͘ѻ͑ͳ͍Ϟσϧ (#%5ͳͲ Ͱ͸ɺ
 ϥϕϧΤϯίʔυ΍όΠφϦΤϯίʔυΛߦͬͨ਺஋σʔλΛೖྗ͢Δ͜ͱͱ͢Δ w ͢΂ͯͷ࣮ݧ͸ҟͳΔཚ਺γʔυͰ̑ճ࣮ߦ͞ΕΔ 
 ˞ϋΠύʔύϥϝʔλઃఆΛؚΉ࣮ݧͷৄࡉ͸࿦จͷ෇࿥͓Αͼίʔυ (JU)VC ʹهࡌ͞Ε͍ͯΔ
  11. ·ͱΊ ֓ཁΛ࠶ܝ w ΦϯϥΠϯ༧ଌλεΫͰ͸ɺҎԼͷ̎ͭͷ՝୊Λಉ࣌ʹղܾ͢Δ͜ͱ͕೉͍͠ w ΧςΰϦσʔλͱ࿈ଓσʔλΛಉ࣌ʹ͏·͘ѻ͑ͳ͍ w ࣌ؒͱͱ΋ʹ෼෍͕มԽ͢Δσʔλʹରͯ͠͏·͘ϞσϧΛߋ৽Ͱ͖ͳ͍ w (#%5ͱ//͸ۙ೥Α͘࢖ΘΕΔϞσϧ͕ͩɺͦΕͧΕʹऑ఺͕͋Δ

    w ͜ͷ࿦จͰ͸ɺ(#%5ͱ//ΛৠཹʹΑͬͯ૊Έ߹ΘͤΔ͜ͱͰɺ
 ΦϯϥΠϯ༧ଌλεΫΛޮՌతʹղ͘ϑϨʔϜϫʔΫ%FFQ(#.ΛఏҊ͢Δ w ༷ʑͳσʔληοτͰ࣮ݧΛߦͳ͕ͬͨɺ͢΂ͯͷσʔληοτͰଞͷ
 ͋ΒΏΔख๏ΑΓ΋ੑೳ͕͍͍