Upgrade to Pro — share decks privately, control downloads, hide ads and more …

実データにふれる自然言語処理インターンシップ/internship2018

j.harashima
August 30, 2018
14k

 実データにふれる自然言語処理インターンシップ/internship2018

j.harashima

August 30, 2018
Tweet

More Decks by j.harashima

Transcript

  1. ೥݄ ೥݄ ژ౎େֶࠇڮɾՏݪݚڀࣨ഑ଐ ΫοΫύουೖࣾ ത࢜ʢ৘ใֶʣऔಘ ೥݄ ݪౡ७ ೥݄ 3%෦໳৽ઃˍҟಈ ೥݄

    ΫοΫύουΠϯλʔϯγοϓࢀՃ ֶ෦ˠम࢜ˠത࢜ ɾಉٛදݱͷ֫ಘʢ*+$/-1ʣ ɾݕࡧ݁Ռͷཁ໿ʢ/-1*9ʣ ɾݕࡧ݁ՌͷϦϥϯΩϯάʢ*+$/-1ʣ ɾ೔ຊޠจͷѹॖʢ$0-*/(ʣ ϦαʔνΤϯδχΞˠϚωʔδϟʔ ɾϨγϐίʔύεͷߏஙʢ-3&$ʣ ɾϨγϐͷ຋༁ʢ8"5ʣ ɾϨγϐը૾σʔληοτͷߏஙʢ4*(*3ʣ ɾࡐྉ໊ͷਖ਼نԽʢ$&"ʣ ιϑτ΢ΣΞΤϯδχΞ ɾ3VCZPO3BJMT
  2.      ׂ࣌ؒ  ϥϯν  ߨٛʢࣗવݴޠॲཧ֓࿦ɺΫοΫύουͱࣗવݴޠॲཧʣ

    ՝୊ʢϨγϐղੳɾϨγϐ෼ྨʣ ՝୊ʢΫΤϦΫϥελϦϯάɾϨγϐ຋༁ʣ ը૾෼ੳ ؼΓࢧ౓   ٳΈ࣌ؒ ࣗ༝࣌ؒ
  3. ܗଶૉղੳ ୯ޠͷ۠੾Γͱ඼ࢺɺݪܗΛࣝผ͢Δॲཧ ଠ࿠ ͸ ژ౎ ʹ ߦͬͨ ଠ࿠͸ژ౎ʹߦͬͨ ໊ࢺ ໊ࢺ

    ಈࢺ ॿࢺ ॿࢺ c c c c ߦ͘ ղੳ༻ͷࣙॻΛࢀরɺҰ൪໬΋Β͍͠ ʢίετͷ૯࿨͕௿͍ʣ୯ޠྻΛબ୒ ੜىίετͷ΄͔ʹ୯ޠؒͷ࿈઀ίε τ΋ߟྀ ଠ࿠ ໊ࢺ  ژ౎ ໊ࢺ  ژ ໊ࢺ  ౎ ໊ࢺ   ࣙॻ ੜىίετ
  4. ݻ༗දݱೝࣝ จதͷݻ༗දݱʢFH ਓ໊ɺ஍໊ʣΛೝࣝ͢Δॲཧ ଠ࿠ ͸ ژ౎ ʹ ߦͬͨ ໊ࢺ ໊ࢺ

    ಈࢺ ॿࢺ ॿࢺ c c c c ߦ͘ ଠ࿠ ͸ ژ౎ ʹ ߦͬͨ ਓ໊ ஍໊ ܇࿅σʔλΛ༻ҙɺͲͷΑ͏ͳ୯ޠྻ͕ ͲͷΑ͏ͳݻ༗දݱʹͳΓ͏Δ͔Λֶश ࣍࿠͸ژ౎ʹߦͬͨɻ Ֆࢠ͸େࡕʹߦͬͨɻ  ֶशσʔλ ਓ໊ ਓ໊ ஍໊ ஍໊ ݻ༗දݱೝࣝث
  5. ߏจղੳ จͷߏ଄ʢ೔ຊޠͰ͸จઅͷ۠੾Γͱ܎ΓઌʣΛ໌Β͔ʹ͢Δॲཧ ҎԼͷ৘ใ͔Βࣝผ ɾจઅ͸લ͔ΒޙΖʹ܎Δ ɾจઅ͸ͨͩҰͭͷจઅʹ܎Δ ɾ܎Γड͚͸ޓ͍ʹަࠩ͠ͳ͍ʢඇަࠩ৚݅ʣ ɾ࠷΋͍ۙจઅʹ܎Γ΍͍͢ ɾ ଠ࿠ ͸

    ژ౎ ʹ ߦͬͨ ໊ࢺ ໊ࢺ ಈࢺ ॿࢺ ॿࢺ c c c c ߦ͘ ଠ࿠͸ ژ౎ʹ ߦͬͨ c c จઅͷ۠੾ΓΛࣝผ ߦͬͨ ଠ࿠͸ ژ౎ʹ จઅͷ܎ΓઌΛࣝผ จઅʹݸҎ্ͷ಺༰ޠʢFH ໊ࢺʣʴ ɹɹɹݸҎ্ͷ෇ଐޠʢFH ॿࢺʣ
  6. লུরԠղੳ রԠࢺ จষதͷಉҰදݱΛಉఆ͢Δॲཧ ઌߦࢺ রԠղੳ লུղੳʢθϩরԠղੳʣ ޲͔ͬͨ ൴͸ ਗ਼ਫࣉʹ ·ͣ

    ଠ࿠͸ ژ౎ʹ ߦͬͨ θϩ୅໊ࢺ ઌߦࢺ ޲͔ͬͨ ൴͸ ਗ਼ਫࣉʹ ·ͣ ଠ࿠͸ ژ౎ʹ ߦͬͨ θϩ୅໊ࢺʢলུ͞ΕͨরԠࢺʣʹؾ෇͘ͱ͜Ζ͔Β ελʔτ ҎԼͷ৘ใ͔Βಉఆ ɾরԠࢺͱઌߦࢺͷੑผ͸ಉ͡ ɾઌߦࢺ͸ʮ͸ʯΛ൐͍΍͍͢ ɾরԠࢺͱઌߦࢺ͸ͦΕ΄Ͳ཭Εͳ͍ ɾ
  7. ஊ࿩ߏ଄ղੳ ஊ࿩ϚʔΧ จষͷߏ଄Λಉఆ͢Δॲཧ Ұ൪ ͳͥͳΒ ژ౎Ͱ ൴͸ मࣙߏ଄ཧ࿦ ɾஊ࿩ߏ଄ͷϞσϧͷҰͭ ɾஊ࿩୯Ґʢจ΍અʣͷؒʹʮഎܠʯ΍ʮࠜڌʯ౳ͷؔ܎Λߟ͑Δ

    ɾؔ܎ͷओͱͳΔଆΛ֩ɺैͱͳΔଆΛӴ੕ͱݺͿʢʮରൺʯ΍ʮྻڍʯͷ৔߹͸྆ํ͕֩ͱͳΔʣ ޲͔ͬͨ ਗ਼ਫࣉʹ ·ͣ ༗໊ͳ ؍ޫ஍͔ͩΒͩ ʢ֩ʣ ʢӴ੕ʣ ࠜڌ
  8. ݕࡧΤϯδϯ ΫΤϦʹؔ࿈͢ΔϦιʔεʢFH จॻʣΛऔಘ͢Δॲཧ ΠϯσΩγϯάʢࡧҾ෇͚ʣ సஔΠϯσοΫε ΦϑϥΠϯ ΦϯϥΠϯ จॻʮଠ࿠͸ژ౎ʹߦͬͨʯ จॻʮ࣍࿠͸ژ౎ʹߦͬͨʯ ܗଶૉղੳ

    จॻଠ࿠c͸cژ౎cʹcߦͬͨ จॻ࣍࿠c͸cژ౎cʹcߦͬͨ ଠ࿠\^ ࣍࿠\^  ژ౎\ ^ ΫΤϦʮଠ࿠ʯ ݕࡧ݁Ռɿจॻ ΫΤϦʮژ౎ʯ ݕࡧ݁Ռɿจॻ จॻ సஔΠϯσοΫεΛࢀর సஔΠϯσοΫεΛࢀর
  9. ίϯϐϡʔλʹΑΔผͷݴޠͷ౳Ձͳจষ΁ͷஔ׵ ೔ɿଠ࿠͸ژ౎ʹߦͬͨ ӳɿ5BSPXFOUUP,ZPUP ܗଶૉղੳɺߏจղੳɺ ݴޠ୯Ґ͝ͱʹ຋༁ ߦͬͨ ଠ࿠͸ ژ౎ʹ 5BSP UP,ZPUP

    XFOU MFBWF  ࣗવจΛੜ੒ ೖྗจΛԿΒ͔ͷݴޠ୯ҐʢFH ୯ޠɺ୯ޠ ྻʣͰදݱ ຋༁ީิΛ૊Έ߹Θͤͯෳ਺ͷจΛੜ੒ ͦͷத͔Β΋ͬͱ΋ࣗવͳ΋ͷΛग़ྗ ֤ݴޠ୯Ґʹ͍ͭͯର༁ࣙॻ͔Β຋༁ީิΛ
 બ୒ʢର༁ࣙॻ͸༧Ίߏங͓ͯ͘͠ʣ ຋༁Τϯδϯ
  10. ίϯϐϡʔλʹΑΔผͷݴޠͷ౳Ձͳจষ΁ͷஔ׵ ೔ɿଠ࿠͸ژ౎ʹߦͬͨ ӳɿ5BSPXFOUUP,ZPUP τʔΫφΠζʢFH ܗଶૉղੳʣ ࣗવจΛੜ੒ ೖྗจΛԿΒ͔ͷݴޠ୯ҐʢFH จࣈྻɺ୯ ޠʣͰදݱ %FDPEFS͕΋ͬͱ΋Β͍͠ݴޠ୯ҐͷܥྻΛ

    ग़ྗ ຋༁Τϯδϯʢ/.5ʣ … … x T  … … … … x 0  x 1  h1 0  h1 1  … … … … … … … … y 0  h2 0  … … y 1  h2 1  … … y T’-1  h2 T’-1  … … y T’  h2 T’  … … … x T-1  h1 T-1  h1 T  &ODPEFS%FDPEFS &ODPEFS͕ೖྗͷ৘ใΛू໿ɾϕΫτϧԽ
  11. ߏจղੳ ֨ղੳ লུরԠղੳ ಉٛදݱೝࣝ ʢಉٛྉཧ໊ɾ ৯ࡐ໊ೝࣝɺ ࡐྉ໊ਖ਼نԽʣ ޠٛᐆດੑղফ ஊ࿩ߏ଄ղੳ ୯ޠϨϕϧ

    ߏจϨϕϧ จ຺Ϩϕϧ ҙຯϨϕϧ ΞϓϦέʔγϣϯʢϨγϐݕࡧɺϨγϐ෼ྨɺϨγϐ຋༁ɺखॱ෼ྨɺ͝ҙݟ෼ྨʣ ΫοΫύουͱࣗવݴޠॲཧ ܗଶૉղੳʢϨγϐղੳʣ
  12. ࡐྉ໊ਖ਼نԽ ϨγϐதͷදهΛΫοΫύου಺Ͱͷ୅දදهʹ ࣗಈͰਖ਼نԽ ˒ΈΓΜ ૈ൨͖ࠇމᑦ ΋΍͠ʢ͓޷ΈͰʣ ΈΓΜ ͋Βͼ͖ࠇ͜͠ΐ͏ ΋΍͠ ه߸ͷআڈ

    දه༳Εͷղফ ׅހදݱͷআڈ ͦͷଞɺิ଍৘ใͷআڈ΍ಉٛදݱͷೝࣝɺ௲Γؒҧ͍ͷमਖ਼ͳͲ
 ʢFH ͓޷ΈͰ㾐ന͝·ˠ͍Γ͝·ɺੜ͘ΓʔϜˠੜΫϦʔϜʣ
  13.      ׂ࣌ؒ  ϥϯν  ߨٛʢࣗવݴޠॲཧ֓࿦ɺΫοΫύουͱࣗવݴޠॲཧʣ

    ՝୊ʢϨγϐղੳɾϨγϐ෼ྨʣ ՝୊ʢΫΤϦΫϥελϦϯάɾϨγϐ຋༁ʣ ը૾෼ੳ ؼΓࢧ౓   ٳΈ࣌ؒ ࣗ༝࣌ؒ
  14. ʲ՝୊ʳࡐྉΛ਺͑ͯΈ·͠ΐ͏ ॱҐ ୯ޠ ग़ݱස౓   ʁ   

    ʁ    ʁ    ʁ    ʁ    ສϨγϐͷதͰ΋ͬͱ΋ଟ͘ग़ݱ͢Δࡐྉ͸ʁ KRSlJOHSFEJFOUT<>OBNFzSFDJQF@KTPOc
  15. ํ਑ʢҰྫʣ ֤ϨγϐͷςΩετʢFH λΠτϧʣΛܗଶૉղੳ ಺༰ޠʢFH ໊ࢺʣʹ*%Λ෇༩ ֤ϨγϐΛಛ௃ϕΫτϧͰදݱʢFH Ϩγϐ"<   

      >ʣ ಛ௃ϕΫτϧͱڭࢣσʔλΛ༩͑ͯɺϞσϧΛֶशɾධՁ ΋ͪΖΜଞͷํ๏Ͱ΋0,Ͱ͢ʂʢTDJLJUMFBSOͷ5pEG7FDUPSJ[FSͱ͔࢖͏ͱָ͔ͱʣ ˢ൪ͷ୯ޠ͕ճɺ൪ͷ୯ޠ͕ճɺ
  16.      ׂ࣌ؒ  ϥϯν  ߨٛʢࣗવݴޠॲཧ֓࿦ɺΫοΫύουͱࣗવݴޠॲཧʣ

    ՝୊ʢϨγϐղੳɾϨγϐ෼ྨʣ ՝୊ʢΫΤϦΫϥελϦϯάɾϨγϐ຋༁ʣ ը૾෼ੳ ؼΓࢧ౓   ٳΈ࣌ؒ ࣗ༝࣌ؒ