Upgrade to Pro — share decks privately, control downloads, hide ads and more …

word2vecを利用した埋め込み分析とSWEMを用いた比較実験

 word2vecを利用した埋め込み分析とSWEMを用いた比較実験

atmaCup#9 オンサイトデータコンペ振り返り回で発表した資料です。
word2vecを利用した埋め込み分析とSWEMを用いた比較実験について述べています。

Takanobu Nozawa

February 27, 2021
Tweet

More Decks by Takanobu Nozawa

Other Decks in Programming

Transcript

  1. 48&.ͱ͸ʁ w 4JNQMF8PSE&NCFEEJOHCBTFE.FUIPET w ୯ޠຒΊࠐΈͷΈΛར༻ͯ͠จষຒΊࠐΈΛܭࢉ͢Δํ๏ʢ˞ʣ w ࿦จͰ͸Լهͭͷख๏͕ఏҊ͞Ε͍ͯΔ 㾎 48&.BWFSɿ୯ޠͷ෼ࢄදݱʹରͯ͠BWFSBHFQPPMJOH͢Δʢίϯϖظؒத͸࣌ؒ΋ͳ͔ ͬͨͷͰ͜Ε͚ͩΛ࣮ݧʣ

    㾎 48&.NBYɿ୯ޠͷ෼ࢄදݱʹରͯ͠NBYQPPMJOH͢Δ 㾎 48&.DPODBUɿ48&.BWFSͱ48&.NBYͷ݁ՌΛ݁߹͢Δ 㾎 48&.IJFSɿOHSBNͷΑ͏ʹݻఆ௕ͷ΢Οϯυ΢ͰBWFSBHFQPPMJOHͨ݁͠Ռʹରͯ͠ NBYQPPMJOH͢Δ ˞ɿIUUQTBSYJWPSHBCTW
  2. 48&.Ͱݕূ w ࢖༻ͨ͠ಛ௃ྔ " Ϣʔβʔͷଐੑ৘ใʢ೥ྸɾੑผʣ # ങ͍෺ͷ࣌ؒ৘ใʢ೥݄೔ɾ࣌ɾ༵೔ͳͲʣ $ JUFNͷ෼ࢄදݱ͔Βܭࢉͨ͠ϢʔβʔຒΊࠐΈϕΫτϧʢ48&.ʣ ˞UFTUʹ͚ͩଘࡏ͢ΔϢʔβʔ͸೥ྸͷฏۉϕΫτϧͰิ׬

    w ͔ͤͬ͘ͳͷͰɺԼهछྨͷಛ௃ྔͰൺֱ࣮ݧΛ࣮ࢪ ‣ "#͚ͩͷಛ௃ྔʢϕʔεϥΠϯʣ ‣ "#$ͷಛ௃ྔʢ$͸લड़ͨ͠छྨ෼ʣ ‣ Ϟσϧ͸-JHIU(#.GPME 48&.ͷ࣮૷ίʔυαϯϓϧ͸(JUIVCϦϙδτϦʹ͋͛·ͨ͠ˠIUUQTHJUIVCDPNUBLBQZHFFL@CMPHCMPCNBTUFSOMQTXFNQZ
  3. ݕূ݁Ռ ࣮ݧ Local Public Private ϕʔεϥΠϯʢ24 featuresʣ 0.6037 0.5652 0.5802

    SWEM-averʢ74 featuresʣ 0.8057 0.7476 0.7461 SWEM-maxʢ74 featuresʣ 0.7127 0.6599 0.6633 SWEM-concatʢ124 featuresʣ 0.8057 0.7435 0.7424 SWEM-hierʢ74 featuresʣ 0.8092 0.7484 0.7483