Upgrade to Pro — share decks privately, control downloads, hide ads and more …

不自然言語の自然言語処理: コード補完を支える最新技術

takegue
October 09, 2020

不自然言語の自然言語処理: コード補完を支える最新技術

Sansan自然言語処理勉強会
https://sansan.connpass.com/event/190157/

takegue

October 09, 2020
Tweet

More Decks by takegue

Other Decks in Technology

Transcript

  1. ۙ೥ʹ͓͚Δίʔυิ׬पΓͷݚڀ w ౷ܭϞσϧʹΑΔίʔυิ׬ #SVDIFUBM  w ϕΠδΞϯΞϓϩʔνʹΑΔίʔυิ׬ 1SPLTDIFUBM  ˠ&DMJQTF֦ுͱͯ͠૊ΈࠐΈ

    w ݴޠϞσϧʹΑΔΞϓϩʔν w OHSBNϞσϧʹΑΔίʔυิ׬<)JOEMFFUBM> w ΩϟογϡܕݴޠϞσϧʹΑΔίʔυͷہॴར༻<'SBOLTFUBM> w ߏจ΍ҙຯղੳ݁Ռͷར༻<3BZDIFWFUBM> ΑΓ޿͍ҙຯͰͷίʔυར༻ͷݚڀ͸<"MMBNBOJTFUBM>Λࢀর
  2. w .JDSPTPGUͷݚڀνʔϜʹΑΔ ίʔυิ׬ͷݚڀ 74$PEF֦ு7JTVBM4UVEJP*OUFMMJ$PEFͷதͷ࿩   w ਫ਼౓͚ͩͰͳ͘ଈԠੑ αΠζͷ ෳ਺ͷ؍఺Ͱෳ਺ͷχϡʔϥϧϞ

    σϧͷੑೳΛൺֱ w .#ͰNTͰ3FDBMM!Ͱ  ঺հ͢Δ࿦จ ֤छϞσϧͷৄࡉͳ࣮૷΍σϓϩΠϝϯτʹؔ͢ΔผγεςϜ࿦จͰ΋঺հ͞Ε͍ͯΔ 4WZBULPWTLJZFUBM ,%%Λࢀর ҎޙਤࣜͳͲ͸࿦จதΑΓҾ༻͠·͢
  3. ࣮Ԡ༻ͷࣗવݴޠॲཧٕज़ͷน ޠኮʹΑΔϞσϧαΠζ΁ͷӨڹ w Ϟσϧͷύϥϝʔλ਺ʹ͸ޠኮ਺ͷӨڹ΋େ͖͍ ޠኮ਺Y࣍ݩ਺  w Ұൠతͳ*1"%*$ͷγεςϜࣙॻͰ໿.# ສऑΤϯτϦ 

    w NFDBCJQBEJDOFPMPHEͰ໿.# ສΤϯτϦ೥ݱࡏ  w Ϟσϧબ୒΋ॏཁͰ͋Δ͕ɺͦ΋ͦ΋ޠኮαΠζΛௐ੔͢Δඞཁ͕͋Δ w ྔࢠԽɺৠཹͱ͍ͬͨϞσϧͷޙॲཧख๏΍ 'FBUVSF)BTIJOHͱ͍ͬͨѹॖख๏͕ଘࡏ͢Δ ࠓճ͸ׂѪ
  4. ࣮Ԡ༻ͷࣗવݴޠॲཧٕज़ͷน ˠޠኮ਺ΛݮΒ͢޻෉Λߟ͑Δ w 50,&/ۭന͗͘ΓͰͦͷ··ར༻ w 46#50,&/TOBLF@DBTF΍$BNFM$BTFͳͲ໋໊׳श͸෼ׂՄೳ w #ZUF1BJS&ODPEJOH #1& σʔλ͔ΒαϒτʔΫϯ΁ͷ෼ׂΛ֫ಘ

    ޠኮ਺ΛઃఆՄೳ JFBSSBZ@JOOFS@QSPEVDUˠBSSBZ @ JO OOFS QSPE VDU w $)"3จࣈɻτʔΫϯྻΛ࣍ݩͷը૾ͱߟ͑ͯ$//͕ద༻Ͱ͖Δ 
  5. ࣮Ԡ༻ͷࣗવݴޠॲཧٕज़ͷน ੑೳͱϞσϧͷαΠζͷτϨʔυΦϑ w ۙ೥ͷಈ޲σΧ͍΄Ͳ͍͍ެ։ࡁΈͷχϡʔϥϧݴޠϞσϧ w #&35 5SBOTGPSNFS ԯύϥϝʔλ ਺(#ʙ 

    w Ϟσϧ͕େ͖͍ˠܭࢉίετ΋ߴ͍ˠ஗͘ͳΔ w TPGUNBY͸ܭࢉ͕ॏ͍ w <:BPFUBM>ஈ֊తͳ༧ଌީิͷߋ৽ʹΑΓഒͷߴ଎Խ
  6. ࣮ݧઃఆ σʔληοτ (JUIVC্ͷελʔ਺ͷ1ZUIPOϓϩδΣΫτ͔Β lzʹΑΔิ׬ҐஔΛऔಘ͠σʔληοτͷߏங ධՁ ϞσϧαΠζ͸ύϥϝʔλ਺Y'-0"5Ͱܭࢉ ̏ͭͷࢦඪ3FDBMM! 3FDBMM! .33ͰධՁ จࣈྻͷ෼ׂํ๏

    & ɺީิϓϩόΠμ 1 ɺຒΊࠐΈํ๏ $  ͭͷ૊Έ߹ΘͤͰͦΕͧΕϋΠύϥύϥϝʔλΛ̎෦୳ࡧ ϕʔεϥΠϯ͸45"/ͷީิͷ࠷ස౓Λબ୒ 50,&/  45"/ʹ૬౰
  7. ·ͱΊ w ࣮༻తͳࣗવݴޠॲཧͷ෼໺ͱͯ͠ίʔυิ׬ͰͷऔΓ૊ΈΛ঺հ w /-1ͱಉ༷ʹχϡʔϥϧݴޠϞσϧʹΑΔมԽ͕๚Ε͍ͯΔ w ੑೳ͚ͩͰ͸ͳ͘ଈԠੑ΍ϞσϧαΠζΛؑΈͨൺֱ࣮ݧ w ΦʔιυοΫεͳ3//͸5SBOTGPSNFS΍$//ΑΓ࣮༻త w

    ൚༻తͳѹॖख๏஌ࣝৠཹ΍ྔࢠԽΛར༻͢Δ͜ͱͰ͞ΒͳΔѹॖ͕Մೳ w ੩తղੳπʔϧͷॆ࣮ͷഎܠ͔Βࣗવݴޠॲཧ෼໺͔ΒΈͯ΋ࣔࠦత w ஌ࣝͱσʔλͷ૊Έ߹ΘͤΔͨΊͷ໰୊ઃఆ΍ΞʔΩςΫνϟ
  8. ࢀߟจݙ 5BC/JOF5FBN5BC/JOFIUUQTUBCOJOFDPN7JTJUFE.BS +JBMJ:BPFUBM &OBCMJOH3FBMUJNF/FVSBM*.&XJUI*ODSFNFOUBM7PDBCVMBSZ4FMFDUJPO /""$- 4WZBULPWTLJZFUBM 'BTUBOE.FNPSZ&⒏DJFOU/FVSBM$PEF$PNQMFUJPO BS9JW 4WZBULPWTLJZFUBM 1ZUIJB"*BTTJTUFE$PEF$PNQMFUJPO4ZTUFN

    ,%% "MMBNBOJTFUBM "4VSWFZPG.BDIJOF-FBSOJOHGPS#JH$PEFBOE/BUVSBMOFTT "$.$PNQVUJOH4VSWFZT $463  4FCBTUJBO1SPLTDI +PIBOOFT-FSDI BOE.JSB.F[JOJ*OUFMMJHFOUDPEFDPNQMFUJPOXJUI#BZFTJBOOFUXPSLT"$.5SBOTBDUJPOTPO4PGUXBSF &OHJOFFSJOHBOE.FUIPEPMPHZ 504&.  "CSBN)JOEMF &BSM5#BSS ;IFOEPOH4V .BSL(BCFM BOE1SFNLVNBS%FWBOCV0OUIFOBUVSBMOFTTPGTPGUXBSF*O1SPDFFEJOHTPGUIF *OUFSOBUJPOBM$POGFSFODFPO4PGUXBSF&OHJOFFSJOH *$4&  $ISJTUJOF'SBOLT ;IBPQFOH5V 1SFNLVNBS%FWBOCV BOE7JODFOU)FMMFOEPPSO$BDIFDB"DBDIFMBOHVBHFNPEFMCBTFEDPEF TVHHFTUJPOUPPM*O1SPDFFEJOHTPGUIF*OUFSOBUJPOBM$POGFSFODFPO4PGUXBSF&OHJOFFSJOH *$4&  7FTFMJO3BZDIFW .BSUJO7FDIFW BOE"OESFBT,SBVTF1SFEJDUJOH1SPHSBN1SPQFSUJFTGSPNl#JH$PEFz*O1SPDFFEJOHTPGUIF 4ZNQPTJVNPO1SJODJQMFTPG1SPHSBNNJOH-BOHVBHFT 101-  1BWPM#JFMJL 7FTFMJO3BZDIFW BOE.BSUJO7FDIFW1)0(1SPCBCJMJTUJD.PEFMGPS$PEF*O1SPDFFEJOHTPGUIF*OUFSOBUJPOBM$POGFSFODF PO.BDIJOF-FBSOJOH *$.-