Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Yamla: Rustでつくるリアルタイム性を追求した機械学習基盤 / Yamla: A Ru...

Yamla: Rustでつくるリアルタイム性を追求した機械学習基盤 / Yamla: A Rust-Based Machine Learning Platform Pursuing Real-Time Capabilities

本プレゼンテーションでは、Rust で開発したリアルタイムに特化した機械学習基盤について紹介します。

機械学習の推論結果をユーザに届けるシステムは多岐に渡りますが、多くの場合モデルを事前にオフラインで学習しておき推論時は学習済みのモデルを読み込んで API を立てます。しかし、強化学習やバンディットさらにはコンテンツの入れ替わりが激しいサービスでは、学習もオンラインで行いたいというニーズがあります。紹介する機械学習基盤は、そのようなニーズに合わせてオフラインの学習だけでなくオンラインでリアルタイムの学習も可能にします。近年注目され活躍の幅を広げている Rust についても、機械学習の領域で実サービスにまで適応されている事例の1つとして参考になれば幸いです。

More Decks by LINEヤフーTech (LY Corporation Tech)

Other Decks in Technology

Transcript

  1. 0GGMJOFWT0OMJOF #BDLHSPVOE 0OMJOF-FBSOJOH • 6QEBUFNPEFMJNNFEJBUFMZFWFSZUJNFOFXEBUBBSSJWFT • &BDIEBUBQPJOUJTQSFTFOUFEUPNPEFMPOMZPODF POF FQPDIPGUSBJOJOH 

    • (PBMJTUPNJOJNJ[FUIF MPTT zBWFSBHFEzPWFSFWFSZUSBJOJOH JUFSBUJPO %BUBDPMMFDUJPO -BCFMJOH&5- 5SBJOJOH %FQMPZNFOU TFDdNJOVUFT 
  2. 0GGMJOFWT0OMJOF #BDLHSPVOE 0OMJOF-FBSOJOH • 6QEBUFNPEFMJNNFEJBUFMZFWFSZUJNFOFXEBUBBSSJWFT • &BDIEBUBQPJOUJTQSFTFOUFEUPNPEFMPOMZPODF POF FQPDIPGUSBJOJOH 

    • (PBMJTUPNJOJNJ[FUIF MPTT zBWFSBHFEzPWFSFWFSZUSBJOJOH JUFSBUJPO %BUBDPMMFDUJPO -BCFMJOH&5- 5SBJOJOH %FQMPZNFOU TFDdNJOVUFT ,FFQ VQXJUIUIFSBQJEDIBOHFT 
  3. 0GGMJOFWT0OMJOF #BDLHSPVOE 0GGMJOF #BUDI ü 'MFYJCJMJUZ • &BTZUPBEEDPNQMJDBUFEDPNQPOFOUT ü 4UBCJMJUZ

    • *OCPUINPEFMPVUQVUBOETZTUFN 0OMJOF 3FBMUJNF ü "EBQUBCJMJUZ • "EBQUUPOFXQBUUFSOTJOEBUB JNQSPWJOHJUTQFSGPSNBODFPWFSUJNF ü &GGJDJFODZ • $BQBCMFPGTFRVFOUJBMMFBSOJOHXJUIMJNJUFESFTPVSDF 
  4. 1PTJUJPOJOH :BNMB 0GGMJOF #BUDI 0OMJOF 3FBMUJNF -FBSOJOH *OGFSFODF HIFF $VUUZ4BSL

    :BNMB 5FOTPS'MPX 4FSWJOH • /PUPOMZ*OGFSFODFCVUBMTP USBJOJOHJOSFBMUJNF • 'PDVTPOTNBMMNFEJVNNPEFM  /7*%*" 5SJUPO4FSWFS
  5. 'FBUVSFT :BNMB ü 4ZTUFN ü$PODVSSFOUNPEFMFYFDVUJPO ü%ZOBNJDCBUDIJOH ü"VUPNPEFMMPBEEFUBDI ü 5BTLT3FHSFTTJPO DMBTTJpDBUJPO

    NVMUJDMBTTJpDBUJPO ü .PEFMT.-1 .-1.JYFS .BTLOFU 5SBOTGPSNFSFUDʜ ü *OUFHSBUFEXJUI.-"1* ü 3FBEZNBEFEBTICPBSE 
  6. "QQSPBDI :BNMB4USFBNJOH &YJTUJOH BQQSPBDIFT • 5P5SBJOJOHTFSWJOHTLFX • 4BWFGFBUVSFTEVSJOHJOGFSFODFGPSSFVTFEVSJOHUSBJOJOH MPHBOEXBJU •

    #VJMEJOGSBTUSVDUVSFUIBUJOUFHSBUFTTUSFBNQSPDFTTJOHBOECBUDI QSPDFTTJOH • 5P$PODFQUESJGU • 3FUSBJOJOHUISPVHICBUDIQSPDFTTJOH • $POUFOU#BTFEUP$PMMBCPSBUJWF'JMUFSJOH $#$' 
  7. "QQSPBDI :BNMB4USFBNJOH &YJTUJOH BQQSPBDIFT 0VSBQQSPBDI 4BWFGFBUVSFTEVSJOHJOGFSFODFBOEKPJOUIFNJOSFBMUJNFXJUIMBCFMT DPNJOHUISPVHIUIFTUSFBNGPSMFBSOJOH • 5P5SBJOJOHTFSWJOHTLFX •

    4BWFGFBUVSFTEVSJOHJOGFSFODFGPSSFVTFEVSJOHUSBJOJOH MPHBOEXBJU • #VJMEJOGSBTUSVDUVSFUIBUJOUFHSBUFTTUSFBNQSPDFTTJOHBOECBUDI QSPDFTTJOH • 5P$PODFQUESJGU • 3FUSBJOJOHUISPVHICBUDIQSPDFTTJOH • $POUFOU#BTFEUP$PMMBCPSBUJWF'JMUFSJOH $#$' 
  8. #FGPSF "GUFS *OGFSFODF4FSWFS 5SBJOCBUDIKPC Model )%'4 *OGFSFODF4FSWFS 5SBJOTFSWFS Model )%'4

    :BNMB1SFEJDUPS :BNMB-FBSOFS :BNMB1BSBNIVC #BUDI&5- 5SBJONPEFM*ODSFNFOUBMMZ .PEFMVQEBUFGSFRVFODZIPVSTUPIPVS -*/&/&84 3FQMBDFXJUI:BNMB 6TF$BTFJO1SPEVDUJPO 
  9. -*/&/&84r 3FQMBDFXJUI:BNMB 6TF$BTFJO1SPEVDUJPO #FGPSF "GUFS *OGFSFODF4FSWFS 5SBJOCBUDIKPC Model )%'4 *OGFSFODF4FSWFS

    5SBJOTFSWFS Model )%'4 :BNMB1SFEJDUPS :BNMB-FBSOFS :BNMB1BSBNIVC #BUDI&5- 5SBJONPEFM*ODSFNFOUBMMZ .PEFMVQEBUFGSFRVFODZIPVSTUPIPVS JNQSFTTJPOˢ DMJDLˢ 
  10. -*/&/&84r "QQMZ:BNMB4USFBNJOH 6TF$BTFJO1SPEVDUJPO #FGPSF "GUFS *OGFSFODF4FSWFS 5SBJOTFSWFS Model )%'4 #BUDI&5-

    *OGFSFODF4FSWFS 5SBJOTFSWFS Model 3FBMUJNF&5- :BNMB4USFBNJOH .PEFMVQEBUFGSFRVFODZIPVSTUPTFDPOET -BHHFENPSFUIBOIPVS 
  11. -*/&/&84r "QQMZ:BNMB4USFBNJOH 6TF$BTFJO1SPEVDUJPO #FGPSF "GUFS *OGFSFODF4FSWFS 5SBJOTFSWFS Model )%'4 #BUDI&5-

    *OGFSFODF4FSWFS 5SBJOTFSWFS Model 3FBMUJNF&5- :BNMB4USFBNJOH .PEFMVQEBUFGSFRVFODZIPVSTUPTFDPOET JNQSFTTJPOˢ DMJDL ˢ 
  12. 4VNNBSZ • %JTDVTTFEPOMJOFMFBSOJOH TUSFOHUIT EJGpDVMUJFT FUDʜ • *OUSPEVDFEBDSPTTGVODUJPOBMPOMJOFMFBSOJOHQMBUGPSN • :BNMB

    JTTDBMBCMFBOEGBTUFOPVHIGPSUSBJOJOHBTXFMMBTJOGFSFODF • :BNMB4USFBNJOHFOBCMFTPOMJOFUSBJOJOH • "DIJFWFEVQMJGUTPGLFZNFUSJDTBOEEFQMPZFEUPQSPEVDUJPOTFSWJDF 
  13.