HARD THINGS in Ad-Tech Engineering

Apr 25, 2017 /
Speee Cafe Meetup #06

の資料です。

Transcript

1. HARD THINGS in Ad-Tech Engineering Apr 25, 2017 / Speee Cafe Meetup #06 @jsoizo 
2. whoami • ໊લ : @jsoizo / Jun Sakamoto • ݴޠ : JavaScriptͱScalaΛগʑ • ॴଐ : • ໾ׂ : ৽نΞυϓϩμΫτͷProduct Manager • “Project” Manager͔Βͷస਎νϟϨϯδத • લ৬͔Β਺͑ͯΞυςΫྺ6೥໨ 
3. ࣭໰ ΞυςΫܦݧऀͷํ? ೖ໳/ඇܦݧऀͷํ? 
4. ຊ೔ͷ͓୊ 
6. ΞυςΫΤϯδχΞత ࠷΋HARDͳTHINGSͱ͸? 
7. ഑৴ো֐ 
8. γεςϜͱͯ͠ɺ૊৫ͱͯ͠ ͲͷΑ͏ʹཱͪ޲͔͔ͬͨ 
9. ΞυςΫͱো֐ • ޿ࠂ഑৴γεςϜ͸ɺओʹҎԼͷཁ݅Λຬͨ͢ඞཁ͕͋Δ • ޿ࠂओ͔Β༬͔ͬͨ༧ࢉΛ࠷దʹ࢖͏ • ഑৴ઌͷϝσΟΞʹରͯ͠ϢʔβମݧΛམͱͣ͞ऩӹΛग़͢ • Ϣʔβ͕ྑ͍ίϯςϯπ(≒޿ࠂओ)ʹग़ձ͑Δ • γεςϜ͕ɺ • ਖ਼͘͠ಈ͍͍ͯΕ͹શһ͕ϋοϐʔ • ো֐͕͋Δͱશһ͕ͭΒ͍ 
10. ϋΠύϑΥʔϚϯε͔ͭ Կ͕͋ͬͯ΋ࢮͳͳ͍ (≒Կ͔͋ͬͯ΋ܰ঱) γεςϜߏஙͷඞཁੑ 
11. γεςϜશମ૾ 
12. γεςϜશମ૾ 
13. γεςϜશମ૾ 
14. ࣮ࡍʹ͋ͬͨ͜ͱ ͋Δౙͷ೔ͷனɺϥϯνʹߦ͜͏ͱͨ͠ॠؒɺ λʔήςΟϯά΍޿ࠂ഑৴ͷফԽֹۚ౳Λ ؅ཧ͍ͯͨ͠KVSΫϥελ͕ ※ ϊʔυͰ͸ͳ͘ɺΫϥελͰ͢ ʊਓਓਓਓਓਓʊ ʼɹಥવͷࢮɹʻ ʉY^Y^Y^Y^Yʉ 
15. ࣮ࡍʹ͋ͬͨ͜ͱ ͦͷ৔ʹ͍ͨશһͰϊʔυͷ࠶ىಈΛ܁Γฦͭͭ͠ɺ ཪͰΠϯϑϥΤϯδχΞ͕ௐࠪ ىಈͯ͠΋ىಈͯ͠΋ଈࢮ͢ΔΫϥελ ݁ہ͸౰࣌τϥϑΟοΫͷຆͲΛ઎Ί͍ͯͨαΠτɹ ͔ΒλάΛണ͕ͯ͠΋Β͍࢑ఆରԠ → xx೔ͿΜͷച্͕·Δ·Δਧ͖ඈΜͩ 
16. ࠶ൃ๷ࢭͷͨΊʹͨ͜͠ͱ 1. ୤EBS(Elastic Block Store) 2. KVSΫϥελ΁ͷґଘΛ(෦෼తʹ)΍ΊΔ 3.͋ΒΏΔI/OΛۃྗඇಉظʹ͢Δ 4. ഑৴αʔό͕མͪͨ৔߹ʹnginx, λά͕र͏ 5. ͋ΒΏΔ؂ࢹ, ϩάམͱ͠Λ௥Ճ 
17. 1. ୤EBS(Elastic Block Store) 2. KVSΫϥελ΁ͷґଘΛ(෦෼తʹ)΍ΊΔ 3.͋ΒΏΔI/OΛۃྗඇಉظʹ͢Δ 4. ഑৴αʔό͕མͪͨ৔߹ʹnginx, λά͕र͏ 5. ͋ΒΏΔ؂ࢹ, ϩάམͱ͠Λ௥Ճ ࠶ൃ๷ࢭͷͨΊʹͨ͜͠ͱ 
18. 1. ୤EBS 
19. 1. ୤EBS SSD΁ͷRead/WriteಛԽͨ͠KVSΛར༻͍ͯ͠Δ͕ɺ࢓༷ͱͯ͠ • ϑΝΠϧγεςϜܦ༝Ͱ͸ͳ͘௚઀SSDʹॻ͖ࠐΉ • ֤ϊʔυͷϝϞϦ্ʹΠϯσοΫε(=KeyʹରԠͨ͠Value͕Ͳͷϊʔ υͷͲͷσΟεΫͷͲ͜ʹॻ͔Ε͍ͯΔ͔ͷΞυϨε৘ใ)Λ࣋ͭ • ΫϥελϚωδϝϯτͷػೳ΋උ͍͑ͯΔͷͰ؅ཧָ • ͨͩ͠ɺ֤ϊʔυʹରͯ͠͸heartbeatࢮ׆؂ࢹ͢Δ͕ɺ֤ϊʔυ͕ࢗ ͍ͯ͠ΔσΟεΫʹରͯ͠͸(΄΅)Կ΋͠ͳ͍ 
20. 1. ୤EBS EBS = Elastic Block Store • EC2ʹϚ΢ϯτՄ • ߴ͍Մ༻ੑͱ଱ٱੑ • ωοτϫʔΫܦ༝ͰI/O • ಺෦తʹ͸৑௕Խ͞Ε͍ͯΔ • EC2ىಈ࣌ʹEBS࠷దԽΦϓγϣϯΛ෺ཧతʹೖΕͳ͍ͱΠϯελϯεͱEBS͕ ෺ཧతʹ཭ΕΔ ো֐࣌ʹ͸EBSͷσΟεΫނোͰEBS͕ϑΣΠϧΦʔόʔதʹ਺෼ؒ໧ͬͯ͠·ͬͨ 
21. 1. ୤EBS ΠϯελϯεετΞ(=ΤϑΣϝϥϧσΟεΫ)ʹม͑ͨɻ • Pros • Πϯελϯε௚ࢗ͠ͷͨΊͱʹ͔͘଎͍ • εϧʔϓοτ͕མͪΔཁҼ͕গͳ͍ • Cons • Πϯελϯε࠶ىಈͰشൃ • αΠζ্ݶ͋Γ • Մ༻ੑ௿͍ 
22. 2. KVSΫϥελґଘΛ΍ΊΔ 
23. 2. KVSΫϥελґଘΛ΍ΊΔ 
24. 2. KVSΫϥελґଘΛ΍ΊΔ  • 1ͭͷKVSΫϥελ • SSDʹอଘ(memcached, redis౳ͱͷҧ͍) • ͕ɺϝϞϦʹอଘ͢ΔϓϩμΫτ૬Ԡʹ଎͍ • ࢖్͸ओʹҎԼͷ3ͭ • ഑৴αʔόͷ಺෦ΦʔΫγϣϯ༻༧ࢉ؅ཧ • ଐੑλʔήςΟϯά x3 छྨ • ϦλʔήςΟϯά
25. 2. KVSΫϥελґଘΛ΍ΊΔ (1) ഑৴αʔόͷΦʔΫγϣϯͰͷࢀরΛվળͯ͠KVSͷར༻ྔΛݮΒͨ͠ • چ • ಺෦ೖࡳͷΦʔΫγϣϯຖʹඞͣফԽֹۚΛࢀরͯ͠༧ࢉͱಥ߹ • ͜ͷ৔߹ɺKVS͕ࢮ͵ͱԿ΋ग़དྷͳ͘ͳΔ • ৽ • ഑৴αʔό͕RDBMSʹ͍࣋ͬͯΔ݁Ռ͔Βܭࢉͨ͠ফԽֹۚΛఆظ తʹΩϟογϡ • ༧ࢉ͕ਚ͖ͦ͏ʹͳΔ௚લ·ͰKVSΛࢀর͠ͳ͍Α͏ʹ͢Δ • KVS͕ࢮΜͰ΋΄ͱΜͲͷ৔߹޿ࠂ͕ฦͤΔ 
26. 2. KVSΫϥελґଘΛ΍ΊΔ (2) • αʔϏεͱͯ͠ఏڙ͍ͯ͠ΔλʔήςΟϯάख๏͸ओʹҎԼ2ͭ • ଐੑλʔήςΟϯά x3छ • ϦλʔήςΟϯά • ଐੑλʔήͷ΄͏͕ѹ౗తʹྔ͸ଟ͍(10:1͘Β͍, ച্͸5:1͘Β͍) • ݹ͍ߏ੒Ͱ͸6000ສUUʹؔ͢ΔܭࢉΛόονͰߦ͍KVSʹॻ͘ • ࠷੝ظ͸8࣌ؒ͘Β͍͔͔ͬͯ͠·͍ͬͯͨ • ͣͬͱෛՙࢼݧ͠ͳ͕Β഑৴͍ͯ͠ΔΑ͏ͳ΋ͷ 
27. 2. KVSΫϥελґଘΛ΍ΊΔ (2) ଐੑλʔήςΟϯάʹؔ͠ ຊ౰ʹඞཁͩͬͨ΋ͷ͸ɺ୯ʹϢʔβIDΛΩʔͱͯ͠ɺଐ ͢ΔηάϝϯτΛฦͯ͘͠ΕΔγϯϓϧͳػೳͷΈɻߴػೳ ͳDBΫϥελΛ࢖͏ͷ͸एׯToo Muchɻ → ຊ౰ʹඞཁͳػೳ͚ͩΛ࣋ͬͨ ϚΠΫϩαʔϏε(Play2)Λ࡞ͬͯϦϓϨΠεͨ͠ 
28. 2. KVSΫϥελґଘΛ΍ΊΔ (2) • چߏ੒ਤ 
29. 2. KVSΫϥελґଘΛ΍ΊΔ (2) • ৽ߏ੒ਤ 
30. 2. KVSΫϥελґଘΛ΍ΊΔ (2)  چߏ੒ ৽ߏ੒ λʔήςΟϯά
    ͷ࢓૊Έ ֎෦σʔλΛݩʹͨ͠
    όονͷܭࢉ݁ՌΛ
    ,74ʹอଘ SFRຖʹϦΞϧλΠϜܭࢉ
    
    Ұ෦  ͸چߏ੒ ҆ఆੑ σΟεΫຊ͕શମʹ
    Өڹٴ΅͢Մೳੑ ୆ࢮΜͰ΋Өڹͳ͠
    ,74͕ࢮΜͰ΋Өڹ ϨΠςϯγ dNTFD  NTFD
    ηάϝϯςʔγϣϯॲཧࠐΈ ίετ SYMBSHF
    ୆
    ଞͷ໨తؚΉ DYMBSHF
    ୆
    
    SYMBSHF
    ୆
31. 2. KVSΫϥελґଘΛ΍ΊΔ (2)  ϦΞϧλΠϜηάϝϯςʔγϣϯͷͳ͔Έ • ࣄલʹόοναʔόͰଐੑσʔλΛRocksDBͱͯ͠ ݻΊΔ • RocksDBΛWebαʔό͕ಡΈࠐΉ • httpϦΫΤετຖʹRocksDB͔ΒϢʔβଐੑΛಡΈ ࠐΜͰηάϝϯςʔγϣϯͯ͠ฦ٫
32. 2. KVSΫϥελґଘΛ΍ΊΔ (2) ͳͥRocksDB͔? • RocksDB : FacebookͷMySQLΤϯδϯ(MyRocks)΍ࠓ͸๢͖Parse ͷmongodbͷόοΫΤϯυͰར༻͞Ε͍ͯΔSSD΁ͷWriteʹ࠷ద Խ͞Εͨ૊ΈࠐΈ༻DB࣮૷ɻLevelDBͷforkɻ • ૊ΈࠐΈͰ, ߴ଎ʹ, େྔͳσʔλ͔ΒҾ͘࢓૊ΈΛٻΊͯ • ಉ༷ʹݕ౼ͨ͠h2dbͱͷൺֱͰɺएׯύϑΥʔϚϯε͕ྑ͔ͬͨ͜ ͱɺσʔλͷswap(ଐੑσʔλͷ೔࣍Ξοϓσʔτ)࣌ͷύϑΥʔϚ ϯεྼԽ౓߹͍͕௿͔ͬͨ͜ͱ͔Β൑அ 
33. 2. KVSΫϥελґଘΛ΍ΊΔ (2)  h2dbͱͷൺֱͰ एׯɺRocksDBͷ΄͏͕ૣ͘ɺϦιʔεফඅ͕গͳ͔ͬͨ
34. ͜͜·Ͱͷ·ͱΊ μ΢ϯ͠ͳ͍ɺμ΢ϯλΠϜΛۃྗগͳ͘͢ΔͨΊʹͲ͏͢Δ͔? • ΠϯϑϥɺϛυϧɺΞϓϦέʔγϣϯશͯγϯϓϧͳߏ੒ʹ • ͨ·ʹϨΠςϯγΛଟগ٘ਜ਼ʹͯ͠Ͱ΋҆ఆੑΛऔΔ • I/O͸ग़དྷΔݶΓඇಉظʹͯ͠ෛͷ࿈࠯Λ๷͙ • EBS͸ϋΠύϑΥʔϚϯε؀ڥͰ͸ආ͚Δ • શͯΛτϨʔεग़དྷΔ࢓૊ΈΛ੔͑Δ • ͍͟ͱ͍͏࣌ʹϢʔβ͚ͩʹ͸໎࿭Λ͔͚ͳ͍Α͏ʹ͢Δ 
35. ͦΕ͚ͩͰOK??? 
36. No. όάʹΑΔো֐Λ ͍͔ʹͯ͠๷͙ͷ͔? 
37. ཧ૝͸্ྲྀͰ๷͍͗ͨ ҰํͰ… 
38. ΤϯδχΞ͸ۀ຿ͷ ౰ࣄऀͰͳ͍ͨΊʹ ཁ݅Λਖ਼֬ʹཧղ͠೉͍͠ 
39. ۀ຿஌ࣝෆ଍໰୊ ΤϯδχΞͷۀ຿஌ࣝෆ଍ΛͲ͏ิ͏͔? • جຊతʹ͸ΤϯδχΞ΋ؤு֮ͬͯ͑Α͏ελϯε • DDD(Domain Driven Design)Λ΍Δͱ͍͏લఏ • ॳظͷۀ຿஌ࣝͷֶशίετͷߴ͕͞ωοΫʹͳΔ৔߹΋ • PM(ProductManager)ͷ຋༁ೳྗ, ۀ຿ઃܭྗʹৼΔ • αϘΒͣʹ࢓༷ॻΛॻ͘ମ੍ 
40. ߴ͍຋༁ೳྗΛ࣋ͭPM Fringe81Ͱ͸ݩʑ3PASΞφϦετͩͬͨϝϯόʔ͕PMΛ΍Δ • ݩʑઆ໌ೳྗ͕ߴ͍ͱ͜Ζʹ • ඇΤϯδχΞ͕ͩߴ͍ٕज़ཧղྗΛ͍࣋ͬͯΔ • ࣾ಺޲͚Ϩϙʔτఔ౓ͳΒউखʹSQLୟ͍ͯ࡞ΕΔ ݁ՌɺΤϯδχΞ͸ • ػೳཁ݅ͷೝࣝζϨɺඇػೳཁ݅ͷݕ౼࿙Ε͕ݮΔ • ຊ࣭తͳ໰୊(ઃܭ΍ύϑΥʔϚϯεվળ)ʹूதͰ͖Δ 
41. αϘΒͣʹ࢓༷ॻΛॻ͘ମ੍ ϕϯνϟʔͰ͸௝͘͠? ͔ͳΓ࢓༷ॻΛॻ͘จԽ(AdνʔϜ͸ಛʹ)ɻ ݹయతͳ΍ΓํΛ࣮֬ʹண࣮ʹ͜ͳ্͠ྲྀͷ ໰୊ΛݮΒ͢ɻΞδϟΠϧͰ΋جຊతʹ΍Δ ͜ͱ͸Ұॹɻ ※ શͯͷ࢓༷ॻ͸textlintΛCIͰ࣮ߦͯ͠ʹΛ ͸΍υϝΠϯ༻ޠͷϒϨΛݕࠪ  → ݁ՌISO 9001(඼࣭ϚωδϝϯτγεςϜ)Λऔಘͨ͠
42. ৽͍͠νϟϨϯδ • QAνʔϜͷઃஔ : ͞ΒͳΔ඼࣭ͷ޲্ • ઃܭ/ςετͷϨϏϡʔͱ୳ࡧతςετͷ࣮ࢪ • ΤϯδχΞ͔ΒPM΁ : ࣄۀܥPM΁ͷґଘ౓ΛԼ͛Δ • ओʹ৽نࣄۀํ໘Ͱൈṅ • ఆظతͳϙδγϣϯνΣϯδ : εΩϧτϥϯεϑΝʔ • ໾ׂݻఆ͢ΔͱಛఆྖҬͷٕज़/ۀ຿஌͔͔ࣝͭ͠ͳ͍ͷΛ๷͙ • ௚ۙͰ͸؅ཧը໘ϝϯόʔͱ഑৴αʔόϝϯόʔΛεϫοϓ 
43. ·ͱΊ HARD THINGS = ো֐ʹର͠ɺٕज़ͱ૊৫ͷ2໘͔Βཱͪ޲͔ͬͨ • ٕज़ • γϯϓϧ͔ͭFail͕఻೻͠ͳ͍ઃܭ • λʔήςΟϯάج൫ΛKVSΫϥελ͔ΒWebAppʹ • ૊৫ • ۀ຿஌ࣝ + ٕज़΁ͷཧղྗߴ͍PMͱͷڠௐ • ݹయతͳ΍ΓํΛ࣮֬ʹண࣮ʹ΍ΔେਓελΠϧ • QAνʔϜ, ΤϯδχΞൃPM౳ͷ৽͍͠૊৫ମ੍Ͱຏ͘ 
44. ँࣙ ো֐ൃੜ࣌ʹࣾ֎΁ͷରԠΛ͍͍ͯͨͩͨ͠Productνʔ Ϝ΍ɺมΘΒͣӦۀΛଓ͚͍͍ͯͨͩͨSalesνʔϜ͕ ͋ͬͯͦ͜ɺো֐Λ৐Γ੾Δ͜ͱ͕ग़དྷ·ͨ͠ɻ ·ͨɺ೔ࠒΑΓ୔ࢁͷϑΟʔυόοΫΛ͍͍ͯͨͩͯ͠ ͍Δ͓͔͛Ͱɺ૊৫Λม͑ΔΞΫγϣϯ͕औΕ͍ͯΔ͜ ͱΛײँ͓ͯ͠Γ·͢ɻ͋Γ͕ͱ͏͍͟͝·͢ɻ 
45. THANK YOU— Fringe81Ͱ͸ɺ৽͍͠ൃݟΛݩʹ஍ٿͷະདྷΛ ૑ΒΜͱ͢ΔΤϯδχΞΛืूதͰ͢ɻ ͋ͳͨͷಘҙͳ͜ͱͰҰॹʹউෛ͠·ͤΜ͔ɻ http://www.fringe81.com/recruit/