Aerospike で 大量のトランザクション処理をさばく

https://atnd.org/events/71301 での発表資料です。

Transcript

1. Aerospike Ͱ େྔͷτϥϯβΫγϣϯॲཧΛ ͞͹͘ 
2. ʘ͜Μʹͪ͸ʗʘ͜Μʹͪ͸ʗ • @62jun26 • Java ԰Ͱ͢ • ࠷ۙ͸ΠϯϑϥدΓͷ࢓ࣄ͕ଟ͍ • ΠϯλʔωοτͱΧʔϓ͕޷͖Ͱ͢ 
3. ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
4. ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
5. ΞυςΫྖҬʹ͓͚Δ τϥϯβΫγϣϯܥॲཧ • Ϣʔβ৘ใর߹ • ଐੑσʔλΛ༻͍ͨλʔήςΟϯά౳ʹ༻͍Δ • ޿ࠂ৘ใऔಘ • ΫϦΤΠςΟϒ౳ͷ޿ࠂ৘ใ • ޿ࠂ഑৴࣮੷ੵΈ্͛ • ༧ࢉ؅ཧͷͨΊͷ഑৴࣮੷ 
6. ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
7. τϥϯβΫγϣϯܥॲཧ ʹඞཁͳཁ݅ • ௿ϨΠςϯγ • ߴεϧʔϓοτ • ߴՄ༻ੑ 
8. ͋Δͱخ͍͠෺ • εέʔϥϏϦςΟ • ؆୯ͳूܭΛ࣮ݱ͢Δ UDF ·ͨ͸૊ΈࠐΈؔ਺ • σʔλͷӬଓԽ => RDB Ͱ͸ͳ͘σʔλΛγϯϓϧʹͯ͠ KVS Λ ࢖༻͢ΔྲྀΕ 
9. ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
10. ͜Ε·ͰͷาΈ • Tokyo Tyrant & Tokyo Cabinet • Redis • DynamoDB 
11. Tokyo Tyrant & Tokyo Cabinet • ࠃ࢈ KVS • 2010 ೥લޙ • memcache ޓ׵ϓϩτίϧͰσʔλӬଓԽ΋Մೳ • ϚελɾεϨʔϒܕͷϨϓϦέʔγϣϯػೳ • ϚϧνϚελߏ੒΋Մೳ • ·ͩ·ͩݱ໾Ͱಈ͍ͯΔͱ͍͏࿩΋ฉ͘ 
12. Redis • σʔλӬଓԽՄೳ • ༷ʑͳσʔλߏ଄ͷ··อଘՄೳʢจࣈྻ, List, Set, ιʔτࡁΈSet, Hashʣ • ϚελɾεϨʔϒܕͷϨϓϦέʔγϣϯػೳ • Amazon ͷ ElastiCache ͰϑϧϚωʔδυͳαʔϏεͱͯ͠ར༻Մೳ • 2015೥4݄ʹग़ͨ Redis 3.0 Ͱ਱ʹ Redis Cluster ͕ਖ਼ࣜϦϦʔεʂ 
13. ༨ஊ: Redis • Ϧιʔε͕๛෋Ͱ֤ΞϓϦέʔγϣϯαʔό ʹಉࠝͰ͖ΔͳΒ Redis ͕ྑ͍ͱࢥ͍·͢ • Write ͸ϚελʢElastiCache ౳ʣ΁ɺRead ͸ΞϓϦέʔγϣϯαʔόಉࠝͷεϨʔϒ͔ Β 
14. DynamoDB • Amazon ͷϑϧϚωʔδυͳNoSQL σʔλϕʔε • ௿ϨΠςϯγ • ߴεϧʔϓοτ • ߴՄ༻ੑ • ߴ͍εέʔϥϏϦςΟ • ͓ۚΛ෷͑͹શͯͷ໰୊͸ղܾ͞ΕΔʂ 
15. ʢ͓·͚ʣ ͦͷଞީิʹ͕͋ΔϓϩμΫτ • Memcached • MongoDB • Cassandra • HBase • BigTable 
16. ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
17. Aerospike IUUQXXXBFSPTQJLFDPNBCPVUBFSPTQJLF
18. Aerospike ͷಛ௃ • ૣ͍ʂʢ௿ϨΠςϯγʣ • ͍҆ʂʢߴεϧʔϓοτ => αʔό୆਺અ໿ʣ • ࢫ͍ʂʢࣗಈΫϥελߏ੒ɾγϟʔσΟϯάʣ • ҆৺ʂʢσʔλ৑௕Խʣ ϕλͰ͢Ͷ 
19. ௿ϨΠςϯγɾߴεϧʔϓοτ • ҎલɺAerospike ͷதͷਓͷهࣄΛ຋༁͠·ͨ͠ • Aerospike on Amazon EC2 Ͱ 100ສTPS Λͨͬͨ 1.68 υϧ /࣌ Ͱ࣮ݱ͢Δํ๏
 https://fa-works.com/blog/1-aerospike-server-x-1-amazon- ec2-instance-achieve-1-million-tps • C3.8xlarge 1୆Ͱ 100ສTPS ͷ Read ϦΫΤετΛॲཧ • 97% Ҏ্ͷϦΫΤετΛ 1ms Ҏ಺ʹฦ٫ʢຊՔಇதͷαʔόʣ 
20. ࣗಈΫϥελߏ੒ɾγϟʔσΟ ϯά • ࠾༻ͷܾΊखʹͳͬͨ • ৽͍͠αʔόΛ༻ҙͯ͠ɺطଘϊʔυͷ IP Λ ࢦఆͯ͠ىಈ͢Ε͹উखʹΫϥελϦϯά • ύʔςΟγϣϯͷ࠶ܭࢉΛߦͬͯϚΠάϨʔ τʢσʔλϦόϥϯγϯάʣ΋ͯ͘͠ΕΔ 
21. σʔλ৑௕Խ • ϨϓϦέʔγϣϯɾϑΝΫλ (replication factor) ͱ͍͏ ύϥϝʔλͰσʔλͷෳ੡ͷ਺ΛࢦఆͰ͖Δ • replication factor = 2 ͷ৔߹ɺϝΠϯͰΞΫηε͢ΔϚ ελσʔλͱ͸ผʹɺଞͷαʔόʹ 1ͭϨϓϦΧσʔλ ͕ଘࡏ͢Δ • 1 ୆Ϋϥογϡͯ͠΋ɺϨϓϦΧͷσʔλ͕ੜ͖͍ͯΔ ͨΊσʔλΛϩετ͠ͳ͍ 
22. ࣮૷্Ͱ஫ҙ͢Δ఺ • Limit • Setʢςʔϒϧʣͷ਺ => 1024ݸҎ಺ • BinʢΧϥϜʣ໊ => 14จࣈҎ಺ • Record ௕ => ʢσϑΥϧτʣ128KB ʢ࠷େ1MBʣ • http://www.aerospike.com/docs/guide/FAQ.html 
23. ࣮૷্Ͱ஫ҙ͢Δ఺̎ • ClientLibrary ಺ͰͷγϦΞϥΠζ͕݁ߏඍົ • SecondaryIndex Ͱͷෳ਺ΠϯσοΫεͷ And ݕࡧෆՄ • SecondaryIndexͰɺIn ͕۟ͳ͍ • Range ͸αϙʔτ͞Ε͍ͯΔ͕ɺจࣈྻΛҾֻ͚ͬ ʹ͍͘ 
24. ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
25. མͱ݀̍͠:κϯϏϨίʔυ໰୊ Delete & TTL ʹΑΔ Expire ͸࡟আͰ͸ͳ͍ʂʂ • ϝϞϦʹࡌͤͯ͋ΔΠϯσοΫεʢPKʣΛ࡟আ͢Δ͚ͩ ͰɺετϨʔδ͔Β͸ଈ࠲ʹফ͑ΔΘ͚Ͱ͸ͳ͍ • SSD ͷಛੑ্ɺσʔλ࡟আ͸ෛՙ͕ߴ͍ • σϑϥάͷ͍ͭͰʹ্ॻ͖ʢ͍ͭফ͑Δ͔ෆ໌ʣ • ௨ৗΞΫηε͸ग़དྷͳ͍ͷͰ໰୊ͳ͍͸ͣͩͬͨ... 
26. མͱ݀̍͠:κϯϏϨίʔυ໰୊ ͨͩ͠ɺAerospike Λ࠶ىಈͨ͠Β෮׆͢Δʂ • Aerospike ىಈ࣌ʹɺετϨʔδ͔Β PK ΛಡΜͰϝϞϦ ʹΠϯσοΫεΛߏங͢Δ • ࡟আ͞ΕͨϨίʔυͱ͞Εͯͳ͍Ϩίʔυͷ۠ผ͕ͳ͍ʂ • ࡟আͨ͠Ϩίʔυ΋ҰॹʹΠϯσοΫε͞ΕͯಡΈऔΓͰ ͖ΔΑ͏ʹͳΔʂʂʁ 
27. མͱ݀̍͠:κϯϏϨίʔυ໰୊ • Aerospike ࠶ىಈ࣌ʹɺετϨʔδΛۭʹ͢Δ cold-start-empty ΦϓγϣϯΛ༗ޮʹ͠Α͏ • σʔλ͕৑௕Խͯ͋͠Ε͹ɺଞͷϊʔυ͔Βσʔ λΛ΋Β͑Δ 
28. མͱ݀̎͠: ར༻Ͱ͖Δσʔλ༰ྔ • લड़ͷσϑϥά౳ͷͨΊɺ༻ҙͨ͠ετϨʔδɾ ϝϞϦΛશͯ࢖͍͖ΕΔΘ͚Ͱ͸ͳ͍ • σϑΥϧτͰετϨʔδͷ 50%, ϝϞϦͷ 60% ͠ ͔ར༻Ͱ͖ͳ͍(high water mark) • 90% Λ௒աͨ͠Βॻ͖ࠐΈ͕Ͱ͖ͳ͍(stop write) 
29. མͱ݀̏͠: ϨίʔυαΠζʹؾΛ͚ͭΔ • ౰વͳ͕Βɺ̍Ϩίʔυ͋ͨΓͷαΠζ͕େ ͖͚Ε͹ωοτϫʔΫଳҬΛѹഭ͢Δ • ͋Ε΋͜Ε΋̍Ϩίʔυʹ٧ΊࠐΈա͗ͳ͍ • ৗʹσʔλߏ଄Λݟ௚͢ϚΠϯυ͕ॏཁ 
30. ͝ਗ਼ௌ͋Γ͕ͱ͏͍͟͝·ͨ͠ʂ ໨࣍ •ΞυςΫྖҬʹ͓͚ΔτϥϯβΫγϣϯܥॲཧ •τϥϯβΫγϣϯܥॲཧʹඞཁͳཁ݅ •͜Ε·ͰͷาΈ •Aerospike ͷಛ௃ •ӡ༻ͯ͠Έͯ…… 
31. ͓·͚ɿEC2 Ͱӡ༻͢Δ৔߹ͷ ύϑΥʔϚϯεʹ͍ͭͯ ओͳϘτϧωοΫ͸ • ωοτϫʔΫ • Disk IO (SSD) 
32. ωοτϫʔΫ • Amazon ͷΧλϩάεϖοΫ͸ 10G Ҏ֎͸ Low ͱ͔ High ͱ͔ϘΧͨ͠஋ • ಉ͡ High Ͱ΋ΠϯελϯελΠϓʹΑ͔ͬͯͳΓҟͳΔ • iperf ౳Ͱܭଌͨ͠ํ͕͍͍ʢެ։ͯ͘͠Ε͍ͯΔਓ΋͍Δʣ • http://qiita.com/saitara/items/882a3e70639637e24a4f • ྫʣc4.2xlarge => 1.01 Gbits/sec • ྫʣc4.4xlarge => 4.27 Gbits/sec 
33. Disk IO & εϧʔϓοτ • EBS ͸஗͗͢Δ • ඞཁͳ IO ੑೳΛग़͢ͷ͸ Provisioned IOPS Λར༻͢Δ ͜ͱͰ࣮ݱͰ͖Δ͕ɺߴ͍ʂ • ΠϯελϯεετϨʔδ Λ࢖͏ • ෺ཧతʹܨ͕͍ͬͯΔετϨʔδͳͷͰૣ͍ʂ • ͨͩ͠ɺΠϯελϯεͷ stop/start Ͱσʔλ͸شൃ͢Δ