Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
LLMOpsのパフォーマンスを支える技術と現場で実践した改善
Search
po3rin
August 15, 2025
Programming
8
1.1k
LLMOpsのパフォーマンスを支える技術と現場で実践した改善
po3rin
August 15, 2025
Tweet
Share
More Decks by po3rin
See All by po3rin
自作LLM Native GORM Pluginで実現する AI Agentバックテスト基盤構築
po3rin
2
200
麻雀点数計算問題生成タスクから学ぶ Single Agentの限界と Agentic Workflowの底力
po3rin
5
2k
LLMは麻雀を知らなすぎるから俺が教育してやる
po3rin
4
2.4k
M3におけるCI/CDパイプラインを新鮮に保つ仕組み
po3rin
0
380
Go Templateを使った フロントエンド開発を採用した 経緯と所感
po3rin
1
360
検索基盤移行時の思考
po3rin
0
4.3k
Go1.19で採用された Pattern-defeating Quicksort の紹介
po3rin
7
6.2k
Elasticsearchを負荷から守るesguard
po3rin
0
310
Sudachi×Elasticsearchへの移行と医療検索システム精度改善
po3rin
1
960
Other Decks in Programming
See All in Programming
PostgreSQLで手軽にDuckDBを使う!DuckDB&pg_duckdb入門/osk2025-duckdb
takahashiikki
1
230
育てるアーキテクチャ:戦い抜くPythonマイクロサービスの設計と進化戦略
fujidomoe
1
140
Local Peer-to-Peer APIはどのように使われていくのか?
hal_spidernight
2
400
CSC305 Lecture 02
javiergs
PRO
1
260
プログラミングどうやる? ~テスト駆動開発から学ぶ達人の型~
a_okui
0
180
ABEMAモバイルアプリが Kotlin Multiplatformと歩んだ5年 ─ 導入と運用、成功と課題 / iOSDC 2025
akkyie
0
290
高度なUI/UXこそHotwireで作ろう Kaigi on Rails 2025
naofumi
4
2.2k
CSC305 Lecture 03
javiergs
PRO
0
220
CI_CD「健康診断」のススメ。現場でのボトルネック特定から、健康診断を通じた組織的な改善手法
teamlab
PRO
0
130
あなたの知らない「動画広告」の世界 - iOSDC Japan 2025
ukitaka
0
270
CSS Linter の現在地 2025年のベストプラクティスを探る
ryo_manba
10
3.1k
ポスターセッション: 「まっすぐ行って、右!」って言ってラズパイカーを動かしたい 〜生成AI × Raspberry Pi Pico × Gradioの試作メモ〜
komofr
0
730
Featured
See All Featured
Building Applications with DynamoDB
mza
96
6.6k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
8
560
Six Lessons from altMBA
skipperchong
28
4k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
30
9.7k
What’s in a name? Adding method to the madness
productmarketing
PRO
23
3.7k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.2k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
51k
Unsuck your backbone
ammeep
671
58k
Building a Modern Day E-commerce SEO Strategy
aleyda
43
7.7k
A better future with KSS
kneath
239
17k
How GitHub (no longer) Works
holman
315
140k
Build your cross-platform service in a week with App Engine
jlugia
231
18k
Transcript
)JSPNV/BLBNVSBQFSGUPLZP --.0QTͷύϑΥʔϚϯεΛࢧ͑Δٕज़
)JSPNV/BLBNVSB )JSPNV /BLBNVSB QPSJO "*.-0QT&OHJOFFS*OUFSFTUJOH JO*OGPSNBUJPO3FUSJFWBM
-BZFS9ͷ--.0QT
-BZFS9ݱࡏ"*"HFOUΛΰϦΰϦ ਐΊ͍ͯΔ https://layerx.co.jp/news/20250401/
--.0QTॏཁج൫ ϓϩϯϓτόʔδϣϯཧ --.࣮ߦ࣌ͷτϨʔεͳͲͷΦϒβʔόϏϦςΟ Ϟσϧ͝ͱͷਫ਼ݕূ ධՁσʔληοτཧ ࣮ݧͷཧ
-BOHGVTFΠϯϑϥߏ w Ϋϥυ൛ͱηϧϑϗετ൛͕͋Δ w Ϋϥυ൛ຊϦʔδϣϯ͕ͳ͘ɺσʔλཧͷ؍͔ΒηϧϑϗετΛબ w σʔλετΞͱͯ͠1PTUHSF42- 4 $MJDL)PVTF Λ༻͍Δ
$MJDL)PVTFͱ Φʔϓϯιʔεͷੳ͚ 0-"1 ྻࢦσʔλϕʔε -BOHGVTFτϨʔε݁Ռͷ֨ೲઌͱͯ͠ར༻ ॻ͖ࠐ·ΕͨσʔλϒϩοΫετϨʔδͰอ͞ΕΔ "84ͷ߹&'4ͳͲ ࠓճ&'4Λ࠾༻ ෳαʔόʹΑΔΫϥελߏʹରԠ
ΞʔΩςΫνϟ -BOHGVTF "-#ܦ༝ͷ&$4PO'BSHUFB ୯Ұͷ&$44FSWJDFɺ"VUP4DBMJOH༗ޮԽ $MJDL)PVTF /-#ܦ༝ͷ&$4PO'BSHUFB αʔό͝ͱʹݸผͷ&$44FSWJDFΛ࡞ ෦௨৴ϩʔυόϥϯαΛڬ·ͣ௨৴
ͱվળ
ແࣄՔಇʂͱࢥͬͨΒʜ • ຖͷΑ͏ʹλεΫ͕ෆ҆ఆͳঢ়ଶʹ • Langfuse ͕τϨʔεΛهͰ͖ͳ͔ͬͨͱΤϥʔΛు͘ • Max attempts reached
for * record. Dropping record. • େྔͷHTTPλΠϜΞτ • ClickhouseWriter.writeToClickhouse Error: Timeout error.
$16.FNPSZ·ͩ༨༟͕͋Δ
"*ωοτϫʔΫͷͩͱݴ͍ுͬͯΔ ωοτϫʔΫͷͰ͠ΐ͏ʂʂʂ ͔͠͠ɺ֤λΠϜΞτઃఆΛ֬ೝͯ͠ɺͳͦ͞͏ɻ ͦͦT͔͚ͯτϨʔεʹॻ͖ࠐΊͳ͍%#͕͓͔͍͠ɻ
&'4ͷΛൃݟ w 5ISPVHIQVUVUJMJ[BUJPO͕ৗʹߴ͍͜ͱ͕ൃ֮
&'45ISPVHIQVUNPEFʹ͍ͭͯ w 5ISPVHIQVUVUJMJ[BUJPO͕ৗʹߴ͍͜ͱ͕ൃ֮ • EFS ʹεϧʔϓοτϞʔυ͕3छྨ͋Γɺཁ݅ʹ߹ΘͤͯબՄೳ • Elastic: ར༻ঢ়گʹ߹Θͤͯࣗಈతʹεέʔϧ •
Bursting: ετϨʔδ༻ྔʹൺྫͯ͠εϧʔϓοτ૿͑Δ • Provisioned: ࢦఆͨ͠εϧʔϓοτྔΛݻఆͰ֬อ • ֘ͷ EFS Bursting ʹͳ͍ͬͯͨ • ͍࢝Ί͔ͨΓͰ༻ྔ 3~4GiB ΄Ͳ • ετϨʔδ 1GiB ͋ͨΓ 50KiBps ͷεϧʔϓοτ → 200KiB/s ΄Ͳ͔͠ͳ͍
&'45ISPVHIQVUNPEFͷมߋ • Bursting → Elastic มߋͯ͠ঢ়گ͕վળͨ͠ • AWS ίϯιʔϧͷॳظ Elastic
• Terraformaws provider ͷॳظ Bursting ͳ͜ͱΛݟམͱ͍ͯͨ͠ (ຌϛε)
$MJDL)PVTF%FFQ%JWF
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ w τϨʔεͷॻ͖ࠐΈͰΤϥʔ͕ൃੜ͍ͯͨͨ͠ΊɺͦͷลͷڍಈΛௐࠪ͠·ͨ͠ɻ
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ • InsertΛड͚ΔͱɺPartͱ͍͏୯ҐͰ σʔλΛ֨ೲ͢Δɻ • ҰؾʹInsert͢ΔͷͰͳ͘ɺҰ Bufferʹ֨ೲ͢Δ͜ͱͰɺલͬͯ σʔλΛιʔτͯ֨͠ೲ͢Δɻ
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ • PartΛ࡞ΔࡍʹσʔλΛιʔτ͠ɺΧϥ Ϝʹ͚ͯΠϯσοΫεใͱڞʹPartͱ ͯ͠อଘ • ιʔτ͢Δ͜ͱʹΑΓɺΠϯσοΫεใ ͔ΒͲͷϑΝΠϧʹඞཁͳσʔλ͕֨ೲ͞ Ε͍ͯΔ͔͕ܭࢉ͘͢͠ͳ͍ͬͯΔɻ
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ Compress columnsͰɺgranuleͱ͍͏୯ҐʹσʔλΛ͚ɺprimary.idxͱ͍͏ϑΝΠϧʹ Ͳͷൣғͷσʔλ͕͋Δ͔Λอଘ͓ͯ͘͜͠ͱͰɺߴͳσʔλΞΫηεΛ࣮ݱ͍ͯ͠Δɻ
MarkΧϥϜ͝ͱʹ࡞ΒΕอଘͨ͠granuleͷॴΛḷΓ͘͢͢Δ $MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ ϨϓϦέʔγϣϯ࣌ʹ࣍ͷσʔλΛૹ৴͢Δඞཁ͕͋Γ·͢ɻ w ΧϥϜσʔλϑΝΠϧ DPMVNO@OBNFCJOܗࣜͷѹॖ͞Εͨσʔλ w ΠϯσοΫεϑΝΠϧ QSJNBSZJEYͳͲͷϓϥΠϚϦΩʔΠϯσοΫε w
ϚʔΫϑΝΠϧ DPMVNO@OBNFNSLͳͲͷߦҐஔϚʔΧʔ w ϝλσʔλϑΝΠϧ DIFDLTVNTUYU DPMVNOTUYUͳͲͷύʔπهड़ใ
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ 1BSUTͷϚʔδఆظతʹൃੜ͠·͢ɻ ϑΝΠϧγεςϜ͜ΕΛఆͯ͠ε ϧʔϓοτΛ֬อ͢Δඞཁ͕͋ͬͨɻ
$MJDL)PVTFͷύϑΥʔϚϯεΛࢧ͑Δٕज़ • ClickHouseͰϨϓϦέʔγϣϯɺϚʔδͱ͍ͬͨඇಉظॲཧ͕ൃੜ͠·͢ɻ • ϨϓϦέʔγϣϯ࣌ʹɺ͜ͷPartsΛHTTPܦ༝ͰϨϓϦέʔγϣϯ͢Δͨ ΊɺωοτϫʔΫεϧʔϓοτؾΛ͚ͭΔඞཁ͕͋Δɻ • ࠓճͷ߹ωοτϫʔΫͷλΠϜΞτΑΓɺϑΝΠϧγεςϜͷλΠϜ Ξτ͕͘ઃఆ͞Ε͍ͯͨͷ͕ࠜຊͷʹؾ͖ͮʹ͍͘ݪҼͰͨ͠ɻ
·ͱΊ
"*ʹฉ͚ͩ͘ͰΘ͔Βͳ͍ࠜຊݪҼ༨༟Ͱଘࡏ͢Δ ύϑΥʔϚϯεͷݟɺΠϯϑϥࣝɺΞϧΰϦζϜͷࣝҾ͖ଓ͖ඞ ཁɻֶΜͰ͍͖·͠ΐ͏ʂʂʂʂ
"*࣌Ͱ%FFQ%JWF͢Δ͜ͱՁ ཪଆͰಈ͍͍ͯΔॲཧΛ۩ମతʹΔ͜ͱͰɺύϑΥʔϚϯεɺ҆ఆੑΛ্͛Δͱ ͖ʹͲ͜ʹΛ͚ͭΕྑ͍ͷ͔ͷௐ͕ࠪඇৗʹ͘͢͠ͳͬͨɻ ϩάϝτϦΫε͚ͩΛݟͯରԠΛ૾͢ΔͷͰͳ͘ɺ࣮ࡍʹཪଆΛཧղ͢Δ͜ ͱͰɺ֬৴Λ࣋ͬͨࠜຊղܾ͕Ͱ͖ΔΑ͏ʹͳͬͨɻ
ϒϩάʹͯ͠·͢ʂʂ tech.layerx.co.jp/entry/deep-dive-clickhouse
)JSPNV/BLBNVSBQFSGUPLZP --.0QTͷύϑΥʔϚϯεΛࢧ͑Δٕज़ͱ ݱͰ࣮ફͨ͠վળ