Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
菸酒生在 LINE Taiwan 的後端雙刀流
Search
LINE Developers Taiwan
PRO
June 19, 2025
Technology
0
1.5k
菸酒生在 LINE Taiwan 的後端雙刀流
Speaker: Allen Chang
Event: LINE TECH FRESH 畢業分享會 2025
LINE Developers Taiwan
PRO
June 19, 2025
Tweet
Share
More Decks by LINE Developers Taiwan
See All by LINE Developers Taiwan
Live Activities in LINE
line_developers_tw
PRO
0
12
Neumorphism x Liquid Glass
line_developers_tw
PRO
0
11
猜你喜歡 – 打造高度擴展的個人化電商推薦
line_developers_tw
PRO
0
26
打造新電商搜尋體驗- 搜尋意圖辨識
line_developers_tw
PRO
0
9
比價群組
line_developers_tw
PRO
0
21
從混亂到優雅,讓專案不再失控:ATDD 與 Clean Architecture 的後端實戰之路
line_developers_tw
PRO
0
12
2049智能共存:透過LINE Bot Agent迎接後人類時代
line_developers_tw
PRO
0
43
讓測試不再 BB! 從 BDD 到 CI/CD, 不靠人力也能 MVP
line_developers_tw
PRO
0
1.5k
DB 醬,嗨!哪泥嘎斯基?
line_developers_tw
PRO
0
1.5k
Other Decks in Technology
See All in Technology
Flaky Testへの現実解をGoのプロポーザルから考える | Go Conference 2025
upamune
1
340
Deep Research と NotebookLM を使い倒す!レガシーリプレイスの技術選定と学習コスト削減術
tet0h
0
2.8k
今改めてServiceクラスについて考える 〜あるRails開発者の10年〜
joker1007
20
9.7k
Goのビルドシステムの変遷 / The history of Go's build system
ymotongpoo
12
3.5k
バイブコーディングと継続的デプロイメント
nwiizo
2
370
extension 現場で使えるXcodeショートカット一覧
ktombow
0
120
AI Agentと MCP Serverで実現する iOSアプリの 自動テスト作成の効率化
spiderplus_cb
0
310
後進育成のしくじり〜任せるスキルとリーダーシップの両立〜
matsu0228
1
520
履歴 on Rails: Bitemporal Data Modelで実現する履歴管理/history-on-rails-with-bitemporal-data-model
hypermkt
0
1.9k
LLMアプリケーション開発におけるセキュリティリスクと対策 / LLM Application Security
flatt_security
7
1.6k
pprof vs runtime/trace (FlightRecorder)
task4233
0
140
#普通の文系サラリーマンチャレンジ 自分でアプリ開発と電子工作を続けたら人生が変わった
tatsuya1970
0
870
Featured
See All Featured
Agile that works and the tools we love
rasmusluckow
330
21k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.5k
Being A Developer After 40
akosma
90
590k
Gamification - CAS2011
davidbonilla
81
5.5k
The World Runs on Bad Software
bkeepers
PRO
71
11k
Thoughts on Productivity
jonyablonski
70
4.8k
Making the Leap to Tech Lead
cromwellryan
135
9.5k
Product Roadmaps are Hard
iamctodd
PRO
54
11k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
333
22k
Reflections from 52 weeks, 52 projects
jeffersonlam
352
21k
The Cult of Friendly URLs
andyhume
79
6.6k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
15
1.7k
Transcript
None
Allen TECH FRESH @ LINE Education • Computer Science •
Computer Science Experience • Software Engineer Intern • System Administrator • Tutorial Speaker @ NCHU @ NTOU @ LINE @ NCHU NLP LAB @ ROCLING 2024
01 02 03 什麼是 Retriever? 跟 LLM 有什麼相關? LLM 協助開發
Mind the Gap – Black-Box AI vs. Industrial Needs 我在 LINE 做了什麼? AI 落地產業應用的困難 我在研究什麼? CONTENT
SECTION 01 什麼是 Retriever? 跟 LLM 有什麼相關? 我在研究什麼?
LLM 神奇的萬事通
LLM 神奇的萬事通
秘月期 POPOO 與 Andy老師 RAG 知識過時 / 專業落差 誰是家寧跟Andy? 眾量級,一對關係很
好的YT情侶… Using RAG 誰是家寧跟Andy? … 分手後,雙方爆發多 起爭議,包括感情不 忠、財務糾紛和頻道 經營權問題。 ….
RAG (Retrieval Augmented Generation)
RAG (Retrieval Augmented Generation)
RAG (Retrieval Augmented Generation) Retriever
RAG (Retrieval Augmented Generation) Retriever
SECTION 02 LLM 協助開發 我在 LINE 做了什麼?
接到一張票的我 be like 如何使用 AI 加速我的開發流程 Coding Study Planning Writing
Test
接票只是冰山一角 開發流程 Plan • 與 PM 開會確 認需求 • PBR
估點 • Planning 接票 • Daily Standup Meeting
接票只是冰山一角 開發流程 Plan Code • 與 PM 開會確 認需求 •
PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式
接票只是冰山一角 開發流程 Plan Code Build • 與 PM 開會確 認需求
• PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查
接票只是冰山一角 開發流程 Test Plan Code Build • 與 PM 開會確
認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率
接票只是冰山一角 開發流程 Test Plan Code Build Deploy • 與 PM
開會確 認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率 • 管理Secret • 管理資源
接票只是冰山一角 開發流程 Test Plan Code Build Deploy Monitor • 與
PM 開會確 認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率 • 管理Secret • 管理資源 • 檢查系統健康 狀況 • Logging Track
撰寫 BDD 測試 – Chain of Thought 你是一位熟悉 BDD 測試框架的程式開發者。請依照以下
步驟完成需求: a. 先閱讀我提供的「程式碼」與「既有測試說明」。 b. 找出程式中的流程控制(if、else、for…)會產生的所有 路徑,並以條列方式說明每條路徑需要覆蓋的測試案例 (case1、case2、case3…)。 c. 說明你選擇的 BDD 測試框架中,對應到哪些 describe / context / it 區塊。 d. 確認邏輯與覆蓋率無遺漏。 以下是輸入資料: ——— 程式碼 ——— {Code} ——— 既有測試程式碼 ——— {Test_Code} 以下我將為您生成一個範例程式碼與對應的測試說明,並依照 您的指示進行分析。 function processOrder(order) { if (!order) { return 'No order provided'; } … 請付費解鎖 付費 QR Code
撰寫 Loki Query – Chain of Thought 你是一個 Loki 查詢語法專家。請根據用戶的自然語言描述,
分以下步驟思考並產生對應的 Loki 查詢語法: 1. 分析需求,明確查詢條件(如時間範圍、日誌來源、關 鍵字等)。 2. 提取關鍵元素(job 名稱、關鍵字、欄位等)。 3. 組合並輸出正確的 Loki 查詢語法(只需語法本身,其他 解釋不用)。 輸出時請只用程式碼區塊格式呈現 Loki 查詢語法。 User Query:「查找過去1小時內,job名稱為nginx且包含 error字樣的日誌。」 思考步驟: 1. 需求是查找過去1小時的日誌。 2. 日誌來源 job="nginx"。 3. 包含關鍵字 error。 4. 時間範圍為過去1小時。 生成的 Loki 查詢語法: `{job="nginx"} |= "error”` 以下我將為您生成一個範例程式碼與對應的測試說明,並依照 您的指示進行分析。 function processOrder(order) { if (!order) { return 'No order provided'; } … 請付費解鎖 付費 QR Code
SECTION 03 Mind the Gap – Black-Box LLM vs. Industrial
Needs LLM 落地產業應用的困難
01 透過“好的” Retriever 給模 型看答案 RAG 02 給模型武器 MCP 03
讓模型擁有武器的同時,拆解 任務,大家一起合作 Agent
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
Retriever 發展 2019~2022 ICT REALM DPR ColBERT 2000~ 2014 2018
Transformer BERT Word2Vector Glove FastText BM25 TF-IDF Inverted Index 2023 HyDE 2024 LLM Embedding Transformer 前 Transformer 後 越強,也越需要龐大資源(GPU)
Retriever 發展 2019~2022 ICT REALM DPR ColBERT 2000~ 2014 2018
Transformer BERT Word2Vector Glove FastText BM25 TF-IDF Inverted Index 2023 HyDE 2024 LLM Embedding Transformer 前 Transformer 後 越強,也越需要龐大資源(GPU) LLM 等級 超高資源
RAG 資源需求
Resource Is All You Need
None
LLM 問題? 幻覺,幻覺,還是幻覺 套上 RAG 後,還是會有錯誤以及幻覺 可怕的不是他不會,而是他自以為會
Agent
安全權限 • Prompt Injection 可以攻擊 server 無限迴圈 可觀測性 • CoT,
中間狀態非 持久化 • Trace 太長 行為不可預測 • 模型升版、Prompt 改 動、工具回傳格式變動 • 今天能跑、明天失靈 Agent 問題 • Agent 瘋狂自我反 思,停不下來
Black Box is Magic
Black Box is Magic
Final 面對 Black Box LLM 持續進化 產業究竟要繼續堆疊愈發複雜的工程 pipeline,還是回歸更小、更專精且可 解釋的模型設計? 大家可以一起來思考
None