Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
菸酒生在 LINE Taiwan 的後端雙刀流
Search
LINE Developers Taiwan
PRO
June 19, 2025
Technology
0
1.3k
菸酒生在 LINE Taiwan 的後端雙刀流
Speaker: Allen Chang
Event: LINE TECH FRESH 畢業分享會 2025
LINE Developers Taiwan
PRO
June 19, 2025
Tweet
Share
More Decks by LINE Developers Taiwan
See All by LINE Developers Taiwan
讓測試不再 BB! 從 BDD 到 CI/CD, 不靠人力也能 MVP
line_developers_tw
PRO
0
1.3k
DB 醬,嗨!哪泥嘎斯基?
line_developers_tw
PRO
0
1.3k
比起獨自升級 我更喜歡 DevOps 文化 <3
line_developers_tw
PRO
0
1.3k
工具人的一生: 開發很多 AI 工具讓我 慵懶過一生
line_developers_tw
PRO
0
1.3k
從四件事帶你見識見識 事件驅動架構設計 (EDA)
line_developers_tw
PRO
0
1.2k
TODAY 看世界(?) 是我們在看扣啦!
line_developers_tw
PRO
0
1.3k
你想成為什麼樣的開發者?
line_developers_tw
PRO
0
26
研究生的 LINER生活
line_developers_tw
PRO
0
28
#Rookie’s Adventure: A 0 to 1 Dev Journey
line_developers_tw
PRO
0
1.6k
Other Decks in Technology
See All in Technology
Getting to Know Your Legacy (System) with AI-Driven Software Archeology (WeAreDevelopers World Congress 2025)
feststelltaste
1
190
ビジネス職が分析も担う事業部制組織でのデータ活用の仕組みづくり / Enabling Data Analytics in Business-Led Divisional Organizations
zaimy
1
330
第64回コンピュータビジョン勉強会「The PanAf-FGBG Dataset: Understanding the Impact of Backgrounds in Wildlife Behaviour Recognition」
x_ttyszk
0
240
NewSQLや分散データベースを支えるRaftの仕組み - 仕組みを理解して知る得意不得意
hacomono
PRO
3
230
Copilot coding agentにベットしたいCTOが開発組織で取り組んだこと / GitHub Copilot coding agent in Team
tnir
0
170
モニタリング統一への道のり - 分散モニタリングツール統合のためのオブザーバビリティプロジェクト
niftycorp
PRO
1
440
毎晩の 負荷試験自動実行による効果
recruitengineers
PRO
5
140
cdk initで生成されるあのファイル達は何なのか/cdk-init-generated-files
tomoki10
1
630
【Oracle Cloud ウェビナー】【入門&再入門】はじめてのOracle Cloud Infrastructure [+最新情報]
oracle4engineer
PRO
1
120
ClaudeCodeにキレない技術
gtnao
1
810
freeeのアクセシビリティの現在地 / freee's Current Position on Accessibility
ymrl
2
280
事例で学ぶ!B2B SaaSにおけるSREの実践例/SRE for B2B SaaS: A Real-World Case Study
bitkey
1
380
Featured
See All Featured
Optimizing for Happiness
mojombo
379
70k
Automating Front-end Workflow
addyosmani
1370
200k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
357
30k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
251
21k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
The Power of CSS Pseudo Elements
geoffreycrofte
77
5.9k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
181
54k
Statistics for Hackers
jakevdp
799
220k
A Modern Web Designer's Workflow
chriscoyier
695
190k
Practical Orchestrator
shlominoach
189
11k
Transcript
None
Allen TECH FRESH @ LINE Education • Computer Science •
Computer Science Experience • Software Engineer Intern • System Administrator • Tutorial Speaker @ NCHU @ NTOU @ LINE @ NCHU NLP LAB @ ROCLING 2024
01 02 03 什麼是 Retriever? 跟 LLM 有什麼相關? LLM 協助開發
Mind the Gap – Black-Box AI vs. Industrial Needs 我在 LINE 做了什麼? AI 落地產業應用的困難 我在研究什麼? CONTENT
SECTION 01 什麼是 Retriever? 跟 LLM 有什麼相關? 我在研究什麼?
LLM 神奇的萬事通
LLM 神奇的萬事通
秘月期 POPOO 與 Andy老師 RAG 知識過時 / 專業落差 誰是家寧跟Andy? 眾量級,一對關係很
好的YT情侶… Using RAG 誰是家寧跟Andy? … 分手後,雙方爆發多 起爭議,包括感情不 忠、財務糾紛和頻道 經營權問題。 ….
RAG (Retrieval Augmented Generation)
RAG (Retrieval Augmented Generation)
RAG (Retrieval Augmented Generation) Retriever
RAG (Retrieval Augmented Generation) Retriever
SECTION 02 LLM 協助開發 我在 LINE 做了什麼?
接到一張票的我 be like 如何使用 AI 加速我的開發流程 Coding Study Planning Writing
Test
接票只是冰山一角 開發流程 Plan • 與 PM 開會確 認需求 • PBR
估點 • Planning 接票 • Daily Standup Meeting
接票只是冰山一角 開發流程 Plan Code • 與 PM 開會確 認需求 •
PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式
接票只是冰山一角 開發流程 Plan Code Build • 與 PM 開會確 認需求
• PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查
接票只是冰山一角 開發流程 Test Plan Code Build • 與 PM 開會確
認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率
接票只是冰山一角 開發流程 Test Plan Code Build Deploy • 與 PM
開會確 認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率 • 管理Secret • 管理資源
接票只是冰山一角 開發流程 Test Plan Code Build Deploy Monitor • 與
PM 開會確 認需求 • PBR 估點 • Planning 接票 • Daily Standup Meeting • 撰寫可維護高 品質程式、測 試程式 • Formatting • 相依性檢查 • 執行測試 • 程式碼覆蓋率 • 管理Secret • 管理資源 • 檢查系統健康 狀況 • Logging Track
撰寫 BDD 測試 – Chain of Thought 你是一位熟悉 BDD 測試框架的程式開發者。請依照以下
步驟完成需求: a. 先閱讀我提供的「程式碼」與「既有測試說明」。 b. 找出程式中的流程控制(if、else、for…)會產生的所有 路徑,並以條列方式說明每條路徑需要覆蓋的測試案例 (case1、case2、case3…)。 c. 說明你選擇的 BDD 測試框架中,對應到哪些 describe / context / it 區塊。 d. 確認邏輯與覆蓋率無遺漏。 以下是輸入資料: ——— 程式碼 ——— {Code} ——— 既有測試程式碼 ——— {Test_Code} 以下我將為您生成一個範例程式碼與對應的測試說明,並依照 您的指示進行分析。 function processOrder(order) { if (!order) { return 'No order provided'; } … 請付費解鎖 付費 QR Code
撰寫 Loki Query – Chain of Thought 你是一個 Loki 查詢語法專家。請根據用戶的自然語言描述,
分以下步驟思考並產生對應的 Loki 查詢語法: 1. 分析需求,明確查詢條件(如時間範圍、日誌來源、關 鍵字等)。 2. 提取關鍵元素(job 名稱、關鍵字、欄位等)。 3. 組合並輸出正確的 Loki 查詢語法(只需語法本身,其他 解釋不用)。 輸出時請只用程式碼區塊格式呈現 Loki 查詢語法。 User Query:「查找過去1小時內,job名稱為nginx且包含 error字樣的日誌。」 思考步驟: 1. 需求是查找過去1小時的日誌。 2. 日誌來源 job="nginx"。 3. 包含關鍵字 error。 4. 時間範圍為過去1小時。 生成的 Loki 查詢語法: `{job="nginx"} |= "error”` 以下我將為您生成一個範例程式碼與對應的測試說明,並依照 您的指示進行分析。 function processOrder(order) { if (!order) { return 'No order provided'; } … 請付費解鎖 付費 QR Code
SECTION 03 Mind the Gap – Black-Box LLM vs. Industrial
Needs LLM 落地產業應用的困難
01 透過“好的” Retriever 給模 型看答案 RAG 02 給模型武器 MCP 03
讓模型擁有武器的同時,拆解 任務,大家一起合作 Agent
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
RAG – 依賴 Retriever 強度 如果找不到你要的,甚至找錯,會導致結果完全不一樣 幫我找一張白雲的照 片 搜尋中 …
Retriever 發展 2019~2022 ICT REALM DPR ColBERT 2000~ 2014 2018
Transformer BERT Word2Vector Glove FastText BM25 TF-IDF Inverted Index 2023 HyDE 2024 LLM Embedding Transformer 前 Transformer 後 越強,也越需要龐大資源(GPU)
Retriever 發展 2019~2022 ICT REALM DPR ColBERT 2000~ 2014 2018
Transformer BERT Word2Vector Glove FastText BM25 TF-IDF Inverted Index 2023 HyDE 2024 LLM Embedding Transformer 前 Transformer 後 越強,也越需要龐大資源(GPU) LLM 等級 超高資源
RAG 資源需求
Resource Is All You Need
None
LLM 問題? 幻覺,幻覺,還是幻覺 套上 RAG 後,還是會有錯誤以及幻覺 可怕的不是他不會,而是他自以為會
Agent
安全權限 • Prompt Injection 可以攻擊 server 無限迴圈 可觀測性 • CoT,
中間狀態非 持久化 • Trace 太長 行為不可預測 • 模型升版、Prompt 改 動、工具回傳格式變動 • 今天能跑、明天失靈 Agent 問題 • Agent 瘋狂自我反 思,停不下來
Black Box is Magic
Black Box is Magic
Final 面對 Black Box LLM 持續進化 產業究竟要繼續堆疊愈發複雜的工程 pipeline,還是回歸更小、更專精且可 解釋的模型設計? 大家可以一起來思考
None