Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
論文を読むコツ/Paper reading
Search
Yoshioka Lab (Keio CSG)
April 10, 2023
Research
0
260
論文を読むコツ/Paper reading
Yoshioka Lab (Keio CSG)
April 10, 2023
Tweet
Share
More Decks by Yoshioka Lab (Keio CSG)
See All by Yoshioka Lab (Keio CSG)
LLM時代の半導体・集積回路
kentaroy47
1
760
高精度、高効率アナログCompute-in-Memory回路に向けて
kentaroy47
2
510
LiDARセキュリティ最前線
kentaroy47
0
540
”良い”データセット構築を考える
kentaroy47
4
880
アナログが世界を救う? アナログコンピューティングの応用と課題
kentaroy47
0
830
A 0.7V 12b 160MS/s 12.8fJ/conv-step Pipelined-SAR ADC in 28nm CMOS with Digital Amplifier Technique
kentaroy47
0
78
吉岡研究室紹介(2022年度)
kentaroy47
0
3.1k
信頼されるLiDARに向けて
kentaroy47
0
1.1k
A 20ch TDC/ADC Hybrid SoC for 240x96-pixel 10%-Reflection <0.125%-Precision 200m-Range-Imaging LiDAR with Smart Accumulation Technique
kentaroy47
0
480
Other Decks in Research
See All in Research
CSP: Self-Supervised Contrastive Spatial Pre-Training for Geospatial-Visual Representations
satai
3
150
Mathematics in the Age of AI and the 4 Generation University
hachama
0
150
ことばの意味を計算するしくみ
verypluming
11
2.5k
CHaserWeb:ブラウザ上で動作する対戦型プログラミング学習環境の提案と評価 / i2025-inoue
yumulab
0
150
Trust No Bot? Forging Confidence in AI for Software Engineering
tomzimmermann
1
220
数理最適化に基づく制御
mickey_kubo
5
600
Data-centric AI勉強会 「ロボットにおけるData-centric AI」
haraduka
0
620
Pix2Poly: A Sequence Prediction Method for End-to-end Polygonal Building Footprint Extraction from Remote Sensing Imagery
satai
3
370
公立高校入試等に対する受入保留アルゴリズム(DA)導入の提言
shunyanoda
0
4.4k
RapidPen: AIエージェントによるペネトレーションテスト 初期侵入全自動化の研究
laysakura
0
990
近似動的計画入門
mickey_kubo
4
830
SSII2025 [TS2] リモートセンシング画像処理の最前線
ssii
PRO
6
1.9k
Featured
See All Featured
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
19
1.2k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
14
1.5k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
32
2.3k
Art, The Web, and Tiny UX
lynnandtonic
298
21k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
GitHub's CSS Performance
jonrohan
1031
460k
Measuring & Analyzing Core Web Vitals
bluesmoon
7
450
GraphQLの誤解/rethinking-graphql
sonatard
71
11k
The Language of Interfaces
destraynor
158
25k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
25
2.8k
The Cult of Friendly URLs
andyhume
78
6.4k
Transcript
論文を読むコツ 吉岡 2023/4/10 Kentaro Yoshioka(1/17)
◼ 21世紀で最も有名な論文の一つ ◆Transformerを提案 ◆現在のChatGPTなどへ続く NLP分野の革命へリード 今回読む論文 Kentaro Yoshioka(2/17)
◼ 新規性(Novelty)が最も重要 ◆過去の論文と同じでは論文は採択(Accept)されない ◆過去研究で何がされていなかったのか、 自分の論文ではどう違うのかを明確に記述しなければならない ➢例:過去にはなかった脆弱性を明らかにした ➢例:新しい動作原理に基づくニューラルネットや回路ブロックを提案する ◆新しい事をする、というのも大事だが有効性を実証するのも重要 ⚫ 新しいだけで性能が下がってしまったら誰も使いたくはない
➢例:提案する技術により◦◦%性能を向上することを実験で確認 論文で重要なこと Kentaro Yoshioka(3/17)
◼ 引用数で論文のインパクトは測れる ◆多くの人が引用する、ということは多く読まれている/多く使われている ◼ https://scholar.google.co.jp/ 論文のインパクト Kentaro Yoshioka(4/17) Attention..論文を引用している記事も表示できる
◼ Abstract ◆論文を短くまとめたもの。何でこの論文が重要かはAbst.に煮詰められている。 ◼ イントロダクション ◆この論文はどのような問題を解決しようとしているか? ⚫ 例:より精度の高いニューラルネットがあると便利だよね ⚫ 例:より消費電力が小さい回路があると便利だよね
⚫ レベルのことを言っている。 ◼ Related works ◆過去に発表された論文をまとめつつ、本研究がどう違うかについて触れる (一般的な)論文の構成 Kentaro Yoshioka(5/17)
◼ Methodology(提案技術) ◆提案する技術の詳細について説明 ⚫ 〇〇機構を◎◎の目的で導入 ⚫ 例:今までなかったTransformerという アーキテクチャを提案。従来RNNよりも計算効率に優れる ◼ Evaluation(実験結果)
◆提案した技術の有用性を実証する ◆例:Transformerを使うとこんなに性能が良くなるよ (一般的な)論文の構成 Kentaro Yoshioka(6/17)
◼ 最初読んでもわからないことばかり ◼ まずは・・ ◆なぜその論文は評価されているのか?どこが面白いのか?を説明できるように読むと良い ⚫ 新規性、つまり従来との差に注目して読む ◆実験や実装の細かい部分は最初は読み飛ばして良い ◼ 教員も読み飛ばして読んでます
◆重要そうな論文だけ精読(細かい部分だけ読む)しています ◼ 有名な論文は日本語の解説があったりするのでググると良い 論文の読み方 Kentaro Yoshioka(7/17)