論文を読むコツ/Paper reading

Transcript

1. 論文を読むコツ 吉岡 2023/4/10 Kentaro Yoshioka(1/17)
2. ◼ 21世紀で最も有名な論文の一つ ◆Transformerを提案 ◆現在のChatGPTなどへ続く NLP分野の革命へリード 今回読む論文 Kentaro Yoshioka(2/17)
3. ◼ 新規性（Novelty)が最も重要 ◆過去の論文と同じでは論文は採択(Accept)されない ◆過去研究で何がされていなかったのか、 自分の論文ではどう違うのかを明確に記述しなければならない ➢例：過去にはなかった脆弱性を明らかにした ➢例：新しい動作原理に基づくニューラルネットや回路ブロックを提案する ◆新しい事をする、というのも大事だが有効性を実証するのも重要 ⚫ 新しいだけで性能が下がってしまったら誰も使いたくはない ➢例：提案する技術により◦◦%性能を向上することを実験で確認 論文で重要なこと Kentaro Yoshioka(3/17)
4. ◼ 引用数で論文のインパクトは測れる ◆多くの人が引用する、ということは多く読まれている/多く使われている ◼ https://scholar.google.co.jp/ 論文のインパクト Kentaro Yoshioka(4/17) Attention..論文を引用している記事も表示できる
5. ◼ Abstract ◆論文を短くまとめたもの。何でこの論文が重要かはAbst.に煮詰められている。 ◼ イントロダクション ◆この論文はどのような問題を解決しようとしているか？ ⚫ 例：より精度の高いニューラルネットがあると便利だよね ⚫ 例：より消費電力が小さい回路があると便利だよね ⚫ レベルのことを言っている。 ◼ Related works ◆過去に発表された論文をまとめつつ、本研究がどう違うかについて触れる （一般的な）論文の構成 Kentaro Yoshioka(5/17)
6. ◼ Methodology(提案技術） ◆提案する技術の詳細について説明 ⚫ 〇〇機構を◎◎の目的で導入 ⚫ 例：今までなかったTransformerという アーキテクチャを提案。従来RNNよりも計算効率に優れる ◼ Evaluation（実験結果） ◆提案した技術の有用性を実証する ◆例：Transformerを使うとこんなに性能が良くなるよ （一般的な）論文の構成 Kentaro Yoshioka(6/17)
7. ◼ 最初読んでもわからないことばかり ◼ まずは・・ ◆なぜその論文は評価されているのか？どこが面白いのか？を説明できるように読むと良い ⚫ 新規性、つまり従来との差に注目して読む ◆実験や実装の細かい部分は最初は読み飛ばして良い ◼ 教員も読み飛ばして読んでます ◆重要そうな論文だけ精読（細かい部分だけ読む）しています ◼ 有名な論文は日本語の解説があったりするのでググると良い 論文の読み方 Kentaro Yoshioka(7/17)