Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
新入生向けチュートリアル:文献のサーベイ
Search
Taichi Aida
June 22, 2022
Research
0
330
新入生向けチュートリアル:文献のサーベイ
v2
https://speakerdeck.com/a1da4/xin-ru-sheng-xiang-ketiyutoriaru-wen-xian-nosabeiv2
Taichi Aida
June 22, 2022
Tweet
Share
More Decks by Taichi Aida
See All by Taichi Aida
新入生向けチュートリアル:文献のサーベイv2
a1da4
9
7.6k
文献紹介:Isotropic Representation Can Improve Zero-Shot Cross-Lingual Transfer on Multilingual Language Models
a1da4
0
77
文献紹介:WhitenedCSE: Whitening-based Contrastive Learning of Sentence Embeddings
a1da4
1
100
文献紹介:On the Transformation of Latent Space in Fine-Tuned NLP Models
a1da4
0
38
文献紹介:Temporal Attention for Language Models
a1da4
0
220
文献紹介:Dynamic Contextualized Word Embeddings
a1da4
2
320
文献紹介:Learning Lexical Subspaces in a Distributional Vector Space
a1da4
0
250
文献紹介:Unsupervised Word Polysemy Quantification with Multiresolution Grids of Contextual Embeddings
a1da4
0
69
新入生向けチュートリアル:tmux
a1da4
0
220
Other Decks in Research
See All in Research
独立成分分析を用いた埋め込み表現の視覚的な理解
momoseoyama
3
650
Rの機械学習フレームワークの紹介〜tidymodelsを中心に〜 / machine_learning_with_r2024
s_uryu
0
390
SSII2024 [OS2] 画像、その先へ 〜モーション解析への誘い〜
ssii
PRO
1
930
SSII2024 [OS2] 大規模言語モデルと基盤モデルの射程
ssii
PRO
0
330
SSII2024 [TS1] 生成AIと3次元ビジョン ~3次元生成AIの最先端の理論~
ssii
PRO
1
830
継続的な研究費獲得のための考え方
moda0
2
520
初めての研究発表を成功させよう! スライド作成の基本
ayaco0
11
3.9k
一人称視点映像解析の基礎と応用(CVIMチュートリアル)
takumayagi
0
720
CARMUI:自動運転車遠隔監視システムのUI検討のためのバーチャル都市プラットフォームの開発 / CARMUI-i2024
yumulab
0
210
Prompt Tuning から Fine Tuning への移行時期推定
icoxfog417
18
7.9k
SSII2024 [OS3] 基盤モデル(オープニング)
ssii
PRO
0
230
LiDARセキュリティ最前線
kentaroy47
0
340
Featured
See All Featured
4 Signs Your Business is Dying
shpigford
177
21k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
353
28k
Build The Right Thing And Hit Your Dates
maggiecrowley
27
2.1k
GraphQLの誤解/rethinking-graphql
sonatard
58
9.5k
What’s in a name? Adding method to the madness
productmarketing
PRO
18
2.8k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
228
16k
Git: the NoSQL Database
bkeepers
PRO
423
64k
Six Lessons from altMBA
skipperchong
22
3.2k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
244
1.2M
Building Effective Engineering Teams - LeadDev
addyosmani
42
2.1k
Fashionably flexible responsive web design (full day workshop)
malarkey
399
65k
Infographics Made Easy
chrislema
238
18k
Transcript
文献のサーベイ D1 相田太一 2022/06/29 新入生向けチュートリアル
過去のチュートリアル - tmux について紹介しました 2
はじめに - 本チュートリアルでは、論文の - 種類 - 探し方 - 読み方 -
管理 について説明します 3
論文の種類 - 論文誌 - (複数回の)査読を受け、採録されたものが掲載 - 査読→修正・提出 を複数回繰り返す - 国際会議
- 査読を受けて採録されたものが掲載 - 会議・ワークショップなどレベルは様々 - 国内会議 - 査読がないものが多い(大会、研究会など) 4
NLP 関連の論文誌・会議 - 論文誌 - TACL - 言語処理学会論文誌 - 国際会議(順位は小町先生の記事を参考)
1. ACL, NAACL, EMNLP 2. COLING, EACL, AACL, (IJCNLP, LREC) 3. PACLIC, PACLING, CICLing, RANLP - 国内会議 - 言語処理学会年次大会 - 情報処理学会自然言語処理研究会(NL研) 5
文献、どう探す? - 初めての分野 - 慣れた分野 に分けて(ざっくりと)説明 6
初めての分野:代表の論文を探す - Google Scholar - 引用数でその論文のインパクトを知ることができる - 例: semantic change
の結果1ページ目 - ACL anthology - キーワード検索 - 先輩から教えてもらう - (特にトップ会議の論文は押さえておくと良い) 7
慣れた分野:最新の論文を追う - arXiv - 査読前後の原稿が(ほぼ毎日)大量に上がる - 質が保証されていないので、全てを追う必要はない - 例:タイトルを眺めて気になるものだけ概要を読む -
Google Scholar - キーワードに関連する論文をメール通知 8
他の分野についても知る - 他の研究分野の動向も知っておくと良い - 知識・技術を自分の分野に活かせるかも? - 例:各言語の単語埋め込みから言語間で意味の似た単語を獲得 →異なる言語 を 異なる時期
に置き換えて応用 - 外部から情報収集すると楽 - ステート・オブ・AIガイド など 9
論文の読み方 - 「全部読む」だけではない(誤解しがち) - abstract のみ - abstract + introduction
+ 図表 + conclusion - 全部読む 10
論文の読み方 - 「全部読む」だけではない(誤解しがち) - abstract のみ - abstract + introduction
+ 図表 + conclusion - 全部読む 11 速読 精読
論文の読み方:速読 - 論文100本ノックなど、たくさん読む時 - 落合先生のフォーマットがとても便利 - どんなもの? - 先行研究と比べてどこがすごい? -
技術や手法のキモはどこ? - どうやって有効だと検証した? - 議論はある? - 次に読むべき論文は? - 上記の質問に答えられるように(ざっくり)読む 12
論文の読み方:精読 - 研究に直接関係する論文、論文紹介向け - 自分の研究と同じく他人に説明できるように - 1文1文丁寧に読む - 隠された意図があるのかも -
(穴が開くほど読め、と言われました) - 「どういう背景でその研究に辿り着いたか」も理解 →関連研究も重要(必要があれば読む) - (余裕があれば)実装も確認する - (余裕があれば)その論文の続きをどうするか考える 13
文献管理 - 読んだ論文は管理しないと忘れてしまう - 論文を書くときに困る - (あの論文のタイトル、何だっけ…) - 文献管理ツールを使うと良い -
Paperpile($2.99/月) - ブラウザで完結、Google Drive との同期、高速 - Zotero(無料) - Mendeley(無料) - たまに大学図書館で使い方の講習がある - Google Spread Sheet(無料) - 最低限 - 自分で全て面倒を見られるなら良いのかも 14
読んだ論文のまとめ - 面白い論文はまとめて公開しておくと良い - B4〜現在の3年間で230本(最近さぼりがちですが…) - たまに読んでくれた人から連絡がくる - 就活の際にもアピールできるかも 15
まとめ - 論文の種類 - 論文誌 - 国際会議 - 国内会議 -
論文の探し方 - 初めての分野:代表の論文を探す - 慣れた分野:最新の論文を追う - 他の分野についても多少知っておくと良い - 論文の読み方 - 「全部読む」だけではない 16