Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
テキストメディア特論 類似した「名前」の同一性の判定
Search
Lamron
October 01, 2023
Research
0
76
テキストメディア特論 類似した「名前」の同一性の判定
Lamron
October 01, 2023
Tweet
Share
More Decks by Lamron
See All by Lamron
テキストメディア特論 「会社名」の抽出
lamrongol
0
110
Blueskyでは何が話し合われているか。「情報技術は民主主義を生み、今は殺そうとしている」
lamrongol
0
7.1k
要約: Formal Approaches in Categorization: Chapter.5 Semantics without categorization
lamrongol
0
3.3k
Blueskyの「今」がわかる!Bot
lamrongol
0
1.8k
Other Decks in Research
See All in Research
Vision and LanguageからのEmbodied AIとAI for Science
yushiku
PRO
1
570
とあるSREの博士「過程」 / A Certain SRE’s Ph.D. Journey
yuukit
11
4.5k
令和最新技術で伝統掲示板を再構築: HonoX で作る型安全なスレッドフロート型掲示板 / かろっく@calloc134 - Hono Conference 2025
calloc134
0
350
EOGS: Gaussian Splatting for Efficient Satellite Image Photogrammetry
satai
4
690
SegEarth-OV: Towards Training-Free Open-Vocabulary Segmentation for Remote Sensing Images
satai
3
330
20250725-bet-ai-day
cipepser
2
490
AIスパコン「さくらONE」のLLM学習ベンチマークによる性能評価 / SAKURAONE LLM Training Benchmarking
yuukit
2
730
A scalable, annual aboveground biomass product for monitoring carbon impacts of ecosystem restoration projects
satai
4
370
音声感情認識技術の進展と展望
nagase
0
290
Galileo: Learning Global & Local Features of Many Remote Sensing Modalities
satai
3
370
RHO-1: Not All Tokens Are What You Need
sansan_randd
1
200
AI in Enterprises - Java and Open Source to the Rescue
ivargrimstad
0
810
Featured
See All Featured
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
508
140k
Building Flexible Design Systems
yeseniaperezcruz
329
39k
A designer walks into a library…
pauljervisheath
209
24k
Balancing Empowerment & Direction
lara
5
700
Context Engineering - Making Every Token Count
addyosmani
8
300
Put a Button on it: Removing Barriers to Going Fast.
kastner
60
4k
Building Better People: How to give real-time feedback that sticks.
wjessup
369
20k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.7k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
27k
Speed Design
sergeychernyshev
32
1.2k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
36
6.1k
Keith and Marios Guide to Fast Websites
keithpitt
411
23k
Transcript
類似した「名前」の同一性判定 @lamrongol
共起単語からの推定 • 異なる分野の同名異人は共起する単語の違いに よって判別できる • 例 : 野球選手と音楽家なら、前者は野球に関連する単 語と共起し、後者は音楽に関する単語と共起する •
もし同じ分野で同名異人がいたら? • その場合、人間にとっても判別が難しいので、何らかの 識別記号がつくはず • 例 : もし「鈴木一朗」という野球選手が二人いたら、「鈴 木一朗(マリナーズ)」「鈴木一朗(巨人)」というように チーム名がつくかもしれない – 名前に隣接している単語ほど重みづけを大きくすれば上記例 などでは分類しやすくなる
データセット • 同一人物であることが分かっている文書群をどう やって集めるか • Wikipedia の「曖昧さ回避」のページを用いる
データセット • 同名でも「イチロー _(XXX) 」のように異なる人物に は異なる項目名が付けられるので、個別ページ以 外のページの文章も使用できる • 例 :
マリナーズのページ リンクから「イチロー」が野球選手の「イチロー」であるこ とがわかる
データセットの拡張 • Wikipedia を使用して得られた共起単語を元に、 他の構造化されてない文書に対して判定を行い、 それを新たな正解データとする • どの用法がよく使われているかを計算できる • 例えば「イチロー」なら、野球選手を指している場合が
圧倒的に多いという結果が出るはず • 文書が小さくて共起単語から推定できない場合も、 単純に頻度が高いものを推定として与えられる • 例 : 「イチローかっこいい」 → 野球選手
表記ゆれの問題 • 同一人物だが表記が何らかの理由で異なる場合 • 例 : 「鈴木一郎」「鈴木一朗」 • 変換ミスなどで起こる可能性がある誤表記と正しい 表記との距離を短く判定する編集距離を用いる
• 例 : 「沢」「澤」などの漢字をあらかじめ登録しておく、 読みが同じ漢字の置換は小さく見積もる、など • 編集距離が一定の閾値以下のものを「同一の可能 性がある」と判定 • 共起単語を用いて同一性の判定