Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Demucsを用いた音源分離
Search
shuto goya
October 28, 2023
Science
0
190
Demucsを用いた音源分離
Music×Analytics Meetup Vol.11での発表内容です。
shuto goya
October 28, 2023
Tweet
Share
Other Decks in Science
See All in Science
Presenting Effectively with Data (in a Hurry)
thomaselove
1
250
History towards Universal Neural Network Potential for Material Discovery
matlantis
0
150
スポーツメトリクス設計に対比較法を使いまくる / Sports metrics design using pairwise comparison method (spoana#14)
konakalab
1
720
Ph.D. defense "Convex Manifold Approximation for Tensors"
gkazunii
0
180
Onsager代数とその周辺 / Onsager algebra tsudoi
usamik26
0
390
Презентация программы бакалавриата СПбГУ "Искусственный интеллект и наука о данных"
dscs
0
120
The Universe, How it works
arafkarsh
0
110
研究・教育・産学連携の循環の実践
sshimizu2006
0
230
KDD2023学会参加報告
tereka114
2
350
Pandas 2 vs Polars vs Dask (PyDataGlobal 2023 December)
ianozsvald
0
450
Machine Learning for Materials (Lecture 1)
aronwalsh
1
1.5k
大規模画像テキストデータのフィルタリング手法の紹介
lyakaap
5
1.1k
Featured
See All Featured
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
21
1.4k
Teambox: Starting and Learning
jrom
128
8.4k
Design by the Numbers
sachag
274
18k
Fashionably flexible responsive web design (full day workshop)
malarkey
398
65k
Code Review Best Practice
trishagee
56
15k
4 Signs Your Business is Dying
shpigford
176
21k
The Mythical Team-Month
searls
216
42k
WebSockets: Embracing the real-time Web
robhawkes
59
7k
Into the Great Unknown - MozCon
thekraken
14
1k
No one is an island. Learnings from fostering a developers community.
thoeni
16
2.1k
Infographics Made Easy
chrislema
238
18k
How to Ace a Technical Interview
jacobian
273
22k
Transcript
Demucsを用いた音源分離 2023/10/28 Music×Analytics Meetup Vol.11 合谷秋人
自己紹介 https://github.com/ch-shin/awesome-nilm 仕事 音楽遍歴 NILM(機器分離)技術の開発 中学 高校 大学以降 • ロキノン系(死語?)からマスロック・エモ寄りも好き
• 15~20歳までバンド活動(ギター) • 今はもっぱら聞くだけ(音楽活動したい) その他 • X: @shuto508 • 最近の取り組んでいる・やりたいこと ◦ Kaggleとか興味ある(が、ほぼやっていない) ◦ 引き続き機械学習の勉強(PRMLを頑張って解読中) • 趣味:ビール
よくある悩み:耳コピができない…! 聞きたいパートだけ聞けたらいいのになぁ … • そもそもフレーズが複雑 • 音が埋もれている • etc…
音源分離:合成波形(元音源)を個別要素に分解する 代表的なDeep Learning手法 主な応用先 • AIスピーカー • テレビ会議システム • 補聴器
• etc… • U-Net • Deep clustering • Conv-TasNet • etc… 全体から個別パートに分解
Demucs: Metaが開発した音源分離ライブラリ 元となる技術:Wave U-Net Vocal/Bass/Drums/Othersに分離 Wave U-Net: U-Netを1次元にしたもの
Google Colab上で簡単に分離結果を得ることが可能 Notebook例 ディレクトリ構成 分離結果 元音源 ノートブックを実行するだけで手軽に音源分離が可能
やってみた①:Demo編 波形やメルスペクトログラムではどこで何が鳴っているのか不明 元音源
やってみた①:分離結果 Drums Vocal Bass Others 各成分に音源分離できた!!
やってみた①:メルスペクトログラム分析 Drums Vocal Bass Others ボーカル/ピアノ 金物/倍音 ベース/ドラム
やってみた②:バンド音楽編
感想 - 手軽に分離できるわりに結構綺麗に分離される - パートごとの楽曲構成を調べることもできそう - ボーカルなどは一部違和感のある箇所もあった - 正解データ作りもできそう…? -
リード/バッキングは分けられない(主目的が…) - 音数が減った事自体で聞き取りやすくはなっている! - DemucsはVocal/Bass/Drums/Othersと分離できる構成が固定
ご清聴ありがとうございました!
Appendix
- https://github.com/facebookresearch/demucs - https://github.com/f90/Wave-U-Net 参考