Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Python × 数学ブートキャンプガイド
Search
Etsuji Nakai
April 25, 2023
Science
1
700
Python × 数学ブートキャンプガイド
このスライドはコミュニティイベント「Python x 数学ブートキャンプガイド」での発表資料です。
https://math-coding.connpass.com/event/279924/
Etsuji Nakai
April 25, 2023
Tweet
Share
More Decks by Etsuji Nakai
See All by Etsuji Nakai
Lecture course on Microservices : Part 1
enakai00
1
3.2k
Lecture course on Microservices : Part 2
enakai00
1
3.2k
Lecture course on Microservices : Part 3
enakai00
1
3.2k
Lecture course on Microservices : Part 4
enakai00
1
3.2k
JAX / Flax 入門
enakai00
1
410
生成 AI の基礎 〜 サンプル実装で学ぶ基本原理
enakai00
7
3.6k
大規模言語モデルを支える分散学習インフラ Pathways
enakai00
3
450
Riemann幾何学ユーザーのための情報幾何学入門
enakai00
0
350
量子光学理論入門
enakai00
0
230
Other Decks in Science
See All in Science
私たちのプロダクトにとってのよいテスト/good test for our products
camel_404
0
200
生成AI による論文執筆サポートの手引き(ワークショップ) / A guide to supporting dissertation writing with generative AI (workshop)
ks91
PRO
0
320
インフラだけではない MLOps の話 @事例でわかるMLOps 機械学習の成果をスケールさせる処方箋 発売記念
icoxfog417
PRO
2
620
理論計算機科学における 数学の応用: 擬似ランダムネス
nobushimi
1
370
構造設計のための3D生成AI-最新の取り組みと今後の展開-
kojinishiguchi
0
640
240510 COGNAC LabChat
kazh
0
160
白金鉱業Meetup Vol.16_数理最適化案件のはじめかた・すすめかた
brainpadpr
3
950
事業会社における 機械学習・推薦システム技術の活用事例と必要な能力 / ml-recsys-in-layerx-wantedly-2024
yuya4
3
250
ACL読み会2024@名大 REANO: Optimising Retrieval-Augmented Reader Models through Knowledge Graph Generation
takuma_matsubara
0
100
論文紹介: PEFA: Parameter-Free Adapters for Large-scale Embedding-based Retrieval Models (WSDM 2024)
ynakano
0
170
拡散モデルの概要 −§2. スコアベースモデルについて−
nearme_tech
PRO
0
690
山形とさくらんぼに関するレクチャー(YG-900)
07jp27
1
230
Featured
See All Featured
Building an army of robots
kneath
302
44k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
0
98
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
169
50k
Unsuck your backbone
ammeep
669
57k
Reflections from 52 weeks, 52 projects
jeffersonlam
347
20k
Rebuilding a faster, lazier Slack
samanthasiow
79
8.7k
Fashionably flexible responsive web design (full day workshop)
malarkey
405
66k
A Tale of Four Properties
chriscoyier
157
23k
How to train your dragon (web standard)
notwaldorf
88
5.7k
How To Stay Up To Date on Web Technology
chriscoyier
789
250k
A designer walks into a library…
pauljervisheath
204
24k
Building a Modern Day E-commerce SEO Strategy
aleyda
38
7k
Transcript
Python × 数学ブートキャンプガイド 2023/04/29 中井悦司 / Etsuji Nakai このスライドはコミュニティイベント「Python x
数学ブートキャンプガイド」での発表資料です。
中井 悦司 / Etsuji Nakai $ who am i 新発売!
AI / 機械学習と数学の関係
None
None
「機械学習モデルの設計」とは? • 世の中に現れるデータは、何らかの「理論」に従って発生しているはず • 背後の「理論」が完璧に分かれば、すべてのデータを正確に予測できるはず ◦ 例:天候変化の理論が完璧にわかれば、天気予報は絶対に当たるはず • 現実には、完璧な理論はわからないので、まずはシンプルな数式でどこまで当 たるか試してみる
⇨ いきなり複雑なものを考え出すと、選択肢が多過ぎてどれがよいか分からな いので、シンプルなものから徐々に複雑なものへと変えていくのがよい 「数理科学」の信念? 機械学習の考え方
最もシンプルなモデル = 線形モデル • 一次関数で予測する • 計算が高速 • 入力データを工夫することで実用的 な予測も可能
• 線形多項分類器 ⇨ 分類したい個数分だけ一次関数 を用意 いわゆる 「特徴量エンジニアリング」 複数の一次関数をまとめて処理する テクニック(=線形代数)が活躍!
ニューラルネットワークも線形代数が基礎 • 分類問題であれば、最後は、線形多項分類器で予測 • 前段部分は、入力データから分類に適した「特徴量」を抽出するフィルターの ようなもの
ニューラルネットワークも線形代数が基礎 • 分類問題であれば、最後は、線形多項分類器で予測 • 前段部分は、入力データから分類に適した「特徴量」を抽出するフィルターの ようなもの 最後は 一次関数で予測 入力データを変形して、 予測に役立つ情報を抽出
None
確率モデル = 確率値を予測する • 世の中には、本質的に「確率的に発生する データ」が存在する • 「あるデータが得られる確率」を計算する 確率モデルを構築する •
誤差関数 =「モデルが予測する確率で発生 させたデータ」と「実際に観測されたデー タ」がどの程度一致するかを表す指標 ※ 詳しくは小島さんパートで! 「数理科学」の考え方
None
モデルの学習:誤差関数を最小にするパラメーターを求める • 勾配降下法:「微分計算=グラフの傾き」という関係を利用して、誤差関数小 さくする方向にパラメーターを修正 ※ 詳しくは辻さんパートで!
None
Explainable AI(説明可能な AI) • モデルが入力データからどのような情報を抽出しているのかを理解する • 抽出された情報の関係を幾何学的に理解する際に「集合と位相」が役立つ 最後は 一次関数で予測 入力データを変形して、
予測に役立つ情報を抽出
データの配置を幾何学的に理解する ※ 詳しくは小島さんパートで!
Thank you!
線形代数
参考資料
記事内で取り扱っているトピック • 行列計算(和・差・スカラー倍・行列積) • 行列式と逆行列 • 平面ベクトルの一次変換 • 空間ベクトルへの拡張 回転処理を行う
サンプルコードを掲載
特に工夫したポイント • 一次変換のイメージを数式とあわせて、いかに分かりやすく伝えるか
一次変換の定義 変換前 変換後 A
一般のベクトルは、標準基底の線形和になっている 標準基底
一次変換 = 係数を固定して、標準基底を変換
標準基底を回転すると平面全体が回転する の場合
一次変換を表す行列は、標準基底の行き先を並べたもの 45 度回転を 表す行列 の行き先 の行き先
一次変換を表す行列は、標準基底の行き先を並べたもの
一次変換による平面の変形例
行列式は一次変換の拡大率
Thank you!