Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Artificial Neural Network: A brief study
Search
Koki Kazaore
May 20, 2024
Research
0
35
Artificial Neural Network: A brief study
論文輪読会使用資料
Koki Kazaore
May 20, 2024
Tweet
Share
More Decks by Koki Kazaore
See All by Koki Kazaore
Proposal and Implementation of a New Matching Model for CtoC Bike Share Service
kokikazaore
0
40
nwHacks participation report
kokikazaore
0
23
Won't you come to my house?
kokikazaore
0
60
Bitcoin: A Peer-to-Peer Electronic Cash System
kokikazaore
0
45
C2Cシェアサイクル実現に向けた人と自転車のマッチング最適化
kokikazaore
0
64
研究紹介とネットワークサーバー移行奮闘記
kokikazaore
0
100
Other Decks in Research
See All in Research
【輪講資料】Moshi: a speech-text foundation model for real-time dialogue
hpprc
3
790
LLM-jp-3 and beyond: Training Large Language Models
odashi
1
600
Vision and LanguageからのEmbodied AIとAI for Science
yushiku
PRO
1
590
病院向け生成AIプロダクト開発の実践と課題
hagino3000
0
340
[CV勉強会@関東 CVPR2025] VLM自動運転model S4-Driver
shinkyoto
2
650
「どう育てるか」より「どう働きたいか」〜スクラムマスターの最初の一歩〜
hirakawa51
0
1k
Sat2City:3D City Generation from A Single Satellite Image with Cascaded Latent Diffusion
satai
4
260
とあるSREの博士「過程」 / A Certain SRE’s Ph.D. Journey
yuukit
11
4.9k
POI: Proof of Identity
katsyoshi
0
110
言語モデルの地図:確率分布と情報幾何による類似性の可視化
shimosan
8
2.1k
SNLP2025:Can Language Models Reason about Individualistic Human Values and Preferences?
yukizenimoto
0
200
論文読み会 SNLP2025 Learning Dynamics of LLM Finetuning. In: ICLR 2025
s_mizuki_nlp
0
330
Featured
See All Featured
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.2k
Embracing the Ebb and Flow
colly
88
4.9k
The Art of Programming - Codeland 2020
erikaheidi
56
14k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
140
34k
Stop Working from a Prison Cell
hatefulcrawdad
272
21k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
46
2.6k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
359
30k
Java REST API Framework Comparison - PWX 2021
mraible
34
9k
How To Stay Up To Date on Web Technology
chriscoyier
791
250k
Site-Speed That Sticks
csswizardry
13
970
Build your cross-platform service in a week with App Engine
jlugia
234
18k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
118
20k
Transcript
Artificial Neural Network: A brief study 人工ニューラルネットワーク: 概要研究 知能モデリング研究室 Koki
Kazaore 2024/5/17 英語ゼミ(論文輪読会)
2 ページタイトルが黒文字:論文の内容要約スライド ページタイトルが橙文字:説明用追加スライド はじめに
3 - タイトル: - Artificial Neural Network: A brief study(2022)
- 著者: - Mayuri Thorat, Shraddha Pandit, Supriya Balote - 選定理由・目的 - できるだけ共通項となり得る論文に時間を割きたい - ニューラルネットワーク迷子になったら基礎に立ち帰れ る資料にしたい - ANNを理解した上で,CNN/RNNに派生したい 論文詳細
4 Abstract 人工ニューラルネットワーク(ANN)とは 脳などがデータを処理する方法から着想を得た概念 人間と同様に,例をもとに学習し,それが膨大であれ ば 高い精度をもたらす. 本論文では - ANNの概要・動作・学習 -
ANNの応用と利点 について説明する.
5 問題解決における従来の方法 - 問題の解決方法を知っている人がプログラムする。 - コンピュータは具体的なアルゴリズムに基づいて問題を解 決する。 ニューラルネットワークのアプローチ - 人間の脳のように情報を処理する。
- 曖昧なアルゴリズムが必要な問題と対峙できる。 - 文字認識・未来予測 Introduction
6 Introduction シンプルな神経細胞図×100億個 細胞体: 入力を処理 総和なり乗算なり 樹状突起:入力 核 軸索: 出力信号を送る
軸索末梢 N N N N N N N N N N シナプス
7 人間の脳のようにデータを分析・処理するための, 生物学的な着想を得たコンピューティングシステム What is ANN?
8 What is ANN? 構造 - 入力層 - 隠れ層 -
出力層 メリデメ - メリット:適応性・耐複雑性 - デメリット:not厳密・複雑構造
9 1. 非線形タスクの実行 2. 高い耐障害性 3. トレーニング後の柔軟性 4. 人間の代替 5.
入力変数の柔軟性 6. マルチタスク能力 7. 迅速な作業 8. ソフトウェアの完全なバックアップ 9. 意思決定と自動再プログラム Advantages
10 Applications 1. 手書き文字認識 2. 株価予測 3. 旅行計画問題 4. 画像圧縮
5. 関数近似 6. 分類 7. データ処理
11 Working of an ANN (次スライド参照しながら) - 上層から下層へ信号送る(フィードフォワード) - ニューロン間のリンクは加算(興奮)or除去(制御)する役割
- ニューロンでは入力の加重和を計算 活性化関数へ投げる - 閾値を超えるとニューロンは発火 そうでなければ発火しない - 学習モードと使用モードが存在する
12 Working of an ANN
13 教師あり学習 入力と出力の両方が与えられる バックプロパゲーション(誤差逆伝播)によって重みを更新する バックプロパゲーションプロセス 1. 入力 2. 出力 3.
誤差発見 4. 重み更新 Training an ANN
14 Training an ANN ↓教師(Label) 日付 湿度 気圧 雨 5/1
83% 1000 T 5/2 59% 1005 F 5/3 69% 1010 F 5/4 75% 1015 T 5/5 80% 1020 T f(湿度, 気圧) ⇒ f(83, 1000) = T f(59, 1005) = F h(湿度, 気圧) h(10, 1013) = ? h(100, 990) = ?
15 教師なし学習 入力は与えられるが,必要な出力は与えられない 未ラベルのデータセットを使用 入力データをグループ化するために適切な特徴を選択 隠れたパターンを発見するために使用 Training an ANN
16 強化学習 フィードバックと過去の経験から学習する長期的な反復プロセス フィードバックが多ければ多いほど精度向上 マルコフ決定過程とも呼ばれる Training an ANN
17 Training an ANN 強化学習 – これだけは知っておきたい3つのこと - MATLAB &
Simulinkより引用
18 Conclusion 人工ニューラルネットワーク(ANN)の仕組みと学習について述べ た. ANNは更に発展していく.例えば - モバイルやウェブアプリでのカスタマイズされたUXの強化 - 神経学や心理学にも貢献する ANNの性能を決定する変数(伝達関数・学習サンプルのサイズ・
ネットワークのトポロジー・重みの調整技術)はほんの一例に過ぎ ない.
19 CNNとは 特に画像解析のために畳み込みを使用するNN CNN = C(畳み込み+プーリング) + ANN ANN→CNN 畳み込みニューラル
ネットワークとは | これだけは知っておきたい 3 つのこと - MATLAB & Simulinkより引用
20 RNNとは 特にシーケンスデータを処理するNN ANN→RNN リカレントニューラルネットワーク (RNN) とは - MATLAB &
Simulinkより引用
21 RNNとは 1:多→画像についての説明を出力する処理 多:1→動画データの著作権判定処理 多:多→翻訳 ANN→RNN