Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AIに必要なデータをどう送るか、ネットワークを考える
Search
kkojima
November 02, 2020
Technology
0
290
AIに必要なデータをどう送るか、ネットワークを考える
Dojo++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」
https://connpass.com/event/190151/
ネットワークミニ講座
kkojima
November 02, 2020
Tweet
Share
More Decks by kkojima
See All by kkojima
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 4」カスタムAIモデルの作成からモデルのデプロイまで
kkojima
0
200
最終回、オープンソースの話します
kkojima
1
200
AIデータはどうためる、テープアーカイブの復権
kkojima
0
140
x86 CPUで動くAIアプリ作成で知っていると便利な基礎知識
kkojima
0
670
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」事前準備
kkojima
0
250
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」インテルがチューンしたPythonとTensorFlow
kkojima
0
1.4k
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」環境構築手順
kkojima
0
350
AVXって何だ?
kkojima
1
680
Other Decks in Technology
See All in Technology
クライアントサイドでよく使われる Debounce処理 をサーバサイドで3回実装した話
yoshiori
1
140
20241031_AWS_生成AIハッカソン_GenMuck
tsumita
0
100
失敗しないOpenJDKの非互換調査
tabatad
0
260
Nix入門パラダイム編
asa1984
2
200
Product Engineer Night #6プロダクトエンジニアを育む仕組み・施策
hacomono
PRO
1
440
[JAWS-UG金沢支部×コンテナ支部合同企画]コンテナとは何か
furuton
3
160
ネット広告に未来はあるか?「3rd Party Cookie廃止とPrivacy Sandboxの効果検証の裏側」 / third-party-cookie-privacy
cyberagentdevelopers
PRO
1
120
Jr. Championsになって、強く連携しながらAWSをもっと使いたい!~AWSに対する期待と行動~
amixedcolor
0
170
オーティファイ会社紹介資料 / Autify Company Deck
autifyhq
9
120k
使えそうで使われないCloudHSM
maikamibayashi
0
160
WINTICKETアプリで実現した高可用性と高速リリースを支えるエコシステム / winticket-eco-system
cyberagentdevelopers
PRO
1
190
話題のGraphRAG、その可能性と課題を理解する
hide212131
4
1.4k
Featured
See All Featured
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
355
29k
Docker and Python
trallard
40
3.1k
Fireside Chat
paigeccino
32
3k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
32
1.8k
Into the Great Unknown - MozCon
thekraken
31
1.5k
What's in a price? How to price your products and services
michaelherold
243
12k
10 Git Anti Patterns You Should be Aware of
lemiorhan
654
59k
How To Stay Up To Date on Web Technology
chriscoyier
788
250k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
27
4.1k
Designing for Performance
lara
604
68k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
46
2.1k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
328
21k
Transcript
GPUなしでもここまでできるAI構築シリーズ 2020.10.29 「AIに必要なデータをどう送るのか、 ネットワークを考える」
TCP/IP • 「データサイエンティスト」のなかにはIPアドレスが何である か知らない⼈もいる • コンバータ、インバータを説明できなくても交流100V電源で PC が使えるのと同じなのかも • 5G
で運ばれるデータはきっと TCP/IP がダントツで多いはず
5G 通信に期待される利⽤法 https://www.soumu.go.jp/main_content/000633132.pdf 令和元年度「第5世代移動通信システム(5G)の今と将来展」ローカル5G概要 より抜粋
5G 通信のつかいかた 物としては: ドローン、ロボット、センサー、スマートグラス 動作としては: 映像、画像等を撮って送る、つまり⼤容量データの転送 例外扱いが必要なのはゲーム: eスポーツは遅延少なく応答する必要がある
Deep Learning などの AI 技術 • SI に AI を⽤いることが特別ではなくなってきた
• 特別な学術教育を受けなくても AI 技術を応⽤できるツールが 増えた(むしろツールの使い⽅が重要になった) • ハードウェア製品の多様性が増した
ネットワーク ゲートウェイ サーバ AI(学習) データ保存 データ 解析・保存 Camera など 5G,
LTE または 有線接続サービス 現地機器 AI(推論) データ保存 ハードウェアの配置
どれくらいのデータ転送が必要なのか スマホ⾼画質: 800万画素 30フレーム/秒 製造ラインでの要求: 500万画素 30フレーム/秒 24時間稼働だと⽉に 15-30 TB
程度か 5G通信の規格は 10 Gbps 以上
レイテンシが⼤きくなる理由 • 電波、通信の規格そのもの • 中継⽅法、中継回数 • サーバ内の I/O すべてにTCP/IPの性質がかかわってくる
なんで5G通信が必要? TCP/IP の限界 平均: 9.9 G bit/秒 3.0 PB/⽉ 平均:
16 M bit/秒 0.0046 PB/⽉ 平均: 1.5 G bit/秒 0.5 PB/⽉ 10Gbps 0 2ඵ レイテンシ 170ms レイテンシ170ms + パケットロス0.5% 10Gbps 2ඵ 10Gbps 2ඵ 0 0 構内接続に類似 遠距離接続に類似 インターネットに類似 レイテンシが⼤きい環境ではデータが思ったように送られない しかもパケットロスがあると壊滅的になる レイテンシ 1ms以下 10 Gbps で測ってみた!
おしまい 次回は 11⽉12⽇ 14:00から