Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AIに必要なデータをどう送るか、ネットワークを考える
Search
kkojima
November 02, 2020
Technology
0
310
AIに必要なデータをどう送るか、ネットワークを考える
Dojo++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」
https://connpass.com/event/190151/
ネットワークミニ講座
kkojima
November 02, 2020
Tweet
Share
More Decks by kkojima
See All by kkojima
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 4」カスタムAIモデルの作成からモデルのデプロイまで
kkojima
0
230
最終回、オープンソースの話します
kkojima
1
220
AIデータはどうためる、テープアーカイブの復権
kkojima
0
160
x86 CPUで動くAIアプリ作成で知っていると便利な基礎知識
kkojima
0
760
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」事前準備
kkojima
0
270
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」インテルがチューンしたPythonとTensorFlow
kkojima
0
1.4k
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」環境構築手順
kkojima
0
370
AVXって何だ?
kkojima
1
800
Other Decks in Technology
See All in Technology
ソフトウェア開発現代史: "LeanとDevOpsの科学"の「科学」とは何か? - DORA Report 10年の変遷を追って - #DevOpsDaysTokyo
takabow
0
390
Ops-JAWS_Organizations小ネタ3選.pdf
chunkof
2
170
AIエージェント開発手法と業務導入のプラクティス
ykosaka
2
1.5k
AI Agentを「期待通り」に動かすために:設計アプローチの模索と現在地
kworkdev
PRO
2
460
Amazon CloudWatch を使って NW 監視を行うには
o11yfes2023
0
170
サーバレス、コンテナ、データベース特化型機能をご紹介。CloudWatch をもっと使いこなそう!
o11yfes2023
0
180
勝手に!深堀り!Cloud Run worker pools / Deep dive Cloud Run worker pools
iselegant
2
430
Spring Bootで実装とインフラをこれでもかと分離するための試み
shintanimoto
7
850
SmartHR プロダクトエンジニア求人ガイド_2025 / PdE job guide 2025
smarthr
0
130
白金鉱業Meetup_Vol.18_AIエージェント時代のUI/UX設計
brainpadpr
1
150
SnowflakeとDatabricks両方でRAGを構築してみた
kameitomohiro
1
420
Linuxのパッケージ管理とアップデート基礎知識
go_nishimoto
0
380
Featured
See All Featured
YesSQL, Process and Tooling at Scale
rocio
172
14k
Practical Orchestrator
shlominoach
186
11k
Embracing the Ebb and Flow
colly
85
4.6k
What's in a price? How to price your products and services
michaelherold
245
12k
Being A Developer After 40
akosma
91
590k
Site-Speed That Sticks
csswizardry
5
500
Gamification - CAS2011
davidbonilla
81
5.2k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.2k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
2.9k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
How to Think Like a Performance Engineer
csswizardry
23
1.5k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
331
21k
Transcript
GPUなしでもここまでできるAI構築シリーズ 2020.10.29 「AIに必要なデータをどう送るのか、 ネットワークを考える」
TCP/IP • 「データサイエンティスト」のなかにはIPアドレスが何である か知らない⼈もいる • コンバータ、インバータを説明できなくても交流100V電源で PC が使えるのと同じなのかも • 5G
で運ばれるデータはきっと TCP/IP がダントツで多いはず
5G 通信に期待される利⽤法 https://www.soumu.go.jp/main_content/000633132.pdf 令和元年度「第5世代移動通信システム(5G)の今と将来展」ローカル5G概要 より抜粋
5G 通信のつかいかた 物としては: ドローン、ロボット、センサー、スマートグラス 動作としては: 映像、画像等を撮って送る、つまり⼤容量データの転送 例外扱いが必要なのはゲーム: eスポーツは遅延少なく応答する必要がある
Deep Learning などの AI 技術 • SI に AI を⽤いることが特別ではなくなってきた
• 特別な学術教育を受けなくても AI 技術を応⽤できるツールが 増えた(むしろツールの使い⽅が重要になった) • ハードウェア製品の多様性が増した
ネットワーク ゲートウェイ サーバ AI(学習) データ保存 データ 解析・保存 Camera など 5G,
LTE または 有線接続サービス 現地機器 AI(推論) データ保存 ハードウェアの配置
どれくらいのデータ転送が必要なのか スマホ⾼画質: 800万画素 30フレーム/秒 製造ラインでの要求: 500万画素 30フレーム/秒 24時間稼働だと⽉に 15-30 TB
程度か 5G通信の規格は 10 Gbps 以上
レイテンシが⼤きくなる理由 • 電波、通信の規格そのもの • 中継⽅法、中継回数 • サーバ内の I/O すべてにTCP/IPの性質がかかわってくる
なんで5G通信が必要? TCP/IP の限界 平均: 9.9 G bit/秒 3.0 PB/⽉ 平均:
16 M bit/秒 0.0046 PB/⽉ 平均: 1.5 G bit/秒 0.5 PB/⽉ 10Gbps 0 2ඵ レイテンシ 170ms レイテンシ170ms + パケットロス0.5% 10Gbps 2ඵ 10Gbps 2ඵ 0 0 構内接続に類似 遠距離接続に類似 インターネットに類似 レイテンシが⼤きい環境ではデータが思ったように送られない しかもパケットロスがあると壊滅的になる レイテンシ 1ms以下 10 Gbps で測ってみた!
おしまい 次回は 11⽉12⽇ 14:00から