Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
AIに必要なデータをどう送るか、ネットワークを考える
Search
Sponsored
·
SiteGround - Reliable hosting with speed, security, and support you can count on.
→
kkojima
November 02, 2020
Technology
380
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
AIに必要なデータをどう送るか、ネットワークを考える
Dojo++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」
https://connpass.com/event/190151/
ネットワークミニ講座
kkojima
November 02, 2020
Transcript
10 slides
GPUなしでもここまでできるAI構築シリーズ 2020.10.29 「AIに必要なデータをどう送るのか、 ネットワークを考える」
TCP/IP • 「データサイエンティスト」のなかにはIPアドレスが何である か知らない⼈もいる • コンバータ、インバータを説明できなくても交流100V電源で PC が使えるのと同じなのかも • 5G
で運ばれるデータはきっと TCP/IP がダントツで多いはず
5G 通信に期待される利⽤法 https://www.soumu.go.jp/main_content/000633132.pdf 令和元年度「第5世代移動通信システム(5G)の今と将来展」ローカル5G概要 より抜粋
5G 通信のつかいかた 物としては: ドローン、ロボット、センサー、スマートグラス 動作としては: 映像、画像等を撮って送る、つまり⼤容量データの転送 例外扱いが必要なのはゲーム: eスポーツは遅延少なく応答する必要がある
Deep Learning などの AI 技術 • SI に AI を⽤いることが特別ではなくなってきた
• 特別な学術教育を受けなくても AI 技術を応⽤できるツールが 増えた(むしろツールの使い⽅が重要になった) • ハードウェア製品の多様性が増した
ネットワーク ゲートウェイ サーバ AI(学習) データ保存 データ 解析・保存 Camera など 5G,
LTE または 有線接続サービス 現地機器 AI(推論) データ保存 ハードウェアの配置
どれくらいのデータ転送が必要なのか スマホ⾼画質: 800万画素 30フレーム/秒 製造ラインでの要求: 500万画素 30フレーム/秒 24時間稼働だと⽉に 15-30 TB
程度か 5G通信の規格は 10 Gbps 以上
レイテンシが⼤きくなる理由 • 電波、通信の規格そのもの • 中継⽅法、中継回数 • サーバ内の I/O すべてにTCP/IPの性質がかかわってくる
なんで5G通信が必要? TCP/IP の限界 平均: 9.9 G bit/秒 3.0 PB/⽉ 平均:
16 M bit/秒 0.0046 PB/⽉ 平均: 1.5 G bit/秒 0.5 PB/⽉ 10Gbps 0 2ඵ レイテンシ 170ms レイテンシ170ms + パケットロス0.5% 10Gbps 2ඵ 10Gbps 2ඵ 0 0 構内接続に類似 遠距離接続に類似 インターネットに類似 レイテンシが⼤きい環境ではデータが思ったように送られない しかもパケットロスがあると壊滅的になる レイテンシ 1ms以下 10 Gbps で測ってみた!
おしまい 次回は 11⽉12⽇ 14:00から
More Decks by kkojima
See All by kkojima
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 4」カスタムAIモデルの作成からモデルのデプロイまで
kkojima
0
310
最終回、オープンソースの話します
kkojima
1
290
AIデータはどうためる、テープアーカイブの復権
kkojima
0
230
x86 CPUで動くAIアプリ作成で知っていると便利な基礎知識
kkojima
0
990
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」事前準備
kkojima
0
330
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」インテルがチューンしたPythonとTensorFlow
kkojima
0
1.6k
Dojo ++ 「GPUなしでもここまでできるAI構築シリーズ Part 2」環境構築手順
kkojima
0
440
AVXって何だ?
kkojima
1
1.1k
Other Decks in Technology
See All in Technology
設計手法を「道具」として使いこなすために
a_suenami
7
1.8k
Amazon Bedrock AgentCore の基礎とセキュリティ・ガバナンス
ren8k
0
280
[NW-JAWS DAY]「うちのAWS、インターネット出られないんで」― AWS外の自社サービスをPrivateLinkでシュッと公開する方法
ykimi
3
920
新規事業開発でのAWS活用成功談&失敗談! 〜新規事業開発を専門に行うRelicならではのAWS活用〜
amixedcolor
1
140
常時稼働エージェントの作り方(Claude公式ブログを資料化)
minorun365
PRO
20
29k
その修正で本当に速くなったのか? k6とOpenTelemetryで確かめる性能改善 / Performance review with k6 and OpenTelemetry
ymotongpoo
3
440
OCI Artifact による自動運転タクシーに向けた OTA 基盤の構築
biwashi
1
300
ワークフローからハーネスへ — Web フレームワークの作者たちが AI エージェントに向かう理由
azukiazusa1
2
1.1k
Kiro Enterprise Management: 管理者が 1 か所で決め、全員の Kiro に届ける
inariku
PRO
0
100
SBOM 生成ツールで 2026 Minimum Elements はどこまで満たせるのか
gokken
0
160
リリースしたで終わらない。 観測できるフロントエンド開発
yamakenji24
2
250
RAGの改善を速く回すための評価基盤
yosukeyoshida
6
3.6k
Featured
See All Featured
Stewardship and Sustainability of Urban and Community Forests
pwiseman
0
610
Designing for Timeless Needs
cassininazir
1
570
Principles of Awesome APIs and How to Build Them.
keavy
128
18k
WENDY [Excerpt]
tessaabrams
15
41k
Art, The Web, and Tiny UX
lynnandtonic
304
22k
Context Engineering - Making Every Token Count
addyosmani
9
1.3k
Taking LLMs out of the black box: A practical guide to human-in-the-loop distillation
inesmontani
PRO
3
2.5k
Test your architecture with Archunit
thirion
2
2.5k
A Soul's Torment
seathinner
9
3.9k
Designing for Performance
lara
612
70k
Side Projects
sachag
456
43k
Breaking role norms: Why Content Design is so much more than writing copy - Taylor Woolridge
uxyall
2
540