AIに必要なデータをどう送るか、ネットワークを考える

Dojo++ 「GPUなしでもここまでできるAI構築シリーズ Part 3」
https://connpass.com/event/190151/

ネットワークミニ講座

Transcript

1. GPUなしでもここまでできるAI構築シリーズ 2020.10.29 「AIに必要なデータをどう送るのか、 ネットワークを考える」
2. TCP/IP • 「データサイエンティスト」のなかにはIPアドレスが何である か知らない⼈もいる • コンバータ、インバータを説明できなくても交流100V電源で PC が使えるのと同じなのかも • 5G で運ばれるデータはきっと TCP/IP がダントツで多いはず
3. 5G 通信に期待される利⽤法 https://www.soumu.go.jp/main_content/000633132.pdf 令和元年度「第５世代移動通信システム（５Ｇ）の今と将来展」ローカル5G概要 より抜粋
4. 5G 通信のつかいかた 物としては: ドローン、ロボット、センサー、スマートグラス 動作としては: 映像、画像等を撮って送る、つまり⼤容量データの転送 例外扱いが必要なのはゲーム: eスポーツは遅延少なく応答する必要がある
5. Deep Learning などの AI 技術 • SI に AI を⽤いることが特別ではなくなってきた • 特別な学術教育を受けなくても AI 技術を応⽤できるツールが 増えた(むしろツールの使い⽅が重要になった) • ハードウェア製品の多様性が増した
6. ネットワーク ゲートウェイ サーバ AI(学習) データ保存 データ 解析・保存 Camera など 5G, LTE または 有線接続サービス 現地機器 AI(推論) データ保存 ハードウェアの配置
7. どれくらいのデータ転送が必要なのか スマホ⾼画質: 800万画素 30フレーム/秒 製造ラインでの要求: 500万画素 30フレーム/秒 24時間稼働だと⽉に 15-30 TB 程度か 5G通信の規格は 10 Gbps 以上
8. レイテンシが⼤きくなる理由 • 電波、通信の規格そのもの • 中継⽅法、中継回数 • サーバ内の I/O すべてにTCP/IPの性質がかかわってくる
9. なんで5G通信が必要? TCP/IP の限界 平均: 9.9 G bit/秒 3.0 PB/⽉ 平均: 16 M bit/秒 0.0046 PB/⽉ 平均: 1.5 G bit/秒 0.5 PB/⽉ 10Gbps 0 2ඵ レイテンシ 170ms レイテンシ170ms + パケットロス0.5% 10Gbps 2ඵ 10Gbps 2ඵ 0 0 構内接続に類似 遠距離接続に類似 インターネットに類似 レイテンシが⼤きい環境ではデータが思ったように送られない しかもパケットロスがあると壊滅的になる レイテンシ 1ms以下 10 Gbps で測ってみた!
10. おしまい 次回は 11⽉12⽇ 14:00から