Upgrade to Pro — share decks privately, control downloads, hide ads and more …

アイシン事例に学ぶKubernetes+Rancherを活用したAI Edgeプラットフォーム

yanoteturo
October 06, 2022

アイシン事例に学ぶKubernetes+Rancherを活用したAI Edgeプラットフォーム

yanoteturo

October 06, 2022
Tweet

More Decks by yanoteturo

Other Decks in Technology

Transcript

  1. 自己紹介 経歴 : システム運用 10年・ネットワーク 6年・SI 8年 近頃はNextcloud/Rancherを担当 その他 :

    全く上達しないRubyist 一番最初のPCは、OKI if-800 でした…。 矢野 哲朗 tetsurow.yano 株式会社スタイルズ 2
  2. Our history with Rancher / Rancherの取り扱いの歴史 3  2016 year

     I met Mr. Shindo of Rancher Labs. Rancher Labs社のMr.Shindoと知り合った  2017~2019 year  Stylez Inc. has become the first Rancher distributor. スタイルズが、日本で最初のRancher販売代理店  Held 8 RancherJP Meetups (community events) RancherJP Meetup(コミュニティイベント)を8回開催  Rancher日本のカンファレンスで登壇  2020~2021 year  K3S Japanese manual created K3S日本語マニュアル作成  AISIN Edge IoT project performed アイシンEdge IoTプロジェクト実施  2022 year  Release of AISIN Case Study / アイシン事例を公開
  3. 現場はそれどころじゃありません 13  AIを動かすサーバーの増加 画像AI診断 数台なら 管理可能 画像AI診断 画像AI診断 画像AI診断

    画像AI診断 画像AI診断 画像AI診断 10台以上は 管理不能 画像AI診断 画像AI診断 画像AI診断 画像AI診断 画像AI診断 管理台数 の増加 増える 運用負荷 稼働時間の 低下
  4. AI(DL)のポイントはアップデートの繰り返し 18 モデル 学習 モデル 評価 リリー ス データ 収集

    データ 理解 モデル 学習 モデル 評価 リリー ス データ 収集 データ 理解 モデル 学習 モデル 評価 リリー ス データ 収集 データ 理解 アップデート アップデート アップデート データ更新 データ更新 データ更新
  5. CI/CD、DevOps 22 開発(Dev) 運用(Ops) Continuous Integration=CI Continuous Delivery=CD ビルド 監視

    運用  「CI/CD」とは、ソフトウェア開発におけるビルドやテスト・デリバリー・デプロイメントを自動化し、継続的に 行うアプローチ
  6. Kubernetesが持っている機能の一部 31 DNSサービス コンテナ スケジューリング 認証管理/ 承認管理 24時間稼働 死活監視 サービス

    ネットワーク管理 外部ネットワーク 接続管理 ネットワーク管理 ログ収集 アップデート時 自動更新 リソース管理
  7. Kubernetesのバックヤード 37 コンテナが生きているかチェック 稼働確認 ヨシ ネットワークを管理 負荷分散 ヨシ コンテナを配布 配布

    ヨシ セキュリティーを管理 制限 ヨシ 設定管理 ヨシ データ 管理ヨシ 設定を管理 データ保存を管理
  8. Kubernetesのバックヤード 38 コンテナが生きているかチェック 稼働確認 ヨシ ネットワークを管理 負荷分散 ヨシ コンテナを配布 配布

    ヨシ セキュリティーを管理 制限 ヨシ 設定管理 ヨシ データ 管理ヨシ 設定を管理 データ保存を管理 Kubernetesでも運用が 楽になるような仕組みが 動いている
  9. Kubernetesはコンビニ? 39 DNSサービス コンテナ スケジューリング 認証管理/ 承認管理 24時間稼働 死活監視 サービス

    ネットワーク管理 外部ネットワーク 接続管理 ネットワーク管理 ログ収集 便利なコンビニ! Kubernetesコンビニ論
  10. コンテナ利用時のPostgreSQLの利用開始までの作業 48  コンテナを使ってPostgreSQLが利用できるようになるまでの作業 コ ン テ ナ イ メ

    ー ジ の ダ ウ ン ロ ー ド コ ン テ ナ 起 動 運 用 開 始 コ ン テ ナ イ メ ー ジ の 検 索
  11. アーキテクチャーのコンポーネント 53 ミドルウェア 役割 備考 Docker コンテナプラットフォーム nvidia-container-runtime利用 SUSE Rancher

    コンテナオーケストレーション インテグレーションツール SUSE K3S コンテナオーケストレーション nvidia Jetson用Kubernetes SUSE FLEET CD/GitOpsデプロイツール GitLab CI/CD CIツール GitLab Runner GitLab Container Registry・Harbor コンテナレジストリー CoreDNS ネームサーバー ElasticSearch,Kibana ログ保管サーバー、検索サーバー
  12. アーキテクチャーのテクノロジースタック 54  提案したアーキテクチャーのテクノロジースタック GitLab CI/CD パイプライン 運用オペレーション IAサーバー IAサーバー

    Linux(Ubuntu) Linux(Ubuntu) Rancher Kubernetes Engine GitLab GitLab Runner Rancher NVIDIA Jetson 開発(Development) K3S FLEET Harbor Linux(Ubuntu L4T) K3S Harbor Promethus Docker Rancher UI アプリ 継続的インテグレーション(CI) 継続的デリバリー(CD) Rancher Continuous Delivery
  13. Kubernetesレクチャー学習内容(1) 59 ▪Dockerの基本について ・コンテナと仮想マシン との違い ・メリット ・コンテナイメージとコ ンテナの違い ・Docker Hubについて

    ▪Dockerインストール方 法 ▪Dockerコマンド基礎 ・run、ps、stop ・exec ▪Dockerコマンドオプシ ョン ▪Dockerコンテナイメー ジ操作 ・pull、rm、purge ▪Dockerのネットワーク ・IPアドレス ・外部から接続方法 ▪Dockerボリューム ・ローカルをマウントす る ▪DockeHub操作 ・pull、push ▪Dockerコンテナビルド ・build ▪Kubernetesの基本につ いて ・Dockerとの違い ・メリット ・アーキテクチャ ▪K3Sインストール方法 ▪kubectlインストール 方法 ▪kubectlコマンド基礎 ・run、apply、delete ・get、describe、logs、 exec ▪kubectclコマンドオプ ション ▪Kubernetesのネットワ ーク ・IPアドレス ・外部から接続方法 ▪Kubernetesボリューム ・ローカルをマウントす る ▪リソースの種類の説明 ・Pod ・Replicaset ・Deployment ・Service ・Service(NodePort) ・Service(LoadBalancer) ・Ingress ・Volume ・PersistenceVolume ▪Rancherの基本につい て ・ログイン ・基本操作 ・クラスターの追加 ・各種リソースの確認 ▪Rancherの基本 ・Kubernetesとの役割分 担 ▪K3Sの基本について ・Kubernetesとの違い ・メリット ・kubectl接続方法 ・Rancherへの接続 ▪Helmについて ・helmインストール方 法 ・helmでのアプリイン ストール ・helmコマンドオプシ ョン ▪Helmチャート ・Helmチャートの基本 ・作り方 ▪ストレージ ・ストレージクラス ▪Rancherカタログ ・Helmチャートから Rancherカタログへの変 換 Dockerの基礎 Dockerの操作 Kubernetesの 基礎 Kubernetesの 詳細 Rancherの基本 周辺コマンドの 紹介
  14. Kubernetesレクチャー学習内容(2) 60 ▪Ingress ・L7パスルーティング ・ホスト名接続 ▪DNSサーバー ・外部DNS ・クラスター内DNSにつ いて ▪コンテナイメージの配

    布 ・Harborの構築 ・Harborのユーザー管理 ・コンテナイメージプロ キシー ・コンテナイメージのレ プリケーション ▪Kubernetesで使うコン テナイメージ ・作り方 ・注意点 ・ヘルスチェック ▪カメラ等のDevice ・コンテナからカメラ Deviceを接続する ・コンテナからGPIOを 操作する ▪コンテナのデプロイ ・Fleetコマンドの基本 ・GitOpsの基本 ・RancherからGitOps設 定 ・ローリングアップデー ト ▪GitLabでのDockerイメ ージ自動ビルド ・GitLab Runnerのイン ストール ・GitLabへのRunnerの登 録 ・.gitlab-ci.yamlの基本 ・.gitlab-ci.yamlのコマン ド ・dockerイメージのビル ドとpush ▪GitLabとRunner ・リポジトリへの組み込 み連携 ▪Triton Inferenceサーバ ー ・Inferenceサーバーの基 礎 ・モデルの導入方法 ・コンテナへの組み込み ・モデルの切り替え ・メトリックスの取得 ▪複数のアプリケーショ ンを連携させる ・Pythonフレームワーク をコンテナイメージに組 み込む ▪K3Sのログ管理 ・Rancherによるログ収 集 ・efkによるログの集計 と表示 ▪Kubernetesのリソース 監視 ・監視の基本 ・Prometheusエクスポ ーター ・CPU、メモリー、Disk 監視 ・コンテナのパフォーマ ンス監視 ▪Kubernetesのユーザー 管理 ・RancherでのID管理 ・Rancherプロジェクト の管理 ▪その他のツール ・k9s ・Kustomize ・Helmfile ・k3d ・k3ai ・VSCode ・kpt ▪Kubernetesで動かすツ ール類 ・Minio(S3互換) ・GitLab Runner ・Harbor(DockerRegistry 互換) ・CoreDNS ネットワークと イメージ管理 コンテナー イメージビルド CI/CD パイプライン 推論サーバー について Kubernetes ログ、リソース 周辺ツール紹介
  15. AI/IoT環境のことならスタイルズまで 62 Kubernetes(K3S)はサーバー集中管理基盤です RancherはKubernetes運用基盤です Kubernetes/Rancher講習会も提供しています GitLabによるCI/CDコンサルも提供しています スタイルズはSUSE Rancher 国内の正規パートナーです 株式会社スタイルズ

    〒101-0052 東京都千代田区神田小川町1−2 風雲堂ビル 6F http://stylez.co.jp http://nextcloud.stylez.co.jp Kubernetes/Rancher/Fleetにご興味がありましたら、お声がけください 2020年5月より菱洋エレクトログループに入りました